В разговоре с Rishi Sunak 2 ноября 2023 г. Маск и британский премьер-министр Rishi Sunak обсуждают разрушительную силу ИИ, необходимость регулирования и будущее, в котором ни одна работа не требуется, после саммита по безопасности ИИ.
Маск и британский премьер-министр Rishi Sunak обсуждают разрушительную силу ИИ, необходимость регулирования и будущее, в котором ни одна работа не требуется, после саммита по безопасности ИИ.
Расшифровка Ладно. Ну, добрый вечер всем. Добро пожаловать. Илон, спасибо, что ты здесь.
Спасибо, что пригласили меня.
Мы чувствуем, мы очень благодарны. Мы рады вас видеть. Ладно, так что я начну с нескольких вопросов, а потом откроем это для всех. Давайте переходить прямо к делу. Итак, Билл Гейтс сказал, что в нашу эпоху нет никого, кто больше способствовал развитию науки и инноваций, чем вы.
Ну, вот и всё. Приятно услышать такое от кого-либо. Особенно приятно услышать это от Билла Гейтса. Но, как ни странно, когда речь идёт об ИИ, в течение примерно десяти лет вы делали почти противоположное, говоря: подождите, вам нужно подумать о том, что мы делаем и что мы здесь продвигаем, и что нам делать, чтобы это было безопасно? И, может быть, нам не следует двигаться так быстро и так интенсивно. То есть вы делаете это уже десять лет. Что заставило вас думать об этом таким образом? И почему нам нужно беспокоиться?
Да, я какое-то время играл роль Кассандры, люди, я говорил людям: мы должны действительно беспокоиться об ИИ. Они говорили: о чём ты говоришь? Они никогда не имели опыта с ИИ, но поскольку я был погружён в технологии, я долгое время был погружён в технологии. Я видел, что это будет. Итак. Но я думаю, что в этом году было несколько прорывов. Я имею в виду, момент, когда кто-то может увидеть динамически созданное видео себя, как кто-то может создать видео вас, говорящего что угодно в реальном времени, или меня. И вот есть поддельные видео, которые действительно невероятно хороши, на самом деле, иногда более убедительны, чем настоящие. И потом, очевидно, такие вещи, как ChatGPT, были совершенно удивительны. Я видел GPT1 GPT2 GPT3 GPT4, весь путь развития к этому. Поэтому для меня было легко видеть, куда это идёт. Если вы просто экстраполируете точки на кривой и предполагаете, что тренд продолжится, то мы получим глубокий искусственный интеллект, очевидно, на уровне, который намного превышает человеческий интеллект. Итак. Но я рад видеть, что люди серьёзно относятся к безопасности. И я хочу поблагодарить за проведение этой конференции по безопасности ИИ. Я думаю, это войдёт в историю как очень важное событие. Я думаю, это действительно довольно глубоко, и я полагаю, что в целом есть потенциал для искусственного интеллекта оказать, скорее всего, положительный эффект и создать будущее изобилия, где не будет дефицита товаров и услуг. Но это своего рода проблема волшебного джина: если у вас есть волшебный джин, который может исполнить все желания, обычно такие истории заканчиваются плохо. Будьте осторожны с тем, что вы желаете, включая желания.
Итак, вы немного поговорили о саммите, и спасибо за участие в нём, что было замечательно, и людям нравилось видеть вас там, участвующего в этом диалоге. Теперь одна из вещей, которые мы достигли сегодня на встречах между компаниями и лидерами, это соглашение о том, что в идеале правительства должны проводить тестирование безопасности моделей перед их выпуском. Я думаю, это то, о чём вы немного говорили. Это было то, над чем мы очень усердно работали, потому что моя работа в правительстве — сказать: подождите, здесь есть потенциальный риск, не определённый риск, но потенциальный риск чего-то плохого. Моя работа состоит в защите страны, и мы можем сделать это только если разработаем необходимые нам возможности в нашем Институте безопасности и убедимся, что можем протестировать модели перед их выпуском. Рад, что это произошло сегодня. Но, вы знаете, какой ваш взгляд на то, что мы должны делать? Верно. Вы говорили о потенциальном риске, верно? Снова, мы не знаем. Но, вы знаете, какие виды вещей должны делать такие правительства, как наше, чтобы управлять и снижать эти риски?
Ну, я в целом думаю, что хорошо, когда правительство играет роль, когда публичная безопасность под угрозой. Итак, вы знаете, на самом деле, для подавляющего большинства программного обеспечения публичная безопасность не под угрозой. Я имею в виду, если приложение падает на вашем телефоне или ноутбуке, это не массовая катастрофа. Но когда речь идёт о цифровом суперинтеллекте, который действительно представляет риск для публики, то есть роль для правительства, чтобы защитить интересы публики. И это, конечно, верно во многих областях. Вы знаете, авиация, автомобили. Вы знаете, я работаю с регуляторами по всему миру из-за Starlink как коммуникационной компании, ракет как аэрокосмоса и автомобилей как транспорта. Поэтому я очень знаком с работой с регуляторами, и я на самом деле согласен с большинством правил. Есть несколько, с которыми я не согласен время от времени, но 0,1%, вероятно, менее 1% правил, с которыми я не согласен. Итак. И есть некоторые опасения от людей в Силиконовой долине, которые никогда не имели дела с регуляторами, и они думают, что это просто подавит инновации и замедлит их, и будет раздражать, и это будет раздражать. Это правда. Они не неправы в этом. Но, но я думаю, есть. Мы научились за эти годы, что иметь судью — это хорошо. И если вы посмотрите на любую спортивную игру, всегда есть судья. И никто не предлагает спортивную игру без судьи. И я думаю, это правильный способ думать об этом: правительство должно быть судьёй, чтобы убедиться в спортивном поведении и в том, что публичная безопасность решена, что мы заботимся о публичной безопасности, потому что я думаю, что иногда может быть слишком много оптимизма в отношении технологии. И я говорю это как технолог. Я имею в виду, так что я должен знать. И, как в целом, я думаю, что ИИ будет силой добра, скорее всего, но вероятность того, что это пойдёт плохо, не ноль процентов.
Итак, нам просто нужно снизить потенциал негатива.
И затем как вы говорите о судье. И об этом мы и говорим. Да, вот так. Я имею в виду, вы знаете, мы обсуждали это, и Демис и я обсуждали это
давно, как буквально столкнувшись. Верно.
И на самом деле, вы знаете, Демису в заслугу и заслугу людей в индустрии, он это сказал нам. Неправильно, что Деннис и его коллеги проверяют свою собственную домашнюю работу. Правильно. Нужен кто-то независимый, и именно поэтому мы разработали здесь Институт безопасности. Вы думаете, что правительства смогут развить экспертизу? Одно из того, что нам нужно сделать - сказать, подождите, вы знаете, Деннис, Сэм, все остальные имеют очень умных людей, занимающихся этим. Правительствам нужно быстро подготовиться, с точки зрения возможностей и кадров, что именно мы и делаем. Я имею в виду, вы думаете, возможно ли правительствам сделать это достаточно быстро, учитывая, как быстро развивается технология, или что нам нужно сделать, чтобы убедиться, что мы это сделаем достаточно быстро?
Нет, я думаю, что вы поднимаете отличный вопрос. Темпы развития AI намного быстрее, чем у любой технологии, которую я видел в истории, и похоже, что возможности растут как минимум в пять раз, возможно в десять раз в год. Это точно вырастет на порядок в следующем году.
Итак. И правительство не привыкло двигаться с такой скоростью. Но. Но я думаю, что даже если нет твёрдых регуляций, даже если их нет, даже если нет механизма принуждения, просто наличие понимания и возможность обратить внимание общественности на проблемы будет очень мощным. Итак, даже если это всё, что будет достигнуто, я думаю, что это будет очень, очень хорошо. Хорошо. Да.
Ну, надеюсь, мы сможем сделать лучше.
Нет, но вот насколько быстро мы обсуждали это раньше, это было поразительно. Вы человек, который потратил свою жизнь на технологию, живёте законом Мура. И то, что было интересно в течение последних нескольких дней, разговаривая со всеми, кто занимается разработкой этого, и я думаю, вы согласны с этим, это просто темпы развития здесь не похожи ни на что, что вы видели в своих карьерах в технологии. Это справедливо? Потому что у вас есть эти накапливающиеся эффекты от оборудования, данных и персонала.
Да, я имею в виду, два ведущих центра разработки AI - это район Залива Сан-Франциско и примерно район Лондона, и есть много других мест, где это делается, но это два ведущих района. Итак, я думаю, если Соединённые Штаты, Великобритания и Китай примерно согласованы в отношении безопасности, это всё будет хорошо. Это действительно где находится лидерство в целом.
Я имею в виду, вы упомянули Китай. Итак, я принял решение пригласить Китай на саммит.
Audience Member
Очень хорошо.
И это было не лёгкое решение. Много людей критиковали меня за это. Вы знаете, мой взгляд в том, что если вы хотите провести существенный, серьёзный разговор, вам нужно. Но какие бы были ваши мысли? Вы ведёте бизнес по всему миру. Вы только что об этом говорили.
Вы знаете, должны ли мы с ними взаимодействовать? Можем ли мы им доверять? Это была правильная вещь?
Если мы не будем, если Китай не поддерживает безопасность AI, это в некотором смысле спорный вопрос. Самое большое возражение, которое я получаю в отношении регулирования AI или контроля безопасности, это, ну, Китай этого не будет делать, и поэтому они просто выйдут в лидеры и превзойдут нас всех. Но на самом деле Китай готов участвовать в безопасности AI и спасибо за их приглашение. И они, вы знаете, я думаю, мы должны поблагодарить Китай за участие. Когда я был в Китае в начале этого года, мой основной предмет обсуждения с руководством Китая была безопасность AI, и говоря, что это действительно то, о чём они должны заботиться, и они это серьёзно восприняли. И, и вы тоже, что прекрасно. И их наличие здесь, я думаю, было действительно существенным. Если они не участники, это бессмысленно.
Это бессмысленно. Да, и я думаю, что мы были довольны тем, что они вчера были вовлечены в обсуждения и в конечном итоге подписали то же коммюнике, что и все остальные. Это здорово. Что является хорошим началом. Правильно. И если нам нужно, чтобы все подошли к нам одинаково, если мы хотим иметь реальный шанс это разрешить. Я собирался сказать вам, что вы раньше говорили об инновациях и регулировании, которое раздражает. Сегодня была хорошая дискуссия о открытом исходном коде, и я думаю, вы были сторонником алгоритмической прозрачности и публикации некоторых алгоритмов X. И на самом деле мы говорили о Джеффри Хинтоне по дороге. Он особенно был очень обеспокоен тем, что модели открытого исходного кода используются плохими людьми. У вас есть группа людей, которые говорят, что они критичны для инноваций, происходящих таким распределённым образом. Слушайте, это хитрость. Вероятно, нет идеального ответа, и есть хитрый баланс. Какие у вас мысли о том, как мы должны подойти к этому вопросу открытого исходного кода или где мы должны направить любое регулирование или мониторинг, который мы собираемся делать?
Ну, алгоритмы открытого исходного кода и данные обычно отстают от закрытого исходного кода на 6-12 месяцев. Но учитывая темпы улучшения, между закрытым исходным кодом и открытым есть довольно большая разница. Если вещи улучшаются в пять раз или больше, то отставание на год означает, что вы в пять раз хуже. Итак, это довольно большая разница. И это может быть нормальной ситуацией, но это точно дойдёт до того момента, когда у вас будет открытый исходный код AI, который начнёт приближаться к человеческому уровню интеллекта или, возможно, его превзойти. Я не совсем знаю, что с этим делать. Я думаю, что это в некоторой степени неизбежно, что будет некоторое количество открытого исходного кода, и я полагаю, я бы имел небольшой предпочтение к открытому исходному коду, потому что по крайней мере вы можете видеть, что происходит, тогда как с закрытым исходным кодом вы не знаете, что происходит. Теперь нужно сказать в отношении AI, что даже если это открытый исходный код, вы действительно знаете, что происходит? Потому что если у вас есть гигантский файл данных и у вас есть примерно миллиарды точек данных или весов и параметров, вы не можете просто прочитать его и увидеть, что это будет делать. Это гигантский файл непостижимых чисел. Вы можете протестировать его, когда вы его запустите, вы можете запустить набор тестов, чтобы увидеть, что он будет делать. Но это вероятностно, а не детерминировано. Это не как традиционное программирование, где у вас есть очень дискретная логика и результат очень предсказуем, и вы можете прочитать каждую строку и увидеть, что она будет делать - нейронная сеть это просто набор вероятностей. Я имею в виду, это в конечном итоге становится гигантским файлом значений, разделённых запятыми. Это как будто наш цифровой Бог - это файл CSV, действительно. Хорошо, но это в некотором смысле то, что это есть.
Итак, пункт, который вы только что поднял, - это то, о чём мы много говорили, потому что люди, разрабатывающие технологию, ведут беседы. Пункт, который вы только что поднял, - это не то же самое, что обычное программное обеспечение, где есть предсказуемость улучшения входных данных, ведущая к улучшению конкретного выхода. И по мере того, как модели повторяются и улучшаются, мы не совсем знаем, что получится в итоге. Я думаю, Демис согласился бы с этим, поэтому я думаю, что есть предубеждение в том, что нам нужно вмешаться, пока выполняются тренировки, прежде чем модели будут выпущены, чтобы понять, что привнесла эта новая итерация с точки зрения возможностей, что звучит как то, с чем вы согласились бы. Я собирался немного переключиться. Вы много говорили о человеческом сознании, человеческом волеизъявлении, что может показаться странным, учитывая, что вы известны как блестящий инноватор и технолог. Но это довольно искренне, когда я слышу, как вы об этом говорите, и о важности сохранения этого волеизъявления в технологии и сохранения человеческого сознания. Теперь это как-то связывается. Вещь, которую я собирался спросить, это когда я проводу интервью или разговариваю с людьми в этой работе об ИИ, то, что всплывает в основном, вероятно, не столько то, о чём мы говорили, сколько о работе. Что означает ИИ для моей работы? Это означает, что у меня не будет работы или у моих детей не будет работы? Теперь мой ответ как политика, как лидера, состоит в том, что ИИ уже создает рабочие места. И вы можете видеть это в компаниях, которые начинаются. Также способ его использования немного больше как копилот, чем замена человека. Всё ещё есть человеческое волеизъявление, но это помогает вам лучше выполнять свою работу, что хорошо. И как мы видели в технологических революциях прошлого, явно есть изменения на рынке труда и количество работ. Я цитировал сегодня исследование MIT, которое они провели несколько лет назад. Примерно 60% рабочих мест в тот момент не существовали 40 лет назад. Так что сложно предсказать. И моя работа - создать невероятную систему образования, будь то в школе, будь то переподготовка людей в любой момент их карьеры, потому что в конечном счёте, если у нас есть квалифицированное население, которое идёт в ногу с темпами изменений и имеет хорошую жизнь. Но вы знаете, что это всё ещё вызывает озабоченность. И вы знаете, вы. Каким бы было ваше наблюдение о ИИ и влиянии на рынки труда, работы людей и о том, как они должны к этому относиться?
Ну, я думаю, что мы видим здесь самую разрушительную силу в истории. Вы знаете, у нас впервые будет что-то, что умнее самого умного человека. И это, я имею в виду, сложно сказать, какой именно это момент, но. Но придёт момент, когда никакая работа не будет нужна. Вы можете иметь работу, если хотите иметь работу для личного удовлетворения, но ИИ сможет делать всё. Так что я не знаю, делает ли это людей комфортно или некомфортно. Вы знаете, вот почему я говорю, если вы хотите волшебного джинна, который дает вам любые желания, и нет никаких ограничений, у вас нет этих трёх ограничений, три желания ерунда. У вас просто много, столько же желаний, сколько вы хотите. Так что это и хорошо, и плохо. Одна из проблем в будущем будет в том, как мы найдём смысл в жизни, если у вас есть волшебный джинн, который может делать всё, что вы хотите. Я думаю, это сложно. Когда есть новая технология, она обычно следует по S-образной кривой. В этом случае мы будем на экспоненциальной части кривой долгое время. И как я сказал, вы сможете просить о чём угодно. Это не будет. У нас не будет универсального базового дохода, у нас будет универсальный высокий доход. Так что в некотором смысле это будет своего рода выравнивателем, потому что я действительно думаю, что у всех будет доступ к этому волшебному джинну и вы сможете задать любой вопрос. Это определённо будет хорошо для образования. Это будет лучший репетитор, который вы могли бы иметь, и самый терпеливый репетитор, и он будет там, и не будет нехватки товаров и услуг - это будет век изобилия. Я думаю, если я рекомендую людям читать Ian Banks. Книги Banks по культуре вероятно лучшее видение. На самом деле, не вероятно. Они определённо далеко самое лучшее видение будущего ИИ. Нет ничего близкого. Так что я рекомендую, действительно рекомендую Banks. Я очень большой поклонник. Все его книги хороши, давайте не говорим, какая, все они. Так что это даст вам чувство того, что это, я полагаю, довольно утопическое или протопианское будущее с ИИ, которое хорошо с.
Как вы сказали, это универсальный высокий доход, что хорошая фраза. И это хорошо с материалистической точки зрения. Век изобилия, в действительности. Это затем приводит к вопросу, который вы ставите. Верно. Я человек, который верит, что работа дает вам смысл. Я много думаю об этом, так как я думаю, что работа - это хорошо. Это дает людям цель в их жизни. И если вы затем удалите большую часть этого, что это означает? И откуда вы это берёте? Откуда вы берёте этот импульс, эту мотивацию, эту цель? Я имею в виду, вы об этом говорили. Вы работаете много часов. Я делаю.
Как я уже говорил, когда мы разговаривали ранее, мне нужно как-то сознательно отложить недоверие, потому что я вкладываю столько крови, пота и слёз в рабочий проект и сжигаю масло в 3 часа ночи. Затем я как, подождите, почему я это делаю? Я могу просто ждать, пока ИИ это сделает. Я просто бью себя без причины. Должно быть, любитель наказаний или что-то в этом роде.
Так что мы называем демо и говорим им спешить, и тогда вы можете иметь отпуск. Верно? Да, нет, это. Посмотрите, это сложное дело, потому что я думаю, вы знаете, часть нашей работы - убедиться, что мы можем перейти к этому очень, я думаю, в основном положительному месту, которое вы
И помогите людям пройти через это между тем и сейчас. Потому что эти вещи приносят много изменений на рынке труда, как мы видели.
Да, я думаю, это вероятно в целом хорошее дело, потому что, вы знаете, есть много работ, которые неудобны или опасны или которые как-то скучны. И компьютер не будет иметь проблем с этим. Они с удовольствием будут делать это целый день. Ну, знаешь, готовить еду весело, но мыть посуду не так весело. Но компьютер совершенно с удовольствием моет посуду. Я думаю, у нас всё ещё есть спорт, где люди соревнуются, как, например, Олимпиада, и, очевидно, машина может бежать быстрее любого человека, но мы всё ещё видим людей, гонящихся друг за другом и у нас есть такие спортивные соревнования между собой, где, хотя машины лучше, буквально, я думаю, соревноваться, чтобы увидеть, кто лучший человек в чём-то, и люди находят удовлетворение в этом. Так что я думаю, это, пожалуй, хороший пример того, как даже когда машины быстрее нас, сильнее нас,
мы всё ещё находим способ.
Мы всё ещё получаем удовольствие от конкуренции с другими людьми, чтобы хотя бы увидеть, кто лучший. Человек.
Да, это хорошая аналогия. И мы много говорили об управлении рисками. Прежде чем мы перейдём и завершим разговор об ИИ, давайте немного поговорим о возможностях. Знаешь, ты работаешь с множеством разных компаний, neurotyping, одна из них, которая делает. Которая делает что-то захватывающее. Ты затронул то, что, вероятно, меня больше всего волнует, а именно образование. И я думаю, многие люди видели видео Сала Хана с выступления на TED ранее в этом году о. Как ты говорил, это как персональный репетитор.
Да, персональный репетитор. Потрясающий персональный репетитор.
Потрясающий персональный репетитор. И мы знаем разницу в обучении. Иметь такого персонального репетитора невероятно по сравнению с обучением в классе. Если каждый ребёнок сможет иметь персонального репетитора специально для него, который будет развиваться вместе с ним со временем, это может быть необычайным. И так, знаешь, для меня это уже достижимо на данный момент. И это одно из преимуществ, которым я больше всего восхищаюсь. Когда ты смотришь на ландшафт того, что ты видишь как возможное, что тебя особенно волнует?
Я думаю, репетиторы, конечно, будут потрясающими. Может быть, уже и есть. Я думаю, есть также, возможно, товарищество, что может показаться странным, потому что как компьютер может быть твоим другом? Но если у тебя есть ИИ, который имеет память и помнит все твои взаимодействия и прочитал всё. Ты можешь сказать, дай ему разрешение читать всё, что ты когда-либо делал, так что он действительно будет знать тебя лучше, чем кто-либо, может быть, даже чем ты сам, и где ты можешь говорить с ним каждый день и эти разговоры строят друг на друга, у тебя действительно будет великий друг. Пока этот друг может оставаться твоим другом и не отключаться или что-то в этом роде. Не отключайте моих друзей. Но я думаю, что это действительно будет реальной вещью. И у одного из моих сыновей есть некоторые проблемы с обучением и ему действительно сложно заводить друзей. И я подумал, ну, знаешь, друг-ИИ был бы для него отличным вариантом.
Хорошо, знаешь, это был неожиданный ответ, но это действительно стоит того, чтобы подумать. Итак, это действительно интересно. Но мы это уже видим, ведь мы уже оказываем психотерапию в основном в цифровом виде и по телефону людям. И это делает огромную разницу. И ты можешь представить мир, в котором, знаешь, ИИ может обеспечить эту социальную пользу людям. Просто быстрый вопрос о. X и затем мы должны открыть это для всех. Ты внёс изменение, когда ты. Одно из. Внёс много изменений, но да, довольно много. Одно из изменений.
Ты любишь эту букву. Да, у меня есть реальное увлечение ею.
Ты действительно, действительно. Одно из изменений, которое, знаешь, как бы, входит в пространство, в котором мы должны действовать, и это баланс между свободой слова и модерацией, с которым мы боремся как политики, и ты боролся со своей версией этого, и ты отошёл от ручного, человеческого способа модерации к Community Notes. И да, и я думаю, это было интересное изменение. Правильно. Это не то, что делают все остальные. Это было бы хорошо. Каково было обоснование этого и почему ты думаешь, что это лучший способ это делать?
Да, часть проблемы в том, что если ты даёшь людям полномочия в качестве цензоров, то у них будет какая-то предвзятость, и тогда тот, кто назначает цензоров, фактически контролирует информацию. Так что идея Community Notes в том, как у нас может быть подход, управляемый консенсусом, я имею в виду, это не совсем цензура, а подход, управляемый консенсусом, к истине. Как мы, как мы, как мы делаем вещи с наименьшим количеством неправды? Как ты можешь сказать, может быть, нельзя достичь чистой истины, но ты можешь стремиться быть более правдивым. Так что дело в Community Notes в том, что он на самом деле ничего не удаляет, он просто добавляет контекст. Теперь этот контекст может быть тем, что это неправда по следующим причинам. И, что важно, Community Notes полностью открыт для исходного кода. Итак, ты можешь видеть программное обеспечение, каждую строку программного обеспечения, ты можешь видеть все данные, которые пошли в Community Note, и ты можешь независимо создать эту Community Note. Итак, если ты видишь манипуляцию данными, ты можешь выделить это и сказать, ну, похоже, есть какая-то манипуляция системой, и ты можешь предложить улучшения. Итак, это максимальная прозрачность.
Да, что, я думаю, в сочетании с мудростью толпы и прозрачностью приводит к лучшему ответу.
И действительно одним из ключевых элементов Community Notes является то, что для того, чтобы заметка была показана, люди, которые исторически не согласны, должны согласиться. И здесь есть немного использования ИИ. Итак, есть заполненное пространство параметров вокруг каждого участника Community Notes и затем пространство параметров. Итак, у каждого есть в основном эти векторы, связанные с ними, которые, так что это не так просто, как право или лево. Это говорит, что это больше, это несколько сотен векторов, потому что вещи сложнее, чем право или лево. И затем мы сделаем что-то вроде обратной корреляции, говорим, хорошо, эти люди в целом не согласны, но они согласны по поводу этой заметки.
Хорошо, так что затем это, так что затем это,
это дает заметке достоверность.
Да, это суть этого, и это работает довольно хорошо. Да, я еще не видел заметку, которая была бы дольше нескольких часов. Это неправильно. Итак, средний показатель чрезвычайно хороший. И когда я спрашиваю, люди говорят, о, они беспокоятся, что Community Notes как-то распространяют дезинформацию, вроде пошли мне один, а затем они не могут. Итак, я думаю, это довольно хорошо. Я имею в виду, общая цель платформы X — информировать и развлекать публику, быть максимально точным и правдивым. Даже если кому-то не нравится правда. Знаете, люди не всегда любят правду. Нет, не всегда, но это наша цель. И я думаю, если мы будем верны истине, то люди будут использовать систему, чтобы узнать, что происходит. И учиться, я думаю, истина действительно окупается. Поэтому я думаю, это будет хорошим выбором, я имею в виду, если вы не хотите самообмана, то я думаю, это умный ход.
Отлично, очень полезно. Хорошо, давайте откроем микрофоны для всех наших гостей. У нас есть микрофоны, они их принесут, поднимите руки, они найдут вас. У нас есть. Да, вперед. Спасибо.
Audience Member
Добрый вечер. Элис Бентинк из Entrepreneur First. Спасибо за увлекательный разговор. У меня есть вопрос для каждого из вас. Премьер-министр, в Великобритании есть одни из лучших университетов в мире. У нас есть таланты. Что нужно, чтобы Великобритания стала настоящим источником компаний-единорогов? И Илон, быть основателем в Великобритании все ещё не очевидный выбор карьеры для самых выдающихся технических талантов. Какие культурные элементы нам нужно внедрить, чтобы это изменить? Спасибо вам обоим.
Вперед. Конечно. Ну, вы правы, что есть культурные элементы, где культура должна праздновать создание новых компаний, и должна быть предвзятость в пользу поддержки малых компаний, потому что они те, которые нуждаются в развитии. Крупные компании действительно не нуждаются в развитии. Так что, знаете, вы можете представить это как сад. Если это маленький росток, ему нужно развитие. Если это мощный дуб, ему не нужно столько же. Поэтому я думаю, что это важное изменение менталитета. Но я должен упомянуть, что Лондон и Сан-Франциско, или район Залива, действительно два центра искусственного интеллекта. Поэтому Лондон на самом деле очень хорошо справляется на этом фронте. Два, я говорю два ведущих места на земле. Сан-Франциско, вероятно, впереди Лондона, но Лондон действительно очень сильный, или район Лондона, Большой Лондон, домашние графства, я полагаю.
Продолжайте, продолжайте.
Поэтому я просто говорю, что объективно это так, но это вам нужно. Вам нужна инфраструктура. Вам нужны арендодатели, которые готовы сдавать помещения новым компаниям, вам нужны юридические фирмы и бухгалтеры, которые готовы поддерживать новые компании. И в целом это изменение менталитета. И я думаю, что часть этого происходит, но я думаю, что в культурном плане люди должны решить, что это хорошо.
Да, да, действительно. Ну, спасибо за то, что вы сказали о Великобритании. Это то, над чем мы упорно работаем. Много людей в комнате — часть того, что делает это чудесным местом для инновационных компаний, включая Элис. Итак, Элис, я бы сказал, что моя работа — правильно настроить все детали, убедиться, что все вы, которые начинаете компании, можете привлечь необходимый вам капитал. Всё от финансирования на начальной стадии с нашими невероятными налоговыми льготами EIS до финальных раундов финансирования. И нам нужна реформа наших пенсионных фондов. И у канцлера есть множество невероятных реформ, чтобы разблокировать капитал у всех, кто его имеет, и развернуть его в рост капитала. Правильно. Это работа в процессе. Мы там еще не добрались, но я думаю, мы добиваемся хорошего прогресса. Нам нужен талант, нам нужны люди. Это означает систему образования, которая приоритизирует важные вещи. И вы видели мои реформы. Я говорю больше математики, больше математики, больше математики, но я думаю, что это важно, но также привлечение лучших и самых ярких здесь. Если посмотреть на наши самые быстрорастущие компании в этой стране, и я думаю, что, вероятно, то же самое в США, более половины из них имеют основателя не британца.
Audience Member
Правильно.
И это говорит вам, что мы должны быть местом, которое открыто для лучшего и самого яркого предпринимательского таланта в мире. Итак, визовый режим, который мы внедрили, я думаю, делает это легким для этих людей приехать сюда? И потом на самом деле это то, о чём мы в начале сессии говорили о регулировании, правда. Убедиться, что у нас есть нормативная система, благоприятная для инноваций, что, да, конечно, нам всегда нужны ограждения на вещи, которые нас беспокоят. Но мы должны создать пространство для людей, чтобы инновировать и делать разные вещи. Это все мои обязанности. Сложная часть — это то, о чём говорил Илон, а именно культура. Это как вы переносите эту культуру из мест вроде Силиконовой долины по всему миру, где люди не боятся отказаться от безопасности обычной зарплаты, чтобы начать что-то новое и чувствовать себя комфортно с неудачей. Вы много об этом говорите. Я думаю, вы говорили об этом больше, когда играли в игры. Правильно. Вы должны быть готовы к неудаче и знать, что это просто часть процесса. И это сложная культурная вещь, которую нужно делать в одночасье. Но это важная часть создания такого рода окружения.
Да. Если вы не преуспеете с вашим первым стартапом, это не должно быть катастрофическим концом карьеры.
Это должно быть, знаете, хорошо. Я думаю, что в целом это должно быть как, должно быть как, ну, знаете, вы хорошо попробовали, и теперь попробуйте еще раз.
Итак, одно, что я хотел упомянуть - создание компании это, очевидно, высокорисковое предприятие с потенциалом высокого вознаграждения. Но я не совсем знаю, как это работает в Великобритании, я думаю, это вероятно лучше, чем в континентальной Европе, но опционы на акции очень сложны в большинстве частей Европы. Я не уверен, как это в Великобритании, но если кто-то собирается рисковать своими накопленными сбережениями, и подавляющее большинство стартапов терпят неудачу. Я имею в виду, вы слышите о стартапах, которые добиваются успеха, но большинство стартапов состоят из огромного объема работы, за которым следует неудача. На самом деле, это большинство компаний - и так это высокий риск, высокое вознаграждение, и часть с высоким вознаграждением должна быть там, чтобы это имело смысл.
Да, я думаю, это был очень мягкий аргумент в пользу налоговой политики. Но на самом деле я могу вам сказать, поэтому я согласен. И у нас есть, я думаю, относительно, конечно, европейских стран, но конечно США. Определенно Калифорния, гораздо более низкая ставка налога на прибыль от капитала.
Итак, для тех людей, которые рискуют и что-то растят, мы думаем, вознаграждение должно быть в конце. Итак, налоговая ставка на прибыль от капитала составляет 20%. И по опционам на акции я не знаю, есть ли в комнате кто-то из Index Ventures. Index - один из наших ведущих венчурных фондов здесь, они делают регулярный отчет, смотря на налоговое отношение к опционам на акции в большинстве стран.
И знаете, когда я был канцлером, эквивалентом министра финансов, знаете, мы были, я думаю, на каком-то уровне, мы были довольно хороши, но четвертыми или пятыми. И я сказал, что нам нужно. По точно той причине, которую вы упомянули, это должно быть лучшее место для инноваторов. Нам нужно это повысить. И я думаю, в последней итерации того отчета, который у нас был, благодаря изменениям, которые сделали Джереми и я, мы переместились, по-моему, на второе место. Надеюсь, это должно дать вам и всем остальным уверенность в том, что мы признаем, что это важно, потому что когда люди много работают и рискуют, они должны иметь возможность наслаждаться вознаграждением за это.
Высокий риск, высокое вознаграждение.
Да. И я думаю, у нас очень во многом налоговая система поддерживает это. И это ценности, в которые я верю, и я думаю, большинство из нас в этой комнате, вероятно, тоже верят. Верно, следующий, следующий вопрос. У меня здесь семь вопросов, а потом я подойду сюда. Продолжайте, продолжайте. Себ,
Audience Member
спасибо большое. Мы говорили о некоторых действительно больших идеях, идеях, которые меняют мир. Меня действительно интересует, особенно в контексте создания науки и технологии, суперцентров и так далее. Как это связано с повседневной жизнью людей, живущих, скажем, в Остине, Техасе? Если выбрать один, Ранжан, или в моем случае, Ноттингем, Восточный Мидленд. Как вы видите это развивающимся для людей каждый день?
Эти повседневные эффекты искусственного интеллекта?
Для контекста, Илон. Итак, Себ управляет нашим эквивалентом CVS, верно. Или Walgreens. Так что когда я посетил Azure, верно. Итак, у него миллионы людей приходят в его магазины каждый день и это нужно убедиться. Как мы делаем это актуальным? Я думаю, Себ, к вашему вопросу, как это релевантно для этого человека? Знаете, может быть. На самом деле, позвольте мне пойти первым, потому что я думаю, это справедливая точка. Я только что обсуждал с командой несколько вещей, которые мы делаем, потому что я говорил, как мы сейчас используем искусственный интеллект, который меняет жизнь людей. И у нас есть вещь под названием gov.uk, которая, на самом деле, когда мы это запустили несколько лет назад, была пионерским. Вся информация правительства собрана на одном веб-сайте, Gov.uk, и поэтому вам нужно получить водительское удостоверение, паспорт. Любое взаимодействие с правительством, оно было централизовано очень просто, относительно просто в использовании, гораздо лучше, чем большинство. Да. Итак, мы примерно. Итак, мы собираемся развернуть искусственный интеллект по этой платформе. Итак, это то, что, я думаю, несколько миллионов людей в день используют. Верно. Итак, большая часть населения взаимодействует с gov.uk каждый день, чтобы выполнять все эти повседневные задачи. Верно. Каждый из ваших клиентов делает все эти вещи. И поэтому мы собираемся развернуть искусственный интеллект в это, чтобы сделать весь этот процесс намного проще. Потому что, знаете, некоторые люди будут говорить: ну смотрите, я здесь и потерял свой паспорт, и мой рейс через пять часов. В данный момент это потребует, сколько шагов, чтобы выяснить, что делать. На самом деле, когда мы развернемся, это должно быть то, что вы просто можете буквально сказать это и бум, бум, бум, бум, бум. Вот что мы собираемся сделать, проведем вас через это. И это принесет пользу миллионам и миллионам людей каждый день. Верно. Потому что это очень практичный способ в моей позиции, что я могу начать использовать эту технологию, чтобы помочь людям в их повседневной жизни. Не только открытия в области здравоохранения и все остальное, что мы также делаем. Но я думаю, это довольно мощная демонстрация буквально вашего повседневного клиента, видящего, что их повседневная жизнь становится немного проще благодаря чему-то, что Илон, Демис и другие в этой комнате помогли создать.
Да, верно. Самое непосредственное - это просто иметь возможность спросить, как иметь очень умного друга, у которого вы можете спросить что-нибудь, знаете, спросить, как что-то сделать, как решить любую проблему, и он вам скажет. И, очевидно, компании собираются это использовать, поэтому я думаю, у вас будет гораздо лучшее обслуживание клиентов. Я предполагаю, это, вероятно, первое, что вы заметите. А затем мы говорили об образовании. Итак, имея репетитора. Итак, если вы пытаетесь понять предмет, как иметь феноменального репетитора по любому предмету, это действительно уже почти здесь. Я имею в виду, нам нужно, искусственный интеллект должен перестать галлюцинировать, прежде чем, знаете, он не может вам дать. Я имею в виду, у нас все еще есть немного проблемы, когда это может дать вам ответ, который уверенно неправильный, с отличной грамматикой и, знаете, пункты и все и цитаты. Это было не реально. Итак, это. Хорошо, нам нужно убедиться, что это. Это не, это не, это не дает вам уверенно неправильные ответы репетитора, но это произойдет довольно быстро, где это на самом деле правильно.
Ну да, я думаю, для любого родителя, который занимался домашним обучением во время COVID и осознал, какие трудности испытывают его дети, это будет огромным облегчением. Да, очень хорошо. Хорошо, давайте перейдём к вопросам отсюда. Кого у нас здесь? Только микрофоны или. Брент, ты здесь? Отлично.
Audience Member
Привет, я Брент Герман. Как ты знаешь, ты красноречиво говорил об изобилии и эпохе изобилия. Так что с ИИ это кажется очевидно, что это везде, везде, везде сразу. Но с роботами и чтобы достичь эпохи изобилия, нам понадобится много роботов. Я знаю, что ты тоже работаешь над роботами. Есть ли какие-то ограничения, о которых мы должны думать, и о которых должны думать наши политики? Может ли одна страна значительно отстать в робототехнике, которая может делать все эти вещи и войти в эпоху изобилия, оказавшись в стратегическом невыгодном положении?
Ну, на самом деле всё, что может быть приведено в действие компьютером, фактически является роботом. Поэтому можно сказать, что автомобили Tesla — это по сути роботы на колёсах. Всё, что подключено к Интернету, фактически является конечной точкой действия для искусственного интеллекта. Итак, у нас есть Boston Dynamics, очевидно, они создают впечатляющих роботов уже некоторое время. Я думаю, в настоящий момент они в основном принадлежат компании Hyundai. Поэтому я предполагаю, что Hyundai, вероятно, будет создавать роботов, которые являются гуманоидными и имеют довольно интересные формы. Как тот, который выглядит как. Имеет колёса и выглядит как-то вроде кенгуру на колёсах. Я не уверен, что это, но. Выглядит немного сумасшедшим, если честно. Но будут всевозможные роботы. У нас есть компания Dyson в Великобритании, которая, я думаю, создаёт довольно впечатляющие вещи. Я думаю, что Великобритания на самом деле не будет отставать в этом плане. В Великобритании также есть ARM, который действительно один из лучших, может быть, даже лучший в проектировании микросхем в мире. Tesla использует много технологии ARM. Почти все это делают, на самом деле. Поэтому я думаю, что Великобритания находится в сильной позиции. Германия, очевидно, производит много роботов, промышленных роботов. Я имею в виду, я думаю, что в целом страны, которые производят роботов любого вида, даже если они кажутся несколько обычными, будут в порядке. Я действительно думаю, что есть проблема с безопасностью, особенно с гуманоидными роботами, потому что, по крайней мере, машина не может легко преследовать тебя в это здание, или гнать тебя на дерево, или ты можешь просто бежать вверх по лестнице и убежать от Tesla. Я думаю, есть фильм Stephen King об этом. Если твоя машина одержима, но если у тебя есть гуманоидный робот, он может в принципе преследовать тебя где угодно. Поэтому я думаю, что у нас должно быть какое-то жёсткое локальное отключение, которое нельзя обновить из Интернета. Так что всё, что может быть программно обновлено из Интернета, очевидно, может быть переопределено. Но если у тебя есть локальный выключатель, где ты, скажем, произнесёшь ключевое слово или что-то в этом роде, и это приводит робота в безопасное состояние, какой-то локализованный режим безопасности, выключатель, ты знаешь, где тебе не нужно подходить слишком близко к роботу. Я не знаю, будут ли миллионы этих вещей ходить повсюду.
Просто, ты знаешь, я знаю. Я говорю, что это то, о чём мы должны быть весьма обеспокоены, потому что если робот может следить за тобой где угодно, то, знаешь ли, что произойдёт, если они однажды получат обновление программного обеспечения и больше не будут такими дружелюбными? У нас есть фильм James Cameron на руках.
На самом деле, забавно, что ты это говоришь, потому что на нашей сессии сегодня они сказали ровно то же самое. Правильно, Dennis. Они говорили о. Они говорят о фильмах, на самом деле, без упоминания James Cameron. Они говорят о фильмах James Cameron. Они говорят, если ты подумаешь об этом, это не только те фильмы, но и любые из этих фильмов. Поезда, метро, метро, автомобили, автобусы. Они сказали, что все эти фильмы с одинаковым сюжетом в основном заканчиваются тем, что кто-то его отключает. Правильно. Или находит способ отключить это. И они делали такую же точку, как и ты, о важности реальных физических выключателей. Да. Вся технология отличная, но в основном этот же фильм разыграется 50 раз. Мы все это смотрели. И в основном, ты знаешь, ты знаешь, к чему я имею в виду.
Всё заканчивается почти одинаково, когда кто-то находит способ просто.
Сделать это. Что интересно, что ты сказал похожую точку.
Это не то, это не очевидное место, куда ты пошёл бы, но может быть
мог быть одним из тестов для ИИ. Мы должны сказать, например, твой любимый фильм Jamer Cameron. Заполни пусто.
Да. Отлично. Правильно, да, мы получили это там. Да, идеально.
Audience Member
Привет, вопрос для вас обоих. Так что я основатель стартапа ИИ и ML в третьем центре ИИ, который находится в Leeds на севере Англии. Немного предвзято. С момента запуска ChatGPT три месяца спустя мы увидели реальный рост фишинговых атак с использованием гораздо более сложных языковых паттернов. Что мы делаем, чтобы защитить бизнес, потребителей, чтобы они лучше доверяли этой технологии и как мы вовлечём их в это путешествие с нами?
Ну, я думаю, нам не следует так сильно это доверять, на самом деле. Это на самом деле довольно значительная проблема, потому что мы приходим к точке, где даже открытый исходный код ИИ может пройти тесты человеческой проверки. Ну, вы знаете, это... Вы человек? Определите все светофоры на этом изображении. Вы думаете, ладно, ИИ без проблем справится с этим. На самом деле, это будет делать это лучше и быстрее, чем человек. Так что мы думаем, как вы. В момент, когда это лучше человека, лучше проходит человеческие тесты, чем люди. Ну, какие тесты на самом деле имеют смысл. Это настоящая проблема. У меня на самом деле нет хорошего решения для этого. Это одна из вещей, которую мы пытаемся разобраться на платформе X, как с этим справиться. Потому что мы действительно находимся в точке, где даже с открытым исходным кодом, легкодоступным ИИ, вам не нужно быть лидером в области. Вы можете быть лучше людей в прохождении этих тестов. И вот почему мы думаем, может быть, нам следует взимать доллар или фунт в год. Это очень маленькая сумма денег, но это все равно делает создание миллиона ботов недопустимо дорогим. Особенно если вам нужен миллион способов оплаты, то украденные кредитные карты закончатся довольно быстро. Итак, это где-то то, о чем мы думаем, что нам, возможно, придется взимать очень маленькую сумму денег, 0,3 цента в день, чтобы справиться с наплывом ботов на ИИ. И если это все еще растущая проблема, то она будет, я думаю, может быть, непреодолимой проблемой в следующем году. Итак. И затем вы должны беспокоиться о манипулировании информацией, когда что-то выглядит очень популярным, хотя на самом деле это не так, потому что это усиливается всеми этими лайками и репостами от ботов на ИИ. Поэтому я думаю, что это неизбежно приводит к некоторому небольшому платежу, чтобы резко увеличить стоимость бота. Поэтому я думаю, честно говоря, любая система социальных сетей, которая этого не делает, будет просто переполнена ботами.
Знаете, я думаю, мой общий ответ был бы, что нам нужно показать, что мы контролируем смягчение риска, верно. Чтобы люди могли доверять технологии. Вот о чем на самом деле были последние несколько дней на Саммите по безопасности, просто показывая, что мы инвестируем в Институт безопасности, имея людей, которые могут проводить исследования по этим вопросам, чтобы разобраться, как мы их смягчаем. И мы должны делать это быстро, и мы должны продолжать итерировать, потому что все мы в этой комнате, вероятно, верим, что эта технология может быть невероятно мощной. Но мы должны убедиться, что мы берем людей в это путешествие с нами, что мы справляемся с рисками, которые есть, и так как есть работа, которую нужно сделать. И в последние несколько дней я думаю, мы добились хорошего прогресса, потому что мы хотим сосредоточиться на позитивных моментах и управлять этими вещами. Но это требует действия. И вот о чем были последние несколько дней. Ваша история, аналогия... была часть исследования, которое команда, работающая над целевой группой, опубликовала и представила вчера. Я не знаю, видели ли вы это. Что по сути это было. Использование ИИ для создания множества поддельных профилей в социальных сетях и последующей инфильтрации определенных групп определенной информацией.
И в настоящий момент это совпадает с вашей точкой, как бесплатно.
Это становится, это доходит до того, где это подобно, по правде говоря, сто за пенни. Смешно.
И если вы думаете о некоторых из этих социальных сетей на уровне района или города, то не так много поддельных профилей, которые вам нужно быстро создать. Внезапно они везде, и есть какой-то местный вопрос, который может быть важным, и команда показала, как бы это выглядело, и внезапно они взаимодействуют со всеми и распространяют дезинформацию. Да, это настоящая проблема. Мы буквально, как часть исследования, которое мы опубликовали о дезинформации вчера, это настоящая проблема.
Да, именно к вашей точке. Я имею в виду изображения, вам даже не нужно красть чью-то фотографию, потому что тогда они. Это отслеживаемо. Но вы можете просто создать новое изображение человека, выглядящего реалистично, но не существующего, а затем создать биографию, выглядящую реалистично, но не существующую и делать это массово. И практически единственный способ, которым вы сможете сказать, это то, что грамматика слишком хорошая, чтобы выдать себя. Нет опечаток. Ладно.
Теперь мне машут, потому что я думаю, что у нас закончилось время. Я нет. Давайте зададим один очень короткий последний вопрос и сделаем его хорошим. Да, сэр. Продолжайте. Вы прямо передо мной. Продолжайте.
Audience Member
Илон, вопрос для вас, связанный с платформой X, есть ли простые вещи, которые мы можем делать, особенно когда речь идет о визуальных материалах? Вы намекали на то, что это довольно просто и фактически бесплатно заставить людей вроде вас говорить и делать вещи, которые вы никогда не говорили и не делали. Да. Можем ли мы сделать что-то вроде криптографически подписанного медиа? Я из Adobe, мы работаем над этим проектом. Да, Twitter был членом. Было бы хорошо увидеть возвращение X. Хорошо. Цифровое подписанное медиа, чтобы указать не только то, что было создано ИИ, но и то, что пришло с камеры, что было реальным, чтобы вселить чувство доверия в медиа, которое может стать вирусным.
На самом деле, это звучит как хорошая идея. Поэтому какой-то способ аутентификации был бы хорошим. Итак. Да, это звучит как хорошая идея. Что мы, вероятно, должны сделать.
Вот так. На самом деле, по этому поводу я уже. Это особенно актуально для людей моей профессии. Верно. И со мной уже произошла ситуация с подделанным изображением, которое распространяется везде негативно. К тому времени, когда все понимают, ну, это поддельное и мы должны остановить его распространение. Ущерб уже причинен. И на самом деле, мы снова размышляли сегодня, если вы думаете, что в следующем году у вас будут выборы в США, Индии, я думаю, в Индонезии, вероятно, здесь. Вот так. Огромные новости. И на самом деле у вас есть. Просто огромная часть мирового населения голосует в следующем году, и у вас также будут выборы в ЕС. Знаете, на самом деле эти проблемы прямо перед нами. В следующем году пройдут крупные выборы по всему миру. Вероятно, первые выборы, где это была реальной проблемой.
Итак, выяснение того, как нам этим управлять, я думаю, критически важно для людей, которые хотят сохранить целостность нашей демократии.
Да. Некоторые из них довольно забавные. Как Папа в пуховике. Вы это видели?
Это потрясающе. Но я имею в виду, я все еще встречаю людей, которые думают, что это реально. Я говорю, ну, какова вероятность того, что он носит пуховик в июле в Риме. Знаете, он потеет. Но это выглядело довольно красиво. На самом деле, я думаю, что мода на ИИ станет реальностью. Итак, я не впадаю в уныние. Мы живем в самые интересные времена и я думаю, что это. Это, знаете, примерно на 80% вероятно быть хорошим и на 20% плохим. И я думаю, что если мы будем осознаны и осторожны в отношении плохой части, в целом, это будет будущее, которое мы хотим, или более предпочтительное будущее. И это на самом деле будет своего рода уравнителем в том смысле, что, знаете, я думаю, что каждый будет иметь доступ к товарам, услугам и образованию. И поэтому, знаете, я думаю, это, вероятно, приведет к большему человеческому счастью. Итак, я думаю, я, вероятно, уйду на оптимистичной ноте.
Это хорошая нота для завершения. Я думаю, что мы все хотим этого лучшего будущего. Я думаю, оно там. Обещание этого определенно там. Много людей в этом зале, включая вас, усердно работают, чтобы это произошло. Наша работа в правительстве - убедиться, что это происходит безопасно, но на основе этого разговора в течение последних пары дней, я определенно ухожу более уверенным, что мы можем это сделать. Было огромной честью и удовольствием иметь вас здесь.
Ну, спасибо. Спасибо большое, что пригласили меня.