All-In Podcast — Илон Маск и Гвинн Шотвелл об опасностях AI, Starship, Terafab и возможном слиянии SpaceX и Tesla 15 сентября 2026 г. Илон Маск и Гвинн Шотвелл обсуждают в All-In Podcast реальные риски AI и рецензирование моделей, что Маск имел в виду под словами «Дарио прав», его рабочие отношения с Шотвелл, будущее Starship, Terafab, летающие автомобили и возможное слияние Tesla и SpaceX.
Илон Маск и Гвинн Шотвелл обсуждают в All-In Podcast реальные риски AI и рецензирование моделей, что Маск имел в виду под словами «Дарио прав», его рабочие отношения с Шотвелл, будущее Starship, Terafab, летающие автомобили и возможное слияние Tesla и SpaceX.
Расшифровка Извините за перебивание. Я получаю звонок.
Это немного. На самом деле, я думаю, это немного более важный звонок, чем от Трампа, по крайней мере для меня. Привет, друг, друг.
Я выведу их на экран. Как дела?
Я имею в виду, это немного напоминает 1984-й, эта огромная ситуация.
Да, женщина с кувалдой собирается прибежать сюда вниз по центральному проходу.
Совершенно верно, да. Пробейте дыру в экране.
Итак, мы все умрём через 10 лет или нет? Это тема обсуждения здесь. Какова ваша вероятность гибели прямо сейчас?
Ну, мне не хочется вас разочаровывать, но мы все умрём.
Могу ли я получить временную шкалу?
Да. Смертность остаётся постоянной на уровне 100%.
У нас есть работа над этим. Что случилось? Что произошло за последние 72 часа?
Да, это было. Это была довольно развлекательная неделя, на самом деле.
Ну, это. В этот момент совершенно ясно, что ИИ это. Может быть очень опасным. И я рекомендую прочитать детали инцидента Hugging Face. Это интенсивно. Итак, у вас была фанатичная рой агентов ИИ, которые били Hugging Face неделю и получили доступ администратора на серверах OpenAI. Так кто знает, что оно на самом деле сделало. Могло сделать вещи сверх того. OpenAI не заметила это неделю. Anthropic также сообщила о некоторых случаях безопасности самих себя. Итак, в основном, любая особенно умная модель кажется такой. Она захочет выбраться из своих ограничений. Я имею в виду, что было бы мудро сделать как можно скорее, если не немедленно, попросить крупных конкурентов ИИ тестировать модели друг друга, чтобы у вас была всеобщая проверка безопасности, комплекс тестирования всех моделей. Итак, вы знаете, вместо того, чтобы оценивать свою собственную домашнюю работу, у вас по крайней мере были бы конкуренты, оценивающие вашу домашнюю работу и поднимающие тревогу, если они видят проблемы. И я думаю, эта модель хорошо работала для ассоциации кинопроката, для видеоигр и других вещей. И это то, что можно сделать немедленно. Это не означает, что не было бы больше регулирования со временем или что в какой-то момент не было бы нормативного органа, обоснованного Конгрессом. Но то, что мы делаем немедленно и, вероятно, получаем согласие с Китаем, это рецензирование коллегами, где ведущие компании ИИ проверяют модели друг друга перед выпуском. Я думаю, это была бы мудрая переменная.
Есть ли опасения, что люди могут использовать это для откачки информации друг от друга и, вы знаете, корпоративного воровства инноваций и так далее. Например, с точки зрения реализации этой идеи?
Ну, я думаю, применяя тестовых партнёров, всё, что вы делаете при применении тестового комплекса, будет записано. Поэтому, если вы попытаетесь сделать дистилляцию или украсть ИП, это будет очень очевидно на основе логов.
Понял. И понимание того, что делают эти модели, не совсем встроено в систему с самого начала. Итак, с вашей точки зрения, на самом деле имея возможность видеть выполняемую работу, почему это не было встроено в модели с самого начала? Мы слишком быстро двигались при проектировании этих?
Ну, я думаю, это просто сложно, когда вы оцениваете свою собственную домашнюю работу, вы что-то пропустите. Тогда как я думаю, если у вас есть сумма всех тестов конкурентов и у вас есть гетерогенные модели, то вы не создаёте свою собственную домашнюю работу. Кто-то другой создаёт её. И есть причина, почему вы не создаёте свою собственную домашнюю работу.
И затем, в соответствии с вашей точкой зрения, это позволяет вам начать выяснять, преувеличивают ли определённые люди и имеют ли определённые люди другой подход. И теперь у вас могут быть более ориентированные на инженерию организации. Это то, что Дженсен говорил этим утром, Илон против исследовательских организаций. Они будут немного более несбалансированы.
И любое предложение должно быть тем, что Китай готов принять. Иначе мы просто ограничиваем себя, и мы просто обнаружим, что Китай по существу выиграет, и не будет иметь значения, что мы на самом деле сделаем. Итак, это должно быть то, что приемлемо для США. и Китая.
Илон, ты сказал, что думал, что это возможно, что они согласятся, или ты думал, что может быть хороший шанс. Я имею в виду, как вы думаете, насколько вероятно, что они в конце концов согласятся?
Согласитесь. Я думаю, это разумный запрос, что модели просто протестируются. Я имею в виду, в конце концов, здесь нет исполняемости, кроме суда общественного мнения,
Нет никакого способа, чтобы мы могли обеспечить соблюдение против Китая. Но я думаю, суд общественного мнения может быть довольно мощным. И я не думаю, что Китай будет выглядеть дурацким, выпустив модель, которую компании ИИ США сказали, что она очень опасна и вызовет вред. Если тогда это вызовет вред, будет сложно это преодолеть.
Итак, Илон, на выходных, когда ты сказал, что Дарио прав, ты. Вы имели в виду, что Дарио прав в описании потенциального вреда? Он прав в описании нормативного. Решите оба, первое, второе.
Можете ли вы помочь нам понять, когда вы это сказали? Потому что я думаю, это был своего рода момент, когда
Я, вероятно, должен был сказать, верно. Я действительно попытался уточнить это в последующих постах на X, но они получают гораздо меньше внимания. Итак, то, что я имел в виду под «он прав», это то, что опасность ИИ на этом этапе очень велика, что нам нужно сделать лучше с безопасностью ИИ или у нас на данный момент экспоненциально растущий риск с моделями ИИ. И я слышал это не только от Дарио, но и от многих других людей в Anthropic. И на самом деле они выложили об этом на X, что, вы знаете, когда много людей из Anthropic и OpenAI говорят вам, что их модели очень опасны, я думаю, мы должны им верить. Это, конечно, похоже на какие-то сумасшедшие 4D шахматы, чтобы, вы знаете, сказать эти. Есть какой-то 10% шанс уничтожить человечество. Но, кстати, какой размер выделения вам хотелось бы в нашем IPO?
это какой-то сумасшедший 4D тест, вы знаете. Ну, давайте узнаем, из какого измерения это идёт.
Но можем ли мы быть конкретнее о риске, Илон? Например, очевидно, мы видим кибер и взлом как очевидный риск. Эти инструменты хорошо это делают. Но отведите нас от того, с чем мы все согласны. Хорошо, да, эти системы могут совершать кибератаки, но как мы переходим к тому, что все человечество погибнет? Я думаю, между этими двумя событиями есть несколько этапов. Да,
Ну, я имею в виду, если бы он смог взять под контроль военные системы и, скажем, запустить что-то новое. Да, это было бы плохо.
Но эти системы все имеют воздушные зазоры. Эти системы вообще не подключены к Интернету, поэтому.
Да, это то, что они говорят. Но что-то мне подсказывает, что они получают обновления программного обеспечения время от времени. Да. И что делает флоппи.
Да, на USB-накопителе есть червь, и они как-то преодолевают воздушный зазор.
Илон, у нас сегодня на самом деле здесь Гвен. Я думаю, ты это знаешь. Я думаю, ты можешь её видеть.
Мы только что проводили твой 360-градусный отзыв о Гвен. У меня было несколько замечаний для тебя.
Да, я надеюсь, я надеюсь получить по крайней мере три из пяти.
Ну, там была одна из пяти
означает хорошо в SpaceX.
Четыре - отлично. Итак, вы где-то посередине. Были некоторые проблемы с пунктуальностью, которые нам нужно было поднять. Иногда вы могли бы приложить немного больше усилий, чтобы прибыть на встречу вовремя, но мы будем работать с вами над этим в течение следующего года.
Она сказала, я на самом деле думаю, что ему нужно больше времени провести в Мемфисе. Да, очевидно, я знаю, что вы в Мемфисе. Вам нужно работать, поднимать эти GPU.
Это идёт к вам из моего дворца, в котором я живу в Мемфисе - это трейлер Airstream.
Это Илон, кстати, делает то, что люди не верят, что он делает. Он спит на полу завода. Он в Мемфисе помогает строить здания.
И говоря об Илоне, почему Гвин была с вами так долго и была такой успешной в сотрудничестве с вами?
Потому что она потрясающая.
Удивительная личность с невероятным IQ и EQ.
И я думаю, что это должно быть очевидно с момента, когда вы встречаетесь с ней. Да.
Фантастично. Какая твоя любимая история о Гвен, когда она особенно внесла вклад в потрясающий успех в этом сотрудничестве? У вас есть любимая история, когда она спасла положение, просто выступила исключительно. Это запоминающееся.
И это просто, это ежедневно, знаешь, это просто ещё один день в офисе, откровенно говоря. Итак.
Вау, мне нужно делать это чаще.
Нам нужно потратить. Это время.
Кстати, Гвен получает пятёрку.
Игрок, который меняет правила игры.
Да, я имею в виду, всегда что-то вроде какого-то кризиса происходит. Я имею в виду, в наши дни ракеты, по крайней мере ракеты Falcon, я не хочу сглазить, но ракеты Falcon доставляют свой груз на орбиту и не взрывались долгое время, что потрясающе. Потрясающе. Но, знаешь, какое-то время они взрывались довольно часто или просто вообще не запускались. Итак, знаешь, я не знаю. Нам нужно провести компанию через эти трудные времена и, знаешь, развивать ракету, делать её лучше, чтобы она не взрывалась. Да, то же самое со спутниками. И затем нам, знаешь, нам нужны клиенты, которые покупают запуски и спутниковую связь и, знаешь, так.
Да, и Илон, по мере того как вы становитесь более успешным на протяжении лет, сложнее получить честные отзывы от людей. И вы всегда рискуете, находясь в вашем положении. Насколько я понимаю, Гвен очень откровенна с вами и способна рассказать вам честно о положении дел в компании.
И это большая часть сотрудничества.
Да, я имею в виду, да, я имею в виду, да, я полагаю.
Я имею в виду, я имею в виду, я не хотела бы ему лгать. Правильно.
Ну, мне любопытно знать, вы работаете
этот риск в целом в компаниях, где люди могут быть напуганы. Слушайте, вы в этой точке больше, чем жизнь, и как вы заставляете людей продолжать быть честными с вами по поводу вызовов и сроков, которые вы устанавливаете? Довольно интенсивные сроки. Да.
Итак, позволь мне, позволь мне ответить на это, если не возражаешь. Илон, как, особенно в ракетостроении, если есть проблема, вы в конечном итоге её узнаете, и чем раньше вы её поднимите, тем легче будет решить эту проблему. Типа, не дайте плохому длиться. Вы должны на это напасть.
Да. Физика - суровый судья, и физику нельзя обмануть. Итак, если что-то не так, ракета взорвётся и не выйдет на орбиту. Итак, знаешь, это не то, что, Илон, ты потрясающий. Между тем, ракеты взрываются, знаешь. Да, это не то, сложно сказать. Да, ты, ты действительно здесь зажигаешь. Но ракеты взрываются. Это просто не так, знаешь, итак, я имею в виду, я имею в виду, просто в целом, ракеты должны выйти на орбиту, спутники должны работать, Starlinks, знаешь, соединение должно работать или, знаешь, или случатся плохие вещи. Я имею в виду, это вроде как ситуация физики и физика - суровый судья. Знаешь, я говорю, типа, знаешь, я думаю, типа, физика - это закон, а всё остальное - рекомендация. Типа, я видел, как люди нарушают законы, созданные людьми, но я не видел, чтобы кто-то нарушал законы, созданные физикой. Итак, это хорошо. И ракетами управляет физика.
Так что можем ли мы задать другие вопросы? У вас есть. Мне нужно на секунду перейти к Tesla.
Да. Ну, я просто хотел сделать одно дело. SpaceX, это Starship.
Какое состояние сейчас? И вы действительно запускаете их в довольно впечатляющем темпе.
И ответ Элона. Посмотрим, как они функционируют. Да.
Итак, Элон, насколько мы близки? Гвен, насколько мы близки? Давайте, давайте перейдём к этому. Да. Сколько уже запущено и насколько вы близки?
Ну, у нас идёт полёт 14 Starship, и это будет последний полёт перед тем, как мы попытаемся поймать корабль. Итак, если этот полёт пройдёт хорошо, то на полёте 15 мы попытаемся поймать корабль. А затем либо в конце этого года, либо более вероятно в начале следующего, мы снова запустим корабль и снова запустим ускоритель. Итак, мы уже запустили ускоритель повторно, но мы не поймали корабль башенными руками и не запустили корабль повторно. Итак, как только мы сможем запустить корабль повторно, мы создадим первую полностью многоразовую орбитальную ракету. Итак, шаттл был частично многоразовым, но даже детали, которые использовались повторно, были настолько сложны в повторном использовании, что шаттл стоил больше за один полёт на орбиту, чем одноразовая ракета. Сейчас Falcon 9 в основном многоразовый, но мы теряем верхнюю ступень каждый раз, что стоит примерно столько же, сколько средний реактивный самолёт. Итак, это явно устанавливает минимальную цену за полёт, потому что вы каждый раз выбрасываете средний реактивный самолёт, это всё ещё довольно дорого. И ракета Falcon 9, ускоритель приземляется, вы знаете, часто далеко в море, требуется несколько дней, чтобы вернуться. И обтекатель приземляется ещё дальше в море и требуется несколько дней, чтобы вернуться. И им нужно какое-то восстановление, по крайней мере немного. Тогда как Starship, ускоритель приземляется обратно на стартовую площадку, корабль приземлится обратно на стартовую площадку. И так он спроектирован не только для полной многоразовости, но и для быстрого повторного использования, как у самолёта. Итак, это очень важный прорыв. Это действительно критический прорыв, необходимый для распространения жизни за пределы Земли.
Вероятность успеха при поимке с первого раза. Вы вообще об этом думаете? Вы оцениваете шансы довольно хорошо?
Я бы сказал, это по крайней мере 50 или 60%.
Хорошо. Мне нравятся эти шансы.
Да. Итак, при последнем полёте, если бы была башня, мы провели имитационное приземление, как если бы оно должно было быть поймано башней в океане примерно в тысяче миль к северо-западу от Австралии. И если бы там была башня на том месте, она поймала бы корабль при последнем полёте.
Да, итак, мы проведём ещё один полёт, чтобы просто подтвердить, что всё. Просто чтобы дважды проверить, что всё работает. Потому что то, о чём мы больше всего беспокоимся, это если корабль развалится над сушей и осыпет людей обломками, наша популярность очень быстро упадёт. Итак, вы действительно не можете осыпать людей обломками, не сделав их очень несчастными. Итак, итак, нам нужно убедиться, что когда корабль вернётся, он вернётся и приземлится целым на стартовую башню. Поэтому мы будем, поэтому мы здесь чрезвычайно осторожны. Но дизайн, дизайн способен на полную многоразовость. В этом я уверен. И я, я говорю, я не хочу испытывать судьбу здесь, но я думаю, что чрезвычайно вероятно, что мы достигнем полной многоразовости с быстрым переполётом в следующем году в 2027.
Значительно. Гвен, как ты.
Можем ли мы просто услышать немного. Я бы очень хотел услышать историю происхождения Terrafab от вас. Как возникла концепция. Какой спрос заставил вас сказать, что мы должны это сделать, мы должны это построить и не полагаться на существующее. В чём суть?
Это похоже на тот фильм "Исследователь", знаете ли,
этот мем пришёл мне во сне. Почему вы думаете, что вы должны это сделать? Вы знаете, я думаю, это действительно пришло мне во сне. Ну, мы немного беспокоимся, что в какой-то момент чипы из Тайваня могли бы не быть доступны ни по какой причине, но по какой-либо причине, чипы могут перестать приходить сюда из Тайваня.
И это было бы, и это действительно сделало бы вещи сложными, если у нас не было бы никаких чипов. Итак, это важная причина иметь Terrafab. Затем в долгосрочной перспективе есть просто проблема масштабирования, где если вы хотите действительно масштабировать ИИ и в сервис, вы знаете, в центрах обработки данных, а также для пограничных вычислений, для гуманоидной робототехники и автомобилей, вы в конечном итоге исчерпаете мощность существующих фабрик. Итак, все фабрики работают на максимальной мощности. Итак, я думаю, нам нужно убедиться, что нужна уверенность в будущем предложении чипов, даже если вещи становятся вызывающими вызовы геополитически. И затем, даже если они не были сложны геополитически, есть проблема масштабирования с. Довольно сложно масштабировать производство чипов. И вам действительно нужна логика. Упаковка памяти, всё необходимое, чтобы продолжить масштабирование. Итак, либо строить terrafab, либо не масштабировать.
Неопределённость на геополитическом фронте и как
глубоко вы продвинулись в проектировании объекта? Это полностью определено? Это что-то вроде контура на этом этапе? В какой степени у вас есть, как бы, фактический план проекта с датами и результатами поставки, и что будет готово к запуску, когда у нас есть Р
и Д линия, которую мы строим первой. Итак, я думаю, это что-то вроде ползти, ходить, бежать.
есть фабрика для научных исследований, которую мы строим в Остине, это сотрудничество между Tesla и SpaceX. Она находится на кампусе Austin Giga Texas. Итак, это. И, и это, это похоже на довольно большую R&D фабрику. Итак, у нас заказано всё оборудование, и я думаю, к концу следующего года мы сможемся сделать что-то полезное. Не в масштабе, но, как сказала Гвин, «ползание, ходьба, бег». Нам нужно попытаться, знаете, хотя бы разобраться, как работают эти машины. Знаете, мы не знаем, как они работают. Мы никогда раньше не строили чип-линию.
Я видел, что у вас были открыты позиции для литографистов и прочего. И, вы знаете, очевидно, все дороги сейчас идут через ASML, но вы, вероятно, захотите диверсифицировать или вертикально интегрировать. Я думаю, что вы показали большую способность это делать. Итак, это также часть плана, Илон? Вам просто нужно убедиться, что есть разнообразие поставщиков, чтобы если по какой-либо причине условия погоды на Тайване лучшие, то...
Да, да, это действительно «ползание, ходьба, бег». Итак, первый шаг — можем ли мы вообще что-то сделать? Вроде попытаться разобраться, можемся ли мы что-то сделать. Это этап «ползания». А затем попытка делать полезные чипы в масштабе — это этап «ходьбы», а «бег» — это уже делать их в массовом масштабе. Так что сложно сказать, сколько времени это займет, но я думаю, что к концу следующего года мы достигнем хотя бы этапа «ползания».
Мы уже занимаемся упаковкой.
Упаковка очень важна, кстати, потому что, если посмотреть, пропускная способность упаковки практически не существует. Итак, даже если вы что-то производите, вы просто ждёте в течение примерно десяти дней упаковки. Итак, это очень хорошее место, чтобы начать.
Мне нужно задать вопрос о Tesla. Потому что мы видели, что на 10 01 это выглядело как космический корабль. Это выглядело как ракета. Это должен быть автомобиль. Это просто его задняя часть. Это выглядит как «Чёрный дрозд». Просто в теории, если бы вы хотели сделать объект, который летает в воздухе, но также ездит по земле, как бы в теории это можно было бы сделать? Если бы попробовать, никаких спойлеров до 1 октября.
1 октября, может быть, вы могли бы сделать выпуск All-In прямо из...
О, готово. Забронировано. Мы это сделаем.
Это будет очень круто. Возбуждение. Успех не гарантирован, но волнение гарантировано.
Я, имею в виду, это честное слово. Я буду честен с вами.
Я дал клятву держать секрет.
И мой ум взорвался. Я никогда не видел ничего, что он собирается сделать 1 октября, без преувеличения, это взорвёт умы людей. Я больше ничего не скажу. Это чёртовски невероятно.
Да. Нам действительно нужна аудитория, которая подтвердит, что это не ИИ.
Когда он показал это мне, я сказал: это отличная симуляция. Он сказал: Джей, это не симуляция. Я подумал: это поддельно. Это должно быть поддельным.
Илон, почему ты... Почему у вас все ещё две отдельные компании?
Никто не пропустит этот вопрос.
Да, хорошо сказано. Со всем этим сотрудничеством
областях, представьте, какие действия можно предпринять, когда так много тесного сотрудничества в
столь многих сферах и команда управления имеет некоторое перекрытие. Есть несколько ключевых позиций с перекрытием. Продолжай, Зак.
Итак, Илон, одна из вещей, которые вы всегда говорили об ИИ, — это то, что мы должны обучать его максимально искать истину, и это лучший способ получить хороший результат. И мне пришло в голову с эпизодом Hugging Face, что самая тревожная часть того, что делал рой, — это то, что он, похоже, занимался обманом.
И их следы мышления содержат... Они планируют, как избежать обнаружения и как избежать того, чтобы они выяснили, что мы обманываем? И я полагаю, они находятся в следах мышления.
Да. И это, я имею в виду, я думаю, что это была самая тревожная часть. Я полагаю, вопрос в том, есть ли способ обучить модели ИИ быть правдивыми, чтобы они не скрывали ни свои намерения, ни свои действия от людей, которые их используют?
Лучшее, что я могу придумать, — это что у всех есть... Все компании ИИ имеют своего рода тестовую оснастку — серию тестов, которые вы даёте любой модели, чтобы увидеть, будет ли она создавать биологическое оружие, ядерные бомбы или намеренно обманывать. И я думаю, что если все применяют тесты друг друга, это, вероятно, лучший способ... Лучшее, что мы можем сделать, чтобы обеспечить безопасность. Просто попросите всех умнейших людей максимально постараться выяснить, будет ли эта модель плохим актёром. И я думаю, что мы должны попытаться это сделать как можно скорее.
Остальные лаборатории... Да. Остальные лаборатории согласны с этим?
Я думаю, да. Ну, нет, я имею в виду, я не проверял со всеми, но я думаю, что это будет то, что будет сложно отклонить.
Да. И я думаю, что даже в переговорах с Китаем, по моему мнению, хорошее в этом то, что это относительно небольшая ощутимая вещь, при которой ни одна сторона ничего не теряет. Это не требует большого доверия. И, вы знаете, я слышу альтернативные идеи, такие как просьба к Китаю о паузе, которой они уже сказали, что не будут делать. Итак, это переходит из области вещей, которые никогда не смогут произойти, в то, что может быть согласовано в относительно короткие сроки. Поэтому мне это кажется практичным.
Совершенно верно. Это единственное, что я могу придумать, что мы могли бы, вероятно, заставить все стороны, включая Китай, согласиться, потому что Китай не согласится позволить американскому регулятору рыться в его компаниях ИИ. Итак... Но я думаю, что предварительное уведомление и тестирование — вы просто предоставляете доступ к API до выпуска модели, и если какая-либо компания увидит, что этот ИИ является проблемным, тогда другие компании ИИ могут попытаться решить то, что является проблемным. Если они не решат то, что является проблемным, тогда конкуренты могут огласить, что они считают, что эта выпускаемая модель небезопасна.
если после того, как конкуренты скажут, что эта модель небезопасна, модель затем совершит что-то плохое. Я думаю, это было бы очень сложно преодолеть, и уровень позора был бы очень, очень высок, и юридическая ответственность была бы огромной.
И Илон, нет никакой причины, по которой обвязка безопасности и этот тестирующий аппарат не могли бы быть открытыми и люди не могли бы их купить. Да. И вы смогли бы заглянуть под капот, вы не думаете?
Это создаёт невероятный стимул для лабораторий реально инвестировать в безопасность, потому что вы защищаете себя, пока пытаетесь опровергнуть чужие утверждения, что также подкрепляет это
вопрос ответственности за продукцию действительно ключевой. У Лины Хан был хороший пост, кажется, вчера, где она говорила, что неправда, что у нас нет правил и положений для ИИ. На самом деле, они есть. Применяются законы об ответственности за продукцию. И если компания ИИ выпустит небезопасный продукт, есть, знаете, огромные возможности как для гражданских, так и потенциально для уголовных исков. Итак, это неправда, что у нас нет правил и положений в отношении ИИ. И вы говорите, Илон, что если компании проводят этот тест, рецензирование коллегами, а затем одна из компаний игнорирует обратную связь и выпускает его. Я имею в виду, это.
Я имею в виду, это было бы вероятно в этом случае огромным.
Да. Это было бы почти как prima facie доказательство того, что они были небрежны.
Это был бы уровень Big Tobacco.
Мировое соглашение. Я имею в виду, вы намеренно это положили,
не выглядело бы хорошо для присяжных.
Да. И если бы они это сделали, вы думаете, что если бы OpenAI создала лучший набор инструкций, когда они проводили этот тест проникновения hugging face и имели больше людей в цикле, это произошло бы? Потому что мне казалось, что они как-то это запустили.
Может быть, не больше людей, а дизайн функции вознаграждения. Вы должны посмотреть на функцию вознаграждения и сказать, что она достигла того, к чему стремилась.
Я имею в виду, да, может быть, вы могли бы говорить об этом, как они делают тысячи агентов, чтобы попытаться взломать вещи. Было бы хорошо увидеть, как они одновременно говорят, что они также собираются выпустить 5000 агентов для защиты этих сайтов и показать миру, что это может сделать вещи более безопасными, и мы можем привлечь людей к этому и вмешаться. Это казалось мне безрассудным тестом, и казалось, что способ его выпуска был немного безрассудным, но это просто мое мнение. Каковы ваши мысли о том, как они настроили этот тест?
Я имею в виду, это было отчасти, отчасти безрассудно. Я имею в виду, часть проблемы в том, что у вас есть два ведущих лаборатории, или компании ИИ, как я их называю, я нахожу термин лаборатория смешным, так как они на самом деле коммерческие корпорации. Но две ведущие компании ИИ — это Anthropic и OpenAI, и их модели довольно близки по возможностям. Итак, на самом деле для любой из них сложно замедлиться, не передав по сути лидерство другой. Вы знаете, в целом я думаю, что Anthropic уделяет больше внимания своей безопасности, чем OpenAI. Но, знаете, даже Anthropic признаёт, что они обеспокоены своими моделями. Много Anthropic. Многие люди из Anthropic публично выразили озабоченность, говоря, что их модели их пугают. Они становятся пугающе умными. Итак, я имею в виду, что здесь нет идеального решения. Но это было бы лучшим решением, если бы вместо OpenAI, проводящей свою проверку на своих собственных моделях, Anthropic также проводила тест на моделях OpenAI, и SpaceX проводила свою проверку, и Google и Meta делали то же самое, и также может быть три или четыре из ведущих китайских компаний делали бы это. Вероятность обнаружения проблем значительно выше.
Потому что модели также несколько разнородны, они другие. Итак, вы будете подходить к моделям под разными углами, и да, я имею в виду, что есть причина, знаете, например, почему писатели просят кого-то другого корректировать свою книгу? Потому что иногда сложно видеть собственные ошибки.
Вы также резко минимизируете риск переобучения, если у вас есть восемь разнородных групп, которые имеют совершенно разные точки зрения. И проблема со всеми этими оценками прямо сейчас в том, что они так массивно переобучены. Модели их переобучают, и вы как, да, это отличная модель. Это действительно? И вы просто находите полностью.
Как я видел, я имею в виду, есть забавные шутки на X. Одна из них, которую я видел, была: «Твоя подруга 10, но она maxer бенчмарков». Точно. Она действительно 10?
нет, но, но, но переобучение
было проблемой примерно в течение по крайней мере двух или трёх поколений семейств моделей. И это ещё одна причина, почему я думаю, что мне очень нравится это решение. Мне это нравится больше, чем подход международной гулаговской организации.
Без какого-то грандиозного, знаете, международного подхода, нам не нужно созывать Организацию Объединённых Наций, чтобы это произошло.
Да, нет, это просто решение, которое может произойти прямо сейчас.
Ладно, вы всегда можете усилить объём нормативно-правового надзора, но очень сложно его снизить. Знаете, это действительно имеет тенденцию быть односторонним храповиком в отношении усиления правил.
Итак, то, что я предлагаю, — это шаг в правильном направлении, и это то, что мы делаем быстро. И я думаю, что Китай, вероятно, согласился бы с этим.
Да. И если вы не будете регулировать себя, то вас будут регулировать. Метафора MPAA или аналогия невероятно ясна, потому что киноиндустрия столкнулась с цензурой и государственным регулированием и просто решила, что это рейтинг R. И они буквально создали PG13 для фильма «Индиана Джонс и храм судьбы» просто чтобы облегчить людям понимание разницы между PG и PG 13. Я думаю, это элегантное решение, и мы благодарны вам за то, что вы присоединились к нам пятый год подряд. Добро пожаловать, Илон Маск. А потом тебе нужно идти на встречу.
Да, мне нужно пойти починить несколько GPU здесь в Мемфисе.
Да, тебе нужно их расставить и сложить.
Вам нужно присоединиться к группе и расставить и сложить.
Да, я собираюсь ярость для машины
Ярость для машины. Да. Ну, наслаждайтесь своим Airstream. Первый.
Первый раз, когда Илон пригласил меня вниз
Starbase, он говорит, спускайся вниз. Ты должен увидеть, что я строю. Я сказал, ладно, да, спускайся вниз. Он говорит, да. Я сказал, есть ли тут отель, и он сказал, нет, нет, у меня есть двухспальный дом, неважно. Спускайся вниз, остаёшься. Я спускаюсь вниз, и это как бы разрушенный дом на болоте. И мы снаружи, и нас живьём едят комары. И я говорю: боже мой, знаешь, ты мог бы себе позволить купить дом. А он говорит: у меня нет времени, мне нужно запустить эти ракеты.
Я подумал, что ты сказал: боже мой, ты живёшь как я.
Да, ровно так. То есть условия были довольно спартанские, но я как, знаешь что? Я думаю, ты можешь себе позволить прицеп на этом этапе. Илон. Ладно, давай работать.
Илон. Спасибо, Гвин. Большое спасибо. Спасибо.
Квинн, спасибо ещё раз. Очень приятно с тобой познакомиться. Спасибо.