← Назад15 сентября 2016 г.Как строить будущееС участиемSam Altman0:00 / 0:00CC1×YouTubeКак строить будущее15 сентября 2016 г.Сэм Альтман интервьюирует Маска о Марсе, ИИ, устойчивой энергии и том, как думать о строительстве будущего.Сэм Альтман интервьюирует Маска о Марсе, ИИ, устойчивой энергии и том, как думать о строительстве будущего.РасшифровкаSam AltmanСегодня у нас есть Илон Маск. Илон, спасибо, что присоединился к нам.Elon MuskДа, спасибо, что пригласили меня.Sam AltmanИтак, мы хотим потратить сегодняшнее время, чтобы поговорить о вашем видении будущего и о том, над чем должны работать люди. Для начала, вы ведь знаменито сказали в молодости, что было пять проблем, которые вы считали наиболее важными для работы. Если бы вам было 22 сегодня, какие пять проблем вы бы рассматривали для работы?Elon MuskНу, прежде всего, я думаю, что если кто-то делает что-то полезное для остального общества, это хорошее дело. Это не обязательно должно менять мир, если вы делаете что-то, что имеет большую ценность для людей. И честно говоря, даже если это просто небольшая игра или улучшение в обмене фотографиями, если это приносит небольшую пользу огромному числу людей, это, мне кажется, нормально.Не нужно менять мир, чтобы сделать что-то хорошее.Но в плане вещей, которые, вероятно, повлияют на будущее человечества, я считаю, что ИИ — это, пожалуй, самая важная проблема на ближайший период. Очень важно, чтобы появление ИИ произошло хорошим образом. Это то, на что, если бы вы могли посмотреть в кристаллический шар и увидеть будущее, вы бы хотели этого результата, потому что это может пойти не так, как мы много раз обсуждали.Поэтому нам действительно нужно убедиться, что это пойдет правильно.Я считаю, что работа ИИ над ИИ и обеспечение хорошего будущего — это сейчас самое важное. Следующий насущный вопрос, очевидно, касается генетики. Если бы вы могли решить генетические заболевания, предотвратить деменцию или болезнь Альцгеймера через генетическое перепрограммирование, это было бы замечательно.Поэтому я думаю, что генетика может быть второй по важности проблемой. Я считаю важным иметь высокополосный интерфейс с мозгом, поскольку в настоящее время мы ограничены полосой пропускания. У нас есть цифровое третичное я в виде электронной почты, компьютеров, телефонов, приложений — мы фактически сверхчеловеческие, но чрезвычайно ограничены в пропускной способности интерфейса между корой и этой третичной цифровой формой себя.Помощь в решении этого ограничения пропускной способности была бы, я считаю, очень важна и для будущего.Sam AltmanОдин из самых частых вопросов, которые я слышу от амбициозной молодежи: я хочу быть следующим Илоном Маском. Как мне это сделать?Очевидно, следующий Илон Маск будет работать над совсем другими вещами. Но что вы делали в молодости, что, по вашему мнению, подготовило вас к большому влиянию?Elon MuskНу, прежде всего, я должен сказать, что я не ожидаю быть вовлечённым во все эти вещи. Пять вещей, о которых я думал в колледже 25 лет назад, это сделать жизнь мультипланетной, ускорить переход к устойчивой энергии, Интернет в целом, затем генетику и ИИ.Я не ожидал, что буду причастен ко всему этому. На самом деле, в колледже я думал, что помощь в электрификации автомобилей — это то, что я искал, и в качестве стажера я работал над продвинутыми ультраконденсаторами, чтобы посмотреть, будет ли прорыв по сравнению с батареями для хранения энергии в автомобилях.Когда я приехал в Стэнфорд, я собирался работать в аспирантуре над передовыми технологиями хранения энергии для электромобилей. Затем я отложил это и в 1995 году начал интернет-компанию, потому что казалось, что есть время для конкретных технологий, когда они находятся в крутой точке кривой роста.Я не хотел получать докторскую степень в Стэнфорде и просто смотреть, как всё происходит.И я не был полностью уверен, что технология, над которой я бы работал, действительно добьётся успеха.Вы можете получить докторскую степень по многим предметам, которые в конечном итоге не имеют практического применения в мире. И я просто пытался быть полезным. Вот моя оптимизация. Это вопрос: что я могу сделать, что будет действительно полезно?Sam AltmanВы думаете, что люди, желающие быть полезными, должны получать докторские степени?Elon MuskВ основном нет.Sam AltmanКакой лучший способ это использовать?Elon MuskНекоторые да, но в основном нет.Sam AltmanКак человек должен понять, как он может быть наиболее полезным?Elon MuskЧто бы ни было то, что вы пытаетесь создать, полезность этого по сравнению с текущим состоянием искусства, умноженная на количество людей, которых это затронет. Поэтому я считаю, что что-то, что делает большую разницу, но затрагивает небольшое или среднее количество людей, это замечательно, так же как и что-то, что делает даже малую разницу, но затрагивает огромное количество людей.Площадь под кривой? Да, именно. Площадь под кривой будет примерно одинаковой для этих двух случаев. Итак, по сути это просто попытка быть полезным и иметь значение, когда выSam Altmanпытаетесь оценить вероятность успеха. Значит, вы говорите, что это будет действительно полезно. Хорошая площадь под кривой. Возьмём пример SpaceX, когда вы приняли решение, что действительно это сделаете — это был довольно безумный шаг на тот момент.Elon MuskОчень безумный. Очень безумный. Да. Люди не стесняются говорить это, но я согласен, я согласился с ними, что это было довольно безумно. Безумно, если целью было получить наилучший риск-скорректированный доход, то начинать свою компанию просто сумасшедство. Но это не была моя цель. Я просто пришёл к выводу, что если мы ничего не сделаем для улучшения ракетных технологий, мы останемся на Земле навсегда.А крупные аэрокосмические компании просто не были заинтересованы в радикальных инновациях. Они только пытались немного улучшить свою старую технологию каждый год. И на самом деле иногда она ухудшалась. А особенно в ракетостроении это довольно плохо. В 1969 году мы могли добраться до Луны на Saturn V, а затем космический корабль мог только доставить людей на низкую орбиту Земли.А затем космический корабль был выведен из строя. И этот тренд в сущности идёт к нулю.Если вы думаете, что технология автоматически улучшается каждый год, это не так. Это улучшается только если умные люди работают как сумасшедшие, чтобы её улучшить. Вот как любая технология на самом деле улучшается. А сама по себе технология, если люди не работают над ней, будет деградировать. Посмотрите на историю цивилизаций — на древний Египет, где они строили потрясающие пирамиды, а потом просто забыли, как их строить.И даже иероглифы — они забыли, как их читать. Посмотрите на Рим, как они строили невероятные дороги, акведуки, водопровод, а потом забыли, как всё это делать.История полна таких примеров.Поэтому нужно всегда помнить, что энтропия не на вашей стороне.Sam AltmanМне очень нравится в вас то, что вы необычайно бесстрашны и готовы идти вперёд, несмотря на то, что люди говорят вам, что это безумно. Я знаю много довольно безумных людей, но вы выделяетесь. Откуда это берётся? Или как вы принимаете решение, когда все говорят, что это безумная идея?Откуда вы берёте внутреннюю силу, чтобы это делать?Elon MuskНу, прежде всего, я бы сказал, что на самом деле я чувствую страх довольно сильно. Итак, дело не в том, что у меня просто нет страха, я чувствую его очень сильно. Но бывают моменты, когда что-то достаточно важно, вы в это верите достаточно, что вы делаете это несмотря на страх.Sam AltmanИтак, говоря о важных вещах, таких как людиElon Muskне должны думать, люди не должны думать. Ну, я чувствую страх по этому поводу, и поэтому я не должен это делать. Это нормально чувствовать страх. Вы бы должны были. С вами должно быть что-то не так с психической точки зрения, если вы не чувствуете страх.Sam AltmanИтак, вы просто чувствуете это и позволяете его важности побудить вас сделать это все равно.Elon MuskДа, знаете, на самом деле то, что может быть полезным, это фатализм в определенной степени. Если вы просто примете вероятности, это уменьшит страх. Итак, при запуске SpaceX я думал, что шансы на успех были менее 10%, и я просто принял, что я, вероятно, потеряю все, но это может привести к некоторому прогрессу, если мы просто продвинем мяч вперед.Даже если мы умрем, может быть, какая-то другая компания могла бы взять эстафету и продолжить ее движение вперед. Итак, это все равно принесет некоторую пользу.Да, то же самое с Tesla. Я думал, что шансы на успех автомобильной компании были чрезвычайно низкими.Sam AltmanКак вы думаете, каковы шансы колонии на Марсе в этот момент?Elon MuskНу, как ни странно, я думаю, что они довольно хорошие.Sam AltmanИтак, когда я смогу идти, хорошо,Elon Muskна этом этапе я уверен, что есть способ. Я уверен, что успех - это один из возможных результатов для создания самоподдерживающейся мховой колонии, фактически растущей мховой колонии. Я уверен, что это возможно. Тогда как еще несколько лет назад я не был уверен, что успех вообще был одним из возможных результатов. Это значительное количество людей, идущих на Марс.Я думаю, что это потенциально то, что можно достичь примерно за 10 лет, может быть раньше, может быть девять лет.Мне нужно убедиться, что SpaceX не умирает между сейчас и потом, и что я не умру, или если я умру, то кто-то другой возьмет на себя, кто будет продолжать это.Sam AltmanВам не нужно идти на первый запуск.Elon MuskДа, ровно.Первый запуск все равно будет роботизированным.Sam AltmanЯ хочу идти. За исключением задержки Интернета.Elon MuskДа, задержка Интернета будет довольно значительной.Марс примерно в 12 световых минутах от Солнца, а Земля в 8 световых минутах. Итак, при ближайшем сближении Марс находится в 4 световых минутах. При самом дальнем подходе это 20, немного больше, потому что вы не можете напрямую говорить через Солнце.Sam AltmanГоворя о действительно важных проблемах, ИИ. Итак, вы были откровенны относительно ИИ. Можете ли вы рассказать, как вы думаете, выглядит позитивное будущее для ИИ и как мы туда попадем?Elon MuskЛадно, я хочу подчеркнуть, что это не то, что я отстаиваю, или это не предписывающее. Это просто, надеюсь, предсказуемо, потому что люди говорят, ну, это то, что я хочу, чтобы произошло, вместо того, что я думаю, вероятно, лучший из доступных альтернатив.Лучший из доступных мне альтернатив, и может быть, кто-то еще может придумать лучший подход или лучший результат, заключается в том, что мы достигнем демократизации технологии ИИ, что означает, что никакая одна компания и небольшая группа лиц не имеют контроля над передовой технологией ИИ. Я думаю, что это очень опасно.Это также может быть украдено кем-то плохим. Как какой-то злой диктатор страны мог бы отправить свое разведывательное агентство украсть это и получить контроль. Это становится очень нестабильной ситуацией. Я думаю, если у вас есть какой-либо невероятно мощный ИИ, вы просто не знаете, кто будет это контролировать. Итак, это не так. Я думаю, что риск заключается в том, что ИИ развивает собственную волю с самого начала.Я думаю, что проблема в том, что кто-то может использовать это плохо. И даже если они не собирались использовать это плохо, но кто-то мог бы взять это у них и использовать плохо. Я думаю, что это довольно большая опасность. Итак, я думаю, что мы должны иметь демократизацию технологии ИИ и сделать ее широко доступной.И именно поэтому, очевидно, Yumi и остальная часть команды создали OpenAI, чтобы помочь с демократизацией, помочь распространить технологию ИИ, чтобы она не концентрировалась в руках немногих. Но потом, конечно, это должно быть объединено с решением проблемы высокой пропускной способности интерфейса к коре мозга.Sam AltmanЛюди такие медленные.Elon MuskЛюди такие медленные. Да, ровно. Но у нас уже есть ситуация в нашем мозге, где у нас есть кора и лимбическая система. И лимбическая система - это вроде как. Это примитивный мозг. Это как твои инстинкты и все такое. И потом кора - это мыслящая верхняя часть мозга. Эти два, похоже, довольно хорошо работают вместе иногда.Ваша кора и лимбическая система могут не согласиться, но они обычно работают довольно хорошо. Обычно работает довольно хорошо. И это как редко найти кого-то, кто. Я не нашел кого-то, кто хотел бы избавиться от своей коры или избавиться от своей лимбической системы.Sam AltmanОчень верно. Да.Elon MuskЭто необычно. Итак. Итак, я думаю, что если мы сможем эффективно слиться с ИИ, улучшив нейронную связь между вашей корой и вашим цифровым расширением себя, которое уже, как я сказал, уже существует, просто имеет проблему с пропускной способностью.И затем эффективно вы становитесь симбиотом ИИ-человека. И если это затем широко распространено, любой, кто захочет, может это иметь, то мы также решаем проблему контроля. Нам не нужно беспокоиться о каком-то злом ИИ-диктаторе, потому что мы все вместе ИИ. Это похоже на лучший результат. Я могу себе это представить.Sam AltmanИтак, вы видели другие компании на ранних этапах, которые начинаются с малого и становятся действительно успешными. Надеюсь, я не буду сожалеть об этом вопросе перед камерой, но как вы думаете, как дела у OpenAI? Как компания в возрасте шести месяцев?Elon MuskДумаю, дела будут идти хорошо. Думаю, в OpenAI у нас действительно талантливая группа. Похоже на то. Да, действительно талантливая команда и они усердно работают. OpenAI организована как некоммерческая организация 501c3, но многие НКО не имеют чувства срочности. Это в порядке, они не обязаны иметь чувство срочности, но OpenAI его имеет.Думаю, люди действительно верят в миссию. Думаю, это важно, и это о минимизации риска экзистенциального вреда в будущем.И поэтому думаю, дела идут хорошо. Я довольно впечатлен тем, что люди делают, и уровнем их таланта. И конечно, мы всегда ищем отличных людей, которые верят в миссию.Sam AltmanСейчас около 40 человек. Ладно, еще несколько вопросов перед тем, как завершим. Как ты проводишь свои дни сейчас? То есть, на что ты отводишь большую часть своего времени?Elon MuskМое время в основном разделено. Ну, это между SpaceX и Tesla. И конечно, я стараюсь проводить часть каждой недели в OpenAI. Так что большую часть времени я провожу в основном половину дня в OpenAI большинство недель.А затем у меня есть какие-то дела OpenAI, которые происходят в течение недели. Но кроме того, это действительно SpaceX.Sam AltmanИ что ты делаешь, когда ты в SpaceX или Tesla? Как выглядит твое время там?Elon MuskДа, это хороший вопрос. Думаю, много людей думают, что я должен тратить много времени на СМИ или на деловые вещи. Но на самом деле почти все мое время, около 80%, я трачу на инженерию. Дизайн, инженерия и дизайн. Так что это разработка продукта следующего поколения.Это 80% от этого.Sam AltmanТы, вероятно, не помнишь это из очень давнего времени. Много, много лет назад ты возил меня на экскурсию по SpaceX, и самым впечатляющим было то, что ты знал каждую деталь ракеты и каждый инженерный элемент, который в нее вошел. И я не думаю, что много людей это понимают о тебе.Elon MuskДа, думаю, много людей думают, что я как-то деловой человек или что-то в этом роде, что в порядке, бизнес в порядке. Но как я. Но на самом деле, знаешь, это как SpaceX. Gwynne Shotwell - главный операционный директор. Она управляет юридическими, финансовыми вопросами, продажами и деятельностью в целом. А затем мое время почти полностью посвящено инженерной команде, работающей над улучшением Falcon 9 и космического корабля Dragon и разработкой архитектуры колониального Марса.А затем в Tesla это работа над Model 3 и работа в студии дизайна, обычно половину дня в неделю, занимаюсь эстетикой и внешним видом. А затем большую часть недели я занимаюсь инженерией самого автомобиля, а также инженерией завода. Потому что самое большое озарение в этом году - это то, что действительно имеет значение машина, которая строит машину, завод, и это в сотни раз более важно, чем сам автомобиль.Sam AltmanУдивительно наблюдать, как работают роботы, и эти автомобили просто появляются.Elon MuskДа. Сейчас это имеет относительно низкий уровень автоматизации по сравнению с тем, что будет у Gigafactory и у Model 3.Sam AltmanКакова скорость конвейера для этих автомобилей?Elon MuskНа самом деле, средняя скорость конвейера невероятно медленная. Это вероятно, включая как X, так и S, может быть пять, знаешь, пять сантиметров в секунду.Sam AltmanИ что ты можешь получить?Elon MuskЭто очень медленно.Sam AltmanИли на что ты хотел бы получить?Elon MuskЯ уверен, что мы можем достичь по крайней мере 1 метра в секунду. Итак, увеличение в 20 раз, это было бы очень быстро. Да. По крайней мере, я имею в виду, думаю, что 1 метр в секунду, чтобы поставить это в перспективу, это медленная ходьба или ходьба средней скорости. Быстрая ходьба была бы полтора метра в секунду.А затем самые быстрые люди могут бегать более 10 метров в секунду.Итак, если мы делаем только 0,05 метра в секунду, это очень медленная текущая скорость. И при 1 метре в секунду ты все еще можешь ходить быстрее, чем производственная линия.