← Назад12 апреля 2019 г.Подкаст Lex FridmanС участиемLex Fridman0:00 / 0:00CC1×YouTubeПодкаст Lex Fridman12 апреля 2019 г.Первое появление Илона Маска в подкасте Lex Fridman, посвящённое Tesla Autopilot и автопилоту.Первое появление Илона Маска в подкасте Lex Fridman, посвящённое Tesla Autopilot и автопилоту.РасшифровкаLex FridmanДалее следует беседа с Илоном Маском. Он генеральный директор Tesla, SpaceX, Neuralinkи соучредитель нескольких других компаний. Эта беседа является частью подкаста Artificial Intelligence. Серия включает ведущих исследователей из академической средыи промышленности, включая генеральных директоров и главных технологических руководителейавтомобильных, робототехнических, ИИ и технологических компаний. Эта беседа произошла после публикациистатьи от нашей группы в MITо функциональной бдительности водителя при использовании автопилота Tesla. Команда Tesla обратилась ко мне с предложением провести подкаст-беседу с господином Маском. Я согласился с полным контролем над вопросами, которые я мог задать, и выбором того, что выходит в публику. В конце концов, я ничего существенного не удалил. Я никогда не говорил с Илоном до этой беседы, ни публично, ни в приватном порядке.Ни он, ни его компании не имеют никакого влияния на мое мнение, также как и на строгость и честность научного метода, который я практикую в своей должности в MIT. Tesla никогда финансово не поддерживала мои исследования, и я никогда не владел автомобилем Tesla. Я никогда не владел акциями Tesla. Этот подкаст не является научной работой. Это беседа.Я уважаю Илона так же, как я уважаю всехдругих лидеров и инженеров, с которыми я разговаривал. Мы согласны по некоторым вопросам и не согласны по другим. Моя цель, как всегда в таких беседах, - понять, как гость видит мир. Одной из точек разногласия в этой беседе была то, насколько мониторинг водителя на основе камеры улучшит результаты и как долго это останется актуальным для вождения с помощью ИИ.Как человек, который работает над ориентированным на человека искусственным интеллектом и увлечен им, я верю, что если мониторинг водителя на основе камеры будет эффективно реализован и интегрирован, он будет полезен как в краткосрочной, так и в долгосрочной перспективе. В отличие от этого, основное внимание Илона и Tesla сосредоточено на улучшении Autopilot таким образом, чтобы его статистические преимущества в безопасности перевешивали любые опасения относительно поведения и психологии человека.Илон и я можем не согласиться во всем, но я глубоко уважаю инженерное дело и инновации, которые стоят за усилиями, которыми он руководит. Моя цель здесь - стимулировать строгое, нюансированное и объективное обсуждение вождения с помощью ИИ в промышленности и академии, которое в конечном итоге создает более безопасный и лучший мир. И теперь вот моя беседа с Илоном Маском.Какое было видение, мечта Autopilot в начале, на уровне системы в целом, когда он был впервые задуман и начал устанавливаться в 2014 году. Аппаратное обеспечение и автомобили. Какое было видение, мечта?Elon MuskЯ бы не охарактеризовал это как видение или мечту, просто очевидно, что в автомобильной промышленности происходят две масштабные революции. Одна - это переход на электрификацию, а другая - это автономность. И мне стало очевидно, что в будущем любой автомобиль без автономности будет примерно таким же полезным, как лошадь.Это не значит, что лошади бесполезны. Просто редко и несколько своеобразно, если кто-то держит лошадь в наши дни. Поэтому очевидно, что автомобили будут полностью управляться сами. Это просто вопрос времени. И если бы мы не участвовали в революции автономности, то наши автомобили не были бы полезны людям по сравнению с автономными автомобилями.Я имею в виду, что автономный автомобиль, по-видимому, стоит в 5-10 раз больше, чем неавтономный автомобиль в долгосрочной перспективе. Зависит от того, что вы имеете в виду под долгосрочной перспективой, но давайте скажем, по крайней мере на следующие пять лет, может быть, 10 лет.Lex FridmanИтак, есть множество оченьинтересных проектных решений в Autopilot на ранних этапах. Во-первых, отображение на панели приборов или в Model 3 на центральном дисплее того, что видит комбинированный набор датчиков. Какова была логика этого выбора? Было ли обсуждение? Каков был процесс?Elon MuskВся суть дисплея - это проверка того, как транспортное средство воспринимает реальность. Итак, транспортное средство получает информацию из множества датчиков, в основном из камер, но также из радара, ультразвука, GPS и так далее. А затем эта информация преобразуется в векторное пространство с множеством объектов со свойствами, такими как линии полос, светофоры и другие автомобили, а затем в векторном пространстве это снова отображается на экран.Итак, вы можете подтвердить, знает ли автомобиль, что происходит или нет, посмотрев в окно.Lex FridmanВерно. Я думаю, что это чрезвычайно мощная вещь для людей - получить понимание, стать одним целым с системой и понять, на что эта система способна. Теперь, рассматривали ли вы возможность показывать больше? Так что, если мы посмотрим на компьютерное зрение, вы знаете, такое как сегментация дороги, обнаружение полос, обнаружение транспортных средств, обнаружение объектов, которые лежат в основе системы, то на краях есть некоторая неопределенность.Рассматривали ли вы раскрытие частей неопределенность в системе, то естьElon Muskвероятностей, связанных с, скажем, распознаванием изображений или что-то в этом роде?Lex FridmanДа. Итак, прямо сейчас он показывает автомобили в окрестности, очень чистое, четкое изображение. И люди подтверждают, что передо мной есть автомобиль, и система видит, что передо мной есть автомобиль. Но чтобы помочь людям развить интуицию относительно того, что такое компьютерное зрение, показывая некоторую неопределенность.Elon MuskНу, я думаю, это мой автомобиль. Я всегда смотрю на что-то вроде представления отладки, и есть два представления отладки. Один - это дополненное зрение, которое, я уверен, вы видели, где мы в основном рисуем прямоугольники и метки вокруг распознанных объектов. А затем есть то, что мы называем визуализатором, который по сути является представлением векторного пространства, которое суммирует входные данные от всех датчиков, не показывает никаких изображений, но показывает всеПо сути, он показывает взгляд автомобиля на мир в векторном пространстве. Но я думаю, что это очень сложно для обычных людей для понимания. Они не знали бы, на что они смотрят.Lex FridmanИтак, это почти проблема HMI, так как то, что сейчас отображается, оптимизировано для понимания широкой публикой того, на что способна система.Elon MuskЭто как если бы вы не имели никакого представления о том, как работает компьютерное зрение или что-либо еще, вы все равно можете посмотреть на экран и увидеть, знает ли автомобиль, что происходит. И если вы инженер разработки или у вас есть разработка, как у меня, то вы можете увидеть всю информацию об отладке. Но для большинства людей это было бы просто полной ерундой.Lex FridmanКакой у вас взгляд на то, как лучше всего распределить усилия? Итак, есть три, я бы сказал, технических аспекта Autopilot, которые действительно важны. Итак, это основные алгоритмы, такие как архитектура нейронной сети, данные, на которых она обучена, и затем разработка аппаратного обеспечения. Могут быть и другие, но смотрите, алгоритм, данные, аппаратное обеспечение.У вас есть только столько денег, только столько времени. Как вы считаете, на что самое важное выделять ресурсы? Или вы видите это как довольно равномерно распределённое между этими тремя?Elon MuskМы автоматически получаем огромные объёмы данных, потому что все наши автомобили имеют восемь наружных камер и радар, а также обычно 12 ультразвуковых датчиков, GPS, очевидно, и IMU.И поэтому у нас есть парк, который имеет.У нас есть примерно 400,000 автомобилей на дороге, которые имеют этот уровень данных. Я думаю, вы на самом деле довольно внимательно это отслеживаете.Lex FridmanДа.Elon MuskДа. Итак, мы приближаемся к половине миллиона автомобилей на дороге, которые имеют полный набор датчиков.Lex FridmanДа.Elon MuskИтак, это. Я не уверен, сколько других автомобилей на дороге имеют этот набор датчиков, но я был бы удивлен, если бы это было более 5,000, что означает, что у нас есть 99% всех данных.Lex FridmanИтак, есть этот огромный приток данных.Elon MuskАбсолютно массивный приток данных. И потом нам потребовалось около трёх лет, но теперь мы наконец разработали наш полный компьютер самоуправления, который может обрабатывать на порядок больше, чем система Nvidia, которая у нас сейчас в автомобилях. И это действительно просто - вы отсоединяете компьютер Nvidia и подключаете компьютер Tesla, и готово.И это, это. На самом деле, мы даже не. Мы всё ещё исследуем границы его возможностей. Мы смогли запустить камеры с полной частотой кадров, полным разрешением, даже не обрезая изображения. И у него всё ещё есть запас прочности даже в одной из систем. Полный компьютер самоуправления - это действительно два компьютера, две системы на одном чипе, которые полностью избыточны.Итак, вы можете забить болт практически в любую часть этой системы, и она всё ещё работает.Lex FridmanИзбыточность, они идеальные копии друг друга или. Итак, это чисто для избыточности, в отличие от архитектуры машины, которая спорит, где они оба принимают решения. Это чисто для избыточности, я думаюElon Muskбольше похоже, если у вас есть двухмоторный самолёт, коммерческий самолёт, система будет работать лучше всего, если обе системы работают, но она способна работать безопасно на одной.Но как это сейчас, мы можем просто запустить. Мы ещё не достигли предела производительности, поэтому нет необходимости распределять функциональность между обеими SOC. Мы можем просто запустить полный дубликат на каждом.Lex FridmanИтак, вы действительно не исследовали и не достигли предела этого.Elon MuskВы ещё не достигли предела.Lex FridmanИтак, магия глубокого обучения в том, что оно улучшается с данными. Вы сказали, что есть огромный приток данных. Но дело в том, что при вождении действительно ценные данные для обучения - это граничные случаи. Итак, как вы. Я где-то слышал, как вы говорили об отключении автопилота как важный момент времени для использования. Есть ли другие граничные случаи или, возможно, вы можете говорить о тех граничных случаях, какие аспекты их могут быть ценными или если у вас есть другие идеи, как обнаружить всё больше и больше граничных случаев при вождении?Elon MuskНу, есть много вещей, которые изучаются. Есть, конечно, граничные случаи, когда кто-то на автопилоте и они берут управление, и тогда, хорошо, это триггер, который идёт в нашу систему, которая говорит, хорошо, они взяли управление для удобства или они берут управление, потому что автопилот работал неправильно? Также, скажем, мы пытаемся выяснить, какая оптимальная сплайн для пересечения перекрёстка.Тогда те, где нет вмешательств, - правильные. Итак, вы говорите, хорошо, когда это выглядит так, сделайте следующее.И тогда вы получаете оптимальную сплайн для сложного навигирования в сложном перекрёстке.Lex FridmanИтак, это для этого. Итак, есть своего рода обычный случай. Вы пытаетесь захватить огромное количество образцов конкретного перекрёстка. Как, когда всё прошло правильно. И тогда есть граничный случай, где, как вы сказали, не для удобства, но что-то прошло не совсем правильно.Elon MuskКто-то взял ручное управление от Автопилота. И действительно, способ смотреть на это - рассматривать все входные данные как ошибку. Если пользователь должен был вводить, это что-то делает. Все входные данные - это ошибка.Lex FridmanЭто мощная линия, думать об этом так, потому что это может быть и ошибкой. Но если вы хотите выехать на трассу или если вы хотите, это решение навигации, которое Autopilot в настоящее время не разработан для этого. Тогда водитель берёт управление.Elon MuskКак вы узнаете разницу, которая изменится с Navigate и Autopilot, которые мы только что выпустили и без подтверждения. Итак, навигация, как смена полосы на основе утверждения управления для смены полосы или выезда с трассы или выполнения обмена трассы. Большинство этого исчезнет с выпуском, который только что вышел.Lex FridmanДа, итак, я не думаю, что люди вполне понимают, насколько это большой шаг.Elon MuskДа, они не понимают. Итак, если вы водите автомобиль, то вы понимаете.Lex FridmanИтак, вы всё ещё должны держать руки на рулевом колесе в настоящее время, когда она делает автоматическую смену полосы. Что. Итак, есть эти большие скачки в развитии Autopilot, через его историю. И что выделяется для вас как большие скачки? Я бы сказал, это, навигация автопилота без подтверждения, без необходимости подтверждения - это огромный скачок.Elon MuskЭто огромный скачок. Это также автоматически обгоняет медленные автомобили. Итак, это как навигация, так и поиск самой быстрой полосы. Итак, это обгонит медленные машины и выедет с трассы и возьмет обмены трассы.И тогда у нас есть распознавание светофора, которое было представлено первоначально как предупреждение, я имею в виду в версии разработки, когда я вожу автомобиль, он полностью останавливается и едет на светофорах.Lex FridmanИтак, это шаги. Да. Вы только что упомянули что-то похожее на намёк шага к полной автономии. Что бы вы сказали о самых больших технологических препятствиях к полному самоуправлению?Elon MuskНа самом деле, я думаю, мы только что полный компьютер самоуправления, который мы только что, Tesla, что мы называем компьютером FSD, который сейчас в производстве.Итак, если вы закажете любую модель SRX или любой Model 3, у которого есть полный пакет самоуправления, вы получите компьютер FSD.Это важно иметь достаточную базовую вычислительную мощность, а затем уточнить нейронную сеть и управляющее программное обеспечение.Но всё это может быть предоставлено как дистанционное обновление. Самое глубокое наблюдение, которое я буду подчёркивать на инвесторском дне, посвящённом автономности, это то, что автомобили, производимые в настоящее время с имеющимся оборудованием, способны к полному самоуправлению.Lex FridmanНо слово «способны» интересно, потому чтоElon Muskкак само оборудование. И по мере того как мы совершенствуем программное обеспечение, возможности будут расти экспоненциально, затем надёжность будет расти экспоненциально, и затем это получит нормативное одобрение. По сути, покупка автомобиля сегодня — это инвестиция в будущее. Вы по сути покупаете.Я думаю, что самое главное — это то, что если вы сегодня купите Tesla, я убеждён, что вы покупаете растущий актив, а не депрециирующий актив.Lex FridmanЭто действительно важное утверждение, потому что если оборудование достаточно мощно, модернизировать его сложно.Elon MuskДа, обычно. Именно.Lex FridmanТогда всё остальное — это проблема программного обеспечения.Elon MuskДа, программное обеспечение практически не имеет предельных затрат.Lex FridmanНо какова ваша интуиция по поводу программного обеспечения? Насколько сложны оставшиеся шаги, чтобы достичь того, когда опыт — не только безопасность, но полный опыт — будет чем-то, что людям нравилось бы?Elon MuskНу, я думаю, что люди это очень ценят. На шоссе это полностью меняет качество жизни при использовании Tesla Autopilot. Это означает просто расширение функциональности на городские улицы, добавление распознавания светофоров, навигацию сложных перекрёстков и способность ориентироваться в запутанных паркингах, чтобы автомобиль мог выехать с парковочного места и приехать к вам, даже если это полный лабиринт.И тогда вы просто можете выйти, а машина сама найдёт парковочное место.Lex FridmanДа. С точки зрения удобства, парковка — это очень раздражающая задача, когда приходится делать это вручную. Поэтому автоматизация здесь приносит огромные выгоды. Давайте немного вернём в эту дискуссию человеческий фактор.Итак, поговорим о полной автономности. Если посмотреть на текущие транспортные средства уровня 4, тестируемые на дороге, такие как Waymo, они технически автономны только в смысле. На самом деле это системы уровня 2 с просто другой философией дизайна. Потому что почти всегда есть водитель безопасности в почти всех случаях, и они мониторят систему.Считаете ли вы, что полное самоуправление Tesla ещё какое-то время будет требовать присмотра человека? То есть его возможности достаточно мощны для вождения, но тем не менее требуют, чтобы человек всё ещё надзирал, как водитель безопасности в других полностью автономных транспортных средствах?Elon MuskЯ думаю, что придётся требовать обнаружение рук на руле по крайней мере примерно шесть месяцев отсюдаLex Fridmanдействительно,Elon Muskэто вопрос, в смысле, с нормативной точки зрения, насколько безопаснее автопилот должен быть, чем человек, чтобы было приемлемо не мониторить автомобиль?И это дискуссия, которую можно вести. Ну, с большой выборкой и большим объёмом данных вы можете с высокой уверенностью доказать статистически, что автомобиль намного безопаснее человека и что наличие человека, мониторящего систему, не оказывает существенного влияния на безопасность. Так что это может потребоваться быть примерно на 200 или 300% безопаснее, чем человек.Lex FridmanИ как вы это доказываете?Elon MuskКоличество инцидентов на милю.Lex FridmanКоличество инцидентов на милю. Так что аварии и летальные исходы, да, летальные исходы быElon Muskбыли фактором, но просто недостаточно смертей, чтобы быть статистически значимым в масштабе. Но аварий достаточно. Аварий намного больше, чем летальных исходов. Так что вы можете оценить вероятность аварии.Затем следующий уровень — вероятность травмы, затем постоянной травмы, затем смерти. И все эти показатели должны быть намного лучше, чем у человека, минимум на 200%.Lex FridmanИ вы считаете, что возможна здоровая дискуссия с регуляторными органами на эту тему?Elon MuskЯ имею в виду, это совершенно очевидно, что регуляторы уделяют непропорционально много внимания тому, что генерирует прессу. Это просто объективный факт. И Tesla генерирует много прессы. Так вот, в Соединённых Штатах примерно 40 000 смертей в автомобильных авариях в год, но если в Tesla будет 4 смерти, они получат примерно в тысячу раз больше внимания прессы.Lex FridmanПсихология этого действительно интересна. Я думаю, у нас не будет времени это обсуждать. Но я должен поговорить с вами о человеческом фактере. Я и моя команда в MIT недавно опубликовали статью о функциональной бдительности водителей при использовании Autopilot. Мы это изучаем с момента, когда Autopilot был впервые открыт для публики более трёх лет назад, собирая видеозаписи лиц водителей и их поведения.Я видел, что вы ретвитили цитату из аннотации, так что могу предположить, что вы это просмотрели.Elon MuskДа.Lex FridmanВерно. Могу ли я рассказать вам, что мы нашли?Elon MuskКонечно.Lex FridmanИтак, оказывается, что в собранных нами данных водители сохраняют функциональную бдительность, и мы анализируем примерно 18 000 отключений от автопилота. 18 900. И аннотирование. Смогли ли они своевременно взять контроль? То есть они были там, смотрели на дорогу и готовы были взять контроль?Это противоречит тому, что предсказывает литература о бдительности при использовании автоматизации. Теперь вопрос: думаете ли вы, что эти результаты применимы ко всему населению? Наша выборка просто небольшая часть, как вы думаете? Один из аргументов — что есть небольшое меньшинство очень ответственных водителей, у которых снижение бдительности возрастёт при использовании автопилота.Elon MuskЯ думаю, что всё это вскоре станет неактуальным. Я имею в виду, система совершенствуется так быстро, что это очень скоро перестанет иметь значение.Если система во много раз безопаснее человека, то добавление человека имеет ограниченный эффект на безопасность и фактически может быть отрицательным.Lex FridmanЭто действительно интересно. Так что тот факт, что некоторый процент населения может показывать снижение бдительности, не повлияет на общие показатели безопасности?Elon MuskНет, фактически я думаю, что это произойдёт очень скоро, возможно, даже к концу этого года. Но я был бы очень удивлён, если бы это не произошло в следующем году — когда вмешательство человека начнёт снижать безопасность. Это как если бы вы представили себя в лифте. Раньше были операторы лифтов, и вы не могли войти в лифт самостоятельно и работать рычагом, чтобы переходить между этажами.А теперь никто не хочет оператора лифта, потому что автоматический лифт, который останавливается на нужных этажах, намного безопаснее, чем оператор лифта. И фактически было бы довольно опасно иметь человека с рычагом управления, который может двигать лифт между этажами.Lex FridmanЭто действительно мощное и интересное утверждение. Но я также должен спросить, с точки зрения пользовательского опыта и безопасности, одна из моих страстей алгоритмически — это обнаружение на основе камеры, просто восприятие человека, но определение того, на что смотрит водитель. Когнитивная нагрузка, поза тела. С точки зрения компьютерного зрения, это увлекательная проблема.Но вы, и многие в индустрии верят, что нужен мониторинг водителя на основе камеры, вы думаете, может ли быть выгода от мониторинга водителя?Elon MuskЕсли у вас есть система на уровне или ниже надежности человека, то мониторинг водителя имеет смысл. Но если ваша система значительно лучше, более надежна, чем человек, то мониторинг водителя не помогает много. И как я сказал, точно так же, как вы не хотели бы, чтобы кто-то был в интервью, как вы не хотели бы, чтобы кто-то был в лифте, когда вы в лифте, вы действительно хотите, чтобы кто-то с большим рычагом, какой-то случайный человек управлял лифтом между этажами?Я бы этому не доверял. Или скорее иметь кнопки.Lex FridmanХорошо, вы оптимистичны по поводу темпа улучшения системы. Исходя из того, что вы видели с полнымElon Muskкомпьютером самоуправляемого автомобиля, темп улучшения экспоненциален.Lex FridmanТак что один из других очень интересных ранних дизайнерских выборов, который связан с этим, это операционная область проектирования автопилота. Итак, где автопилот может быть включен.Итак, контраст. Другая система автомобиля, которую мы изучаем, это система Cadillac Super Cruise. Это с точки зрения ОДД, очень ограничено определенными типами шоссе, хорошо нанесено на карту, протестировано, но это намного уже, чем ОДД автомобилей Tesla.Есть добавить. Да, это хорошо, это хорошая линия.Какое было решение в дизайне в этой другой философии мышления, где есть плюсы и минусы, что мы видим с широким ОДД, это драйв. Водители Tesla могут больше исследовать ограничения системы, по крайней мере изначально, и они понимают вместе с дисплеем панели приборов, они начинают понимать, какие возможности.Так что это преимущество. Минус в том, что вы позволяете водителям использоватьElon Muskэто в основном в любом месте, где можно обнаружить полосы с уверенностью.Lex FridmanБыла ли там философия, проектные решения, которые были сложными и которые были приняты там, или с самого начала это было сделано намеренно, с целью?Elon MuskНу, я имею в виду, я думаю, это откровенно довольно сумасшедшее. Позволить людям управлять 2-тонной смертельной машиной вручную, это сумасшедство. В будущем люди говорили, я не могу поверить, что кому-то просто было разрешено управлять одной из этих 2-тонных смертельных машин и они могли просто ездить куда угодно, как лифты. Вы просто перемещаете лифт этим рычагом, куда хотите.Он может остановить его посередине между этажами, если хотите.Это довольно сумасшедшее. Так что в будущем будет казаться безумным, что люди водили машины.Lex FridmanИтак, у меня есть куча вопросов о человеческой психологии, о поведении и так далее, которое бы стало этим.Потому что вы верите в систему ИИ? Не вера, но как с аппаратной стороны, так и подход глубокого обучения обучения на основе данных сделает это намного безопаснее, чем люди.Elon MuskДа, точно.Lex FridmanВ последнее время есть несколько хакеров, которые обманули Autopilot действовать неожиданными способами с враждебными примерами.Итак, мы все знаем, что нейронная сетьсистемы очень чувствительны к небольшим возмущениямк этим враждебным примерам на входе. Вы думаете, возможно ли защитить от чего-то подобного для индустрии?Elon MuskКонечно.Lex FridmanМожете ли вы подробнее рассказать об уверенности, стоящей за этим ответом?Elon MuskНу, хорошо. Нейронная сеть — это просто основной набор матричной математики. Вы должны быть как очень сложный кто-то, кто действительно понимает нейронные сети и в основном реконструирует, как строится матрица, а затем создает маленький предмет, который просто точно заставляет матричную математику немного смещаться. Но очень легко заблокировать это, имея в основном анти-отрицательное распознавание.Если система видит что-то, что выглядит как матричный взлом, исключите это.Это так легко делать.Lex FridmanИтак, учитесь как на допустимых данных, так и на неправильных данных. Итак, в основном учитесь на враждебных примерах, чтобы иметь возможность их исключить.Elon MuskДа, вы в основном хотите знать как то, что такое автомобиль, так и то, что определенно не является автомобилем, для которого вы тренируетесь. Это автомобиль и это определенно не автомобиль. Это две разные вещи.Люди не имеют представления. Нейронные сети, действительно? Они, вероятно, думают, что нейронные сети включают только рыбалку крапивой.Lex FridmanИтак, как вы знаете. Итак, делая шаг за пределы Tesla и Autopilot, текущие подходы глубокого обучения все еще кажутся в некотором роде далеки от систем общего интеллекта. Вы думаете, что текущие подходы приведут нас к общему интеллекту, или нужно ли изобретать совершенно новые идеи?Elon MuskЯ думаю, нам не хватает нескольких ключевых идей для общего интеллекта, общего искусственного общего интеллекта, но это вскоре будет перед нами, а затем нам нужно будет выяснить, что делать, если у нас даже есть этот выбор.Удивительно, как люди не могут отличить, скажем, узкий ИИ, который позволяет автомобилю понять, что такое полоса, и ориентироваться на улицах, по сравнению с общим интеллектом. Это просто очень разные вещи. Ваш тостер и ваш компьютер — это оба машины, но один намного более сложный, чем другой.Lex FridmanВы уверены, что с Tesla вы можете создать лучший в мире тостер.Elon MuskЛучший в мире тостер, да. Лучший в мире самоуправляемый.Да.Для меня прямо сейчас это выглядит как игра, сет, матч. Я имею в виду, я не хочу быть самодовольным или чрезмерно уверенным, но именно так это выглядит. Это буквально то, как это выглядит прямо сейчас. Я мог бы быть неправ, но похоже, что Tesla намного впереди всех.Lex FridmanВы думаете, мы когда-нибудь создадим систему ИИ, которую мы можем любить и которая любит нас в глубоком, значительном смысле, как в фильме Her?Elon MuskЯ думаю, ИИ будет способен убедить вас влюбиться в него очень хорошо.Lex FridmanИ это отличается от нас, людей.Elon MuskВы знаете, мы начинаем входить в метафизический вопрос, такой как, существуют ли эмоции и мысли в другой области, чем физическая? И может быть, они существуют, может быть, они не существуют, я не знаю. Но с точки зрения физики, я склонен думать о вещах, вы знаете, как физика была моей основной подготовкой. И с точки зрения физики, по сути, если это любит вас так, что вы не можете сказать, является ли это реальным или нет.Это реально.Lex FridmanЭто физический взгляд на любовь.Elon MuskДа. Если нет. Если вы не можете доказать, что это не так. Если нет теста, который вы можете применить, чтобы различить разницу, то разницы нет.Lex FridmanПравильно. И это похоже на то, как если бы наш мир был симуляцией. Может не быть теста, чтобы различить между реальным миром и симуляцией. И поэтому с точки зрения физики, это может быть то же самое.Elon MuskДа, могут быть способы проверить, является ли это симуляцией. Могут быть. Я не говорю, что их нет, но вы можете себе представить, что симуляция могла бы это исправить. Как только сущность в симуляции найдёт способ обнаружить симуляцию, она может либо перезагрузиться, знаете ли, остановить симуляцию, запустить новую симуляцию или сделать одно из множества других действий, которые исправляют эту ошибку.Lex FridmanИтак, когда, возможно, вы или кто-то другой создадите систему AGI и сможете задать ей один вопрос, какой бы это был вопрос?Elon MuskЧто находится вне симуляции?Lex FridmanElon, спасибо большое за беседу сегодня. Было удовольствием.Elon MuskХорошо. Спасибо, Sa.