Подкаст Lex Fridman 12 ноября 2019 г. Второе появление Илона Маска в подкасте Lex Fridman («Neuralink, ИИ, Autopilot и Бледная голубая точка»): интерфейсы мозг-машина, автономность, искусственный интеллект и случай для создания многопланетного человечества.
Второе появление Илона Маска в подкасте Lex Fridman («Neuralink, ИИ, Autopilot и Бледная голубая точка»): интерфейсы мозг-машина, автономность, искусственный интеллект и случай для создания многопланетного человечества.
Расшифровка Это разговор с Elon Musk Часть 2, во второй раз, когда мы общались в подкасте с параллелями, если не по качеству, то по костюму, объективно говоря, величайшего продолжения всех времён, Godfather Часть 2. Как известно многим, Elon Musk является лидером Tesla, SpaceX, Neuralink и Boring Company. То, что может быть менее известно, это то, что он инженер и дизайнер мирового уровня, постоянно подчёркивающий первопринципное мышление и берущийся за большие инженерные задачи, которые многие до него считали бы невозможными. Как учёные и инженеры, большинство из нас не подвергают сомнению способ выполнения вещей. Мы просто следуем инерции толпы. Но революционные идеи, которые меняют мир в малых и больших масштабах, возникают, когда вы возвращаетесь к основам и спрашиваете: есть ли лучший способ? Этот разговор сосредоточен на невероятной инженерии и инновациях в интерфейсах мозг-компьютер в Neuralink. Эта работа обещает помочь в лечении нейробиологических заболеваний, помочь нам лучше понять связь между отдельным нейроном и высокоуровневой функцией человеческого мозга, и наконец однажды расширить ёмкость мозга через двусторонний обмен информацией с вычислительными устройствами, Интернетом и системами искусственного интеллекта. Это подкаст Artificial Intelligence. Если вам нравится, подпишитесь на YouTube, Apple Podcasts, Spotify поддержите на Patreon или просто свяжитесь со мной в Twitter lexfriedman, пишется Ф Р И Д М А Н. И теперь, как анонимный комментатор YouTube, назовите наш предыдущий разговор цитатой, исторически первое видео двух роботов, общающихся без надзора. Вот второй раз, второй разговор с Elon Musk. Давайте начнём с лёгкого вопроса о сознании. На ваш взгляд, является ли сознание чем-то уникальным для людей, или это что-то, что пронизывает всю материю, почти как фундаментальная сила физики?
Я не думаю, что сознание пронизывает всю материю.
Панпсихисты верят в это. Да, есть философский вопрос как ты это узнаешь. Это правда. Это хорошее замечание.
Я верю в научный метод или что-то вроде того. Но научный метод таков: если вы не можете проверить гипотезу, то вы не можете прийти к значимому выводу о том, что это истинно.
Думаете ли вы, что понимание сознания находится в пределах достижения науки, научного метода?
Мы можем значительно улучшить наше понимание сознания. Знаете, я с трудом могу сказать, что мы что-либо понимаем с полной точностью. Но можем ли мы значительно улучшить наше понимание сознания? Я верю, что ответ да.
Должна ли система ИИ, по вашему мнению, иметь сознание, чтобы достичь уровня интеллекта человека или сверхчеловеческого уровня? Должна ли она иметь некоторые из этих человеческих качеств, таких как сознание, может быть тело, может быть страх смерти, способность любить, такие глупые человеческие вещи.
Есть научный метод, в который я очень верю, где что-то истинно в той степени, в которой это проверяемо. И в противном случае вы действительно просто говорите о предпочтениях или непроверяемых убеждениях или такого рода вещах. Так что это оказывается своего рода семантическим вопросом, где мы смешиваем много вещей со словом интеллект. Если мы разберём их и скажем, движемся ли мы в направлении будущего, где ИИ сможет превзойти нас во всём, то ответ безусловно да.
Для того чтобы система ИИ, которой нужно превзойти нас во всём, также нужна была способность иметь сознание, самосознание и понимание.
Они будут иметь самосознание. Да. Это отличается от сознания. Я имею в виду, для меня, с точки зрения того, как ощущается сознание. Кажется, что сознание находится в другом измерении, но это может быть просто иллюзией. Если вы физически повредите мозг каким-то образом, вы повредите своё сознание, что подразумевает, что сознание является физическим явлением. По моему мнению, весьма вероятно, что цифровой интеллект сможет превзойти нас во всём, и скоро он сможет имитировать то, что мы считаем сознанием. Настолько, что вы не сможете заметить разницу.
И с точки зрения научного метода, это может быть столь же сознанием, если мы можем идеально его имитировать.
Если вы не можете заметить разницу, и это своего рода тест Тьюринга, но подумайте о более продвинутой версии теста Тьюринга. Если вы говорите с цифровым суперинтеллектом и не можете сказать, является ли это компьютером или человеком, например, у вас просто разговор по телефону или видеоконференция, где вы думаете, что говорите с человеком, который делает все правильные интонации и движения и все мелкие тонкости, которые составляют человека, говорит как человек, делает ошибки как человек, и вы буквально не можете сказать. Видеоконференция ли вы с человеком или ИИ?
Может быть. Это может быть также человеком. Итак, на более тёмную тему, вы выразили серьёзную озабоченность по поводу экзистенциальных угроз ИИ. Это, пожалуй, одна из величайших проблем, с которыми сталкивается наша цивилизация. Но поскольку я бы сказал, что мы своего рода оптимистичные потомки обезьян, возможно, мы сможем найти несколько путей избежания вреда от ИИ. Так что если я могу дать вам три варианта, может быть, вы сможете прокомментировать. Какой, по вашему мнению, самый многообещающий? Один это масштабирование усилий на безопасность ИИ и исследования благоприятного ИИ в надежде найти алгоритмическое или, может быть, политическое решение. Два это стать многопланетным видом как можно быстрее. И три это слияние с ИИ и использование волны этого возрастающего интеллекта, поскольку он постоянно улучшается. Что вы думаете, что является наиболее многообещающим, наиболее интересным как цивилизация, в которую мы должны инвестировать?
Я думаю, что в ИИ идёт огромное количество инвестиций. Где существует нехватка инвестиций, так это в безопасность ИИ. И должно быть, по моему мнению, государственное агентство, которое контролирует всё, что связано с ИИ, чтобы подтвердить, что это не представляет риска для общественной безопасности. Точно так же, как существует нормативно-правовой орган, например Food and Drug Administration, есть NHTSA для безопасности автомобилей, есть FAA для безопасности авиации. Мы обычно приходим к выводу, что важно иметь государственного рефери, который служит общественным интересам и обеспечивает безопасность, когда существует потенциальная опасность для общества. Я бы утверждал, что каждый ИИ безусловно является чем-то, что имеет потенциал быть опасным для общества и поэтому должен иметь нормативный орган, точно так же как другие вещи, которые опасны для общества, имеют нормативный орган. Но позвольте мне сказать, проблема в том, что правительство движется очень медленно. И обычно способ, которым возникает нормативный орган, заключается в том, что происходит что-то ужасное. Есть огромное общественное возмущение, и через годы после этого вводится нормативный орган или правило. Возьмите что-то вроде ремней безопасности. Было известно в течение десятилетия или более, что ремни безопасности будут иметь огромное влияние на безопасность и спасут так много жизней и серьёзных травм. И автомобильная промышленность боролась с требованием установить ремни безопасности всеми силами. Это безумие. И сотни тысяч людей, вероятно, умерли из-за этого. И они сказали, что люди не будут покупать автомобили, если в них будут ремни безопасности, что явно абсурдно. Или посмотрите на табачную промышленность и то, как долго они боролись с чем-либо о курении. Это частично причина того, почему я помог сделать этот фильм. Спасибо за курение. Вы можете видеть, насколько зловредно это может быть, когда эти компании эффективно достигают нормативного захвата правительства. Плохие люди в сообществе ИИ называют приход цифрового суперинтеллекта сингулярностью. Это не означает, что это хорошо или плохо, но что очень трудно предсказать, что произойдёт после этого момента, и что существует некоторая вероятность того, что это будет плохо, некоторая вероятность того, что это будет хорошо. Мы, очевидно, хотим повлиять на эту вероятность и сделать так, чтобы она была более хорошей, чем плохой.
Ну, позвольте мне перейти к вопросу о слиянии с ИИ и невероятной работе, которая ведётся в Neuralink. Здесь происходит много увлекательных инноваций в разных дисциплинах. Итак, гибкие провода, роботизированная швейная машина и отзывчивое движение мозга, всё, что обеспечивает безопасность и так далее. Итак, мы в настоящее время очень мало понимаем о человеческом мозге. Вы также надеетесь, что работа в Neuralink поможет нам лучше понять наш. О человеческом разуме, о мозге?
Да, я думаю, что работа в Neuralink определённо пролит много света на то, как работают мозг и разум. Прямо сейчас данные, которые у нас есть о том, как работает мозг, очень ограничены. У нас есть ФМРТ, это похоже на использование стетоскопа снаружи стены завода, а затем размещение его по всей стене. И ты можешь услышать звуки, но ты действительно не знаешь, что делают машины. Это сложно. Ты можешь вывести несколько вещей, но это очень общий штрих. Чтобы действительно знать, что происходит в мозге, тебе действительно нужно. Ты должен иметь высокоточные датчики. И потом ты хочешь иметь стимул и ответ. Например, если ты активируешь нейрон, как ты себя чувствуешь? Что ты видишь? Как это меняет твоё восприятие
мира, о котором ты говоришь? Физически, просто приблизившись к мозгу, возможность измерения сигналов от мозга даст нам что-то вроде открытия двери внутри завода.
Да, совершенно верно. Возможность иметь высокоточные датчики, которые показывают, что делают отдельные нейроны, а затем возможность активировать нейрон и увидеть ответ в мозге. Итак, ты можешь увидеть последствия: если ты срабатываешь этот нейрон, что происходит? Как ты себя чувствуешь? Что меняется? Это будет действительно глубоко иметь это у людей, потому что люди могут выразить свои изменения. Например, если есть изменение настроения, или если они могут сказать вам, видят ли они лучше или слышат лучше, или могут ли лучше или хуже составлять предложения, или их воспоминания возобновляются, или что-то в этом роде.
Итак, со стороны человека есть эта невероятная общая пластичность человеческого мозга. Человеческий мозг адаптируется, приспосабливается и так далее.
Итак, это не так пластично, если быть совершенно честным.
Итак, есть твёрдая структура, но тем не менее есть некоторая пластичность. И открытый вопрос: если бы я мог задать широкий вопрос, насколько можно использовать эту пластичность, со стороны человека есть некоторая пластичность в человеческом мозге. А со стороны машины у нас есть нейронные сети, машинное обучение, искусственный интеллект. Это способно адаптироваться и понимать сигналы. Итак, есть таинственный язык, который мы не совсем понимаем, который находится в человеческом мозге. И потом мы пытаемся понять этот язык для общения в обе стороны. Итак, мозг адаптируется немного. Мы не знаем как много, и машина адаптируется. Где ты видишь, когда они пытаются добраться друг к другу, почти как с инопланетным видом, попытаться найти протокол связи, который работает. Где ты видишь самый большой. Самая большая выгода приходит откуда? Со стороны машины или со стороны человека? Ты видишь, как они оба работают вместе?
Я думаю, что сторона машины намного более пластична, чем биологическая сторона на огромное количество. Итак, машина адаптируется к мозгу. Это единственное, что возможно. Мозг не может так хорошо адаптироваться к машине. Ты не можешь заставить нейроны начать рассматривать электрод как другой нейрон, потому что нейроны просто. Это похоже на импульс, и поэтому что-то ещё пульсирует. Итак, существует эта эластичность в интерфейсе, которую мы считаем чем-то, что может произойти. Но подавляющее большинство пластичности должно быть на стороне машины.
Но это интересно, когда ты смотришь на эту синаптическую пластичность со стороны интерфейса, может быть какая-то появляющаяся пластичность, потому что это совсем другое. Это не похоже на мозг. Это совсем другое расширение мозга. Ты знаешь, нам может потребоваться переопределить, что значит быть пластичным для мозга. Итак, может быть, мозг способен адаптироваться к внешним интерфейсам.
Будут какие-то корректировки мозга, потому что будет что-то, что читает и моделирует мозг, и поэтому он адаптируется к этому. Но подавляющее большинство корректировки будет на стороне машины. Если это просто. Это должно быть так, иначе это не будет работать. В конечном итоге, мы в настоящее время работаем на двух слоях. У нас есть что-то вроде первичного примитивного слоя лимбического мозга, откуда исходят все наши импульсы. Это похоже на то, что у нас есть мозг обезьяны с компьютером, приклеенным к нему. Это человеческий мозг. И большая часть наших импульсов и всё остальное управляется мозгом обезьяны и компьютером. Кора головного мозга постоянно пытается сделать мозг обезьяны счастливым. Это не кора, которая управляет мозгом обезьяны, мозг обезьяны управляет корой, знаешь ли, но кора это
часть, которая рассказывает историю всего этого. Итак, мы убеждаем себя, что это. Это более интересно, чем просто мозг обезьяны.
Кора - это то, что мы называем, например, человеческим интеллектом. Ты знаешь, поэтому это как продвинутый компьютер по сравнению с другими существами. Другие существа не имеют ни того, ни другого. У них нет компьютера или у них есть очень слабый компьютер по сравнению с людьми. Но кажется, что конечно умная вещь должна контролировать глупую вещь, но на самом деле глупая вещь контролирует умную вещь.
Итак, ты думаешь, что некоторые из тех же методов машинного обучения, будь то приложения обработки естественного языка, будут применены к общению между машиной и мозгом, чтобы научиться делать определённые вещи, такие как движение тела, обработка зрительных стимулов и так далее? Видишь ли ты ценность использования машинного обучения для понимания языка двусторонней коммуникации с мозгом?
Конечно, да, абсолютно. Я имею в виду, мы нейронная сеть, и, знаешь ли, ИИ в основном это нейронная сеть. Итак, цифровая нейронная сеть будет взаимодействовать с биологической нейронной сетью и, надеюсь, заберёт нас с собой. Но подавляющее большинство нашего интеллекта будет цифровым. Представьте себе, насколько огромна разница в интеллекте между корой головного мозга и вашей лимбической системой. Ваша лимбическая система действительно не понимает, что вообще делает кора. Она просто голодна, устала, злая, сексуально возбуждена или что-то в этом роде. И затем она передает этот импульс коре и говорит коре удовлетворить это. Затем огромное количество размышлений, поистине огромное количество мышления было направлено на секс без цели, без размножения. Без размножения, что. Что на самом деле довольно глупое действие. При отсутствии размножения это немного глупо. Так почему ты это делаешь? Потому что это делает лимбическую систему счастливой. Вот почему.
Но это действительно довольно абсурдно.
Ну, все существование в каком-то смысле довольно абсурдно.
Да, но я имею в виду, что много вычислений было вложено в это. Как я могу делать больше этого, когда размножение вообще не является фактором? Это очень важная область исследований nsfw,
агентство, которое должно получать много финансирования. Особенно после этого разговора.
Я предлагаю создание нового агентства.
О боже. Какие самые захватывающие или некоторые из самых захватывающих вещей, которые вы видите в будущем влиянии Neuralink на науку, инженерию и общество?
Итак, я думаю, что Neuralink сначала решит много болезней головного мозга. Вроде аутизма, шизофрении, потери памяти. Как каждый испытывает потерю памяти в определенном возрасте, родители не могут вспомнить имена своих детей и тому подобное. Итак, я думаю, что Neuralink может сделать огромное количество добра в решении. Критического повреждения мозга или спинного мозга. Есть много что можно сделать для улучшения качества жизни людей, и это будет. Это будут шаги на пути, а затем в конечном итоге предназначены для решения риска, экзистенциального риска, связанного с цифровым суперинтеллектом, поскольку мы не сможем быть умнее, чем цифровой суперкомпьютер. Итак, если вы не можете их победить, присоединитесь к ним и отпустите. У нас не будет такого варианта.
Итак, вы надеетесь, что Neuralink сможет быть своего рода соединением, чтобы позволить нам слиться, ездить на волне совершенствующихся систем искусственного интеллекта.
Я думаю, что шанс выше нуля процентов.
Итак, это ненулевое. Есть шанс. И это.
Вы видели Dumb and Dumber?
Итак, я говорю, что есть шанс.
Вы говорите один на миллиард или один на миллион, какой бы это ни был.
И Dumb and Dumber, знаете ли, это прошло от может быть одного на миллион к улучшению. Может быть, это будет один из 1 000, затем один из 100, затем один из 10. Зависит от скорости совершенствования Neuralink и от того, как быстро мы можем продвигаться вперед, знаете ли.
Ну, я говорил с несколькими людьми здесь, они очень талантливые инженеры, поэтому я в восторге.
Да, я думаю, это в основном хорошо, знаете ли, возвращение полного моторного контроля кому-то после травмы спинного мозга, восстановление функции мозга после инсульта, решение изнурительных генетически оранжевых болезней мозга. Я думаю, что все это невероятно здорово. И чтобы это сделать, вы должны иметь возможность взаимодействовать с нейронами на детальном уровне, активировать правильные нейроны, читать правильные нейроны, и затем вы можете создать цепь, заменить поврежденное кремнием и по сути восполнить недостающую функциональность. И затем со временем мы можем иметь, мы разрабатываем третичный слой. Итак, если лимбическая система является первичным слоем, то кора похожа на второй слой. И я сказал, очевидно, что кора намного более интеллектуальна, чем лимбическая система. Но люди обычно любят тот факт, что у них есть лимбическая система и кора. Я не встречал никого, кто хотел бы удалить любого из них. Они говорят: хорошо, я сохраню обоих. Это круто.
Лимбическая система как-то забавна.
И затем люди обычно не хотят потерять свою кору. Итак, наличие коры и лимбической системы. Да, и. И затем есть третичный слой, который будет цифровым суперинтеллектом, и я думаю, что есть место для оптимизма, учитывая, что кора очень интеллектуальна, а лимбическая система - нет, и все же они хорошо работают вместе. Возможно, может быть третичный слой, где находится цифровой суперинтеллект, и это будет намного более интеллектуально, чем кора, но все же будет мирно сосуществовать доброжелательно с корой и лимбической системой.
Это очень захватывающее будущее как в низкоуровневой инженерии, которую я видел здесь, так и в реальной возможности в течение следующих нескольких десятилетий.
Важно, чтобы Neuralink решил эту проблему скорее, чем позже, потому что момент, когда у нас есть цифровой суперинтеллект, это когда мы переходим через особенность и все становится очень неопределенным. Это не означает, что они обязательно плохие или хорошие, но момент, в который мы переходим через особенность, все становится крайне нестабильным. Итак, мы хотим иметь интерфейс человеческого мозга до особенности или, по крайней мере, не задолго после нее, чтобы минимизировать экзистенциальный риск для человечества и сознания, как мы его знаем.
Но здесь в Neuralink есть много захватывающих реальных инженерных проблем низкого уровня, которые очень интересны.
Проблемы, с которыми мы сталкиваемся в Neuralink, это материаловедение, электротехника, программное обеспечение, механическая инженерия, микрообработка. Это набор инженерных дисциплин. По сути, все сводится к тому, что у вас должен быть крошечный электрод. Он такой маленький, что не повреждает нейроны, но должен прослужить столько же, сколько человек, поэтому прослужит десятки лет. И затем вы должны взять этот сигнал, вы должны обработать этот сигнал локально при низкой мощности. Итак, нам нужно много инженеров по проектированию микросхем, потому что мы будем обрабатывать сигналы и делать это очень энергоэффективным способом, чтобы мы не нагревали ваш мозг, потому что мозг очень чувствителен к нагреву. И затем мы должны взять эти сигналы и сделать с ними что-то, и затем мы должны стимулировать обратно, чтобы вы могли иметь двустороннюю коммуникацию. Итак, если кто-то хорош в материаловедении, программном обеспечении, механической инженерии, электротехнике, проектировании микросхем, микрообработке, это то, над чем нам нужно работать. Нам нужно стать хорошими в материаловедении, чтобы мы могли иметь крошечные электроды, которые служат долго. И это сложная вещь с проблемой материаловедения, потому что вы пытаетесь читать и стимулировать электрически в электрически активной области. Ваш мозг очень электрически активен и электрохимически активен. Итак, как вы можете иметь, скажем, покрытие на электроде, которое не растворяется со временем и безопасно в мозге. Это очень сложная проблема. И как вы собираете эти сигналы наиболее эффективным образом, потому что у вас очень мало энергии для обработки этих сигналов, и нам нужно автоматизировать весь процесс. Это как Lasik. Если это будут делать нейрохирурги, это никогда не сможет масштабироваться на большие числа людей. И это должно масштабироваться на большие числа людей, потому что в конечном счёте мы хотим, чтобы будущее определялось большим числом людей.
Как вы думаете, это имеет шанс революционизировать хирургию вообще? Итак, нейрохирургия и да, конечно, это
должно быть как Lasik. Если бы LASIK нужно было делать руками, то есть вручную человеком, это было бы не очень хорошо, знаете ли, но это делает робот, и офтальмолог просто должен убедиться, что ваша голова в правильном положении, а затем просто нажимает кнопку и всё.
Итак, умный вызов. И вскоре автопарковка справляется со всей красивой сложностью парковочных мест и неречевым общением между людьми. Я думаю, что это действительно может иметь глубокое влияние на то, как наша цивилизация смотрит на ИИ и робототехнику. Потому что это первый раз, когда люди, люди, которые не владеют Tesla, может быть, никогда не видели Tesla и не слышали о Tesla, могут смотреть на сотни тысяч машин без водителя.
Вы видите это так? Это как образовательный инструмент для всего мира об ИИ. Вы чувствуете тяжесть этого, возбуждение от этого, или вы просто думаете, что это функция умной парковки?
Я думаю, что вы поднимаете что-то важное, и это то, что большинство людей никогда на самом деле не видели робота. А что это за машина, которая автономна? Это четырёхколёсный робот, верно?
Да. Это передаёт определённое сообщение, охватывающее всё - от безопасности до того, что может принести ИИ, до его текущих ограничений, его текущих проблем. Это то, что возможно. Вы чувствуете тяжесть этого? Почти как коммуникатор-преподаватель для всего мира об ИИ.
Мы просто пытаемся облегчить жизнь людям с помощью автономности. Но теперь, когда вы это упоминаете, я думаю, что это будет откровением для людей о робототехнике, потому что они действительно никогда не видели, большинство людей никогда не видели робота. И есть сотни тысяч Tesla. Не пройдёт много времени, прежде чем их будет миллион с автономными возможностями, которые ездят без человека внутри. И вы можете видеть, как развивается личность и мышление машины. С каждой итерацией автопилота вы можете видеть, что он неуверен в этом или... Но теперь он более уверен. Теперь он движется немного по-другому. Я могу сразу сказать, если машина на Tesla Autopilot, потому что у неё есть маленькие нюансы в движении. Она просто движется немного по-другому. Машины на Tesla Autopilot, например, на шоссе намного точнее держатся в центре полосы, чем люди. Если вы едите вниз по шоссе и смотрите, где находятся управляемые людьми машины, они находятся в пределах своей полосы. Они как бампер-кары. Они как бы движутся по всему месту. Машина на автопилоте, мёртвый центр.
Да. Итак, невероятная работа, которая вкладывается в ту нейронную сеть, она учится быстро. Автономность всё ещё очень, очень сложна. Мы на самом деле не знаем, насколько это сложно полностью. Конечно, вы смотрите на большинство проблем, вы решаете эту, включённую, с экспоненциальной перспективой. Но даже с экспоненциальным улучшением, вещи могут занимать больше времени, чем ожидается, иногда. Итак, где Tesla в настоящее время стоит в своём стремлении к полной автономности? Какое у вас ощущение? Когда мы сможем увидеть успешное развёртывание полной автономности?
Ну, на шоссе уже, вероятность вмешательства чрезвычайно низка.
Итак, для автономности на шоссе, с последней версией особенно, вероятность необходимости вмешательства действительно довольно низка. На самом деле, я бы сказал, что для движения с остановками, это намного безопаснее, чем человек. Прямо сейчас. Вероятность травмы или столкновения намного, намного ниже для пилота в машине, чем для человека. А затем с помощью навигации и автопилота вы можете менять полосы, брать развязки на шоссе, а затем мы подходим к этому с другой стороны - низкоскоростная полная автономность. И в каком-то смысле, это как, как человек учится водить? Вы учитесь водить на парковке. Первый раз, когда вы учитесь водить. Вероятно, вы не прыгали на Market street в San Francisco. Это было бы сумасшедшим. Вы учитесь водить на парковке, делаете всё правильно на низкой скорости, а затем недостающая часть, над которой мы работаем, - это светофоры и знаки остановки, мягкие улицы, я бы сказал, что это на самом деле также относительно легко, потому что вы более или менее знаете, где находится знак остановки. В худшем случае, вы можете геокодировать его, а затем использовать визуализацию, чтобы увидеть, где находится линия, и остановиться на линии, чтобы устранить ошибку GPS. Итак, на самом деле, я бы сказал, что это, вероятно, сложно. Светофоры и очень извилистые дороги - это две вещи, которые нужно решить.
Что сложнее? Восприятие или управление для этих проблем. Итак, возможность идеально воспринимать всё или разработать план, как только вы всё воспримете. Как взаимодействовать со всеми агентами в окружающей среде. На ваш взгляд, с точки зрения обучения, восприятие или действие сложнее в этой огромной, красивой мультизадачной нейронной сети?
Самое сложное - это иметь точное представление физических объектов в векторном пространстве. Итак, берём визуальный вход, в основном визуальный вход, плюс сонар и радар, а затем создаём точное представление объектов вокруг вас в векторном пространстве. Как только у вас есть точное представление в векторном пространстве, планирование и управление относительно легче. Это звучит относительно легко. По сути, как только у вас есть точное представление в векторном пространстве, то это как бы видеоигра, как машины в Grand Theft Auto или что-то в этом роде. Они работают довольно хорошо. Они ездят по дороге, они почти не разбиваются, если только вы не врезаетесь в них. Это потому, что у них есть точное представление в векторном пространстве, где находятся машины, а затем они рендерят это как вывод.
Есть ли у вас общее впечатление, что Tesla на пути к достижению полной автономности? Итак, на шоссе, да, абсолютно. И всё ещё нет контроля состояния водителя, обнаружения водителя.
И у нас есть датчик водителя с крутящим моментом на колесе.
Правильно, да. Кстати, быстро об караоке. Большинство думают, что это весело, но я также считаю это функцией вождения. Я долго говорю, что пение в машине очень полезно для управления вниманием и бдительностью.
Tesla караоке - это здорово. Это одна из самых забавных функций машины.
Вы видите связь между весельем и безопасностью? Иногда да.
Если вы можете делать оба одновременно, это отлично.
Я только что встретился с Andrew N. Жена Carl Sagan, которая режиссировала Cosmos.
В целом я большой поклонник Carl Sagan. Он очень крут и хорошо объяснял - весь разум, вся цивилизация, всё, что мы когда-либо знали и делали, находится на этой крошечной голубой точке. Люди также слишком зацикливаются на своих разногласиях между собой. Не думают о большой картине. Они считают цивилизацию и наше продолжающееся существование само собой разумеющимся. Они не должны так делать. Посмотрите на историю цивилизаций. Они возникают и падают. И теперь цивилизация - это всё. Она глобализирована. И поэтому цивилизация, как я думаю, теперь возникает и объединяется. Нет географической изоляции. Это большой риск. Вещи не всегда идут вверх. Это должно быть так. Это важный урок истории.
В 1990 году по просьбе Carl Sagan космический корабль Voyager 1, который достигает дальше, чем что-либо, созданное человеком в космос, развернулся, чтобы сфотографировать Earth на расстоянии 3.7 миллиарда миль. И когда вы говорите о бледной голубой точке. Это изображение занимает менее одного пикселя на этом изображении.
Появляясь как крошечная голубая точка, как бледная голубая точка, как назвал её Carl Sagan. Так он говорил об этой нашей точке в 1994 году. И если бы вы могли мне помочь, я интересовался, смогли бы вы за последние две минуты прочитать слова, которые он написал об этом. Быть способным.
Это смешно. Вселенная, похоже, имеет возраст 13.8 миллиардов лет. Earth примерно 4.5 миллиардов лет старая. Примерно через пол миллиарда лет солнце расширится и, вероятно, испарит океаны и сделает жизнь невозможной на Earth. Это означает, что если бы сознанию потребовалось на 10% больше времени для эволюции, оно бы вообще никогда не эволюционировало, просто на 10% больше. И я интересуюсь, сколько мёртвых однопланетных цивилизаций есть там в космосе, которые никогда не добрались до другой планеты и в конечном итоге либо потушили себя, либо были уничтожены внешними факторами. Вероятно, несколько. Путешествие на Mars вообще едва возможно. Едва ли. FG был на 10% больше. Действительно не сработало бы. Если бы G был на 10% ниже, это было бы легко. Как будто вы можете совершить один этап с поверхности Mars прямо до поверхности Earth. Потому что Mars имеет 37% земной гравитации, нам нужен гигантский разгонный блок. Уйти с Earth. Обращаясь к Carl Sagan. Посмотрите ещё раз на эту точку. Это здесь. Это дом. Это мы. На ней. Все, кого вы любите, все, кого вы знаете, всех, о ком вы когда-либо слышали, каждый человек, который когда-либо жил и прожил свою жизнь, совокупность нашей радости и страдания. Тысячи компетентных религий, идеологий и экономических доктрин, каждый охотник и собиратель, каждый герой и трус, каждый создатель и разрушитель цивилизации, каждый король и крестьянин, каждая молодая влюблённая пара, каждая мать и отец, надеющийся ребёнок, изобретатель и исследователь, каждый учитель морали, каждый коррупционный политик, каждая суперзвезда, каждый верховный лидер, каждый святой и грешник в истории нашего вида жили там на пылинке, висящей в солнечном луче. Наша планета - одинокая крупинка в великой окружающей космической темноте. В нашей неясности, во всей этой безбрежности, нет никакого намёка на то, что помощь придёт откуда-то ещё, чтобы спасить нас от самих себя. Earth - единственный известный пока мир, в котором есть жизнь. Нет больше негде, по крайней мере в ближайшем будущем, куда могла бы мигрировать наша раса. Это неправда. Это ложь. Mars.
И я думаю, что Carl Sagan согласился бы с этим. Он даже не мог этого себе представить в то время. Итак, спасибо вам за то, что даёте миру мечтать, и спасибо за разговор сегодня. Я действительно это ценю.