Ассоциация губернаторов штатов 15 июля 2017 г. Маск говорит губернаторам США, что ИИ — фундаментальный экзистенциальный риск, требующий активного регулирования, одновременно обсуждая Tesla, SpaceX и энергию.
Маск говорит губернаторам США, что ИИ — фундаментальный экзистенциальный риск, требующий активного регулирования, одновременно обсуждая Tesla, SpaceX и энергию.
Расшифровка Я знаю, что у каждого губернатора есть видение развития своего штата, и мы несем ответственность за принятие политик, которые помогут нашим гражданам и штатам процветать. Поэтому я попросил Elon присоединиться к нам сегодня и поделиться его мыслями о том, как губернаторы могут не только оставаться впереди, но и стать губернаторами инноваций. Итак, пожалуйста, присоединитесь ко мне и приветствуйте Elon Musk.
Добрый день и добро пожаловать. Elon. О, я хотел снять мой галстук, это правильно? Если я так сделаю, я пришел в
с галстуком, но потом мне сказали, что галстук немного тесный, поэтому
тогда нам обоим будет удобнее.
Звучит хорошо. Ну, спасибо, что пригласили меня.
Ценю ваше присутствие здесь сегодня. Знаете, когда я рядом с вами, трудно понять, с чего начать. Давайте начнем с того, что вас движет, что именно, когда вы просыпаетесь утром, вы видите проблему и хотите ее решить?
Я думаю, что движет мной - это то, что я хочу мочь думать о будущем и чувствовать себя хорошо с этим, чтобы мы делали все возможное, чтобы будущее было как можно лучше, быть вдохновленным тем, что, вероятно, произойдет, и с нетерпением ждать следующего дня.
это то, что действительно движет мной - попытка понять, как убедиться, что все будет отлично. И это основной принцип за Tesla и SpaceX - я думаю, что очень важно, чтобы мы ускорили переход к устойчивому производству и потреблению энергии. Это неизбежно, но имеет значение, произойдет ли это раньше или позже. А SpaceX - это помощь в том, чтобы сделать жизнь мультипланетной, и делать все, что мы можем, чтобы продолжить мечту Apollo и в конечном итоге внести вклад в становление жизни мультипланетной.
Давайте поговорим об этом подробнее. Я думаю, что всем очень интересно, что когда вы говорите о том, чтобы сделать жизнь мультипланетной, это волнующе. Это действительно волнующе. Итак, какое у вас видение там?
Знаете, я думаю, что особенно для американцев, подумайте о том, что America - это нация исследователей. Люди приходили сюда из других частей мира, которые выбрали отказаться от известного в пользу неизвестного. Поэтому я думаю, что исследование, как United States, это дистилляция человеческого духа исследования. И поэтому это так сильно привлекает американцев. Вы можете видеть это, когда произошла трагедия с шаттлом и семь человек умерли, и это ужасно, но много людей умирают все время. Но почему нам это так важно? Потому что это была мечта об исследовании, которая умирала вместе с этими людьми. Вот почему.
Нет, и я один из них. Вероятно, как и многие из вас, я помню точно, где я был, когда произошла эта трагедия. Итак, у вас здесь сегодня 30 и более губернаторов, и мы очень рады вашему желанию быть с нами. И вы, надеюсь, слышали, как я говорил немного о своей инициативе, которая заключается в том, чтобы быть впереди кривой. Что вы скажете нам как губернаторам? О чем мы должны думать с точки зрения инноваций и разработки государственной политики на будущее?
Ну, конечно, важно установить правила правильно. И знаете, это как-то в отношении законодательных и исполнительных действий, это как-то похоже, скажем, на профессиональный спорт или что-то в этом роде. Если у вас неправильно установлены правила, если нет, знаете, если игра не организована должным образом, это не будет хорошей игрой. Поэтому очень важно установить правила правильно. Я думаю, стоит отметить, что я считаю, что в United States правила все еще лучше, чем где-либо еще. Но знаете, очень легко установить что-то, что препятствует инновациям, не осознавая этого. Поэтому с точки зрения нормативной среды, всегда важно помнить, что нормативные акты бессмертны и они никогда не отмирают, если кто-то не пойдет и не отменит их. И тогда они приобретают большой импульс. Поэтому много раз нормативные акты могут быть введены по всем правильным причинам, но потом никто не возвращается и не избавляется от них позже, когда они больше не имеют смысла. И раньше было правило в начальные дни, когда люди были обеспокоены автомобилями, потому что было довольно страшно видеть карету, просто ездящую саму по себе. Вы никогда не знаете, что эти вещи могут сделать. Так что были правила, в которых вам пришлось бы, во многих штатах, где вам пришлось нести фонарь впереди автомобиля и быть примерно в 100 шагах впереди автомобиля, должен был быть кто-то с фонарем на палке, ну ладно, но вы действительно должны избавиться от этого нормативного акта. И они это сделали, знаете, это было бы действительно неловко. Поэтому просто нормативные акты, даже если они сделаны правильно и по правильным причинам в то время, всегда важно возвращаться и периодически их пересматривать, чтобы убедиться, что они все еще разумны и служат общему благу. Я думаю, с точки зрения налоговой структуры, что является экономически стимулирующим и что не является экономически стимулирующим? Просто убедитесь, что структура стимулов правильная. Я думаю, что я говорю здесь совершенно простые вещи, но это экономика 101. То, что вы стимулируете, произойдет. Поэтому, если вы стимулируете одно, оно будет иметь тенденцию происходить больше, чем другое.
Если вы стимулируете что-то другое, то произойдет это. И поэтому экономика должна благоприятствовать инновациям. И это особенно важно для защиты малых и средних компаний, потому что это как-то похоже на попытку вырастить дерево в лесу. Как это очень сложно для новой компании расти, когда она еще совсем молодая. Ей нужно намного больше защиты, чем если бы это был гигантский секвой или что-то в этом роде. Поэтому очень важно оказывать поддержку малым и средним компаниям на инновационном фронте. И это те, кто нуждается в этом больше, чем крупные компании. И я думаю, что в этот момент Tesla почти большая компания, в любом случае самая крупная компания. Поэтому я поддерживаю, знаете, поддержку меньших компаний по сравнению с Tesla.
Какой был бы ваш ответ? Потому что есть критики, что касается стимулов, и знаете, Tesla была, и я могу говорить из опыта, получателем стимулов, экономических стимулов, когда. Что касается гигафабрики.
Что бы вы сказали этим людям?
Да, я думаю, ну, прежде всего, как вы знаете, эти стимулы были немного преувеличены. В случае гигафабрики, это инвестиция в размере 5 миллиардов долларов, капитальные инвестиции, чтобы эта фабрика начала работать. И я не знал этого до, кстати, я не знал этого до тех пор, пока мы не провели пресс-конференцию, что за 20 лет стимулы Nevada добавили 1.3 миллиарда. На самом деле даже не знал этого. Но теперь он это рассказывает.
Буквально, я узнал об этом на пресс-конференции. Я как, правда? Нет, но я имею в виду, дело в том, что они взяли то, что накопилось за 20 лет, и выдали это так, будто Невада писала нам чек на 1,3 миллиарда долларов. И я все еще жду этот чек. Может быть, он потерялся на почте? Я не знаю. Итак, вот как работает пресса, конечно. Итак, если вы разделите 1,3 миллиарда на 20, получится, что Tesla в среднем получает что-то вроде налогового вычета. Ну, в основном это сводится к льготе по налогу с продаж и налогу на использование. Итак, Tesla получает примерно, мы получаем порядка 50-60 миллионов в виде льготы по налогу на продажи и использование, разделенной на 20 лет. И все это для объекта стоимостью 5 миллиардов долларов. Просто начнем. И тогда нам пришлось бы генерировать около 100 миллиардов долларов за этот период, чтобы достичь налоговой льготы в 1,3 миллиарда долларов. Таким образом, по сути, это чуть более 1% за этот период. И это отлично. Ладно, но это не совсем то, как это было описано в прессе. Но если поставить это в надлежащий контекст, это звучит как, ну, это аккуратно. Знаете, это помогает примерно на 5% при установке завода и примерно на 1% в течение следующих 20 лет. Класс. Это действительно звучит довольно разумно. И да, так что это было полезно, но есть много других факторов. И мы фактически получили немного более крупные пакеты стимулов от других штатов. Но мы учли, насколько быстро мы могли бы запустить Gigafactory в производство. Какие риски были связаны с этим прогрессом? Какова была бы логистика, стоимость, расходы со временем на передачу батарей и силовых установок на завод по производству автомобилей в Калифорнии? И, знаете, все эти факторы вместе - это то, что привело нас к решению в пользу Невады. И работать с вашей командой было здорово. Я был очень ориентирован вперед, и большая часть была также просто в том, чтобы убедиться, что вы чувствуете себя действительно желанным в пределах штата.
Это то, что привело нас к решению о Gigafactory. И тогда у нас есть еще один завод в Нью-Йорке, который занимается производством солнечных панелей. На самом деле, когда это будет завершено, это будет крупнейшим производителем солнечных панелей в Северной Америке. И тогда мы ожидаем создать, вероятно, как минимум две или три дополнительные гигафабрики в США в течение следующих нескольких лет, а также пару за рубежом. Но общая цель Tesla - действительно, какой набор действий мы можем предпринять, чтобы ускорить наступление устойчивого производства и потребления энергии? И я думаю, что способ оценить историческое значение Tesla - это в терминах скольких лет ускорения это было? И если мы сможем ускорить устойчивую энергию на 10 лет, я считаю это большим успехом. Надеюсь, даже если бы это было всего пять лет, это было бы все еще довольно хорошо. Это общая оптимизация.
Итак, вы немного говорили о межпланетных путешествиях, устойчивой энергии и автомобилях. Как бы вы хотели, чтобы вещи выглядели через 5-10 лет в отношении энергии и автономных транспортных средств, электромобилей?
Ну, я думаю, что все будет, они будут расти экспоненциально. Таким образом, между 5 и 10 годами есть большая разница. Знаете, мое предположение. Вероятно, через 10 лет более половины нового производства автомобилей будут электрическими в Соединенных Штатах. И Китай, вероятно, будет впереди, потому что Китай очень за электромобили. Я не думаю, что много людей об этом знают, но экологическая политика Китая намного впереди США. Их мандат на возобновляемые источники энергии намного превышает США. Я думаю, что иногда люди считают, что Китай либо тормозит, либо как-то отстает от США в продвижении устойчивой энергии. Но они, безусловно, самые агрессивные на земле. Это сумасшествие. Я имею в виду, фактически, коалиция китайских автопроизводителей только что обратилась к китайскому правительству с просьбой замедлить мандат, потому что это просто слишком много. Им нужно производить 8% электромобилей. Я думаю, в следующем году или через два года, или что-то в этом роде. Типа, они просто не могут это физически сделать. Итак, Китай, безусловно, самый агрессивный в отношении электромобилей и солнечной энергии. Итак. Но это распространенное неправильное представление, что они не являются. Кстати, это легко узнать, выполнив поиск в Google. Это действительно очень просто. Итак. И через 10. Да, 10 лет, чувак. Я думаю. Да, да. Итак, половина всего производства, я думаю, будут электромобили. Я думаю, что почти все произведенные автомобили будут автономными через 10 лет. Почти все. Редко будет встретить такой, который не будет автономным через 10 лет. Это будет огромная трансформация. Но важно помнить, что новое производство автомобилей составляет только около 5% от размера автопарка. Итак, подумайте, сколько лет служит автомобиль или грузовик? И они служат 15-20 лет. Прежде чем их, наконец, будут выбрасывать. Итак, новое производство автомобилей составляет только примерно максимум 1/15 от размера автопарка. Итак, даже когда новое производство автомобилей, скажем, переходит. Переходят на электричество или автономность, это все еще означает, что большинство автомобилей на дорогах таким не является. Потребуется еще, знаете, пять-десять лет, прежде чем это станет большинством. Большинство парка машин будут электромобили или автономные. Но если сказать, 20 лет, подавляющее большинство - электрические, автономные, просто подавляющее большинство.
Итак, никому не нужно будет касаться руля, если он вообще будет.
Руля не будет. Через 20 лет это будет похоже на содержание лошади. У людей есть лошади, что классно.
Итак, иметь обычный автомобиль будет похоже на то, чтобы иметь лошадь, это то, что вы имеете в виду?
Да, да. И будут люди, у которых есть неавтономные автомобили, как люди содержат лошадей. Было бы просто необычно использовать это как средство транспорта.
Да. Ладно, давайте поговорим об энергии, солнечной энергии на крышах и хранении энергии.
Да. Итак, прежде всего, важно понять, что Земля сегодня почти полностью работает на солнечной энергии в том смысле, что солнце - это единственное, что защищает нас от температуры примерно 3 градуса выше абсолютного нуля космического фонового излучения. Если бы не солнце, мы были бы замороженной ледяной чашей во тьме. Количество энергии, которая достигает нас от солнца, просто огромно. Это 99% плюс всей энергии, которая есть на Земле. Затем есть энергия, которую нам нужно использовать для управления цивилизацией, что для нас много. Но по сравнению с количеством энергии, которое приходит от солнца, это ничтожно мало. Поэтому это очень просто. На самом деле это не требует больших затрат. Если бы вы захотели питать всю Соединённые Штаты солнечными панелями, это потребовало бы
небольшой уголок Nevada, Texas, Utah, где угодно. Вам нужно всего около 100 миль на 100 миль солнечных панелей, чтобы питать весь United States. И батареи, которые вам нужны для хранения этой энергии, чтобы обеспечить круглосуточное питание, займут всего одну милю на одну милю, одну квадратную милю. Вот и всё. Я показал график изображения того, как выглядит 100 миль на 100 миль. Это был маленький квадрат на карте United States, и внутри него маленький пиксель — это размер батареи, которая вам нужна для её поддержки. Действительно крошечный размер.
Итак, Уилл, вы говорили о том, что будет через 20 лет? Ни один из нас. Ну, некоторые люди всё ещё будут использовать лошадей, или это не будет совсем нулевой процент. Да, но как будет выглядеть энергетическая компонента? Я имею в виду, будут ли линии электропередачи? Будет ли в них необходимость?
энергии можно примерно разделить на три области. Они более или менее равны на высоком уровне. Примерно треть энергии используется для различных видов транспорта. Примерно треть используется для производства электроэнергии, примерно треть используется для отопления. Итак, если вы хотите
производство электроэнергии, скажем, было на уровне примерно 10%, в зависимости от того, как считать, возобновляемая энергия составляет, может быть, 15% сегодня. Это означает, что нужно произвести и подключить огромное количество солнечной энергии, чтобы быть полностью устойчивыми. Потому что полностью устойчивым означает, что вы решаете задачи транспорта, невозобновляемой генерации электроэнергии и отопления. Итак, это означает, что потребуется комбинация солнечной энергии коммунального масштаба и кровельной солнечной энергии в сочетании с ветром, геотермальной энергией, гидроэнергией, вероятно, какой-то ядерной энергией
в течение какого-то времени
для перехода в устойчивое состояние. Это означает, что на деле потребуется массивный, просто огромный рост солнечной энергии. И будет важно иметь солнечные панели на крышах в жилых районах, потому что иначе потребуется построить новые мощные линии электропередачи. Люди не любят, когда линии электропередачи проходят через их район. Им это действительно не нравится. Я согласен. Итак, вы хотите иметь локальное производство энергии в сочетании с коммунальным. Вы хотите солнечные панели на крышах. Коммунальное. Солнечное. И это действительно будет решением с физической точки зрения, и я не вижу другого способа это сделать. Люди много говорят о синтезе, но солнце — это гигантский синтезный реактор в небе, и оно действительно надёжно, появляется каждый день. Итак, если бы оно не появлялось, у нас было бы намного больше проблем.
Кто-то попросил меня вас это спросить. Мы сегодня говорили о рабочей силе, но они спросили меня: будут ли роботы отнимать нашу работу, будущую работу всех? Как много вы видите искусственного интеллекта, вторгающегося на рабочее место?
Ну, прежде всего, я думаю, что на фронте искусственного интеллекта, вы знаете, я имею дело с самым передовым ИИ, и я считаю, что люди должны быть действительно озабочены этим. Я продолжаю бить в набат, но, вы знаете, пока люди не увидят роботов, идущих по улице и убивающих людей, они не знают, как реагировать, потому что это кажется таким эфирным. И я думаю, что мы должны быть действительно озабочены ИИ, и я думаю, что мы должны. ИИ — редкий случай, когда я думаю, что нам нужно быть проактивными в регулировании, а не реактивными. Потому что я думаю, что к тому времени, когда мы будем реактивны в регулировании ИИ, будет слишком поздно. Обычно регулирование происходит так: происходит куча плохих вещей, возникает общественный протест, а затем спустя много лет создаётся нормативный орган для регулирования этой отрасли. Есть множество сопротивления со стороны компаний, которые не хотят, чтобы их указывали регуляторы. Это занимает вечность. В прошлом это было плохо, но не представляло фундаментального риска для существования цивилизации. ИИ — это фундаментальный риск для существования человеческой цивилизации так, как автоаварии, авиакатастрофы, дефектные лекарства или плохая еда не были. Они не были. Они наносили вред отдельным людям в обществе, конечно, но они не наносили вред обществу в целом. ИИ — это фундаментальный экзистенциальный риск для человеческой цивилизации. И я не думаю, что люди это в полной мере понимают. Вы знаете, быть регулируемым — это не весело. Это не, вы знаете, может быть довольно раздражающим. Но, знаете, в автомобильном бизнесе, знаете, мы регулируемся Министерством транспорта, EPA и множеством других. И в каждой стране есть регулирующие органы. Знаете, в космосе мы регулируемся FAA и. Но, знаете, если вы спросите среднего человека, эй, вы хотите, хотите ли вы избавиться от FAA и просто рискнуть, что производители не будут срезать углы на самолётах, потому что, знаете, прибыль была низкой в квартале. Я подумал, чёрт нет, это звучит ужасно. Итак, знаете, я думаю, даже люди, которые довольно экстремально любят свободный рынок и либертарианство, они говорили, да, нам, вероятно, нужен кто-то, кто следит за авиакомпаниями, убеждаясь, что они создают хорошие самолёты и хорошие автомобили и всё в этом роде. Итак, знаете, я думаю, есть, есть очень важная роль для регуляторов, и я точно против чрезмерного регулирования, но, чувак, мы, я думаю, нам лучше заняться этим с AI Prono. И, конечно, будет много нарушений в работе, потому что то, что произойдёт, это ROAS сможет делать всё лучше, чем мы. Я включаю, я имею в виду, всех нас, знаете. Да. Не совсем уверен, что с этим делать. Это похоже, похоже, это действительно самая страшная проблема для меня, скажу вам. И да, поэтому я действительно думаю, что нам нужно государственное регулирование здесь, просто потому что это, знаете, обеспечение общественного блага. Потому что у вас есть компании, которые спешат, они должны спешить строить AI или они станут неконкурентоспособны. Знаете, по сути, если ваш конкурент спешит строить AI, а вы нет, они, они вас раздавят. Так что потом вы говорите, ах, мы не хотим быть раздавленными. Итак, знаете, я думаю, нам нужно спешить тоже. Вот где нужны регуляторы, чтобы сказать: эй, ребята, вам всем нужно действительно, знаете, просто остановиться и убедиться, что это безопасно. И, например, когда это круто, и мы убеждены, и регуляторы убеждены, что безопасно продолжать, тогда вы можете идти, но иначе замедлитесь и. Но вам нужны регуляторы, чтобы делать это для всех команд в игре, знаете, иначе акционеры будут говорить, эй, почему вы не развиваете AI быстрее? Потому что ваш конкурент говорит, ладно, мы лучше сделаем это в любом случае. Итак, это похоже, я имею в виду, примерно 12% рабочих мест в транспорте. Транспорт будет одним из первых, что полностью автоматизируется. Но когда я говорю всё, например роботы будут. Это будет делать всё. Кроме. Без исключений.
Давайте вернёмся к. Вы выпускаете Model 3 в этом году, верно? И сколько заказов? Как это будет выглядеть?
Да, это идёт хорошо на этом фронте. Получилось, я не знаю. Я думаю, если кто-то закажет Model 3 сегодня, он получит его, вероятно, в конце следующего года. Мы только что, фактически только что начали производство, создали первый серийный образец на прошлой неделе. И то, что не очень оценивается в отношении автомобилей и любых новых технологий, это то, как сложно заниматься производством. Производство в сто раз сложнее, чем создать прототип, создать этот автомобиль, создать один образец. С, может быть, 50 или 60 людьми мы могли бы создать прототип практически чего-либо за шесть месяцев. Теперь, чтобы производить это, нам нужно 5000 человек, чтобы потратить, знаете, три года. И это считается действительно быстро. Итак, производство делает этот вид S-кривой, где это невыносимо медленно в начале, а затем растёт экспоненциально, а затем люди склонны экстраполировать по прямой линии. Итак, если это действительно медленно в начале, они говорят, о, это действительно медленно. Посмотри на это. Они будут делать только пять автомобилей в неделю всегда. Типа, нет, это будет 10 автомобилей в неделю, затем 20 автомобилей в неделю, затем 40 автомобилей в неделю, затем 5000 автомобилей в неделю в итоге. Просто растёт сумасшедше быстро. Итак, мы надеемся достичь, знаете, чего-то, знаете, вроде 5000 автомобилей в неделю к концу года.
Что ж, я хотел дать возможность некоторым губернаторам задать вопросы и, возможно, некоторые вопросы аудитории. Мне сказали, что вы готовы это делать.
Итак, губернаторы, есть ли вопросы для Elon? Губернатор Scott?
Ну, спасибо большое. Мы в Vermont партнёрствовали с Tesla в отношении батареи в наших домах. И это $15 в день. Вы можете арендовать это на 15 лет, и это будет работать как резервный генератор на 12 часов. И это было действительно, действительно интересно с моей точки зрения, но я любопытен о транспортных средствах и куда мы идём в будущем или как далеко в будущем. Сами автомобили становятся зарядным устройством, например крыша, крышки палубы и капот? Или батареи становятся настолько эффективными, что вам это не нужно, а затем вы просто заряжаетесь на неделю или что-то в этом роде? Куда мы идём в будущем с хранением батареи?
Да, я думаю, будущее - это просто три ноги табурета. Есть электромобили, есть стационарная батарея и солнечная энергия. С этими тремя вещами вы можете иметь полностью устойчивое энергетическое будущее. Это всё, что нужно. На солнечном фронте, как я сказал, это будет сочетание солнечной энергии на крышах и солнечной энергии в масштабе предприятия. Вам нужно и то, и другое из-за огромного спроса на электричество. И затем, знаете, одно из того, что есть. То, что отсутствовало, я думаю, до сих пор, это наличие солнечной энергии на крыше, которая хорошо выглядит и не является. Знаете, вот где у нас есть солнечная стеклянная крыша, которую мы разрабатываем, и мы делаем её в разных стилях, чтобы она соответствовала эстетике конкретного дома или региональному стилю. Это снова, я думаю, это на самом деле довольно важно. И обычные плоские солнечные панели для плоских крыш и для коммерческого использования будут правильным путём. Но да, и размещение солнечных панелей на самом автомобиле не очень полезно, потому что фактическая площадь поверхности автомобиля не очень большая и автомобили очень часто находятся в помещении. И поэтому наименее эффективное место для размещения солнечных панелей - это на автомобиле.
Просто интересно о каком-то обёртывании. Это имеет смысл в будущем? Как, например, обёртывание солнечной энергии вокруг либо здания, сделанного из солнечной панели, либо обёртывание транспортного средства, которое на самом деле является солнечной панелью, но является
компонентами самого транспортного средства? Я так не думаю.
Это просто намного лучше положить её на крышу, конечно. Я действительно хорошо подумал об этом. Я имею в виду, действительно. И я давил на мою команду, не есть ли какой-то способ сделать это на машине? Я имею в виду технически, если у вас есть что-то вроде трансформатора, который выскочит из багажника как жесткий верх кабриолета и просто натянет солнечные панели на всю площадь поверхности автомобиля, распространяясь, скажем, на всю площадь парковки, если вы находитесь на солнце, это было бы достаточно для выработки около 20-30 миль электричества в день. Но это, несомненно, дорогой и сложный способ это сделать. Governor Bergam по-прежнему думал, может быть, мы должны.
Governor
Но Elon, спасибо, что вы здесь. С вашим опытом в системах платежей, вы понимаете важную роль безопасности и транзакций.
Теперь, когда у вас есть. Я думаю, что безопасность - это огромная проблема. Например, кибербезопасность.
Governor
Да. В автомобилях, которые вы сейчас строите, невероятно сложные программные системы. Я имею в виду, автомобиль - это действительно катящийся кусок программного обеспечения.
Да, это так. Это как портативный компьютер на колесах.
Governor
Да. Итак, поделитесь с нами немного своими мыслями о кибербезопасности и о том, как вы, как мы защищаемся. Вы говорите о защите общества, когда у вас есть движущийся парк.
Я думаю, что одна из самых больших рисков для автономных транспортных средств - это достижение взлома по всему парку. Вы знаете, в принципе, если бы кто-то смог взломать, скажем, все автономные Tesla, они могли бы сказать, я имею в виду, просто как шутка, они могли бы сказать вроде часового на Rhode Island
United States И я скажу, ну хорошо, это будет конец Tesla и будет много злых людей в Rhode Island, это точно. Итак, мы должны убедиться, что взлом по всему парку в основном невозможен, и что если люди находятся в автомобиле, они имеют право отмены на все, что делает автомобиль. Итак, если автомобиль делает что-то странное, вы можете нажать кнопку, которую никакое количество программного обеспечения не может переопределить, что обеспечит вам контроль над транспортным средством и отключит связь с серверами. Итак, это довольно фундаментально в автомобиле. У нас действительно есть. Даже если кто-то получит доступ к автомобилю, есть несколько подсистем в автомобиле, которые также имеют специализированное шифрование. Итак, трансмиссия, например, имеет специализированное шифрование. Итак, даже если кто-то получит доступ к автомобилю, они не смогут получить доступ к трансмиссии или к тормозной системе. И но моя главная проблема с точки зрения безопасности в Tesla - это убедиться, что взлом по всему парку или любой взлом по определенному транспортному средству не может произойти. У них та же проблема с мобильными телефонами. Вы знаете, это как-то сумасшедше сегодня, что мы живем довольно комфортно в мире, который George Orwell считал бы сумасшедшим. Например, мы все носим телефон с микрофоном, который может быть включен в любой момент, с нашим знанием, с GPS, который знает нашу позицию, и камерой, и хорошо, в основном все о личной информации. Мы делаем это добровольно. И это дикое думать, что это так. Итак, телефон, как Apple и Google, в основном имеет ту же проблему, чтобы убедиться, что не может быть взлома по всему парку или взлома по всей системе телефонов или конкретного взлома. Итак, это наша главная проблема. Да, это будет становиться все более и более важным вопросом. Tesla. Я не хочу здесь подкалывать, но Tesla довольно хороша в программном обеспечении по сравнению с другими автомобильными компаниями. И поэтому я думаю, что это будет немного большим вызовом для других автомобильных компаний обеспечить безопасность. Да.
Спасибо, Governor Dugard.
Governor
Спасибо, Governor. Mr. Musk, спасибо, что вы говорили со всеми губернаторами сегодня. Это честь иметь вас здесь. У меня был один вопрос. Мы видели, когда цены на бензин поднялись до 3,5 долларов за галлон, было большое увеличение интереса к гибридным транспортным средствам. Транспортные средства. И вы видели, что эти транспортные средства стали очень востребованы. И затем, когда цены на бензин упали, вы видели разворот этого. И я интересуюсь, в какой степени вы беспокоитесь о будущем электрических транспортных средств в условиях этих очень низких цен.
Вы можете рассказать об этом? Ну, экономика, она в основном устанавливает наклон кривой. Итак, без какого-либо сомнения в моем уме, что весь транспорт, с иронической исключением ракет, будет полностью электрическим. Всё. Самолеты, поезда, автомобили. Ну, много поездов уже электрические, все корабли.
Но это вопрос о том, какой это временной рамки. И экономическая структура стимулов направляет этот временной рамки. Это действительно на что это сводится. Вы знаете, большая проблема в том, что есть неоцененная побочность в стоимости ископаемых видов топлива. Итак, неоцененная побочность - это, вероятно, взвешенный вред от изменения химического состава атмосферы и океанов. Поскольку это не отражено в цене бензина, это не способствует правильному поведению. Вы знаете, это будет как если бы выбрасывание мусора было просто бесплатно и, вы знаете, не было бы, вы просто делаете столько, сколько хотите. Тогда, типа, деревья будут полны мусора. Итак. И мы регулировали много других вещей, таких как выбросы серы и выбросы оксида азота, такого рода вещи. Это много сделало хорошего на этом фронте с CO2. Это сложно, потому что так много вложенных интересов на стороне ископаемого топлива. И иногда я думаю, как те ребята чувствуют себя как-то плохо, потому что, вы знаете, это было не очевидно, когда они создавали свои нефтегазовые компании, что это было бы плохо для окружающей среды. И они очень усердно работали, чтобы создать эти компании. И затем они чувствуют, как, ну, теперь их атакуют на моральных основаниях, когда они. Они не начали эти нефтяные компании или не строили их на плохих моральных основаниях. И это правда, что мы не можем мгновенно изменить на устойчивую ситуацию, но тогда эти ребята также будут очень усердно бороться, чтобы замедлить изменение. И это действительно то, где я думаю, это морально неправильно.
Governor Bevin и затем Governor Hutchinson, затем мы возьмем пару. О, и затем Governor Hickenlooper, и затем мы возьмем некоторые вопросы аудитории.
Губернатор Бевит, Илон, спасибо, что вы здесь. Сначала краткая версия вопроса, потом немного более развёрнутая. Краткая версия: вы когда-нибудь ощущаете давление ожиданий других людей в отношении вас и ваших начинаний, учитывая достигнутый вами прогресс? Это краткая версия. И более конкретно, глядя только на Tesla с оценкой в $54 млрд, по стандартным рыночным показателям кажется, что это совсем не обоснованно?
Я просто говорю, что мне интересно. Я просто. Серьезно, вас никогда не беспокоит, что ваш интеллект, любознательность и инженерный талант не могут быть воплощены теми, кто пытается это коммерциализировать? Это когда-нибудь влияет на ваше мышление или решения, которые вы принимаете?
Ну, на самом деле, я считаю это довольно сложным, когда ожидания очень высокие. Я стараюсь снизить эти ожидания, чтобы они были реалистичными. Более того, я неоднократно говорил публично, что цена акции выше, чем мы имеем право заслуживать. И это, несомненно, верно, учитывая, где мы находимся сейчас и где мы были раньше. Таким образом, цена акции отражает огромный оптимизм относительно будущего Tesla. И то, что делает это для меня эмоционально сложным, так это то, что эти ожидания иногда выходят из-под контроля. А я ненавижу разочаровывать людей. Поэтому я очень стараюсь оправдать эти ожидания. Но это очень высокая планка. И, должен признать, это часто совсем не весело, намного менее весело, чем может показаться. Так что, я никогда не продаю акции, кроме как для налогообложения. Я публично заявил, что не буду выводить деньги со стола. Я буду последним. Я пойду вниз с кораблем, буду последним, кто это сделает. Но да, это просто. Я действительно никому не рекомендую открывать автомобильную компанию. Честно, не рекомендую. Это не рецепт счастья и свободы.
Спасибо, губернатор Бевин, губернатор Хатчинсон, мистер Маск,
Аса Хатчинсон из Арканзаса. Спасибо за ваши откровенные замечания об исследовании. Знаете, я восхищаюсь духом изобретения и духом исследования, которые являются истинной отличительной чертой Америки. Что вы скажете о NASA и её миссии? Я работал в Конгрессе и поддерживал NASA, но всегда чувствовал, что она барахтается и не получает поддержки американского народа, которая ей нужна. Что вы можете сказать о NASA, её миссии и какой совет вы нам дадите?
Прежде всего, я должен сказать, что я большой поклонник NASA. На самом деле, когда-то мой пароль был I love NASA. Буквально, это был мой пароль. И знаете, я думаю, что. NASA делает много хорошего, за что люди не всегда дают ей достаточное признание, и о чём широкая публика знает не так много. Очень много. Да, большинство людей не так интересуются строгой наукой. Знаете, это не то, чем люди занимаются большую часть времени. Я люблю строгую науку, но она не очень популярна. И вот. Но есть замечательные достижения в области телескопов, таких как Hubble и James Webb, марсоходов на Марсе и зондов, отправленных в дальние уголки Солнечной системы. Это все действительно великие вещи. Но чтобы возбудить общественность, нужно вовлечь в это людей. Это в 100 раз по-другому, когда люди участвуют, несмотря на критику NASA. Важно помнить о роли людей, если вы хотите получить поддержку общественности, но учёный вам скажет, где здесь наука? Как будто вы не понимаете. Как будто это не то, почему люди вам дают деньги. Это не совсем то, то есть это частично причина. Но серьезные учёные говорят, что люди просто удорожают всё. Мол, почему люди нужны, хорошо, почему людям нужно быть где-то? Иногда именно учёные не понимают, хотя они умные люди. Но нужно что-то, что возбудит людей и заставит их действительно воодушевиться. И я думаю, если бы у нас была серьезная цель создать базу на Луне, отправить людей на Марс и мы сказали, что мы ориентированы на результат, как нам это сделать? Нам нужно изменить систему контрактации. Нельзя использовать контракты с увеличением стоимости и единственным источником, потому что тогда структура стимулов полностью нарушена. Как только исчезает конкуренция, исчезает и чувство срочности. А когда вы используете контракт с увеличением стоимости, вы побуждаете подрядчика максимизировать затраты, потому что он получает процент. Так что они никогда не хотят, чтобы эта доход прекратилась. Они становятся максимизирующими затраты. И тогда у вас есть хорошие люди, занятые максимизацией затрат, потому что вы дали им стимул это делать и сказали, что их накажут, если они не будут. По сути, вот что происходит. Поэтому критически важно изменить систему контрактации на конкурентный коммерческий тендер. Убедитесь, что всегда есть как минимум два конкурента, конкурирующих за контракты с NASA, и что контракты основаны на достижении конкретных этапов. Презентации PowerPoint не считаются. В PowerPoint все работает. У меня есть устройство телепортации. Смотрите, вот моя презентация PowerPoint. Таким образом, контракты на основе этапов, конкурентные коммерческие контракты с конкурентами. И тогда вы должны быть готовы отстранить одного конкурента, если он не справляется, и переторговать остаток контракта. Кстати, NASA уже это делала с коммерческой доставкой грузов на космическую станцию. NASA фактически не была уверена, будет ли это работать, но у них просто не было бюджета делать что-то другое. Так они решили попробовать конкурентную коммерческую контрактацию на основе этапов. И это сработало превосходно. И они присудили его двум компаниям, SpaceX и компании под названием Kistler. И SpaceX смогли достичь целей, Kistler нет. Итак, затем NASA переоткрыла конкурс на оставшуюся часть контракта с Orbital Sciences. Но затем Orbital Sciences пересекли финишную линию. Итак, теперь NASA имеет двух поставщиков для доставки грузов на космическую станцию. И это отличная ситуация. То же самое для коммерческих экипажей на космическую станцию. NASA проводила конкурс в случае коммерческих экипажей. Это SpaceX и Boeing. И я думаю, что это также хорошая ситуация. Итак, теперь, скажу вам, команда SpaceX говорит, мы сделаем это раньше Boeing, это точно. А потом, как я читал, команда Boeing говорит, мы сделаем это раньше SpaceX. Это хорошо, это хороший движущий механизм для выполнения работ. Но я не могу передать вам, насколько важна эта структура контрактации. Это день и ночь. В государстве слишком много контрактов с единственным источником с возмещением затрат плюс прибыль. Это просто опять экономика 101. Что бы вы ни стимулировали, это произойдет, и люди не должны быть удивлены. Это как, ну, вы знаете, сказали, хорошо, если та компания сумеет найти какое-то оправдание, чтобы удвоить стоимость контракта, они получат двойную прибыль, потому что они получают процент. Так что они могут сделать именно это. И также они не скажут нет требованиям. Итак, государство придумает какой-то набор требований. 90% из них могут иметь большой смысл, а 10% из них нелепы. Это удваивает цену проекта. Для тех 10% нелепых требований в контракте с возмещением затрат подрядчик всегда скажет да.
Для вас может быть будущее
в государственной контрактации на уровне штата.
Да, давайте перейдем к Governor Hickenlooper, а затем Governor Ducey.
Governor
Итак, я думаю, что большинство губернаторов, я считаю так освежающим иметь неприкрытую правду. Но я подозреваю, что каждый раз, когда вы публично говорите, что цена акций выше, чем мы имеем право верить, я предполагаю, вы, вероятно, получаете звонки от инвесторов, предлагающих, что, может быть, вы говорите это не так часто.
Да, это правда. Я хотел вернуться и просто
Governor
кратко, потому что я думаю, я записал это, что вы сказали, что искусственный интеллект является фундаментальным экзистенциальным риском для цивилизации. Я это правильно понял?
По моему мнению, самый большой риск, который мы как цивилизация сталкиваемся, это искусственный интеллект. И поэтому к группе лидеров,
Governor
что бы вы посоветовали, что мы должны. Как мы должны решать что-то столь масштабное, но очевидно столь важное?
Я думаю, что, знаете, одна из ролей государства - обеспечить общественное благо и чтобы опасности для общества были рассмотрены. Так что, отсюда нормативно-правовое дело. Я думаю, что первый порядок дел - это попытаться узнать как можно больше, знаете, понять природу проблем, внимательно следить за прогрессом и замечательными достижениями искусственного интеллекта. В прошлом году, Go, что довольно сложная игра, которую люди думали, что компьютер никогда не сможет побить, что компьютер либо никогда не победит лучшего игрока, либо это было 20 лет спустя. И в прошлом году, AlphaGo, который был сделан DeepMind, который является своего рода дочерней компанией Google, абсолютно раздавил лучшего игрока в мире, и теперь он может играть одновременно с топ 50 и раздавить их всех. Итак, такой темп прогресса замечателен. И вы можете видеть все больше и больше появляется в робототехнике. Вы можете видеть роботов, которые могут научиться ходить из ничего в течение часов, намного быстрее, чем любое биологическое существо. Но самое опасное - и это самое сложное охватить, обхватить, потому что это не физическая вещь, - это своего рода глубокий интеллект в сети. Вы говорите, хорошо, какой вред может причинить глубокий интеллект в сети, ну, он может начать войну, создав поддельные новости и подделав учетные записи электронной почты и поддельные пресс-релизы. И просто манипулируя информацией, перо могущественнее меча. Итак, я имею в виду, как пример, я хочу подчеркнуть, я не думаю, что это на самом деле произошло. Это чисто гипотетическое, что я копаю в своей могиле здесь. Но вы знаете, был тот второй Malaysian авиалайнер, который был сбит на украинской российской границе, и это действительно усилило напряженность между Russia и EU в огромной степени. Ну, скажем, если бы у вас был AI, где цель AI была максимизировать значение портфеля акций. Один из способов максимизировать значение - это идти длинно на оборону, коротко на потребителя, начать войну. И тогда как это можно сделать? Ну, вы знаете, взломать Malaysian Airlines маршрутизирующий сервер самолета, маршрутизировать его над зоной боевых действий, а затем отправить анонимный совет, что вражеский самолет летит над головой прямо сейчас.
Давайте перейдем к Governor Ducey, а затем после Governor Ducey мы завершим наши губернаторские вопросы и затем два вопроса, затем быстрые вопросы или один вопрос от аудитории, затем мы закончим. У нас заканчивается время. Governor Ducey.
Governor
Спасибо, Elon. Я действительно понравились ваши комментарии сегодня. И как тот, кто провел много времени в его администрации, пытаясь сократить и устранить нормативные акты, я был удивлен вашим предложением ввести нормативные акты до того, как мы точно знаем, с чем мы имеем дело с AI, вы знаете, и я слышал пример, используемый, если бы я придумал бесцветный, без запаха, безвкусный газ, который был взрывчатым, люди сказали бы, ну, вы должны это запретить. И тогда у нас не было бы природного газа. Итак, вы дали некоторые из этих примеров того, как AI может быть экзистенциальной угрозой. Но я все еще не понимаю как политики, какой тип нормативных актов, кроме замедления, которые обычно политики не опускаются перед предпринимателями или инноваторами.
Ну, я думаю, что первый порядок дел - это получить понимание. Прямо сейчас правительство даже не имеет понимания. И правильный порядок дел будет создать нормативный орган, начальная цель, получить понимание статуса деятельности AI, убедиться, что ситуация понята. Как только это произойдет, затем введите нормативные акты, чтобы обеспечить общественную безопасность. Вот и все. И, конечно, компании, занимающиеся AI, будут, большинство из них, не мои, будут кричать и говорить, эй, это действительно подавит инновации, бла, бла, бла. Это переместится в China. Это не произойдет, и это не произойдет, потому что, это как, как, Boeing переместился в China? Нет, они Boeing Aircraft здесь. То же самое на автомобилях. И поэтому идея, что если вы установите нормативный режим, компании просто переместятся в страны с более низкими нормативными требованиями, ложна на первый взгляд, потому что ни одна из них этого не делает, если это не очень обременительно. Но это не то, о чем я говорю здесь. Просто говорим о том, чтобы убедиться, что есть осознание на уровне государства. Я думаю, что как только будет осознание, люди будут чрезвычайно испуганы, как они должны быть.
Один вопрос от аудитории. Возьмём первого, кто поднял руку
Спасибо, Илон. Ина Фрид из Axios. На начальном этапе этой администрации вы очень активно утверждали, что лучше участвовать и быть вовлечённым в процесс, чем держаться в стороне. Потом, когда президент решил выйти из Парижского соглашения, вы сказали, что это была последняя капля, и вы собираетесь уйти.
Что вас привело к этому решению?
И если бы вы разговаривали с президентом сегодня, что бы вы ему сказали?
Ну, я считал, что стоило попробовать. Старался изо всех сил, знаете, стоило попытаться. Я получил критику со всех сторон уже за одну попытку. Когда кто-то выставлял рекламные щиты, атаковал меня и размещал полностраничные объявления в New York Times и так далее, только за то, что я был в комиссии. И, знаете, на каждом заседании я старался выдвигать аргументы в пользу устойчивого развития и иногда других вопросов, например, что наши иммиграционные законы не должны быть жестокими или несправедливыми. И, знаете, сделал всё, что мог. И я думаю, что в нескольких случаях я действительно добился прогресса, что дало мне стимул продолжать. Но. Но потом я действительно считаю, что Парижское соглашение, в общем, я, я... Если бы я остался в этих советах, я по сути говорил бы, что это было неважно, но это было очень важно, потому что я считаю, что страна должна сдерживать свои обещания, и, знаете, это... Это даже не обязывающее соглашение. Так что мы всегда могли бы замедлить это. Аргумент, что будут потери рабочих мест. Ну, мы могли бы сначала посмотреть, будут ли потери рабочих мест, а потом выходить. Может быть, не будет потерь, может быть, будут прибыли, но я просто не смог бы остаться после этого. Итак, знаете, сделал всё, что мог. Ладно.
Ну, все, давайте поблагодарим Илона за то, что он сегодня с нами.
Ну, это было удовольствие, не правда ли?