← Zurück12. April 2019Lex Fridman PodcastMitElon MuskLex Fridman0:00 / 0:00CC1×YouTubeLex Fridman Podcast12. April 2019Elon Musks erster Auftritt bei Lex Fridman, gewidmet Teslas Autopilot und dem autonomen Fahren.Elon Musks erster Auftritt bei Lex Fridman, gewidmet Teslas Autopilot und dem autonomen Fahren.TranskriptLex FridmanEs folgt ein Gespräch mit Elon Musk. Er ist CEO von Tesla, SpaceX, Neuralinkund Mitgründer mehrerer weiterer Unternehmen. Dieses Gespräch ist Teil des Podcasts Artificial Intelligence. Die Reihe präsentiert führende Forscher aus Wissenschaftund Industrie, darunter CEOs und CTOs vonAutomobil-, Robotik-, KI- und Technologieunternehmen. Dieses Gespräch fand nach der Veröffentlichungdes Papers unserer Gruppe am MIT statt,über die funktionale Wachsamkeit von Fahrern bei der Nutzung von Teslas Autopilot. Das Tesla-Team hat sich bei mir gemeldet und mir ein Podcast-Gespräch mit Herrn Musk angeboten. Ich habe angenommen, mit voller Kontrolle über die Fragen, die ich stellen konnte, und über die Auswahl dessen, was veröffentlicht wird. Am Ende habe ich nichts Wesentliches herausgeschnitten. Ich hatte vor diesem Gespräch nie mit Elon gesprochen, weder öffentlich noch privat.Weder er noch seine Unternehmen haben irgendeinen Einfluss auf meine Meinung oder auf die Strenge und Integrität der wissenschaftlichen Methode, die ich in meiner Position am MIT praktiziere. Tesla hat meine Forschung nie finanziell unterstützt, und ich habe nie ein Tesla-Fahrzeug besessen. Ich habe nie Tesla-Aktien besessen. Dieser Podcast ist kein wissenschaftliches Paper. Es ist ein Gespräch.Ich respektiere Elon wie alleanderen Führungspersönlichkeiten und Ingenieure, mit denen ich gesprochen habe. In manchen Dingen sind wir uns einig, in anderen nicht. Mein Ziel ist, wie immer bei diesen Gesprächen, zu verstehen, wie der Gast die Welt sieht. Ein besonderer Streitpunkt in diesem Gespräch war, inwieweit kamerabasierte Fahrerüberwachung die Ergebnisse verbessert und wie lange sie für KI-gestütztes Fahren relevant bleibt.Als jemand, der an menschzentrierter künstlicher Intelligenz arbeitet und davon fasziniert ist, glaube ich, dass kamerabasierte Fahrerüberwachung, wenn sie wirksam umgesetzt und integriert wird, sowohl kurz- als auch langfristig von Nutzen sein dürfte. Elon und Tesla hingegen setzen auf die Verbesserung des Autopilot, sodass dessen statistische Sicherheitsvorteile jede Sorge um menschliches Verhalten und Psychologie überwiegen.Elon und ich sind uns vielleicht nicht in allem einig, aber ich habe großen Respekt vor der Ingenieurskunst und Innovation hinter den Vorhaben, die er leitet. Mein Ziel hier ist, in Industrie und Wissenschaft eine rigorose, differenzierte und objektive Diskussion über KI-gestütztes Fahren anzustoßen, eine, die letztlich zu einer sichereren und besseren Welt führt. Und nun mein Gespräch mit Elon Musk.Was war die Vision, der Traum des Autopilot am Anfang, das große Ganze auf Systemebene, als er konzipiert und ab 2014 eingebaut wurde? Die Hardware in den Autos. Was war die Vision, der Traum?Elon MuskIch würde es nicht als Vision oder Traum bezeichnen; es gibt einfach offensichtlich zwei gewaltige Revolutionen in der Autoindustrie. Die eine ist der Übergang zur Elektrifizierung und die andere die Autonomie. Und mir wurde klar, dass in Zukunft jedes Auto ohne Autonomie etwa so nützlich sein würde wie ein Pferd.Was nicht heißt, dass es keinen Nutzen hat. Es ist heutzutage nur selten und etwas eigenwillig, wenn jemand ein Pferd hat. Es ist also offensichtlich, dass Autos komplett selbst fahren werden. Es ist nur eine Frage der Zeit. Und wenn wir uns nicht an der Autonomie-Revolution beteiligten, wären unsere Autos für die Leute im Vergleich zu autonomen Autos nicht nützlich.Ein autonomes Auto ist langfristig wohl fünf- bis zehnmal mehr wert als ein nicht autonomes. Hängt davon ab, was man unter langfristig versteht, aber sagen wir mindestens für die nächsten fünf Jahre, vielleicht zehn.Lex FridmanEs gab beim Autopilot schon früh viele sehrinteressante Designentscheidungen. Die erste ist, im Kombiinstrument oder bei Model 3 auf dem Mitteldisplay anzuzeigen, was die kombinierte Sensorik sieht. Was war die Überlegung hinter dieser Entscheidung? Gab es eine Debatte? Wie lief der Prozess?Elon MuskDer ganze Sinn der Anzeige ist, einen Gesundheitscheck der Realitätswahrnehmung des Fahrzeugs zu liefern. Das Fahrzeug nimmt Informationen von einer Reihe von Sensoren auf, hauptsächlich Kameras, aber auch Radar, Ultraschall, GPS und so weiter. Diese Informationen werden dann in einen Vektorraum überführt, mit einer Reihe von Objekten mit Eigenschaften wie Fahrbahnmarkierungen, Ampeln und anderen Autos, und aus dem Vektorraum wird das dann wieder auf einem Display dargestellt.So kann man durch einen Blick aus dem Fenster überprüfen, ob das Auto weiß, was los ist, oder nicht.Lex FridmanGenau. Ich denke, das ist für die Leute ein äußerst wirksames Mittel, um Verständnis zu gewinnen, mit dem System eins zu werden und zu verstehen, wozu es fähig ist. Haben Sie überlegt, mehr anzuzeigen? Wenn man sich das maschinelle Sehen ansieht, das dem System zugrunde liegt – Straßensegmentierung, Spurerkennung, Fahrzeugerkennung, Objekterkennung –, gibt es an den Rändern eine gewisse Unsicherheit.Haben Sie überlegt, die Teile offenzulegen, die… Die Unsicherheit im System, sozusagenElon Muskdie Wahrscheinlichkeiten, die etwa mit der Bilderkennung verbunden sind, so etwas?Lex FridmanJa. Im Moment zeigt es die Fahrzeuge in der Umgebung, ein sehr sauberes, klares Bild. Und die Leute bestätigen: Da ist ein Auto vor mir, und das System sieht, dass da ein Auto vor mir ist. Aber um den Leuten ein Gespür dafür zu geben, was maschinelles Sehen ist, indem man etwas von der Unsicherheit zeigt…Elon MuskNa ja, in meinem Auto schaue ich mir immer die Debug-Ansicht an, und es gibt zwei Debug-Ansichten. Die eine ist die erweiterte Sicht, die Sie sicher kennen, bei der wir im Grunde Kästen und Beschriftungen um erkannte Objekte zeichnen. Und dann gibt es den sogenannten Visualizer, im Grunde eine Vektorraumdarstellung, die die Eingaben aller Sensoren zusammenführt; er zeigt keine Bilder, aber er zeigt alle…Er zeigt im Grunde die Sicht des Autos auf die Welt im Vektorraum. Aber ich denke, das ist für normale Menschen sehr schwer zu verstehen. Sie wüssten überhaupt nicht, was sie da anschauen.Lex FridmanEs ist fast eine HMI-Herausforderung: Was derzeit angezeigt wird, ist darauf optimiert, dass die breite Öffentlichkeit versteht, wozu das System fähig ist.Elon MuskAuch wenn man keine Ahnung hat, wie maschinelles Sehen funktioniert, kann man auf den Bildschirm schauen und sehen, ob das Auto weiß, was los ist. Und wenn man Entwicklungsingenieur ist oder wie ich die Entwicklerversion hat, kann man alle Debug-Informationen sehen. Aber das wäre für die meisten Leute totales Kauderwelsch.Lex FridmanWie sollte man Ihrer Meinung nach den Aufwand am besten verteilen? Es gibt, würde ich sagen, drei technische Aspekte des Autopilot, die wirklich wichtig sind. Da sind die zugrunde liegenden Algorithmen wie die Architektur des neuronalen Netzes, die Daten, mit denen es trainiert wird, und dann die Hardwareentwicklung. Es gibt vielleicht noch andere, aber gut: Algorithmen, Daten, Hardware.Man hat nur begrenzt Geld und begrenzt Zeit. Wofür sollte man Ihrer Meinung nach am ehesten Ressourcen einsetzen? Oder sehen Sie das ziemlich gleichmäßig auf diese drei verteilt?Elon MuskWir bekommen automatisch riesige Datenmengen, weil alle unsere Autos acht nach außen gerichtete Kameras, Radar und meist 12 Ultraschallsensoren haben, natürlich GPS und eine IMU.Wir haben also im Grunde eine Flotte, die…Wir haben rund 400.000 Autos auf der Straße mit diesem Datenumfang. Ich glaube, Sie verfolgen das tatsächlich ziemlich genau.Lex FridmanJa.Elon MuskJa. Wir nähern uns also einer halben Million Autos auf der Straße mit der vollen Sensorausstattung.Lex FridmanJa.Elon MuskDas ist also… Ich weiß nicht, wie viele andere Autos auf der Straße diese Sensorik haben, aber es würde mich wundern, wenn es mehr als 5.000 wären, was heißt, dass wir 99 % aller Daten haben.Lex FridmanEs gibt also diesen riesigen Datenzufluss.Elon MuskEinen absolut gewaltigen Datenzufluss. Und dann hat es etwa drei Jahre gedauert, aber jetzt haben wir endlich unseren Full-Self-Driving-Computer entwickelt, der eine Größenordnung mehr verarbeiten kann als das Nvidia-System, das derzeit in den Autos steckt. Und um ihn zu nutzen, steckt man einfach den Nvidia-Computer aus und den Tesla-Computer ein, das war's.Und es ist, es ist… Tatsächlich haben wir noch nicht einmal… Wir loten die Grenzen seiner Fähigkeiten immer noch aus. Wir konnten die Kameras mit voller Bildrate und voller Auflösung betreiben, ohne die Bilder auch nur zu beschneiden. Und es ist sogar auf einem der Systeme noch Luft nach oben. Der Full-Self-Driving-Computer besteht eigentlich aus zwei Computern, zwei vollständig redundanten Systems-on-Chip.Man könnte also einen Bolzen durch praktisch jeden Teil des Systems treiben, und es funktioniert trotzdem.Lex FridmanDie Redundanz – sind das perfekte Kopien voneinander, oder… Es dient also rein der Redundanz, im Gegensatz zu einer Art Arguing-Machine-Architektur, bei der beide Entscheidungen treffen. Es dient rein der Redundanz, denke ich,Elon Muskeher wie bei einem zweistrahligen Verkehrsflugzeug: Das System arbeitet am besten, wenn beide Systeme laufen, aber es kann auch mit einem sicher arbeiten.Aber so wie es jetzt ist, können wir einfach… Wir sind noch nicht einmal an die Leistungsgrenze gestoßen, also müssen wir die Funktionen gar nicht auf beide SoCs verteilen. Wir können tatsächlich auf jedem ein vollständiges Duplikat laufen lassen.Lex FridmanSie haben also die Grenze noch nicht wirklich ausgelotet oder erreicht.Elon MuskSie haben die Grenze noch nicht erreicht.Lex FridmanDie Magie des Deep Learning ist, dass es mit Daten besser wird. Sie sagten, es gibt einen riesigen Datenzufluss. Aber beim Fahren sind die wirklich wertvollen Daten zum Lernen die Randfälle. Wie also… Ich habe Sie irgendwo sagen hören, dass Autopilot-Abschaltungen wichtige Momente sind, die man nutzen sollte. Gibt es andere Randfälle, oder können Sie über diese Randfälle sprechen, welche Aspekte daran wertvoll sein könnten, oder ob Sie andere Ideen haben, wie man immer mehr Randfälle beim Fahren entdeckt?Elon MuskNun, es wird vieles gelernt. Es gibt sicher Randfälle, wo etwa jemand mit Autopilot fährt und übernimmt, und dann ist das ein Auslöser, der an unser System geht und fragt: Hat er aus Bequemlichkeit übernommen oder weil der Autopilot nicht richtig funktioniert hat? Es gibt auch, sagen wir, den Fall, dass wir herausfinden wollen, was der optimale Spline zum Durchfahren einer Kreuzung ist.Dann sind die Fahrten ohne Eingriff die richtigen. Man sagt dann: Wenn es so aussieht, mach Folgendes.Und man erhält den optimalen Spline, um eine komplexe Kreuzung zu durchfahren.Lex FridmanDas ist also dafür. Es gibt also gewissermaßen den Normalfall. Man versucht, eine riesige Menge an Beispielen einer bestimmten Kreuzung zu erfassen, wie es lief, wenn alles gut ging. Und dann gibt es den Randfall, bei dem, wie Sie sagen, nicht aus Bequemlichkeit, sondern weil etwas nicht ganz richtig lief,Elon Muskjemand die manuelle Kontrolle vom Autopilot übernommen hat. Und eigentlich sollte man es so sehen: Jede Eingabe ist ein Fehler. Wenn der Nutzer eingreifen musste, hat das etwas zu bedeuten. Jede Eingabe ist ein Fehler.Lex FridmanDas ist eine starke Sichtweise, denn es kann durchaus ein Fehler sein. Aber wenn man von der Autobahn abfahren will, oder wenn es eine Navigationsentscheidung ist, für die der Autopilot derzeit nicht ausgelegt ist, dann übernimmt der Fahrer.Elon MuskWie erkennt man den Unterschied? Das wird sich mit Navigate on Autopilot ändern, das wir gerade veröffentlicht haben, ohne Bestätigung. Also die Navigation, etwa die Kontrolle zu übernehmen, um die Spur zu wechseln, von einer Schnellstraße abzufahren oder an einem Autobahnkreuz zu wechseln: Der Großteil davon fällt mit dem gerade erschienenen Release weg.Lex FridmanJa, ich glaube nicht, dass die Leute ganz verstehen, wie groß dieser Schritt ist.Elon MuskJa, das verstehen sie nicht. Wenn man das Auto fährt, versteht man es.Lex FridmanDerzeit muss man beim automatischen Spurwechsel noch die Hände am Lenkrad haben. Was sind… Es gab in der Entwicklung des Autopilot, im Laufe seiner Geschichte, große Sprünge. Welche stechen für Sie als große Sprünge heraus? Ich würde sagen, dieser hier: Navigate on Autopilot ohne Bestätigung, ohne bestätigen zu müssen, ist ein riesiger Sprung.Elon MuskEs ist ein riesiger Sprung. Es überholt auch automatisch langsame Autos. Es ist also sowohl Navigation als auch die Suche nach der schnellsten Spur. Es überholt also langsame Autos, fährt von der Schnellstraße ab und nimmt Autobahnkreuze.Und dann haben wir die Ampelerkennung, zunächst als Warnung eingeführt; in der Entwicklerversion, die ich fahre, hält das Auto an Ampeln komplett an und fährt wieder los.Lex FridmanDas sind also die Schritte. Genau. Sie haben gerade so etwas wie einen ersten Schritt Richtung volle Autonomie erwähnt. Was sind Ihrer Meinung nach die größten technologischen Hürden für vollautonomes Fahren?Elon MuskEigentlich denke ich, wir haben gerade… den Full-Self-Driving-Computer, den wir bei Tesla FSD-Computer nennen, der jetzt in Produktion ist.Wenn Sie also ein Model S oder X oder ein Model 3 mit dem Full-Self-Driving-Paket bestellen, bekommen Sie den FSD-Computer.Wichtig ist, genug Grundrechenleistung zu haben und dann das neuronale Netz und die Steuersoftware zu verfeinern.Aber all das kann einfach per Over-the-Air-Update geliefert werden. Das wirklich Bedeutsame, und das werde ich auf dem Investorentag zum Thema Autonomie betonen, ist, dass die derzeit produzierten Autos mit der derzeit produzierten Hardware zu vollautonomem Fahren fähig sind.Lex FridmanAber „fähig“ ist ein interessantes Wort, dennElon Muskdie Hardware ist es. Und während wir die Software verfeinern, werden die Fähigkeiten dramatisch zunehmen, dann wird die Zuverlässigkeit dramatisch zunehmen, und dann wird es die behördliche Zulassung bekommen. Ein Auto heute zu kaufen ist also im Grunde eine Investition in die Zukunft. Man kauft im Grunde…Ich denke, das Bedeutsamste ist: Wer heute einen Tesla kauft, kauft meiner Meinung nach einen Vermögenswert, der an Wert gewinnt, nicht einen, der an Wert verliert.Lex FridmanDas ist eine wirklich wichtige Aussage, denn wenn die Hardware leistungsfähig genug ist – das ist ja das, was schwer aufzurüsten ist.Elon MuskJa, normalerweise. Genau.Lex FridmanDer Rest ist dann ein Softwareproblem.Elon MuskJa, Software hat praktisch keine Grenzkosten.Lex FridmanAber was sagt Ihre Intuition auf der Softwareseite? Wie schwer sind die verbleibenden Schritte, damit das Erlebnis, nicht nur die Sicherheit, sondern das ganze Erlebnis, etwas wird, das die Leute genießen?Elon MuskNun, ich glaube, die Leute genießen es schon sehr. Auf Autobahnen ist der Tesla-Autopilot ein totaler Gamechanger für die Lebensqualität. Es geht also eigentlich nur darum, diese Funktion auf Stadtstraßen auszuweiten, die Ampelerkennung hinzuzufügen, komplexe Kreuzungen zu meistern und dann durch komplizierte Parkplätze zu navigieren, damit das Auto aus einer Parklücke fahren und einen abholen kann, selbst wenn der Parkplatz ein komplettes Labyrinth ist.Und dann kann es einen einfach absetzen und selbst einen Parkplatz suchen.Lex FridmanJa. Was den Genuss angeht und etwas, das die Leute wirklich nützlich fänden: Der Parkplatz ist eine echte Quelle von Ärger, wenn man es manuell machen muss. Da lässt sich also durch Automatisierung viel gewinnen. Lassen Sie mich den Menschen ein wenig in diese Diskussion einbringen.Sprechen wir über volle Autonomie. Wenn man sich die aktuellen Level-4-Fahrzeuge ansieht, die auf der Straße getestet werden, wie Waymo und andere, sind sie nur technisch autonom. Eigentlich sind es Level-2-Systeme, nur mit einer anderen Designphilosophie. Denn in fast allen Fällen sitzt immer ein Sicherheitsfahrer drin, der das System überwacht.Sehen Sie Teslas Full Self-Driving so, dass es noch eine Zeit lang die Aufsicht eines Menschen erfordert? Also dass seine Fähigkeiten zum Fahren ausreichen, aber trotzdem noch ein Mensch beaufsichtigen muss, so wie ein Sicherheitsfahrer in anderen vollautonomen Fahrzeugen?Elon MuskIch denke, man wird noch mindestens sechs Monate oder so ab jetzt die Hände am Lenkrad erkennen müssen.Lex FridmanEigentlichElon Muskist die Frage aus regulatorischer Sicht: Um wie viel sicherer als ein Mensch muss der Autopilot sein, damit es in Ordnung ist, das Auto nicht zu überwachen?Und darüber kann man debattieren. Und dann, mit einer großen Stichprobe, einer großen Datenmenge, kann man mit hoher statistischer Sicherheit beweisen, dass das Auto dramatisch sicherer ist als ein Mensch und dass ein überwachender Mensch die Sicherheit nicht wesentlich beeinflusst. Es muss vielleicht 200 oder 300 % sicherer sein als ein Mensch.Lex FridmanUnd wie beweist man das?Elon MuskVorfälle pro Meile.Lex FridmanVorfälle pro Meile. Also Unfälle und Todesfälle; ja, Todesfälle wärenElon Muskein Faktor, aber es gibt einfach nicht genug Todesfälle, um in großem Maßstab statistisch signifikant zu sein. Aber es gibt genug Unfälle. Es gibt weit mehr Unfälle als Todesfälle. Man kann also die Wahrscheinlichkeit eines Unfalls abschätzen.Dann gibt es einen weiteren Schritt: die Wahrscheinlichkeit einer Verletzung, dann die einer bleibenden Verletzung, dann die des Todes. Und all diese müssen viel besser sein als bei einem Menschen, vielleicht um mindestens 200 %.Lex FridmanUnd Sie glauben, dass man darüber einen gesunden Dialog mit den Regulierungsbehörden führen kann?Elon MuskEs steht außer Frage, dass Regulierer dem, was Presse erzeugt, unverhältnismäßig viel Aufmerksamkeit schenken. Das ist einfach eine objektive Tatsache. Und Tesla erzeugt viel Presse. In den USA gibt es, glaube ich, fast 40.000 Verkehrstote pro Jahr, aber wenn vier davon in einem Tesla sterben, bekommen sie wahrscheinlich tausendmal mehr Presse als alle anderen.Lex FridmanDie Psychologie dahinter ist tatsächlich faszinierend. Ich glaube nicht, dass wir genug Zeit haben, darüber zu sprechen. Aber ich muss mit Ihnen über die menschliche Seite sprechen. Mein Team am MIT und ich haben kürzlich ein Paper über die funktionale Wachsamkeit von Fahrern bei der Nutzung des Autopilot veröffentlicht. Daran arbeiten wir, seit der Autopilot vor über drei Jahren erstmals öffentlich erschien: Wir sammeln Videos von Gesichtern und Körpern der Fahrer.Ich habe gesehen, dass Sie ein Zitat aus dem Abstract getwittert haben, also kann ich zumindest vermuten, dass Sie einen Blick darauf geworfen haben.Elon MuskJa.Lex FridmanGut. Darf ich Ihnen erläutern, was wir herausgefunden haben?Elon MuskKlar.Lex FridmanAus den gesammelten Daten geht hervor, dass die Fahrer ihre funktionale Wachsamkeit aufrechterhalten; wir haben uns 18.000 Autopilot-Abschaltungen angesehen. 18.900. Und annotiert: Konnten sie rechtzeitig die Kontrolle übernehmen? Waren sie präsent, schauten sie auf die Straße, um die Kontrolle zu übernehmen?Das widerspricht dem, was viele aufgrund der Fachliteratur zur Wachsamkeit bei Automatisierung vorhersagen würden. Die Frage ist nun: Glauben Sie, dass diese Ergebnisse auch für die breitere Bevölkerung gelten? Unsere Stichprobe ist nur eine kleine Teilmenge – was meinen Sie? Ein Kritikpunkt ist, dass es eine kleine Minderheit sehr verantwortungsvoller Fahrer geben mag, während bei anderen die Wachsamkeit mit der Autopilot-Nutzung nachlassen würde.Elon MuskIch denke, das alles wird bald hinfällig sein. Das System verbessert sich so sehr und so schnell, dass sich die Frage sehr bald erübrigt.Was die Wachsamkeit betrifft: Wenn etwas um ein Vielfaches sicherer ist als ein Mensch, dann hat ein hinzugefügter Mensch nur begrenzten Einfluss auf die Sicherheit, und der könnte sogar negativ sein.Lex FridmanDas ist wirklich interessant. Dass also ein gewisser Prozentsatz der Bevölkerung nachlassende Wachsamkeit zeigen könnte, wird die Gesamtzahlen zur Sicherheit nicht beeinflussen?Elon MuskNein, ich glaube sogar, dass es sehr schnell so weit sein wird, vielleicht schon gegen Ende dieses Jahres. Aber es würde mich schockieren, wenn es nicht spätestens nächstes Jahr so ist, dass ein eingreifender Mensch die Sicherheit verringert. Stellen Sie sich vor, Sie sind in einem Aufzug. Früher gab es Liftboys, und man konnte nicht allein in einen Aufzug steigen und den Hebel bedienen, um zwischen den Stockwerken zu fahren.Heute will niemand einen Liftboy, weil der automatische Aufzug, der an den Stockwerken hält, viel sicherer ist als der Liftboy. Und tatsächlich wäre es ziemlich gefährlich, jemanden mit einem Hebel zu haben, der den Aufzug zwischen den Stockwerken bewegen kann.Lex FridmanDas ist eine wirklich starke und sehr interessante Aussage. Aber ich muss auch fragen, aus Sicht der Nutzererfahrung und der Sicherheit: Eine meiner algorithmischen Leidenschaften ist die kamerabasierte Erkennung – nicht nur den Menschen wahrnehmen, sondern erkennen, wohin der Fahrer schaut. Kognitive Belastung, Körperhaltung. Auf der Seite des maschinellen Sehens ist das ein faszinierendes Problem.Aber glauben Sie – und viele in der Branche meinen, man brauche eine kamerabasierte Fahrerüberwachung –, dass Fahrerüberwachung einen Nutzen bringen könnte?Elon MuskWenn man ein System hat, dessen Zuverlässigkeit auf oder unter menschlichem Niveau liegt, ist Fahrerüberwachung sinnvoll. Aber wenn das System dramatisch besser und zuverlässiger ist als ein Mensch, hilft Fahrerüberwachung nicht viel. Und wie gesagt: So wie man in einem Aufzug nicht jemanden mit einem großen Hebel haben will, irgendeine beliebige Person, die den Aufzug zwischen den Stockwerken steuert…Dem würde ich nicht trauen. Ich hätte lieber die Knöpfe.Lex FridmanOkay, Sie sind optimistisch, was das Tempo der Verbesserung des Systems angeht. Nach dem, was ich mit dem ComputerElon Muskfür vollautonomes Fahren gesehen habe, ist die Verbesserungsrate exponentiell.Lex FridmanEine weitere sehr interessante frühe Designentscheidung, die damit zusammenhängt, ist der Operational Design Domain des Autopilot. Also wo der Autopilot eingeschaltet werden kann.Im Gegensatz dazu ist ein anderes System, das wir untersuchen, Cadillacs Super Cruise. Was den ODD angeht, ist es sehr auf bestimmte Arten von Autobahnen beschränkt, gut kartiert und getestet, aber viel enger als der ODD der Tesla-Fahrzeuge.Da ist ADD. Ja, der ist gut.Was war die Designentscheidung hinter dieser anderen Denkweise mit ihren Vor- und Nachteilen? Bei einem breiten ODD sehen wir, dass Tesla-Fahrer die Grenzen des Systems stärker ausloten können, zumindest am Anfang, und dass sie zusammen mit der Anzeige im Kombiinstrument zu verstehen beginnen, was seine Fähigkeiten sind.Das ist also ein Vorteil. Der Nachteil ist, dass man die Fahrer esElon Muskpraktisch überall nutzen lässt, wo es Fahrspuren zuverlässig erkennen kann.Lex FridmanGab es da eine Philosophie, schwierige Designentscheidungen, oder wurde das von Anfang an bewusst so gemacht?Elon MuskEhrlich gesagt finde ich es ziemlich verrückt. Menschen eine zwei Tonnen schwere Todesmaschine manuell fahren zu lassen, das ist verrückt. In Zukunft werden die Leute sagen: Ich kann nicht glauben, dass man jeden einfach eine dieser zwei Tonnen schweren Todesmaschinen fahren ließ, wohin er wollte – genau wie bei Aufzügen. Man bewegt den Aufzug mit diesem Hebel, wohin man will.Man kann ihn zwischen zwei Stockwerken anhalten, wenn man will.Das ist ziemlich verrückt. Es wird in Zukunft wie Wahnsinn erscheinen, dass Menschen Autos gefahren sind.Lex FridmanIch habe eine Menge Fragen zur menschlichen Psychologie, zum Verhalten und so weiter, die dann…Weil Sie an das KI-System glauben? Nicht glauben, aber sowohl die Hardware als auch der Deep-Learning-Ansatz, der aus Daten lernt, werden es einfach viel sicherer machen als Menschen.Elon MuskJa, genau.Lex FridmanKürzlich haben ein paar Hacker den Autopilot mit adversarialen Beispielen dazu gebracht, sich unerwartet zu verhalten.Wir alle wissen, dass neuronale Netzesehr empfindlich auf kleine Störungen reagieren,auf solche adversarialen Beispiele in der Eingabe. Glauben Sie, dass sich die Branche gegen so etwas verteidigen kann?Elon MuskSicher.Lex FridmanKönnen Sie erläutern, worauf diese Zuversicht beruht?Elon MuskNun, das… Ein neuronales Netz ist im Grunde nur ein Haufen Matrizenrechnung. Man muss schon sehr versiert sein, neuronale Netze wirklich verstehen und im Grunde rekonstruieren, wie die Matrix aufgebaut ist, und dann eine Kleinigkeit erzeugen, die die Matrizenrechnung genau so leicht verfälscht. Aber das lässt sich dann sehr leicht blockieren, im Grunde durch eine Negativerkennung.Wenn das System etwas sieht, das wie ein Matrix-Hack aussieht, schließt es das aus.Das ist so einfach.Lex FridmanAlso sowohl mit gültigen als auch mit ungültigen Daten lernen. Im Grunde mit den adversarialen Beispielen lernen, um sie ausschließen zu können.Elon MuskJa, man will im Grunde sowohl wissen, was ein Auto ist, als auch, was definitiv kein Auto ist; man trainiert auf „Das ist ein Auto“ und „Das ist definitiv kein Auto“. Das sind zwei verschiedene Dinge.Die Leute haben keine Ahnung. Neuronale Netze, wirklich? Die denken wahrscheinlich, neuronale Netze hätten nur was mit Fischernetzen zu tun.Lex FridmanWie Sie wissen. Um über Tesla und den Autopilot hinauszugehen: Die aktuellen Deep-Learning-Ansätze scheinen in mancher Hinsicht noch weit von Systemen allgemeiner Intelligenz entfernt zu sein. Glauben Sie, dass die aktuellen Ansätze uns zur allgemeinen Intelligenz führen, oder müssen völlig neue Ideen erfunden werden?Elon MuskIch denke, uns fehlen noch ein paar Schlüsselideen für allgemeine Intelligenz, für künstliche allgemeine Intelligenz, aber sie wird sehr schnell über uns hereinbrechen, und dann müssen wir herausfinden, was wir tun sollen, falls wir überhaupt die Wahl haben.Erstaunlich, dass die Leute nicht unterscheiden können zwischen, sagen wir, der schmalen KI, mit der ein Auto erkennt, was eine Fahrbahnmarkierung ist, und durch Straßen navigiert, und allgemeiner Intelligenz. Das sind einfach sehr verschiedene Dinge. Ihr Toaster und Ihr Computer sind beides Maschinen, aber das eine ist viel ausgefeilter als das andere.Lex FridmanSie sind überzeugt, dass Sie mit Tesla den besten Toaster der Welt bauen können.Elon MuskDen besten Toaster der Welt, ja. Das beste autonome Fahren der Welt.Ja.Für mich sieht es im Moment nach Spiel, Satz und Sieg aus. Ich will nicht selbstgefällig oder übermütig sein, aber so scheint es. So sieht es im Moment buchstäblich aus. Ich kann mich irren, aber es scheint so, dass Tesla allen weit voraus ist.Lex FridmanGlauben Sie, dass wir je ein KI-System erschaffen werden, das wir lieben können und das uns auf tiefe, bedeutsame Weise zurückliebt, wie im Film Her?Elon MuskIch denke, KI wird sehr gut in der Lage sein, einen dazu zu bringen, sich in sie zu verlieben.Lex FridmanUnd das ist etwas anderes als bei uns Menschen.Elon MuskDa kommen wir zu einer metaphysischen Frage: Existieren Gefühle und Gedanken in einem anderen Bereich als dem physischen? Vielleicht ja, vielleicht nein, ich weiß es nicht. Aber ich neige dazu, die Dinge aus physikalischer Sicht zu betrachten; Physik war sozusagen meine Hauptausbildung. Und aus physikalischer Sicht gilt im Grunde: Wenn sie einen so liebt, dass man nicht sagen kann, ob es echt ist oder nicht,dann ist es echt.Lex FridmanDas ist eine physikalische Sicht auf die Liebe.Elon MuskJa. Wenn es keinen… Wenn man nicht beweisen kann, dass es nicht so ist. Wenn es keinen Test gibt, mit dem man den Unterschied erkennen könnte, dann gibt es keinen Unterschied.Lex FridmanGenau. Und das ähnelt der Sicht auf unsere Welt als Simulation. Es gibt vielleicht keinen Test, um den Unterschied zwischen der realen Welt und der Simulation zu erkennen. Und daher könnte es aus physikalischer Sicht genauso gut dasselbe sein.Elon MuskJa, es gibt vielleicht Möglichkeiten zu testen, ob es eine Simulation ist. Die könnte es geben. Ich sage nicht, dass es keine gibt, aber man kann sich durchaus vorstellen, dass eine Simulation das korrigieren könnte. Sobald ein Wesen in der Simulation einen Weg fände, die Simulation zu erkennen, könnte sie neu starten, die Simulation pausieren, eine neue Simulation beginnen oder eine von vielen anderen Maßnahmen ergreifen, die diesen Fehler korrigiert.Lex FridmanWenn also vielleicht Sie oder jemand anderes ein AGI-System erschafft und Sie ihm eine einzige Frage stellen dürfen, welche wäre das?Elon MuskWas ist außerhalb der Simulation?Lex FridmanElon, vielen Dank für das Gespräch heute. Es war mir ein Vergnügen.Elon MuskGut. Danke.