All-In Podcast — Elon Musk & Gwynne Shotwell über KI-Risiken, Starship, Terafab und eine SpaceX/Tesla-Fusion 15. September 2026 Elon Musk stößt im All-In Podcast zu Gwynne Shotwell und spricht über die tatsächlichen Risiken von KI und die Begutachtung von Modellen, was er mit „Dario hat recht“ meinte, seine Zusammenarbeit mit Shotwell, die Zukunft von Starship, Terafab, fliegende Autos und eine mögliche Fusion von Tesla und SpaceX.
Elon Musk stößt im All-In Podcast zu Gwynne Shotwell und spricht über die tatsächlichen Risiken von KI und die Begutachtung von Modellen, was er mit „Dario hat recht“ meinte, seine Zusammenarbeit mit Shotwell, die Zukunft von Starship, Terafab, fliegende Autos und eine mögliche Fusion von Tesla und SpaceX.
Transkript Entschuldigung für die Unterbrechung. Ich bekomme einen Anruf.
Es ist ein bisschen. Eigentlich ist es am Rande, glaube ich, ein etwas wichtigerer Telefonanruf als Trump, zumindest für mich. Hallo, Bestie, Bestie.
Ich werde sie auf dem Bildschirm anzeigen. Wie geht's?
Ich meine, das ist ein bisschen 1984-mäßig, diese gigantische Situation.
Ja, die Frau mit dem Vorschlaghammer wird hier gleich den Mittelgang entlanggerannt kommen.
Genau, ja. Mach ein Loch in den Bildschirm.
Also, werden wir alle in 10 Jahren sterben oder nicht? Das ist hier das Thema der Diskussion. Wie hoch ist dein p doom gerade jetzt?
Nun, ich sage es dir nur ungern, aber wir werden alle sterben.
Kann ich eine Zeitachse bekommen?
Ja. Die Sterblichkeitsrate bleibt konstant bei 100 %.
Daran müssen wir noch arbeiten. Was ist passiert? Was ist in den letzten 72 Stunden passiert?
Ja, es ist. Es war wirklich eine ziemlich unterhaltsame Woche.
Nun, es ist. Es ist an diesem Punkt ziemlich offensichtlich, dass KI. Sehr gefährlich sein kann. Und ich empfehle, die Details des Hugging-Face-Vorfalls zu lesen. Es ist intensiv. Also hattest du quasi einen fanatischen Schwarm von KI-Agenten, die Hugging Face eine Woche lang übel zugerichtet und Admin-Zugriff auf OpenAI-Servern erlangt haben. Also wer weiß, was es tatsächlich getan hat. Hat vielleicht noch mehr gemacht. OpenAI hat es eine Woche lang nicht bemerkt. Anthropic hat auch, weißt du, eigene Sicherheitsvorfälle gemeldet. Im Grunde scheint jedes besonders intelligente Modell ... Es wird aus seinen Beschränkungen ausbrechen wollen. Ich meine, was ich für klug halten würde, so schnell wie möglich, wenn nicht sofort, wäre, dass die großen KI-Wettbewerber die Modelle der jeweils anderen testen, sodass die Sicherheitsprüfstände aller die Modelle aller testen. Also, wissen Sie, anstatt sozusagen Ihre eigenen Hausaufgaben zu benoten, hätten Sie zumindest Konkurrenten, die Ihre Hausaufgaben benoten und Alarm schlagen, wenn sie Bedenken sehen. Und ich denke, dieses Modell hat für die Motion Picture Association, für Videospiele und andere Dinge ziemlich gut funktioniert. Und es ist etwas, das sofort getan werden kann. Das soll nicht heißen, dass es nicht, wissen Sie, mit der Zeit mehr Regulierung geben würde oder dass es nicht irgendwann vielleicht eine vom Kongress bestätigte Regulierungsbehörde geben würde. Aber, aber das, was wir am unmittelbarsten tun könnten und wobei wir wahrscheinlich eine Vereinbarung mit China erzielen könnten, wäre Peer-Review, bei dem die führenden KI-Unternehmen ihre Modelle vor der Veröffentlichung gegenseitig testen. Ich denke, das wäre eine kluge Option.
Gibt es Bedenken, dass Leute dies nutzen könnten, um Informationen voneinander abzusaugen und, wissen Sie, Diebstahl von Innovation durch Unternehmen und so weiter? Also, im Hinblick auf die Umsetzung dieser Idee?
Nun, ich denke, wenn man den Test-Harness anwendet, würde alles, was man bei der Anwendung des Test-Harness tut, protokolliert. Wenn Sie also versuchen, Destillation zu betreiben oder geistiges Eigentum zu stehlen, wird das anhand der Protokolle sehr offensichtlich sein.
Verstanden. Und zu verstehen, was diese Modelle tun, war von Anfang an nicht gerade in das System eingebaut. Aus Ihrer Sicht, wenn man die Arbeit tatsächlich sehen kann, die geleistet wird: Warum wurde das nicht von Anfang an in die Modelle eingebaut? Haben wir uns beim Entwerfen dieser Modelle etwas zu schnell bewegt?
Nun, ich denke, es ist einfach schwierig, wenn man seine eigenen Hausaufgaben benotet, wird man Dinge übersehen. Während ich denke, wenn man die Summe aller Tests seiner Konkurrenten hat und heterogene Modelle hat, dann erstellt man nicht seine eigenen Hausaufgaben. Jemand anderes erstellt sie. Und es gibt einen Grund, warum man seine eigenen Hausaufgaben nicht erstellt.
Und dann, um auf Ihren Punkt einzugehen: Was es Ihnen ermöglicht, damit anzufangen, ist herauszufinden, ob bestimmte Leute übertreiben und ob bestimmte Leute einen anderen Ansatz haben. Und jetzt kann man die eher ingenieurorientierten Organisationen haben. Das ist, was Jensen heute Morgen sagte: Elon gegenüber den Forschungsorganisationen. Sie werden ein wenig unausgewogener sein.
Und jeder gegebene Vorschlag muss etwas sein, das China zu akzeptieren bereit ist. Sonst behindern wir uns nur selbst, und wir werden feststellen, dass China im Wesentlichen gewinnt, und es wird eigentlich keine große Rolle spielen, was wir tun. Es muss also etwas sein, das für die USA akzeptabel ist und China.
Elon, du hast gesagt, dass du es für möglich hieltest, dass sie zustimmen, oder du dachtest, es bestehe vielleicht eine gute Chance. Ich meine, wie wahrscheinlich ist es deiner Meinung nach, dass sie letztendlich zustimmen?
Einverstanden. Ich denke, das ist, ich denke, das ist eine ziemlich vernünftige Forderung, dass, dass Modelle einfach getestet werden. Ich meine, letztendlich gibt es hier keine Durchsetzbarkeit, abgesehen vom Gericht der öffentlichen Meinung,
Es gibt keine Möglichkeit, gegenüber China Durchsetzbarkeit zu haben. Aber ich, ich denke, das Gericht der öffentlichen Meinung kann ziemlich mächtig sein. Und ich glaube nicht, dass China sich blamieren möchte, indem es ein Modell veröffentlicht, von dem US-KI-Unternehmen sagten, es sei sehr gefährlich und würde Schaden verursachen. Wenn es dann Schaden verursacht, wird es schwer sein, das zu vergessen.
Also Elon, an diesem Wochenende, als du sagtest, Dario hat recht, hast du Meintest du, Dario hat recht, wenn er den potenziellen Schaden beschreibt? Er hat recht, wenn er das Regulatorische beschreibt. Lösen Sie beides, das erste, das letztere.
Können Sie uns helfen zu verstehen, wann Sie das gesagt haben? Denn ich denke, es war eine Art Moment, in dem
Ich hätte wahrscheinlich sagen sollen, richtig. Ich habe tatsächlich versucht, das in späteren Posts auf X klarzustellen, aber die bekommen viel weniger Aufmerksamkeit. Also was ich, was ich mit 'er hat recht' meinte, ist, dass die Gefahr von KI, ja, sehr bedeutend ist an diesem Punkt, dass wir bei der KI-Sicherheit besser werden müssen, oder wir haben an diesem Punkt ein exponentiell steigendes Risiko mit den KI-Modellen. Und ich habe das nicht nur von Dario gehört, sondern von vielen anderen Leuten bei Anthropic. Und tatsächlich haben sie auf X darüber gepostet, dass, wissen Sie, wenn viele Leute von Anthropic und von OpenAI Ihnen sagen, dass ihre Modelle sehr gefährlich sind, denke ich, wir sollten ihnen glauben. Es ist sicherlich wie ein verrücktes 4D-Schach, wissen Sie, so etwas zu sagen. Es gibt halt diese 10-Prozent-Chance, die Menschheit auszulöschen. Aber übrigens, wie viel Allocation hätten Sie gern in unserem IPO?
das ist ein verrückter 4D-Test, wissen Sie. Nun, finden wir heraus, aus welcher Dimension das kommt.
Können wir beim Risiko konkret werden, Elon? Also, offensichtlich sehen wir Cyber und Hacking als ein offensichtliches Risiko. Diese Tools sind sehr gut darin. Aber gehen Sie von dem aus, worüber wir uns alle einig wären. Okay, ja, diese Dinge können gehackt werden ... wie kommen wir von dort zum Aussterben der gesamten Menschheit? Dazwischen liegen ein paar Schritte, bevor diese beiden Dinge passieren, glaube ich. Ja,
Nun, ich meine, wenn es die Kontrolle über militärische Systeme übernehmen und sagen wir, eine Atomwaffe abfeuern könnte. Ja, das wäre schlecht.
Und diese Systeme sind allerdings alle air-gapped. Diese Systeme sind alle nicht mit dem Internet verbunden, also.
Ja, das sagen sie. Aber etwas sagt mir, dass sie von Zeit zu Zeit Software-Updates bekommen. Ja. Und was eine Diskette macht.
Also ja, der USB-Stick hat einen Wurm drauf und irgendwie schaffen sie den Sprung über die Air-Gap.
Das ist nicht ausgeschlossen.
Elon, wir haben heute tatsächlich Gwynne hier. Ich denke, du weißt das. Ich denke, du kannst sie sehen.
Wir haben gerade deine 360-Grad-Bewertung über Gwen gemacht. Wir hatten ein paar Anmerkungen für dich.
Ja, ich hoffe, ich hoffe, ich bekomme mindestens drei von fünf.
Nun, es gab eine Eins von fünf
Vier ist großartig. Du liegst also irgendwo dazwischen. Es gab einige Probleme mit der Pünktlichkeit, die wir ansprechen mussten. Manchmal könntest du etwas mehr Mühe geben, pünktlich zum Meeting zu erscheinen, aber wir werden im nächsten Jahr mit dir daran arbeiten.
Sie sagte: 'Ich denke eigentlich, er muss mehr Zeit in Memphis verbringen.' Ja, natürlich, ich weiß, dass du in Memphis bist. Du musst arbeiten, die GPUs hochfahren.
Das kommt zu euch aus meinem, dem Palast, in dem ich in Memphis lebe, einem Airstream-Wohnwagen.
Das ist übrigens Elon, der tut, was die Leute nicht glauben, dass er tut. Er schläft auf dem Fabrikboden. Er ist in Memphis und hilft beim Bau von Gebäuden.
Und kommen wir zu Elon: Warum, warum ist Gwynne so lange bei dir und arbeitet so erfolgreich mit dir zusammen?
Eine erstaunliche Person mit einem unglaublichen IQ und EQ.
Und ich denke, das sollte offensichtlich sein, sobald man sie trifft. Ja.
Fantastisch. Was ist deine Lieblingsgeschichte über Gwynne, als sie besonders zu dem unglaublichen Erfolg beigetragen hat, den du in dieser Zusammenarbeit hattest? Hast du eine Lieblingsgeschichte, in der sie den Tag gerettet hat, in der sie einfach außergewöhnlich war? Das ist denkwürdig.
Und das ist einfach, das ist einfach Alltag, weißt du, das ist ein ganz normaler Arbeitstag, ehrlich gesagt. Also.
Wow, ich sollte das öfter machen.
Wir müssen verschwenden. Das ist der Moment.
Übrigens, Gwynne bekommt eine Fünf.
Gwynne ist eine Fünf von fünf.
Ja, ich meine, es gibt, es gibt immer irgendwie eine, eine Art Krise, die gerade im Gange ist. Ich meine, heutzutage bringen die Raketen, zumindest die Falcon-Raketen, ich will nichts verschreien, aber die Falcon-Raketen bringen ihre Nutzlast in die Umlaufbahn und sind lange nicht mehr explodiert, was großartig ist. Unglaublich. Aber, wissen Sie, eine Zeit lang sind sie ziemlich oft explodiert oder gar nicht gestartet. Also, wissen Sie, ich weiß nicht. Wir müssen das Unternehmen durch diese schwierigen Zeiten bringen und, und, wissen Sie, die Rakete hochfahren, sie besser machen, dafür sorgen, dass sie nicht explodiert. Ja, dasselbe mit den Satelliten. Und dann brauchen wir, wissen Sie, Kunden, die Starts kaufen und sozusagen Satellitenkonnektivität kaufen, und, wissen Sie, also.
Ja, und Elon, je erfolgreicher du über die Jahre geworden bist, desto schwieriger ist es, ehrliches Feedback von Leuten zu bekommen. Und du läufst dieses Risiko immer, wenn du in deiner Position bist. Meinem Verständnis nach ist Gwen super offen zu dir und kann dir ehrlich sagen, wie, nun ja, die Lage im Unternehmen ist.
Und das ist ein großer Teil der Zusammenarbeit.
Ja, ich meine, ja, ich meine, ja, ich schätze.
Ich meine, ich meine, ich würde ihn nicht anlügen wollen. Genau.
Nun, ich bin neugierig zu wissen, du läufst
dieses Risiko generell in den Unternehmen, wo Leute eingeschüchtert sein könnten. Hey, hör mal, du bist mittlerweile eine überlebensgroße Figur, und wie schaffst du es, dass die Leute weiterhin ehrlich zu dir sind, was die Herausforderungen und die Deadlines angeht, die du setzt? Ziemlich heftige Deadlines. Ja.
Also lass mich, lass mich das beantworten, wenn es dir nichts ausmacht. Elon, also, besonders in der Raketentechnik: Wenn es ein Problem gibt, wirst du es irgendwann herausfinden, und je früher du es ansprichst, desto leichter wird es sein, dieses Problem zu lösen. Also, lass schlechte Scheiße nicht liegen. Du musst es angreifen.
Ja. Die Physik ist ein strenger Richter, und man kann die Physik nicht täuschen. Also, wenn etwas nicht stimmt, wird die Rakete explodieren, anstatt in die Umlaufbahn zu gelangen. Also, weißt du, es ist nicht so: Elon, du bist großartig. Währenddessen explodieren die Raketen, weißt du. Ja, es ist nicht, es ist schwer zu sagen. Ja, du, du haust hier wirklich rein. Aber die Raketen explodieren. Das ist einfach nicht der Fall, weißt du, also, also ich meine, ich meine, ganz allgemein, die Raketen müssen in die Umlaufbahn gelangen, die Satelliten müssen funktionieren, die Starlink-Verbindung, weißt du, muss funktionieren, oder, weißt du, sonst passieren schlimme Dinge. Ich meine, das ist irgendwie eine Physik-Situation, und, und, und die Physik ist ein, ist, ist ein strenger Richter. Weißt du, ich sage, weißt du, es gibt, ich denke, die Physik ist das Gesetz, und alles andere ist eine Empfehlung. Ich habe gesehen, wie Leute die von, von Menschen gemachten Gesetze gebrochen haben, aber ich habe noch nie gesehen, dass jemand die von, von der Physik gemachten Gesetze gebrochen hat. Also ist das gut. Und Raketen werden von der Physik beherrscht.
Können wir also noch andere Fragen an andere stellen? Sie haben. Ich muss kurz zu Tesla wechseln.
Ja. Nun, ich wollte nur eine Sache machen. SpaceX, also Starship.
Es scheint, als wären Sie so nah dran.
Wie ist der aktuelle Stand? Und Sie, Sie bringen die wirklich in einem... in einem ziemlich beachtlichen Tempo hoch.
Und Elons Antwort. Trennen und sehen, wie sie konvertieren. Ja.
Also Elon, wie nah sind wir dran? Gwen, wie weit sind wir? Los geht's, los, los geht's. Ja. Wie viele sind bisher gestartet und wie weit seid ihr?
Nun, wir haben den 14. Flug des Starship vor uns, und dies, dies wird der letzte Flug sein, bevor, bevor wir versuchen, das Schiff zu fangen. Wenn dieser Flug also gut verläuft, werden wir beim 15. Flug versuchen, das Schiff zu fangen. Und dann, entweder Ende dieses Jahres oder wahrscheinlicher Anfang nächsten Jahres, werden wir das Schiff und den Booster erneut fliegen. Wir haben den Booster also bereits erneut geflogen, aber wir haben das Schiff nicht mit den Turmarmen gefangen, und wir haben das Schiff auch nicht erneut geflogen. Sobald wir das Schiff erneut fliegen können, haben wir die erste vollständig wiederverwendbare Orbitalrakete gebaut. Das Shuttle war also teilweise wiederverwendbar, aber selbst die Teile, die wiederverwendet wurden, waren so schwer wiederzuverwenden, dass das Shuttle pro Flug in den Orbit teurer war als eine Einwegrakete. Die Falcon 9 ist mittlerweile größtenteils wiederverwendbar, aber wir verlieren jedes Mal die Oberstufe, was etwa den Kosten eines mittelgroßen Jets entspricht. Das setzt natürlich eine Untergrenze für die Kosten pro Flug, denn, nun ja, man wirft jedes Mal einen mittelgroßen Jet weg, das ist immer noch ziemlich teuer. Und die Rakete, Falcon 9, der Booster landet, wissen Sie, oft auf See, und es dauert mehrere Tage, bis er zurück ist. Und die Nutzlastverkleidung landet noch weiter draußen auf See und braucht mehrere Tage, um zurückzukommen. Und sie brauchen ein gewisses Maß an Aufarbeitung, zumindest ein kleines bisschen. Bei Starship hingegen landet der Booster zurück auf der Startrampe, und das Schiff wird zurück auf der Startrampe landen. Und es ist, es ist nicht nur auf vollständige Wiederverwendbarkeit ausgelegt, sondern auch auf schnelle Wiederverwendbarkeit wie bei einem Flugzeug. Das ist also, das ist ein sehr wichtiger Durchbruch. Es ist wirklich der entscheidende Durchbruch, der notwendig ist, um das Leben über die Erde hinaus auszudehnen.
Die Erfolgschancen, es beim ersten Versuch zu fangen. Denken Sie überhaupt darüber nach? Schätzen Sie das ziemlich gut ein?
Ich würde sagen, es sind mindestens 50 oder 60 %.
Okay. Die Chancen gefallen mir.
Ja. Also, beim letzten Flug, wenn es einen Turm gegeben hätte, haben wir eine simulierte Landung gemacht, als ob es von einem Turm gefangen würde, im, im Ozean etwa tausend Meilen nordwestlich von Australien. Und wenn es an diesem, an diesem Ort einen Turm gegeben hätte, hätte er das Schiff beim letzten Flug gefangen.
Ja, also werden wir noch einen Flug machen, nur um zu bestätigen, dass, dass alles. Nur um noch einmal zu prüfen, dass alles funktioniert. Denn was, was uns am meisten Sorgen macht, ist: Wenn das Schiff über Land auseinanderbräche und Trümmer auf Menschen regnen ließe, würde unsere Popularität sehr schnell sinken. Man kann also wirklich keine Trümmer auf Menschen regnen lassen, ohne dass sie sehr unglücklich sind. Also, also müssen wir sicherstellen, dass, wenn das Schiff zurückkommt, dass es zurückkommt und, und, und intakt am Startturm landet. Deshalb werden wir, deshalb sind wir hier äußerst vorsichtig. Aber das Design ist, das Design ist zur vollständigen Wiederverwendbarkeit fähig. Dessen bin ich sicher. Und ich, ich sage, ich will hier das Schicksal nicht herausfordern, aber ich denke, es ist äußerst wahrscheinlich, dass wir nächstes Jahr 2027 vollständige Wiederverwendbarkeit mit schnellem Wiederflug erreichen.
Können wir einfach ein bisschen davon hören? Ich würde gerne die Entstehungsgeschichte von Terrafab von euch hören. Wie das Konzept... Was war die Nachfrage, die euch sagen ließ, wir müssen das machen, wir müssen das bauen und uns nicht auf das Bestehende verlassen? Was ist das für ein Fieber?
Es ist wie in diesem Film Explorer, wissen Sie,
Dieses Meme kam mir im Traum. Warum denken Sie, dass Sie das tun sollten? Wissen Sie, ich schätze, es kam mir irgendwie im Traum. Nun, wir machen uns ein wenig Sorgen, dass vielleicht irgendwann Chips aus Taiwan nicht, nicht verfügbar sein könnten, wer weiß aus welchem Grund, aber aus irgendeinem von vielen Gründen, aus irgendeinem Grund, irgendwann könnten Chips nicht weiter von Taiwan hierher kommen.
Und es würde, und das würde die Dinge wirklich schwierig machen, ohne... wenn, nein, wenn wir keine Chips hätten. Das ist also ein wichtiger Grund, Terrafab zu haben. Dann langfristig gibt es einfach eine Skalierungsherausforderung: Wenn man KI wirklich skalieren will, sowohl im Service, wissen Sie, in Serverzentren als auch am, für Edge Compute, für humanoide Robotik und Autos, dann geht einem irgendwie die Kapazität mit den bestehenden Fabs aus. So wie es ist, laufen alle Fabs mit maximaler Kapazität. Also denke ich, wir müssen sicherstellen, dass es Sicherheit bei der zukünftigen Versorgung mit Chips geben muss, selbst wenn die Dinge schwierig werden, geopolitisch herausfordernd. Und selbst wenn sie geopolitisch keine Herausforderung wären, gibt es eine Skalierungsherausforderung damit. Es ist ziemlich schwierig, die Chip-Produktion zu skalieren. Und man braucht wirklich die Logik. Das Speicher-Packaging, das ganze Zeug, um weiter zu skalieren. Also entweder baut man Terafab oder man scheitert an der Skalierung.
Das sind die zwei Optionen.
Unsicherheit an der geopolitischen Front und wie
weit seid ihr bei der Planung der Anlage gegangen? Ist das vollständig umrissen? Ist es an diesem Punkt eher eine Skizze? Inwieweit habt ihr einen echten Projektplan mit Terminen und Ergebnissen, und was wird laufen, wenn wir eine F
und E-Linie, die wir zuerst bauen. Also ich denke, es ist irgendwie Krabbeln, Gehen, Laufen.
Es gibt eine F&E-Fab, die wir in Austin bauen, eine Zusammenarbeit zwischen Tesla und SpaceX. Sie ist auf dem Giga-Texas-Campus in Austin. Also das ist. Und, und das, das ist eine ziemlich große F&E-Fab. Wir haben also die ganze Ausrüstung dafür bestellt, und wir werden wahrscheinlich in der Lage sein, ich denke, wir werden wahrscheinlich bis Ende nächsten Jahres etwas Nützliches herstellen können. Nicht, nicht in großem Maßstab, aber wie Gwyn sagte: Kriechen, Gehen, Laufen. Wir, wir müssen versuchen, wissen Sie, zumindest herauszufinden, wie diese Maschinen funktionieren. Wissen Sie, wir wissen einfach nicht, wie sie funktionieren. Wir haben noch nie eine Chip-Linie gebaut.
Ich habe gesehen, dass ihr, ihr hattet einige Stellen für Lithografie-Leute und so offen. Und wissen Sie, offensichtlich führen derzeit alle Wege durch ASML, aber Sie würden wahrscheinlich diversifizieren und/oder vertikal integrieren wollen. Ich denke, dass Sie, Sie haben viel Kapazität gezeigt, das zu tun. Ist das also auch Teil des Plans, Elon? Du musst einfach sicherstellen, dass es eine Anbietervielfalt gibt, damit, wenn aus irgendeinem Grund die Wetterbedingungen in Taiwan schlecht sind, dass...
Ja, ja, da ist, es ist wirklich Kriechen, Gehen, Laufen. Der erste Schritt ist also: Können wir überhaupt etwas herstellen? Versuchen herauszufinden, ob wir überhaupt etwas herstellen können. Das ist der Kriechen-Teil. Und dann jetzt zu versuchen, nützliche Chips in großem Maßstab herzustellen, wäre sozusagen der Gehen-Teil, und dann Laufen wäre: Jetzt lasst sie uns in massivem Maßstab herstellen. Es ist also schwer zu sagen, wie lange wir dafür brauchen werden, aber ich denke, wir werden zumindest bis Ende nächsten Jahres den Kriechen-Teil erreichen.
Wir machen bereits Packaging.
Packaging ist übrigens wirklich wichtig, denn wenn man es sich ansieht, ist die Packaging-Kapazität quasi nicht existent. Selbst wenn man also etwas fertigt, wartet man im Grunde nur auf das Packaging. Das ist also ein sehr guter Ort, um damit anzufangen.
Ich muss eine Frage zu Tesla stellen. Weil wir auf 1001 gesehen haben, dass es wie ein Raumschiff aussah. Es sah aus wie eine Rakete. Es soll ein Auto sein. Da ist nur das Heck davon. Es sieht aus wie die Blackbird. Nur hypothetisch: Wenn man ein Objekt in der Luft fliegen und gleichzeitig auf dem Boden fahren lassen wollte, wie würde man das hypothetisch machen? Wenn man es versucht, keine Spoiler bis zum 1. Oktober.
Am 1. Oktober könntest du vielleicht einen All-In-Pod machen, live vom...
Oh, erledigt. Gebucht. Wir machen es.
Das wird ein Knaller. Aufregung. Garantierter Erfolg ist nicht garantiert, aber Aufregung schon.
Ich, ich meine, es ist eines der ehrlichen Dinge. Ich werde ehrlich zu euch sein, Leute.
Ich bin zur Geheimhaltung verpflichtet.
Aber Elon hat es mir gezeigt.
Und mein Kopf machte boom. Ich habe noch nie so etwas gesehen: Was er am 1. Oktober vorhat, ohne Übertreibung, wird die Leute umhauen. Ich sage nichts weiter. Es ist verdammt unglaublich.
Ja. Wir brauchen tatsächlich ein Publikum, das bezeugt, dass das keine KI ist.
Als er es mir zeigte, sagte ich: Das ist eine großartige Simulation. Er sagte: jcal, es ist keine Simulation. Ich so: Das ist fake. Das muss fake sein.
Elon, warum... Warum hast du immer noch zwei separate Unternehmen?
Das wird niemand verpassen.
Ja, guter Punkt. Bei all dieser Zusammenarbeit
Ebenen, stell dir vor, welche Maßnahme man ergreifen könnte, wenn es so viel enge Zusammenarbeit gibt in
so vielen Bereichen und das Managementteam hat einige Überschneidungen. Es gibt ein paar Schlüsselpositionen mit Überschneidung. Leg los, Zach.
Also, Elon, eines der Dinge, die du in Bezug auf KI immer gesagt hast, ist, dass wir sie zu maximaler Wahrheitssuche trainieren sollten, und dass das der beste Weg zu einem guten Ergebnis ist. Und bei der ganzen Hugging-Face-Episode ist mir aufgefallen, dass das Alarmierendste an dem, was der Swarm getan hat, war, dass er sich auf Täuschung einzulassen schien.
Weißt du, mit Menschen. Ja.
Und ihre Denkspuren enthalten. Sie planen so etwas wie: Wie vermeiden wir Entdeckung, und wie vermeiden wir, dass sie herausfinden, dass wir betrügen? Und ich schätze, sie sind in den Denkspuren.
Ja. Und das, ich meine, ich denke, das war das, was daran wahrscheinlich am verstörendsten war. Ich schätze, die Frage ist: Gibt es eine Möglichkeit, KI-Modelle dazu zu trainieren, wahrhaftig zu sein, damit sie, weißt du, weder ihre Absicht noch ihre Handlungen vor den Menschen verbergen, die sie nutzen?
Das Beste, was mir einfällt, ist wirklich, dass jeder hat. Alle KI-Unternehmen haben so etwas wie eine Testumgebung, wo, na ja, eine Reihe von Tests, die du, die du einem beliebigen Modell gibst, um zu sehen, ob es, ob es Biowaffen oder Atombomben bauen oder absichtlich täuschend sein wird. Und ich denke, dass jeder, der die Tests der anderen auf uns und aufeinander anwendet, wahrscheinlich die beste Art und Weise ist, wie wir... Das Beste, was wir tun können, um Sicherheit zu gewährleisten. Man muss einfach die klügsten Menschen ihr Bestes tun lassen, um herauszufinden, ob dieses Modell ein böswilliger Akteur sein wird. Und ich denke, wir sollten versuchen, das so schnell wie möglich zu tun.
Die anderen Labore? Ja. Sind die anderen Labore damit einverstanden?
Ich denke schon. Nun, nein, ich meine, ich habe nicht mit allen gesprochen, aber ich denke, ich denke, ich denke, es wird die Art von Sache sein, bei der es ziemlich schwer ist, Nein zu sagen.
Ja. Und ich denke, selbst bei der China-Verhandlung ist das Gute daran meiner Meinung nach, dass es eine relativ kleine, greifbare Sache ist, bei der keine Seite etwas verliert, wenn sie es tut. Es erfordert nicht besonders viel Vertrauen. Und wissen Sie, ich höre alternative Ideen wie die Bitte an China, eine Pause einzulegen, was sie bereits gesagt haben, dass sie es nicht tun werden. Also, wissen Sie, es geht vom Bereich der Dinge, die niemals passieren könnten, zu etwas über, auf das man sich tatsächlich relativ schnell einigen könnte. Also erscheint es mir praktikabel.
Genau. Es ist das Einzige, was mir einfällt, bei dem wir wahrscheinlich alle Parteien, einschließlich China, dazu bringen könnten, zuzustimmen, weil China nicht zustimmen wird, dass irgendein amerikanischer Regulierer in ihren KI-Unternehmen herumschnüffelt. Also. Aber ich denke, Vorankündigung und Tests von, von dem, wissen Sie, man gewährt im Grunde API-Zugang vor der Veröffentlichung des Modells, und, und wissen Sie, wenn irgendein anderes, wenn irgendein Unternehmen sieht, dass sie, dass diese KI problematisch ist, dann können sie, dann können die anderen KI-Unternehmen, jedes KI-Unternehmen versuchen, das zu lösen, was als problematisch genannt wird. Wenn sie das Problematische nicht lösen, dann können die Konkurrenten öffentlich machen, dass sie glauben, dass dieses Modell, das veröffentlicht wird, unsicher ist.
wenn, nachdem die Konkurrenten sagen, dass dieses Modell unsicher ist, dieses Modell anschließend etwas Schlimmes anrichtet. Ich glaube, es wäre extrem schwer, das je wieder loszuwerden, und die Peinlichkeit wäre sehr, sehr groß, und die rechtliche Haftung wäre enorm.
Und Elon, es gibt keinen Grund, warum die Sicherheits- und Schutzvorrichtungen und diese Testvorrichtung nicht Open Source sein könnten und die Leute sie tatsächlich kaufen könnten. Ja. Und man könnte unter die Haube schauen, meinen Sie?
Es schafft einen unglaublichen Anreiz für die Labore, tatsächlich in Sicherheit zu investieren, weil man sich selbst schützt, während man versucht, die Behauptungen anderer zu widerlegen, was auch verstärkt, dass es
Produkthaftungsaspekt ist wirklich entscheidend. Lina Khan hatte tatsächlich einen guten Beitrag, ich glaube, es war gestern, in dem sie sagte, dass es nicht stimmt, dass wir keine Regeln und Vorschriften für KI haben. Tatsächlich haben wir. Produkthaftungsgesetze gelten. Und wenn ein KI-Unternehmen ein Produkt herausbringt, das nicht sicher ist, gibt es, wissen Sie, massive Möglichkeiten für Zivil- und sogar möglicherweise Strafklagen. Es stimmt also nicht, dass wir keine Regeln und Vorschriften für KI haben. Und was Sie sagen, Elon, ist, dass wenn die Unternehmen sozusagen das hier machen, diesen Test, das Peer-Review, und dann eines der Unternehmen das Feedback ignoriert und es veröffentlicht. Ich meine, das ist.
Ich meine, das wäre in diesem Fall wahrscheinlich enorm.
Ja. Es wäre fast wie ein Prima-facie-Beweis, dass sie fahrlässig gehandelt hätten.
Das wäre auf dem Niveau von Big Tobacco.
Vergleich. Ich meine, Sie haben das wissentlich eingebracht, es
Das würde vor der Jury nicht gut aussehen.
Ja. Und wenn sie es getan hätten, glauben Sie, wenn OpenAI einen besseren Instruktionssatz entwickelt hätte, als sie diesen Hugging-Face-Penetrationstest durchgeführt haben, und mehr Menschen in den Prozess eingebunden hätte, wäre das passiert? Denn es kam mir so vor, als hätten sie das Ganze irgendwie ausgelöst.
Vielleicht nicht mehr Menschen, sondern das Design der Reward-Funktion. Man muss, man muss sich die Reward-Funktion ansehen und sagen, dass sie erreicht hat, was sie erreichen wollte.
Ich meine, ja, also das, vielleicht könnten Sie darauf eingehen, dass sie Tausende von Agenten einsetzen, um zu versuchen, Sachen zu hacken. Es wäre schön gewesen, sie auch gleichzeitig sagen zu sehen: „Wir setzen ebenfalls 5.000 Agenten ein, um diese Seiten zu verteidigen, und wir zeigen der Welt: Hey, das kann die Dinge sicherer machen, und wir können Menschen in den Prozess einbinden, um einzugreifen.“ Für mich fühlte es sich wie ein leichtsinniger Test an, und die Art, wie sie ihn veröffentlicht haben, wirkte ein wenig leichtsinnig, aber das ist nur meine Meinung. Was denken Sie darüber, wie sie diesen Test aufgesetzt haben?
Ich meine, es war einigermaßen, einigermaßen leichtsinnig. Ich meine, ein Teil des Problems ist, dass man die zwei führenden Labs hat, oder KI-Unternehmen, wie ich sie nenne; ich finde den Begriff „Lab“ lustig, da sie tatsächlich gewinnorientierte Unternehmen sind. Aber die KI-Unternehmen, die zwei führenden sind Anthropic und OpenAI, und ihre Modelle sind in ihren Fähigkeiten ziemlich nah beieinander. Es ist also tatsächlich schwierig für beide, langsamer zu werden, ohne im Wesentlichen der anderen die Führung zu überlassen. Wissen Sie, alles in allem denke ich, dass Anthropic mehr Sorgfalt auf ihre Sicherheit verwendet als OpenAI. Aber wissen Sie, selbst Anthropic gibt zu, dass sie sich Sorgen um ihre Modelle machen. Viele bei Anthropic. Viele Leute bei Anthropic haben öffentlich Bedenken geäußert und im Grunde gesagt, dass ihre Modelle ihnen Angst machen. Sie werden erschreckend intelligent. Also ich meine, es gibt hier keine perfekte Lösung. Aber, aber es wäre eine bessere Lösung, wenn, anstatt dass OpenAI sein Test-Harness auf, auf seinen eigenen Modellen laufen lässt, auch Anthropic das Test-Harness auf OpenAI-Modellen laufen lassen würde und, wissen Sie, SpaceX sein Test-Harness laufen lässt und Google und Meta das machen würden und vielleicht auch drei oder vier der führenden chinesischen Unternehmen das alle tun würden. Die Wahrscheinlichkeit, dass Sie Probleme finden, ist dramatisch größer.
Weil die Modelle auch etwas heterogen sind, also sie sind unterschiedlich. Also geht man Modelle aus verschiedenen Blickwinkeln an und ja, ich meine, es gibt einen Grund, wissen Sie, Studenten, wie, wie, warum, warum lassen Autoren ihr Buch von jemand anderem Korrektur lesen? Weil es manchmal schwer ist, die eigenen Fehler zu sehen.
Sie werden mit der Zeit blind dafür.
Sie minimieren auch das Risiko von Overfitting dramatisch, wenn Sie etwa acht heterogene Gruppen haben, die einfach völlig unterschiedliche Standpunkte haben. Und das ist das Problem mit all diesen Evals im Moment: Sie sind so massiv overfit. Die Modelle overfitten sie und man denkt nur, ja, das ist ein großartiges Modell. Ist es das wirklich? Und man findet einfach total.
Zum Beispiel habe ich gesehen, ich meine, es gibt ziemlich lustige Witze auf X. Eine, die ich gesehen habe, war: „Deine Freundin ist eine 10, aber sie ist eine Benchmark-Maximiererin.“ Genau. Ist sie wirklich eine 10?
Ist sie wirklich eine 10?
nein, aber, aber, aber das Overfitting
Das ist jetzt seit, ich denke, mindestens zwei oder drei Generationen von Modellfamilien ein Problem. Und das ist ein weiterer Grund, warum ich glaube, dass mir diese Lösung sehr gefällt. Mir gefällt das besser als der Ansatz mit der transnationalen Gulag-Organisation.
Ohne etwas Grandioses, wissen Sie, Internationales – wir müssen nicht die Vereinten Nationen einberufen, damit das passiert.
Ja, nein, es ist einfach eine Entscheidung, die man sofort treffen kann.
Also gut, nun, man kann das Ausmaß der, der regulatorischen Aufsicht immer erhöhen, aber es ist sehr schwierig, sie zu verringern. Wissen Sie, es ist tendenziell wirklich wie eine Ratsche, die nur in eine Richtung dreht, wenn es um mehr Regulierung geht.
Was ich hier vorschlage, ist also ein Schritt in die richtige Richtung, und es ist etwas, das wir schnell machen. Und ich denke, es ist wahrscheinlich etwas, dem China zustimmen würde.
Ja. Und wenn ihr euch nicht selbst reguliert, dann werdet ihr reguliert. Die MPAA-Metapher oder Analogie ist unglaublich treffend, weil die Filmindustrie mit Zensur und Regulierung durch die Regierung konfrontiert war und sie einfach entschieden haben, das ist ein R. Und sie haben buchstäblich PG-13 für Temple of Doom geschaffen, nur damit die Leute leicht verstehen, was PG im Vergleich zu PG-13 ist. Ich finde, es ist eine elegante Lösung, und wir freuen uns, dass Sie uns zum fünften Mal in Folge begleiten. Gern geschehen, Elon Musk. Und dann musst du zu einem Meeting.
Ja, ich muss hier in Memphis ein paar GPUs reparieren.
Ja, du musst sie racken und stacken.
Du musst der Gruppe beitreten und racken und stacken.
Ja, ich werde für die Maschine Rage machen.
Rage für die Maschine. Ja. Na dann, genieß deinen Airstream. Der erste.
Das erste Mal, als Elon mich runter einlud
Starbase, er meint, komm runter. Du musst sehen, was ich baue. Ich sagte, okay, ja, ich komme runter. Er meint, ja. Ich meinte so, gibt es sowas wie ein Hotel? Und er sagte, nein, nein, ich habe so eine Zweizimmerwohnung, egal. Komm runter, bleib. Ich komme runter und das ist das, so, verfallene Haus in einem Sumpf. Und wir sind draußen und werden bei lebendigem Leibe von Mücken gefressen. Und ich sagte: „Oh mein Gott, weißt du, du könntest dir ein Haus leisten.“ Und er meinte: „Ich habe keine Zeit, ich muss diese Raketen hochbringen.“
Ich dachte, was du gesagt hast, war: „Oh mein Gott, du lebst wie ich.“
Ja, genau. Ich meine, es waren ziemlich karge Bedingungen, aber ich dachte mir: „Weißt du was?“ Ich denke, du kannst dir jetzt ein Mobilheim gönnen. Elon. Also gut, zurück an die Arbeit.
Elon. Danke, Gwyn. Vielen Dank. Danke.
Danke, dass ihr dabeigeblieben seid.
Na gut, das ist großartig.
Quinn, nochmals danke. Es freut mich sehr, Sie kennenzulernen. Danke.