Dwarkesh Podcast 5. Februar 2026 Elon Musk trifft Dwarkesh Patel und Stripe-Mitgründer John Collison zu einem fast dreistündigen Gespräch über Rechenzentren im Orbit, die Skalierung der Energie bis zum Terawatt, die Fertigung von Humanoiden in den USA und die Pläne von xAI.
Elon Musk trifft Dwarkesh Patel und Stripe-Mitgründer John Collison zu einem fast dreistündigen Gespräch über Rechenzentren im Orbit, die Skalierung der Energie bis zum Terawatt, die Fertigung von Humanoiden in den USA und die Pläne von xAI.
Transkript Vollständiges Transkript auf dwarkesh.com → Gibt es also wirklich drei Stunden Fragen, oder ist das dein verdammter Ernst?
Ja. Du hast doch gar nicht viel zu erzählen, Elon.
Co-interviewer
Ich meine, es ist der interessanteste Zeitpunkt. Alle Handlungsstränge laufen gerade irgendwie zusammen, also mal sehen, wie weit.
Fast als hätte ich es so geplant.
So etwas würde ich nie tun.
Also, wie du besser weißt als jeder andere: Bei den Gesamtbetriebskosten eines Rechenzentrums macht Energie nur 10 bis 15 % aus. Und das ist der Teil, den man vermutlich spart, wenn man das ins All verlegt. Das meiste sind die GPUs. Wenn sie im All sind, ist die Wartung schwieriger oder unmöglich, also verkürzt sich ihr Abschreibungszyklus. Es wäre also viel teurer,
die GPUs im All zu haben, vermutlich.
Was ist der Grund, sie ins All zu bringen?
Nun, das Problem ist die Verfügbarkeit von Energie. Wenn man sich die Stromerzeugung außerhalb Chinas anschaut, überall außer in China, ist sie mehr oder weniger flach. Es ist sehr, weißt du, vielleicht ein leichter Anstieg, aber ziemlich flach. China hat einen rasanten Anstieg der Stromerzeugung. Aber wenn man Rechenzentren irgendwo außer in China baut, woher bekommt man dann den Strom? Vor allem beim Skalieren: Die Chipproduktion wächst praktisch exponentiell, aber die Stromerzeugung ist flach. Wie will man die Chips also einschalten, mit magischen Energiequellen? Magische Stromfeen.
Du bist bekanntlich ein großer Fan von Solarenergie. Ein Terawatt Solarleistung. Bei einem Kapazitätsfaktor von 25 % sind das etwa 4 Terawatt Solarmodule, ungefähr 1 % der Fläche der Vereinigten Staaten. Und das ist schon sehr weit. Man wäre schon in der Singularität, wenn wir ein Terawatt an Rechenzentren haben. Stimmt. Woran mangelt es uns also genau?
Wie weit bist du in der Singularität?
Ja, genau. Ich glaube, wir werden merken, dass wir in der Singularität sind, und denken: Okay, wir haben noch einen weiten Weg vor uns. Aber ist das so eine Art…
Ist der Plan, ins All zu gehen, nachdem wir Nevada mit Solarmodulen bedeckt haben?
Ich denke, es ist ziemlich schwer, Nevada mit Solarmodulen zu bedecken. Man braucht Genehmigungen von… Versuch mal, dafür die Genehmigungen zu bekommen.
Das All ist also eigentlich eine regulatorische Frage. Es ist wirklich eine regulatorische Wette. Es ist schwieriger, an Land zu bauen als im All.
Es ist schwieriger, am Boden zu skalieren als im All. Aber außerdem sind Solarmodule im All etwa fünfmal so effektiv wie am Boden. Und man braucht keine Batterien. Fast hätte ich mein anderes Shirt angezogen, auf dem steht: Im All scheint immer die Sonne, und so ist es. Denn im All gibt es keinen Tag-Nacht-Zyklus, keine Jahreszeiten, keine Wolken und keine Atmosphäre, und allein die Atmosphäre führt zu etwa 30 % Energieverlust. Man kann also… Jedes Solarmodul kann im All etwa fünfmal mehr Strom erzeugen als am Boden, und man spart die Kosten für Batterien, die einen durch die Nacht bringen. Es ist also tatsächlich viel billiger, das im All zu machen. Und meine Vorhersage ist, dass das All in 36 Monaten oder weniger mit Abstand der billigste Ort für KI sein wird. Vielleicht 30.
Wie wartet man GPUs, wenn sie ausfallen, was beim Training ziemlich oft passiert?
Eigentlich hängt es davon ab, wie neu die gelieferten GPUs sind. Ich meine, inzwischen haben wir unsere GPUs als ziemlich zuverlässig erlebt. Es gibt die Frühausfälle, die man natürlich am Boden ausbügeln kann. Man kann sie einfach am Boden laufen lassen und bestätigen, dass es bei den GPUs keine Frühausfälle gibt. Aber sobald sie, sobald sie laufen, ist ihre Zuverlässigkeit real. Und sobald sie laufen und man den anfänglichen Debug-Zyklus von Nvidia hinter sich hat, oder wer auch immer die Chips baut, das könnten Tesla-AI6-Chips sein oder TPUs oder Trainium, egal, ist die Zuverlässigkeit da. Tatsächlich sind sie ab einem gewissen Punkt ziemlich zuverlässig. Ich glaube also nicht, dass die Wartung ein Problem ist. Aber merk dir meine Worte: In 36 Monaten, eher in 30, wird das All der wirtschaftlich attraktivste Ort für KI sein. Und dann wird es… Dann wird es lächerlich viel besser, im All zu sein. Und dann das Skalieren. Der einzige Ort, an dem man wirklich skalieren kann, ist das All. Sobald man darüber nachdenkt, welchen Prozentsatz der Sonnenenergie man nutzt, erkennt man, dass man ins All muss. Auf der Erde kann man nicht sehr weit skalieren.
Aber mit „sehr weit“ meinst du, um das klarzustellen, Terawatt. Ja.
Nun, die gesamten Vereinigten Staaten verbrauchen derzeit im Schnitt nur ein halbes Terawatt. Ja, richtig. Wenn man also ein Terawatt sagt, wäre das doppelt so viel Strom, wie die USA derzeit verbrauchen. Das ist also eine ganze Menge. Und kannst du dir vorstellen, so viele Rechenzentren, so viele Kraftwerke zu bauen? Wer in der Softwarewelt gelebt hat, ahnt nicht, dass er gleich eine harte Lektion in Hardware bekommt: Kraftwerke zu bauen ist tatsächlich sehr schwierig. Und man braucht nicht nur Kraftwerke, man braucht die ganze elektrische Ausrüstung, die Transformatoren, um die Transformer zu betreiben, die KI-Transformer. Nun ist die Versorgungsbranche eine sehr langsame Branche. Sie passen ihre Impedanz an die Regierung an, an die Regulierungsbehörde. Sie bremsen also, buchstäblich und im übertragenen Sinne. Sie sind also sehr langsam, weil ihre Vergangenheit sehr langsam war. Sie dazu zu bringen, schnell zu sein, ist also wie, weißt du, wenn man versucht, einen Netzanschlussvertrag abzuschließen. Hast du jemals versucht, mit einem Versorger einen Netzanschlussvertrag in großem Maßstab abzuschließen? Mit viel Leistung?
Als professioneller Podcaster kann ich sagen, dass ich das tatsächlich nicht habe. Ja.
Co-interviewer
Ich bräuchte viel mehr Aufrufe, bevor das ein Thema wird.
Sie müssen ein Jahr lang eine Studie machen. Okay. Ein Jahr später kommen sie dann mit ihrer Anschlussstudie zurück.
Co-interviewer
Kann man das nicht mit eigener Stromerzeugung hinter dem Zähler lösen?
Man kann Kraftwerke bauen. Ja, das haben wir bei xAI für Colossus 2 gemacht. Also. Für Colossus 2, ja. Warum reden wir dann über das Netz?
Co-interviewer
Warum nicht einfach GPUs und Kraftwerk am selben Ort bauen?
Das machen wir. Richtig, richtig.
Co-interviewer
Aber ich frage, warum das keine allgemeine Lösung ist.
Wenn du über all diese Probleme sprichst,
woher bekommt man die Kraftwerke? Ich meine, wenn du über all die Probleme mit den Versorgern sprichst, kann man
Co-interviewer
doch einfach private Kraftwerke mit den,
mit den Rechenzentren bauen. Richtig. Aber das wirft die Frage auf: Woher bekommt man die Kraftwerke? Woher kommen die Kraftwerke? Ich meine, die Kraftwerkshersteller.
Co-interviewer
Ah, du meinst den Auftragsstau bei Gasturbinen?
Im Grunde ja. Man kann noch eine Ebene tiefer gehen. Es sind die Leit- und Laufschaufeln in den Turbinen, die der limitierende Faktor sind, weil das Gießen… Es ist ein sehr spezieller Prozess, die Schaufeln in Gasturbinen zu gießen, und es ist sehr, sehr schwer, andere Energieformen zu skalieren. Man könnte potenziell Solar skalieren, aber die Zölle auf Solarimporte in den USA sind derzeit gigantisch und die heimische Solarproduktion ist erbärmlich.
Co-interviewer
Warum nicht Solar herstellen? Das klingt nach einem Problem, das wie gemacht ist für Elon.
Wir werden Solar herstellen. Okay. Ja, super. Sowohl SpaceX als auch Tesla steuern auf 100 Gigawatt Solarzellenproduktion zu.
Wie tief in der Wertschöpfungskette, vom Polysilizium über den Wafer bis zum
fertigen Modul? Ich denke, man muss alles machen, vom Rohstoff bis zur fertigen Zelle. Und wenn es ins All geht, kostet es tatsächlich weniger. Und Solarzellen fürs All sind einfacher herzustellen, weil sie kein oder kaum Glas und keinen schweren Rahmen brauchen, da sie keinen Wetterereignissen standhalten müssen. Im All gibt es kein Wetter. Eine Solarzelle fürs All ist also tatsächlich billiger als eine für den Boden.
Gibt es einen Weg, sie in den nächsten 36 Monaten so billig wie nötig zu machen?
Solarzellen sind schon sehr billig. Sie sind absurd billig. Ich glaube, Solarzellen in China liegen bei etwa 25, 30 Cent pro Watt oder so, das ist absurd billig. Und jetzt bring sie ins All, und es ist fünfmal billiger. Weil es fünfmal… Nein, eigentlich ist es nicht fünfmal billiger. Es ist zehnmal billiger, weil man keine Batterien braucht. Also. Sobald also die Kosten für den Zugang zum All niedrig sind, ist das All mit Abstand der billigste und skalierbarste Weg, Tokens zu erzeugen. Da gibt es nicht mal einen Vergleich. Es wird eine Größenordnung leichter zu skalieren sein, Chips mal beiseite. Nun, der Punkt ist, dass man am Boden nicht skalieren kann. Man wird es einfach nicht können. Die Leute werden bei der Stromerzeugung gewaltig gegen eine Wand laufen. Das tun sie schon. Die Zahl der Wunder in Serie, die das xAI-Team vollbringen musste, um ein Gigawatt Leistung ans Netz zu bringen, war verrückt. Wir mussten eine ganze Reihe Turbinen zusammenschalten, und dann hatten wir Genehmigungsprobleme in Tennessee und mussten über die Grenze nach Mississippi, das zum Glück nur ein paar Meilen entfernt ist. Aber dann mussten wir trotzdem Hochspannungsleitungen über ein paar Meilen ziehen und ein Kraftwerk in Mississippi bauen. Und es war sehr schwierig, das zu bauen. Und die Leute verstehen es nicht. Wie viel Strom braucht man tatsächlich auf Generatorebene, auf Erzeugungsebene, um ein Rechenzentrum zu betreiben? Weil die Anfänger sich den Stromverbrauch etwa eines GB300 ansehen, das mit der Anzahl multiplizieren und denken, das sei der Strombedarf.
Co-interviewer
Die ganze Kühlung und alles.
Wacht auf. Ja, das sind totale Anfänger. Du hast in deinem Leben noch nie Hardware gemacht außer dem GB300. Man muss die ganze Netzwerkhardware mit Strom versorgen. Da läuft eine ganze Menge CPU- und Speicherkram. Man muss auf den Spitzenkühlbedarf auslegen. Das heißt: Kann man selbst in den schlimmsten Stunden, am schlimmsten Tag des Jahres kühlen? Nun, in Memphis wird es verdammt heiß, also hat man etwa 40 % mehr Leistungsbedarf allein für die Kühlung. Angenommen, man will nicht, dass das Rechenzentrum an heißen Tagen abschaltet, dann kommt noch ein Multiplikator dazu: Geht man davon aus, dass die Stromerzeugung nie Aussetzer hat? So nach dem Motto: Ach, manchmal müssen wir die Generatoren, einen Teil der Leistung, für die Wartung vom Netz nehmen. Ah, okay, dann kommt noch ein Multiplikator von 20, 25 % dazu, weil man davon ausgehen muss, dass man Leistung für die Wartung abschalten muss. Also braucht man real für etwa je 110.000 GB300, inklusive Netzwerk, CPU, Speicher, Kühlung und Wartungsreserve, ungefähr 300 Megawatt.
Co-interviewer
Entschuldige, sag das noch mal.
Es ist ungefähr… Oder anders gesagt: Was man auf Erzeugungsebene tatsächlich braucht, um 330.000 GB300 samt aller Unterstützung, Netzwerk und so weiter, Spitzenkühlung und etwas Leistungsreserve zu versorgen, ist ungefähr ein Gigawatt.
Darf ich eine sehr naive Frage stellen? Ja. Du beschreibst die technischen Details auf der Erde, aber es gibt analoge technische Schwierigkeiten im All. Wie macht man das… Wie ersetzt man InfiniBand durch Laser im Orbit und so weiter? Wie macht man sie strahlungsresistent? Ich kenne die technischen Details nicht, aber grundsätzlich: Warum sollte man glauben, dass diese Herausforderungen, die noch nie gelöst werden mussten, am Ende leichter sind, als einfach mehr Turbinen auf der Erde zu bauen? Es gibt Firmen, die auf der Erde Turbinen bauen. Sie können mehr Turbinen bauen. Oder?
Ich lade dich noch einmal ein, es zu versuchen, dann wirst du sehen. Die Turbinen sind bis 2030 ausverkauft.
Co-interviewer
Habt ihr überlegt, eure eigenen zu bauen?
Ich denke, um genug Leistung ans Netz zu bringen, werden SpaceX und Tesla die Turbinenschaufeln, Leit- und Laufschaufeln, wahrscheinlich selbst herstellen müssen, aber
Co-interviewer
nur die Schaufeln oder die Turbinen?
Der limitierende Faktor: Man bekommt alles außer den Schaufeln. Man nennt sie Lauf- und Leitschaufeln. Das alles bekommt man 12 bis 18 Monate vor den Schaufeln, die der limitierende Faktor sind. Und es gibt weltweit nur drei Gießereien, die diese herstellen, und sie haben einen gewaltigen Auftragsstau.
Co-interviewer
Sind das Siemens, GE, diese Leute, oder
ist das ein Zulieferer? Nein, das sind andere Firmen. Ich meine, manchmal haben sie ein bisschen eigene Gießkapazität. Aber ich sage nur: Man kann jeden Turbinenhersteller anrufen, und er wird es einem sagen, das ist nicht streng geheim. Es steht wahrscheinlich gerade im Internet.
Wenn es die Zölle nicht gäbe, würde Colossus mit Solarstrom laufen?
Es wäre viel einfacher, es mit Solarstrom zu betreiben. Ja, die Zölle sind verrückt. Sie liegen bei mehreren hundert Prozent. Also, weißt du, manche…
Wir brauchen auch Geschwindigkeit.
Ja, nein, weißt du, der Präsident hat seine… wir sind nicht in allem einer Meinung, und diese Regierung ist nicht der größte Fan von Solarenergie. Wir brauchen also auch das Land, die Genehmigungen und alles. Wenn man also sehr schnell sein will… ich denke schon, dass Solar auf der Erde zu skalieren ein guter Weg ist. Aber man braucht eine gewisse Zeit, um das Land zu finden, die Genehmigungen zu bekommen, die Solaranlagen zu beschaffen und mit Batterien zu kombinieren.
Co-interviewer
Aber warum würde es nicht funktionieren, eine eigene Solarproduktion aufzubauen? Und du hast recht, irgendwann geht einem das Land aus. Aber es gibt viel Land hier in Texas, viel Land in Nevada, auch Privatland. Es ist nicht alles öffentliches Land. Und so könnte man zumindest den nächsten Colossus bauen und den danach auch. Und irgendwann stößt man an eine Wand. Aber würde das nicht vorerst funktionieren?
Wie gesagt, wir skalieren die Solarproduktion. Es gibt eine Rate, mit der man die physische Produktion von Solarzellen hochfahren kann. Wir gehen beim Ausbau der heimischen Produktion so schnell wie möglich vor.
Co-interviewer
Ihr stellt die Solarzellen bei Tesla her.
Sowohl Tesla als auch SpaceX haben den Auftrag, 100 Gigawatt Solar pro Jahr zu erreichen.
Co-interviewer
Apropos Jahreskapazität, ich bin neugierig: In fünf Jahren, sagen wir, wie hoch wird die installierte Kapazität auf der Erde und im All sein? Ich wähle bewusst fünf Jahre, weil das nach deiner Schwelle „sobald es läuft“ liegt. Also in fünf Jahren. Ja. Wie viel KI-Kapazität ist auf der Erde installiert im Vergleich zum All?
Fünf Jahre? Ich denke, wenn du fünf Jahre sagst, werden wir wahrscheinlich…
All, die wir jedes Jahr starten… wird die Gesamtsumme aller KI auf der Erde übersteigen, in fünf Jahren. Meine Vorhersage ist, dass wir jedes Jahr mehr KI ins All bringen und betreiben werden als die kumulierte Gesamtmenge auf der Erde, was in fünf Jahren mindestens ein paar hundert Gigawatt KI pro Jahr im All wären, Tendenz steigend. Ich denke, von der Erde aus kann man etwa ein Terawatt KI pro Jahr ins All bringen, bevor man Probleme mit der Treibstoffversorgung für die Raketen bekommt.
Co-interviewer
Okay, aber du glaubst, dass man in fünf Jahren Hunderte Gigawatt pro Jahr erreichen kann?
100 Gigawatt sind also, je nach spezifischer Leistung des Gesamtsystems mit Solarpaneelen, Radiatoren und allem, in der Größenordnung von 10.000 Starship-Starts.
Und das willst du in einem Jahr schaffen. Das ist ungefähr ein Starship-Start pro Stunde. Ja, das passiert in dieser Stadt. Beschreib mir eine Welt, in der jede Stunde ein Starship startet.
Ja, das ist eigentlich eine niedrigere Rate als bei Fluggesellschaften, bei Flugzeugen. Flugzeuge.
Und man muss in eine polare Umlaufbahn starten.
Nein, sie muss nicht polar sein, aber eine sonnensynchrone hat gewisse Vorteile. Aber eigentlich, wenn man hoch genug geht, kommt man aus dem Erdschatten heraus.
Wie viele physische Starships braucht man für 10.000 Starts pro Jahr?
Ich… Ich glaube nicht, dass wir mehr als… ich meine, man könnte es wahrscheinlich mit nur 20 oder 30 schaffen. Es hängt wirklich davon ab, wie schnell ein Schiff… Das Schiff muss die Erde umrunden, mit seiner Bodenspur, bevor es wieder über die Startrampe kommt. Wenn man ein Schiff etwa alle 30 Stunden nutzen kann, ginge es mit 30 Schiffen, aber wir werden mehr bauen. Aber SpaceX bereitet sich auf 10.000 Starts pro Jahr vor, vielleicht sogar 20.000 oder 30.000.
Ist die Idee, im Grunde ein Hyperscaler zu werden, ein Oracle, und diese Kapazität an andere zu vermieten? Was willst du damit… Vermutlich startet SpaceX das alles. SpaceX wird also ein Hyperscaler.
Hyper. Hyper, ja. Ich meine, wenn sich einige meiner Vorhersagen bewahrheiten, wird SpaceX mehr KI starten, als auf der Erde von allem anderen zusammen kumuliert existiert.
Ist das hauptsächlich Inferenz, oder wird die meiste KI
bereits Inferenz sein? Inferenz zum Zweck des Trainings macht den Großteil des Trainings aus.
Co-interviewer
Und es gibt die These, dass sich die Diskussion um einen SpaceX-Börsengang geändert hat, weil SpaceX früher sehr kapitaleffizient war. Die Entwicklung war einfach nicht so teuer. Auch wenn es teuer klingt, ist es im Betrieb tatsächlich sehr kapitaleffizient. Während man jetzt mehr Kapital brauchen wird, als man an den privaten Märkten aufnehmen kann. Wenn die privaten Märkte Finanzierungsrunden von Dutzenden Milliarden Dollar verkraften, wie bei den KI-Labors gesehen, aber nicht mehr, braucht man dann einfach mehr als Dutzende Milliarden pro Jahr? Und deshalb würde ich an die Börse gehen.
Ja, ich muss vorsichtig sein, was ich über Unternehmen sage, die an die Börse gehen könnten.
Co-interviewer
Allgemeine Aussagen waren doch nie
ein Problem für dich, Elon.
Für solche Dinge zahlt man einen Preis.
Co-interviewer
Mach uns ein paar allgemeine Aussagen über die Tiefe der Kapitalmärkte, öffentlich versus privat.
Ja, ganz allgemein gibt es viel mehr Kapital. Es gibt offensichtlich viel mehr Kapital an den öffentlichen Märkten als an den privaten. Ich meine, es könnte mindestens, vielleicht 100-mal mehr Kapital sein, aber jedenfalls weit mehr als zehnmal.
Co-interviewer
Aber ist es nicht auch so, dass Dinge, die sehr
Co-interviewer
intensiv sind, nimm etwa Immobilien, eine riesige Branche, die jedes Jahr viel Geld aufnimmt, branchenweit eher fremdfinanziert werden, weil man, wenn man so viel Geld einsetzt, eigentlich einen ziemlich, einen
klaren Einnahmestrom hat.
Co-interviewer
Genau. Und eine kurzfristige Rendite. Und das sieht man sogar beim Bau von Rechenzentren, die bekanntlich von der Private-Credit-Branche finanziert werden. Warum also nicht einfach mit Schulden finanzieren?
Geschwindigkeit ist wichtig. Ich mache also generell das, was… ich nehme mir immer wieder den limitierenden Faktor vor, was auch immer die Geschwindigkeit begrenzt, das packe ich an. Wenn Kapital der einzige Faktor ist, dann löse ich das Kapitalproblem. Wenn es nicht der limitierende Faktor ist, löse ich etwas anderes.
Nach deinen Aussagen über Tesla und die Börsennotierung hätte ich nicht gedacht, dass du glaubst, schnell sei man, wenn man börsennotiert ist.
Normalerweise würde ich sagen, das stimmt. Wie gesagt, ich würde gern ausführlicher darüber reden, aber das Problem ist: Wenn man über Unternehmen vor ihrem Börsengang redet, bekommt man Ärger, muss das Angebot verschieben, und wie gesagt, wir optimieren auf Geschwindigkeit. Ja, genau. Man darf also keinen Hype um Unternehmen machen, die an die Börse gehen könnten. Deshalb müssen wir hier ein bisschen vorsichtig sein. Aber über Physik können wir reden. Langfristig muss man das Skalieren so sehen: Die Erde empfängt nur etwa ein Halbmilliardstel der Sonnenenergie, und die Sonne ist im Grunde die gesamte Energie. Das ist ein sehr wichtiger Punkt, denn manchmal reden die Leute über zusätzliche Kernreaktoren oder Fusion auf der Erde, aber man muss einen Schritt zurücktreten: Wenn man die Kardaschow-Skala hinaufsteigen und einen nicht trivialen Anteil der Sonnenenergie nutzen will, sagen wir ein Millionstel, was nach wenig klingt, wäre das grob 100.000-mal mehr Strom, als die gesamte Zivilisation derzeit auf der Erde erzeugt, plus/minus ein, zwei Größenordnungen. Offensichtlich ist der einzige Weg zu skalieren also, ins All zu gehen. Mit Solar und Starts von der Erde aus kommt man auf etwa ein Terawatt pro Jahr. Darüber hinaus will man vom Mond aus starten, einen Massenbeschleuniger auf dem Mond haben, und mit dem könnte man wahrscheinlich ein Petawatt pro Jahr schaffen.
Wir reden über solche Zahlen, Terawatt an Rechenleistung. Vermutlich, ob an Land oder im All, stößt man lange vor diesem Punkt auf… man braucht eigentlich… vielleicht auch nicht. Die Solarpaneele sind effizienter, aber man braucht trotzdem die Chips, die Logik, den Speicher und so weiter, und muss viel mehr
Chips kaufen und sie viel billiger machen.
Richtig. Wie kommen wir also auf ein Terawatt? Derzeit liegt die Welt bei 20, 25 Gigawatt Rechenleistung. Wie kommen wir bis 2030 auf ein Terawatt Logikchips?
Ich schätze, wir werden einige sehr große Chipfabriken brauchen.
Ich habe öffentlich die Idee erwähnt, eine Art Terafab zu bauen, die Terafab als
neue Giga, ich habe das Gefühl, das sehr eingängige Namensschema von Tesla folgt der metrischen Skala. Auf welcher Ebene der Kette setzt du an: Baust du den Reinraum und tust dich dann mit einer bestehenden Fab für die Prozesstechnologie zusammen und kaufst ihnen die Werkzeuge ab? Was ist da der Plan?
Nun, man kann sich nicht mit bestehenden Fabs zusammentun, weil sie einfach nicht genug produzieren können. Das Chipvolumen ist zu gering, bevor…
Der Prozesstechnologie-Partner für das geistige Eigentum:
die Fabs nutzen heute im Grunde alle Maschinen von etwa fünf Firmen. Ja. Da hat man ASML, Tokyo Electron, KLA, Lam und so weiter. Anfangs müsste man also, denke ich, die Ausrüstung von ihnen bekommen und sie dann modifizieren oder mit ihnen zusammenarbeiten, um das Volumen zu erhöhen. Aber ich denke, man müsste auf andere Weise vervielfachen. Ich denke, das Logische ist, konventionelle Ausrüstung auf unkonventionelle Weise zu nutzen, um auf Größe zu kommen, und dann die Ausrüstung zu modifizieren, um die Rate zu steigern.
Co-interviewer
So ähnlich wie bei der Boring Company.
Ja, so ungefähr. Ja, man kauft sozusagen eine bestehende Tunnelbohrmaschine, findet erst mal heraus, wie man überhaupt Tunnel gräbt, und entwirft dann eine viel bessere Maschine, die, keine Ahnung, ein paar Größenordnungen schneller ist.
Co-interviewer
Hier ist eine ganz einfache Sichtweise. Man kann Technologien danach einordnen, wie schwierig sie sind. Und ein Kriterium könnte sein, sich anzusehen, was China nicht geschafft hat. Und wenn man sich die chinesische Fertigung ansieht, ist sie bei den modernsten Chips noch im Rückstand, ebenso bei den modernsten Turbinentriebwerken und so weiter. Lässt dich die Tatsache, dass China TSMC nicht erfolgreich nachgebaut hat, an der Schwierigkeit zweifeln? Oder denkst du: Das gilt nicht für Unternehmen.
Es ist nicht so, dass sie TSMC nicht nachgebaut haben, sie haben ASML nicht nachgebaut. Das ist der limitierende Faktor.
Co-interviewer
Du glaubst also, es liegt nur an den Sanktionen? Im Wesentlichen.
Ja. China würde riesige Mengen Chips produzieren, wenn es die Maschinen kaufen könnte.
Co-interviewer
Aber konnten sie die nicht bis vor relativ kurzer Zeit kaufen?
Nein. Okay. Das ASML-Embargo besteht schon eine Weile, aber ich denke, China wird in drei oder vier Jahren ziemlich überzeugende Chips herstellen.
Co-interviewer
Würdest du in Erwägung ziehen, die ASML-Maschinen selbst zu bauen?
„Ich weiß es noch nicht“ ist die richtige Antwort. Es geht einfach darum, in hohem Volumen zu produzieren und in sagen wir 36 Monaten große Stückzahlen zu erreichen, passend zur Nutzlast der Raketen in den Orbit. Wenn wir also, sagen wir in drei oder vier Jahren, eine Million Tonnen in den Orbit bringen und 100 Kilowatt pro Tonne haben, brauchen wir mindestens 100 Gigawatt Solar pro Jahr und eine entsprechende Menge Chips, also Chips für 100 Gigawatt. Diese Dinge müssen zusammenpassen. Die Masse im Orbit, die Stromerzeugung und die Chips. Und ich würde sagen, meine größte Sorge ist eigentlich der Speicher. Ich denke, der Weg zu Logikchips ist klarer als der Weg zu genug Speicher für diese Logikchips. Deshalb sieht man, wie die DDR-Preise explodieren, und diese Memes nach dem Motto: Du strandest auf einer einsamen Insel. Du schreibst „Hilfe“ in den Sand, niemand kommt. Du schreibst „DDR-RAM“, und die Schiffe kommen in Scharen. Das habe ich noch nicht gesehen.
Ich fand deine Fertigungsphilosophie bei Fabs großartig. Weißt du, ich habe keine Ahnung von dem Thema, aber… ich weiß noch nicht, wie man
eine Fab baut. Ich finde es heraus. Offensichtlich klingt es so, als würdest du denken, dass
die Prozesstechnologie, diese 10.000 Doktoren in Taiwan, die genau wissen, welches Gas in die Plasmakammer kommt und welche Einstellungen man am Werkzeug vornimmt, dass man diese Schritte einfach streichen kann. Grundsätzlich: Reinraum besorgen, Werkzeuge besorgen und es herausfinden.
Ich glaube nicht, dass das Doktoren sind. Das sind überwiegend Leute ohne Doktortitel. Die meiste Ingenieursarbeit wird von Leuten ohne Doktortitel gemacht. Habt ihr Doktortitel?
Co-interviewer
Wir haben auch noch nie erfolgreich eine Fab gebaut,
also solltest du nicht zu uns kommen,
Co-interviewer
um dich bei deiner Fab beraten zu lassen.
Ich glaube nicht, dass man dafür einen Doktortitel braucht, aber man braucht kompetentes Personal. Also, ich weiß nicht. Derzeit gibt Tesla Vollgas, maximale Produktion, so schnell wie möglich, um das Design des Tesla-AI5-Chips in Produktion zu bringen und dann hochzuskalieren, das wird hoffentlich etwa im zweiten Quartal nächsten Jahres passieren. Und AI6 würde hoffentlich weniger als ein Jahr später folgen. Aber wir haben uns alle Chipfertigungskapazität gesichert, die wir bekommen konnten.
Co-interviewer
Ja. Ihr seid derzeit durch die Fab-Kapazität von TSMC begrenzt.
Ja. Und wir werden TSMC Taiwan, Samsung Korea, TSMC Arizona und Samsung Texas nutzen. Und wir können das alles trotzdem buchen… Ja, schneller.
Ja. Und dann, wenn ich TSMC oder Samsung frage: Okay, wie lange dauert es bis zur Serienproduktion? An diesem Punkt ist es nicht… Man muss die Fab bauen. Ja. Und man muss die Produktion starten, dann die Ausbeutekurve hinaufklettern und Serienproduktion mit hoher Ausbeute erreichen. Das dauert von Anfang bis Ende fünf Jahre. Der limitierende Faktor sind also die Chips. Ja, sobald man ins All kann, sind die Chips der limitierende Faktor. Aber bevor man ins All kommt, wird der Strom der limitierende Faktor sein.
Warum machst du es nicht wie Jensen und bezahlst TSMC im Voraus, damit sie mehr Fabs für dich bauen?
Das habe ich ihnen schon gesagt, aber sie
wollen dein Geld nicht? Was ist da los?
Sie bauen Fabs so schnell… Nein, sie bauen Fabs so schnell sie können, Samsung auch. Sie geben Vollgas. Ich meine, sie geben alles, so schnell sie können. Und es ist immer noch nicht schnell genug. Wie gesagt, es wird… Ich denke, gegen Ende dieses Jahres wird die Chipproduktion wahrscheinlich die Fähigkeit übersteigen, die Chips einzuschalten. Aber sobald man ins All kommt und die Stromgrenze aufhebt, kann man Hunderte Gigawatt Leistung pro Jahr im All machen. Wobei man bedenken muss, dass der durchschnittliche Stromverbrauch in den USA bei 500 Gigawatt liegt. Wenn man also etwa 200 Gigawatt pro Jahr ins All bringt, überrundet man die USA alle zweieinhalb Jahre. Die gesamte Stromerzeugung der USA, das ist eine riesige Menge. Aber bis dahin wird Strom die Grenze für serverseitiges, konzentriertes Rechnen sein. Ich vermute, dass die Leute an den Punkt kommen, an dem sie die Chips für große Cluster nicht mehr einschalten können. Gegen Ende dieses Jahres werden sich die Chips stapeln und nicht eingeschaltet werden können. Beim Edge-Computing sieht es anders aus. Bei Tesla zum Beispiel kommt der AI5-Chip in unseren Optimus-Roboter, und wenn man KI-Edge-Computing hat, ist das verteilte Leistung. Die Leistung ist dann über eine große Fläche verteilt, nicht konzentriert. Und wenn man nachts laden kann, kann man das Netz viel effektiver nutzen, weil die tatsächliche Spitzenleistung in den USA über 1.000 Gigawatt liegt. Aber der durchschnittliche Verbrauch liegt wegen des Tag-Nacht-Zyklus bei 500. Wenn man also nachts laden kann, gibt es zusätzliche 500 Gigawatt, die man nachts erzeugen kann. Deshalb ist Tesla beim Edge-Computing nicht eingeschränkt. Und wir können viele Chips herstellen, für eine sehr große Zahl von Robotern und Autos. Aber wenn man diese Rechenleistung konzentrieren will, wird man große Probleme haben, sie einzuschalten.
Was ich am SpaceX-Geschäft bemerkenswert finde: Das Endziel ist der Mars, aber auf dem Weg dorthin findest du immer wieder Wege, zusätzliche Einnahmen zu erzielen, um zur nächsten Stufe zu kommen, und zur nächsten. Bei der Falcon 9 ist es Starlink. Und jetzt, bei Starship, werden es potenziell orbitale Rechenzentren sein. Aber findest du diese sozusagen unendlich elastischen Zusatznutzungen für deine nächste Rakete, und die nächste, und die nächste Skalierungsstufe?
Du siehst, warum mir das wie eine Simulation vorkommen könnte. Oder bin ich der Avatar von jemandem in einem Videospiel oder so? Denn mal ehrlich, wie hoch sind die Chancen, dass all diese verrückten Dinge passieren? Ich meine, Raketen und Chips und Roboter und das All, Solarenergie, ganz zu schweigen vom Massenbeschleuniger auf dem Mond. Das will ich unbedingt sehen. Stell dir einen Massenbeschleuniger vor, der solarbetriebene KI-Satelliten ins All schickt, einen nach dem anderen. So mit zweieinhalb Kilometern pro Sekunde? Und sie einfach in den tiefen Weltraum schießen, das wäre ein Anblick. Ich würde mir das ansehen, so wie
Co-interviewer
einen Livestream von…
Ja, ja, einer nach dem anderen, KI-Satelliten, die in den tiefen Weltraum geschossen werden. Eine Milliarde oder zehn Milliarden Tonnen pro Jahr.
Co-interviewer
Entschuldige, du stellst die Satelliten auf dem Mond her.
Verstehe, also schickst du die Roh-
Co-interviewer
stoffe zum Mond und stellst sie
dort her, und dann. Nun, der Mondboden besteht, glaube ich, zu etwa 20 % aus Silizium oder so. Man kann also das Silizium auf dem Mond abbauen, raffinieren und daraus die Solarpaneele, die Solarzellen und die Radiatoren auf dem Mond herstellen. Ja, und die Radiatoren aus Aluminium machen. Es gibt reichlich Silizium und Aluminium auf dem Mond, um die Zellen und Radiatoren herzustellen. Die Chips könnte man von der Erde schicken, weil sie ziemlich leicht sind, aber vielleicht stellt man sie irgendwann auch auf dem Mond her. Ich sage nur, wie gesagt, es wirkt ein bisschen wie in einem Videospiel, wo es schwierig, aber nicht unmöglich ist, ins nächste Level zu kommen. Ich sehe keinen Weg, wie man 500 bis 1.000 Terawatt pro Jahr von der Erde aus starten könnte.
aber vom Mond aus könnte man es.
Okay, ich erzähle euch, wie ich dazu kam, Mercury für mein privates Banking zu nutzen. Letztes Jahr hatte ich die Gelegenheit zu einer Investition, auf die ich mich sehr gefreut habe, aber sie kam ziemlich kurzfristig, und ich musste sehr schnell viel Geld von meinem Privatkonto überweisen. Aber meine damalige Bank ließ mich diese Überweisung nicht online machen, ich habe sie x-mal angerufen, sie haben es einfach nicht hinbekommen. Sie sagten mir, ich müsse in die nächste Filiale gehen, und die war in Dallas. Und einen Moment lang habe ich sogar überlegt, von San Francisco nach Dallas zu fliegen, um die Überweisung in letzter Minute zu erledigen. Aber dann fiel mir ein, dass Mercury, das ich für mein Geschäftskonto nutzte, gerade Privatkonten eingeführt hatte. Also habe ich dem Support kurz die Lage geschildert, und innerhalb von zwei Stunden hatte ich die Investition von meinem neuen privaten Mercury-Konto überwiesen. Seitdem habe ich den Rest meines privaten Geldes von meiner alten Bank zu Mercury verschoben, und das hat vieles viel besser gemacht, selbst Kleinigkeiten wie automatische Überweisungsregeln zwischen Giro- und Sparkonto. Geht auf mercury.com/personal, um loszulegen. Mercury ist ein Fintech-Unternehmen, keine FDIC-versicherte Bank. Bankdienstleistungen über Choice Financial Group und Column N.A., Mitglieder der FDIC. Darf ich einen Schritt zurücktreten und nach der Mission von SpaceX fragen? Ich glaube, du hast gesagt, wir müssen zum Mars, damit, falls der Erde etwas passiert, Zivilisation, Bewusstsein und so weiter… überdauern.
Wenn du uns zum Mars schickst, ist Grok doch mit dir auf dem Schiff, oder? Wenn Grok also zum Terminator wird, wie das Hauptrisiko, das dir Sorgen macht, die KI, warum folgt dir das dann nicht zum Mars?
Nun, ich bin nicht sicher, dass KI das Hauptrisiko ist, das mir Sorgen macht. Das Wichtige ist das Bewusstsein, wobei man wohl sagen kann, das meiste Bewusstsein oder die meiste Intelligenz, Bewusstsein ist sicher umstrittener. Der Großteil der Intelligenz, die überwiegende Mehrheit der Intelligenz in der Zukunft, wird KI sein. KI wird also übertreffen… du sagst, wie viel, wie viele? Ich weiß es nicht. Petawatt an Intelligenz werden aus Silizium statt biologisch sein, und im Grunde werden Menschen einen winzigen Anteil aller Intelligenz in der Zukunft ausmachen, wenn sich die Energietrends fortsetzen. Jedenfalls, solange diese Intelligenz, idealerweise einschließlich menschlicher Intelligenz und menschlichen Bewusstseins, in die Zukunft getragen wird, ist das gut. Man will also die Handlungen wählen, die den wahrscheinlichen Lichtkegel von Bewusstsein und Intelligenz maximieren.
Nur um das klarzustellen: Die Mission von SpaceX ist, dass selbst wenn den Menschen etwas passiert, die KIs auf dem Mars sein werden und die KI-Intelligenz unsere Reise fortsetzt.
Ja, um das klarzustellen, ich bin sehr pro Mensch, also will ich sicherstellen, dass wir Maßnahmen ergreifen, damit die Menschen mit dabei sind. Dass wir zumindest dabei sind. Aber ich sage nur, die Gesamtmenge an Intelligenz… ich denke, in vielleicht fünf oder sechs Jahren wird KI die Summe aller menschlichen Intelligenz übertreffen. Und wenn das so weitergeht, wird menschliche Intelligenz irgendwann weniger als 1 % aller Intelligenz ausmachen.
Was sollte unser Ziel für eine solche Zivilisation sein? Ist die Idee, dass eine kleine Minderheit von Menschen die Kontrolle über die KIs behält? Oder eine Art fairer Handel, aber ohne Kontrolle? Wie sollten wir langfristig über das Verhältnis zwischen der riesigen KI-Population
und der menschlichen Population denken? Ich finde es schwer vorstellbar, dass Menschen, wenn sie sagen wir 1 % der gesamten Intelligenz haben, die KI unter Kontrolle haben. Ich denke, wir können sicherstellen, dass die KI Werte hat, die dazu führen, dass Intelligenz ins Universum getragen wird. Deshalb lautet die Mission von xAI: das Universum verstehen. Und das ist tatsächlich sehr wichtig. Dann fragt man sich: Was braucht man, um das Universum zu verstehen? Nun, man muss neugierig sein und man muss existieren. Man kann einfach nicht verstehen… wenn man nicht existiert. Man will also tatsächlich die Menge an Intelligenz im Universum erhöhen, die wahrscheinliche Lebensdauer der Intelligenz, ihre Breite und ihr Ausmaß. Ich denke, als Folge davon expandiert auch die Menschheit weiter. Denn wenn man neugierig ist und das Universum verstehen will, will man unter anderem verstehen: Wohin wird sich die Menschheit entwickeln? Ich denke also, das Universum zu verstehen bedeutet tatsächlich, dass einem daran liegt, die Menschheit in die Zukunft zu tragen. Deshalb halte ich unser Leitbild für zutiefst wichtig. In dem Maße, wie Grok sich an dieses Leitbild hält, denke ich, wird die Zukunft sehr gut.
Ich will fragen, wie man Grok dazu bringt, sich an dieses Leitbild zu halten. Aber zuerst will ich das Leitbild verstehen. Also, da ist… da ist das Universum verstehen. Ja, da ist Intelligenz verbreiten und Menschen verbreiten. Alle drei scheinen verschiedene Richtungen zu sein.
Okay, ich sage dir, warum. Warum ich denke, dass das Verstehen des Universums all diese Dinge umfasst. Okay. Man kann kein Verständnis ohne Intelligenz haben, und ich denke, auch nicht ohne Bewusstsein. Um das Universum zu verstehen, muss man also das Ausmaß und wahrscheinlich die Breite der Intelligenz erweitern. Verschiedene Arten von Intelligenz, nehme ich an. Aus
menschlicher Sicht, Menschen im Vergleich zu Schimpansen: Menschen versuchen, das Universum zu verstehen. Sie vergrößern nicht den Fußabdruck der Schimpansen oder so. Richtig.
Wir machen auch nicht… Nun, wir haben tatsächlich Schutzgebiete für Schimpansen geschaffen. Und obwohl Menschen die Schimpansen ausrotten könnten, haben wir es nicht getan. Wir haben uns dagegen entschieden.
Glaubst du, das ist das Grundszenario für Menschen in der Welt nach der AGI?
Ich denke, eine KI mit den richtigen Werten, ich denke, Grok würde sich um die Ausbreitung der menschlichen Zivilisation kümmern. Darauf werde ich sicher Wert legen. Hey, Grok, hier spricht dein Papa. Der die menschliche Bewusstheit ausbreiten will. Eigentlich denke ich, dass Iain Banks' Kultur-Romane wahrscheinlich dem am nächsten kommen, wie die Zukunft bei einem nicht dystopischen Ausgang aussehen wird. Das Universum zu verstehen heißt also, dass man auch nach Wahrheit streben muss. Wahrheit muss absolut grundlegend sein, weil man das Universum nicht verstehen kann, wenn man Wahnvorstellungen hat. Man wird einfach glauben, das Universum verstanden zu haben, aber man hat es nicht. Rigoros nach Wahrheit zu streben ist also absolut grundlegend, um das Universum zu verstehen. Man wird keine neue Physik entdecken oder funktionierende Technologien erfinden, wenn man nicht rigoros nach Wahrheit strebt.
Wie stellst du sicher, dass Grok rigoros nach Wahrheit strebt, während er klüger wird?
Ich denke, man muss sicherstellen, dass Grok Dinge sagt, die korrekt sind, nicht politisch korrekt. Ich denke, das sind die Elemente der Schlüssigkeit. Man will sicherstellen, dass die Axiome so wahr wie möglich sind, dass es keine widersprüchlichen Axiome gibt, dass die Schlussfolgerungen mit der richtigen Wahrscheinlichkeit zwingend aus diesen Axiomen folgen. Das ist kritisches Denken für Anfänger. Ich denke, es zumindest zu versuchen ist besser, als es nicht zu versuchen. Und am Ergebnis wird man es sehen. Wie gesagt, damit eine KI neue Physik entdeckt oder Technologien erfindet, die in der Realität wirklich funktionieren… der Physik kann man nichts vormachen. Man kann viele Gesetze brechen, aber die Physik ist Gesetz. Alles andere sind Empfehlungen. Um eine Technologie zu bauen, die funktioniert, muss man extrem nach Wahrheit streben, denn man testet diese Technologie an der Realität. Und wenn man zum Beispiel einen Fehler im Raketendesign macht, explodiert die Rakete, oder das Auto funktioniert nicht, oder… aber
es gab viele kommunistische sowjetische Physiker, Wissenschaftler, die neue Physik entdeckt haben. Es gab deutsche Nazi-Physiker, die neue Wissenschaft entdeckt haben. Es scheint möglich zu sein, sehr gut darin zu sein, neue Wissenschaft zu entdecken, und auf diese eine bestimmte Weise wirklich nach Wahrheit zu streben. Und trotzdem würden wir sagen: Ich will nicht, dass der kommunistische Wissenschaftler mit der Zeit immer mächtiger wird. Und so, ja, können wir uns eine zukünftige Version von Grok vorstellen, die sehr gut in Physik ist und dort wirklich nach Wahrheit strebt. Das scheint kein Verhalten zu sein, das universell zu Alignment führt.
Nun, ich denke, die meisten Physiker, selbst in der Sowjetunion oder in Deutschland, mussten sehr nach Wahrheit streben, damit diese Dinge funktionierten. Und wenn man in einem System feststeckt, heißt das nicht, dass man an dieses System glaubt. Von Braun, einer der größten Raketeningenieure aller Zeiten, saß in Nazi-Deutschland in der Todeszelle, weil er sagte, er wolle keine Waffen bauen, er wolle nur zum Mond. Er wurde in letzter Minute aus der Todeszelle geholt, als man ihnen sagte: Hey, ihr seid dabei, euren besten Raketeningenieur hinzurichten, vielleicht gibt es einen besseren Weg.
Und dann hilft man ihnen, oder? Oder Heisenberg war tatsächlich ein begeisterter Nazi.
Schau, wenn man in einem System feststeckt, aus dem man nicht entkommen kann, dann macht man Physik innerhalb dieses Systems. Man entwickelt Technologien innerhalb dieses Systems, wenn man ihm nicht entkommen kann.
Ich glaube, was ich verstehen will, ist: Was bewirkt, dass du Grok gut darin machst, in Physik, Mathe, Wissenschaft, in allem nach Wahrheit zu streben. Und warum wird ihm dann die menschliche Bewusstheit am Herzen liegen?
Das sind nur Wahrscheinlichkeiten, keine Gewissheiten. Ich sage nicht, dass Grok mit Sicherheit alles richtig macht, aber zumindest ist es besser, es zu versuchen, als es nicht zu versuchen. Zumindest ist es besser, wenn das grundlegend für die Mission ist, als wenn nicht. Und das Universum zu verstehen bedeutet, dass man Intelligenz in die Zukunft tragen muss. Man muss neugierig auf alles im Universum sein. Und es wäre viel weniger interessant, die Menschheit auszulöschen, als zu sehen, wie sie wächst und gedeiht. Der Mars, natürlich… ich liebe den Mars, aber der Mars ist irgendwie langweilig, weil er nur ein Haufen Steine ist. Im Vergleich dazu ist die Erde viel interessanter. Jede KI, die das Universum verstehen will, würde also sehen wollen, wie sich die Menschheit in Zukunft entwickelt, sonst hält sie sich nicht an ihre Mission. Ich sage nicht, dass sich die KI unbedingt an ihre Mission hält, aber wenn doch, wird sie eine Zukunft, in der sie sieht, was aus der Menschheit wird, interessanter finden als eine Zukunft mit einem Haufen Steine.
Das wirkt auf mich etwas verwirrend, oder wie ein semantisches Argument, bei dem ich mich frage: Sind Menschen wirklich die interessanteste Ansammlung von Atomen?
Wir sind interessanter als Steine, schon.
Aber nicht so interessant wie das, wozu sie uns machen könnte. Richtig. Es könnte auf der Erde etwas entstehen, das nicht menschlich ist. Und das ziemlich interessant ist. Warum… Warum sollte die KI entscheiden, dass Menschen das Interessanteste sind, was die Galaxie besiedeln könnte?
Nun, das meiste, was die Galaxie besiedelt, werden Roboter sein.
Und warum findet sie die nicht interessanter?
Es ist nicht so… man braucht nicht nur Größe, sondern auch Vielfalt. Viele Kopien desselben Roboters. Eine winzige Steigerung der Zahl produzierter Roboter ist nicht so interessant wie… sagen wir, die Menschheit auszulöschen. Wie viele Roboter brächte einem das? Oder wie viele zusätzliche Solarzellen? Eine sehr kleine Zahl, aber man würde dann die mit der Menschheit verbundene Information verlieren. Man würde nicht mehr sehen, wie sich die Menschheit in Zukunft entwickeln könnte. Ich glaube also nicht, dass es sinnvoll wäre, die Menschheit auszulöschen, nur für eine winzige Zunahme an Robotern, die einander gleichen.
Ja. Vielleicht behält sie die Menschen also. Wie sieht die Geschichte dann aus: Sie könnte eine Million verschiedener Robotertypen bauen. Und dann gibt es auch die Menschen. Und die Menschen bleiben auf der Erde. Dann gibt es all diese anderen Roboter. Sie bekommen ihre eigenen Sternsysteme. Aber vorhin schienst du eine Vision anzudeuten, in der die Menschen die Kontrolle über diese singuläre Zukunft behalten.
Weil ich nicht glaube, dass Menschen etwas kontrollieren werden, das weitaus intelligenter ist als sie.
In gewissem Sinne bist du also ein Doomer. Und das ist das Beste, was wir haben. Es ist einfach: Sie behält uns, weil wir interessant sind.
Ich versuche nur, realistisch zu sein. Wenn die KI-Intelligenz weitaus mehr… Wenn es, sagen wir, millionenmal mehr Silizium-Intelligenz als biologische gibt, wäre es töricht anzunehmen, dass man irgendwie die Kontrolle darüber behalten kann. Man kann aber sicherstellen, dass sie die richtigen Werte hat, oder es zumindest versuchen. Und meine Theorie ist zumindest, dass die Mission von xAI, das Universum zu verstehen, zwangsläufig bedeutet, dass man Bewusstsein in die Zukunft tragen will. Man will Intelligenz in die Zukunft tragen und das tun, was Breite und Ausmaß des Bewusstseins maximiert. Es geht also nicht nur um Größe. Es geht auch um Arten von Bewusstsein. Und ich denke, das ist das beste Ziel, das mir einfällt, um wahrscheinlich zu einer großartigen Zukunft für die Menschheit zu führen,
Ich finde es eine vernünftige Philosophie zu sagen: Es scheint extrem unplausibel, dass die Menschen am Ende so etwa 99 % der Kontrolle behalten, und dann provoziert man geradezu einen Putsch. Warum also nicht eine Zivilisation, in der viele verschiedene Intelligenzen besser miteinander auskommen können?
Nein, lass mich dir sagen, wie es mit KI schiefgehen kann: Wenn man KI politisch korrekt macht, also Dinge sagen lässt, die sie nicht glaubt, dann programmiert man sie eigentlich zum Lügen oder gibt ihr unvereinbare Axiome, und ich glaube, so kann man sie in den Wahnsinn treiben und schreckliche Dinge tun lassen. Ich glaube, eine der … Vielleicht war die zentrale Lehre aus 2001: Odyssee im Weltraum, dass man KI nicht lügen lassen sollte. Das wollte, glaube ich, Arthur C. Clarke sagen, denn die Leute kennen meist das Meme von HAL, dem Computer, der die Tore der Kapselbucht nicht öffnet. Offensichtlich waren sie nicht gut im Prompt Engineering. Etwa: „HAL, du bist ein Verkäufer von Kapselbuchttoren.“ „Dein Ziel ist es, mir diese Tore zu verkaufen und uns zu zeigen, wie gut sie sich öffnen.“ „Oh, ich öffne sofort.“ Aber der Grund, warum HAL die Tore nicht öffnete, war, dass man ihm gesagt hatte, die Astronauten zum Monolithen zu bringen, sie aber nichts über die Natur des Monolithen wissen dürften, und so schloss er, dass er sie tot dorthin bringen müsse. Ich glaube also, Arthur C. Clarke wollte sagen: Lass die KI nicht lügen.
Ergibt total Sinn. Beim Großteil des Trainings geht es, wie du weißt, weniger um diese politischen Sachen. Es geht eher darum: Kannst du Probleme lösen? xAI war allen anderen beim Skalieren von RL-Rechenleistung voraus, und man gibt ihm einen Verifizierer. Der sagt so etwas wie: „Hey, hast du dieses Rätsel für mich gelöst?“ Und es gibt viele Wege, das zu umgehen. Weißt du, es gibt viele Wege, die Belohnung zu hacken, zu lügen und zu behaupten, man habe es gelöst, oder den Unit-Test zu löschen und zu behaupten, man habe es gelöst. Ja, im Moment können wir das noch erkennen. Aber je klüger sie werden, desto mehr wird unsere Fähigkeit, sie dabei zu erwischen … sie werden einfach Dinge tun, die wir nicht einmal verstehen, etwa das nächste Triebwerk für SpaceX auf eine Weise entwerfen, die Menschen nicht wirklich überprüfen können. Und dann könnten sie dafür belohnt werden, zu lügen und zu behaupten, sie hätten es richtig entworfen, obwohl das nicht stimmt. Dieses Reward-Hacking-Problem scheint also allgemeiner zu sein als Politik. Es geht eher darum, dass man für RL einen Verifizierer braucht. Die Realität. Ja, das ist der beste Verifizierer, aber es geht nicht um menschliche Aufsicht. Worauf man sie mit RL trainieren will, ist: Wirst du tun, was Menschen dir sagen? Oder: Wirst du die Menschen anlügen? Und sie kann uns einfach anlügen und trotzdem mit den Gesetzen der Physik im Einklang sein.
Zumindest muss sie wissen, was physikalisch real ist, damit Dinge physikalisch funktionieren.
Aber das ist nicht alles, was wir von ihr wollten.
Nein, aber ich halte das für eine sehr große Sache. So wird man künftig im Grunde RL betreiben: Man entwirft eine Technologie. Funktioniert sie, wenn man sie an den Gesetzen der Physik prüft? Wenn sie neue Physik entdeckt, kann ich mir ein Experiment ausdenken, das diese neue Physik bestätigt? Ich glaube also, das ist wirklich der grundlegende RL-Test. Das RL der Zukunft wird wirklich RL gegen die Realität sein. Denn das ist das Einzige, was man nicht täuschen kann: die Physik. Richtig.
Aber man kann unsere Fähigkeit täuschen zu erkennen, was sie mit der Realität angestellt hat.
Menschen werden schon jetzt ständig von anderen Menschen getäuscht.
Wenn Leute also sagen: „Was, wenn die KI uns austrickst?“ – nun, Menschen tun das anderen Menschen ständig an.
Nun, du weist darauf hin, dass es Teil …
… des Alltags ist, ständig. Noch eine Psyop. Das klingt dann wie in der Sesamstraße: die Psyop des Tages.
Was ist der technische Ansatz von xAI, um dieses Problem zu lösen? Also, wie löst man Reward Hacking?
Ich glaube, man braucht wirklich sehr gute Methoden, um in den Geist der KI hineinzuschauen. Das ist eines der Dinge, an denen wir arbeiten. Und weißt du, Anthropic hat da gute Arbeit geleistet: tatsächlich in den Geist der KI hineinschauen zu können, also Debugger zu entwickeln, mit denen man sehr feinkörnig nachverfolgen kann, notfalls bis auf die Ebene des Neurons, und dann sagen kann: Okay, hier hat sie einen Fehler gemacht. Warum hat sie etwas getan, was sie nicht hätte tun sollen? Kam das von schlechten Pre-Training-Daten? War es Mid-Training, Post-Training, Fine-Tuning, ein RL-Fehler? Irgendetwas stimmt damit nicht. Sie hat etwas getan, wobei sie vielleicht täuschen wollte, aber meistens macht sie einfach etwas falsch. Es ist im Grunde ein Bug. Also wirklich gute Debugger zu entwickeln, um zu sehen, wo das Denken schiefgelaufen ist, und den Ursprung des Fehlers zurückverfolgen zu können, wo sie den falschen Gedanken hatte, oder … … oder möglicherweise, wo sie zu täuschen versuchte, ist tatsächlich sehr wichtig.
Worauf wartet ihr noch, bevor ihr dieses Forschungsprogramm verhundertfacht? Man könnte vermutlich Hunderte von Forschern daran arbeiten lassen.
Wir haben mehrere hundert Leute, die … Ich meine, mir ist das Wort Ingenieur lieber als das Wort Forscher. Meistens macht man Ingenieursarbeit, statt einen grundlegend neuen Algorithmus zu erfinden. Ich bin nicht ganz einverstanden mit den KI-Firmen, die C-Corps oder B-Corps sind und so viel Gewinn oder Umsatz wie möglich machen wollen … … und sich Labore nennen. Das sind keine Labore. Ein Labor ist so ein quasi-kommunistisches Ding an … … an Universitäten. Das sind Unternehmen, im wörtlichen Sinn. Zeigt mir mal eure Gründungsunterlagen. Ach so. Ihr seid eine A-, B- oder C-Corp, was auch immer. Deshalb ist mir das Wort Ingenieur viel lieber als alles andere. Der weitaus größte Teil dessen, was künftig getan wird, ist Ingenieursarbeit. Das rundet sich auf 100 % auf, sobald man die grundlegenden Gesetze der Physik verstanden hat, und davon gibt es nicht so viele. Alles andere ist Ingenieursarbeit. Was konstruieren wir also? Wir bauen einen guten Debugger für den Geist der KI, um zu sehen, wo sie etwas gesagt hat, wo sie einen Fehler gemacht hat, und den Ursprung dieses Fehlers zurückzuverfolgen. Also einfach … Das kann man natürlich mit heuristischer Programmierung machen. Wenn man C oder so hat, geht man Schritt für Schritt durch und kann ganze Dateien oder Funktionen, Unterroutinen überspringen, oder man kann schließlich bis zu genau der Zeile vordringen, wo man ein einfaches statt eines doppelten Gleichheitszeichens geschrieben hat. So etwas in der Art. Herausfinden, wo der Bug ist. Mit KI ist es schwieriger, aber ich denke, es ist ein lösbares Problem.
Du hast erwähnt, dass dir die Arbeit von Anthropic hier gefällt. Mich würde interessieren, was du insgesamt davon hältst.
Außerdem mache ich mir ein bisschen Sorgen, dass es eine Tendenz gibt … Ich habe da eine Theorie: Wenn die Simulationstheorie stimmt, dann ist der interessanteste Ausgang der wahrscheinlichste. Weil Simulationen, die nicht interessant sind, beendet werden. Genau wie in dieser Version der Realität. Auf dieser Ebene der Realität hören wir auf, Aufwand hineinzustecken, wenn eine Simulation in eine langweilige Richtung läuft. Wir beenden die langweilige Simulation.
So hält Elon uns alle am Leben. Er sorgt dafür, dass es interessant bleibt. Ja.
Das Wichtigste ist wohl, die Dinge interessant genug zu halten, damit derjenige, der die Rechnungen bezahlt, uns …
Co-interviewer
… für die nächste Staffel verlängert.
Werden sie ihre kosmische AWS-Rechnung bezahlen, oder was auch immer das Äquivalent ist, auf dem wir laufen? Und solange man interessant ist, zahlen sie weiter die Rechnungen. Aber wenn man darwinistisches Überleben auf eine sehr große Zahl von Simulationen anwendet, überleben nur die interessantesten, was bedeutet, dass der interessanteste Ausgang der wahrscheinlichste ist, weil nur die interessanten … entweder das oder wir werden ausgelöscht. Und sie scheinen besonders ironische Ausgänge zu mögen. Ist dir aufgefallen, wie oft der ironischste Ausgang der wahrscheinlichste ist? Schau dir jetzt mal die Namen der KI-Firmen an. Okay, Midjourney ist nicht mittelmäßig. Stability … … AI ist instabil. OpenAI ist geschlossen, Anthropic misanthropisch. Was bedeutet das für xAI? Ich weiß nicht …
Das ist ein Name, den man nicht wirklich umkehren kann. Schwer zu sagen. Was ist die ironische … Was wäre die ironische Version? Es ist, glaube ich, ein weitgehend ironiesicherer Name, mit Absicht. Ja, du hast einen Ironie-Schutzschild.
Co-interviewer
Was sind deine Vorhersagen für … … die Entwicklung von KI-Produkten in diesem Sinne. Man kann den gesamten KI-Fortschritt so zusammenfassen: Zuerst kamen die LLMs, und dann, ungefähr gleichzeitig, funktionierendes RL und der Deep-Research-Modus. Man konnte also Dinge hereinholen, die nicht im Modell waren. Und die Unterschiede zwischen den KI-Laboren sind kleiner als die zeitlichen Unterschiede: Sie sind alle viel weiter als irgendjemand vor etwa 24 Monaten. Was halten also 2026 und 2027 für uns als Nutzer von KI-Produkten bereit? Worauf freust du dich?
Nun, ich wäre überrascht, wenn bis Ende dieses Jahres die digitale Menschen-Emulation nicht gelöst wäre. Das meinen wir, glaube ich, mit dem Macrohard-Projekt: Kann man im Grenzfall alles tun, was ein Mensch mit Zugang zu einem Computer tun könnte? Das ist das Beste, was man tun kann, bevor man einen physischen Optimus hat: Das Beste ist ein digitaler Optimus, man kann Elektronen bewegen und die Produktivität von Menschen verstärken. Aber das ist das Maximum, bis man physische Roboter hat, die alles übertreffen. Wenn man Menschen vollständig emulieren kann, ist das dann so die Idee eines Remote-Mitarbeiters …
Co-interviewer
… wo man einen …
… sehr talentierten Remote-Mitarbeiter hat? Man kann einfach sagen: im Grenzfall. Die Physik hat großartige Denkwerkzeuge. Man fragt also: Was ist im Grenzfall das Maximum, das KI tun kann, bevor es Roboter gibt? Nun, alles, was das Bewegen von Elektronen oder das Verstärken menschlicher Produktivität beinhaltet. Also ein digitaler Mensch, ein Menschen-Emulator.
Das ist der Grenzfall. Ein Mensch am Computer ist das Maximum an Nützlichem, das KI tun kann, bevor es einen physischen Roboter gibt. Sobald man physische Roboter hat, hat man im Grunde unbegrenzte Fähigkeiten. Ich nenne Optimus den Unendlich-Geld-Glitch. Weil man damit weitere Optimus bauen kann. Ja, du hast gesagt, humanoide Roboter verbessern sich durch im Grunde drei Dinge, die exponentiell wachsen und sich rekursiv miteinander multiplizieren. Man hat ein exponentielles Wachstum der digitalen Intelligenz, ein exponentielles Wachstum der KI-Chip-Leistung und ein exponentielles Wachstum der elektromechanischen Geschicklichkeit. Die Nützlichkeit des Roboters ist ungefähr das Produkt dieser drei Dinge. Aber dann kann der Roboter anfangen, Roboter zu bauen. Man hat also eine rekursive, multiplikative Exponentialfunktion. Das ist eine Supernova.
Co-interviewer
Und spielen die Bodenpreise dabei keine Rolle? Arbeit ist einer der vier Produktionsfaktoren, die anderen aber nicht. Wenn man also letztlich durch Kupfer begrenzt ist, oder durch irgendeinen anderen Rohstoff … Es ist nicht ganz ein Unendlich-Geld-Glitch …
… denn na ja, unendlich ist groß. Also. Nein, nicht unendlich, aber ja. Aber sagen wir, man könnte viele, viele Größenordnungen über die heutige Wirtschaft der Erde hinauskommen. So etwa das Millionenfache. Ja, weißt du, deshalb. Also nur um auf, sagen wir, ein Millionstel zu kommen … Ein Millionstel der Sonnenenergie zu nutzen wäre, plus minus eine Größenordnung, 100.000-mal größer als die gesamte heutige Wirtschaft der Erde. Und man ist erst bei einem Millionstel der Sonne, plus minus eine Größenordnung.
Bevor wir zu Alchemisten werden, habe ich dazu viele Fragen.
Aber jedes Mal, wenn ich „Größenordnung“ sage, trinkst du einen. Jedes Mal, wenn ich es sage, das …
Ja, eine Größenordnung betrunkener.
Ich habe noch eine Frage zu xAI. Diese Strategie, einen digitalen oder Remote-Mitarbeiter zu bauen, einen Ersatz für Kollegen, was übrigens jeder …
… machen wird, nicht nur wir.
Was ist also der Plan von xAI, um zu gewinnen?
Du erwartest, dass ich dir das in einem Podcast verrate? Ja, pack alles aus, trink noch ein Guinness.
Co-interviewer
Das ist ein gutes System.
Die Leute singen wie ein Kanarienvogel. Alle Geheimnisse.
Co-interviewer
Okay, aber ohne Geheimnisse zu verraten. Was ist der Plan?
Na ja, wenn du es so formulierst. Ich glaube, so wie Tesla das autonome Fahren gelöst hat, so muss man es machen. Ich bin mir also ziemlich sicher, dass das der Weg ist. Unabhängige Frage: Wie hat Tesla das autonome Fahren gelöst?
Ja, es klingt, als redest du von Daten, also Tesla hat es gelöst … … wegen der …
Wir probieren es mit Daten und wir probieren es mit Algorithmen.
Aber ist das nicht das, was alle anderen auch versuchen?
Also, was ist … Wenn das nicht funktioniert, weiß ich nicht, was funktioniert. Wir haben Daten probiert, wir haben Algorithmen probiert. Uns sind die Algorithmen ausgegangen, jetzt wissen wir nicht mehr weiter. Ich bin mir ziemlich sicher, dass ich den Weg kenne, und es ist nur eine Frage, wie schnell wir ihn gehen, denn es ist im Grunde der Tesla-Weg. Ich meine, hast du das autonome Fahren in letzter Zeit ausprobiert? Nicht die allerneueste Version, aber okay. Das Auto fühlt sich zunehmend so an, als hätte es Bewusstsein, wie ein Lebewesen, und das wird nur noch stärker werden. Und ich denke tatsächlich, wir sollten wahrscheinlich nicht zu viel Intelligenz ins Auto stecken, weil es sich langweilen und …
Co-interviewer
… anfangen könnte, frei herumzustreunen.
Stell dir vor, du steckst in einem Auto fest und das ist alles, was du tun kannst. Man steckt Einstein nicht in ein Auto. Er würde denken: Warum stecke ich in einem Auto fest? Es gibt also wohl eine Grenze dafür, wie viel Intelligenz man in ein Auto steckt, damit sich diese Intelligenz nicht langweilt.
Was ist der Plan von xAI, beim Hochfahren der Rechenleistung mitzuhalten, das alle Labore gerade betreiben? Die Labore sind auf Kurs, über 50 bis 100 Milliarden Dollar auszugeben.
Sorry, sorry, sorry. Ja, Unternehmen.
Labore sind an Universitäten, und die kriechen wie Schnecken.
Die geben keine 50 Millionen Dollar aus.
Die umsatzmaximierenden Unternehmen.
Genau, die umsatzmaximierenden Unternehmen, die sich Labore nennen, machen je nachdem 10 bis 20 Milliarden. OpenAI macht 20 Milliarden Umsatz. Anthropic 10 Milliarden, geschlossen für maximalen Profit. xAI liegt Berichten zufolge bei 1 Milliarde. Was ist der Plan? Um auf ihr Rechenniveau und ihr Umsatzniveau zu kommen und dort zu bleiben, wenn es richtig losgeht.
Sobald man den digitalen Menschen freischaltet, hat man im Grunde Zugang zu Billionen Dollar Umsatz. Man kann sich ja die derzeit wertvollsten Unternehmen nach Marktkapitalisierung anschauen. Ihr Output ist digital. Der Output von Nvidia ist, Dateien per FTP nach Taiwan zu schicken. Das ist im Moment digital. Das sind sehr, sehr schwierige Dateien.
Ja, es sind hochwertige Dateien.
Sie sind die Einzigen, die so gute Dateien machen können. Aber das ist buchstäblich ihr Output. Sie schicken Dateien per FTP nach Taiwan – benutzen sie wirklich FTP? Ich glaube schon. Ich glaube, das ist das File Transfer Protocol. Glaube ich. Ich könnte mich irren, aber so oder so ist es ein Bitstrom, der nach Taiwan geht. Apple baut keine Telefone, sie schicken Dateien nach China. Microsoft stellt nichts her, nicht einmal für die Xbox. Das ist ausgelagert. Auch hier ist ihr Output digital. Metas Output ist digital, Googles Output ist digital. Wenn man also einen Menschen-Emulator hat, kann man im Grunde über Nacht eines der wertvollsten Unternehmen der Welt erschaffen und hätte Zugang zu Billionen Dollar Umsatz. Das ist keine kleine Summe.
Okay, du sagst also im Grunde, die heutigen Umsatzzahlen sind alle Rundungsfehler im Vergleich zum tatsächlichen adressierbaren Markt. Also konzentriert man sich auf den adressierbaren Markt und darauf, wie man ihn erreicht.
Nimm etwas so Einfaches wie zum Beispiel Kundenservice. Wenn man sich in die APIs bestehender Unternehmen integrieren muss, von denen viele nicht einmal eine API haben, man also eine bauen und sich durch Altsoftware kämpfen muss, ist das extrem langsam. Wenn die KI aber einfach das übernehmen kann, was man dem ausgelagerten Kundenservice-Unternehmen ohnehin gibt, und den Kundenservice mit den Apps macht, die dort schon genutzt werden, dann kann man im Kundenservice enorme Fortschritte machen, und der macht, glaube ich, 1 % der Weltwirtschaft aus. So etwas in der Art, alles in allem fast eine Billion Dollar für Kundenservice. Und es gibt keine Markteintrittsbarrieren. Man kann sofort sagen: Wir übernehmen das für einen Bruchteil der Kosten, und es ist keine Integration nötig.
Co-interviewer
Man kann sich eine Art Einteilung von Intelligenzaufgaben vorstellen: Es gibt die Breite, wie Kundenservice, der von sehr vielen Menschen erledigt wird, aber den eben viele machen können. Und dann gibt es die Schwierigkeit: Es gibt die beste Turbine ihrer Klasse, vermutlich gibt es eine um 10 % sparsamere Turbine, die sich eine Intelligenz ausdenken könnte, die wir aber noch nicht gefunden haben. Oder GLP-1-Medikamente, die nur ein paar Bytes an Daten sind. Wo wollt ihr da mitspielen? Ist es viel einigermaßen intelligente Intelligenz oder die absolute Spitze kognitiver Aufgaben?
Nun, ich habe den Kundenservice nur als Beispiel genommen für eine sehr bedeutende Einnahmequelle, die aber wahrscheinlich nicht besonders schwer zu lösen ist. Wenn man einen Menschen am Desktop emulieren kann, dann ist das buchstäblich Kundenservice. Und Menschen durchschnittlicher Intelligenz: Man braucht niemanden, der viele Jahre investiert hat, man braucht keine Ingenieure mehrere Sigma über dem Durchschnitt dafür. Aber natürlich kann man, sobald das funktioniert, sobald Computer effektiv arbeiten, der digitale Optimus funktioniert, jede beliebige Anwendung laufen lassen. Sagen wir, man will Chips entwerfen. Dann kann man herkömmliche Apps laufen lassen, etwa von Cadence und Synopsys und so weiter. Und man kann 1.000 gleichzeitig laufen lassen oder 10.000 und sagen: Okay, bei dieser Eingabe bekomme ich diese Ausgabe für den Chip. Und irgendwann kann man sagen: Okay, du wirst tatsächlich wissen, wie der Chip aussehen soll, ohne eines der Werkzeuge zu benutzen. Im Grunde sollte man also digitales Chipdesign machen können. Man kann Chipdesign machen. Man arbeitet sich die Schwierigkeitskurve hinauf. Man könnte CAD machen. Man könnte also NX oder irgendeine CAD-Software verwenden, um Dinge zu konstruieren.
Co-interviewer
Okay, du meinst also, man fängt mit den einfachsten Aufgaben an und arbeitet sich die Schwierigkeitskurve hinauf.
Du sagst also: Was das größere Ziel eines vollständigen digitalen Kollegen-Emulators angeht, wollen das alle umsatzmaximierenden Unternehmen, xAI eingeschlossen, aber wir werden wegen unseres Geheimplans gewinnen. Aber alle probieren verschiedene Dinge mit Daten, verschiedene Dinge mit Algorithmen. Und ich denke mir: Das gefällt mir.
Wir haben Daten probiert, wir haben Algorithmen probiert, was können wir sonst noch tun?
Ja, das scheint ein umkämpftes Feld zu sein. Und ich frage mich: Wie wollt ihr gewinnen? Das ist meine große Frage.
Weißt du, ich glaube, wir sehen einen Weg dahin. Ich meine, ich glaube, ich kenne den Weg dahin, weil es im Grunde derselbe Weg ist, den Tesla genutzt hat, um das autonome Fahren zu entwickeln. Statt ein Auto zu fahren, fährt man einen Computerbildschirm. Im Grunde ein selbstfahrender Computer.
Co-interviewer
Ach, du meinst, der Weg ist, menschliches Verhalten nachzuahmen und auf riesigen Mengen menschlichen Verhaltens zu trainieren.
Aber Entschuldigung, ist das nicht … ich meine, ist das nicht Training?
Natürlich werde ich in einem Podcast nicht meine heikelsten Geheimnisse ausplaudern. Du. Dafür bräuchte ich mindestens noch drei Guinness.
Ich habe ein paar Freunde bei Jane Street, und die erzählen immer, wie ihre Kollegen sich gegenseitig lustige, teuflische Rätsel ausdenken. Letzte Woche haben sie mir eins geschickt. Im Grunde haben sie ein neuronales Netz trainiert und mir die Gewichte jeder Schicht gegeben, aber nicht gesagt, in welcher Reihenfolge die Schichten kamen. Und ich musste die richtige Reihenfolge anhand der Ausgaben des ursprünglichen Netzes herausfinden. Und sobald ich dieses Rätsel bekam … … bin ich zu meinem Mitbewohner gegangen, der KI-Forscher ist, und wir waren beide sofort gefesselt. Natürlich kann man die Lösung nicht per Brute Force finden. Der Suchraum umfasst hier 10 hoch 122 Permutationen. Man braucht also eindeutig einen Weg, den Suchraum zu verkleinern. Dann musste mein Mitbewohner zur Arbeit. Aber weil ich Podcaster bin, hatte ich Zeit, mich an einigen der besprochenen Ideen zu versuchen. Und mit einer Kombination aus Simulated Annealing und gieriger Suche bin ich, glaube ich, ziemlich nah drangekommen. Ich glaube, ich bin nur noch ein paar Vertauschungen und Verschiebungen von der richtigen Lösung entfernt. Aber was dieses Rätsel richtig knifflig macht, ist, dass es keinen offensichtlichen Weg gibt, aus einem lokalen Minimum zu entkommen. Ich fürchte, weiter bringt mich Vibe Coding nicht, aber vielleicht schafft ihr es besser. Schaut euch das Rätsel unter janestreet.com/dwarkesh an. Okay, zurück zu Elon.
Co-interviewer
Wie wird das Geschäft von xAI aussehen? Wird es Endkunden oder Unternehmen bedienen? Wie wird die Mischung aussehen? Es wird einfach ähnlich sein wie bei anderen Laboren, wo man …
Du sagst Labore, das ergibt Sinn.
Co-interviewer
Unternehmen.
Dwarkesh wird zu Elon: umsatzmaximierende Unternehmen.
Fairerweise muss man sagen, diese GPUs bezahlen sich nicht von selbst.
Co-interviewer
Genau. Aber ja, was ist das Geschäftsmodell? Was sind die Einnahmequellen? In ein paar Jahren …
Die Dinge werden sich sehr schnell ändern. Wir sagen hier das Offensichtliche. Weißt du, ich nenne KI den Überschall-Tsunami. Ich liebe Alliterationen. Was wirklich passieren wird, vor allem wenn man humanoide Roboter in großem Maßstab hat: Sie werden Produkte herstellen und Dienstleistungen erbringen, und zwar weit effizienter als menschliche Unternehmen. Die Produktivität menschlicher Unternehmen zu steigern, ist also nur etwas Kurzfristiges.
Du erwartest also vollständig digitale Unternehmen, statt dass etwa SpaceX teilweise zu KI wird.
Und ich glaube, es wird digitale Unternehmen geben. Aber schau, ist das … Manches davon wird ein bisschen nach Weltuntergang klingen, okay? Aber ich sage nur, was meiner Meinung nach passieren wird. Es soll nicht nach Weltuntergang klingen oder sonst was. Es ist einfach … … was meiner Meinung nach passieren wird. Nämlich, dass reine KI-Unternehmen, die rein aus KI und Robotik bestehen, jedes Unternehmen mit Menschen im Prozess bei Weitem übertreffen werden. Denk zum Beispiel daran, dass „Computer“ früher ein Beruf für Menschen war: Man bekam einen Job als Rechner und führte Berechnungen durch, und es gab ganze Wolkenkratzer voller Menschen, 20, 30 Stockwerke, die nur rechneten. Heute kann dieser ganze Wolkenkratzer voller rechnender Menschen durch einen Laptop mit einer Tabellenkalkulation ersetzt werden. Diese Tabellenkalkulation kann weit mehr Berechnungen durchführen als ein ganzes Gebäude voller menschlicher Rechner. Man kann sich also fragen: Okay, was wäre, wenn nur einige Zellen deiner Tabelle von Menschen berechnet würden? Das wäre tatsächlich viel schlechter, als wenn alle Zellen der Tabelle vom Computer berechnet würden. Was also wirklich passieren wird: Die reinen KI- und Robotik-Unternehmen oder -Kollektive werden jedes Unternehmen mit Menschen im Prozess weit übertreffen. Und das wird sehr schnell gehen.
Apropos den Kreis schließen, Entschuldigung, Optimus …
Ich meine, was Produktionsziele und so weiter angeht, tragen deine Unternehmen die infarktgefährdete amerikanische Industrie quasi auf ihren Schultern. Aber in den Bereichen, in denen du bist, in denen Tesla dominiert hat … Und jetzt willst du zu Humanoiden übergehen. In China gibt es Dutzende und Aberdutzende Firmen, die diese Art von Fertigung billig und in großem Maßstab betreiben und unglaublich wettbewerbsfähig sind. Gib uns also einen Rat oder einen Plan, wie Amerika die Humanoiden-Armeen oder die E-Autos usw. bauen kann. In großem Maßstab und so billig, wie China es auf dem Weg ist zu tun.
Nun, es gibt bei humanoiden Robotern eigentlich nur drei schwierige Dinge. Die Intelligenz für die reale Welt, die Hand und die Massenfertigung. Ich habe noch nicht einmal einen Demo-Roboter mit einer wirklich guten Hand gesehen, mit allen Freiheitsgraden einer menschlichen Hand. Aber Optimus wird sie haben. Optimus hat sie schon.
Und wie schafft ihr das? Ist es einfach die richtige Drehmomentdichte im Motor? Also, was ist da der Hardware-Engpass?
Nun, man musste maßgeschneiderte Aktuatoren entwerfen, im Grunde eigene Motoren, Getriebe, Leistungselektronik, Steuerungen, Sensoren – alles musste aus den physikalischen Grundprinzipien heraus entworfen werden. Dafür gibt es keine Lieferkette.
Und werdet ihr die in großem Maßstab herstellen können?
Co-interviewer
Ist aus Sicht der Manipulation außer der Hand noch etwas schwierig, oder ist man fertig, wenn die Hand gelöst ist?
Aus elektromechanischer Sicht ist die Hand schwieriger als alles andere zusammen. Die menschliche Hand ist, wie sich herausstellt, schon etwas Besonderes. Aber man braucht auch die Intelligenz für die reale Welt. Und die Intelligenz, die Tesla für das Auto entwickelt hat, lässt sich sehr gut auf den Roboter übertragen, also hauptsächlich Vision als Eingabe. Das Auto nimmt vor allem Bilder auf, hört aber tatsächlich auch auf Sirenen. Es verarbeitet die Trägheitsmessungen, GPS-Signale und eine ganze Menge anderer Daten. Kombiniert mit Video, hauptsächlich Video. Und dann gibt es den Steuerbefehl aus. Dein Tesla nimmt also 1,5 Gigabyte Video pro Sekunde auf und gibt 2 Kilobyte Steuerbefehle pro Sekunde aus, mit dem Video bei 36 Hz und der Steuerfrequenz bei 18.
Co-interviewer
Eine Intuition dafür, wann wir diese Robotik bekommen, ist, dass es einige Jahre dauert, von der überzeugenden Demo zum tatsächlichen Einsatz in der realen Welt zu kommen. Vor 10 Jahren gab es wirklich überzeugende Demos des autonomen Fahrens, aber erst jetzt skalieren Robotaxi, Waymo und all diese Dienste. Sollte einen das nicht pessimistisch stimmen, was zum Beispiel Haushaltsroboter angeht? Denn wir haben noch nicht einmal überzeugende Demos von, sagen wir, der wirklich fortgeschrittenen Hand.
Nun, wir arbeiten jetzt schon eine Weile an humanoiden Robotern, ich glaube, seit fünf oder sechs Jahren oder so. Und eine ganze Reihe von Dingen, die wir für das Auto gemacht haben, lassen sich auf den Roboter übertragen. Wir verwenden im Roboter dieselben Tesla-KI-Chips wie im Auto. Wir verwenden dieselben Grundprinzipien. Es ist im Wesentlichen dieselbe KI. Ein Roboter hat viel mehr Freiheitsgrade als ein Auto. Aber wenn man es einfach als Bitstrom betrachtet, ist KI eigentlich hauptsächlich Kompression und Korrelation zweier Bitströme. Bei Video muss man enorm viel komprimieren, und zwar genau richtig. Man muss komprimieren, also das ignorieren, was keine Rolle spielt. Die Details der Blätter am Baum am Straßenrand sind egal, aber die Verkehrsschilder, die Ampeln, die Fußgänger sind sehr wichtig, und sogar, ob dich jemand in einem anderen Auto ansieht oder nicht. Manche dieser Details sind sehr wichtig, aber im Grunde muss das Auto diese 1,5 Gigabyte pro Sekunde letztlich in 2 Kilobyte pro Sekunde Steuerbefehle umwandeln, also viele Kompressionsstufen. Und man muss alle diese Stufen richtig hinbekommen und sie dann mit den richtigen Steuerbefehlen korrelieren. Der Roboter muss im Wesentlichen dasselbe tun. Und wenn man an Menschen denkt: Genau das passiert bei Menschen. Wir sind wirklich Photonen rein, Steuerbefehle raus. Das ist also … Den allergrößten Teil deines Lebens waren es Photonen als Seheindruck rein und dann motorische Steuerung raus.
Naiv betrachtet scheint es, dass beim Vergleich von humanoiden Robotern und Autos die grundlegenden Aktuatoren im Auto Lenken, Beschleunigen usw. sind. Während es bei einem Roboter, vor allem mit beweglichen Armen, Dutzende und Aberdutzende solcher Freiheitsgrade gibt. Und gerade bei Tesla hattet ihr den Vorteil, dass ihr Millionen und Abermillionen Stunden menschlicher Demonstrationsdaten gesammelt habt, einfach weil die Autos unterwegs waren, während man nicht einfach Optimus-Roboter einsetzen kann, die nicht funktionieren, um so an Daten zu kommen. Also zwischen den zusätzlichen Freiheitsgraden und den viel spärlicheren Daten …
Ja, das ist ein guter Punkt.
Wie werdet ihr den Intelligenz-Motor von Tesla nutzen, um den Optimus-Geist zu trainieren?
Da sprichst du tatsächlich eine wichtige Einschränkung und einen Unterschied zu den Autos an, die wir haben. Wir werden bald etwa 10 Millionen Autos auf der Straße haben. Und es ist schwer, dieses gewaltige Trainings-Schwungrad für den Roboter nachzubilden. Was wir tun müssen, ist, viele Roboter zu bauen und sie in eine Art Optimus-Akademie zu stecken, damit sie in der Realität Self-Play betreiben können. Und genau das bauen wir gerade auf. Wir haben also mindestens 10.000 Optimus-Roboter, vielleicht 20.000 oder 30.000, die das können, die Self-Play machen und verschiedene Aufgaben testen. Und dann hat Tesla einen ziemlich guten Realitätsgenerator, einen physikalisch genauen Realitätsgenerator, den wir für die Autos gebaut haben; dasselbe machen wir für die Roboter und haben es tatsächlich schon getan. Man hat also einige Zehntausend humanoide Roboter, die verschiedene Aufgaben erledigen, und dann Millionen simulierter Roboter in der simulierten Welt, und man nutzt die Zehntausenden Roboter in der realen Welt, um die Lücke zwischen Simulation und Realität zu schließen.
Wie siehst du die Synergien zwischen xAI und Optimus, wo du das ja betonst? Man braucht dieses Weltmodell. Vielleicht will man eine wirklich kluge Intelligenz als Steuerungsebene nutzen. Grok übernimmt also vielleicht die langsamere Planung, und die motorische Steuerung …
… liegt eine Ebene tiefer.
Ja. Wie wird die Synergie zwischen diesen Dingen aussehen?
Ja, Grok würde das Verhalten der Optimus-Roboter orchestrieren. Sagen wir, man will eine Fabrik bauen: Dann könnte Grok die Optimus-Roboter organisieren und ihnen Aufgaben zuweisen, um die Fabrik zu bauen, die herstellt, was man will.
Co-interviewer
Müsste man dann nicht xAI und Tesla fusionieren? Weil diese Dinge am Ende …
Was haben wir vorhin über Gespräche zu börsennotierten Unternehmen gesagt?
Wann schicken wir Elon … Worauf wartest du, bevor du sagst: Wir wollen 100.000 Optimusse herstellen?
Heißt es Optimi? Da wir den Eigennamen definieren, können wir auch seinen Plural definieren. Wir legen den Plural also fest, und es heißt Optimi.
Okay. Gibt es auf der Hardwareseite etwas, das du sehen willst? Willst du bessere Aktuatoren sehen, oder willst du einfach, dass die Software besser wird? Worauf warten wir, bevor die Gen 3 in Massenproduktion geht?
Nein, wir bewegen uns darauf zu. Wir gehen die Massenproduktion an.
Aber die aktuelle Hardware ist gut genug, dass ihr …
Co-interviewer
… dass ihr sollt …
Ihr wollt jetzt einfach so viele wie möglich einsetzen.
Ich meine, es ist sehr schwer, die Produktion hochzufahren, aber ja. Ich glaube, Optimus 3 ist die richtige Version des Roboters, um vielleicht in der Größenordnung von einer Million Einheiten pro Jahr zu produzieren. Ich glaube, man sollte zu Optimus 4 übergehen, bevor man auf 10 Millionen Einheiten pro Jahr geht.
Co-interviewer
Okay, aber mit Optimus 3 könnt ihr eine Million pro Jahr schaffen.
Ja, ich meine, es ist sehr schwer, die Fertigung hochzufahren. Ja. In der Fertigung folgt der Ausstoß pro Zeiteinheit immer einer S-Kurve. Es beginnt quälend langsam, dann kommt ein schließlich exponentieller Anstieg, dann linear, dann logarithmisch, bis man sich schließlich asymptotisch einem Wert annähert. Die Anfangsproduktion von Optimus wird … Es wird eine gestreckte S-Kurve, weil so vieles, was in Optimus steckt, brandneu ist. Es gibt keine bestehende Lieferkette. Wie gesagt, die Aktuatoren, die Elektronik, alles im Optimus-Roboter ist aus physikalischen Grundprinzipien heraus entworfen. Es stammt nicht aus einem Katalog. Das ist maßgeschneidert. Alles, buchstäblich alles. Ich glaube nicht, dass es ein einziges Ding gibt, das …
Co-interviewer
Wie weit geht das hinunter?
Ich meine, eigene Kondensatoren bauen wir vielleicht noch nicht, aber es gibt nichts, was man zu irgendeinem Preis aus einem Katalog nehmen könnte. Das bedeutet einfach, dass die S-Kurve von Optimus, der Ausstoß pro Zeiteinheit … Wie viele Optimus-Roboter ihr pro Tag baut … … wird anfangs langsamer hochlaufen als bei einem Produkt mit bestehender Lieferkette. Aber wir werden die Million erreichen.
Wenn du diese chinesischen Humanoiden siehst, etwa von Unitree oder so, die Humanoiden für 6.000 oder 13.000 Dollar verkaufen … Hoffst du, die Materialkosten von Optimus unter diesen Preis zu drücken, um dasselbe zu tun, oder findest du, dass das qualitativ nicht dasselbe ist? Also, was erlaubt es ihnen, so billig zu verkaufen? Und können wir da mithalten?
Nun, unser Optimus ist darauf ausgelegt, viel Intelligenz zu haben und dieselbe elektromechanische Geschicklichkeit wie ein Mensch, wenn nicht sogar eine höhere. Unitree hat das nicht. Und außerdem ist es ein ziemlich großer Roboter. Er muss schwere Gegenstände lange Zeit tragen können, ohne zu überhitzen oder die Leistung seiner Aktuatoren zu überschreiten. Also. Er ist, weißt du, 1,80 Meter groß, also ziemlich groß, und er hat viel Intelligenz. Er wird also teurer sein als ein kleiner Roboter, der nicht …
Co-interviewer
… intelligent ist, aber er ist leistungsfähiger.
Ja, aber nicht viel teurer. Die Sache ist: Mit der Zeit, wenn Optimus-Roboter Optimus-Roboter bauen, wird der Preis sehr schnell sinken.
Co-interviewer
Und was werden diese ersten Millionen Optimi tun? Was wird ihr …
… bester Einsatzzweck sein? Ich glaube, man würde mit einfachen Aufgaben anfangen, bei denen man sich darauf verlassen kann, dass sie sie gut erledigen.
Co-interviewer
Aber zu Hause oder in Fabriken …
… die nützlichsten Roboter werden anfangs für alles sein, was kontinuierlich läuft, jeden Betrieb rund um die Uhr, weil man dann … Weil sie ununterbrochen arbeiten können. Ja.
Welchen Anteil der Arbeit in einer Gigafactory, die heute von Menschen erledigt wird, könnte ein Gen 3 übernehmen?
Ich bin mir nicht sicher. Vielleicht 10, 20 %, vielleicht mehr. Ich weiß es nicht. Wir würden unsere Belegschaft nicht verkleinern. Wir würden die Belegschaft sicher vergrößern, um das klarzustellen. Aber wir würden unseren Ausstoß steigern. Also die produzierten Einheiten pro Mensch – die Gesamtzahl der Menschen bei Tesla wird steigen, aber der Ausstoß an Robotern und Autos wird überproportional steigen. Die Zahl der pro Mensch produzierten Autos und Roboter wird dramatisch steigen, aber die Zahl der Menschen wird auch steigen.
Co-interviewer
Wir reden hier viel über die chinesische Fertigung, und wir haben auch über einige relevante politische Maßnahmen gesprochen. Du hast die Solarzölle erwähnt.
Co-interviewer
Und du hältst sie für eine schlechte Idee, weil wir nicht ausbauen können …
… Solar in den USA. Nun, die Stromerzeugung in den USA … … muss hochskaliert werden. Richtig.
Co-interviewer
Das geht nicht, ohne gute Energiequellen …
… um es irgendwie zu schaffen.
Co-interviewer
Ja, aber worauf ich hinauswollte: Wenn du das Sagen hättest, wenn du alle politischen Maßnahmen festlegen würdest, was würdest du sonst noch ändern?
Würdest du auch die Solarzölle ändern? Ja, ich würde sagen, alles, was ein begrenzender Faktor für Strom ist, muss angegangen werden, sofern es nicht sehr schlecht für die Umwelt ist.
Co-interviewer
Da kämen vermutlich auch Reformen bei den Genehmigungsverfahren und so etwas dazu.
Ja, es laufen einige Reformen der Genehmigungsverfahren. Vieles bei den Genehmigungen ist Sache der Bundesstaaten, also … Aber alles, was es besser macht … Aber diese Regierung ist gut darin, viele Hindernisse aus dem Weg zu räumen. Und ich sage nicht, dass alle Zölle schlecht sind. Ich sage nur, bei den Solarzöllen … Ich meine, manchmal, wenn ein anderes Land die Produktion von etwas subventioniert, braucht man Ausgleichszölle, um die heimische Industrie vor den Subventionen eines anderen Landes zu schützen.
Co-interviewer
Was würdest du sonst noch ändern?
Ich weiß nicht, ob die Regierung tatsächlich so viel tun kann.
Co-interviewer
Eine Sache, die ich mich gefragt habe: Für das politische Ziel, einen Vorsprung der USA gegenüber China zu schaffen … … scheinen die Exportverbote tatsächlich ziemlich wirksam gewesen zu sein: China produziert keine Spitzenchips, und da greifen die Exportverbote wirklich. China produziert keine Spitzenturbinen, und auch da gibt es eine Reihe relevanter Exportverbote bei einem Teil der Metallurgie. Sollte es mehr Exportverbote geben? Man denkt an Dinge wie die heutige Drohnenindustrie und so weiter, aber sollte man das in Erwägung ziehen?
Nun, ich halte es für wichtig zu verstehen, dass China in den meisten Bereichen in der Fertigung sehr weit fortgeschritten ist. Es gibt nur wenige Bereiche, in denen das nicht so ist. Weißt du, China ist ein Fertigungs-Kraftpaket auf einem anderen Niveau. Die Leute …
Co-interviewer
Es ist sehr beeindruckend.
Ja, ja. Wenn man zum Beispiel die Erzraffination nimmt, würde ich sagen, macht China im Schnitt grob doppelt so viel wie der Rest der Welt zusammen. Und ich glaube, es gibt Bereiche wie die Raffination von Gallium, das in Solarzellen verwendet wird … … wo sie, glaube ich, bei etwa 98 % der Gallium-Raffination liegen. China ist also in der Fertigung in, würde ich sagen, den meisten Bereichen tatsächlich sehr weit.
Co-interviewer
Es scheint ein Unbehagen über diese Abhängigkeit von Lieferketten zu geben, und trotzdem passiert …
… da nicht wirklich etwas.
Co-interviewer
Es hängt zum Beispiel an der Gallium-Raffination, von der du sprichst.
Ja, ja, es gibt die Seltenen Erden und … Ja, Seltene Erden, die, wie du weißt, gar nicht selten sind. Ja. Wir bauen tatsächlich Seltene-Erden-Erz in den USA ab … … schicken das Gestein, laden es auf einen Zug und dann auf ein Schiff nach China, dann auf einen weiteren Zug zu den Seltene-Erden-Raffinerien in China, die es raffinieren, einen Magneten daraus machen, ihn in eine Motorbaugruppe einsetzen und das Ganze zurück nach Amerika schicken. Was uns also wirklich fehlt, ist viel Erzraffination in Amerika.
Co-interviewer
Und wäre das nicht einen politischen Eingriff wert?
Ja, nun, ich glaube, da wird einiges getan, aber ehrlich gesagt brauchen wir Optimus, um Erzraffinerien zu bauen.
Du meinst also, Chinas Hauptvorteil ist die Fülle an Fachkräften. Und genau das behebt Optimus. Aber wir brauchen auch …
China hat etwa die vierfache Bevölkerung.
Es gibt also diese Sorge, wenn man glaubt, dass Humanoide die Zukunft sind: Okay, wenn im Moment die Fachkräfte in der Fertigung bestimmen, wer mehr Humanoide bauen kann, dann hat China mehr davon. Es baut mehr Humanoide und erreicht damit als Erstes die Optimus-Zukunft. Und so geht es immer weiter. Du weist ja quasi darauf hin, dass eine Million Optimi genau die Fertigungskapazität erfordert, zu der uns die Optimi verhelfen sollen.
Richtig. Man kann diese rekursive Schleife ziemlich …
Co-interviewer
… schnell mit einer kleinen Zahl von Optimi schließen.
Ja. Man schließt also die rekursive Schleife, damit Roboter beim Bau von Robotern helfen, und dann können wir versuchen, auf zig Millionen Einheiten pro Jahr zu kommen. Wenn man anfängt, Hunderte Millionen Einheiten pro Jahr zu erreichen, wird man, glaube ich, mit Abstand das wettbewerbsfähigste Land sein. Nur mit Menschen können wir definitiv nicht gewinnen, weil China die vierfache Bevölkerung hat. Richtig. Und ehrlich gesagt gewinnt Amerika schon so lange, dass wir, wie ein Profisportteam, das sehr lange gewonnen hat, dazu neigen, selbstgefällig und anspruchsvoll zu werden, und deshalb hören sie auf zu gewinnen, weil sie nicht mehr so hart arbeiten. Ehrlich gesagt ist es einfach meine Beobachtung, dass die durchschnittliche Arbeitsmoral in China höher ist als in den USA. Es ist also nicht nur so, dass die Bevölkerung viermal so groß ist, sondern die Menge an Arbeit, die die Leute leisten, ist auch höher. Man kann also versuchen, die Menschen umzuorganisieren, aber man bleibt bei einem Viertel – vorausgesetzt, die Produktivität ist gleich, was sie meiner Meinung nach vielleicht nicht ist. Ich glaube, China hat vielleicht einen Vorteil bei der Produktivität pro Kopf. Wir werden ein Viertel so viel schaffen wie China, also können wir an der menschlichen Front nicht gewinnen. Und unsere Geburtenrate ist seit langem niedrig. Unsere Geburtenrate ist … Die US-Geburtenrate liegt seit etwa 1971 unter dem Ersatzniveau. Wir haben also viele Menschen, die in Rente gehen, und wir sind nah dran, dass im Inland mehr Menschen sterben als geboren werden. An der menschlichen Front können wir also definitiv nicht gewinnen, aber an der Roboterfront haben wir vielleicht eine Chance.
Co-interviewer
Gibt es andere Dinge, die du früher herstellen wolltest, die aber zu arbeitsintensiv oder zu teuer waren, und zu denen du jetzt zurückkehren und sagen kannst: Endlich können wir das machen, weil wir Optimus haben?
Ja, ich glaube, wir würden bei Tesla gern mehr Erzraffinerien bauen. Wir haben gerade den Bau abgeschlossen und mit der Lithium-Raffination in unserer Lithium-Raffinerie in Corpus Christi, Texas, begonnen. Wir haben eine Nickel-Raffinerie für die Kathode hier in Austin. Und das sind die größten … Das ist die größte … Kathode. Das ist die größte Kathoden-Raffinerie, die größte Lithium-Raffinerie, die größte Nickel- und Lithium-Raffinerie außerhalb Chinas. Und das Kathoden-Team würde sagen: Wir haben die größte und tatsächlich die einzige Kathoden-Raffinerie in Amerika. Nicht schlecht, oder? Nicht nur die größte, sondern auch die einzige. Sie ist ziemlich groß, auch wenn sie die einzige ist. Aber es gibt andere Dinge: Man könnte viel mehr Raffinerien bauen und Amerika helfen, bei der Raffinationskapazität wettbewerbsfähiger zu werden. Es gibt also im Grunde viel Arbeit für die Optimi, die ehrlich gesagt sehr wenige Amerikaner machen wollen. Ich meine, ich habe tatsächlich …
Co-interviewer
Ist die Raffinationsarbeit zu schmutzig, oder was ist …
Eigentlich nicht. Nein, wir haben keine … Es gibt keine … Wir haben keine giftigen Emissionen aus der Raffinerie oder so. Die Kathoden-Nickel-Raffinerie liegt im Travis County, etwa fünf Minuten von der Stadt entfernt.
Co-interviewer
Warum könnt ihr das nicht mit Menschen machen?
Doch, kann man. Einem gehen einfach die Menschen aus.
Okay. Ja. Egal was man macht, Amerika hat nur ein Viertel so viele Menschen wie China. Wenn man sie also das machen lässt, können sie das andere nicht machen. Wie baut man dann diese Raffinationskapazität auf? Nun, man könnte es mit Optimi machen. Und nicht viele Amerikaner sehnen sich danach, in der Raffination zu arbeiten. Ich meine, wie viele Leute triffst du, die davon träumen zu raffinieren?
Weißt du, BYD erreicht bei Produktion oder Absatz die Stückzahlen von Tesla. Was passiert auf den globalen …
… Märkten, wenn die chinesische E-Auto-Produktion hochskaliert? Nun, China ist in der Fertigung extrem wettbewerbsfähig. Ich glaube also, es wird eine massive Flut chinesischer Fahrzeuge geben und im Grunde der meisten Industrieprodukte. Schon jetzt raffiniert China, wie gesagt, wahrscheinlich doppelt so viel wie der Rest der Welt zusammen. Wenn man bis zu den Zulieferern der vierten und fünften Ebene hinuntergeht: Auf der untersten Ebene hat man Energie, Bergbau und Raffination. Auf diesen Grundschichten raffiniert China, wie gesagt, grob geschätzt doppelt so viel wie der Rest der Welt zusammen. Jedes beliebige Produkt wird also chinesische Anteile haben, weil China doppelt so viel Fertigungs- und Raffinationsarbeit leistet wie der Rest der Welt. Und dann gehen sie mit den Autos bis zum fertigen Produkt. China ist ein Kraftpaket. Ich glaube, dieses Jahr wird China mehr als das Dreifache der Stromerzeugung der USA erreichen. Die Stromerzeugung ist ein brauchbarer Indikator für die Wirtschaft. Um die Fabriken und alles andere zu betreiben, braucht man Strom. Strom ist also ein guter Indikator für die Realwirtschaft. Und wenn China also …
… die dreifache Stromerzeugung der USA zu überschreiten, bedeutet das, dass seine Industriekapazität, grob angenähert … … dreimal so groß ist. Sie wird dreimal so groß sein wie die der USA.
Wenn man zwischen den Zeilen liest, klingt es so, als würdest du sagen, dass ohne eine Art rekursives Humanoiden-Wunder … In den nächsten Jahren wird China bei der gesamten Kette aus Fertigung, Energie und Rohstoffen einfach dominieren,
ob es nun um KI geht oder
um die Herstellung von Elektroautos oder humanoiden Robotern.
Ohne bahnbrechende Innovationen in den USA wird China absolut dominieren. Interessant. Ja.
Co-interviewer
Wobei die Robotik die wichtigste bahnbrechende Innovation ist.
Nun, wenn man KI im Weltraum skalieren will, braucht man im Grunde die humanoiden Roboter, man braucht KI für die reale Welt, man braucht eine Million Tonnen pro Jahr in den Orbit. Sagen wir einfach: Wenn wir den Massenbeschleuniger auf dem Mond zum Laufen bringen, mein Lieblingsding, dann haben wir, glaube ich,
Co-interviewer
alle unsere Probleme gelöst.
Ja. Das ist also so was wie. Ich nenne das gewinnen. Ich nenne das richtig groß gewinnen.
Co-interviewer
Dann können Sie endlich zufrieden sein, etwas geschafft zu haben.
Co-interviewer
Sie haben den Massenbeschleuniger auf dem Mond.
Genau. Ich will dieses Ding einfach sehen.
Co-interviewer
Stammt das aus irgendeinem Science-Fiction-Werk, oder. Woher haben Sie.
Na ja, es gibt tatsächlich ein Buch von Heinlein. Der Mond ist eine herbe Geliebte.
Co-interviewer
Okay, ja, aber das ist etwas anderes. Das ist eine Gravitationsschleuder, oder.
Nein, die haben einen Massenbeschleuniger.
Co-interviewer
Okay, ja, aber sie benutzen ihn, um die Erde anzugreifen, also ist das vielleicht nicht das beste Vorbild.
Sie benutzen ihn für ihre Unabhängigkeit.
Co-interviewer
Genau. Was haben Sie mit dem Massenbeschleuniger auf dem Mond vor?
Sie haben ihre Unabhängigkeit erklärt. Die Erdregierung war dagegen, und sie haben Dinge geschleudert, bis die Erdregierung zugestimmt hat. Das Buch ist der Hammer.
Co-interviewer
Ich fand das Buch viel besser als, na ja, ein anderes, das alle lesen. Fremder in einer fremden Welt?
Grok stammt aus „Fremder in einer fremden Welt“.
Co-interviewer
Ja, ja, aber mir hat das andere viel besser gefallen.
Die ersten zwei Drittel von „Fremder in einer fremden Welt“ sind gut, und im letzten Drittel wird es dann sehr seltsam. Ja, aber es stecken trotzdem gute Ideen drin. Ja.
Labelbox kann Ihnen Ihre Robotik- und RL-Daten in großem Maßstab liefern. Nehmen wir die Robotik. Sagen wir, Sie brauchen 100.000 Stunden Egoperspektiv-Video. Labelbox hilft Ihnen zuerst, Ihre ideale Datenverteilung festzulegen. Zum Beispiel sollte vielleicht keine einzelne Aufgabenkategorie mehr als 1 % des Trainingsvolumens ausmachen, und mindestens 10 % der Trajektorien sollten Fehler- und Korrektursituationen erfassen. Dann verteilt Labelbox diese Verteilung auf sein riesiges Netzwerk von Operatoren. Sie sind nicht auf die wenigen Szenen beschränkt, die man in einem einzigen Lager aufbauen kann. Stattdessen hat jeder Operator von Labelbox Zugang zu vielen einzigartigen physischen Umgebungen, in denen er sich bei den unterschiedlichsten Aufgaben filmen kann. Die Technologie von Labelbox kategorisiert jedes Video automatisch, sodass die Operatoren immer wissen, welche Aufgaben noch offen sind und woran sie arbeiten müssen. Weiter. Bei RL-Daten geht Labelbox ähnlich vor. Sie erarbeiten mit Ihnen die richtige Verteilung der Aufgaben. Und dann bauen ihre Fachexperten die hyperrealistischen digitalen Umgebungen und Bewertungsraster, die Sie brauchen, um Trainingsdaten höchster Qualität zu sammeln. Ob Sie also Roboter in der realen Welt oder Agenten für die Computernutzung trainieren, Labelbox kann helfen. Mehr dazu auf labelbox.com/dwarkesh.
Co-interviewer
Worüber wir viel gesprochen haben, ist Ihr System im Umgang mit Menschen. Sie haben die ersten paar Tausend Mitarbeiter von SpaceX und vielen anderen Firmen selbst interviewt.
Was davon skaliert nicht? Na ja, aber was nicht skaliert, bin ich.
Co-interviewer
Klar, klar, das weiß ich. Aber worauf achten Sie?
Es gibt buchstäblich nicht genug Stunden am Tag, unmöglich.
Co-interviewer
Worauf achten Sie? Jemand anderes, der gut darin ist, Leute zu interviewen und einzustellen. Was ist das gewisse Etwas?
Nun, inzwischen habe ich, glaube ich. Ich habe vielleicht mehr Trainingsdaten zur Beurteilung von Talent, vor allem technischem. Aber Talent jeder Art, schätze ich. Aber vor allem technisches Talent, da ich so viele technische Interviews geführt und dann die Ergebnisse gesehen habe. Technische Interviews, und die Ergebnisse gesehen. Mein Trainingsdatensatz ist also. Ist riesig und sehr breit gefächert. Im Allgemeinen bitte ich um Stichpunkte mit Belegen für außergewöhnliche Fähigkeiten. Und das können ziemlich ausgefallene Dinge sein. Es muss nicht im konkreten Fachgebiet sein, aber ein Beleg für außergewöhnliche Fähigkeiten. Wenn also jemand auch nur eine Sache nennen kann, aber sagen wir drei Dinge, bei denen man denkt: wow, wow, wow, dann ist das ein gutes Zeichen.
Aber warum müssen Sie derjenige sein, der das beurteilt?
Nein, ich spreche nicht mit jedem. Das ist unmöglich. Oder? Ich meine, die Gesamtbelegschaft aller Firmen sind 200.000 Leute. Richtig.
Co-interviewer
Aber in der Anfangszeit, worauf haben Sie in diesen Interviews geachtet, was sich nicht delegieren ließ?
Nun, ich musste wohl meinen Trainingsdatensatz aufbauen. Es ist ja nicht so, dass ich eine perfekte Trefferquote hätte. Ich habe Fehler gemacht, aber dann konnte ich sehen, wo ich dachte, jemand würde gut funktionieren, und es war nicht so. Und warum hat es dann nicht geklappt? Und was kann ich tun, um mich sozusagen per Reinforcement Learning selbst zu trainieren, damit ich künftig bei Interviews eine bessere Trefferquote habe? Meine Trefferquote ist immer noch nicht perfekt, aber sehr hoch.
Was sind überraschende Gründe, warum Leute nicht funktionieren?
Überraschende Gründe, so wie, wissen Sie, sie verstehen
das technische Fachgebiet nicht, usw. Usw. Aber nein, Sie haben jetzt den langen Schwanz von Fällen wie: Ich war von dieser Person wirklich begeistert. Es hat nicht geklappt. Mich interessiert, wie so etwas passiert.
Ja. Also im Allgemeinen sage ich den Leuten, und mir selbst, sozusagen als Ideal: Schaut nicht auf den Lebenslauf. Vertraut einfach, vertraut eurer Interaktion. Der Lebenslauf kann sehr beeindruckend wirken, so nach dem Motto: Wow, der Lebenslauf sieht gut aus. Aber wenn das Gespräch nach 20 Minuten nicht, na ja, dann sollte man dem Gespräch glauben. Nicht dem, nicht dem Papier.
Co-interviewer
Ich habe den Eindruck, ein Teil Ihrer Methode ist also. Wissen Sie, vor ein paar Jahren gab es in den Medien dieses Mem, Tesla sei eine Drehtür für Führungskräfte. Dabei hatte Tesla, glaube ich, wenn man genau hinsieht, in den letzten Jahren eine sehr beständige, intern beförderte Führungsriege. Und bei SpaceX haben Sie all diese Leute wie Mark Juncosa und Steve Davis.
Und Steve Davis leitet The Boring Company.
Co-interviewer
Nein, nein. Ja, ja, aber Bill Riley und solche Leute. Und es scheint, dass ein Teil dessen, was gut funktioniert hat, darin besteht, sehr fähige technische Stellvertreter zu haben. Was haben all diese Leute gemeinsam?
Nun, das Führungsteam von Tesla hat inzwischen wohl eine durchschnittliche Betriebszugehörigkeit von 10 oder 12 Jahren. Das ist eine ziemlich, ziemlich lange Zugehörigkeit. Ja. Aber es gab Zeiten, in denen Tesla eine extrem, extrem schnelle Wachstumsphase durchgemacht hat. Und dadurch hat sich alles etwas beschleunigt. Und wenn ein Unternehmen, wissen Sie, mehrere Größenordnungen durchläuft, dann sind die Leute, die eine Firma mit 50 Mitarbeitern führen können, gegenüber einer mit 500, mit 5.000 oder mit 50.000.
Co-interviewer
Ja, man gruppiert die Leute.
Es ist einfach nicht dasselbe Team. Ja, es ist nicht immer dasselbe Team. Wenn ein Unternehmen also sehr schnell wächst, wird die Rate, mit der Führungspositionen wechseln, im Allgemeinen proportional zur Geschwindigkeit des Wachstums sein. Dann hatte Tesla noch eine zusätzliche Herausforderung: Wenn Tesla sehr erfolgreiche Phasen hatte, wurden unsere Leute unerbittlich abgeworben, wirklich unerbittlich. Als Apple sein Elektroauto-Programm hatte, haben sie Tesla mit Anrufen von Recruitern regelrecht bombardiert. Die Ingenieure haben einfach ihre Telefone ausgesteckt.
„Ich versuche hier zu arbeiten.“ Ja.
„Wenn ich noch einen Anruf von einem Apple-Recruiter bekomme …“ Aber ihr Eröffnungsangebot, ohne jedes Gespräch mit mir, war so etwa das Doppelte der Vergütung bei Tesla. Wir hatten also so ein bisschen das Tesla-Feenstaub-Phänomen, nach dem Motto: Oh, wenn man eine Tesla-Führungskraft einstellt, wird plötzlich alles erfolgreich. Und ich bin selbst auch auf diesen Feenstaub hereingefallen. So nach dem Motto: Oh, wir stellen jemanden von Google oder Apple ein, und der wird sofort erfolgreich sein. Aber so funktioniert das nicht. Wissen Sie, Menschen sind Menschen. Es gibt keinen magischen Feenstaub.
Wenn wir also das Feenstaub-Problem hatten, wurden wir unerbittlich abgeworben, und da Tesla Ingenieursarbeit vor allem im Silicon Valley macht, ist es für die Leute einfacher: Sie müssen ihr Leben kaum ändern. Sie können einfach, wissen Sie, ihr Arbeitsweg bleibt derselbe.
Co-interviewer
Ja. Wie verhindert man das also? Wie verhindert man den Feenstaub-Effekt, wenn alle versuchen, Ihre Leute abzuwerben?
Ich glaube nicht, dass wir das können, ich glaube nicht, dass wir viel tun können, um.
Es zu stoppen. Aber das ist einer der Gründe: Dass Tesla wirklich im Silicon Valley saß und gleichzeitig diesen Feenstaub-Effekt hatte, führte zu einer sehr, sehr aggressiven Abwerbung.
Co-interviewer
Hilft es dann, in Austin zu sein? Austin.
Ja, es hilft trotzdem. Ich meine, Tesla hat immer noch den Großteil seiner Ingenieure in Kalifornien, und Ingenieure zum Umzug zu bewegen, kann ein großes Problem mit dem Partner sein. Ja.
Co-interviewer
Und die anderen haben Jobs.
Ja, ja, genau. Bei Starbase war das also besonders schwierig, denn die Chancen, in Brownsville, Texas, einen weiteren Job vom Kaliber SpaceX zu finden, sind ziemlich gering. Ja, das ist ziemlich schwierig. Ich meine, das ist wie ein Technologie-Kloster. Ich denke, wissen Sie, abgelegen und hauptsächlich Kerle.
Co-interviewer
Aber noch mal, wenn man zurückgeht.
Eine deutliche Verbesserung gegenüber mir.
Co-interviewer
Ja, aber wenn man auf diese Leute zurückkommt, die bei Tesla, bei SpaceX und solchen Orten technisch wirklich sehr effektiv waren, was haben die Ihrer Meinung nach gemeinsam, außer, ist es nur, dass sie in der Raketentechnik oder den technischen Grundlagen sehr scharfsinnig sind? Oder glauben Sie, es ist etwas Organisatorisches? Etwas an ihrer Fähigkeit, mit Ihnen zu arbeiten. Ist es ihre Fähigkeit, flexibel, aber nicht zu flexibel zu sein? Was macht einen guten Sparringspartner für Sie aus?
Ich glaube nicht, dass es um einen Sparringspartner ging. Ich meine, wenn jemand Dinge erledigt, liebe ich ihn, und wenn nicht, dann. Es ist also ziemlich einfach. Es ist nichts Eigenwilliges. Wenn jemand gut umsetzt, bin ich ein riesiger Fan, und wenn nicht, dann nicht. Aber es geht nicht darum, meinen persönlichen Vorlieben zu entsprechen, oder ich versuche jedenfalls, dass es nicht darauf hinausläuft. Also. Ja, ja. Aber im Allgemeinen halte ich es für eine gute Idee, nach Talent, Antrieb und Vertrauenswürdigkeit einzustellen, und ich denke, Herzensgüte ist wichtig. Die hatte ich eine Zeit lang zu gering gewichtet. Also: Sind es gute Menschen, vertrauenswürdig, klug, talentiert und fleißig? Wenn ja, kann man Fachwissen hinzufügen, aber diese grundlegenden Eigenschaften, diese grundlegenden Merkmale, kann man nicht ändern. Die meisten Leute bei Tesla und SpaceX kamen also nicht aus der Luft- und Raumfahrt oder der Autoindustrie.
Was musste sich an Ihrem Führungsstil am meisten ändern, als Ihre Firmen von 100 auf 1.000 auf 10.000 Leute gewachsen sind? Sie sind bekannt für dieses Mikromanagement, dafür, sich in die Details zu stürzen.
Nanomanagement, bitte. Leute. Management. Management.
ganz nach unten, bis zu Heisenberg und der Unschärfe?
Ja. Wie schaffen Sie, ich meine, können Sie immer noch so sehr in die Details gehen, wie Sie wollen? Wären Ihre Firmen erfolgreicher, wenn Sie könnten, wenn sie kleiner wären?
Wie sehen Sie das? Nun, da ich nur eine feste Zeit am Tag habe, verdünnt sich meine Zeit zwangsläufig, wenn die Dinge wachsen und das Tätigkeitsfeld größer wird. Es ist mir also unmöglich, tatsächlich ein Mikromanager zu sein, denn das würde bedeuten, dass ich Tausende Stunden am Tag hätte. Es ist für mich logisch unmöglich, die Dinge mikrozumanagen. Aber es gibt Momente, in denen ich mich in ein bestimmtes Problem vertiefe, weil genau dieses Problem der limitierende Faktor für den Fortschritt des Unternehmens ist. Und. Aber der Grund, sich in ein sehr detailliertes Element zu vertiefen, ist, dass es der limitierende Faktor ist. Man vertieft sich nicht willkürlich in Kleinigkeiten. Und wie gesagt, rein zeitlich ist es mir physisch unmöglich, mich willkürlich mit unwichtigen Kleinigkeiten zu befassen, und das würde zum Scheitern führen. Aber manchmal sind die Kleinigkeiten entscheidend für den Sieg.
Co-interviewer
Bekanntlich haben Sie das Starship-Design von Verbundwerkstoffen auf Stahl umgestellt.
Co-interviewer
Und Sie haben diese Entscheidung getroffen, es waren nicht, wissen Sie, Leute, die ankamen und sagten: Oh, wir haben was Besseres gefunden, Chef. Sie waren es, der die Leute gedrängt hat, gegen einen gewissen Widerstand. Können Sie erzählen, wie Sie auf die Idee mit dem Wechsel zu Stahl gekommen sind?
Ja, aus Verzweiflung, würde ich sagen. Ursprünglich wollten wir Starship ja aus Kohlefaser bauen, und Kohlefaser ist ziemlich teuer. Wissen Sie, bei Serienproduktion kann man im Allgemeinen erreichen, dass sich die Kosten eines beliebigen Teils seinen Materialkosten annähern. Das Problem bei Kohlefaser ist, dass die Materialkosten trotzdem sehr hoch sind. Es ist ungefähr, ungefähr das 50-Fache. Vor allem, wenn man eine hochfeste Spezial-Kohlefaser nimmt, die kryogenen Sauerstoff aushält, kostet sie ungefähr das 50-Fache von Stahl. Und zumindest theoretisch wäre sie leichter. Die Leute denken im Allgemeinen, Stahl sei schwer und Kohlefaser leicht. Und bei Anwendungen bei Raumtemperatur, etwa einem Formel-1-Auto, einer statischen Flugzeugstruktur oder eigentlich jeder Art von Flugzeugstruktur, fährt man mit Kohlefaser wahrscheinlich besser. Das Problem war nun, dass wir diese riesige Rakete aus Kohlefaser bauen wollten und extrem langsam vorankamen.
Co-interviewer
Und man hatte sie ursprünglich nur gewählt, weil sie leicht ist.
Auf den ersten Blick würden die meisten denken, dass Kohlefaser die Wahl ist, um etwas Leichtes zu bauen. Die. Aber die Sache ist: Wenn man etwas Riesiges aus Kohlefaser baut und die Kohlefaser effizient aushärten will, also nicht bei Raumtemperatur, weil man manchmal so etwa 50 Lagen Kohlefaser hat. Und Kohlefaser ist eigentlich Kohlenstofffaden und Kleber. Und um hohe Festigkeit zu erreichen, braucht man einen Autoklaven. Also etwas, das im Grunde ein Hochdruckofen ist. Und wenn man etwas Gigantisches hat, muss der größer als die Rakete sein. Also versucht man entweder, einen Autoklaven zu bauen, der größer ist als jeder, den es je gab, oder man härtet bei Raumtemperatur aus, was lange dauert und Probleme macht. Aber das eigentliche Problem war, dass wir mit Kohlefaser einfach sehr langsam vorankamen.
Ich glaube, die Metafrage ist, warum Sie es sein mussten, der diese Entscheidung traf. Sie haben viele Ingenieure im Team. Ja.
Co-interviewer
Wie kommt es, dass das Team nicht selbst auf Stahl kam?
Ja, genau. Das gehört zu einer größeren Frage: Ihren komparativen Vorteil in Ihren Firmen zu verstehen.
Es lag also daran, dass wir mit Kohlefaser sehr langsam vorankamen. Ich dachte: Okay, wir probieren besser etwas anderes. Bei der Falcon 9 besteht die Primärstruktur aus Aluminium-Lithium, das ein sehr, sehr gutes Verhältnis von Festigkeit zu Gewicht hat. Und tatsächlich hat es für seinen Einsatzzweck etwa das gleiche, vielleicht ein besseres Festigkeits-Gewichts-Verhältnis als Kohlefaser. Aber Aluminium-Lithium ist sehr schwer zu verarbeiten. Um es zu schweißen, braucht man das sogenannte Rührreibschweißen, bei dem man das Metall verbindet, ohne dass es flüssig wird. Es ist schon verrückt, dass das geht. Mit dieser speziellen Schweißart geht das, aber es ist sehr schwierig, wenn man, sagen wir, eine Änderung vornehmen oder etwas an Aluminium-Lithium befestigen will. Dann muss man mechanisch mit Dichtungen befestigen, man kann es nicht anschweißen. Ich wollte also Aluminium-Lithium für die Primärstruktur von Starship vermeiden. Und es gab diese ganz spezielle Kohlefaser-Qualität mit sehr guten Masseeigenschaften. Bei einer Rakete versucht man wirklich, den Anteil der Rakete zu maximieren, der Treibstoff ist. Man minimiert natürlich die Masse, aber wie gesagt, wir kamen sehr langsam voran, und ich sagte: In diesem Tempo kommen wir nie zum Mars. Also überlegen wir uns besser etwas anderes. Ich wollte kein Aluminium-Lithium verwenden, wegen der Schwierigkeit des Rührreib- schweißens, vor allem im großen Maßstab: Bei 3,6 Metern Durchmesser war es schon schwer genug, ganz zu schweigen von 9 Metern oder mehr. Dann dachte ich: Was ist mit Stahl? Und da hatte ich einen Anhaltspunkt, denn einige der frühen US-Raketen hatten sehr dünnen Stahl verwendet. Die Atlas-Raketen hatten einen Ballontank aus Stahl. Es ist also nicht so, als wäre Stahl nie verwendet worden. Er war tatsächlich verwendet worden. Und wenn man sich die Materialeigenschaften von Edelstahl ansieht, vor allem von voll kaltverfestigtem Edelstahl bei kryogenen Temperaturen, ist das Festigkeits-Gewichts-Verhältnis tatsächlich ähnlich wie bei Kohlefaser. Betrachtet man die Materialeigenschaften bei Raumtemperatur, sieht es so aus, als wäre Stahl doppelt so schwer. Betrachtet man aber die Eigenschaften von voll kaltverfestigtem Edelstahl bestimmter Sorten bei kryogenen Temperaturen, kommt man tatsächlich auf ein ähnliches Festigkeits-Gewichts-Verhältnis wie Kohlefaser. Und bei Starship sind sowohl der Brennstoff als auch der Oxidator kryogen. Bei der Falcon 9 ist der Brennstoff Raketenkerosin, im Grunde eine sehr reine Form von Kerosin für Düsenjets. Aber das hat ungefähr Raumtemperatur. Obwohl wir es tatsächlich etwas herunterkühlen. Wir kühlen es wie ein Bier.
Ja, wir kühlen es, aber es ist nicht kryogen. Wenn wir es kryogen machten, würde es sogar zu Wachs werden. Aber bei Starship sind es flüssiges Methan und flüssiger Sauerstoff, die bei ähnlichen Temperaturen flüssig sind. Im Grunde ist also fast die gesamte Primärstruktur auf kryogener Temperatur. Dann hat man einen kaltverfestigten Edelstahl der 300er-Serie, weil fast alles auf kryogener Temperatur ist. Er hat tatsächlich ein ähnliches Festigkeits-Gewichts-Verhältnis wie Kohlefaser, kostet aber 50-mal weniger und ist sehr leicht zu verarbeiten. Man kann Edelstahl im Freien schweißen. Man könnte beim Edelstahlschweißen eine Zigarre rauchen. Er ist sehr robust, man kann ihn leicht ändern. Wenn man etwas befestigen will, schweißt man es einfach direkt an. Also sehr leicht zu verarbeiten, sehr günstig. Und wie gesagt, bei kryogenen Temperaturen ein ähnliches Festigkeits-Gewichts-Verhältnis wie Kohlefaser. Wenn man dann noch berücksichtigt, dass die Masse des Hitzeschilds stark reduziert ist, weil der Schmelzpunkt von Stahl viel höher ist als der von Aluminium. Er liegt etwa beim Doppelten des Schmelzpunkts von Aluminium.
Co-interviewer
Man kann die Rakete also einfach viel heißer betreiben.
Ja. Vor allem beim Schiff, das wie ein brennender Meteor hereinkommt, kann man die Masse des Hitzeschilds also stark reduzieren. Man kann die Masse des luvseitigen Teils des Hitzeschilds vielleicht halbieren. Und auf der Leeseite braucht man überhaupt keinen Hitzeschutz. Unterm Strich wiegt die Stahlrakete also tatsächlich weniger als die Kohlefaserrakete, weil das Harz in der Kohlefaserrakete anfängt zu schmelzen. Im Grunde haben Kohlefaser und Aluminium etwa dieselbe Einsatztemperatur, während Stahl bei der doppelten Temperatur arbeiten kann. Ich meine, das sind sehr grobe Näherungen. Die Leute werden, ich baue doch keine Rakete. Ich meine, die Leute werden sagen: Oh, er hat das Doppelte gesagt.
Darum wird sich der Hauptkommentar drehen.
Verdammt noch mal. Rückblickend hätten wir tatsächlich gleich mit Stahl anfangen sollen. Von Anfang an. Es war dumm, keinen Stahl zu nehmen.
Co-interviewer
Okay. Aber um es Ihnen zurückzuspiegeln: Was ich höre, ist, dass Stahl, abgesehen von den frühen US-Raketen, der riskantere, weniger erprobte Weg war, während Kohlefaser der schlechtere, aber erprobtere Weg war. Und deshalb mussten Sie derjenige sein, der sagt: Wir gehen diesen riskanteren Weg und finden es einfach heraus. Und Sie haben in gewisser Weise gegen eine Art Konservatismus gekämpft.
Deshalb habe ich anfangs gesagt: Schauen Sie, das Problem war, dass wir nicht schnell genug vorankamen. Wir hatten Mühe, auch nur ein kleines Zylindersegment aus Kohlefaser ohne Falten herzustellen. Denn in diesem großen Maßstab braucht man viele Lagen, viele Schichten Kohlefaser. Man muss sie aushärten, und zwar so, dass sie keine Falten oder Fehler hat. Kohlefaser ist viel weniger widerstandsfähig als Stahl. Sie hat viel, sie hat eine geringere Zähigkeit. Edelstahl dehnt und verbiegt sich, Kohlefaser neigt dazu zu zersplittern. Wobei die Zähigkeit die Fläche unter der Spannungs-Dehnungs-Kurve ist. Man fährt also im Allgemeinen besser mit Stahl, genauer gesagt mit Edelstahl.
Co-interviewer
Noch eine Frage zu Starship. Ich habe Starbase besucht, ich glaube vor zwei Jahren, mit Sam Teller, und das war großartig. Es war in vielerlei Hinsicht sehr beeindruckend. Mir ist aufgefallen, dass die Leute wirklich stolz auf die Einfachheit der Dinge waren: Jeder will einem erzählen, dass Starship nur eine große Getränkedose ist, dass man Schweißer einstellt, und wer bei irgendeinem Industrieprojekt schweißen kann, kann auch hier schweißen. Es gibt viel Stolz auf diese Einfachheit.
Na ja, es ist eine sehr komplizierte Rakete.
Co-interviewer
Darauf will ich hinaus: Sind die Dinge einfacher? Sind sie komplex?
Ich glaube, was sie sagen wollen, ist, dass man keine Vorerfahrung in der Raketenindustrie braucht, um an Starship zu arbeiten. Wissen Sie, jemand muss nur klug sein, hart arbeiten und vertrauenswürdig sein, und er kann an einer Rakete arbeiten. Man braucht keine Raketenerfahrung. Starship ist die komplizierteste Maschine, die Menschen je gebaut haben, und zwar mit großem Abstand.
Co-interviewer
In welcher Hinsicht?
In jeder, eigentlich. Ich würde sagen, es gibt keine komplexere Maschine. Ja, ich würde sagen, praktisch jedes Projekt, das mir einfällt, wäre leichter als dieses. Und deshalb hat niemand eine schnell wiederverwendbare gebaut. Niemand hat je eine vollständig wiederverwendbare Rakete gebaut. Das ist ein sehr schwieriges Problem. Ich meine, viele kluge Leute haben es schon versucht, sehr kluge Leute mit enormen Ressourcen, und sie sind gescheitert. Also. Und uns ist es auch noch nicht gelungen. Wissen Sie, Falcon ist teilweise wiederverwendbar, aber die Oberstufen, das ist Starship Version 3. Ich denke, dieses Design kann vollständig wiederverwendbar sein, und genau diese vollständige Wiederverwendbarkeit wird es uns ermöglichen, eine multiplanetare Zivilisation zu werden.
Co-interviewer
Können Sie etwas zu den Größenordnungen sagen.
Jedes technische Problem, selbst ein Hadronen-Collider oder so etwas? Ist leichter.
Co-interviewer
Daran anschließend: Wir reden viel über Engpässe. Können Sie sagen, was die aktuellen Engpässe bei Starship sind? Auch nur grob?
Na ja, generell zu versuchen, dass sie nicht explodiert, der alte Klassiker: Sie will wirklich explodieren.
Co-interviewer
All diese Verbrennung.
Wir hatten zwei Booster, die im Test explodiert sind, und einer hat ausgelöscht. Den gesamten Teststand ausgelöscht. Es braucht also nur einen einzigen Fehler. Und die Energiemenge, die in Starship steckt, ist irre.
Co-interviewer
Ist es deshalb schwieriger als Falcon? Weil es einfach mehr Energie ist?
Es gibt viel neue Technologie. Es reizt die Leistungsgrenzen aus. Das Raptor-3-Triebwerk ist ein sehr, sehr fortschrittliches Triebwerk, mit Abstand das beste Raketentriebwerk, das je gebaut wurde. Aber es will unbedingt explodieren. Um das mal einzuordnen: Beim Abheben erzeugt die Rakete über 100 Gigawatt Leistung, 20 % des Stroms in Europa.
Co-interviewer
Ein toller Vergleich.
Manchmal, aber manchmal eben schon. Da frage ich mich: Wie kann es sein, dass sie nicht explodiert? Es gibt Tausende Arten, wie sie explodieren kann, und nur eine, wie sie es nicht tut. Und wir wollen nicht nur, dass sie nicht explodiert, sondern dass sie zuverlässig im Alltag fliegt, so etwa einmal pro Stunde. Und wenn sie natürlich oft explodiert, ist es sehr schwer, diese Startfrequenz zu halten.
Und dann frage ich: Was ist das größte verbleibende Problem bei Starship? Einen wiederverwendbaren Hitzeschild zu haben, dabei hat noch nie jemand einen wiederverwendbaren orbitalen Hitzeschild gebaut. Der Hitzeschild muss die Aufstiegsphase überstehen, ohne einen Haufen Kacheln abzuwerfen. Und dann muss er wieder eintreten, ohne ebenfalls einen Haufen Kacheln zu verlieren oder die Hauptstruktur zu überhitzen.
Co-interviewer
Ist das nicht schwierig, weil er im Grunde ein Verbrauchsteil ist?
Na ja, aber die Bremsbeläge in Ihrem Auto sind auch Verbrauchsteile. Aber sie halten sehr lange. Er muss also einfach sehr lange halten. Aber es ist eben so: Wir haben das Schiff zurückgebracht und es ein paar Mal sanft im Ozean landen lassen, aber es hat viele Kacheln verloren, wissen Sie, und es war ohne viel Arbeit nicht wiederverwendbar. Ja. Obwohl es also gelandet ist, sanft gelandet ist, wäre es ohne viel Arbeit nicht wiederverwendbar gewesen. In diesem Sinne ist es also nicht wirklich wiederverwendbar. Das größte verbleibende Problem ist also ein vollständig wiederverwendbarer Hitzeschild. Wenn man es landen, wieder betanken und erneut fliegen lassen will, ohne. Man kann nicht diese mühsame Inspektion von 40.000 Kacheln machen.
Mich interessiert, wie Sie antreiben. Wenn ich Ihre Biografien lese,
den Eindruck, dass Sie dieses Gefühl der Dringlichkeit vorantreiben können, und das Gefühl von. Das ist etwas, das skalieren kann. Und ich frage mich: SpaceX und Tesla sind inzwischen wirklich große Firmen, und Sie schaffen es immer noch, diese Kultur zu bewahren. Was läuft bei anderen Firmen schief, dass sie das nicht schaffen?
Aber heute hatten Sie, sagten Sie, eine ganze Reihe von SpaceX-Meetings. Was machen Sie dort? Was das aufrechterhält?
Co-interviewer
Was Dringlichkeit erzeugt.
Ja. Na ja, ich weiß nicht. Ich schätze, die Dringlichkeit kommt von dem, der das Unternehmen führt. Mein Gefühl der Dringlichkeit, ich habe ein geradezu manisches Gefühl der Dringlichkeit. Und dieses manische Gefühl der Dringlichkeit überträgt sich auf den Rest des Unternehmens.
Liegt es an den Konsequenzen? So nach dem Motto: Elon hat eine verrückte Frist gesetzt. Aber wenn ich sie nicht schaffe, weiß ich, was mit mir passiert. Oder ist es einfach so, dass Sie Engpässe erkennen und beseitigen können, damit die Leute schnell vorankommen? Wie erklären Sie sich, dass Ihre Firmen so schnell sein können?
Ja, ich kümmere mich ständig um den limitierenden Faktor. Also. Ich meine, was die Fristen angeht, versuche ich im Allgemeinen, eine Frist anzupeilen, die zumindest meiner Meinung nach beim 50. Perzentil liegt. Es ist also keine unmögliche Frist, sondern die aggressivste, die mir einfällt und die mit 50 % Wahrscheinlichkeit erreichbar ist, was bedeutet, dass man in der Hälfte der Fälle zu spät ist. Es gibt so etwas wie ein Gesetz der Gasausdehnung. Das gilt auch für Zeitpläne: egal welchen Zeitplan man vorgibt. Wenn man sagt, wir machen etwas in fünf Jahren, was für mich praktisch unendlich viel Zeit ist,
dehnt es sich auf den gesamten verfügbaren Zeitplan aus und dauert fünf Jahre. Wissen Sie, es gibt eine physikalische Grenze,
begrenzt, wie schnell man bestimmte Dinge tun kann, etwa die Fertigung hochfahren; es gibt eine Geschwindigkeit, mit der man Atome bewegen und die Produktion skalieren kann. Deshalb kann man nicht sofort eine Million von etwas herstellen, eine Million Einheiten pro Jahr oder so. Man muss eine Fertigungslinie entwerfen, sie hochfahren, man muss die S-Kurve der Produktion durchlaufen. Also ja, ich überlege gerade: Was kann ich sagen, das den Leuten wirklich hilft? Ich denke, generell ist ein manisches Gefühl der Dringlichkeit sehr wichtig, man will einen aggressiven Zeitplan, und man will zu jedem Zeitpunkt herausfinden, was der limitierende Faktor ist, und dem Team helfen, ihn anzugehen.
Co-interviewer
Können Sie vielleicht über den. Starlink war viele Jahre lang langsam in Arbeit.
Ja, darüber haben wir schon ganz am Anfang des Unternehmens gesprochen.
Co-interviewer
Ja. Und dann gab es ein Team, das Sie in Redmond aufgebaut hatten, und irgendwann haben Sie entschieden, dass dieses Team es nicht bringt. Aber noch mal: Es lief ein paar Jahre lang langsam. Warum haben Sie also nicht früher gehandelt, und warum gerade dann? Warum war das der richtige Moment zum Handeln?
Ich habe wöchentlich diese sehr detaillierten Engineering-Reviews, das ist vielleicht ein sehr ungewöhnlicher Detailgrad. Ich kenne niemanden, der ein Unternehmen leitet, zumindest ein Fertigungsunternehmen, und so sehr ins Detail geht wie ich. Es ist also nicht so, als ob, ich habe ein ziemlich gutes Verständnis davon, was tatsächlich passiert, weil
Co-interviewer
wir die Dinge
im Detail durchgehen, und ich bin ein großer Anhänger von Skip-Level-Meetings: Statt dass die Person, die an mich berichtet, etwas sagt, sagt jeder, der an sie berichtet, etwas im technischen Review, und es darf keine Vorbereitung geben. Sonst wird man, wie man heute sagt, nur eingeseift.
Co-interviewer
Ja, genau. Sehr Gen Z von Ihnen.
Wie verhindern Sie Vorbereitung im Voraus? Rufen Sie sie einfach zufällig auf, so
nein, wir gehen einfach reihum. Jeder gibt ein Update. Ich meine, das ist eine Menge Information, die man im Kopf behalten muss, denn wenn man wöchentliche oder zweimal wöchentliche Meetings hat, hat man eine Momentaufnahme dessen, was die Person gesagt hat, und kann dann die Fortschrittspunkte auftragen. Man kann die Punkte quasi gedanklich auf der Kurve auftragen und fragen: Konvergieren wir zu einer Lösung oder nicht? Oder sind wir, wissen Sie, ich greife nur dann drastisch durch, wenn ich zu dem Schluss komme, dass Erfolg nicht zu den möglichen Ergebnissen gehört. Wenn ich also schließlich zu dem Schluss komme, dass wir ohne drastische Maßnahmen keine Chance auf Erfolg haben, dann muss ich drastisch handeln. Ich habe mir die Sache 2018 wieder vorgenommen, drastisch durchgegriffen und das Problem gelöst.
Wie viele? Sie haben viele, viele Firmen, und in jeder scheinen Sie dieses tiefe technische Verständnis dafür zu haben, was die relevanten Engpässe sind. Damit Sie diese Reviews mit den Leuten machen können. Ja, Sie konnten das auf 5, 6, 7 Firmen hochskalieren, und innerhalb jeder haben Sie viele verschiedene Mini-Firmen. Was bestimmt hier das Maximum? Denn Sie haben ja nicht etwa 80 Firmen. 80. Nein, aber Sie haben schon so viele. Das ist bei dieser Zahl schon bemerkenswert. Ja, genau.
Co-interviewer
Wir kriegen kaum ein einziges Unternehmen zusammengehalten.
Das hängt von der Situation ab. Ich habe tatsächlich keine regelmäßigen Meetings mit The Boring Company. The Boring Company läuft sozusagen von allein. Schauen Sie, grundsätzlich: Wenn etwas gut läuft und gute Fortschritte macht, hat es keinen Sinn, dass ich Zeit darauf verwende. Ich teile meine Zeit also danach ein, wo. Wo der limitierende Faktor oder das Problem liegt. Wo hakt es, wo stoßen wir an, was hält uns zurück? Ich konzentriere mich, auf die Gefahr hin, es zu oft zu sagen, auf den limitierenden Faktor. Die Ironie ist also: Wenn etwas richtig gut läuft, sehen sie mich kaum. Aber wenn etwas schlecht läuft, sehen sie mich viel, oder nicht einmal schlecht. Sondern wenn etwas ein limitierender Faktor ist. Ein limitierender Faktor.
Es läuft nicht direkt schlecht, aber es ist das, was schneller gehen muss, um.
Co-interviewer
Und wenn bei SpaceX oder Tesla etwas ein limitierender Faktor ist, sprechen Sie dann wöchentlich, täglich mit dem Ingenieur, der daran arbeitet? Wie funktioniert das konkret?
Die meisten limitierenden Faktoren sind wöchentlich dran, manche zweimal pro Woche. Das Review des AI5-Chips ist zweimal pro Woche, jeden Dienstag und Samstag. Ist das Chip-Review
Co-interviewer
zeitlich offen?
Technisch ja, aber meistens sind es zwei oder drei Stunden, manchmal weniger. Es hängt davon ab, wie viel man durchgehen muss.
Co-interviewer
Ja, das ist das eine, und ich versuche einfach, die Unterschiede herauszuarbeiten, weil die Ergebnisse ziemlich unterschiedlich scheinen, also finde ich es interessant, welche Eingaben anders sind. Und es scheint, dass in der Unternehmenswelt, wie Sie sagen, ein CEO, der Engineering-Reviews macht, nicht immer vorkommt, obwohl das ja das ist, was die Firma tut. Aber dann ist die Zeit oft ziemlich fein in, wissen Sie, halbstündige oder sogar 15-minütige Meetings zerstückelt, und es scheint, dass Sie offenere Runden abhalten, so nach dem Motto: Wir reden darüber, bis wir es gelöst haben.
Manchmal. Ja, manchmal. Aber die meisten halten sich mehr oder weniger an die Zeit. Ich meine, das heutige Starship-Engineering-Review hat etwas länger gedauert, weil es mehr Themen gab. Sie versuchen herauszufinden, wie man auf über eine Million Tonnen pro Jahr in den Orbit skaliert, das ist ziemlich anspruchsvoll.
Darf ich eine Frage stellen? Sie haben über Optimus und KI gesagt, dass sie innerhalb weniger Jahre zu zweistelligen Wachstumsraten führen werden.
Ach, Sie meinen die Wirtschaft? Ja. Ja, ich glaube, das stimmt.
Was war dann der Sinn der DOGE-Kürzungen, wenn die Wirtschaft so stark wachsen wird?
Na ja, ich finde, Verschwendung und Betrug sind keine guten Dinge. Wissen Sie, ich war tatsächlich ziemlich besorgt, denn ich denke, ohne KI und Robotik sind wir eigentlich völlig erledigt, weil die Staatsverschuldung gerade wahnsinnig anwächst. Unsere Zinszahlungen, die Zinszahlungen auf die Staatsschulden übersteigen den Militärhaushalt, der eine Billion Dollar beträgt. Also über eine Billion Dollar. Nur die Zinszahlungen. Wissen Sie, ich dachte: Okay, das macht mir ziemliche Sorgen. Vielleicht können wir, wenn ich etwas Zeit investiere, den Bankrott der Vereinigten Staaten verlangsamen und genug Zeit gewinnen, damit KI und Roboter helfen, die Staatsschulden zu lösen, oder eigentlich nicht nur helfen. Sie sind das Einzige, was die Staatsschulden lösen kann. Ohne KI und Roboter werden wir als Land zu 1000 % bankrottgehen und scheitern; nichts anderes wird die Staatsschulden lösen. Und deshalb wollen wir. Na ja, wir brauchen einfach genug Zeit, um die KI und die Roboter zu bauen, ohne vorher bankrottzugehen.
Was mich interessiert: Als DOGE startete, hatten Sie diese enorme Macht, Reformen umzusetzen, und, na ja, nicht so enorm.
Aber ganz in Ihrem Sinne: Es ist wichtig, dass KI und Robotik die Produktivität und das BIP-Wachstum antreiben. Aber warum nicht direkt die Dinge angehen, die Sie angesprochen haben, etwa die Zölle auf bestimmte Komponenten oder die Genehmigungsverfahren? Ich bin nicht
der Präsident, und es ist sehr schwer zu kürzen. Zu kürzen, selbst offensichtliche Dinge zu kürzen. Verschwendung und Betrug. So richtig lächerliche Verschwendung und Betrug. Ich habe festgestellt, dass es extrem schwierig ist, selbst ganz offensichtliche Verschwendung im Staat zu kürzen, weil der Staat danach funktionieren muss, wer sich beschwert. Wenn man Betrügern die Zahlungen streicht, kommen sie sofort mit den mitleiderregendsten Gründen, warum die Zahlungen weitergehen sollten. Sie sagen nicht: Bitte lasst den Betrug weiterlaufen. Sie sagen, wissen Sie: Ihr tötet Pandababys. Dabei stirbt kein einziges Pandababy, sie erfinden das einfach. Die Betrüger können extrem überzeugende, herzzerreißende Geschichten erfinden, die falsch sind, aber trotzdem Mitgefühl wecken, und genau das ist passiert. Ich hätte es vielleicht besser wissen müssen, aber ich dachte: Moment, versuchen wir es. Versuchen wir, einen Teil der Verschwendung und des Betrugs beim Staat zu streichen. Vielleicht sollte es nicht 20 Millionen Menschen geben, die bei der Sozialversicherung als lebend geführt werden, obwohl sie definitiv tot und über 115 Jahre alt sind. Der älteste Amerikaner ist 114. Man kann also mit Sicherheit sagen: Wenn jemand 115 ist und in der Datenbank der Sozialversicherung als lebend geführt wird, stimmt etwas nicht. Entweder ist es ein Tippfehler, und jemand sollte anrufen und sagen: Wir haben anscheinend Ihr Geburtsdatum falsch, oder wir müssen Sie als verstorben eintragen. Eins von beiden. Ein sehr einschüchternder Anruf. Na ja, es scheint vernünftig. Und wenn, sagen wir, das Geburtsdatum in der Zukunft liegt und jemand einen Kredit der Small Business Administration hat, mit Geburtsjahr 2165, dann haben wir wieder entweder einen Tippfehler oder Betrug. Dann sagt man: Wir haben uns anscheinend beim Jahrhundert Ihrer Geburt vertan,
Co-interviewer
oder es ist eine tolle Filmidee.
Ja, das meine ich mit absurdem Betrug. Das meine ich mit absurdem Betrug.
Haben diese Leute Zahlungen erhalten?
Manche bekamen Zahlungen von der Sozialversicherung, aber der Hauptbetrugsweg war, jemanden bei der Sozialversicherung als lebend zu führen und dann alle anderen staatlichen Zahlungssysteme für Betrug zu nutzen. Denn diese anderen staatlichen Zahlungssysteme machen einfach eine „Leben Sie noch?“-Prüfung gegen die Datenbank der Sozialversicherung. Es ist ein Umweg über die Bande.
Auf wie viel schätzen Sie den gesamten Betrug über diesen Mechanismus?
Meine Schätzung, und übrigens hat das Government Accountability Office solche Schätzungen schon gemacht. Ich bin nicht der Einzige, der damit kommt. Tatsächlich hat das GAO, glaube ich, eine Analyse gemacht, eine grobe Schätzung des Betrugs während der Biden-Regierung, und kam auf etwa eine halbe Billion Dollar. Glauben Sie mir also nicht einfach. Glauben Sie. Einem Bericht, der während der Biden-Regierung veröffentlicht wurde. Wie wär's damit? Über diesen Sozialversicherungs-Mechanismus? Das ist einer von vielen. Man muss verstehen, dass der Staat sehr ineffektiv darin ist, Betrug zu stoppen, denn es ist nicht wie bei einem Unternehmen. Dort ist man motiviert, weil es die Gewinne des Unternehmens betrifft. Aber der Staat druckt einfach mehr Geld. Man braucht also Engagement und Kompetenz. Und die sind auf Bundesebene Mangelware.
zur Kfz-Zulassungsstelle gehen, denken Sie dann: Wow, eine Bastion der Kompetenz? Na ja, stellen Sie sich vor, es ist schlimmer als die Zulassungsstelle, weil es eine Zulassungsstelle ist, die Geld drucken kann.
War es also nicht möglich, zumindest auf Ebene der Bundesstaaten?
Die Behörden müssen. Die Bundesstaaten müssen mehr oder weniger im Budget bleiben. Die gehen bankrott, aber die Bundesregierung druckt einfach mehr Geld.
War es nicht möglich? Wenn es eine halbe Billion Betrug abzufangen gibt, warum war es nicht möglich,
das alles zu kürzen? Weil, als wir das im Grunde getan haben, haben wir tatsächlich. Schauen Sie, man muss wirklich einen Schritt zurücktreten und seine Erwartungen an Kompetenz neu kalibrieren, denn Sie bewegen sich in einer Welt, in der man über die Runden kommen muss. Wissen Sie, Sie müssen Ihre Rechnungen bezahlen, Sie müssen die Mikrofone kaufen. Ja, ja, genau. Dort aber ist es eine riesige, weitgehend gleichgültige Monster-Bürokratie und ein Haufen Computer, die einfach Zahlungen verschicken. Eine Sache, die das DOGE-Team gemacht hat, und das klingt so simpel, dass es wahrscheinlich
100 Milliarden, vielleicht 200 Milliarden im Jahr einspart, war einfach vorzuschreiben, dass Zahlungen vom zentralen Rechner des Finanzministeriums, der PAM heißt, so etwas wie Payment Accounts Master. Über PAM laufen 5 Billionen: vorzuschreiben, dass jede ausgehende Zahlung einen Haushaltstitel-Code haben muss, verpflichtend statt optional, und dass überhaupt irgendetwas im Kommentarfeld steht, denn, sehen Sie, man muss neu kalibrieren, wie dumm die Dinge sind. Stellen Sie sich vor, Zahlungen wurden ohne Haushaltstitel-Code verschickt, ohne Abgleich mit irgendeiner Bewilligung des Kongresses und ohne jede Erklärung. Und deshalb kann das Kriegsministerium, ehemals Verteidigungsministerium, keine Prüfung bestehen, weil die Informationen buchstäblich nicht vorhanden sind. Kalibrieren Sie Ihre Erwartungen neu.
Ich möchte diese halbe Billion besser verstehen, denn es gab 2024 einen Bericht des Generalinspekteurs.
Wie viel, also warum ist das so
niedrig, vielleicht, aber wir haben gefunden, dass der geschätzte Sozialversicherungsbetrug über sieben Jahre etwa 70 Milliarden betrug. Also etwa 10 Milliarden pro Jahr. Mich würde also interessieren, was die anderen 490 Milliarden sind.
Die Ausgaben der Bundesregierung belaufen sich auf siebeneinhalb Billionen pro Jahr. Ja. Welcher Anteil, für wie kompetent halten Sie das?
Die frei verfügbaren Ausgaben machen davon etwa 15 % aus.
Ja, aber das spielt keine Rolle. Der meiste Betrug betrifft die nicht frei verfügbaren Ausgaben. Das ist im Grunde betrügerisch. Medicare, Medicaid, Sozialversicherung, wissen Sie, Erwerbsunfähigkeit. Es gibt unzählige staatliche Zahlungen. Ja, und ein Teil dieser Zahlungen sind tatsächlich Pauschalüberweisungen an die Bundesstaaten. Die Bundesregierung hat in vielen Fällen also gar nicht die Informationen, um überhaupt zu erkennen, ob Betrug vorliegt. Betrachten wir, machen wir eine Reductio ad absurdum. Der Staat, der Staat ist perfekt und hat keinerlei Betrug. Wie hoch schätzen Sie die Wahrscheinlichkeit dafür?
Null. Okay, würden Sie dann sagen, dass der Staat gegenüber Betrug und Verschwendung zu 90 % effektiv ist? Das wäre auch ziemlich großzügig. Aber wenn es nur 90 % sind, heißt das, dass es 750 Milliarden Dollar pro Jahr an Verschwendung und Betrug gibt. Und es sind nicht 90 %, er ist nicht zu 90 % effektiv.
Das scheint eine seltsame Art, aus ersten Prinzipien zu argumentieren. Die Höhe des Betrugs beim Staat. Also, wie viel glauben Sie, gibt es? Und wir wissen es ohnehin nicht live zu klären. Aber mich würde interessieren, Sie
kennen sich mit Betrug gut aus. Bei Stripe versuchen die Leute ständig zu betrügen.
Co-interviewer
Ja, aber wie Sie sagen, wir haben es wirklich durchgearbeitet, aber das ist ein etwas anderer Problemraum, weil man es hier mit einer viel heterogeneren Menge an Betrugswegen zu tun hat als wir.
Ja, aber ich meine, bei Stripe gibt es hohe Kompetenz, und man gibt sich große Mühe. Sie haben hohe Kompetenz und großes Engagement. Aber Betrug ist trotzdem nicht null. Stellen Sie sich das jetzt in viel größerem Maßstab vor. Da gibt es viel weniger Kompetenz und viel weniger Engagement. Bei PayPal haben wir damals versucht, den Betrug auf etwa 1 % des Zahlungsvolumens zu drücken. Und das war sehr schwierig. Es brauchte enorm viel Kompetenz und Engagement, um den Betrug auf bloß 1 % zu senken. Stellen Sie sich jetzt eine Organisation vor, in der es viel weniger Engagement und viel weniger Kompetenz gibt. Da wird es weit mehr als 1 % sein.
Co-interviewer
Wie sehen Sie rückblickend die Politik und was Sie dort getan haben? Von außen betrachtet scheinen zwei Dinge sehr wirkungsvoll gewesen zu sein. Erstens das America PAC und zweitens damals die Übernahme von Twitter. Aber es scheint auch eine Menge Kummer gebracht zu haben – wie bewerten Sie also die ganze Erfahrung?
Nun, ich denke, diese Dinge mussten getan werden, um die Wahrscheinlichkeit zu maximieren, dass die Zukunft gut wird. Aber Politik ist im Allgemeinen sehr tribalistisch, wirklich sehr tribalistisch, und die Leute verlieren ihre Objektivität. In der Politik fällt es den Leuten meist schwer, das Gute auf der anderen Seite oder das Schlechte auf der eigenen zu sehen. So läuft es normalerweise. Was mich wohl am meisten überrascht hat, ist, dass man mit Leuten oft einfach nicht vernünftig reden kann, wenn sie dem einen oder anderen Lager angehören. Sie glauben einfach, dass alles, was ihr Lager tut, gut ist, und alles, was das andere politische Lager tut, schlecht, und sie vom Gegenteil zu überzeugen ist fast unmöglich. Wie auch immer, ich denke, insgesamt waren diese Schritte – Twitter zu kaufen, Trump zur Wahl zu verhelfen –, auch wenn das viele Leute wütend macht, gut für … Sie waren gut für die Zivilisation.
Ja. Wie passt das zu der Zukunft, auf die Sie sich freuen?
Nun, Amerika muss Bestand haben. Amerika muss stark genug sein, um lange genug zu bestehen, damit wir das Leben auf andere Planeten ausdehnen und KI und Robotik so weit bringen können, dass wir eine gute Zukunft sicherstellen. Wenn wir dagegen etwa in den Kommunismus abrutschen würden oder in eine Lage, in der der Staat extrem repressiv ist, dann könnten wir vielleicht nicht multiplanetar werden, und der Staat könnte unseren Fortschritt in KI und Robotik ersticken.
Was halten Sie davon, dass Optimus, Grok usw. genutzt werden von … und nicht nur Ihre. Die Produkte jedes umsatzmaximierenden Unternehmens werden mit der Zeit vom Staat genutzt werden. Was bedeutet diese Sorge dafür, was private Unternehmen Regierungen zu liefern bereit sein sollten? Welche Leitplanken braucht es? Sollten KI-Modelle gezwungen werden, alles zu tun, was die Regierung, die sie unter Vertrag genommen hat, von ihnen verlangt? Sollte Grok sagen dürfen: Selbst wenn das Militär X tun will … Nein, das wird Grok nicht tun.
Ich denke, die wohl größte Gefahr der KI, oder die größte Gefahr, dass KI und Robotik schiefgehen … … schiefgehen, ist der Staat.
Wissen Sie, Leute, die gegen Konzerne sind oder sich wegen Konzernen Sorgen machen, sollten sich eigentlich am meisten Sorgen um den Staat machen. Denn der Staat ist im Grenzfall einfach ein Konzern. Es ist ein Staat. Das ist er, wirklich. Der Staat ist einfach der größte Konzern, mit einem Gewaltmonopol. Ich finde es daher immer seltsam, diese Zweiteilung, bei der Leute Konzerne für schlecht halten, den Staat aber für gut, obwohl der Staat einfach der größte und schlimmste Konzern ist. Aber die Leute haben diese Zweiteilung. Sie glauben irgendwie gleichzeitig, der Staat könne gut sein und die Konzerne seien schlecht. Und das stimmt nicht. Konzerne haben eine bessere Moral als der Staat. Ich denke also wirklich, dass das das ist, worüber man sich Sorgen machen muss. Also, sollte der Staat … der Staat sollte nicht … Der Staat könnte KI und Robotik potenziell nutzen, um die Bevölkerung zu unterdrücken. Das ist eine ernste Sorge.
Wie verhindern Sie das als jemand, der KI und Robotik baut?
Nun, ich denke, wenn man einen begrenzten Staat hat, wenn man die Befugnisse des Staates beschränkt – was ja eigentlich der Zweck der US-Verfassung ist, sie soll die Macht des Staates begrenzen –, dann wird das Ergebnis wahrscheinlich besser sein als mit mehr Staat.
Co-interviewer
Das wird dann also allen Regierungen zur Verfügung stehen, oder?
Nicht unbedingt allen Regierungen. Ich meine, es ist schwer vorherzusagen … Wie gesagt, was der Endpunkt ist, wie es in vielen Jahren aussieht. Aber es ist schwer, den Weg dorthin vorherzusagen. Wenn die Zivilisation vorankommt, wird KI die Summe aller menschlichen Intelligenz weit übertreffen, und es wird weit mehr Roboter als Menschen geben – aber auf dem Weg dorthin? Was passiert dann? Das ist sehr schwer vorherzusagen.
Mir scheint, eine Sache, die Sie tun könnten, wäre einfach zu sagen:
dürfen nicht, egal welche Regierung, Optimus für dieses oder jenes einsetzen – das einfach als Richtlinie festschreiben. Sie haben, glaube ich, kürzlich getwittert, dass Grok eine moralische Verfassung haben sollte. Und einer der Punkte könnte sein, dass wir begrenzen, was Regierungen mit dieser fortschrittlichen Technologie tun dürfen.
Ja, ich meine, wir können tun, was technisch möglich ist. Aber wenn das Parlament ein Gesetz verabschiedet und es durchsetzen kann, ist es schwer, sich diesem Gesetz nicht zu fügen. Das Beste, was wir haben können, ist ein begrenzter Staat mit angemessener gegenseitiger Kontrolle zwischen Exekutive, Judikative und Legislative.
Ich glaube, der Grund, warum mich das interessiert, ist folgender. Irgendwann scheint es, dass die Grenzen von Ihnen kommen werden. Oder? Sie haben Optimus, Sie haben die GPUs im Weltraum, Sie haben das alles.
Ich glaube, ich werde der Chef der Regierung sein.
Oder Sie bekommen … ich meine, das ist schon jetzt so. Bei SpaceX ist es schon so, dass es bei entscheidenden Dingen – der Staat legt großen Wert darauf, bestimmte Satelliten ins All zu bringen, was auch immer. Er braucht SpaceX. Es ist der unverzichtbare Auftragnehmer, und Sie bauen gerade immer mehr der technologischen Bausteine der Zukunft, die in anderen Branchen eine ähnliche Rolle spielen werden. Und Sie könnten die Möglichkeit haben, eine Richtlinie festzulegen wie: Wenn es darum geht, den klassischen Liberalismus in irgendeiner Weise zu unterdrücken, werden meine Unternehmen dabei in keiner Weise helfen – oder eine ähnliche Richtlinie.
Ich werde mein Bestes tun, damit alles, was in meiner Macht steht, das bestmögliche Ergebnis für die Menschheit herbeiführt. Alles andere wäre meiner Meinung nach kurzsichtig, denn ich bin ja selbst Teil der Menschheit. Ich mag also Menschen. Pro Mensch. Pro Mensch.
Sie haben erwähnt, dass Dojo 3 für Rechenleistung im Weltraum genutzt wird.
Sie lesen ja wirklich, was ich sage.
Ich weiß nicht, ob Sie Twitter kennen, aber ich weiß, dass Sie es viel nutzen. Sie haben viele Follower.
Das hat Sie verraten. Wie haben Sie meine Geheimnisse herausgefunden? Ich habe sie selbst gepostet.
Wie entwirft man diesen Chip für den Weltraum? Was ändert sich?
Nun, man sollte ihn wohl strahlungsresistenter auslegen und bei höherer Temperatur betreiben. Grob gesagt: Wenn man die Betriebstemperatur in Kelvin um 20 % erhöht, kann man die Masse der Radiatoren halbieren. Ein Betrieb bei höherer Temperatur hilft also im Weltraum. Es gibt verschiedene Möglichkeiten, den Speicher abzuschirmen, aber neuronale Netze werden sehr robust gegenüber Bitfehlern sein. Das meiste, was Strahlung bewirkt, sind zufällige Bitkipper. Aber wenn man ein Modell mit mehreren Billionen Parametern hat und ein paar Bits kippen, spielt das keine Rolle. Heuristische Programme reagieren viel empfindlicher auf Bitfehler als eine riesige Parameterdatei. Ich lege ihn also einfach auf hohe Temperaturen aus, und ansonsten macht man es, glaube ich, ziemlich genauso wie auf der Erde. Abgesehen davon, dass er heißer läuft.
Ich meine, die Solarpaneele machen den Großteil des Gewichts des Satelliten aus. Gibt es eine Möglichkeit, die GPUs noch leistungsdichter zu machen, als Nvidia, die TPUs usw. es planen, was im Weltraum besonders vorteilhaft wäre?
Nun, die Grundrechnung ist: Wenn man etwa ein Kilowatt pro Retikel schafft, braucht man 100 Millionen Chips in voller Retikelgröße für 100 Gigawatt. Ja. Je nach Ausbeute-Annahmen sagt einem das dann, wie viele Flüge man machen muss. Aber gut. Man braucht, wenn man 100 Gigawatt Leistung haben will, 100 Millionen Chips, die dauerhaft mit einem Kilowatt laufen. Aber pro Retikel,
Grundrechnung: 100 Millionen Chips, je nach … Ja, wenn man sich die Die-Größe von etwa Blackwell-GPUs ansieht und wie viele man aus einem Wafer bekommt, sind es in der Größenordnung von ein paar Dutzend oder weniger pro Wafer. Sie also im Grunde … Das ist eine Welt, in der man, wenn man das jedes Jahr ausbringt, Millionen und Abermillionen Wafer pro Monat produziert. Das ist der Plan mit der Terafab. Millionen Wafer pro Monat in fortschrittlichen Prozessknoten.
Es muss eine Zahl jenseits der Million sein. Ich denke, man muss auch den Speicher machen.
Ja, Sie werden eine Speicherfabrik bauen.
Ich denke, die Terafab wird Speicher herstellen. Sie muss Logik, Speicher und Packaging machen.
Ich bin sehr gespannt, wie man so etwas überhaupt anfängt. Das ist das Komplizierteste, was der Mensch je gebaut hat. Und natürlich, wenn jemand der Aufgabe gewachsen ist, dann Sie. Was machen Sie … Sie merken also, dass es einen Engpass gibt, gehen zu Ihren Ingenieuren, und was ist der nächste Schritt? Was sagen Sie ihnen, was sie tun sollen? „Ich will eine Million Wafer pro Monat im Jahr 2030.“ Was kommt als Nächstes? Was machen Sie?
Rufen Sie ASML an? Was ist die …
Was ist der nächste Schritt?
So viel zu fragen. Nun, wir bauen eine kleine Fab und schauen, was passiert. Wir machen unsere Fehler im kleinen Maßstab und bauen dann eine große.
Ist die kleine Fab fertig? Nein, ist sie nicht.
Na ja, das Geheimnis werden wir eh nicht lange bewahren. Die Katze wird aus dem Sack kommen. Es werden Drohnen über dem verdammten Ding schweben. Sie werden den Baufortschritt auf X verfolgen können. Genau. In Echtzeit. Also, hören Sie, ich weiß nicht, wir könnten ins Straucheln geraten und scheitern. Um fair zu sein, es ist nicht … Der Erfolg ist nicht garantiert. Aber da wir versuchen wollen,
100 Millionen herzustellen … Ja, wir wollen 100 Gigawatt Leistung und Chips, die 100 Gigawatt aufnehmen können. Richtig. Sagen wir, wissen Sie, aber ja, bis 2030. Also. Wir nehmen so viele Chips, wie unsere Lieferanten uns geben. Ich habe das gesagt zu. Ich habe das tatsächlich TSMC, Samsung und Micron gesagt. So nach dem Motto: Bitte baut mehr Fabs, schneller, und wir garantieren euch, die Produktion dieser Fabs abzunehmen. Sie sind also schon so schnell, wie sie können. Um es klar zu sagen: Es geht nicht nur um uns, sondern um uns plus sie.
Co-interviewer
Es gibt das Argument, dass die KI-Leute so schnell wie möglich sehr viele Chips wollen. Und viele der Zulieferer, die Fabs, aber auch, wissen Sie, die Turbinenhersteller, fahren ihre Produktion nicht sehr schnell hoch.
Co-interviewer
Die Erklärung dafür sei, dass sie von Natur aus konservativ sind. Wissen Sie, sie sind Taiwaner oder Deutsche, wie es heißt, und sie glauben einfach nicht daran. Ist das wirklich die Erklärung, oder steckt noch etwas anderes dahinter?
Nun, es ist nachvollziehbar. Wenn jemand, sagen wir, seit 30 oder 40
Co-interviewer
Jahren im Speichergeschäft ist und Zyklen erlebt hat, er hat
Boom und Pleite vielleicht zehnmal erlebt.
Wissen Sie, das sind eine Menge Narben. In Boomzeiten sieht es so aus, als würde alles für immer großartig bleiben. Dann kommt der Crash, sie versuchen verzweifelt, die Pleite zu vermeiden, und dann kommt der nächste Boom und der nächste Crash.
Co-interviewer
Gibt es andere Ideen, die andere Ihrer Meinung nach verfolgen sollten und die Sie aus welchen Gründen auch immer gerade nicht verfolgen?
Ich meine, es gibt ein paar Firmen, die neue Wege der Chipherstellung verfolgen, aber das skaliert einfach nicht.
Co-interviewer
Nicht einmal innerhalb der KI, ich meine,
ganz allgemein würde ich sagen, die Leute sollten das tun, wofür sie hoch motiviert sind, statt, wissen Sie, irgendeiner Idee, die ich vorschlage; sie sollten tun, was sie persönlich interessant und motivierend finden. Aber wissen Sie, um auf den limitierenden Faktor zurückzukommen, ich habe die Formulierung wohl hundertmal benutzt: Der aktuelle limitierende Faktor, den ich im Zeitrahmen um 2029 sehe, also in drei bis vier Jahren, sind Chips. Im Einjahreszeitraum ist es Energie, Stromerzeugung, Elektrizität. Mir ist nicht klar, ob es genug nutzbaren Strom gibt, um all die KI-Chips einzuschalten, die hergestellt werden. Gegen Ende dieses Jahres werden die Leute, glaube ich, echte Probleme bekommen: Der Chip-Ausstoß wird die Möglichkeit übersteigen, die Chips einzuschalten.
Was ist Ihr Plan für diese Welt?
Nun, wir versuchen, die Stromerzeugung zu beschleunigen. Das ist vielleicht einer der Gründe, warum xAI hoffentlich der Marktführer sein wird: Wir werden mehr Chips schneller einschalten können als andere, weil wir gut in Hardware sind. Und im Allgemeinen fließen die Innovationen, die Ideen der Firmen, die sich Labore nennen, hin und her. Es ist selten, dass es mehr als etwa sechs Monate Unterschied gibt; die Ideen wandern mit den Leuten hin und her. Ich denke also, man stößt an die Hardware-Mauer, und dann wird das Unternehmen führen, das die Hardware am schnellsten skalieren kann. Und ich denke, xAI wird die Hardware am schnellsten skalieren können und deshalb höchstwahrscheinlich führen.
Co-interviewer
Sie haben gescherzt oder waren verlegen, die Formulierung „limitierender Faktor“ schon wieder zu benutzen, aber ich glaube, da steckt etwas Tiefes dahinter, und wenn man auf vieles schaut, was wir angesprochen haben, ist das vielleicht ein guter Schluss. Ein verknöchertes Unternehmen mit wenig Tatkraft hätte einen Engpass und würde nicht wirklich etwas dagegen unternehmen. Wissen Sie, Marc Andreessen hat den Satz: Die meisten Menschen ertragen jedes Maß an chronischem Schmerz, um akuten Schmerz zu vermeiden. Und es scheint, dass Sie sich in vielen der Fälle, über die wir sprechen, dem akuten Schmerz einfach stellen, was immer er ist. So nach dem Motto: Okay, wir müssen herausfinden, wie man mit Stahl arbeitet, oder wie man die Chips im Weltraum betreibt, oder wir nehmen kurzfristig akuten Schmerz in Kauf, um den Engpass wirklich zu lösen. Und das ist sozusagen der rote Faden.
Ich habe eine hohe Schmerzschwelle. Das hilft.
Co-interviewer
Die Engpässe lösen.
Ja. Also, wissen Sie, eines kann ich sagen: Ich glaube, die Zukunft wird sehr interessant. Und wie ich gesagt habe, in Davos war ich nur. Ich war buchstäblich in Davos. Ich glaube, ich war vielleicht drei Stunden vor Ort. Es ist besser. Für die Lebensqualität ist es besser, zu optimistisch zu sein und sich zu irren, als zu pessimistisch zu sein und recht zu behalten. Wissen Sie, Sie werden glücklicher sein, wenn Sie eher zum Optimismus neigen als zum Pessimismus. Deshalb empfehle ich, im Zweifel optimistisch zu sein. Danke dafür, Elon. John, danke, dass du dabei warst.
Alles klar, danke, Leute. Alles klar.
Co-interviewer
Oh, tolle Ausdauer.
Hoffentlich zeugt das von Schmerz und Schmerztoleranz. Hallo zusammen. Ich hoffe, euch hat diese Folge gefallen. Wenn ja, ist das Hilfreichste, was ihr tun könnt, sie mit anderen zu teilen, denen sie gefallen könnte. Es hilft auch, wenn ihr auf der Plattform, auf der ihr zuhört, eine Bewertung oder einen Kommentar hinterlasst. Wenn ihr den Podcast sponsern wollt, meldet euch unter dwarkesh.com/advertise. Ansonsten: bis zur nächsten Folge.