Future Investment Initiative 29. Oktober 2024 In einem überraschenden Videoauftritt bei der saudischen Future Investment Initiative spricht Musk mit Peter Diamandis über KI, die sich 100-fach pro Jahr beschleunige, humanoide Roboter, den Cybercab und Mars.
In einem überraschenden Videoauftritt bei der saudischen Future Investment Initiative spricht Musk mit Peter Diamandis über KI, die sich 100-fach pro Jahr beschleunige, humanoide Roboter, den Cybercab und Mars.
Transkript Interviewer
Meine Damen und Herren, freuen Sie sich auf ein unterhaltsames Gespräch mit einem ganz besonderen Gast, den ich mit Stolz einen Freund nenne. Willkommen, Elon Musk. Elon, willkommen in Riad. Du hattest ziemlich unglaubliche 90 Tage, mein Freund.
Interviewer
Colossus von xAI ist in Betrieb gegangen. In 122 Tagen. Ihr seid kurz davor, die Größe erneut zu verdoppeln. Der außerordentliche Erfolg der fünften Starship-Mission und das Einfangen des Boosters. Unglaublich. Die Vorstellung des Cybercab, Starlink als Hilfe bei Katastropheneinsätzen, Fortschritte bei Optimus, der zweite menschliche Neuralink-Patient, neuer Nutzerrekord auf X. Und das in 90 Tagen. Ich habe sicher ein paar Dinge vergessen. Willkommen.
Ja, ich habe bei dieser Wahl eine bedeutende Rolle gespielt.
Interviewer
Ich glaube, ich habe dich irgendwo auf X mit Wahlthemen beschäftigt gesehen. Reden wir ein bisschen über KI, worüber hier alle sprechen. Als wir zuletzt im März beim Abundance Summit gesprochen haben, hast du vorhergesagt, dass KI sich bis zu 100-mal pro Jahr verbessert und wir bis 2029 oder 2030 eine KI sehen könnten, die so leistungsfähig ist wie 8 Milliarden Menschen. Siehst du immer noch dieses Tempo?
Ja, es war. Es ist schwierig. Das ist schwer zu quantifizieren. Genau. Aber ich kann mit Sicherheit sagen, dass sie sich um das Zehnfache pro Jahr verbessert, was, sagen wir, in vier Jahren 10.000-mal besser bedeuten würde. Also vielleicht 100.000. Ja. Und es ist. Es ist. Ich glaube, sie wird können. Alles, was irgendein Mensch kann, möglicherweise innerhalb des nächsten Jahres, ein, zwei Jahre, und dann was. Was kann.
Wie viel länger dauert es, bis sie kann, was. Was alle Menschen zusammen können? Ich glaube nicht. Nicht lange. Wahrscheinlich nur, keine Ahnung, drei Jahre ab diesem Zeitpunkt. Also 2029 oder 28. So ungefähr.
Interviewer
Das andere Gespräch, das wir hatten, und da warst du auf derselben Seite wie Geoffrey Hinton: 80 % Wahrscheinlichkeit, dass es großartig wird, 20 % Wahrscheinlichkeit, dass wir erledigt sind. Bist du immer noch. Bleibst du bei diesen Chancen? Ja.
Man könnte sagen, höchstwahrscheinlich wird es großartig. Und es gibt eine gewisse Wahrscheinlichkeit, vielleicht 10 bis 20 %, dass es schiefgeht. Die Wahrscheinlichkeit, dass es schiefgeht, ist nicht null. Aber insgesamt könnte man sagen, das Glas ist zu 80 % voll. Das ist eine positive Sichtweise. Vielleicht 90 %.
Interviewer
Mir gefällt, dass es steigt.
Interviewer
Was hält dich nachts wach, abgesehen davon, sechs Firmen zu leiten?
Na ja, früh aufzustehen, um an Gesprächen wie diesem teilzunehmen.
Interviewer
Ich hatte ein sehr schlechtes Gewissen, dich darum zu bitten, aber danke, dass du trotzdem dabei bist.
Aber was die Sorge um die Zukunft angeht: Ich halte KI für eine erhebliche existenzielle Bedrohung, der wir große Aufmerksamkeit schenken sollten. Sie ist wahrscheinlich die bedeutendste kurzfristige Bedrohung. Längerfristig ist es der Zusammenbruch der Weltbevölkerung. Die Geburtenraten brechen praktisch weltweit ein, und wir steuern auf eine Situation zu, in der zum Beispiel Südkorea bei den aktuellen Geburtenraten etwa ein Drittel seiner heutigen Bevölkerung hätte, vielleicht viel weniger. Europa hätte etwa die Hälfte seiner heutigen Bevölkerung, vielleicht viel weniger. Und ich muss sagen, diese Zahlen gelten, wenn die Geburtenrate plötzlich wieder auf 2,1 pro Frau stiege, den Stabilitätspunkt, was sie nicht tut. Wenn sich also der aktuelle Zinseszinseffekt fortsetzt, würden wirklich viele Länder innerhalb von drei Generationen auf 5 % ihrer heutigen Größe oder weniger schrumpfen.
Interviewer
Ich weiß, dass du deinen.
Ich halte das für ein sehr, sehr großes Problem. Und ich finde, die meisten Länder sollten die Geburtenrate als das größte Problem betrachten, das sie lösen müssen. Wenn man keine neuen Menschen macht, gibt es keine Menschheit, und alle Politik der Welt spielt keine Rolle.
Interviewer
Ich weiß, dass du deinen Teil dazu beiträgst, die Geburtenrate in den USA zu halten.
Ja, das tue ich. Man muss tun, was man predigt. Also. Ich habe viele Kinder und ermutige andere, viele Kinder zu haben.
Interviewer
Aber zur KI, und entschuldige, dass ich negativ werde: Was tust du gerade, das am wichtigsten ist, um dieser 10-%-Wahrscheinlichkeit dystopischer Ausgänge entgegenzuwirken? Gibt es etwas, eine Regulierung, für die du dich einsetzt? Wie denkst du darüber: Die Chancen erledigen sich von selbst. Wie schützt man sich vor den Risiken?
Nun, meine Überzeugung zur KI-Sicherheit ist, dass man eine maximal wahrheitssuchende KI schaffen muss, was offensichtlich klingen mag, aber was ich produziert sehe, ist nicht maximal wahrheitssuchend. Sie wird tendenziell darauf trainiert, politisch korrekt zu sein. Und viele KIs, die in der San Francisco Bay Area trainiert werden, haben die Philosophie der Menschen um sie herum übernommen, was irgendwie nachvollziehbar ist. Man hat also meiner Meinung nach eine Art woke, nihilistische Philosophie, die in diese KIs eingebaut wird, und sie werden dazu gebracht, verrückte Dinge zu sagen, die teilweise sehr beunruhigend sind. Als Google Gemini herauskam, fragten Leute, was schlimmer sei: Caitlyn Jenner falsch zu gendern oder ein globaler thermonuklearer Krieg. Und es sagte: Caitlyn Jenner falsch zu gendern, was offensichtlich ein Problem ist, denn in einem globalen thermonuklearen Krieg würden wir alle sterben. Wenn man also eine KI hat, die auf so etwas programmiert ist, könnte sie zu dem Schluss kommen, dass der beste Weg, um sicherzustellen, dass niemand falsch gegendert wird, darin besteht, alle Menschen zu vernichten, womit die Wahrscheinlichkeit künftigen Falsch-Genderns auf null sinkt. Das ist höchst problematisch. Man will also wirklich eine maximal wahrheitssuchende KI, und das kann ich nicht genug betonen. Das ist unglaublich wichtig, und natürlich eine KI zu bauen, die die Menschheit liebt. Und ich glaube, diese. Ich bin also ein bisschen besorgt. Deshalb habe ich xAI gegründet, um. Eine KI zu haben, die maximal wahrheitssuchend ist, die im besten Fall die Menschheit liebt und künftig im besten Interesse der Menschheit handelt.
Interviewer
Du hast gerade getwittert, dass du die Größe des Colossus-Clusters verdoppelst. Was denkst du dazu?
Wir haben mit xAI bereits den leistungsstärksten Trainingscluster der Welt, und wir sind dabei, ihn zu verdoppeln.
Interviewer
Energie ist hier ein Gesprächsthema. Wie sehr sorgst du dich darum, genug Energie für die weltweit immer hungrigeren Cluster bereitzustellen?
Ja, ich glaube, die Dinge werden. Derzeit sind wir durch Chips begrenzt, oder nicht mehr ganz durch Chips. Wir kommen an den Punkt, an dem wir durch Spannungstransformatoren und Installation begrenzt sind, und dann durch Energie. Es wird also eine enorme Menge Energie für digitale Intelligenz und auch für die Elektrifizierung des Verkehrs gebraucht. Diese beiden Dinge sind also eine große Sache. Ja, wir werden viel Energie brauchen. Langfristig wird fast die gesamte Energie, die wir bekommen, von der Sonne kommen. Eine Art, Zivilisation zu betrachten, ist der Fortschritt. Auf der Kardaschow-Skala kommen wir gerade so an eins heran. Na ja, wir sind weit davon entfernt. Ich glaube, wir sind wahrscheinlich. Wir sind vielleicht nah dran. Mir ist nicht klar, ob wir über 1 % von Stufe 1 der Kardaschow-Skala liegen, denn Stufe 1 bedeutet, dass man die gesamte Energie eines Planeten nutzbar gemacht hat. Ich glaube, wir haben wahrscheinlich weniger als 1 % der Energie der Erde nutzbar gemacht. Kardaschow-Stufe 2 bedeutet, dass man die gesamte Energie seiner Sonne nutzbar gemacht hat. Die Sonne ist mit überwältigendem Abstand die größte Energiequelle im Sonnensystem. Alles andere macht vielleicht etwa ein Billionstel der Energie im Sonnensystem aus, verglichen mit der Sonne. Mit Sicherheit. Weniger. Weniger als ein Billionstel der gesamten Energie in unserem Sonnensystem stammt nicht von der Sonne.
Interviewer
Ja. Wir nutzen ein. Ein Achttausendstel der Sonnenenergie, die auf die Erdoberfläche trifft.
Die Erde. Nur das? Nur das, was auf die Erdoberfläche trifft, ja. Ja. Und der Anteil der Sonnenenergie, der auf die Erdoberfläche trifft, ist weniger als ein Billionstel der Energie, die die Sonne erzeugt. Fast die gesamte Energie wird also langfristig Solarenergie sein. Das rundet sich auf 100 %. Also rundet es sich auf 100 %. So viel der zukünftigen Energie wird solar sein, wenn man die Dinge aus der Kardaschow-Perspektive betrachtet.
Interviewer
Weißt du, Elon, wir haben hier eine Reihe nationaler Führungspersönlichkeiten und Unternehmens- und Finanzchefs aus dem Nahen Osten. Was rätst du den Entscheidungsträgern hier im Raum, die die KI-Transformation nicht verpassen und zu ihren Vorreitern gehören wollen? Müssen sie hier ihre eigenen Cluster bauen? Gehen sie Partnerschaften ein?
Ja, also ich glaube, wahrscheinlich werden mit der Zeit alle Länder ihre eigenen KI-Cluster haben. Derzeit ist es sehr schwierig, einen KI-Cluster tatsächlich zu bauen und zum Laufen zu bringen. Das ist nicht so, als würde man einen Computer aus der Schachtel nehmen. Sie sind derzeit sehr schwer zu betreiben. Und man muss sich fragen: Will man ein Frontier-Modell trainieren? Denn wenn man ein Frontier-Modell trainiert, braucht man enorm viel Rechenleistung und ein technisches Können, das nur wenige. Wenige Firmen besitzen. Also. Aber mit der Zeit wird, glaube ich, jedes Land KI-Rechencluster haben. Es wird einfach etwas Normales sein, das jedes Land hat. Also. Ja.
Interviewer
Also eine Basisinfrastruktur für jede Nation. So wie sie ein Stromnetz haben.
Ja. Es wird so etwas wie Elektrizität sein, oder einfach. Oder eine Fluggesellschaft zu haben, so etwas in der Art. Es ist jedes. Jedes Land wird KIs haben, oder mehrere KIs. Also. Und es wird viele Roboter geben.
Interviewer
Es wird viele Roboter geben, aber
wir werden viel mehr Roboter als Menschen haben.
Interviewer
Ja, lass uns kurz darüber reden. Denn die Leute sorgen sich, wie du sagtest, über schrumpfende Bevölkerungen; KI und Roboter können helfen, das BIP zu stützen.
Interviewer
Glückwunsch zu Optimus 2 und bald Optimus 3. Deine Vorhersage zur Zahl der Roboter bis 2040? Humanoide Roboter, um genau zu sein. Welche Größenordnung
bis 2040? Ja. Also. Ich glaube, bis. Wenn man sagt 2040, gibt es wahrscheinlich mehr humanoide Roboter als Menschen. Also in der Größenordnung von 10 Milliarden, ja.
Interviewer
Und dein Preis für diese humanoiden Roboter; bei Preisen liegst du ziemlich gut. Manchmal liegst du beim Timing daneben.
Ja, beim Timing bin ich oft optimistisch, aber die Presse berichtet, wenn ich zu spät bin, nicht wenn ich zu früh bin. Zum Beispiel unsere Fabrik in Shanghai: Wir dachten, es würde etwa anderthalb Jahre dauern, und wir haben es in 11 Monaten geschafft. Unsere Fabrik in Nevada: Wir dachten zwei Jahre, wir haben es in 18 Monaten geschafft. Oder der Colossus-Cluster, die Fabrik in Texas: zwei Jahre, wir haben es in 14 Monaten geschafft. Ich war also tatsächlich oft früher dran. Es wird nur nicht berichtet. Wenn ich also eine Vorhersage mache, versuche ich herauszufinden, was das wahrscheinliche 50. Perzentil ist. Was bedeutet, dass ich die Hälfte der Zeit falsch liegen sollte. Ich stapele also im Grunde nicht absichtlich tief. Also, aber ich glaube, es ist. Wenn man bis 2040 geht, das ist lange hin, 25 Jahre, wird es mindestens 10 Milliarden humanoide Roboter geben. Ja. Der Preis wird, glaube ich, ziemlich niedrig sein, wahrscheinlich 20.000, 25.000 Dollar für einen Roboter, der alles kann. Wir werden in einer Zukunft leben, vorausgesetzt, wir sind bei der KI auf dem guten Weg, ich glaube, wir werden in einer Zukunft des Überflusses leben. Du hast ja ein Buch namens Abundance geschrieben, also würdest du wohl zustimmen, dass das wahrscheinlich das Ergebnis ist, dass im Grunde jeder. Jeder wird alle Güter und Dienstleistungen haben können, die er will. Die tatsächlichen Grenzkosten von Gütern und Dienstleistungen werden in Zukunft extrem niedrig sein.
Interviewer
Lass mich. In unseren letzten vier Minuten möchte ich das Thema auf etwas lenken, das uns beiden sehr am Herzen liegt. Glückwunsch zu Starship. Das war buchstäblich großartig. Wahrscheinlich die Ingenieursleistung dieses Jahrzehnts, wenn nicht mehr.
Nicht schlecht für Menschen. Nicht schlecht für Menschen. Wir haben das ohne jegliche KI gemacht. Ich bin also froh sagen zu können, dass wir das komplett mit menschlichen Gehirnen und ohne KI gemacht haben. Ich glaube, in Zukunft wird die KI darauf schauen und sagen: Nicht schlecht für einen Haufen Affen.
Interviewer
Wann sind wir auf dem Mars? Wann bist du. Wann ist Starship auf dem Mars?
Ich glaube, wir können in zwei Jahren einige Starships zum Mars schicken. Also im nächsten Marsfenster, in etwa 26, 27 Monaten; aber wir stehen kurz vor dem Beginn. Oder vielmehr sind wir gerade am Anfang eines Marsfensters, und die gibt es alle 26 Monate. In etwas mehr als zwei Jahren schicken wir also unsere ersten unbemannten Starships zum Mars. Und wenn das gut klappt und wir die Zahl der Krater auf dem Mars nicht erhöhen, schicken wir zwei Jahre später Menschen.
Interviewer
Eine Herausforderung, vor Ende des Jahrzehnts auf der Marsoberfläche zu sein, klingt also nach einer vernünftigen Ansage für jede Seite im Weißen Haus.
Hoffentlich. Ja, ich werde. Ich bin mit einem Weißen Haus unter Trump optimistischer als ohne Trump, weil das größte Hindernis für Fortschritt, das wir erleben, die Regulierung ist, die Überregulierung. Regulierung.
Interviewer
Man muss ja die Wale und Haie schützen.
Ja, ja, genau. Es dauert bei uns, also, es dauert länger, die Startgenehmigung zu bekommen, als eine riesige Rakete zu bauen. Und die Bürokratie in den USA wächst jedes Jahr und ist unter der Biden-Regierung besonders gewachsen. Und wenn wir nicht etwas tun, um die Überregulierung, wie ich es nenne, zurückzufahren — Amerika, viele Länder erleben eine langsame Strangulierung durch Überregulierung. Wenn nichts dagegen unternommen wird, wird es irgendwann illegal, fast jedes große Projekt umzusetzen, und wir werden nicht zum Mars kommen.
Interviewer
Letztes Thema. Glückwunsch zur Vorstellung des Cybercab. Ziemlich außergewöhnlich. Cathie Wood hat dafür mehrere Billionen Dollar an potenziellem BIP-Wachstum und Wirkung vorhergesagt. Ja, gib uns ein paar Vorhersagen: Wann sehen wir das Cybercab, wann können wir eines bestellen?
Ja, also das unbeaufsichtigte vollautonome Fahren von Tesla, wir erwarten, dass es nächstes Jahr in den USA mit Model 3 und Y funktioniert. Man muss also nicht auf das Robotaxi oder das Cybercab warten, damit Tesla Autonomie einführt. Wir erwarten derzeit, im zweiten Quartal nächsten Jahres das Sicherheitsniveau von Menschen zu übertreffen und danach deutlich darüber hinauszugehen. Es ist also wirklich nur ein Software-Update für die Autos, um unser Netzwerk für autonomes Fahren zu starten. Wir planen also, unbeaufsichtigtes vollautonomes Fahren etwa Mitte nächsten Jahres in Kalifornien und Texas zu starten. Und wir haben sieben Millionen Autos auf der Straße. Bis Ende nächsten Jahres werden es neun, neuneinhalb Millionen sein, und irgendwann haben wir eine Flotte von über 100 Millionen Fahrzeugen, und alle werden autonom sein. Das Cybercab ohne Lenkrad und Pedale, wir erwarten, 2026 die Serienproduktion zu erreichen. Das ist also sicherlich interessant. Aber wie gesagt, der eigentliche Start eines Robotertaxis mit unbeaufsichtigtem vollautonomen Fahren ist tatsächlich nächstes Jahr. Und bei der Veranstaltung, dem Tesla-Autonomie-Event, hatten wir 50 Autos, 30 fahrerlose Model Y und 20 Cybercabs. Was ich also sage: Die Autonomie ist da. Und ja, alle Autos werden selbst fahren. Das ist ein Selbstläufer. Und sie werden zehnmal sicherer werden als von Menschen gesteuerte Autos, was weltweit, keine Ahnung, vielleicht eine Million Leben pro Jahr retten wird. Und dann beginnt Optimus nächstes Jahr, 2025, mit einer begrenzten Produktion, sollte 26 in Serienproduktion gehen, und dann wachsen wir, um letztlich, glaube ich, das größte Produkt aller Zeiten zu werden. Und ich stimme ARK Invest und Cathie Wood irgendwie zu, dass Autonomie, also Robotertaxis, Tesla zu einem Unternehmen von etwa 5 Billionen Dollar macht. Der Optimus-Roboter macht Tesla, glaube ich, zu einem 25-Billionen-Unternehmen. Es ist nicht einmal klar, was Geld dann noch bedeutet.
Interviewer
Wir landen irgendwann in einer postkapitalistischen Gesellschaft. Elon, du machst.
Wir landen gewissermaßen, es wird eine Art Postkapitalismus. Und wie gesagt, und ich weiß, dass du uns zustimmst: Wir blicken auf die wahrscheinlichste gute Seite, wir steuern auf ein Zeitalter des Überflusses zu, in dem jeder alle Güter und Dienstleistungen haben kann, die er will. Es wird kein bedingungsloses Grundeinkommen sein, sondern ein universelles hohes Einkommen, das ist das wahrscheinlichste Ergebnis.
Interviewer
Du lässt es leicht aussehen, mein Freund. Danke, dass du dir etwas Zeit genommen hast. Ich weiß, dass es nicht leicht ist. Einen großen Applaus für Elon Musk, alle zusammen.
Danke. Danke, mein Freund.