Elon Musk, Jensen Huang und Tom Brown über die KI-Revolution 29. September 2026 Podium mit Nvidia-Chef Jensen Huang und Anthropic-Mitgründer Tom Brown: Energie und Chips skalieren, die 10 Gigawatt von SpaceX und Rechenleistung im All, Colossus und lokale Arbeitsplätze, der erste Orbitalflug von Starship, Opus 5.5, Sicherheit der Superintelligenz und die im Weißen Haus unterzeichnete gemeinsame Erklärung.
Podium mit Nvidia-Chef Jensen Huang und Anthropic-Mitgründer Tom Brown: Energie und Chips skalieren, die 10 Gigawatt von SpaceX und Rechenleistung im All, Colossus und lokale Arbeitsplätze, der erste Orbitalflug von Starship, Opus 5.5, Sicherheit der Superintelligenz und die im Weißen Haus unterzeichnete gemeinsame Erklärung.
Transkript Elon Musk
sind wir zu spät,
Moderator
Schön, hier zu sein.
Jensen Huang
Auf geht's, Amerika.
Moderator
Auf geht's, Amerika. Team America.com. Ja, in der Tat. Also Amerika: die Gebrüder Wright. Der erste Mensch auf dem Mond.
Jensen Huang
Das Internet, wir beide. Die Gebrüder Wright.
Moderator
Das gefällt mir. In der Tat haben wir im Grunde jede große technologische Revolution angeführt, zum enormen Nutzen Amerikas und der normalen Amerikaner, und diese nennen wir jetzt wohl Superintelligenz, was ich übrigens für gutes Branding halte. Also lasst uns darüber reden, wie Amerika das gewinnt und wie dieser Sieg den normalen Amerikanern zugutekommt.
Jensen Huang
Entschuldigung, meine Cola light. Sorry. Also, zunächst einmal: künstliche Superintelligenz. Superintelligenz ist eine komplette Neuerfindung des Computing-Stacks. Alles, von der Art, wie die Prozessoren, die Chips entworfen werden und arbeiten, über die Art, wie Software heute trainiert und entwickelt wird, bis dahin, was Anwendungen leisten können und wie: Jede einzelne Schicht des Computing-Stacks wurde neu erfunden. Diese Art des Rechnens ... Anders als frühere Methoden, Informationen abzurufen, ist das ein generativer Ansatz des Rechnens. Und deshalb brauchen wir, um erfolgreich zu sein, als Erstes Energie, denn wir brauchen Energie, um die Rechenleistung zu betreiben. Die Rechenleistung betreibt die Algorithmen. Die Algorithmen speisen dann die Anwendungen. Und so ist die Grundschicht die Energie. Und auf dieser Energie bauen wir Grundstück, Strom und Gebäudehülle, die die Infrastruktur beherbergen, und so weiter. Und natürlich sind wir Weltklasse im Chipdesign, Weltklasse in der Entwicklung von Algorithmen. Und deshalb müssen wir unter anderem einfach wachsam dafür sorgen, dass Stromerzeugung und Stromversorgung möglich werden. Und Präsident Trump war visionär darin, energiefreundlich zu sein. Ohne die energiefreundliche Vision von Präsident Trump wäre es uns unmöglich gewesen, darauf die Rechenzentren zu bauen. Natürlich gehen diese Rechenzentren so schnell ans Netz. Wir kommen in viele Nachbarschaften und viele Gemeinden. Wir müssen besser darin werden, mit den Gemeinden zusammenzuarbeiten, sie mitzunehmen und sie am Wohlstand und Erfolg dieser industriellen Revolution teilhaben zu lassen. Aber so gewinnen wir. Wir müssen die besten Chips der Welt bauen. Wir brauchen jede Menge Energie, müssen unglaubliche Algorithmen entwickeln und schließlich dafür sorgen, dass Amerika von der Technologie begeistert ist, damit wir sie in all diese Branchen tragen, von der Fertigung bis zum Gesundheitswesen, wissen Sie, Raumfahrt und so weiter.
Moderator
Großartig. Elon, wie gewinnen wir? Wie gewinnen wir weiter?
Elon Musk
Nun, wir brauchen viel Strom, viel Energieerzeugung. Die Energie hochzuskalieren ist, glaube ich, eine der größten Aufgaben: Man muss die Energie skalieren, man muss die Chipproduktion skalieren. Und ich glaube, bei Software, bei allem Intellektuellen oder Digitalen gewinnen wir. Aber langfristig müssen wir genug Strom erzeugen können, um mit, ich denke, im Wesentlichen China mitzuhalten, dem größten Konkurrenten, und China erzeugt etwa dreimal so viel Strom wie die Vereinigten Staaten. Und ich denke, wir werden herausfinden, wie man Chips herstellt. Also die zentrale Herausforderung wird langfristig, denke ich, sein: Wie erzeugt man genug Strom, und wie stellt man sicher, dass wir genug Fertigungskapazität für Logik- und Speicherchips in den USA oder in einer sicheren Region haben?
Moderator
Nun, Sie sind ...
Jensen Huang
Wir brauchen die Gebrüder Wright an der Sache.
Moderator
Ja. Nun, wie sich zeigt, sind die Gebrüder Wright an der Sache dran, Elon. Wenn Sie 10 Gigawatt ans Netz bringen, worüber SpaceX öffentlich gesprochen hat, wären das etwa 25 % der gesamten in Amerika zugebauten Leistung. Und ich weiß, dass Sie echte Raketeningenieure haben, die daran arbeiten, diese Leistung bereitzustellen.
Moderator
Sie helfen beim Bau der Turbinen. Können Sie darüber sprechen?
Elon Musk
Ja, es ist, ich meine, nur zur Einordnung: Der durchschnittliche Stromverbrauch in den USA liegt bei etwa 500 Gigawatt. Also sind je 5 Gigawatt zusätzlicher Dauerleistung 1 % mehr Stromverbrauch, und ich glaube, das wird sich tatsächlich in etwa 1 % mehr BIP niederschlagen, weil die Intelligenz pro Watt immer weiter steigt. Wenn man also einfach eine Kurve zeichnet: Wie steigt die nutzbare Intelligenz pro Watt? Wie steigt sie, sowohl auf Hardware-Ebene ... Jensens GPUs werden bei der Rechenleistung pro Watt immer besser, und auch die Algorithmen holen immer mehr Intelligenz pro Watt heraus. Das ist also vielleicht ein interessanter Punkt. Ich würde mit jedem wetten, dass 1 % mehr Stromverbrauch ungefähr 1 % mehr BIP entspricht. Und 10 Gigawatt wären dann 2 % mehr BIP, mit den Rubins. Ich denke schon.
Jensen Huang
Nun, rechnen wir es einfach mal durch. Jedes Gigawatt kann wahrscheinlich etwa, sagen wir, 40 bis 50 Milliarden Dollar Wirtschaftsleistung pro Jahr erzeugen.
Elon Musk
Ja, ich meine, 1 % wären ...
Jensen Huang
Ja, ich meine, ja, 1 % der Vereinigten Staaten wären ...
Jensen Huang
Ja, 300 Milliarden. Und also ein Fünftel, ein Sechstel von 1 % des ...
Elon Musk
Der 1-%-Steigerung. Also 5 Gigawatt wären ... Ja, nun, 5 Gigawatt wären ... 300 Milliarden. Ja, genau. 60, 60 Milliarden pro Gigawatt.
Jensen Huang
Darin sind wir gut.
Elon Musk
Ja, also ... in nicht
Jensen Huang
viel anderem gut. Aber
Elon Musk
ja, ich meine, das wird von Jahr zu Jahr ziemlich dramatisch steigen. Also ja, aus Sicht von SpaceX schauen wir langfristig. Wie kommen wir an viel mehr Energie, als am Boden verfügbar ist? Und das geht mit dem Weltraum. Rechenleistung im Orbit wird also tatsächlich eine sehr große Sache. Und Google sieht das genauso. Sie haben gerade TPUs hochgeschickt, oder sind kurz davor. Ich glaube, letztes Jahr wurde ein H100 in die Umlaufbahn gebracht. Es funktioniert also im Weltraum. Und SpaceX strebt zusammen mit Tesla eine Solarproduktion von 200 Gigawatt pro Jahr an. Und im Weltraum bekommt man die Nennleistung der Solarzellen oder mehr, während man am Boden irgendwo zwischen einem Fünftel und einem Achtel der Solarleistung bekommt und riesige Batterien braucht, wohingegen im Weltraum praktisch immer die Sonne scheint.
Jensen Huang
Und gerade jetzt ist ein großartiger Zeitpunkt dafür, weil die wirtschaftlichen Erträge dieser Rechensysteme so gut sind. Ja. Dass die Startkosten, auch wenn sie immer noch recht hoch sind, gemessen am gesamten wirtschaftlichen Nutzen durchaus bezahlbar sind.
Jensen Huang
Das ist der perfekte Zeitpunkt dafür. Nvidia-Rechenleistung in den Weltraum zu bringen, ist der beste Weg dorthin.
Moderator
Ja. Die Kardaschow-Skala hinaufklettern, mit amerikanischer Energie und amerikanischen Chips auf amerikanischen Raketen. Ich liebe es.
Moderator
Also, Jensen, Sie haben etwas gesagt, das ich wichtig fand: Wenn wir die Energie in all diese Kleinstädte bringen, reindustrialisieren wir Amerika. Wir beleben Kleinstädte wieder, wir modernisieren das Stromnetz. Das sind Dinge, die sich praktisch jeder amerikanische Politiker in den letzten 35 Jahren gewünscht hat. Was würden Sie sagen? Welche konkreten Beispiele können Sie nennen, wie Rechenzentren gut für normale Amerikaner in ihren Gemeinden sind und wie sie für diese Gemeinden besser werden?
Jensen Huang
Ja, früher nannten wir sie Rechenzentren. Wir nennen sie Rechenzentren, weil wir dort Daten aufbewahren. Aber was wir jetzt bauen, sind eigentlich SI-Fabriken, Superintelligenz-Fabriken. Und es ist eine Fabrik, weil man etwas von wirtschaftlichem Wert produziert, man speichert es nicht nur. Und so sind diese SI-Fabriken echte Fabriken. Das ist wie ein riesiges Kraftwerk in einer echten Fabrik. Da steckt viel Rechen- und Netzwerktechnik drin, Stromerzeugung, Kühlsysteme. Das sind komplizierte Dinge. Und so bauen wir aus, wissen Sie: So wie das Internet es heute erlaubt, alles überall zu finden, wird man in Zukunft mit dieser KI-, Verzeihung, SI-Infrastruktur, diesen SI-Fabriken, von überall aus alles wissen und alles tun können. Und jetzt bauen wir diese Infrastruktur aus, und, wissen Sie, in den gesamten USA, sagen wir, irgendwo zwischen 10 und 20 Gigawatt pro Jahr. Schätzen wir einfach mal, dass das wahrscheinlich etwa eine Million Arbeitsplätze nur beim Bau dieser Rechenzentren schafft. Vergessen Sie nicht: Man muss die Kraftwerke bauen, die Rechenzentren, es gibt Bauarbeiten, Strom, Kühlung, Rohrleitungsbauer. Und so ist es das erste Mal seit, wie Sie sagten, 35, ich wollte sagen 50 Jahren, das erste Mal in 50 Jahren, dass wir die Vereinigten Staaten reindustrialisieren und jede Menge Arbeiterjobs schaffen. Und ich denke, wir wollen eine Wirtschaft, die sowohl Bürojobs als auch Arbeiterjobs umfasst, nicht nur Bürojobs. Und deshalb glaube ich, dass das unsere große Chance ist, unsere Wirtschaft umzugestalten und diese Art von Erbauern und Handwerk in die Vereinigten Staaten zurückzubringen.
Moderator
Absolut. Und ich meine, es fühlt sich so an, als hätten Colossus und Macrohard Erstaunliches geleistet. Die Gemeinden drumherum, die Arbeitsplätze, die entstanden sind. Wie, wie sehen Sie das?
Elon Musk
Ja, ich meine, die wirtschaftlichen Auswirkungen sind positiv. Die wirtschaftlichen Auswirkungen waren enorm. Ich meine, es gibt in der Region inzwischen sogar Arbeitskräftemangel, während es früher ziemlich viel Arbeitslosigkeit gab, und jetzt gibt es sozusagen Überbeschäftigung. Es gibt, es gibt mehr Jobs als Menschen, und die Steuereinnahmen für die Gemeinde waren enorm. Ich glaube, wir haben ihr Steueraufkommen vielleicht verdoppelt, irgendetwas ziemlich Gewaltiges. Und wir machen kleine, hilfreiche Dinge, wie günstigen Starlink-Zugang zum halben Preis. Wir bauen eine Wasseraufbereitungsanlage, eine Wasserrecyclinganlage für 250 Millionen Dollar. Ich denke, man muss etwas für die Gemeinde tun, und wenn man das tut, revanchiert sie sich.
Jensen Huang
Was die Leute vergessen: Zum ersten Mal wahrscheinlich überhaupt haben wir die Marktkräfte, die Investitionen in nachhaltige Energie tragen. Nennen Sie mir ein Beispiel: Fusion, Kernspaltung, kleiner Kernreaktor, großer Reaktor – fast jede Form nachhaltiger Energie wird heute finanziert. Und so haben wir die Chance, die Zukunft der Energie zu finanzieren, ohne dass der Staat subventioniert, ohne ... Genau. Ich meine, nennen Sie mir ein Beispiel für eine großartige Idee zur Batteriespeicherung. Sie wird finanziert.
Moderator
Großartig. Übrigens möchte ich Ihnen beiden im Namen aller Amerikaner danken. Ich glaube, zusammen haben Sie mehr als 5 Billionen Dollar an Vermögen für normale Amerikaner in ihren Altersvorsorgekonten geschaffen, Zehntausende, vielleicht Hunderttausende direkte Arbeitsplätze, viele Dutzend Milliarden an Löhnen. Also danke.
Elon Musk
Ich glaube, Jensen hat allein 5 Billionen geschafft, ehrlich gesagt.
Elon Musk
Ich glaube, Jensen hat allein fünf Billionen geschafft. Ich liege, glaube ich, bei etwa dreieinhalb oder so.
Moderator
Ja, ich wollte vorsichtig bleiben. Ja. Sie hatten also beide einen großartigen Montag. Ich habe den Starship-Start verfolgt, den ersten Orbitalstart von Starship, während ich über das offene Agenten-Sicherheitsframework von Nvidia gelesen habe – das war ein spannender Morgen. Vielleicht könnten Sie beide jeweils darüber sprechen. Denn wir brauchen Starship, um diese 200 Gigawatt amerikanischer Solarenergie mit amerikanischen Chips und amerikanischer Superintelligenz in den Orbit zu bringen.
Jensen Huang
Ich spreche über seins. Und er spricht über meins. Und so. Nein, das war nur ein Scherz. Also, mal sehen. Wie Sie wissen, wollen wir die KI voranbringen, die SI voranbringen. Ich werde mich noch daran gewöhnen. Wir werden die SI auf verantwortungsvolle und optimistische Weise voranbringen. Und wir wissen, dass die Zukunft. Wir glauben fest daran, dass die Zukunft, die SI ermöglichen wird, die Zukunft ist, an der wir teilhaben wollen. Und deshalb sind wir optimistisch. Und deshalb geben wir so viel Gas. Andererseits müssen wir sicherstellen, dass wir diese Technologie sicher und geschützt entwickeln. Das hat mehrere Aspekte. Während man das Modell trainiert, ist das im Allgemeinen eine ziemlich sichere Umgebung. Aber während man das Modell evaluiert und testet, muss man sicherstellen, dass das agentische System, das Modell selbst, streng abgeschottet ist. Dieses Abschottungssystem muss wirklich sicher sein. Und zweitens will man es während der Tests überwachen, denn selbst wenn es abgeschottet ist, sollte man nie darauf vertrauen, dass es das wirklich ist. Man will es also in Echtzeit überwachen, idealerweise mit einem anderen Chip, damit die Überwachung außerhalb liegt – sozusagen out of band, außerhalb der Umgebung, außerhalb der Sandbox des Agenten selbst. Man muss also abschotten und überwachen. Wenn man auf diese Weise fertig evaluiert hat, nutzt man beim Einsatz ein sehr ähnliches System. Das ist nicht anders als bei praktisch jedem digitalen. Jedem menschlichen Mitarbeiter, den man einstellt, gibt man einen begrenzten Rahmen an Rechten, Werkzeugen und Zugängen, und dann überwacht man ihn regelmäßig, kontinuierlich. Bei Agenten müssen wir also einfach sicherstellen, dass Abschottung und Überwachung auf die sicherste Weise erfolgen. Und wir haben zwei Technologien vorgestellt. Die eine heißt Open Shell. Das ist ein Abschottungssystem. Es ist im Grunde so etwas wie ein Browser für Websites. Es ist jetzt im Wesentlichen ein Browser für Agenten. Und dieser Browser hält den Agenten vom Rest des Computers isoliert. Und die Rechte, die man ihm gibt, sind nur die, die er haben soll. Und das Überwachungssystem ist ein neuer Chip namens BlueField. Und er behält jederzeit alles im Blick, was der Agent tut. Und wenn er irgendetwas tut, das die Grenzen überschreitet und gegen die vorgegebenen Richtlinien verstößt, eskaliert er das so weit wie nötig.
Moderator
Und ich fand die Analogie in Ihrem technischen Blog großartig: In den Anfangstagen des Internets hatten alle Angst, dass ihre Kreditkarte gestohlen werden könnte. Wir haben das Internet sicher gemacht. Und deshalb haben wir Amazon, Netflix, Google, X. Wir haben so viele großartige Dinge, weil wir das Internet sicher gemacht haben. Jetzt machen wir dasselbe mit KI.
Jensen Huang
Und Sicherheit steht nicht im Widerspruch zum technologischen Fortschritt. Sicherheit und Fortschritt einer Technologie sind ein und dasselbe. Das ist nicht anders als beim Autopiloten. Es ist nicht nur fortschrittliche Technologie, sondern auch sicherere Technologie. Und so will man die Technologie voranbringen. Die beiden stehen nicht im Konflikt. Die Vorstellung, dass mehr Leistungsfähigkeit irgendwie die Sicherheit gefährdet. Dass man irgendwie ins Hintertreffen gerät, wenn man auf Sicherheit setzt. Das sind, wissen Sie, falsche Alternativen.
Moderator
Ja. Sicherheit erlaubt es uns zu beschleunigen. Aber Elon, wenn Starship ein großer Teil dieser 200 Gigawatt sein soll, was können Sie uns über den Flug am Montag sagen? Was Sie gelernt haben, wie Sie das Programm einschätzen?
Elon Musk
Ja, ich finde, Starship läuft hervorragend. Wir haben Starship zum ersten Mal in den Orbit gebracht und Starlink-Satelliten ausgesetzt. Das sind riesige Satelliten. Ich meine, das sind Satelliten mit der Spannweite einer 737. Also wirklich riesig. Tatsächlich ist es die größte Nutzlast, die seit Skylab in den Orbit gebracht wurde. Wir erwarten also, dass Starship nächstes Jahr wahrscheinlich einen wöchentlichen oder zweimal wöchentlichen Rhythmus erreicht.
Moderator
Wir haben hier Tom Brown, na ja, nicht Tom Brown. Ich kenne ihn unter seinem X-Namen. Willkommen.
Tom Brown
Schön, euch wiederzusehen.
Elon Musk
Das war ein weiter Weg. Ja, das war es.
Tom Brown
Mein Auto ist falsch abgebogen, deshalb wart ihr schneller hier als ich. Beeindruckend.
Moderator
Schön, dass Sie es geschafft haben. Also. Aber Elon, bitte erzählen Sie weiter, wie Starship uns zu 200 Gigawatt amerikanischer Solarenergie mit amerikanischen Chips und amerikanischer Superintelligenz bringen wird.
Elon Musk
Ja. Starship wird vieles leisten. Es soll genug Nutzlast zum Mond und zum Mars bringen, um dort eine selbstwachsende Stadt aufzubauen. Ich denke, grob geschätzt muss man etwa eine Million Tonnen auf die Mondoberfläche bringen, um eine selbstwachsende Stadt zu schaffen, und für den Mars ungefähr genauso viel. Und zusätzlich wird es jedes Jahr mindestens einige hundert Gigawatt an KI-Rechenleistung starten. 200 Gigawatt pro Jahr wären ein jährlicher Anstieg von 40 % des gesamten Energieverbrauchs der Vereinigten Staaten. Das ist also eine ziemlich große Zahl, und es könnte eines Tages ein Terawatt werden. Das ist also ernsthafte Tonnage.
Moderator
Großartig. Und Tom, Anthropic, Ihr Unternehmen – Sie sind Mitgründer von Anthropic – Sie haben in den letzten Tagen Opus 5.5 angekündigt. Ich dachte, wir sprechen über die exponentielle Kurve, auf der wir uns befinden, und es hilft, das konkret zu machen: Was kann Opus 5.5 – und die Frage geht an alle – heute tun, um das Leben ganz normaler Amerikaner zu verbessern? Und wo werden wir in einem Jahr stehen?
Tom Brown
Ja. Also, Opus 5. 5 ist ein Modell, das meiner Meinung nach einfach den normalen Fortschritt fortsetzt, dass diese Superintelligenzen mit jeder Modellversion ein paar IQ-Punkte dazugewinnen. Was die Leute vor allem merken werden, wenn sie es jetzt nutzen, ist, dass es eine Aufgabe erledigen kann, die länger dauert als alles, was sie einem früheren Modell übertragen konnten. Was ein ganz normaler Amerikaner also sehen sollte: Erstens, wenn man eine Aufgabe tatsächlich delegieren will, kann es das besser; und zweitens etwas, das die Leute weniger bemerken – dass eine riesige Menge Software von diesen Modellen geschrieben werden wird. Und so werden alle Produkte, die die Leute nutzen, mit der Zeit hochwertiger und günstiger. Und das wird den Effekt haben, dass einfach
Tom Brown
all die Werkzeuge, die wir heute nutzen, von Menschen mit Ingenieursarbeit geschrieben wurden, und jetzt werden sie sowohl von Menschen geschrieben. Und die Superintelligenz leistet viel, viel mehr Ingenieursarbeit, als vorher möglich war.
Moderator
Absolut. Aber ich denke, sie leistet noch viel mehr. Es gibt bereits mehrere Geschichten, in denen KI – Entschuldigung, Superintelligenz – ein lebensrettendes Medikament gefunden hat, das gegen eine Krankheit eingesetzt werden kann, von der man nicht wusste, dass es sie sicher behandeln kann. Sie rettet also Leben. Ich glaube, sie hat tiefgreifende Auswirkungen auf die Bildung. Aber vielleicht könnte jeder von Ihnen sagen, was Superintelligenz heute für ganz normale Amerikaner tut und was sie in einem Jahr können wird?
Jensen Huang
Ich bin ein ganz normaler Amerikaner und nutze Claude, um mir bei der Recherche zu helfen. Und statt mir nur Antworten zu geben – bei den meisten meiner Recherchen, sagen wir, ich mache eine vergleichende Recherche und es gibt zwei oder drei verschiedene Ansätze für etwas. Und ich will eine Liste verschiedener Fragen beantworten und Wachstumsraten oder Veränderungsraten oder was auch immer vergleichen und gegenüberstellen. Also beschreibe ich buchstäblich jede einzelne Frage, die ich habe, und nichts macht mir mehr Freude als. Und ich bitte es, einen schönen Bericht zu erstellen und das grafisch darzustellen. Mal ist es ein Kreisdiagramm, mal ein Balkendiagramm, und ich drücke einfach auf Enter. Und nichts macht mir mehr Freude, als ihm einfach bei der Arbeit zuzusehen. Und dann kommt es zurück und erstellt einen wunderschönen, wirklich schönen Bericht. Und statt all diese Themen 4, 6, 8 Stunden lang zu recherchieren, wie ich es früher an einem Wochenende gemacht hätte, um etwas Neues zu lernen, legt es los und erstellt mir in etwa drei Minuten diesen wirklich schönen Abschlussbericht. Und alles ist komprimiert, und man wird schneller klüger.
Moderator
Toll. Und bei Ihnen? Wie sehen Sie, dass Superintelligenz ganz normalen Amerikanern hilft? Was wird sie Ihrer Meinung nach in ein, zwei Jahren tun? Vielleicht in ein, zwei Jahren? Sagen wir, in ein, zwei Jahren?
Elon Musk
Ja. Nun, ich denke, sie hilft den Menschen, ihr Leben zu organisieren und ihre Arbeit besser zu machen. Ich denke also, es wird wirklich unverzichtbar werden, falls es das nicht schon ist, KI im Berufsleben zu nutzen, ganz sicher, und auch im Privatleben. KI ist einfach unglaublich hilfreich und nützlich. Wissen Sie, ich habe viele Anekdoten gehört, wie KI Menschen bei medizinischen Problemen geholfen hat, und in vielen Fällen lag der Arzt falsch, sie haben ihre Röntgenbilder oder ihr MRT der KI vorgelegt, und die KI lag richtig – ohne KI wären sie gestorben. Und ich habe viele solche Fälle gehört.
Moderator
Großartig. Und hoffentlich sagt Opus 5.6 Tom: Nicht links abbiegen, rechts!
Moderator
Ich denke, das ist wichtig. Diese Superintelligenzen sind von den Werten ihrer Schöpfer geprägt. Und wir haben tatsächlich. Es gibt amerikanische Werte, die wir alle teilen. Den ersten Verfassungszusatz, die Meinungsfreiheit, das Bekenntnis zur Wahrheit. Können Sie erzählen, was jeder von Ihnen tut, um sicherzustellen, dass diese Superintelligenzen geprägt sind von
Jensen Huang
den richtigen Werten? Dürfen wir etwas Kontroverses sagen?
Moderator
Sagen Sie etwas Kontroverses.
Jensen Huang
Okay, die SIs sind Werkzeuge. Und das Problem bei einer SI mit Werten ist, dass sie ein Urteilsvermögen hat. Je nachdem, wie man diese SI nutzt, kann sie beschließen, einen zu beurteilen, und ihre Wirksamkeit würde von diesem Urteil beeinflusst. Das ist ein bisschen wie ein Steakmesser: Wenn einem das Steak durchgebraten serviert wird, schneidet es perfekt, aber wenn es blutig serviert wird und furchtbar nach rohem Fleisch aussieht, schneidet es plötzlich nicht mehr. Ich frage mich also noch, wie viel Urteilsvermögen man diesen Werkzeugen wirklich geben will. Und die Absichten des Nutzers – ich habe natürlich das Messer als Beispiel genommen, aber man kann sich eine ganze Menge anderer Beispiele vorstellen. Die Absichten sind etwas unterschiedlich, je nachdem, ob man Verteidiger oder Angreifer ist. In der Cybersicherheit zum Beispiel können die Handlungen des Verteidigers denen eines Angreifers ähneln. Und man will, dass diese SI im Auftrag des Verteidigers handelt, auch wenn es nach einer aggressiven Aktion aussieht.
Moderator
Gut. Ich glaube, die Zeit wird knapp, aber vielleicht könnten Sie uns erzählen – Sie haben viel Zeit im Weißen Haus verbracht. Gibt es etwas, das Sie der Welt darüber mitteilen können, was bei diesem offenbar langen und produktiven Mittagessen herausgekommen ist?
Jensen Huang
Wir haben gute Arbeit geleistet.
Elon Musk
Ja. Wir haben eine gemeinsame Erklärung zur SI-Sicherheit unterzeichnet, und ich denke, sie wird bald vom Weißen Haus veröffentlicht, falls das nicht schon geschehen ist. Aber wir haben uns auf eine Reihe von Dingen geeinigt, darunter ein gemeinsames Aufsichtsgremium, Sonderausschüsse und ganz allgemein, dass wir gegenseitig unsere Hausaufgaben korrigieren – was aus offensichtlichen Gründen viel besser ist, als wenn jeder seine eigenen korrigiert.
Jensen Huang
Und das umfasst alles: strenge interne Kontrollen, bewährte Methoden, etablierte Prozesse, klar dokumentierte Ziele der Produkte, die man baut, interne Kontrollen, um sicherzustellen, dass man diese Ziele erfüllt, eine interne Revision mit Eskalation, externe Prüfungen durch Dritte und den Austausch bewährter Praktiken in der Branche. Ich fand, dass die Erklärung echte Zähne hat. Ich fand sie wirklich gut formuliert. Und ich denke, das ist eine Praxis, die ehrlich gesagt künftig als Standard unserer Branche jedes einzelne Unternehmen übernehmen sollte. Und der Präsident hat das alles zusammengebracht. Er hat die Sitzung geleitet und alle an einen Tisch gebracht. Und wissen Sie, ich fand, das war wirklich gut geführt, großartig.
Moderator
Nun, im Namen aller Amerikaner danke ich Ihnen allen, dass Sie alles tun, um die Zukunft für die Amerikaner so großartig und optimistisch wie möglich zu machen. Und das tun Sie. Also danke.