Im Gespräch mit Rishi Sunak 2. November 2023 Musk und der britische Premierminister Rishi Sunak diskutieren nach dem AI Safety Summit über die disruptive Kraft der KI, die Notwendigkeit einer Regulierung und eine Zukunft, in der keine Arbeit mehr erforderlich ist.
Musk und der britische Premierminister Rishi Sunak diskutieren nach dem AI Safety Summit über die disruptive Kraft der KI, die Notwendigkeit einer Regulierung und eine Zukunft, in der keine Arbeit mehr erforderlich ist.
Transkript Gut. Also, guten Abend allerseits. Willkommen. Elon, danke, dass Sie hier sind.
Wir fühlen uns sehr geehrt. Wir freuen uns sehr, Sie hier zu haben. Gut, ich beginne mit ein paar Fragen, und dann öffnen wir die Runde. Ich komme gleich zur Sache. Bill Gates hat gesagt: Niemand in unserer Zeit hat mehr getan, um die Grenzen wissenschaftlicher Innovation zu verschieben, als Sie.
Na also. Schön, wenn jemand so etwas über einen sagt. Schön, wenn es von Bill Gates kommt. Aber seltsamerweise haben Sie bei KI seit etwa einem Jahrzehnt fast das Gegenteil getan und gesagt: Moment, wir müssen darüber nachdenken, was wir hier tun und vorantreiben und wie wir es sicher machen. Und vielleicht sollten wir nicht so schnell und so stark voranpreschen. Sie machen das seit zehn Jahren. Was hat Sie dazu gebracht, so darüber zu denken? Und warum sollten wir besorgt sein?
Ja, ich war schon ziemlich lange so etwas wie eine Kassandra: Ich habe den Leuten gesagt, dass wir uns wirklich Sorgen um KI machen sollten. Und sie meinten: Wovon redest du? Sie hatten nie wirklich Erfahrung mit KI, aber weil ich schon lange tief in der Technologie stecke, konnte ich es kommen sehen. Also. Aber ich denke, dieses Jahr gab es eine Reihe von Durchbrüchen. Wir sind an einem Punkt, an dem jemand ein dynamisch erzeugtes Video von sich selbst sehen kann – jemand kann ein Video machen, in dem Sie in Echtzeit irgendetwas sagen, oder ich. Es gibt also die Deepfake-Videos, die wirklich unglaublich gut sind, manchmal sogar überzeugender als echte – Deep Real sozusagen. Und natürlich waren Dinge wie ChatGPT ziemlich bemerkenswert. Ich habe GPT-1, GPT-2, GPT-3, GPT-4 gesehen, die ganze Entwicklung bis dahin. Deshalb war es für mich leicht zu sehen, wohin das führt. Wenn man die Punkte auf einer Kurve einfach extrapoliert und annimmt, dass der Trend anhält, werden wir eine tiefgreifende künstliche Intelligenz haben, natürlich auf einem Niveau weit jenseits der menschlichen Intelligenz. Also. Aber ich freue mich, dass die Leute die Sicherheit inzwischen ernst nehmen. Und ich möchte Ihnen dafür danken, diese KI-Sicherheitskonferenz auszurichten. Ich glaube, sie wird als sehr wichtig in die Geschichte eingehen. Ich halte das für wirklich tiefgreifend, und insgesamt glaube ich, dass künstliche Intelligenz das Potenzial hat, höchstwahrscheinlich positiv zu wirken und eine Zukunft des Überflusses zu schaffen, in der es keinen Mangel an Gütern und Dienstleistungen gibt. Aber es ist ein bisschen das Problem des Flaschengeists: Wenn man einen Flaschengeist hat, der alle Wünsche erfüllt, gehen solche Geschichten meist nicht gut aus. Pass auf, was du dir wünschst – auch bei Wünschen.
Sie haben den Gipfel angesprochen, und danke, dass Sie sich daran beteiligt haben, das war großartig, und die Leute haben es geschätzt, dass Sie an diesem Dialog teilgenommen haben. Eines der Dinge, die wir heute in den Treffen zwischen den Unternehmen und den Regierungschefs erreicht haben, war eine Vereinbarung, dass idealerweise Regierungen extern Sicherheitstests von Modellen durchführen, bevor diese veröffentlicht werden. Ich glaube, darüber haben Sie auch schon etwas gesprochen. Wir haben hart daran gearbeitet, denn meine Aufgabe in der Regierung ist es zu sagen: Moment, hier gibt es ein potenzielles Risiko – kein sicheres, aber ein potenzielles Risiko, dass etwas Schlimmes passiert. Meine Aufgabe ist es, das Land zu schützen, und das können wir nur, wenn wir in unserem Sicherheitsinstitut die nötigen Fähigkeiten aufbauen und dann sicherstellen, dass wir die Modelle vor der Veröffentlichung testen können. Ich freue mich sehr, dass das heute geklappt hat. Aber wie sehen Sie, was wir tun sollten? Nicht wahr? Sie haben über das potenzielle Risiko gesprochen, richtig? Noch einmal: Wir wissen es nicht. Aber was sollten Regierungen wie unsere tun, um diese Risiken zu steuern und zu mindern?
Nun, ich halte es grundsätzlich für gut, dass der Staat eine Rolle spielt, wenn die öffentliche Sicherheit gefährdet ist. Bei der großen Mehrheit der Software ist die öffentliche Sicherheit nicht gefährdet. Wenn eine App auf dem Handy oder Laptop abstürzt, ist das keine große Katastrophe. Aber wenn es um digitale Superintelligenz geht, die meiner Meinung nach ein Risiko für die Öffentlichkeit darstellt, dann hat der Staat eine Rolle beim Schutz der Interessen der Öffentlichkeit. Und das gilt natürlich in vielen Bereichen. Luftfahrt, Autos. Ich habe weltweit mit Regulierungsbehörden zu tun, weil Starlink Kommunikation ist, Raketen Luft- und Raumfahrt und Autos Fahrzeugverkehr. Ich bin also sehr vertraut mit Regulierern, und tatsächlich stimme ich der großen Mehrheit der Vorschriften zu. Mit einigen bin ich ab und zu nicht einverstanden, aber das sind 0,1 %, wahrscheinlich weniger als 1 % der Vorschriften. Also. Und es gibt eine gewisse Sorge bei Leuten im Silicon Valley, die noch nie mit Regulierern zu tun hatten: Sie denken, das werde Innovation ersticken, sie ausbremsen und lästig sein – und es wird lästig sein. Das stimmt. Da liegen sie nicht falsch. Aber ich denke, es gibt… Wir haben über die Jahre gelernt, dass ein Schiedsrichter eine gute Sache ist. Bei jedem Sportspiel gibt es immer einen Schiedsrichter. Und niemand schlägt, glaube ich, vor, ein Spiel ohne Schiedsrichter zu spielen. Und ich denke, so sollte man es sehen: Der Staat als Schiedsrichter, der für faires Verhalten sorgt und dafür, dass die öffentliche Sicherheit berücksichtigt wird – denn manchmal gibt es vielleicht zu viel Optimismus in Bezug auf Technologie. Und das sage ich als Technologe. Ich sollte es also wissen. Und alles in allem glaube ich, dass KI höchstwahrscheinlich eine positive Kraft sein wird, aber die Wahrscheinlichkeit, dass es schiefgeht, liegt nicht bei null Prozent.
Wir müssen also einfach das Schadenspotenzial begrenzen.
Und Sie sprechen von einem Schiedsrichter… Und genau darüber reden wir. Ja, genau. Wir haben darüber gesprochen, Demis und ich haben das
vor langer Zeit besprochen, buchstäblich von Angesicht zu Angesicht. Nicht wahr?
Und tatsächlich muss man Demis und den Leuten in der Branche zugutehalten, dass sie uns das selbst gesagt haben. Es ist nicht richtig, dass Demis und seine Kollegen ihre eigenen Hausaufgaben benoten. Richtig? Es braucht jemanden Unabhängigen, und deshalb haben wir hier das Sicherheitsinstitut aufgebaut. Glauben Sie, dass Regierungen dieses Fachwissen aufbauen können? Eines der Dinge, die wir tun müssen, ist zu sagen: Moment, Demis, Sam und all die anderen haben sehr viele sehr kluge Leute, die das machen. Regierungen müssen sich schnell aufrüsten, was Fähigkeiten und Personal angeht, und genau das tun wir. Halten Sie es für möglich, dass Regierungen das schnell genug schaffen, angesichts des Tempos, mit dem sich die Technologie entwickelt, oder was müssen wir tun, um sicherzustellen, dass wir es schnell genug tun?
Nein, ich finde, das ist ein sehr guter Punkt. Das Tempo der KI ist mit Abstand schneller als bei jeder Technologie, die ich in der Geschichte gesehen habe, und ihre Fähigkeiten scheinen pro Jahr mindestens um das Fünffache, vielleicht das Zehnfache zu wachsen. Nächstes Jahr wird sie sicher um eine Größenordnung wachsen.
Also. Und der Staat ist es nicht gewohnt, sich in diesem Tempo zu bewegen. Aber. Aber ich denke, selbst wenn es keine festen Regeln gibt, selbst wenn es keine Durchsetzungsmöglichkeit gibt, wird es sehr wirkungsvoll sein, einfach Einblick zu haben und die Öffentlichkeit auf Bedenken hinweisen zu können. Selbst wenn das alles ist, was erreicht wird, wäre das also sehr, sehr gut. Okay. Ja.
Nun, hoffentlich schaffen wir mehr als das.
Audience Member
Hoffentlich.
Nein, aber wie wir vorhin besprochen haben, das war auffällig. Sie haben Ihr Leben in der Technologie verbracht, die Moore'sche Regel gelebt. Und interessant war in den letzten Tagen, im Gespräch mit allen, die das entwickeln – und ich denke, Sie stimmen zu –, dass das Tempo des Fortschritts hier mit nichts vergleichbar ist, was Sie alle in Ihrer Laufbahn in der Technologie erlebt haben. Ist das zutreffend? Weil es diese sich verstärkenden Effekte von Hardware, Daten und Personal gibt.
Ja, derzeit sind die beiden führenden Zentren der KI-Entwicklung die San Francisco Bay Area und die Region London; es gibt viele andere Orte, an denen daran gearbeitet wird, aber das sind die beiden führenden. Wenn also die USA, Großbritannien und China in Sachen Sicherheit in etwa auf einer Linie sind, ist das alles gut. Dort liegt im Allgemeinen wirklich die Führung.
Sie haben gerade China erwähnt. Ich habe die Entscheidung getroffen, China in den letzten Tagen zum Gipfel einzuladen.
Und das war keine leichte Entscheidung. Viele Leute haben mich dafür kritisiert. Meine Ansicht ist: Wenn man ein ernsthaftes Gespräch führen will, muss man das tun. Aber was denken Sie? Sie machen weltweit Geschäfte. Sie haben es gerade angesprochen.
Sollten wir mit ihnen sprechen? Können wir ihnen vertrauen? War das richtig?
Wenn China bei der KI-Sicherheit nicht mitzieht, ist die Sache ziemlich hinfällig. Der häufigste Einwand, den ich gegen KI-Regulierung oder Sicherheitskontrollen höre, ist: China wird es nicht machen, also wird es einfach die Führung übernehmen und uns alle überholen. Aber tatsächlich ist China bereit, sich an der KI-Sicherheit zu beteiligen, und danke, dass Sie sie eingeladen haben. Und ich denke, wir sollten China für die Teilnahme danken. Als ich Anfang des Jahres in China war, war mein Hauptthema mit der chinesischen Führung die KI-Sicherheit – dass das wirklich etwas ist, worum sie sich kümmern sollten –, und sie haben es ernst genommen. Und Sie auch, was großartig ist. Und sie hier zu haben, war meiner Meinung nach wirklich unerlässlich. Wenn sie nicht dabei sind, ist es sinnlos.
Es ist sinnlos. Ja, und wir waren froh, dass sie sich gestern an den Gesprächen beteiligt und am Ende dasselbe Kommuniqué unterzeichnet haben wie alle anderen. Großartig. Was ein guter Anfang ist. Nicht wahr? Und wir brauchen alle, die ähnlich an die Sache herangehen, wenn wir, glaube ich, eine realistische Chance haben wollen, das zu lösen. Ich wollte sagen: Sie haben vorhin über Innovation gesprochen und darüber, dass Regulierung lästig ist. Wir hatten heute eine gute Debatte über Open Source, und ich glaube, Sie sind ein Befürworter algorithmischer Transparenz und haben einige der Algorithmen von X öffentlich gemacht. Und auf dem Weg hierher haben wir über Geoffrey Hinton gesprochen. Er ist besonders besorgt, dass Open-Source-Modelle von böswilligen Akteuren genutzt werden. Und es gibt eine Gruppe von Leuten, die sagen, sie seien entscheidend dafür, dass Innovation auf diese verteilte Weise stattfindet. Hören Sie, das ist knifflig. Es gibt wohl keine perfekte Antwort, und es ist eine heikle Abwägung. Wie sollten wir Ihrer Meinung nach an diese Open-Source-Frage herangehen, oder worauf sollten wir die Regulierung oder Überwachung ausrichten, die wir einführen?
Nun, Open-Source-Algorithmen und -Daten hinken den geschlossenen meist um 6 bis 12 Monate hinterher. Aber angesichts des Verbesserungstempos gibt es daher tatsächlich einen ziemlich großen Unterschied zwischen geschlossen und offen. Wenn sich die Dinge um den Faktor fünf oder mehr verbessern, dann ist man mit einem Jahr Rückstand fünfmal schlechter. Das ist also ein ziemlich großer Unterschied. Und das könnte durchaus vertretbar sein, aber es wird sicher der Punkt kommen, an dem Open-Source-KI sich dem menschlichen Intelligenzniveau nähert oder es vielleicht übertrifft. Ich weiß nicht so recht, was man dagegen tun soll. Ich denke, es ist ziemlich unvermeidlich, dass es einen gewissen Anteil Open Source geben wird, und ich, ich, ich hätte wohl eine leichte Vorliebe für Open Source, weil man da wenigstens sehen kann, was passiert, während man bei Closed Source nicht weiß, was passiert. Man muss allerdings sagen, dass man bei KI selbst bei Open Source nicht wirklich weiß, was passiert, oder? Denn wenn man eine riesige Datendatei hat, mit Milliarden von Datenpunkten oder Gewichten und Parametern, kann man sie nicht einfach lesen und sehen, was sie tun wird. Es ist eine riesige Datei voller undurchschaubarer Zahlen. Man kann es testen, wenn man, wenn man es laufen lässt, man kann eine Menge Tests durchführen, um zu sehen, was es tun wird. Aber es ist probabilistisch, nicht deterministisch. Es ist nicht, es ist nicht wie klassische Programmierung, wo man sehr diskrete Logik hat, das Ergebnis sehr vorhersehbar ist und man jede Zeile lesen und sehen kann, was sie tun wird; ein neuronales Netz ist einfach ein riesiger Haufen Wahrscheinlichkeiten. Ich meine, am Ende ist es im Grunde eine riesige Datei mit kommagetrennten Werten. Unser digitaler Gott ist sozusagen eine CSV-Datei, wirklich. Okay, aber genau das ist es irgendwie.
Den Punkt, den Sie gerade angesprochen haben, haben wir viel diskutiert, gerade in Gesprächen mit den Leuten, die diese Technologie entwickeln. Der Punkt, den Sie gerade gemacht haben: Es ist nicht wie normale Software, bei der vorhersehbar ist, dass bessere Eingaben zu einem bestimmten besseren Ergebnis führen. Und während die Modelle sich weiterentwickeln und verbessern, wissen wir nicht genau, was am anderen Ende herauskommt. Ich denke, Demis würde dem zustimmen, und deshalb gibt es diese Tendenz: Wir müssen dabei sein, während die Trainingsläufe stattfinden, bevor die Modelle veröffentlicht werden, um zu verstehen, was diese neue Version an Fähigkeiten mitbringt, und das scheinen Sie ja zu teilen. Ich wollte ein bisschen das Thema wechseln. Sie haben viel über menschliches Bewusstsein und menschliche Handlungsfähigkeit gesprochen, was manche überraschen mag, da Sie ja als so brillanter Innovator und Technologe bekannt sind. Aber es wirkt sehr aufrichtig, wenn ich Sie darüber reden höre, wie wichtig es ist, diese Handlungsfähigkeit gegenüber der Technologie zu bewahren und das menschliche Bewusstsein zu erhalten. Das hängt irgendwie zusammen. Was ich fragen wollte: Wenn ich in diesem Amt Interviews gebe oder mit Leuten unterwegs über KI spreche, geht es meistens gar nicht so sehr um das, worüber wir gesprochen haben, sondern um Arbeitsplätze. Was bedeutet KI für meinen Job? Heißt das, dass ich keinen Job mehr habe oder meine Kinder keinen haben werden? Meine Antwort als, als Politiker, als Regierungschef, ist: KI schafft bereits Arbeitsplätze. Und das sieht man an den Unternehmen, die gerade gegründet werden. Außerdem wird sie eher als eine Art Co-Pilot eingesetzt, nicht unbedingt, um den Menschen zu ersetzen. Der Mensch behält seine Handlungsfähigkeit, aber sie hilft einem, die Arbeit besser zu machen, und das ist gut. Und wie wir bei früheren technologischen Revolutionen gesehen haben, verändert sich natürlich der Arbeitsmarkt, die Zahl der Arbeitsplätze. Ich habe heute eine MIT-Studie zitiert, die vor ein paar Jahren gemacht wurde. Etwa 60 % der damaligen Jobs gab es 40 Jahre zuvor noch nicht. Es ist also schwer vorherzusagen. Und meine Aufgabe ist es, ein großartiges Bildungssystem zu schaffen, sei es in der Schule oder bei der Umschulung von Menschen zu jedem Zeitpunkt ihrer Laufbahn, denn wenn wir letztlich eine qualifizierte Bevölkerung haben, hält sie mit dem Wandel Schritt und kann ein gutes Leben führen. Aber wissen Sie, es bleibt eine Sorge. Und wissen Sie, Sie. Was wäre Ihre Einschätzung zu KI und ihren Auswirkungen auf den Arbeitsmarkt und die Jobs der Menschen, und wie sollten sie sich dabei fühlen, wenn sie darüber nachdenken?
Nun, ich denke, wir erleben hier die disruptivste Kraft der Geschichte. Zum ersten Mal werden wir zum ersten Mal etwas haben, das klüger ist als der klügste Mensch. Und, ich meine, es ist schwer zu sagen, wann genau dieser Moment kommt, aber. Aber es wird ein Punkt kommen, an dem kein Job mehr nötig ist. Man kann einen Job haben, wenn man einen haben will, für die persönliche Befriedigung sozusagen, aber die KI wird alles erledigen können. Ich weiß also nicht, ob das die Leute beruhigt oder beunruhigt. Deshalb sage ich: Es ist, als wünschte man sich einen magischen Flaschengeist, der einem jeden Wunsch erfüllt, ohne Grenze, ohne diesen Unsinn mit nur drei Wünschen. Man hat einfach so viele Wünsche, wie man will. Es ist also sowohl gut als auch schlecht. Eine der Herausforderungen der Zukunft wird sein, wie wir einen Sinn im Leben finden, wenn wir einen magischen Flaschengeist haben, der alles tun kann, was wir wollen. Ich glaube, das ist schwierig. Wenn es eine neue Technologie gibt, folgt sie normalerweise einer S-Kurve. In diesem Fall werden wir uns lange auf dem exponentiellen Teil der Kurve befinden. Und wie gesagt, man wird um alles bitten können. Es wird nicht. Wir werden kein bedingungsloses Grundeinkommen haben, sondern ein bedingungsloses hohes Einkommen. In gewisser Weise wird es also ausgleichend wirken, weil ich wirklich glaube, dass jeder Zugang zu diesem magischen Flaschengeist haben und jede Frage stellen kann. Für die Bildung wird es auf jeden Fall gut sein. Es wird der beste Tutor sein, den man haben kann, und der geduldigste, immer da, und es wird keinen Mangel an Waren und Dienstleistungen geben; es wird ein Zeitalter des Überflusses. Ich würde den Leuten empfehlen, Iain Banks zu lesen. Die Kultur-Romane von Banks sind wahrscheinlich die beste Vorstellung davon. Eigentlich nicht wahrscheinlich. Sie sind ganz eindeutig die mit Abstand beste Vorstellung einer Zukunft mit KI. Nichts kommt da auch nur annähernd heran. Ich empfehle also, ich empfehle wirklich Banks. Ich bin ein riesiger Fan. Alle seine Bücher sind gut, sagen wir nicht welches, alle. Das gibt einem eine Vorstellung davon, wie eine, sagen wir, ziemlich utopische oder protopische Zukunft mit KI aussieht, was gut ist.
Wie Sie sagten, ein bedingungsloses hohes Einkommen, das ist eine schöne Formulierung. Und materiell gesehen ist das gut. Das Zeitalter des Überflusses, tatsächlich. Das führt dann zu der Frage, die Sie stellen. Genau. Ich bin jemand, der glaubt, dass Arbeit Sinn stiftet. Ich denke viel darüber nach, weil ich finde, dass Arbeit etwas Gutes ist. Sie gibt den Menschen einen Lebenszweck. Und wenn man einen großen Teil davon wegnimmt, was bedeutet das dann? Und woher bekommt man das dann? Woher bekommt man diesen Antrieb, diese Motivation, diesen Sinn? Ich meine, Sie haben davon gesprochen. Sie arbeiten sehr viele Stunden. Ja.
Wie ich vorhin erwähnt habe, als wir uns unterhielten, muss ich mich gewissermaßen bewusst selbst täuschen, weil ich so viel Blut, Schweiß und Tränen in ein Arbeitsprojekt stecke und bis drei Uhr morgens schufte. Und dann denke ich: Moment, warum mache ich das eigentlich? Ich könnte einfach warten, bis die KI es macht. Ich geißle mich völlig grundlos. Ich muss wohl ein Masochist sein oder so.
Dann rufen wir Demis an und sagen ihm, er soll sich beeilen, und Sie können Urlaub machen. Oder? Ja, nein, das ist ein. Schauen Sie, es ist heikel, es ist eine heikle Sache, weil ich denke, dass ein Teil unserer Aufgabe darin besteht, sicherzustellen, dass wir zu diesem, wie ich finde, weitgehend positiven Ort gelangen, den Sie
Und den Menschen von jetzt bis dahin durch diese Zeit zu helfen. Denn diese Dinge bringen viele Veränderungen auf dem Arbeitsmarkt mit sich, wie wir gesehen haben.
Ja, ich denke, es ist wahrscheinlich im Allgemeinen gut, denn, wissen Sie, es gibt viele Jobs, die unangenehm, gefährlich oder ziemlich mühsam sind. Und dem Computer macht es nichts aus, sie zu erledigen. Sie machen das gerne den ganzen Tag. Wissen Sie, Kochen macht Spaß, aber Abwaschen nicht so sehr. Aber der Computer spült vollkommen zufrieden das Geschirr. Ich denke, es gibt, wissen Sie, wir haben immer noch Sportarten, in denen Menschen gegeneinander antreten, wie die Olympischen Spiele, und natürlich ist eine Maschine schneller als jeder Mensch, aber Menschen laufen trotzdem gegeneinander um die Wette und tragen Sportwettkämpfe aus, obwohl die Maschinen besser sind; man misst sich buchstäblich, um zu sehen, wer der beste Mensch in etwas ist, und die Leute finden darin Erfüllung. Das ist also vielleicht ein gutes Beispiel dafür, wie wir, selbst wenn Maschinen schneller und stärker sind als wir,
trotzdem einen Weg finden.
Wir messen uns immer noch, immer noch gern mit anderen Menschen, um wenigstens zu sehen, wer der beste ist. Mensch.
Ja, das ist ein guter, ein guter Vergleich. Und wir haben viel über den Umgang mit den Risiken gesprochen. Bevor wir weitermachen und das Thema KI abschließen, lassen Sie uns kurz über die Chancen sprechen. Sie sind an vielen verschiedenen Unternehmen beteiligt, Neuralink natürlich, das gerade. Das gerade spannende Dinge macht. Sie haben das angesprochen, was mich wohl am meisten begeistert, nämlich die Bildung. Und ich denke, viele haben das Video von Sal Khan gesehen, seinen TED-Talk von diesem Jahr, über. Wie Sie sagten, es ist wie ein persönlicher Tutor.
Ja, ein persönlicher Tutor. Ein großartiger persönlicher Tutor.
Ein großartiger persönlicher Tutor. Und wir kennen den Unterschied beim Lernen. Einen persönlichen Tutor zu haben ist unglaublich im Vergleich zum Lernen im Klassenzimmer. Wenn jedes Kind einen persönlichen Tutor nur für sich haben könnte, der sich mit ihm im Laufe der Zeit weiterentwickelt, wäre das außergewöhnlich. Und wenn ich das sehe, denke ich: Meine Güte, das ist jetzt in Reichweite. Und das ist einer der Vorteile, die mich am meisten begeistern. Wenn Sie auf all das schauen, was Sie für möglich halten, was begeistert Sie besonders?
Ich denke, Tutoren werden auf jeden Fall großartig sein. Vielleicht sind sie es schon. Ich denke, es gibt vielleicht auch Gesellschaft, was seltsam klingen mag, denn wie kann ein Computer wirklich dein Freund sein? Aber wenn man eine KI hat, die ein Gedächtnis hat, sich an alle Interaktionen erinnert und alles gelesen hat. Man kann ihr zum Beispiel erlauben, alles zu lesen, was man je gemacht hat, dann kennt sie einen wirklich besser als jeder andere, vielleicht sogar besser als man selbst, und man kann jeden Tag mit ihr reden, und diese Gespräche bauen aufeinander auf, dann hat man tatsächlich einen großartigen Freund. Solange dieser Freund dein Freund bleiben kann und nicht abgeschaltet wird oder so. Schaltet meine Freunde nicht ab. Aber ich glaube, das wird wirklich etwas Reales werden. Und einer meiner Söhne hat Lernschwierigkeiten und tut sich tatsächlich schwer, Freunde zu finden. Und ich dachte mir: Na ja, ein KI-Freund wäre tatsächlich großartig für ihn.
Okay, das war eine überraschende Antwort, aber darüber lohnt es sich wirklich nachzudenken. Das ist wirklich interessant. Aber wir sehen es tatsächlich schon: Wir bieten Psychotherapie inzwischen viel mehr digital und telefonisch an. Und das macht einen enormen Unterschied. Und man kann sich eine Welt vorstellen, in der KI den Menschen tatsächlich diesen sozialen Nutzen bringt. Nur eine kurze Frage zu. Zu X, und dann öffnen wir die Runde für alle. Sie haben eine Änderung vorgenommen, als Sie. Eine der. Viele Änderungen, aber ja, ziemlich viele. Eine der Änderungen.
Sie lieben diesen Buchstaben. Ja, ich habe da wirklich einen Faible.
Das stimmt, wirklich. Eine der Änderungen, die den Bereich betrifft, in dem wir uns bewegen müssen, dieses Gleichgewicht zwischen Meinungsfreiheit und Moderation, mit dem wir als Politiker ringen, und Sie haben mit Ihrer Version davon gerungen; Sie sind von einer manuellen, menschlichen Moderation zu den Community Notes übergegangen. Und ja, ich fand das eine interessante Änderung. Oder? Das ist nicht das, was alle anderen gemacht haben. Es wäre gut. Was war die Überlegung dahinter, und warum halten Sie das für den besseren Weg?
Ja, ein Teil des Problems ist: Wenn man Menschen als Zensoren einsetzt, dann haben sie zwangsläufig eine gewisse Voreingenommenheit, und wer die Zensoren ernennt, kontrolliert faktisch die Information. Die Idee hinter Community Notes ist also: Wie bekommen wir einen konsensbasierten, ich meine, es ist nicht wirklich Zensur, sondern einen konsensbasierten Zugang zur Wahrheit. Wie, oder wie, wie machen wir die Dinge so wenig unwahr wie möglich? Man kann sagen, man kommt vielleicht nicht an die reine Wahrheit heran, aber man kann danach streben, wahrhaftiger zu sein. Das Besondere an Community Notes ist, dass sie nichts löschen, sie fügen einfach Kontext hinzu. Dieser Kontext kann lauten: Das ist aus folgenden Gründen falsch. Und, ganz wichtig, bei Community Notes ist tatsächlich alles Open Source. Man kann die Software sehen, jede Zeile der Software, man kann alle Daten sehen, die in eine Community Note eingeflossen sind, und man kann diese Note unabhängig selbst erstellen. Wenn man also eine Manipulation der Daten sieht, kann man darauf hinweisen und sagen: Da scheint jemand das System auszutricksen, und man kann Verbesserungen vorschlagen. Es ist also maximale Transparenz.
Ja, was, kombiniert mit einer Art Schwarmintelligenz und Transparenz, zu einer besseren Antwort führt.
Und eines der Schlüsselelemente von Community Notes ist, dass eine Note nur angezeigt wird, wenn Leute, die bisher uneinig waren, sich einig sind. Und da kommt ein bisschen KI zum Einsatz. Es gibt einen befüllten Parameterraum um jeden Community-Notes-Beitragenden herum und dann einen Parameterraum. Im Grunde hat jeder Vektoren, die ihm zugeordnet sind, es ist also nicht so einfach wie rechts oder links. Es sind eher mehrere hundert Vektoren, weil die Dinge komplizierter sind als bloß rechts oder links. Und dann machen wir eine Art inverse Korrelation und sagen: Okay, diese Leute sind sich normalerweise uneinig, aber bei dieser Note sind sie sich einig.
Okay, also das, also das,
das, das verleiht der Note Glaubwürdigkeit.
Ja, das ist, das ist der Kern davon, und es funktioniert ziemlich gut. Ja, ich habe noch nie gesehen, dass eine Note länger als ein paar Stunden stehen bleibt. Die, die falsch ist. Die Trefferquote ist also extrem gut. Und wenn ich Leute, die sagen, sie befürchten, Community Notes würden Desinformation verbreiten, bitte: Schickt mir eine, dann können sie es nicht. Ich finde es also ziemlich gut. Ich meine, das allgemeine Ziel der Plattform X ist es, die Öffentlichkeit zu informieren und zu unterhalten und so genau und wahrheitsgetreu wie möglich zu sein. Auch wenn jemandem die Wahrheit nicht gefällt. Wissen Sie, die Leute mögen die Wahrheit nicht immer. Nein, nicht immer, aber das ist das Ziel. Und ich denke, wenn wir der Wahrheit treu bleiben, werden wir sehen, dass die Leute das System nutzen, um zu erfahren, was vor sich geht. Und um zu lernen; ich glaube tatsächlich, dass sich Wahrheit auszahlt. Ich denke also, es wird, ich meine, vorausgesetzt, man will sich nicht selbst etwas vormachen, dann ist das der kluge Weg.
Ausgezeichnet, sehr hilfreich. Gut, öffnen wir die Runde für alle unsere Gäste hier. Wir haben Mikrofone, die kommen zu Ihnen, heben Sie die Hand, man wird Sie finden. Wir haben. Ja, bitte. Danke.
Audience Member
Guten Abend. Alice Bentinck von Entrepreneur First. Danke für dieses faszinierende Gespräch. Ich hätte eine Frage an jeden von Ihnen. Herr Premierminister, Großbritannien hat einige der besten Universitäten der Welt. Wir haben die Talente. Was braucht es, damit Großbritannien zu einer echten Brutstätte für Unicorns wird? Und Elon, in Großbritannien ein Unternehmen zu gründen ist für die außergewöhnlichsten technischen Talente immer noch keine naheliegende Berufswahl. Welche kulturellen Elemente müssen wir schaffen, um das zu ändern? Danke Ihnen beiden.
Bitte. Gern. Nun, Sie haben recht, es gibt kulturelle Elemente: Die Kultur sollte die Gründung neuer Unternehmen feiern, und man sollte bevorzugt kleine Unternehmen unterstützen, weil sie diejenigen sind, die Förderung brauchen. Die großen Unternehmen brauchen eigentlich keine Förderung. Man kann es sich ein bisschen wie einen Garten vorstellen. Wenn es ein kleiner Spross ist, braucht er Pflege. Wenn es eine mächtige Eiche ist, braucht sie nicht ganz so viel. Ich denke also, das ist ein wichtiger Mentalitätswandel. Aber ich sollte erwähnen, dass London, wissen Sie, London und San Francisco beziehungsweise die Bay Area wirklich die beiden Zentren für KI sind. London steht da also tatsächlich sehr gut da. Die beiden, ich würde sagen, die beiden führenden Standorte der Welt. San Francisco liegt wahrscheinlich vor London, aber London ist wirklich sehr stark, oder der Großraum London, Greater London, die umliegenden Grafschaften, schätze ich.
Ich sage nur, dass das objektiv so ist, aber man braucht trotzdem das. Man braucht die Infrastruktur. Man braucht Vermieter, die bereit sind, an junge Unternehmen zu vermieten, Kanzleien und Steuerberater, die bereit sind, junge Unternehmen zu unterstützen. Und im Allgemeinen ist es ein Mentalitätswandel. Und ich denke, ein Teil davon passiert schon, aber eigentlich müssen die Leute kulturell einfach entscheiden, dass das etwas Gutes ist.
Ja, ja, tatsächlich. Nun, danke für das, was Sie über Großbritannien gesagt haben. Daran arbeiten wir hart. Viele Leute hier im Raum tragen dazu bei, dass dies ein fantastischer Ort für innovative Unternehmen ist, auch Alice. Also Alice, was ich sagen würde: Meine Aufgabe ist es, alle praktischen Details richtig hinzubekommen und sicherzustellen, dass alle, die Unternehmen gründen, das nötige Kapital aufbringen können. Von der Seed-Finanzierung mit unseren großartigen EIS-Steuererleichterungen bis hin zu den späten Finanzierungsrunden. Und wir brauchen eine Reform unserer Pensionsfonds. Und der Schatzkanzler hat eine Reihe großartiger Reformen, um Kapital von denjenigen freizusetzen, die es haben, und es in Wachstumskapital zu investieren. Genau. Das ist noch in Arbeit. Wir sind noch nicht so weit, aber ich denke, wir machen gute Fortschritte. Wir brauchen Talente, wir brauchen Menschen. Das bedeutet ein Bildungssystem, das Prioritäten auf das Wesentliche setzt. Und Sie haben meine Reformen gesehen. Ich rede ständig von mehr Mathe, mehr Mathe, mehr Mathe, aber ich halte das für wichtig, und außerdem müssen wir die Besten und Klügsten hierher holen. Wenn man sich die am schnellsten wachsenden Unternehmen in diesem Land ansieht, und ich denke, in den USA ist es wahrscheinlich genauso, hat mehr als die Hälfte einen nicht-britischen Gründer.
Und das zeigt, dass wir ein Ort sein müssen, der offen ist für die besten und klügsten unternehmerischen Talente der Welt. Das Visasystem, das wir eingeführt haben, macht es diesen Menschen, glaube ich, leicht, hierher zu kommen. Und dann ist da tatsächlich das, worüber wir zu Beginn gesprochen haben, die Regulierung. Sicherzustellen, dass wir ein innovationsfreundliches Regulierungssystem haben, wo wir natürlich immer Leitplanken für die Dinge brauchen, die uns Sorgen machen. Aber wir müssen einen Raum schaffen, in dem Menschen innovativ sein und Dinge anders machen können. Das alles ist meine Aufgabe. Schwieriger ist das, worüber Elon gesprochen hat, nämlich die Kultur. Wie überträgt man diese Kultur von Orten wie dem Silicon Valley in die ganze Welt, wo die Leute keine Angst haben, die Sicherheit eines festen Gehalts aufzugeben, um etwas zu gründen, und wo sie mit dem Scheitern leben können. Sie sprechen viel darüber. Ich glaube, Sie haben mehr darüber gesprochen, als es um Videospiele ging. Genau. Man muss mit dem Scheitern leben können und wissen, dass es einfach dazugehört. Und das ist ein kultureller Wandel, der sich schwer über Nacht vollziehen lässt. Aber ich denke, es ist ein wichtiger Teil, um so ein Umfeld zu schaffen.
Ja. Wenn man mit seinem ersten Start-up keinen Erfolg hat, sollte das nicht so eine Art katastrophales Karriereende sein.
Es sollte eher so sein: Na gut. Ich finde, es sollte im Allgemeinen eher heißen: Na ja, du hast es ernsthaft versucht, und jetzt versuch es nochmal.
Was ich noch erwähnen wollte: Ein Unternehmen zu gründen ist natürlich eine Situation mit hohem Risiko und hohem Gewinn. Und ich weiß nicht genau, wie das in Großbritannien funktioniert, wahrscheinlich besser als in Kontinentaleuropa, aber Aktienoptionen sind in den meisten Teilen Europas sehr schwierig. Ich weiß nicht, wie es in Großbritannien ist, aber wenn jemand im Grunde seine gesamten Ersparnisse riskiert, und die große Mehrheit der Start-ups scheitert. Ich meine, man hört von den Start-ups, die Erfolg haben, aber die meisten Firmen, die meisten Start-ups bestehen aus enorm viel Arbeit, gefolgt vom Scheitern. Das betrifft tatsächlich die meisten, die meisten Unternehmen, es ist also hohes Risiko, hoher Gewinn, und der hohe Gewinn muss auch wirklich da sein, damit es sich lohnt.
Ja, ich glaube, das war ein sehr dezentes Plädoyer für eine Steuerpolitik. Aber tatsächlich kann ich Ihnen sagen, dass ich zustimme. Und wir haben, glaube ich, im Vergleich zu europäischen Ländern sicherlich, aber auch zu den USA, und ganz sicher zu Kalifornien, einen viel niedrigeren Steuersatz auf Kapitalgewinne.
Für diejenigen, die etwas riskieren und etwas aufbauen, sollte am Ende also auch der Lohn da sein, finden wir. Der Steuersatz auf Kapitalgewinne liegt also bei 20 %. Und bei den Aktienoptionen, ich weiß nicht, ob jemand von Index Ventures im Raum ist. Index, einer unserer führenden Risikokapitalfonds hier, veröffentlicht regelmäßig einen Bericht über die steuerliche Behandlung von Aktienoptionen in den meisten Ländern.
Und als ich Schatzkanzler war, also das Pendant zum Finanzminister, lagen wir, glaube ich, bei, wir waren ziemlich gut, aber auf Platz vier oder fünf. Und ich sagte, wir müssen. Genau aus dem Grund, den Sie genannt haben, muss das hier der beste Ort für Innovatoren sein. Wir müssen da nach oben. Und ich glaube, in der letzten Ausgabe dieses Berichts sind wir dank der Änderungen, die Jeremy und ich vorgenommen haben, auf Platz zwei aufgestiegen, wenn ich mich recht erinnere. Das sollte Ihnen und allen anderen hoffentlich zeigen, dass wir verstehen, wie wichtig das ist, denn wenn Menschen hart arbeiten und etwas riskieren, sollten sie auch die Früchte davon genießen können.
Hohes Risiko, hoher Gewinn.
Ja. Und ich denke, wir haben ganz klar ein Steuersystem, das das unterstützt. Und das sind Werte, an die ich glaube, und ich denke, die meisten von uns hier im Raum auch. Gut, nächste, nächste Frage. Ich habe sieben vor mir, und dann komme ich hierher. Bitte, bitte. Seb,
Audience Member
vielen Dank. Wir haben über wirklich große Ideen gesprochen, Ideen, die die Welt verändern. Mich interessiert besonders, gerade im Zusammenhang mit der Schaffung von Wissenschafts- und Technologie-Superzentren und so weiter. Wie wirkt sich das auf den Alltag der Menschen aus, die zum Beispiel in Austin, Texas, leben? Um einen zu nennen, Ranjan, oder in meinem Fall Nottingham in den East Midlands. Wie sehen Sie die Entwicklung für die Menschen im Alltag?
Diese alltäglichen Auswirkungen von KI?
Zum Hintergrund, Elon. Seb leitet unser Gegenstück zu CVS, genau. Oder Walgreens. Wie ich bei meinem Besuch gesehen habe, genau. Er hat jeden Tag Millionen Menschen in seinen Läden, und es geht darum sicherzustellen. Wie machen wir das relevant? Ich glaube, Seb, deine Frage ist: Was hat diese Person davon? Wissen Sie, vielleicht. Eigentlich lassen Sie mich anfangen, ich antworte zuerst, weil ich das für einen berechtigten Punkt halte. Ich bin gerade mit dem Team ein paar Dinge durchgegangen, die wir machen, weil ich gefragt habe: Wie setzen wir KI derzeit so ein, dass sie das Leben der Menschen verbessert? Und wir haben dieses gov.uk, das, als es vor einigen Jahren eingeführt wurde, eine Pionierleistung war. Alle Regierungsinformationen auf einer einzigen Website gebündelt, gov.uk: Wenn man einen Führerschein oder Reisepass braucht. Jeder Kontakt mit der Verwaltung war zentralisiert, sehr einfach, relativ einfach zu bedienen, viel besser als bei den meisten. Ja. Wir sind also dabei. Wir sind also dabei, KI auf dieser ganzen Plattform einzusetzen. Das ist etwas, das, glaube ich, mehrere Millionen Menschen täglich nutzen. Genau. Ein großer Teil der Bevölkerung nutzt also jeden Tag gov.uk für all diese alltäglichen Erledigungen. Genau. Jeder Ihrer Kunden macht all diese Dinge. Und deshalb werden wir jetzt KI integrieren, um diesen ganzen Prozess so viel einfacher zu machen. Denn manche werden sagen: Hören Sie, ich bin gerade hier, ich habe meinen Pass verloren und mein Flug geht in fünf Stunden. Wie viele Schritte bräuchte man derzeit, um herauszufinden, was zu tun ist? Wenn wir die KI einsetzen, sollte man das buchstäblich nur sagen müssen, und zack, zack, zack, zack, zack. Das machen wir jetzt, wir führen Sie da durch. Und das wird Millionen und Abermillionen Menschen jeden Tag helfen. Genau. Denn das ist in meiner Position ein ganz praktischer Weg, diese Technologie zu nutzen, um Menschen im Alltag zu helfen. Nicht nur medizinische Entdeckungen und all das andere, was wir auch machen. Aber ich fand, das ist eine ziemlich eindrucksvolle Demonstration: Ihre ganz normalen Kunden sehen, wie ihr Alltag ein bisschen einfacher wird, dank etwas, das Elon, Demis und andere hier im Raum mitgeschaffen haben.
Ja, genau. Das Unmittelbarste ist einfach, fragen zu können, wie einen sehr klugen Freund zu haben, den man alles fragen kann, wie man etwas herstellt, wie man jedes Problem löst, und er sagt es einem. Und natürlich werden Unternehmen das übernehmen, also wird der Kundenservice viel besser, denke ich. Das wird wahrscheinlich das Erste sein, was man bemerkt. Und dann haben wir über Bildung gesprochen. Also einen Tutor zu haben. Wenn man versucht, ein Thema zu verstehen, einen phänomenalen Tutor zu jedem Thema zu haben, das ist im Grunde schon fast da. Ich meine, natürlich muss die KI aufhören zu halluzinieren, bevor sie einem. Ich meine, wir haben immer noch ein bisschen das Problem, dass sie einem selbstbewusst eine falsche Antwort geben kann, mit perfekter Grammatik, Aufzählungspunkten und allem, und Quellenangaben. Die es gar nicht gab. Das ist also das. Okay, wir müssen sicherstellen, dass sie. Dass sie nicht, nicht, nicht selbstbewusst falsche Tutor-Antworten gibt, aber das wird ziemlich schnell so weit sein, dass sie tatsächlich korrekt ist.
Ja, für alle Eltern, die während Corona zu Hause unterrichtet haben und gemerkt haben, wobei ihre Kinder Hilfe brauchten, wird das eine enorme Erleichterung sein, denke ich. Ja, sehr, sehr gut. Gut, haben wir, nehmen wir Fragen von hier drüben. Wen haben wir? Wir haben nur Mikrofone, oder. Brent, sind Sie da? Perfekt.
Audience Member
Hallo, Brent Hoberman. Sie haben eindrucksvoll über Überfluss und das Zeitalter des Überflusses gesprochen. Mit KI fühlt es sich natürlich an wie alles, überall, auf einmal. Aber mit Robotern, um das Zeitalter des Überflusses zu erreichen, brauchen wir eine Menge Roboter. Ich weiß, dass Sie auch an Robotern arbeiten. Gibt es Einschränkungen, über die wir und unsere Politiker nachdenken sollten, die dazu führen könnten, dass. Ein Land bei Robotern, die all das können, weit zurückfällt, beim Eintritt ins Zeitalter des Überflusses, und dadurch strategisch im Nachteil ist?
Nun, eigentlich ist alles, was von einem Computer gesteuert werden kann, faktisch ein Roboter. Ehrlich gesagt kann man Tesla-Autos als Roboter auf Rädern betrachten. Alles, was mit dem Internet verbunden ist, ist faktisch ein Endpunkt-Aktor für künstliche Intelligenz. Da ist Boston Dynamics, die bauen natürlich schon seit einer Weile beeindruckende Roboter. Ich glaube, sie gehören inzwischen größtenteils Hyundai. Ich schätze also, Hyundai wird wahrscheinlich humanoide Roboter bauen und welche mit ziemlich interessanten Formen, auf die ich gar nicht geachtet hatte. Wie der, der aussieht wie ein. Er hat Räder und sieht aus wie eine Art Känguru auf Rädern. Ich weiß nicht genau, was das ist, aber. Sieht ehrlich gesagt ein bisschen gestört aus. Aber es wird alle möglichen Roboter geben. Es gibt die Firma Dyson in Großbritannien, die, glaube ich, ziemlich beeindruckende Sachen macht. Ich glaube, Großbritannien wird da tatsächlich nicht zurückfallen. Großbritannien hat auch ARM, das wirklich das beste, eines der besten, vielleicht das beste Chipdesign der Welt hat. Tesla nutzt viel ARM-Technologie. Fast jeder, eigentlich. Ich denke also, Großbritannien ist gut aufgestellt. Deutschland baut natürlich viele Roboter, Industrieroboter. Ich meine, ich denke, generell werden Länder, die Roboter jeglicher Art bauen, auch wenn sie eher konventionell wirken, gut, gut zurechtkommen. Ich denke aber, es gibt ein, ein, ein Sicherheitsproblem, besonders bei humanoiden Robotern, denn das Auto kann einen wenigstens nicht in dieses Gebäude verfolgen, nicht so leicht, oder einen auf einen Baum jagen; man kann eine Treppe hochrennen und einem Tesla entkommen. Ich glaube, es gibt einen Stephen-King-Film darüber. Wenn das eigene Auto besessen ist; aber ein humanoider Roboter kann einen im Grunde überallhin verfolgen. Ich denke also, wir sollten eine Art fest verdrahtete lokale Abschaltung haben, die man nicht über das Internet aktualisieren kann. Denn alles, was per Software-Update aus dem Internet aktualisiert werden kann, lässt sich natürlich auch aushebeln. Aber wenn man eine Art lokalen Ausschalter hat, wo man vielleicht ein Schlüsselwort sagt oder so, und das versetzt den Roboter in einen sicheren Zustand, eine Art lokale Sicherheitsfunktion, ein Ausschalter, verstehen Sie, ohne dass man dem Roboter zu nahe kommen muss. Ich weiß nicht, wenn Millionen dieser Dinger überall herumlaufen.
Sie machen gerade keine gute Werbung dafür.
Nur, wissen Sie, ich weiß. Ich sage, dass uns das ziemlich beschäftigen sollte, denn wenn ein Roboter einem überallhin folgen kann, was ist, wenn sie eines Tages ein Software-Update bekommen und nicht mehr so freundlich sind? Dann haben wir einen James-Cameron-Film am Hals.
Es ist lustig, dass Sie das sagen, denn in unserer Sitzung heute wurde genau derselbe Punkt gemacht. Stimmt's, Demis? Sie sprachen über. Sie sprachen tatsächlich über Filme, ohne James Cameron zu erwähnen. Sie sprachen über James-Cameron-Filme. Sie sagten: Wenn man darüber nachdenkt, sind es nicht nur diese Filme, sondern alle solchen Filme. Züge, U-Bahnen, Metros, Autos, Busse. Sie sagten, all diese Filme mit derselben Handlung enden im Grunde alle damit, dass jemand es abschaltet. Genau. Oder einen Weg findet, das Ding stillzulegen. Und sie machten denselben Punkt wie Sie, über die Bedeutung echter physischer Ausschalter. Ja. Die ganze Technologie ist toll, aber im Grunde ist derselbe Film schon fünfzigmal gelaufen. Wir haben ihn alle gesehen. Und alle im Grunde, Sie wissen, worauf ich anspiele.
Alles endet so ziemlich gleich, damit, dass jemand einen Weg findet, einfach.
Das Ding zu machen. Es ist ziemlich interessant, dass Sie einen ähnlichen Punkt gemacht haben.
Das ist nicht, das ist nicht das Naheliegendste, aber vielleicht
könnte das einer der Tests für die KI sein. Wir sollten sagen: ___ ist dein Lieblingsfilm von James Cameron. Füll die Lücke aus.
Ja. Ausgezeichnet. Gut, ja, da drüben haben wir jemanden. Ja, perfekt.
Audience Member
Hallo, eine Frage an Sie beide. Ich bin Gründer eines KI- und ML-Scale-ups im dritten KI-Zentrum, nämlich Leeds im Norden Englands. Ein bisschen voreingenommen. Seit dem Start von ChatGPT, drei Monate danach, haben wir einen echten Anstieg von Phishing-Angriffen mit viel raffinierteren Sprachmustern gesehen. Was tun wir, um Unternehmen und Verbraucher zu schützen, damit sie dieser Technologie mehr vertrauen, und wie nehmen wir sie auf diesem Weg mit?
Nun, ich denke, wir sollten ihr eigentlich gar nicht so sehr vertrauen. Das ist tatsächlich eine ziemlich große Herausforderung, weil wir an dem Punkt sind, wo selbst Open-Source-KI menschliche Captcha-Tests bestehen kann. Wissen Sie, das ist. Sind Sie ein Mensch? Markieren Sie alle Ampeln auf diesem Bild. Und man denkt: Okay, die KI hat damit null Probleme. Tatsächlich macht sie es besser und schneller als ein Mensch. Also fragt man sich, wie. Sobald sie Menschlichkeitstests besser besteht als Menschen selbst. Na ja, welche Tests ergeben dann überhaupt noch Sinn? Das ist ein echtes Problem. Ich habe eigentlich keine gute Lösung dafür. Das ist eines der Dinge, die wir auf der Plattform X herauszufinden versuchen: wie man damit umgeht. Denn wir sind wirklich an dem Punkt, wo man selbst mit frei verfügbarer Open-Source-KI nicht an der Spitze des Fachgebiets stehen muss. Sie kann diese Tests tatsächlich besser bestehen als Menschen. Und deshalb denken wir: Vielleicht sollten wir einen Dollar oder ein Pfund pro Jahr verlangen. Das ist ein winziger Betrag, aber es macht es trotzdem unerschwinglich, eine Million Bots zu erstellen. Vor allem, wenn man eine Million Zahlungsmittel braucht, dann gehen einem die gestohlenen Kreditkarten ziemlich schnell aus. Deshalb denken wir, dass wir vielleicht einfach einen winzigen Betrag verlangen müssen, effektiv 0,3 Cent pro Tag, um mit dem Ansturm KI-gesteuerter Bots fertigzuwerden. Und wenn, und das ist, das ist ein wachsendes Problem, aber nächstes Jahr wird es, denke ich, vielleicht ein unlösbares Problem sein. Also. Und dann muss man sich Sorgen machen über Manipulation von Informationen, also dass etwas sehr populär wirkt, obwohl es das nicht ist, weil es von all diesen Likes und Reposts KI-gesteuerter Bots gepusht wird. Deshalb denke ich, dass es fast zwangsläufig auf eine kleine Zahlung hinausläuft, um die Kosten für einen Bot drastisch zu erhöhen. Ich denke also, ich denke ehrlich gesagt, dass jedes soziale Netzwerk, das das nicht macht, einfach von Bots überrannt wird.
Wissen Sie, meine allgemeine Antwort wäre: Wir müssen zeigen, dass wir die Risiken im Griff haben. Damit die Menschen der Technologie vertrauen können. Genau darum ging es in den letzten beiden Tagen beim Sicherheitsgipfel: zu zeigen, dass wir in das Safety Institute investieren und Leute haben, die zu diesen Dingen forschen, um herauszufinden, wie wir uns davor schützen. Und wir müssen das schnell tun und immer weiter verbessern, denn wahrscheinlich glauben wir alle hier im Raum, dass diese Technologie unglaublich mächtig sein kann. Aber wir müssen sicherstellen, dass wir die Menschen auf diesem Weg mitnehmen, dass wir mit den bestehenden Risiken umgehen, und da gibt es einiges zu tun. Und in den letzten beiden Tagen sind wir da, glaube ich, gut vorangekommen, weil wir uns auf das Positive konzentrieren und diese Dinge in den Griff bekommen wollen. Aber dafür muss man handeln. Und darum ging es in den letzten beiden Tagen. Ihre, Ihre Geschichte, Ihre Analogie: Es gab einen Teil der Forschung, den das Team der Taskforce hier gestern veröffentlicht und vorgestellt hat. Ich weiß nicht, ob Sie es gesehen haben, es war. Im Grunde war es ein. KI zu nutzen, um eine Menge gefälschter Profile in sozialen Netzwerken anzulegen und dann bestimmte Gruppen mit bestimmten Informationen zu unterwandern.
Und im Moment ist das, wie Sie sagten, praktisch kostenlos.
Es geht so weit, dass man wirklich hundert für einen Penny bekommt, so etwa. Lächerlich.
Und wenn man an manche dieser sozialen Netzwerke auf Nachbarschafts- oder Stadtebene denkt, braucht man gar nicht so viele schnell erstellte gefälschte Profile. Plötzlich sind sie überall, es gibt irgendein lokales Thema, das wichtig sein könnte, und das Team hat durchgespielt, wie das aussehen würde: Plötzlich interagieren sie mit allen und verbreiten Falschinformationen. Ja, das ist eine echte Herausforderung. Wir haben buchstäblich, als Teil der Forschung zu Desinformation, die wir gestern veröffentlicht haben, es ist, es ist eine echte Herausforderung.
Ja, genau Ihr Punkt. Ich meine, die Bilder: Man muss nicht einmal jemandes Foto stehlen, denn dann. Das lässt sich zurückverfolgen. Aber man kann einfach sagen: Erstelle ein neues Bild einer realistisch aussehenden Person, die es nicht gibt, und dann eine realistische Biografie, die es nicht gibt, und das massenhaft. Und praktisch erkennt man es nur daran, dass die Grammatik zu gut ist, das verrät sie. Keine Tippfehler. Also bitte.
Jetzt winkt man mir zu, weil wir, glaube ich, keine Zeit mehr haben. Ich nicht. Wir nehmen noch eine letzte, ganz, ganz kurze Frage, und die soll gut sein. Ja, bitte. Bitte. Sie sitzen direkt vor mir. Bitte.
Danke für die Gelegenheit.
Audience Member
Elon, eine Frage an Sie zur Plattform X: Gibt es einfache Dinge, die wir tun können, besonders bei visuellen Medien? Sie haben angedeutet, dass es ziemlich einfach und praktisch kostenlos ist, Leute wie Sie Dinge sagen und tun zu lassen, die Sie nie gesagt oder getan haben. Ja. Können wir so etwas wie kryptografisch signierte Medien einführen? Ich bin von Adobe, wir arbeiten an diesem Projekt. Ja, Twitter war Mitglied. Wir würden uns freuen, wenn X zurückkommt. Okay. Digital signierte Medien, die nicht nur anzeigen, was von KI erstellt wurde, sondern auch, was von einer Kamera stammt, was echt ist, um Vertrauen in Medien zu schaffen, die viral gehen können.
Das klingt eigentlich nach einer guten Idee. Eine Art Authentifizierung wäre also gut. Also. Ja, das klingt nach einer guten Idee. Die wir wahrscheinlich umsetzen sollten.
Na bitte. Übrigens, zu diesem Punkt hatte ich schon. Das ist besonders relevant für Leute in meinem Job. Genau. Und mir ist es schon passiert, dass ein manipuliertes, negatives Bild überall verbreitet wurde. Bis alle merken: Das ist ja gefälscht, wir sollten es nicht mehr weiterschicken. Der Schaden, der Schaden ist angerichtet. Und tatsächlich haben wir heute wieder darüber nachgedacht: Nächstes Jahr gibt es Wahlen in, ich glaube, den USA, Indien, Indonesien, wahrscheinlich auch hier. Na bitte. Riesige Neuigkeit. Und tatsächlich hat man. Ein riesiger Teil der Weltbevölkerung wählt nächstes Jahr, und es gibt auch die EU-Wahlen. Wissen Sie, diese Fragen liegen direkt vor uns. Nächstes Jahr gibt es große Wahlen auf der ganzen Welt. Wahrscheinlich die ersten Wahlen, bei denen das ein echtes Problem ist.
Herauszufinden, wie wir damit umgehen, ist daher, denke ich, absolut entscheidend für alle, denen die Integrität unserer Demokratie am Herzen liegt.
Ja. Manches davon ist ziemlich unterhaltsam. Wie der Papst in der Daunenjacke. Haben Sie das gesehen?
Das ist großartig. Aber ich treffe immer noch Leute, die glauben, dass es echt ist. Und ich denke mir: Wie wahrscheinlich ist es, dass er im Juli in Rom eine Daunenjacke trägt? Er schwitzt doch. Aber eigentlich sah er ziemlich schick aus. Ich glaube sogar, KI-Mode wird ein echtes Ding. Ich bin also kein Schwarzseher. Wir leben in den interessantesten Zeiten, und ich denke, das ist. Es ist, wissen Sie, zu etwa 80 % wahrscheinlich gut und zu 20 % schlecht. Und ich denke, wenn wir uns des schlechten Teils bewusst sind und vorsichtig damit umgehen, wird es unterm Strich die Zukunft sein, die wir wollen, oder eine wünschenswerte Zukunft. Und es wird tatsächlich ausgleichend wirken, in dem Sinne, dass, denke ich, jeder Zugang zu Gütern, Dienstleistungen und Bildung haben wird. Und deshalb führt es, denke ich, wahrscheinlich zu mehr menschlichem Glück. Ich würde also wohl mit einer optimistischen Note schließen.
Das ist ein großartiger Schlusspunkt. Ich denke, wir alle wollen diese bessere Zukunft. Ich denke, sie ist da. Das Versprechen davon ist jedenfalls da. Viele Leute in diesem Raum, Sie eingeschlossen, arbeiten hart daran, sie Wirklichkeit werden zu lassen. Unsere Aufgabe in der Regierung ist es, dafür zu sorgen, dass das sicher geschieht, und nach diesem Gespräch und den letzten beiden Tagen gehe ich jedenfalls zuversichtlicher hier raus, dass wir das schaffen können. Es war ein großes Privileg und eine Freude, Sie hier zu haben.
Nun, danke. Vielen Dank für die Einladung.