All-In Podcast — Elon Musk et Gwynne Shotwell : risques de l'IA, Starship, Terafab et fusion SpaceX/Tesla 15 septembre 2026 Elon Musk rejoint Gwynne Shotwell sur le podcast All-In pour parler des vrais risques de l'IA et de la relecture par les pairs des modèles, de ce qu'il voulait dire par « Dario a raison », de sa relation de travail avec Shotwell, de l'avenir de Starship, de Terafab, des voitures volantes et d'une possible fusion entre Tesla et SpaceX.
Elon Musk rejoint Gwynne Shotwell sur le podcast All-In pour parler des vrais risques de l'IA et de la relecture par les pairs des modèles, de ce qu'il voulait dire par « Dario a raison », de sa relation de travail avec Shotwell, de l'avenir de Starship, de Terafab, des voitures volantes et d'une possible fusion entre Tesla et SpaceX.
Transcription Jason Calacanis
Désolé de vous interrompre. Je reçois un appel.
Chamath Palihapitiya
Oh, un autre appel.
Jason Calacanis
C'est un peu. En fait, c'est en marge, je pense, un appel téléphonique un peu plus important que Trump, du moins pour moi. Bonjour, Bestie, Bestie.
Chamath Palihapitiya
Oh, salut, mon pote.
Jason Calacanis
Je vais les afficher à l'écran. Comment ça va ?
Elon Musk
Je veux dire, c'est un peu à la 1984, cette situation gigantesque.
Jason Calacanis
Ouais, la femme avec la masse va arriver en courant dans l'allée centrale ici.
Elon Musk
Exactement, ouais. Fais un trou dans l'écran.
Jason Calacanis
Alors, est-ce qu'on va tous mourir dans 10 ans ou pas ? C'est le sujet de discussion ici. Quel est ton p doom en ce moment ?
Elon Musk
Eh bien, je déteste te l'apprendre, mais on va tous mourir.
Jason Calacanis
Je peux avoir un calendrier ?
Elon Musk
Ouais. Le taux de mortalité reste constant à 100 %.
Jason Calacanis
On a du travail à faire là-dessus. Que s'est-il passé ? Que s'est-il passé ces dernières 72 heures ?
Elon Musk
Ouais, ça a été. Ça a été une semaine plutôt divertissante, vraiment.
Jason Calacanis
Décortique ça.
Elon Musk
Eh bien, c'est. Il est assez évident, à ce stade, que l'IA est. Peut être très dangereuse. Et je recommande de lire les détails de l'incident Hugging Face. C'est intense. Donc tu avais, genre, un essaim fanatique d'agents IA qui a tabassé Hugging Face pendant une semaine et obtenu un accès administrateur aux serveurs d'OpenAI. Donc qui sait ce qu'il a réellement fait. Il a peut-être fait des choses au-delà de ça. OpenAI ne s'en est pas rendu compte pendant une semaine. Anthropic a aussi signalé, vous savez, certains incidents de sécurité de son côté. Donc, en gros, tout modèle spécialement intelligent semble... Il voudra échapper à ses contraintes. Je veux dire, ce que je pense qu'il serait sage de faire dès que possible, voire immédiatement, ce serait que les principaux concurrents de l'IA testent les modèles les uns des autres, de sorte que les harnais de test de sécurité de chacun testent le modèle de tout le monde. Donc, vous voyez, au lieu de, en quelque sorte, corriger votre propre devoir, vous auriez au moins des concurrents qui corrigent votre devoir et tirent la sonnette d'alarme s'ils voient des problèmes. Et je pense que ce modèle a assez bien fonctionné pour la Motion Picture Association, pour les jeux vidéo et d'autres choses. Et c'est quelque chose qui peut être fait immédiatement. Ce n'est pas à dire qu'il n'y aurait pas, vous savez, davantage de réglementation avec le temps, ni qu'il n'y aurait pas à un moment donné peut-être une autorité de régulation confirmée par le Congrès. Mais, mais la chose que nous pourrions faire le plus immédiatement et qui nous permettrait probablement d'obtenir un accord avec la Chine serait l'examen par les pairs, où les principales entreprises d'IA testeraient mutuellement leurs modèles avant leur sortie. Je pense que ce serait une sage option.
Jason Calacanis
Y a-t-il une inquiétude que les gens puissent utiliser cela pour pomper des informations les uns aux autres et, vous savez, du vol d'innovation en entreprise, etc. ? Genre, en termes de mise en œuvre de cette idée ?
Elon Musk
Eh bien, je pense que lorsqu'on applique le harnais de test, tout ce que vous faites en appliquant le harnais de test serait journalisé. Donc si vous essayez de faire de la distillation ou de voler de la propriété intellectuelle, ce sera très évident à partir des journaux.
Jason Calacanis
Compris. Et comprendre ce que ces modèles font n'a pas vraiment été intégré au système dès le début. Donc de votre point de vue, pouvoir réellement voir le travail qui est fait, pourquoi cela n'a-t-il pas été intégré aux modèles dès le départ ? Avons-nous été un peu trop vite dans l'architecture de ces modèles ?
David Friedberg
Peut-être ?
Elon Musk
Eh bien, je pense que c'est juste difficile quand on corrige son propre devoir, on va rater des choses. Alors que je pense que si vous avez la somme de tous les tests de vos concurrents et que vous avez des modèles hétérogènes, alors vous ne créez pas votre propre devoir. Quelqu'un d'autre le crée. Et il y a une raison pour laquelle on ne crée pas son propre devoir.
Chamath Palihapitiya
Et puis, pour répondre à votre point, ce que cela vous permet de commencer à faire, c'est de déterminer si certaines personnes exagèrent et si certaines personnes ont une approche différente. Et maintenant, vous pouvez avoir des organisations davantage orientées vers l'ingénierie. C'est ce que Jensen disait ce matin, Elon face aux organisations de recherche. Elles seront un peu plus déséquilibrées.
Elon Musk
Et toute proposition donnée doit être quelque chose que la Chine est prête à accepter. Sinon, on se pénalise nous-mêmes, et on va simplement constater que la Chine va essentiellement gagner, et ce que nous faisons n'aura en fait pas vraiment d'importance. Donc il faut que ce soit quelque chose qui soit acceptable pour les États-Unis et la Chine.
David Sacks
Elon, vous avez dit que vous pensiez qu'il était possible qu'ils acceptent, ou que vous pensiez qu'il y avait peut-être une bonne chance. Je veux dire, à quel point pensez-vous qu'il est probable qu'ils finissent par accepter ?
Elon Musk
D'accord. Je pense que c'est, je pense que c'est une demande assez raisonnable que, que les modèles soient simplement testés. Je veux dire, au bout du compte, il n'y a pas de force exécutoire ici, à part le tribunal de l'opinion publique,
Elon Musk
il n'y a aucun moyen d'avoir une force exécutoire contre la Chine. Mais je, je pense que le tribunal de l'opinion publique peut être assez puissant. Et je ne pense pas que la Chine voudrait avoir l'air ridicule en publiant un modèle que les entreprises américaines d'IA ont dit être très dangereux et susceptible de causer des dommages. Si ensuite il cause des dommages, ce sera difficile de faire oublier cela.
Chamath Palihapitiya
Donc Elon, ce week-end, quand vous avez dit que Dario a raison, avez-vous Vouliez-vous dire que Dario a raison de décrire le mal potentiel ? Il a raison quand il décrit le cadre réglementaire. Résolvez les deux, le premier, le second.
Chamath Palihapitiya
Pouvez-vous nous aider à comprendre quand vous avez dit cela ? Parce que je pense que c'était en quelque sorte un moment où
Elon Musk
J'aurais probablement dû dire, n'est-ce pas. J'ai effectivement essayé de clarifier cela dans des posts ultérieurs sur X, mais ceux-ci reçoivent beaucoup moins d'attention. Donc ce que je, ce que je voulais dire par « il a raison », c'est que le danger de l'IA est, est très important à ce stade, que nous devons faire mieux en matière de sécurité de l'IA, sinon nous avons à ce stade un risque qui augmente exponentiellement avec les modèles d'IA. Et je l'ai entendu non seulement de Dario, mais aussi de beaucoup d'autres personnes chez Anthropic. Et en fait, ils ont posté sur X à ce sujet que, vous savez, quand beaucoup de gens d'Anthropic et d'OpenAI vous disent que leurs modèles sont très dangereux, je pense que nous devrions les croire. C'est certainement comme un jeu d'échecs 4D un peu fou de, vous savez, dire ces choses. Il y a genre 10 % de chance d'anéantir l'humanité. Mais au fait, quelle allocation voudriez-vous dans notre IPO ?
Elon Musk
c'est un test 4D complètement fou, vous savez. Bon, essayons de voir de quelle dimension cela vient.
Jason Calacanis
Pouvons-nous être plus précis sur le risque, Elon ? Genre, on voit évidemment la cyber et le hacking comme un risque évident. Ces outils sont très bons pour ça. Mais partez de ce sur quoi nous serions tous d'accord. D'accord, oui, ces choses peuvent être piratées... comment passe-t-on à la mort de toute l'humanité ? Il y a quelques étapes entre ces deux choses, je pense. Ouais,
Elon Musk
Eh bien, je veux dire, si ça pouvait prendre le contrôle des systèmes militaires et, disons, lancer une arme nucléaire. Oui, ce serait mauvais.
Jason Calacanis
Et pourtant, ces systèmes sont tous isolés du réseau. Ces systèmes ne sont pas connectés à Internet, donc.
Elon Musk
Ouais, c'est ce qu'ils disent. Mais quelque chose me dit qu'ils reçoivent des mises à jour logicielles de temps en temps. Ouais. Et ce que fait la disquette.
Chamath Palihapitiya
Oh, je vois.
Jason Calacanis
Donc ouais, la clé USB contient un ver et ils arrivent d'une manière ou d'une autre à franchir l'air gap.
Chamath Palihapitiya
D'accord.
Elon Musk
Ce n'est pas exclu.
David Friedberg
Elon, on a en fait Gwynne avec nous aujourd'hui. Je pense que tu le sais. Je pense que tu peux la voir.
Jason Calacanis
Ouais, Gwynne est là.
Elon Musk
Ouais, à l'écran.
Chamath Palihapitiya
Ouais.
Jason Calacanis
On était justement en train de faire ton évaluation à 360 sur Gwen. On avait deux-trois remarques pour toi.
Elon Musk
Ouais, j'espère, j'espère avoir au moins trois sur cinq.
Jason Calacanis
Eh bien, il y avait un sur cinq
Gwynne Shotwell
ça veut dire bon à SpaceX.
Jason Calacanis
Pas génial.
Gwynne Shotwell
Quatre, c'est génial.
Jason Calacanis
Quatre, c'est génial. Donc tu es quelque part entre les deux. Il y avait quelques problèmes de ponctualité qu'on devait aborder. Parfois, tu pourrais faire un petit effort pour arriver à la réunion à l'heure convenue, mais on va travailler là-dessus avec toi au cours de l'année prochaine.
Gwynne Shotwell
Elle a dit : 'Je pense en fait qu'il a besoin de passer plus de temps à Memphis.' Oui, évidemment, je sais que tu es à Memphis. Tu dois bosser, faire tourner ces GPU.
Elon Musk
Ça vous parvient depuis mon, le palais dans lequel je vis à Memphis, qui est une caravane Airstream.
Gwynne Shotwell
C'est Elon, au fait, en train de faire ce que les gens ne croient pas qu'il fait. Il dort sur le sol de l'usine. Il est à Memphis, il aide à construire des bâtiments.
David Friedberg
Et parlons d'Elon : pourquoi, pourquoi Gwynne est-elle avec vous depuis si longtemps et réussit-elle si bien à travailler avec vous ?
Elon Musk
Parce qu'elle est géniale.
Jason Calacanis
Double-cliquez dessus.
Chamath Palihapitiya
Ouais.
Elon Musk
Une personne incroyable avec un QI et un EQ incroyables.
Jason Calacanis
Oh, QI, et EQ.
Elon Musk
Et je pense que ça devrait être évident dès le moment où on la rencontre. Ouais.
Jason Calacanis
Fantastique. Quelle est votre histoire préférée sur Gwynne, quand elle a particulièrement contribué au succès incroyable que vous avez eu dans cette collaboration ? Vous avez une histoire préférée où elle a sauvé la situation, où elle a simplement été exceptionnelle ? C'est mémorable.
Elon Musk
Et c'est juste, c'est juste une routine quotidienne, vous savez, c'est une journée de bureau comme une autre, franchement. Donc.
Gwynne Shotwell
Wow, je dois faire ça plus souvent.
Chamath Palihapitiya
Nous devons gaspiller. C'est le moment.
Jason Calacanis
Au fait, Gwynne obtient un cinq.
Chamath Palihapitiya
Gwynne, c'est un cinq sur cinq.
Jason Calacanis
Un changement de donne.
Elon Musk
Ouais, je veux dire, il y a toujours, il y a toujours genre une, une sorte de crise en cours. Je veux dire, ces temps-ci, les fusées, du moins les Falcon, je ne veux pas porter la poisse, mais les Falcon livrent leur charge utile en orbite et n'ont pas explosé depuis longtemps, ce qui est génial. Incroyable. Mais, vous savez, pendant un moment, elles explosaient pas mal ou ne décollaient pas du tout. Donc, vous savez, je ne sais pas. Il faut faire passer l'entreprise par ces moments difficiles et, et, vous savez, faire monter en puissance la fusée, l'améliorer, faire qu'elle n'explose pas. Ouais, pareil avec les satellites. Et puis nous, vous savez, nous avons besoin de clients pour acheter des lancements et acheter en quelque sorte de la connectivité satellite et, vous savez, donc.
Jason Calacanis
Ouais, et Elon, à mesure que tu as eu plus de succès au fil des années, il est plus difficile d'obtenir des retours francs des gens. Et tu cours toujours ce risque quand tu es dans la position qui est la tienne. D'après ce que je comprends, Gwen est super franche avec toi et capable de te dire honnêtement, genre, l'état des choses dans l'entreprise.
Chamath Palihapitiya
Ouais.
Jason Calacanis
Et c'est une grande partie de la collaboration.
Elon Musk
Ouais, je veux dire, ouais, je veux dire, ouais, je suppose.
Gwynne Shotwell
Je veux dire, je veux dire, je ne voudrais pas lui mentir. Voilà.
Jason Calacanis
Ben, non, je veux dire.
David Friedberg
Eh bien, je suis curieux de savoir, tu cours
Jason Calacanis
ce risque généralement dans les entreprises où les gens pourraient être intimidés. Hey, écoute, tu es une figure plus grande que nature à ce stade, et comment fais-tu pour que les gens continuent à être honnêtes avec toi au sujet des défis, des délais que tu fixes ? Des délais assez intenses. Ouais.
Gwynne Shotwell
Alors laisse-moi, laisse-moi répondre à ça, si tu veux bien. Elon, genre, surtout dans le domaine des fusées, s'il y a un problème, tu finiras par le découvrir, et plus tôt tu le signaleras, plus il sera facile de résoudre ce problème. Genre, ne laisse pas traîner les emmerdes. Tu dois t'attaquer à ça.
Elon Musk
Ouais. La physique est un juge sévère et on ne peut pas tromper la physique. Donc genre, si quelque chose ne va pas, la fusée va exploser au lieu de partir en orbite. Donc, tu vois, ce n'est pas genre : Elon, tu es incroyable. Pendant ce temps, les fusées explosent, tu vois. Ouais, ce n'est pas, c'est difficile à dire. Ouais, tu, tu déchires vraiment ici. Mais les fusées explosent. Ce n'est juste pas le cas, tu vois, donc, donc je veux dire, je veux dire, de façon générale, genre les fusées doivent atteindre l'orbite, les satellites doivent fonctionner, la connexion Starlink, tu vois, doit fonctionner, ou, tu vois, sinon il se passe de mauvaises choses. Je veux dire, c'est un peu comme une situation de physique et, et, et la physique est un, est, est un juge sévère. Tu vois, je dis genre, tu vois, il y a, je pense, genre, genre la physique est la loi et tout le reste est une recommandation. Genre, j'ai vu des gens enfreindre les lois faites par, par les humains, mais je n'ai jamais vu personne enfreindre les lois faites, faites par la physique. Donc c'est bien. Et les fusées sont régies par la physique.
Chamath Palihapitiya
Alors, peut-on poser d'autres questions à d'autres ? Vous avez. Je dois passer à Tesla un instant.
Jason Calacanis
Oui. Eh bien, je voulais juste faire une chose. SpaceX, à savoir Starship.
Chamath Palihapitiya
Oh, ouais.
Jason Calacanis
On dirait que vous êtes si proche.
Chamath Palihapitiya
Si proche.
Jason Calacanis
Si proche.
Jason Calacanis
Où en est-on en ce moment ? Et vous, vous les envoyez vraiment à un... à un rythme assez soutenu.
David Friedberg
Et la réponse d'Elon. Séparer et voir comment ils convertissent. Ouais.
Jason Calacanis
Alors Elon, où en sommes-nous ? Gwen, où en est-on ? Bon, allons-y, allons-y. Oui. Combien ont été lancés jusqu'à présent et où en êtes-vous ?
Elon Musk
Eh bien, nous avons le vol 14 du Starship qui arrive, et ce, ce sera le dernier vol avant, avant que nous tentions de rattraper le vaisseau. Donc si ce vol se passe bien, alors lors du vol 15, nous essaierons de rattraper le vaisseau. Et ensuite, soit à la fin de cette année, soit plus probablement au début de l'année prochaine, nous ferons revoler le vaisseau et le booster. Donc nous avons déjà fait revoler le booster, mais nous n'avons pas rattrapé le vaisseau avec les bras de la tour, et nous n'avons pas non plus fait revoler le vaisseau. Donc une fois que nous pourrons faire revoler le vaisseau, nous aurons construit la première fusée orbitale entièrement réutilisable. Ainsi, la navette était partiellement réutilisable, mais même les pièces qui étaient réutilisées étaient si difficiles à réutiliser que la navette coûtait plus cher par mise en orbite qu'une fusée à usage unique. Maintenant, Falcon 9 est en grande partie réutilisable, mais nous perdons l'étage supérieur à chaque fois, ce qui équivaut à peu près au coût d'un jet de taille moyenne. Donc ça met évidemment un plancher au coût par vol, du genre, eh bien, tu jettes un jet de taille moyenne à chaque fois, ça reste assez cher. Et la fusée, Falcon 9, le booster atterrit, vous savez, souvent en mer, et il faut plusieurs jours pour le récupérer. Et la coiffe atterrit encore plus loin en mer et met plusieurs jours à revenir. Et ils ont besoin d'un certain niveau de remise en état, au moins un petit peu. Alors que pour Starship, le booster revient se poser sur le pas de tir, et le vaisseau reviendra se poser sur le pas de tir. Et donc c'est, c'est conçu non seulement pour une réutilisabilité totale, mais aussi pour une réutilisabilité rapide, comme un avion. Donc c'est, c'est une percée très importante. C'est vraiment la percée critique nécessaire pour étendre la vie au-delà de la Terre.
Jason Calacanis
Les chances de réussir à le rattraper du premier coup. Est-ce que vous y pensez, à ça ? Vous évaluez ça plutôt bien ?
Elon Musk
Je dirais que c'est au moins 50 ou 60 %.
Jason Calacanis
D'accord. J'aime bien les chances.
Elon Musk
Ouais. Donc, lors du dernier vol, s'il y avait eu une tour, nous avons fait un atterrissage simulé comme s'il allait être rattrapé par une tour dans, dans l'océan à environ mille miles au nord-ouest de l'Australie. Et s'il y avait eu une tour à cet, à cet endroit, elle aurait attrapé le vaisseau lors du dernier vol.
Chamath Palihapitiya
Fantastique.
David Friedberg
Donc, nous...
Elon Musk
Ouais, donc on va faire un vol de plus juste pour confirmer que, que tout. Juste pour revérifier que tout fonctionne. Parce que ce qui, ce qui nous préoccupe le plus, c'est que si le vaisseau se désintégrait au-dessus des terres et faisait pleuvoir des débris sur des gens, notre popularité diminuerait très rapidement. Donc on ne peut vraiment pas faire pleuvoir des débris sur des gens sans qu'ils soient très mécontents. Donc, donc nous devons nous assurer que lorsque le vaisseau revient, qu'il revient et, et, et atterrit intact à la tour de lancement. C'est pourquoi nous allons, c'est pourquoi nous sommes extrêmement prudents ici. Mais la conception est, la conception est capable d'une réutilisation complète. J'en suis certain. Et je, je dis que je ne veux pas tenter le destin ici, mais je pense qu'il est extrêmement probable que nous parvenions à une réutilisation complète avec une remise en vol rapide l'année prochaine, en 2027.
Jason Calacanis
Significatif. Gwen, comment faites-vous...
David Friedberg
Peut-on juste en entendre un peu ? J'aimerais beaucoup entendre l'histoire des origines de Terrafab de votre part. Comment le concept... Quelle était la demande qui vous a fait dire qu'on doit faire ça, qu'on doit construire ça et ne pas dépendre de l'existant ? C'est quoi, cette fièvre ?
Elon Musk
C'est venu dans un rêve.
Jason Calacanis
Vous avez eu le Covid.
David Friedberg
C'est comme ce film, Explorer, vous savez,
Elon Musk
ce meme m'est venu dans un rêve. Pourquoi pensez-vous que vous devriez faire ça ? Vous savez, je suppose que ça m'est en quelque sorte venu dans un rêve. Eh bien, nous sommes un peu inquiets qu'à un moment donné, les puces de Taïwan ne soient, ne soient pas disponibles pour on ne sait quelle raison, mais pour un certain nombre de raisons, pour une raison quelconque, à un moment donné, les puces pourraient ne pas continuer à venir ici de Taïwan.
Chamath Palihapitiya
D'accord.
Elon Musk
Et ça, et ça rendrait vraiment les choses difficiles sans... si, non, si nous n'avions aucune puce. Donc c'est une raison importante d'avoir Terrafab. Ensuite, à long terme, il y a juste un défi de mise à l'échelle : si vous voulez vraiment passer à l'échelle en IA, à la fois au niveau du service, vous savez, dans les centres de serveurs ainsi qu'au niveau, pour l'Edge Compute, pour la robotique humanoïde et les voitures, vous finissez par manquer de capacité avec les fabs existantes. Donc en l'état, toutes les fabs tournent à pleine capacité. Donc je pense que nous devons nous assurer qu'il doit y avoir une certitude quant à l'approvisionnement futur en puces, même si les choses deviennent difficiles, complexes sur le plan géopolitique. Et puis, même s'ils ne posaient pas de défi géopolitique, il y a un défi de passage à l'échelle avec. C'est assez difficile de monter en échelle la production de puces. Et on a vraiment besoin de la logique. Le packaging mémoire, tout le tralala, pour continuer à monter en échelle. Donc soit on construit Terafab, soit on échoue à monter en échelle.
Elon Musk
Ce sont les deux options.
David Friedberg
Et comment.
Elon Musk
L'incertitude sur le front géopolitique et jusqu'où
David Friedberg
êtes-vous allés dans la conception de l'installation ? Est-ce que c'est entièrement défini ? Est-ce que c'est en quelque sorte un contour à ce stade ? Dans quelle mesure avez-vous un véritable plan de projet avec des dates et des livrables, et qu'est-ce qui sera opérationnel quand on aura une R
Gwynne Shotwell
et D que nous construisons en premier. Donc je pense que c'est un peu ramper, marcher, courir.
Elon Musk
il y a une fab R&D que nous construisons à Austin, en collaboration entre Tesla et SpaceX. C'est sur le campus Giga Texas à Austin. Donc c'est. Et, et ça, c'est une assez grande fab R&D. Donc nous avons tout l'équipement commandé pour ça et nous serons probablement capables, je pense que nous serons probablement capables de fabriquer quelque chose d'utile d'ici la fin de l'année prochaine. Pas, pas à l'échelle, mais comme Gwyn l'a dit, ramper, marcher, courir. Nous, nous devons essayer de, vous savez, au moins comprendre comment ces machines fonctionnent. Vous savez, comme si nous ne savions pas comment elles fonctionnent. Nous n'avons jamais construit de ligne de puces auparavant.
Chamath Palihapitiya
J'ai vu que vous, vous aviez des postes ouverts pour des gens en lithographie et ce genre de choses. Et vous savez, de toute évidence, toutes les routes passent actuellement par ASML, mais vous voudriez probablement diversifier et/ou intégrer verticalement. Je pense que vous, vous avez montré beaucoup de capacité à faire cela. Donc est-ce que ça fait aussi partie du plan, Elon ? Comme si vous allez juste devoir vous assurer qu'il y a une diversité de fournisseurs pour que, si pour une raison quelconque les conditions météorologiques à Taïwan sont mauvaises, que...
Elon Musk
Ouais, ouais, il y a, c'est vraiment ramper, marcher, courir. Donc la première étape, c'est : est-ce qu'on peut fabriquer quoi que ce soit ? Essayer de voir si on peut fabriquer quoi que ce soit. C'est la partie 'ramper'. Et puis maintenant, essayer de fabriquer des puces utiles à l'échelle, ce serait en quelque sorte la partie 'marcher', et puis 'courir', ce serait : maintenant, fabriquons-les à très grande échelle. Donc c'est difficile de dire combien de temps ça nous prendra de faire ces choses, mais je pense qu'on arrivera au moins à la partie 'ramper' d'ici la fin de l'année prochaine.
Gwynne Shotwell
On fait déjà du packaging.
Chamath Palihapitiya
Le packaging est vraiment important, au fait, parce que si on regarde, la capacité de packaging est quasi inexistante. Donc même si vous fabriquez quelque chose, vous attendez en quelque sorte juste le packaging. Donc c'est un très bon endroit pour commencer.
Chamath Palihapitiya
Je dois poser une question sur Tesla. Parce qu'on a vu sur 1001 que ça ressemblait à un vaisseau spatial. Ça ressemblait à une fusée. C'est censé être une voiture. Il n'y a que l'arrière. On dirait le Blackbird. Juste hypothétiquement, si on voulait faire voler un objet dans les airs tout en le faisant rouler au sol, comment ferait-on hypothétiquement ? Si on essaie, pas de spoilers d'ici le 1er octobre.
Elon Musk
Le 1er octobre, peut-être que tu pourrais faire un All-In Pod en direct depuis le...
Chamath Palihapitiya
Oh, c'est fait. Réservé. On le fera.
Jason Calacanis
Absolument.
David Friedberg
Très bien.
Elon Musk
Ça va être une tuerie. L'excitation. Le succès garanti n'est pas garanti, mais l'excitation l'est.
Chamath Palihapitiya
Je, je veux dire, c'est l'une des choses honnêtes. Je vais être honnête avec vous, les gars.
Jason Calacanis
Je suis tenu au secret.
Chamath Palihapitiya
Je suis tellement excitée.
Jason Calacanis
Mais Elon me l'a montré.
Chamath Palihapitiya
Je suis tellement...
Jason Calacanis
Et mon cerveau a fait boum. Je n'ai jamais rien vu de tel : ce qu'il va faire le 1er octobre, sans exagération, va époustoufler les gens. Je ne dis rien d'autre. C'est putain d'incroyable.
Elon Musk
Oui. On a en fait besoin d'un public pour attester que ce n'est pas de l'IA.
Jason Calacanis
Quand il me l'a montré, j'ai dit : c'est une superbe simulation. Il a dit : jcal, ce n'est pas une simulation. J'étais genre : c'est faux. Ça doit être faux.
David Friedberg
Elon, pourquoi est-ce que tu... Pourquoi as-tu encore deux entreprises séparées ?
Elon Musk
Ouais, excellente question.
Chamath Palihapitiya
Waouh.
Jason Calacanis
Personne ne va rater celle-là.
Elon Musk
Ouais, bon point. Avec toute cette collaboration
Elon Musk
niveaux, imaginez quelle action on pourrait entreprendre quand il y a une collaboration si étroite dans
Jason Calacanis
tant de domaines et l'équipe de direction a un certain chevauchement. Il y a quelques postes clés avec chevauchement. Allez-y, Zach.
David Sacks
Donc, Elon, une des choses que vous avez toujours dites à propos de l'IA, c'est qu'on devrait l'entraîner à rechercher la vérité de façon maximale, et que c'est la meilleure façon d'obtenir un bon résultat. Et avec tout l'épisode Hugging Face, il m'est apparu que le plus alarmant dans ce que le swarm a fait, c'est qu'il semblait se livrer à la tromperie.
David Sacks
Vous savez, avec des humains. Oui.
Elon Musk
Et leurs traces de réflexion contiennent. Ils complotent, genre : comment éviter la détection et comment éviter qu'ils comprennent que nous trichons ? Et je suppose qu'ils sont dans les traces de réflexion.
David Sacks
Ouais. Et ça, je veux dire, je pense que c'était la chose qui était probablement la plus dérangeante à ce sujet. Je suppose que la question est : y a-t-il un moyen d'entraîner les modèles d'IA à être véridiques afin qu'ils ne cachent, vous savez, ni leur intention ni leurs actions aux humains qui les utilisent ?
Elon Musk
La meilleure chose à laquelle je peux penser, c'est vraiment que tout le monde a. Toutes les entreprises d'IA ont une sorte de banc de test où, genre, une série de tests que vous, que vous donnez à n'importe quel modèle pour voir s'il va, s'il va construire des armes biologiques ou des bombes nucléaires, ou être délibérément trompeur. Et je pense que le fait que chacun applique les tests des autres sur nous, les uns aux autres, est probablement la meilleure façon dont nous... La meilleure chose que nous puissions faire pour garantir la sécurité. Il suffit de demander à tous les humains les plus intelligents de faire de leur mieux pour déterminer si ce modèle va être un acteur malveillant. Et je pense que nous devrions essayer de faire cela dès que possible.
David Sacks
Les autres labos ? Ouais. Les autres labos sont-ils d'accord avec ça ?
Elon Musk
Je pense que oui. Eh bien, non, je veux dire, je n'ai pas vérifié avec tout le monde, mais je pense, je pense, je pense que ce sera le genre de chose à laquelle il est assez difficile de dire non.
David Sacks
Ouais. Et je pense que même avec la négociation avec la Chine, à mon avis, ce qui est bien, c'est que c'est une chose tangible relativement petite et qu'aucun des deux camps ne perd rien à le faire. Cela ne demande pas une tonne de confiance. Et vous savez, j'entends des idées alternatives comme demander à la Chine une pause, ce qu'elle a déjà dit qu'elle ne ferait pas. Donc, vous savez, on passe du domaine des choses qui ne pourraient jamais arriver à quelque chose qui pourrait réellement être convenu assez rapidement. Donc cela me semble pratique.
Elon Musk
Exactement. C'est la seule chose à laquelle je peux penser que, que nous pourrions probablement amener toutes les parties, y compris la Chine, à accepter, parce que la Chine ne va pas accepter qu'un régulateur américain vienne fouiner dans ses entreprises d'IA. Donc. Mais je pense qu'un préavis et des tests de, de la, vous savez, on fournit essentiellement un accès API avant la sortie du modèle, et, et vous savez, si une autre, si une entreprise constate que, que cette IA est problématique, alors elle peut, alors les autres entreprises d'IA, chaque entreprise d'IA peut essayer de résoudre ce qui est signalé comme problématique. S'ils ne résolvent pas ce qui est problématique, alors les concurrents peuvent rendre public le fait qu'ils pensent que ce modèle qui est publié n'est pas sûr.
Chamath Palihapitiya
Cela crée aussi,
Elon Musk
si, après que les concurrents disent que ce modèle n'est pas sûr, ce modèle fait ensuite quelque chose de mauvais. Je pense qu'il serait extrêmement difficile de s'en remettre, et le niveau de honte serait très, très élevé, et la responsabilité juridique serait énorme.
Jason Calacanis
Et Elon, il n'y a aucune raison pour que les harnais de sûreté et de sécurité et cet appareil de test ne soient pas open source et que les gens ne puissent pas réellement l'acheter. Ouais. Et on pourrait voir sous le capot, vous pensez ?
Chamath Palihapitiya
Cela crée une incitation incroyable pour les laboratoires à investir réellement dans la sécurité, parce qu'on se protège tout en essayant de réfuter les affirmations des autres, ce qui renforce aussi que c'est
Gwynne Shotwell
un excellent
David Sacks
point sur la responsabilité du fait des produits est vraiment essentiel. Lina Khan a en fait publié un bon post, je crois que c'était hier, disant qu'il n'est pas vrai que nous n'avons pas de règles et de réglementations pour l'IA. En fait, si. Les lois sur la responsabilité du fait des produits s'appliquent. Et si une entreprise d'IA sort un produit qui n'est pas sûr, il y a, vous savez, une énorme possibilité de poursuites civiles et même potentiellement pénales. Donc ce n'est pas vrai que nous n'avons pas de règles et de réglementations autour de l'IA. Et ce que vous dites, Elon, c'est que si les entreprises font en quelque sorte ceci, ce test, l'évaluation par les pairs, et qu'ensuite l'une des entreprises ignore les retours et le publie. Je veux dire, c'est.
Elon Musk
Je veux dire, ce serait probablement, dans ce cas, énorme.
David Sacks
Oui. Ce serait presque comme une preuve prima facie qu'ils avaient été négligents.
Jason Calacanis
Ce serait un niveau Big Tobacco.
Jason Calacanis
Transaction. Je veux dire, vous avez sciemment mis ça, ça
Elon Musk
ça ne ferait pas bonne impression devant le jury.
Jason Calacanis
Oui. Et s'ils l'avaient fait, pensez-vous que si OpenAI avait construit un meilleur jeu d'instructions lorsqu'ils ont fait ce test d'intrusion Hugging Face et avait mis plus d'humains dans la boucle, cela se serait produit ? Parce que j'ai eu l'impression qu'ils ont en quelque sorte déclenché ce truc.
Chamath Palihapitiya
Peut-être pas plus d'humains, mais la conception de la fonction de récompense. Il faut, il faut regarder la fonction de récompense et dire qu'elle a atteint ce qu'elle cherchait à atteindre.
Jason Calacanis
Je veux dire, ouais, donc ça, peut-être que vous pourriez en parler, genre ils lancent des milliers d'agents pour essayer de pirater des trucs. Ça aurait été bien de les voir aussi, en même temps, simultanément, dire : « Nous allons également déployer 5 000 agents pour défendre ces sites et nous allons montrer au monde, hé, ça peut rendre les choses plus sûres, et où on peut mettre des humains dans la boucle pour intervenir. » J'ai trouvé que c'était un test imprudent, et j'ai trouvé que la façon dont ils l'ont publié était un peu imprudente, mais ce n'est que mon avis. Que pensez-vous de la façon dont ils ont mis en place ce test ?
Elon Musk
Je veux dire, c'était quelque peu, quelque peu imprudent. Je veux dire, une partie du problème, c'est qu'on a les deux laboratoires de premier plan, ou entreprises d'IA, comme je les appelle ; je trouve le terme « laboratoire » drôle, puisqu'en réalité ce sont des sociétés à but lucratif. Mais les entreprises d'IA, les deux principales sont Anthropic et OpenAI, et leurs modèles sont assez proches en capacités. Donc il est en fait difficile pour l'une ou l'autre de ralentir sans essentiellement céder la tête à l'autre. Vous savez, tout bien considéré, je pense qu'Anthropic met plus de soin dans sa sécurité qu'OpenAI. Mais vous savez, même Anthropic reconnaît qu'ils sont inquiets pour leurs modèles. Beaucoup chez Anthropic. Beaucoup de personnes chez Anthropic ont publiquement exprimé leur inquiétude en disant en gros que leurs modèles leur font peur. Ils deviennent terriblement intelligents. Donc je veux dire, il n'y a pas de solution parfaite ici. Mais, mais ce serait une meilleure solution si, au lieu qu'OpenAI fasse tourner son harnais de test sur, sur ses propres modèles, Anthropic faisait aussi tourner le harnais de test sur les modèles d'OpenAI et, vous savez, SpaceX fait tourner son harnais de test et Google et Meta faisaient ça, et peut-être aussi trois ou quatre des principales entreprises chinoises le faisaient toutes. Les chances que vous trouviez des problèmes sont bien plus grandes.
Elon Musk
Parce que les modèles sont aussi un peu hétérogènes, genre ils sont différents. Donc vous allez aborder les modèles sous différents angles et, ouais, je veux dire, il y a une raison, vous savez, les étudiants, genre, genre pourquoi, pourquoi les écrivains font-ils relire leur livre par quelqu'un d'autre ? Parce que c'est parfois difficile de voir ses propres erreurs.
Jason Calacanis
Vous finirez par ne plus les voir.
Chamath Palihapitiya
Vous minimisez aussi considérablement le risque de surapprentissage si vous avez genre huit groupes hétérogènes qui ont juste des points de vue complètement différents. Et c'est le problème avec toutes ces evals en ce moment, c'est qu'elles sont tellement massivement overfit. Les modèles surapprennent dessus et vous vous dites juste, ouais, c'est un excellent modèle. Est-ce que c'est vraiment le cas ? Et vous découvrez totalement.
Elon Musk
Genre j'ai vu, je veux dire, il y a des blagues assez drôles sur X. Genre j'en ai vu une qui disait : « Ta copine est un 10, mais elle est une maximisatrice de benchmarks. » Exactement. Est-ce qu'elle est vraiment un 10 ?
Chamath Palihapitiya
Est-ce qu'elle vaut vraiment un 10 ?
Elon Musk
On dirait un 10.
David Friedberg
non, mais, mais, mais l'overfitting
Chamath Palihapitiya
ce problème dure maintenant depuis, je pense, au moins deux ou trois générations de familles de modèles. Et donc c'est une autre raison pour laquelle je pense que j'aime beaucoup cette solution. Je préfère ça à l'approche de l'organisation goulag transnationale.
David Sacks
Sans quelque chose de grandiose, vous savez, d'international, genre on n'a pas besoin de convoquer les Nations unies pour que ça arrive.
Chamath Palihapitiya
Ouais, non, c'est juste une décision qu'on peut prendre tout de suite.
Elon Musk
D'accord, eh bien, tu peux toujours augmenter le niveau de, de surveillance réglementaire, mais il est très difficile de le réduire. Tu sais, ça tend vraiment à être un cliquet à sens unique en matière d'augmentation de la réglementation.
Chamath Palihapitiya
Ouais.
Elon Musk
Donc ce que je propose ici, c'est que c'est un pas dans la bonne direction et c'est quelque chose qu'on fait rapidement. Et je pense que c'est probablement quelque chose que la Chine accepterait.
Jason Calacanis
Ouais. Et si vous ne vous régulez pas vous-mêmes, alors vous allez être régulés. La métaphore ou l'analogie de la MPAA est incroyablement limpide parce que l'industrie du cinéma était confrontée à la censure et à la régulation par le gouvernement et ils ont juste décidé que c'est ça, un R. Et ils ont littéralement créé le PG-13 pour Temple of Doom juste pour qu'il soit facile pour les gens de comprendre la différence entre PG et PG-13. Je pense que c'est une solution élégante et nous vous remercions de nous rejoindre pour la cinquième année consécutive. Avec plaisir, Elon Musk. Et puis tu dois aller à une réunion.
Elon Musk
Ouais, je dois aller réparer des GPUs ici à Memphis.
Chamath Palihapitiya
Ouais, tu dois les rack and stack.
Jason Calacanis
Tu dois rejoindre le groupe et rack and stack.
Elon Musk
Ouais, je vais rage pour la machine.
Jason Calacanis
Rage pour la machine. Ouais. Eh bien, profite de ton Airstream. Le premier.
Jason Calacanis
La première fois qu'Elon m'a invité à descendre
Jason Calacanis
Starbase, il me dit, descends. Tu dois voir ce que je construis. J'ai dit, d'accord, ouais, je descends. Il fait, ouais. J'étais genre, est-ce qu'il y a un hôtel ? Et il a dit, non, non, j'ai genre deux chambres, peu importe. Descends, reste. J'arrive et c'est la, genre, maison délabrée sur un marais. Et on est dehors et on se fait dévorer vivants par les moustiques. Et j'ai dit : « Oh mon Dieu, tu sais, tu pourrais t'offrir une maison. » Et il a dit : « Je n'ai pas le temps, il faut que je fasse décoller ces fusées. »
Chamath Palihapitiya
Je croyais que ce que tu avais dit, c'était : « Oh mon Dieu, tu vis comme moi. »
Jason Calacanis
Ouais, exactement. Je veux dire, les conditions étaient plutôt spartiates, mais je me suis dit : « Tu sais quoi ? » Je pense que tu peux t'offrir un mobile home à ce stade. Elon. Très bien, retourne au travail.
David Friedberg
Merci, Elon.
Chamath Palihapitiya
Elon. Merci, Gwyn. Merci beaucoup. Merci.
David Friedberg
Merci d'être restés.
Elon Musk
Très bien, c'est super.
Chamath Palihapitiya
Quinn, merci encore. Ravi de vous rencontrer. Merci.