Réunion plénière xAI 10 février 2026 Lors d'une rare réunion plénière publique, Elon Musk présente la nouvelle structure de xAI – Grok, Coding, Imagine et Macrohard –, la feuille de route de Grok vers l'AGI et les ambitions interplanétaires à long terme de l'entreprise.
Lors d'une rare réunion plénière publique, Elon Musk présente la nouvelle structure de xAI – Grok, Coding, Imagine et Macrohard –, la feuille de route de Grok vers l'AGI et les ambitions interplanétaires à long terme de l'entreprise.
Transcription Bienvenue à la réunion XAI. Nous avons une présentation très excitante pour vous. Nous allons commencer par récapituler les progrès incroyables que l'équipe XAI a réalisés en seulement deux ans et demi. C'est vraiment remarquable dans la poursuite de notre objectif de compréhension de l'univers. Donc en passant en revue nos accomplissements depuis sa création, il est important de noter que XAI n'a que deux ans et demi, essentiellement un enfant en bas âge, et nous avons néanmoins réalisé une quantité incroyable en très peu de temps. Nos concurrents ont donc 5, 10, parfois 20 ans d'existence. Ils ont des équipes beaucoup plus grandes, ils ont démarré avec beaucoup plus de ressources, et pourtant nous avons réussi à être numéro un dans de nombreux domaines en seulement quelques années. Nous avons donc réussi à être numéro un dans la voix, la génération d'images et de vidéos. Je pense que nous générons maintenant, selon les derniers chiffres que j'ai vus, plus d'images et de vidéos que tous nos concurrents réunis. Nous gagnons en matière de prévision, qui est l'une des métriques clés de l'intelligence. Donc le modèle de prévision Grok 420 a battu tous les autres AIs en matière de prévision. Et nous avons dominé de nombreux classements. Nous avons maintenant une excellente application avec Imagine avec le Grok principal, nous avons fait des améliorations radicales à l'application X et nous avons lancé une Grokipedia qui est en passe de dépasser largement Wikipedia. Et finalement, les ordres de magnitude sont plus complets et plus précis et contiennent plus d'informations ainsi que des données vidéo et image qui n'existent tout simplement pas sur Wikipedia. C'est donc conçu pour être finalement l'Encyclopédie Galactique, une distillation de toute la connaissance, et nous avons été les premiers à réaliser un cluster d'entraînement H100 GPU de 100 000. Et nous sommes maintenant sur le point de réaliser le premier, je devrais dire, 1 million d'équivalents H100 GPU en formation. C'est vraiment une quantité de travail incroyable en très peu de temps. Et il est important de considérer pour la compétitivité de toute entreprise technologique, ce qui compte n'est pas la position à un moment donné, mais quelle est votre vitesse et accélération. Et si vous vous déplacez plus vite que quiconque dans un domaine technologique donné, vous serez le leader. Et XAI se déplace plus vite que toute autre entreprise. Personne n'est même proche. Donc, parlons de notre équipe. Au fur et à mesure que nous grandissons en tant qu'entreprise, une chose naturelle qui se produit est que vous réorganisez l'entreprise au fur et à mesure qu'elle se développe. Donc, quand vous commencez une startup, vous pourriez avoir juste quelques dizaines de personnes et elles discutent juste entre elles. Au fur et à mesure que vous grandissez à plusieurs centaines de personnes. Vous devez alors ajouter plus de structure. Tout comme un organisme qui grandit à partir d'une cellule. Comme nous avons tous grandi à partir d'une seule cellule puis en un blob de cellules. Ensuite, vous obtenez une différenciation d'organes, des membres. Tu grandis une queue, j'espère que la queue disparaît et tu deviens un bébé. Tu passes par ces étapes. Et donc nous nous organisons, parce que nous avons atteint une certaine échelle, nous réorganisons l'entreprise pour être plus efficace à cette échelle. Maintenant, naturellement, quand cela se produit, il y a des personnes qui sont mieux adaptées aux premières étapes de l'entreprise et moins adaptées aux étapes ultérieures. Et donc pour les personnes qui sont parties, j'aimerais juste dire merci pour une sorte de contribution. Merci de nous avoir menés jusqu'ici et nous vous souhaitons beaucoup de succès dans vos futurs projets. Donc, passons maintenant à la nouvelle structure de l'entreprise. L'entreprise est organisée en quatre domaines d'application principaux. Il y a, il y a Grok Main et Voice, qui est vraiment le modèle Grok principal. C'est pour cela qu'on l'appelle Grok Main. Ensuite, il y a un modèle spécifique au codage, un modèle d'image et de vidéo qui est Imagine, et puis Macro Hard, qui est destiné à faire une émulation numérique complète d'entreprises entières. Et puis nous avons les couches d'infrastructure. Je voudrais donc inviter les membres de l'équipe à venir parler de chacun de leurs domaines.
xAI Team
Hey, merci, Elon. Donc Grok Main et Voice vont être fusionnés en une seule équipe. Et tu sais, sur voice, une anecdote est septembre 2024. OpenAI avait ce produit, tu pouvais parler au mode voix avancé. Et nous n'avions rien. Pas de modèle, bien sûr, pas de produit. Nous avons commencé beaucoup après et en l'espace de quelques mois, six mois, nous avons développé un modèle en interne à partir de zéro, sans un groupe de personnes qui connaissaient l'audio et avions un produit qui surpassait OpenAI en six mois. Passons rapidement six mois de plus. Et maintenant nous avons Grok dans plus de 2 millions de Tesla. Nous avons une API d'agent vocal GROK. Vous pouvez faire toutes sortes de choses étonnantes. En l'espace d'un an, nous sommes passés de rien à être des leaders. Ce genre de choses n'est possible [PLACEHOLDER: in a place like xci.] Nous avons de petites équipes, engagées, axées sur la mission, avec beaucoup de puissance de calcul, et nous voulons vraiment continuer à pousser la même histoire sur les modèles de chat. Tu sais, nous avons toujours été à l'avant-garde du raisonnement, à partir de Grok 1.5, Grok 2, Grok 3, et nous voulons vraiment passer à un monde où ce n'est plus seulement une question de répondre aux questions. Nous voulons construire une application tout-en-un.
Donc, tu devrais être capable de venir
xAI Team
et vraiment accomplir tout ce que tu veux. Tu sais, poser une question juridique, faire un deck de diapositives ou, tu sais, résoudre
Ashdeep (xAI)
un puzzle, des trucs comme ça.
xAI Team
Je pense donc vraiment que du côté du produit, nous allons voir une énorme transformation en très peu de temps. Nous allons voir le travail, l'ampleur du travail que tous les travailleurs du savoir pourront produire augmenter dix fois dans les prochains mois. Les modèles que nous construisons sont incroyablement merveilleux, et nous avons beaucoup en cours et nous sommes vraiment enthousiastes de les partager avec vous tous. Et du côté du produit, l'objectif est juste de construire ce portail qui vous permet d'accomplir tout votre travail. Et comment amplifions-nous tout le monde pour réaliser beaucoup plus qu'ils ne peuvent accomplir seuls ? Et nous la construisons et ce sera une expérience incroyablement facile à utiliser qui fonctionne simplement de manière transparente. Cela étant dit, nous embauchons et nous cherchons des personnes intelligentes et intelligentes. Ce n'est pas un endroit facile pour travailler, les gars.
xAI Team
C'est un labeur. Mais nous avons, je suppose, des ambitions interstellaires, donc ce ne sera pas facile. D'accord. Donc je dirais que d'être venu chez XAI, c'a été une opportunité de la vie de travailler parmi des gens vraiment intelligents et vraiment passionnés. Les vibrations ici sont incroyables. Et c'est vraiment un environnement où, si tu es une personne intelligente et que tu veux faire avancer les choses, tu peux faire avancer les choses. Il n'y a pas vraiment de frais généraux organisationnels qui gênent ou je ne sais pas, comme devoir écrire des documents et tout ce genre de trucs. Tu fais juste des trucs. Du moins pour moi, je peux juste, tu sais, Juste, tu peux faire des choses ici, et c'est merveilleux. Et j'invite plus de gens à venir ici et à faire simplement des choses géniales.
Donc avec le GROK principal, le modèle de fondation principal, l'intention est qu'il soit. C'est vraiment utile dans une large gamme de domaines. Donc si vous faites de l'ingénierie, du droit ou de la médecine, n'importe quoi, c'est utile pour votre travail. C'est essentiel pour comprendre l'univers et rendre les choses aussi utiles que possible. Comme quand GROK te donne une réponse sur laquelle tu peux compter. Ouais, absolument.
Makro (xAI)
Hey, tout le monde. Je suis Macro. Donc le monde a beaucoup changé récemment en termes de codage. Les modèles de codage. Je me plaignais toujours que les gens essayaient de me convaincre d'utiliser un modèle de codage et j'étais, comme, le tester et je n'étais pas vraiment convaincu. Mais récemment, les modèles, ils produisent vraiment du code de bonne, décente qualité. Je veux dire, tu dois toujours l'examiner et donner des commentaires. Mais tu, tu peux, c'est facile de voir comment ils peuvent t'accélérer pas mal. Donc ce n'est pas seulement au sujet du codage. C'est comme s'ils comprenaient votre intuition beaucoup mieux qu'avant. Comme maintenant, quand je décris un problème, je dois seulement le formuler comme je le ferais à un autre collègue ingénieur qui a déjà vu la base de code. C'est un énorme changement. Avant, tu dois pratiquement tenir la main à un enfant en bas âge pour faire un changement. Et ils n'écrivent pas seulement ton code, mais ils peuvent aussi déboguer ton code. Donc maintenant nous avons, j'aime ce que nous faisons comme des heures de code GROK s'exécutant en continu pour nous assurer que des changements plus complexes au système d'entraînement fonctionnent réellement en production. Il est donc facile pour nous de voir que ce n'est pas seulement d'accélérer nous-mêmes, d'écrire du code et de nous rendre 10x plus productifs, mais nous sommes vraiment sur ce chemin d'amélioration récursive de soi. [PLACEHOLDER: Where the current generation of GROK code is, is training the next generation of CROC code and we see that this path on an exponential takeoff here, this path will continue.] Nous doublons donc les efforts de codage et faisons du codage l'un des efforts prioritaires les plus élevés de l'entreprise. Donc, si vous êtes là et que vous êtes enthousiaste à propos du codage et que vous êtes soit très bon à l'entraînement, à la modélisation, soit un excellent ingénieur logiciel de bas niveau, intéressant à la conception de systèmes, c'est le lieu de travail. Comme nous avons un million d'équivalents H100 pour entraîner le meilleur métal de codage du monde en ce moment. Donc, s'il vous plaît, rejoignez-nous.
Godon (xAI)
Ouais, je suis Gordon, je travaille en partenariat avec Macro sur le codage. Donc c'est devenu de plus en plus évident pour nous, tu sais, tout le temps, comme nous sommes sur un chemin vers la singularité au moins en codage. Donc nous avons décidé, tu sais, d'avoir notre meilleur ingénieur de l'entreprise, Macro, pour diriger le codage. Et nous avons construit le meilleur modèle de codage pour tout le monde, pour autonomiser tout le monde à construire. Et pour moi, le principal facteur limitant est probablement l'énergie de calcul, où ils peuvent exécuter le meilleur modèle pour soutenir tout le monde, pour autonomiser tout le monde. Et avec SpaceX maintenant, nous sommes une seule équipe et nous gagnerons sur le calcul et nous gagnons avec le calcul spatial et aussi pour chaque ingénieur. D'accord. Donc, si vous écrivez un kernel, si vous écrivez un compilateur, réfléchissez simplement à savoir si cela en vaut toujours la peine. Peut-être que vous devriez nous rejoindre, vous savez, pour les efforts de codage, pour l'automatiser un peu vous-même, comme pour vous accélérer vous-même. Ouais, je pense que c'est comme une année vraiment incroyable, quelle année pour être vivant et je peux déjà ressentir l'AGI. Ressentir l'AGI, au moins pour le codage.
Oui, oui. Je pense que les choses vont bouger peut-être même d'ici la fin de cette année à ce que tu ne t'ennuies même pas du codage. L'IA crée simplement le binaire directement et l'IA peut créer un binaire beaucoup plus efficace que ce qu'un compilateur peut faire. Donc dis simplement, crée un binaire optimisé pour ce résultat particulier et tu contournes en fait le codage traditionnel. C'est une étape intermédiaire qui ne sera probablement pas nécessaire, je dirais d'ici la fin de cette année. Et nous nous attendons à ce que le code GROK soit à la pointe en deux à trois mois. Donc c'est qui se passe très rapidement.
Godon (xAI)
Oui. Faites aussi de l'Imagine. Donc, tu sais, je veux dire, qu'est-ce qu'on fait tous juste après post-AGI ? D'accord. Tu fais probablement comme une vie numérique. Donc c'est ce que nous faisons aussi ici. Et nous avons l'équipe Imagine, un peu commencé à partir de zéro il y a environ six mois. Nous avons quelques personnes. Nous avons décidé que nous devions faire la génération d'images, nous allons faire la génération vidéo. Comme, oui, regardez ce que nous avons réalisé aujourd'hui. Comme, tu sais, il y a environ deux semaines, nous avons sorti Imagine V1. Nous dominos réellement un classement sur plusieurs d'entre eux et les gens aiment vraiment notre produit, aiment notre modèle. Et nous avons beaucoup plus de versions en réalité ce mois-ci et le mois prochain. Donc oui, pour moi, il y a comme une très bonne chance, comme nous pourrions réellement construire un métavers avant Meta. Oui. Je vais aussi essayer de parler des métriques. Nous avons le produit.
xAI Team
Comme l'a dit Godong, il n'y a que six mois que nous avons commencé à travailler sur Imagine. Il y a six mois, nous n'avions aucun code interne pour la diffusion. Et fondamentalement, nous avons maintenant lancé Imagen sur chaque surface produit que nous avons, y compris l'intégration transparente dans X. Vous pouvez donc ouvrir l'application X maintenant, appuyer longuement sur n'importe quelle image, modifier l'image et en faire une vidéo. Nous avons également récemment organisé un concours avec des soumissions vraiment amusantes que je suis sûr que beaucoup d'entre vous ont vues. Imagine croît donc extrêmement, extrêmement rapidement. Et c'est à cause de la vitesse à laquelle nous itérons. Fondamentalement, nous faisons plusieurs mises à jour de produits chaque jour, nous faisons des mises à jour de modèles tous les deux jours. Et effectivement, cela a conduit à ce que les utilisateurs génèrent maintenant près de 50 millions de vidéos par jour en utilisant Imagine. Et pour réitérer ce qu'Elon a dit plus tôt, à notre connaissance, c'est plus que tous les autres fournisseurs réunis, ce qui est à nouveau un endroit stupéfiant comparé à où nous étions il y a six mois. Nous générons également 6 milliards d'images au cours des 30 derniers jours. Google a récemment posté que 1 milliard d'images ont été générées en utilisant Nano Banana en 30 jours. Nous sommes donc six fois plus que cela. Et vraiment, l'objectif est que nous ne voulons pas seulement gagner. Nous voulons gagner sur une longue période et avoir une grandeur durable. Et donc l'objectif avec Imagine est de prendre n'importe quoi que vous pouvez imaginer et de le transformer en réalité. Et c'est donc ce que nous allons faire. Nous allons faire un speed run. C'est fondamentalement l'objectif. Ouais. Hé, je déteste. Alors que nous continuons à augmenter les capacités de notre modèle, en construisant des mondes visuels qui sont indistinguibles de la réalité, nous construisons également des systèmes qui déverrouillent beaucoup plus de possibilités que ce que nous avons maintenant. Ils seront en mesure de générer des vidéos beaucoup plus longues que ce que nous avons maintenant avec des histoires ou avec l'âme de votre imagination. Et avant la fin de l'année, nous aurons probablement des modèles qui vous permettront de générer des vidéos de 10 ou 20 minutes en un seul coup sans aucune intervention. Vous avez juste besoin de donner votre imagination à notre modèle, nos agents le feront pour vous. Et, de plus, ce sont les vidéos que nous générons et nous allons également permettre de les rendre. Nous sommes déjà les plus rapides pour générer les vidéos et nous allons continuer à pousser l'extrême où nous allons rendre ces vidéos en temps réel et vous serez capable d'imaginer, de construire et d'interagir avec votre propre monde et le monde répondra à vous en temps réel. Et c'est un avenir excitant que nous allons construire ensemble.
Absolument. Ma prédiction est que la plupart du calcul IA sera la compréhension vidéo en temps réel et la génération vidéo en temps réel. Et nous nous attendons à être les premiers dans cela. Il vaut la peine de souligner ces points que,
savoir, il y a six mois, nous n'avions même pas. Nous n'avions pratiquement rien de très faible en génération et édition vidéo et d'image et sommes passés en six mois à la première place et en fait générer plus de vidéos et d'images que tous les autres réunis. Nous allons faire la même chose avec le codage et nous allons faire la même chose avec macro hard. Et je pense que les gens seront assez impressionnés par le modèle Grok 4.2 qui sort. C'est une amélioration significative. Et c'est vraiment juste, c'est la petite version de notre nouveau modèle. Nous aurons donc une version moyenne et une version grande qui sont encore plus intelligentes. D'accord.
Toby (xAI)
Salut à tous, je m'appelle Toby et je travaille sur Macroheart, le plus sérieux de tous les noms de produits. Donc, donner des ordinateurs aux humains était probablement une bonne idée. Donc nous faisons la même chose pour l'IA. C'est un peu comme Inception, nous donnons des ordinateurs aux ordinateurs. Macroheart construit donc un émulateur humain numérique entièrement capable, en temps réel et très important. Il est donc capable de faire n'importe quoi sur un ordinateur qu'un humain peut faire, y compris l'utilisation d'outils avancés en ingénierie et en médecine. Donc il devrait y avoir des moteurs de fusée, entièrement conçus par l'IA. Et en un sens, c'est l'un des derniers domaines où l'IA est nettement pire que les humains. C'est pourquoi je pense que c'est l'un des domaines les plus excitants pour innover et changer le domaine.
John (xAI)
Salut à tous. Alors, ouais, je m'appelle John et oui, nous construisons ces modèles de raisonnement fort qui vont maintenant contrôler notre cli. Comme nous les utilisons activement chaque jour. C'est comme un énorme, comme un boost de productivité pour toute l'équipe. Je sais que l'équipe voix fait un excellent travail. Et vous savez, c'est la raison pour laquelle nous avons besoin du calcul, vous savez, nous avons besoin du calcul à grande échelle pour exécuter ces modèles pour stimuler notre propre productivité. Mais vous savez, 80 à 90, 95% du logiciel mondial a une GUI. C'est donc comme, vous savez, une excellente représentation et vous savez, pour vraiment faciliter la vie des gens, nous avons besoin de développer des modèles capables de résoudre des tâches quotidiennes sur GUI. Donc Macroheart, vous savez, nous émulerons une entreprise où la sortie est numérique. C'est donc l'étape logique suivante pour les agents. Macroheart permettra une véritable orchestration de bout en bout sur l'ensemble du bureau et cela mènera à une immense prospérité économique. Alors oui, nous entrons dans une ère où nous avons besoin de résoudre les problèmes technologiques les plus difficiles. Mais pour résoudre cela, nous devons embaucher les meilleures personnes. Donc, vous savez, pensez aux personnes les plus intelligentes avec lesquelles vous avez travaillé et proposez-les pour un poste ici. Et si vous ne pouvez pas penser à quelqu'un, consultez votre annuaire téléphonique, allez sur votre LinkedIn, vous serez surpris de la taille de votre vrai réseau. Et ils ont juste besoin de trois propriétés évidemment que nous voulons optimiser. Sont-ils intelligents? Peuvent-ils résoudre des problèmes difficiles? Et la deuxième propriété est, sont-ils motivés? Ont-ils l'ambition? Veulent-ils gagner? Et la troisième est, est-ce une bonne personne? Comme, voulez-vous vraiment travailler avec eux? Mais oui, merci.
Ouais, le projet Macquart au fil du temps sera probablement notre projet le plus important car nous parlons de l'émulation d'entreprises humaines entières. Donc, quand vous regardez les entreprises les plus précieuses du monde, elles, leur sortie est numérique, donc elles ne font pas réellement de matériel. Il devrait donc être possible d'émuler complètement toute entreprise où la sortie est numérique et cela ushera dans un âge de prospérité que nous pouvons à peine imaginer à ce stade. Vous avez besoin d'imaginer pour l'imaginer. C'est donc un gros problème, c'est un gros problème. Et c'est pourquoi les mots Macroheart sont peints sur le toit du cluster d'entraînement, car c'est ce qu'il va construire. C'est aussi assez drôle. Censé être une blague.
xAI Team
C'est moi encore.
Toby (xAI)
Vous vous souvenez peut-être de moi de MacroHub et de l'utilisation d'ordinateurs il y a longtemps. Mais je travaille aussi réellement sur l'infrastructure et l'API du produit principal. En fait, c'est ce que j'ai fait la plupart du temps chez XAI. Donc, chaque fois que vous utilisez l'un de nos produits comme grok.com, l'authentification API, vous allez au Statut X AI. Ceci est fait par l'équipe d'infrastructure de produit principal et une grande partie d'entre eux siègent réellement à Londres et nous travaillons avec Jaime là-bas. Donc nous gardons les lumières allumées à l'heure de pointe, 16h chaque jour. Nous sommes appelés la nuit quand les choses s'arrêtent. Merci aussi à quiconque à Palo Alto se fait appeler. Il y a un travail vraiment important, la fiabilité, la sécurité, l'infrastructure d'entreprise. Donc, si vous êtes vraiment intéressé par la résolution de problèmes distribués difficiles avec des données désordonnées, c'est l'équipe à rejoindre.
Diego (xAI)
Salut à tous, je m'appelle Diego. Ouais, donc je pense que l'un des principaux goulots d'étranglement l'année prochaine pour ces modèles sera des évaluations de très haute qualité et des données d'entraînement. Et l'une des façons dont nous avons résolu cela est en prenant les experts mondiaux les plus importants dans ces domaines respectifs, en les amenant ici et en les ayant évaluer. Nous le faisons pour des domaines tels que la médecine, la finance, le droit. Nous avons des acteurs vocaux, nous avons des monteurs vidéo qui contribuent quotidiennement à améliorer GROK. Et oui, nous allons continuer à travailler sur des évaluations de très haute qualité au cours des prochains mois. Nous avons quelque chose d'excitant à la frontière des tâches utiles en finance et en droit. Nous essayons de créer des évaluations utiles et des données d'entraînement qui représentent un travail utile et pas nécessairement des proxy d'intelligence que beaucoup d'évaluations open source font aujourd'hui.
Ouais, j'aimerais dire que nous passons de l'utilisation de ces sortes d'évaluations Internet communes, qui ne sont pas, je pense, un vrai indicateur d'utilité, à avoir des tuteurs experts dans chaque domaine. Donc, dans chaque domaine de l'ingénierie, de la médecine, du droit, peu importe le cas, et l'évaluation réelle est-ce que l'expert dans cette arène ou notre groupe d'experts dans cette arène, des experts humains, conviennent que grok est extrêmement utile et que les résultats sont corrects. C'est en fait la seule évaluation qui compte vraiment.
Diego (xAI)
Ouais, exactement. Vous verrez cela dans Grok420 mais nous avons fait quelques améliorations parce que, à cause de ce type de données dans la recherche de la vérité et une sorte de minimisation des biais politiques, les réponses sont beaucoup plus pertinentes. C'est donc excitant. Et nous travaillons également sur Graphopedia. L'objectif de Rockypedia est donc de créer une distillation de toute connaissance humaine. J'aime penser à cela comme une version moderne de la Bibliothèque d'Alexandrie. Et dans la quête de construire l'Encyclopédie Galactica, qui s'appellera un jour, nous sommes passés d'essentiellement n'avoir rien à environ 6 millions d'articles pour le contexte, Wikipedia est environ 7 millions d'articles en anglais. Et oui, nous améliorons l'hallucination et notre objectif est essentiellement pour Rock5 de ne pas avoir à chercher en dehors du centre de données.
Makro (xAI)
Allez. Donc, dans l'équipe ML Infra, nous construisons le logiciel d'outils d'entraînement, d'inférence et d'équipe d'outils pour l'entreprise. C'est vous donner un exemple. Quand nous entraînions Grok 3, nous avons construit le cadre de pré-entraînement pour ceci et ce sont quelques-uns des systèmes les plus cool à mon avis que vous pouvez construire en tant qu'ingénieur logiciel. C'est comme si nous avions 100k H100s à l'époque et qu'ils venaient d'être livrés et nous n'avions pas tout à fait le logiciel, donc nous pensions avoir le logiciel mais puis à l'échelle de 30k nous avons réalisé que le logiciel ne fonctionne pas tout à fait. Et cela a pris une réécriture majeure, presque, j'dirais à mi-chemin du logiciel parce qu'il se passe tellement de choses dans un centre de données que vous ne pouvez pas vraiment tenir compte. Les commutateurs sont, les commutateurs scintillent, les liens scintillent, les commutateurs descendent, les GPU brûlent simplement, vous avez des problèmes numériques et c'est un système où vous voulez vraiment 100k H100s pour se comporter en tandem. Donc une étape d'entraînement est comme cinq secondes et vous allez cinq secondes en tandem. Mais pendant ces cinq secondes, tout peut arriver. Vous devez donc écrire un système qui fait des progrès malgré toutes ces choses, des choses qui peuvent arriver dans l'environnement. Et nous avons réussi et c'était l'un des moments les plus cool de ma vie où le système fonctionnait réellement et il fonctionnait au moment où mon fils est né, donc c'était extra excitant. Mais ces problèmes, vous ne les trouverez nulle part ailleurs, personne n'a ce genre de calcul et personne n'a cette densité de talent. Donc à l'époque pour vous donner une perspective, nous étions comme une équipe globale dans la formation préalable, nous étions probablement comme 15 personnes et sur cela peut-être comme sept personnes travaillaient sur le système d'entraînement réel. Et nous maintenons toujours cette densité de talent dans l'équipe. Si vous êtes intéressé par ces problèmes et que vous ne voulez pas être juste une partie d'une plus grande organisation où vous êtes l'un des mille personnes travaillant sur ceci, alors c'est l'endroit. Comme nous sommes toujours une très petite équipe. Avec moi est Lian Min de l'équipe RL et Inférence.
Salut, je m'appelle Lian Min. Donc, dans notre équipe, nous exécutons notre tâche d'entraînement par apprentissage par renforcement et l'inférence de production à grande échelle sur terre et probablement bientôt dans l'espace. Et nous avons déjà conçu beaucoup de choses pour la rendre plus résiliente et scalable. Nous construisons donc un système pour passer de 100k puces à des millions de puces et nous optimisons tous les aspects de la pile comme le parallélisme, le pré-remplissage, le décodage et le rendre résilient à chaque défaillance matérielle connue et inconnue. Donc, si vous êtes des pirates système obsédés par les performances extrêmes et la fiabilité, vous trouverez les problèmes les plus intéressants à résoudre et je pense que vraiment, pour vous, il est très important de d'abord voir le problème et puis vous développerez la solution que personne d'autre ne peut développer avant. D'accord, je vais passer au tooling team.
Ashdeep (xAI)
Bonjour, je m'appelle Ashdeep de l'équipe Tooling. Tous les logiciels doivent avoir une excellente interface pour être utiles. En tant qu'équipe de tooling, nous sommes responsables de la construction des plates-formes, des cadres et de l'infrastructure nécessaires pour que les humains et les agents puissent utiliser nos produits. Nous avons commencé par construire la plate-forme de données humaines. C'est un endroit où nous collectons toutes nos données humaines et nous avons finalement étendu pour construire notre plate-forme d'ingénierie interne par laquelle nous exécutons essentiellement les déploiements, exécutons les évaluations ou regardons les résultats d'entraînement existants. Donc, si vous vous souciez vraiment de construire une bonne interface ou de fournir un cadre vraiment utile pour les chercheurs, les agents et nos tuteurs, vous devriez certainement rejoindre notre équipe.
Yulong (xAI)
Salut à tous, je suis Yulong de l'équipe JAX. JAX chez XAI est maintenant une très petite équipe avec quelques ingénieurs qui travaillent sur les GPU de Jack pour optimiser notre entraînement GPU à ultra grande échelle. Vous pouvez donc imaginer que l'entraînement à l'échelle peut être très compliqué. Même en exécutant hello world à l'échelle, cela peut être compliqué. D'accord? Nous sommes donc réellement responsables de soutenir l'ensemble de l'entreprise à partir des modèles de fondation Pre Training, RLS et également multimodal pour mettre à l'échelle les choses d'abord de 10k 100k, puis probablement à l'échelle GPU équivalent de 1 million H100. Et pour implémenter beaucoup d'optimisations pratiques, nous devons personnaliser la pile JAX entière à partir du compilateur et des runtimes et il y aura beaucoup de problèmes intéressants. Et aussi si vous voulez vraiment vous obséder sur l'optimisation de l'ensemble de la pile à l'échelle, nous sommes probablement le meilleur endroit car vous savez, nous avons vraiment de très gros clusters GPU et nous avons beaucoup de problèmes intéressants à résoudre.
Pranjal (xAI)
Salut, je suis Pranjal de l'équipe kernels. Fondamentalement, l'équipe kernel se situe au très bas de notre pile d'entraînement et de service. Notre code s'exécute à l'intérieur de l'équivalent d'un million
Pranjal (xAI)
Et si vous regardez à l'intérieur du GPU, il y a des centaines de milliers de threads et ces threads essaient de se parler pour multiplier des matrices, calculer les scores d'attention et certains d'entre eux parlent même
aux millions d'autres GPU que nous avons.
Pranjal (xAI)
Et c'est le système de bas niveau que nous avons et nous aimons optimiser chaque microseconde et nous nous soucions profondément d'extraire la dernière once de performance de ces GPU. Donc, si vous aimez ces problèmes de bas niveau, les algorithmes, veuillez nous rejoindre.
Comme vous le savez, nous allons essayer de ramener Heiner et Spencer qui sont réellement à notre cluster de supercalculateur à Memphis. Salut Heiner.
xAI Team
Je suis Heimer de l'équipe d'infrastructure réseau informatique. Nous sommes principalement basés à Palo Alto, mais aujourd'hui nous sommes ici à Memphis au superbe ici. Donc, le centre de données ici à Memphis a le plus grand cluster GPU sur la planète et c'est toujours en croissance notre travail de garder tout cela de vous en haut et en cours d'exécution et de servir la sortie IA à nos utilisateurs pour fonctionner bien beaucoup d'ingrédients
mets simplement le micro vraiment près de ta bouche car le bruit ambiant est élevé.
xAI Team
C'est devenant trop bruyant. Laisse-moi revenir. Donc je disais que notre travail est de garder l'ordinateur opérationnel, d'entraîner le modèle de travail suivant et de servir l'IA. Donc les utilisateurs, donc ce à quoi vous êtes habitués. Eh bien, beaucoup d'ingrédients doivent se réunir, principalement des logiciels et du matériel. Il y a donc tous ces chippy CPU, commutateurs NICS et des centaines de milliers de systèmes d'exploitation fonctionnant en tant qu'un grand supercalculateur. Et ce dont nous avons besoin, c'est que les gens comprennent vraiment Linux, comprennent vraiment RDMA et comprennent vraiment le fonctionnement des ordinateurs à un niveau profond. Si c'est vous, veuillez nous contacter sur X et je passe à Dan. Nous avons donc 300 000 GB, 300 GPU de plate-forme ici aujourd'hui. Nous continons à grandir, toujours à construire. 847 milles de fibre par salle de données. 12 salles de données. Vous voulez faire partie du plus grand supercalculateur du monde, venez nous rejoindre.
xAI Team
C'est donc tout à fait merveilleux ce que nous avons pu faire en moins d'un an ici. Nous avons, une fois que nous aurons terminé, nous aurons plus d'un gigawatt de puissance en ligne et en fonctionnement. Nous aurons le plus grand système Tesla megapack du monde, plus grand que Hawaï ou l'Australie du Sud. Et Zach va vraiment rapidement parler un peu de la construction du centre de données. Donc derrière moi, vous pouvez voir la salle de données 11. Donc l'une des choses les plus incroyables de ce que nous faisons ici à Macroheart est la vitesse à laquelle nous le faisons, n'est-ce pas? Donc, comme ils l'ont dit avant, plus de 850 milles de fibre à chaque salle de données, plus de 27 000 GPU et plus de 200 000 connexions. Donc tout cela que vous pouvez voir derrière moi a été mis en place en moins de six semaines. Nous faisons cela encore et encore. Nous les parallélisons massivement. C'est pratiquement le type de projet d'ingénierie, de conception et de construction le plus complexe et le plus cohérent que vous puissiez imaginer. Alors viens nous rejoindre. Oui. Vous savez, l'autre chose vraiment géniale à ce sujet est que tout est complètement intégré verticalement au sein de cette équipe, de l'architecture, mécanique, électrique, structure, toutes les disciplines. Et nous nous soucions également beaucoup de l'efficacité pendant que nous concevons tout cela aussi. Donc, ce n'est pas seulement d'obtenir le plus de calcul en ligne le plus rapidement, mais aussi d'atteindre le POE le plus élevé de l'industrie, en utilisant autant de technologie d'adoucissement d'énergie que nous pouvons et en étant de vraiment bons partenaires dans la communauté ici à Memphis. Avec les Tesla megapacks que nous avons, vous pouvez les vérifier à XAI Memphis. De retour à vous.
D'accord, merci. D'accord, c'était en direct de la première ligne à Memphis. Donc fondamental pour le succès de toute entreprise d'IA est l'avantage du calcul. Et ce que nous avons démontré encore et encore, c'est que XAI peut réellement déployer plus de calcul IA plus rapidement que n'importe qui d'autre. Et en fait, comme Jensen Huang, PDG de Nvidia, l'a dit plusieurs fois dans des interviews, personne n'est plus rapide pour mettre l'IA en ligne que XAI. Félicitations, les gars. Ouais, c'est ce que cela ressemble. C'est donc vraiment la phase un, qui est 330 000 Grace Blackwell avec Macroheart écrit sur le bâtiment. Ce n'est pas une édition d'image. C'est en fait sur le toit du bâtiment. Et ensuite Macroheart sera le bâtiment que vous pouvez voir qui a le Macroheart avec des fusées dessus et ce sera un autre 220 000 GB3 cents. Donc tout cela entraînera les modèles que vous expérimentez. Alors. C'est donc absolument fondamental d'avoir clairement un calcul d'entraînement à grande échelle pour obtenir les meilleurs modèles. Ouais, je me souviens du José moyen où vous voyez un gars qui creuse et il y a comme sept personnes qui regardent. Et l'une des grandes différences entre XAI et d'autres entreprises est que nous sommes réellement Jose.
Nikita (xAI)
Je suis Nikita. Vous me connaissez peut-être comme un afficheur de navire à temps partiel. Support client à temps plein pour X. Nous rejoignons maintenant plus d'un milliard de personnes dans notre famille d'applications. Chaque fois que les nouvelles se propagent, il devient évident que c'est l'outil de communication le plus important de notre époque. C'est où les, les personnes les plus influentes se réunissent. C'est où la vérité est cristallisée. Tout est en aval de X. La raison pour laquelle ils disent que cela va frapper Facebook dans une semaine, c'est parce que cela se passe ici. Et je pense que nous ne commençons qu'à réaliser son plein potentiel. Nous avons eu une année remarquable pour l'application. Nous avons relevé nos manches et avons fait beaucoup de choses. Janvier a été notre plus grand mois jamais pour l'application en termes d'engagement et février est en voie de battre cela. Une grande partie du crédit va à l'équipe des algorithmes. Ils ont mis de la folie des heures et cela porte clairement ses fruits. Mais il y a encore beaucoup de travail à faire sur le côté supérieur de l'entonnoir. Les premiers téléchargements ont augmenté de plus de 50% chaque mois et nous affichons maintenant essentiellement les taux de croissance d'un produit de consommation au stade initial. Nous avons également fait beaucoup de progrès dans la résolution de l'un des problèmes de 20 ans de l'application, qui était la montée en charge de nouveaux utilisateurs. Les nouveaux utilisateurs passent maintenant 55% plus de temps par jour dans l'application qu'il y a six mois. Et du côté du produit principal, nous avons également trouvé notre rythme. Non seulement nous avons reconstruit l'algorithme, nous avons reconstruit nos flux d'intégration et nous voyons des augmentations à deux chiffres sur toutes nos mesures clés. Nous avons reconstruit les notifications, notre navigateur Web, XChat, pratiquement chaque surface de l'application a été reconstruite pour être mieux que jamais. Et il est clair que si nous sommes concentrés, nous pouvons déplacer des montagnes et faire évoluer cette plateforme. Juste le mois dernier, nous avons fait un petit coup sur les articles. Et les articles publiés sont jusqu'à 10x. Les articles lus sont augmentés de 17x. Et sur tous les autres fronts, comme pendant les vacances, nous avons fait un gros coup sur les abonnements. Nous avons juste franchi un milliard de dollars de RRA là. Je pense qu'avec l'application X, vous savez, il y a très peu d'inconnues comme le chemin pour nous de gagner et devenir, vous savez, l'application numéro un du monde. Nous savons quoi faire, le ballon est dans notre cour, c'est pour nous de gagner et c'est juste une question d'exécution.
Ouais. Et oui, nous avons évolué ce qui était autrefois l'ancien Twitter DM stack, qui était non encrypté, juste du texte à un système de messagerie entièrement encrypté qui vous permet de faire des appels audio et vidéo, a, vous savez, tout ce que vous voudriez d'une application de messagerie. Les messages qui disparaissent, l'écran, les blocages de capture d'écran, comme il y a un tout, toutes les fonctionnalités que vous voudriez dans une application. Et nous allons open sourcer le code pour ceci dans les prochains mois comme nous allons open sourcer le code d'algorithme de recommandation afin que les gens peuvent réellement voir ce que nous faisons. Rien ne vaut, rien ne vaut la transparence pour croire en une entreprise. Nous allons donc être le seul algorithme de recommandation qui s'ouvre réellement afin que vous puissiez voir ce qu'il fait et comment il évolue. Avec, avec Grokchat, ce sera aussi open source pour que vous puissiez réellement voir s'il y a des vulnérabilités. Il n'y aura pas de crochets pour la publicité ou quoi que ce soit d'autre dans Grokchat, qui est vraiment destiné à être un système de communication généralisé. Et dans les prochains mois, nous allons sortir une application X Chat autonome. Donc, si vous voulez juste faire de la messagerie, vous pouvez, vous pouvez le faire. Vous n'avez pas, vous n'avez pas besoin d'aller au produit principal et il aura le partage de bureau et multi-utilisateur pour que vous puissiez faire des appels vidéo avec beaucoup de personnes. C'est vraiment destiné à être un système de communication entièrement fonctionnel avec X Chat pour X Money. Nous avons en fait eu X Money en direct en bêta fermée au sein de la société et nous nous attendons dans le prochain mois ou deux à passer à la bêta externe illimitée, puis à aller dans le monde entier à tous les utilisateurs X. Et cela est vraiment destiné à être l'endroit où tout l'argent est la source centrale de toutes les transactions monétaires. Donc, cela va vraiment être un changeur de jeu. Et la raison pour laquelle nous disons 1 milliard d'utilisateurs est en fait plus d'un milliard d'utilisateurs est que bien que nos utilisateurs mensuels soient en moyenne autour de 600 millions, le nombre de personnes qui ont l'application X installée est bien plus d'un milliard. C'est juste que la plupart des gens ne viennent à l'application X que occasionnellement quand il y a un grand événement mondial. Mais comme nous donnons aux gens plus de raisons d'utiliser l'application X, que ce soit pour les communications, pour Grok ou pour l'argent X. Quel que soit le cas, nous voulons qu'il soit tel que si vous le vouliez, vous pouviez vivre votre vie sur l'application X. Et à mesure que nous la rendons plus utile, nous donnerons évidemment aux gens des raisons, des raisons convaincantes, d'utiliser l'application tous les jours et d'avoir. Mon expectation est bien plus d'un milliard d'utilisateurs actifs quotidiens. Donc maintenant, pour comprendre l'univers, vous devez explorer l'univers. Il n'y a que tellement que vous pouvez apprendre juste en étant sur Terre. Avec des télescopes et des collisionneurs sur Terre, finalement, vous devez sortir et explorer l'univers pour le comprendre. Et c'est la motivation derrière la combinaison de SpaceX et XAI pour accélérer l'avenir de l'humanité dans la compréhension de l'univers et l'extension de la lumière de la conscience aux étoiles. Donc, dans le grand schéma des choses, quand vous regardez combien d'énergie la Terre utilise réellement pour la civilisation, nous utilisons seulement environ 1% de l'énergie potentielle de la Terre. Et si nous voulions utiliser un millionième de l'énergie du Soleil, ce serait environ un million de fois plus d'énergie que la civilisation n'utilise actuellement. La seule façon d'accéder à cette énergie, l'énergie du soleil, est de s'étendre au-delà de la Terre. La Terre est vraiment une toute petite poussière dans une vaste obscurité. Le soleil est 99,8% de toute la masse du système solaire. Donc, vous devez vous étendre au-delà de la petite poussière que c'est la Terre pour faire une entaille significative dans l'utilisation de l'énergie du Soleil. Comme je l'ai dit, vous devriez vous étendre environ un million de fois juste pour arriver à 1 millionième de l'énergie de notre Soleil. Et puis allant au-delà, s'étendant à la galaxie et, et peut-être un jour même à d'autres galaxies. L'étape suivante au-delà des centres de données terrestres est donc nos centres de données en orbite terrestre. Et nous allons lancer avec SpaceX des centres de données orbitaux au niveau de 100 à 200 gigawatts par an. Pas cumulatif, je veux dire par an. Et finalement, nous voyons un chemin pour peut-être lancer autant qu'un térawatt par an de calcul de la Terre. Mais que se passe-t-il si vous voulez dépasser un simple térawatt par an? Pour ce faire, il faut aller sur la Lune. Donc, en ayant des usines sur la Lune, en construisant des satellites IA et en ayant un conducteur de masse, ce qui est le genre de chose que vous n'apprenez vraiment que dans ou lisez dans la science-fiction. Mais nous allons le rendre réel. Nous allons réellement avoir un conducteur de masse sur la Lune. Et si vous faites cela, vous pouvez aller plusieurs ordres de grandeur plus grands. Vous pouvez aller à 1 000 gigawatts ou plus par an et finalement arriver à peut-être un millionième et puis un millième et peut-être même quelques pour cent de l'énergie du soleil. C'est difficile d'imaginer ce qu'une intelligence d'une telle échelle penserait, mais cela va être incroyablement excitant de la voir se produire. J'aimerais vraiment voir le conducteur de masse sur la lune qui tire des satellites IA dans l'espace profond. C'est comme shoom, shoom, juste l'un après l'autre. Je ne peux pas imaginer quelque chose de plus épique qu'un conducteur de masse sur la lune et une ville autosuffisante sur la lune. Et puis allant au-delà de la lune à Mars, allant partout dans notre système solaire et finalement étant là parmi les étoiles et visitant tous ces systèmes stellaires. Peut-être que nous rencontrerons des aliens, peut-être que nous rencontrerons, verrons des civilisations qui ont duré des millions d'années et nous trouverons les restes de civilisations aliens anciennes. Mais la seule façon de le faire est de sortir et d'explorer. Et c'est le chemin pour le faire arriver. Merci.