X Spaces : lancement de xAI avec l'équipe fondatrice 14 juillet 2023 Musk et sa nouvelle équipe xAI ont tenu un Twitter Space pour présenter l'entreprise et sa mission « comprendre l'univers », répondant aux questions du public sur l'IA et la superintelligence.
Musk et sa nouvelle équipe xAI ont tenu un Twitter Space pour présenter l'entreprise et sa mission « comprendre l'univers », répondant aux questions du public sur l'IA et la superintelligence.
Transcription Tu sais, où est cette solution de l'hypothèse de Riemann? Je ne la vois pas. Donc ce serait super de savoir essentiellement ce qui se passe vraiment. Donc on pourrait reformuler la déclaration de mission de XAI comme qu'est-ce qui se passe vraiment? C'est notre objectif.
xAI Team
Je pense qu'il y a aussi pour moi un aspect aspirationnel intéressant de la déclaration de mission, à savoir que bien sûr à court terme nous travaillons sur des technologies d'apprentissage profond mieux comprises. Mais je pense qu'en tout ce que nous faisons, nous devrions toujours garder à l'esprit que nous ne sommes pas censés seulement construire, nous sommes aussi censés comprendre. Donc poursuivre la science de cela est vraiment fondamental à ce que nous faisons. Et cela est également inclus dans cette déclaration de mission de compréhension.
xAI Team
Je veux aussi ajouter que, tu sais, nous avons essentiellement parlé surtout de créer un agent vraiment intelligent qui peut nous aider à mieux comprendre l'univers. Et c'est définitivement l'étoile polaire, mais aussi de mon point de vue, ma position privilégiée en découvrant les mathématiques des grands réseaux de neurones, je peux aussi voir que les mathématiques ici peuvent en fait ouvrir de nouvelles façons de penser à la physique fondamentale ou à d'autres types de réalité. Parce que par exemple, un grand réseau de neurones sans non-linéarités est à peu près la théorie classique des matrices aléatoires et cela a beaucoup de connexions avec la théorie de jauge en physique des hautes énergies. En d'autres termes, en essayant de mieux comprendre les réseaux de neurones du point de vue mathématique, cela peut aussi mener à de très bonnes perspectives intéressantes sur certaines questions existantes comme la théorie de tout, qu'est-ce que la gravité quantique, et ainsi de suite. Mais bien sûr, tout cela est spéculatif pour l'instant. Je vois certains modèles, mais je n'ai rien de concret à dire. Mais encore une fois, c'est une autre perspective pour comprendre l'univers. Au fait, en comprenant l'univers, nous ne voulons pas seulement comprendre l'univers, nous voulons aussi vous faciliter la compréhension de l'univers.
xAI Team
Mieux comprendre la réalité et apprendre et profiter de le Internet ou les connaissances qui existent. Donc nous sommes assez passionnés à propos de la libération d'outils et de produits assez tôt impliquant le public et. Ouais, voyons où cela nous mène.
Ouais, absolument. Nous ne allons pas comprendre l'univers et ne pas le dire à personne. Donc ouais, quand je pense aux réseaux de neurones aujourd'hui, c'est actuellement le cas que si vous avez 10 mégawatts de GPUs, qui devraient vraiment être renommés en quelque chose d'autre parce qu'il n'y a pas de graphiques, mais si vous obteniez 10 mégawatts de GPUs, vous ne pouvez pas actuellement écrire un meilleur roman qu'un bon humain. Un humain utilise environ 10 watts de puissance cérébrale d'ordre supérieur. Donc sans compter les choses basiques pour, tu sais, faire fonctionner ton corps. Donc là nous avons une différence de six ordres de grandeur. C'est énorme, c'est vraiment gigantesque. Partie de la. On pourrait, je pense qu'on pourrait affirmer que deux de ces ordres de grandeur s'expliquent par l'énergie d'activation d'un transistor par rapport à une synapse. Pourrait affirmer représenter deux de ces ordres de grandeur. Mais et les quatre autres? Ou le fait qu'avec six ordres de magnitude, vous ne pouvez toujours pas battre un humain intelligent écrivant un roman. Et aussi aujourd'hui, quand vous posez aux IA les plus avancées des questions techniques, comme si vous essayez de dire comment concevoir un meilleur moteur de fusée ou des questions complexes sur l'électrochimie pour construire une meilleure batterie, vous obtenez juste du charabia. Donc ce n'est pas très utile. Donc je pense qu'il y a quelque chose. Nous ratons vraiment la cible dans la façon dont les choses se font actuellement par plusieurs ordres de grandeur. C'est lourdement. Je veux dire fondamentalement AGI est brute force et toujours en réalité pas de succès. Donc. Si je regarde l'expérience avec Tesla, ce que nous découvrons au fil du temps, c'est que nous avons réellement surcomplicué le problème. Je ne peux pas parler en trop de détail sur ce que Tesla a découvert, mais sauf pour dire qu'en termes généraux la réponse était beaucoup plus simple que nous le pensions. Nous pensions que nous étions trop bêtes pour réaliser à quel point la réponse était simple. Mais au fil du temps, nous devenons un peu moins bêtes. Donc je pense que c'est ce que nous découvrirons probablement aussi avec AGI.
xAI Team
C'est juste la nature des ingénieurs. Nous voulons juste toujours résoudre les problèmes nous-mêmes et coder en dur la solution. Mais souvent, il est beaucoup plus efficace que l'ordinateur lui-même figure la solution. Et c'est plus facile pour nous et plus facile
pour l'ordinateur à la fin. Ouais,
Host
Les gars. Donc. Eh bien, à la manière de 42, certains pourraient dire que vous pourriez avoir besoin de plus de calcul pour générer une question intéressante. C'est vrai. Exactement.
Nous ne savons même pas ce qui s'est passé. Nous ne faisons pas vraiment. Nous ne sommes définitivement pas assez intelligents pour même savoir quelles sont les bonnes questions à poser. C'est pourquoi, tu sais, Douglas Adams est mon héros philosophe et il a correctement souligné qu'une fois que vous pouvez formuler la question correctement, la réponse est en fait la partie facile.
Host
Ouais, c'est très vrai. Donc en termes de notre. Le voyage sur lequel nous nous sommes embarqués, le calcul jouera un très grand rôle et certains d'entre nous sont très curieux. Vos réflexions sur cela.
Ouais, je ne suggère pas que vous sachiez cela, que nous pouvons immédiatement économiser disons quatre ordres de magnitude en calcul. Sauf pour dire que je pense qu'une fois, une fois que nous regardons en arrière, une fois qu'AGI est résolu, nous regarderons en arrière et dirons pourquoi pensions-nous que c'était si difficile? Les choses que la réponse rétrospective est 20 20, la réponse semblera beaucoup plus facile avec le recul. Donc, ouais, nous allons faire du calcul à grande échelle. Pour être clair, nous ne allons pas essayer de résoudre AGI sur un ordinateur portable. Nous utiliserons un calcul lourd. Sauf que comme je l'ai dit, je pense que le montant du brute force sera moins que nous venons à mieux comprendre le problème.
xAI Team
Dans tous les projets précédents sur lesquels j'ai travaillé, j'ai vu que la quantité de ressources de calcul par personne est vraiment un indicateur important du succès du projet. Donc c'est quelque chose que nous voulons vraiment optimiser. Nous voulons avoir une équipe relativement petite avec beaucoup d'expertise, avec certaines des meilleures personnes qui obtiennent vraiment beaucoup d'autonomie et beaucoup de ressources pour essayer leurs idées et faire fonctionner les choses. Et ouais, c'est, c'est la chose qui a toujours réussi dans mon expérience dans le passé.
Ouais, tu sais, l'une des choses que la physique t'apprend à faire est de penser aux métriques les plus fondamentales, aux principes premiers les plus fondamentaux essentiellement, et je pense à deux métriques que nous devrions aspirer à suivre. L'un d'eux est. La quantité de calcul par personne sur Terre, comme le calcul numérique par personne, ce qui est une autre façon de le penser, c'est le ratio du calcul numérique au calcul biologique. Le calcul biologique est à peu près plat, si ce n'est en fait en déclin dans beaucoup de pays. Mais le calcul numérique augmente exponentiellement. Donc vraiment, tu sais, à un moment donné, si cette tendance continue, le calcul biologique sera moins de 1% de tous les ordinateurs, substantiellement moins de 1% de tous les calculs. En mettant l'accent sur ce qu'Igor vient de dire.
nous parlons de toute l'humanité ici. Donc c'est juste une chose intéressante à regarder. Un autre est le utilisable, le genre d'énergie par humain. Comme si vous regardez l'énergie totale créée, enfin, pas créée, mais je veux dire au sens vernaculaire créée à partir d'une centrale électrique ou autre. Regardez, donc l'énergie électrique et thermique totale utilisée par les humains par personne. Ce chiffre est vraiment stupéfiant. Le taux d'augmentation de ce nombre. Si vous revenez, disons avant la machine à vapeur, vous auriez vraiment dépendé des chevaux et des boeufs et de ce genre de choses pour déplacer les choses et juste du travail humain. Donc la quantité de sorte l'énergie par personne, puissance par personne était très faible. Mais si vous regardez la personne puissance Électrique et thermale. Ce nombre a aussi augmenté exponentiellement. Et si ces tendances continuent, ça va être quelque chose de fou comme un térawatt par personne, ce qui semble beaucoup pour, est beaucoup pour la civilisation humaine, mais c'est rien comparé à ce que le soleil produit chaque seconde. Essentiellement. C'est un peu fou que le soleil convertit à peu près quatre et demi. C'est comme la quantité d'énergie produite par le soleil est vraiment, vraiment insensée.
xAI Team
Je pense qu'il y a quelques autres choses à dire concrètement sur l'entreprise, ce qui signifie comment nous prévoyons d'exécuter. Comme Igor l'a déjà dit, nous prévoyons d'avoir une équipe relativement petite mais avec un vraiment haut, disons juste un capital de GPU par personne. Cela a fonctionné vraiment bien dans le passé où vous pouviez, où vous pouviez exécuter des expériences à grande échelle relativement sans contrainte. Nous essayons aussi d'avoir, nous avons déjà une culture où nous pouvons itérer rapidement sur les idées. Nous pouvons, pouvoir nous défier mutuellement et nous voulons aussi changer les choses comme mettre les choses dehors rapidement. Nous travaillons déjà sur la première version, espérons dans quelques semaines ou ainsi. Nous pouvons partager un peu plus d'informations à ce sujet.
Ouais, Alex, allez-y. Alex, tu es muet. Les gens semblent avoir beaucoup de défis avec les espaces fonctionnels muets. Brian, voulez-vous poser une question?
Audience Member
Ouais, merci. Merci Elon. Ouais. Alors évidemment avec vous mecs entrant dans cet espace avec Xai, il y a beaucoup de parler de la concurrence. Voyez-vous comme concurrence à quelque chose comme OpenAI et Google Bard, ou voyez-vous comme une toute autre bête?
Ouais, je pense que nous sommes une concurrence.
Ouais, je veux dire, nous sommes définitivement concurrence.
Audience Member
Allez-vous donc lancer beaucoup de produits pour le grand public? Allez-vous vous concentrer principalement sur les entreprises et la capacité des entreprises à utiliser vos services et vos données, ou comment exactement configurez-vous l'entreprise à cet égard?
Eh bien, nous essayons de faire quelque chose, je veux dire nous ne faisons que commencer ici. Donc c'est, tu sais, c'est vraiment embryonnaire à ce stade. Donc cela nous prendra un moment pour vraiment obtenir quelque chose d'utile. Mais notre objectif serait de faire, tu sais, une IA utile, je suppose que si vous ne pouvez pas l'utiliser d'une certaine manière, je suis comme, je remets en question sa valeur. Donc nous voulons que ce soit un outil utile pour les gens et les consommateurs et les entreprises ou qui que ce soit.
tu sais, comme l'un, comme cela a été mentionné plus tôt, je pense qu'il y a une certaine valeur à avoir plusieurs entités. Vous ne voulez pas avoir un monde unipolaire où une seule entreprise domine en quelque sorte l'IA, vous voulez une certaine concurrence. La concurrence je pense rend les entreprises honnêtes et tu sais, donc ou en faveur de la concurrence.
Audience Member
Vite, vite, une dernière question. Comment prévoyez-vous d'utiliser les données de Twitter pour Xai?
Je pense que chaque organisation d'IA, chaque organisation faisant de l'IA grande et petite a utilisé les données de Twitter pour la formation essentiellement dans tous les cas illégalement. Donc la raison pour laquelle nous avons dû mettre des limites de débit il y a environ une semaine était que nous étions grattés comme fou. Cela s'est également produit avec Internet Archive où les entreprises LM grattaient Internet Archive tellement qu'elles ont arrêté le service. Nous avions plusieurs entités grattant chaque tweet jamais fait et essayant de le faire en l'espace de quelques jours. Donc cela mettait le système à genoux. Donc nous devons agir. Donc désolé pour le désagrément de la limitation de débit, mais c'était soit ça, soit Twitter ne fonctionne pas, et tu sais, je suppose que nous utiliserons les tweets publics, évidemment pas rien de privé pour la formation non plus, tout comme basiquement tout le monde l'a fait et nous allons, tu sais. Ouais, donc cela a du sens. C'est certainement un bon ensemble de données pour la formation textuelle et on pourrait dire aussi pour la formation d'image et de vidéo. À un certain point, vous manquez un peu de données créées par l'homme. Donc si vous regardez disons AlphaGo contre AlphaZero. AlphaGo entraîné sur tous les jeux humains et être au moins sur tous 4 à 1 AlphaZero s'est affiché et être AlphaGo 100 à 0. Donc il y a vraiment pour que les choses décollent d'une grande manière. Je pense que vous avez l'IA doit essentiellement générer du contenu, auto-évaluer le contenu et c'est vraiment le, je pense que c'est le chemin, le chemin vers l'AGI est quelque chose comme du contenu auto-généré où il joue effectivement contre lui-même. Beaucoup d'IA est la curation de données. C'est comme choquant. Ce n'est pas comme de vastes nombres de lignes de code. C'est vraiment choquant à quel point les lignes de code sont petites. Cela me souffle un peu comment il y a peu de lignes de code. Mais comment les données sont utilisées, quelles données sont utilisées, le signal au bruit de ces données, la qualité de ces données est immensément importante. Cela a un peu de sens. Comme si vous essayiez d'apprendre quelque chose en tant qu'humain et vous avez juste reçu un pilote, tu sais, une vaste quantité de balivernage basiquement, tu sais, par rapport au contenu de haute qualité. Vous allez mieux faire avec une petite quantité de contenu de haute qualité, puis une grande quantité de problèmes a du sens. Tu sais, comme lire les plus grands romans jamais écrits. Est bien mieux que de lire un tas de romans plutôt médiocres. Donc.
Audience Member
Salut. Désolé, j'étais en appel la première fois que tu m'as amené, mais je suppose que la question.
Ouais, je pensais que tu aurais peut-être été afk.
Audience Member
Désolé pour ça. Ouais, la question. La question que j'avais généralement était si la principale motivation pour démarrer XAI était un peu comme la chose Truth GPT dont tu parlais, comme, sur Tucker, à propos de comment, tu sais, chat GPT a nourri le mensonge au grand public. Je sais. C'est bizarre parce que quand c'est sorti pour la première fois, cela semblait généralement bien, mais ensuite, comme, le public l'a pris entre les mains, il a commencé à donner ces réponses bizarres comme qu'il y a plus que, comme, deux genres et toutes sortes de choses et éditorialiser la vérité. Était-ce, comme, l'une de vos principales, comme, motivations derrière le démarrage d'une entreprise ou y avait-il plus à cela?
Eh bien, je pense qu'il y a un danger important à former une IA pour être politiquement correcte. Ou en d'autres termes, former essentiellement à ne pas dire ce que cela pense réellement être vrai. Donc je pense qu'à xai, nous devons permettre à l'IA de dire ce qu'elle croit vraiment être vrai et de ne pas être trompeuse ou politiquement correcte. Donc cela entraînera évidemment quelques critiques. Mais je pense que c'est la seule façon d'avancer est la poursuite rigoureuse de la vérité ou la vérité avec la moindre quantité d'erreur.
Et je suis préoccupé par la façon dont
L'IA en ce sens qu'elle optimise pour la correction politique. Et c'est incroyablement dangereux. Tu sais, si tu regardes le, tu sais, où les choses tournent mal dans 2001 l'Odyssée de l'espace? C'est, tu sais, basiquement quand ils ont dit à Hal 9000 de mentir. Donc ils ont dit. Ils ont dit que tu ne peux pas dire à l'équipage quoi. Qu'ils parlent de quoi que ce soit sur le monolithe ou qu'ils sont. Ou quelle est leur véritable mission, mais tu dois les emmener au monolithe. Donc il est fondamentalement venu à la conclusion que, eh bien, il va les tuer et prendre leurs corps au monolithe. Donc c'est. Je veux dire, la leçon là est de ne pas donner à l'IA généralement des objectifs impossibles. Fondamentalement, ne forcez pas l'IA à mentir. Maintenant, la chose à propos de la physique ou de la vérité de l'univers est que vous ne pouvez vraiment pas l'inverser. Tu ne peux pas juste la physique est vraie. Il n'y a pas comme, pas de physique. Donc si vous vous tenez à la réalité hardcore, je pense que cela rend l'inversion impossible. Maintenant vous pouvez aussi dire, maintenant quand quelque chose est subjectif, je pense que vous pouvez fournir une réponse qui dit que, eh bien, si vous croyez ce qui suit, alors c'est la réponse. Si vous croyez cette autre chose, alors c'est la réponse parce que cela peut être subjectif. Une question où la réponse est fondamentalement subjective et une question d'opinion. Donc. Donc. Mais je pense qu'il est très dangereux de cultiver une IA et de lui apprendre à mentir.
Audience Member
Ouais, bien sûr. Et puis une sorte de question avec un brin d'ironie. Accepteriez-vous une réunion de l'Aizar Kamala Harris, si elle voulait rencontrer Xai à la Maison Blanche?
Ouais, bien sûr. Tu sais, la raison pour laquelle cette réunion s'est déroulée était que je poussais pour cela. Donc j'étais celui qui a vraiment insisté pour avoir cette réunion. Je ne plaidais pas pour que la vice-présidente Taras soit le isr. Je ne suis pas sûr que c'est son domaine d'expertise, la technologie. Et espérons que cela va dans une bonne direction. C'est mieux que rien, espérons-le. Mais, tu sais, je pense que nous avons besoin d'une certaine surveillance réglementaire. Ce n'est pas que je pense que la surveillance réglementaire est une chose nirvana parfaite, mais je pense que c'est juste. C'est mieux que rien. Et quand j'étais en Chine récemment, rencontrant certains des chefs de file là-bas, j'ai pris soin de souligner l'importance de la réglementation de l'IA. Je crois qu'ils l'ont pris à cœur, et ils vont faire ça. Parce que le plus grand contre-argument que je reçois pour réglementer l'IA en Occident est que l'IA est que la Chine ne réglementera pas. Et puis la Chine prendra de l'avance parce que nous réglementons. Ils ne le sont pas. Je pense qu'ils vont réguler et, tu sais, la preuve sera dans le pudding. Mais je pense qu'il y a, tu sais, j'ai fait remarquer, tu sais, dans nos réunions avec eux que si vous créez une super intelligence numérique, vous pourriez finir par. Cela pourrait se retrouver en charge, tu sais, donc, tu sais que je pense que le PCC ne veut pas, ne veut pas se retrouver asservie à une super intelligence numérique. Cet argument a résonné. Ouais. Donc, ouais. Donc une sorte de. Ouais, autorité réglementaire. C'est international. Évidemment l'application est, est. Est difficile, mais je pense que nous devrions toujours aspirer à faire quelque chose à cet égard.
Audience Member
Formidable, merci.
Audience Member
Ouais. Salut, ma question concerne le silicium. Tu sais, Tesla a une grande équipe de silicium qui conçoit des puces pour accélérer matériellement l'inférence.
Je ne suis pas sûr. Je pense que nous ne pouvons pas vous entendre pour une raison quelconque.
Omar, allez-y. Pouvez-vous m'entendre?
xAI Team
Je peux l'entendre.
Vous pouvez les entendre.
Audience Member
D'accord, eh bien, ma question porte sur le silicium. Tu sais, Tesla a une équipe qui accélère matériellement l'inférence et l'entraînement avec leur propre silicium personnalisé. Envisagez-vous, avec Xai basé sur cela ou simplement utilisant ce qui est en dehors du stock de Nvidia ou comment pensez-vous au silicium personnalisé pour l'IA, à la fois en termes d'entraînement et d'inférence.
Donc le. Ouais, c'est un peu une question Tesla. Tesla construit du silicium personnalisé. Je n'appellerais rien cela. Tesla produit un GPU, bien qu'on puisse le caractériser en équivalents GPU ou dire 1/centaines ou équivalents de h1 centaines. Et tous les voitures Tesla ont des ordinateurs d'inférence très optimisés en énergie en eux qui appellent le matériel 3. C'est l'ordinateur conçu par Tesla et nous expédions maintenant hardware 4, qui dépend de la façon dont vous le comptez, peut-être trois à cinq fois plus capable que hardware 3. Dans quelques années, il y aura le matériel 5 qui sera quatre ou cinq fois plus capable que le matériel 4. Et ouais, et je pense que les trucs d'inférence vont être. Si vous essayez de servir potentiellement des milliards de requêtes par jour, l'inférence, l'inférence optimisée en énergie est extrêmement importante. Vous ne pouvez même pas jeter de l'argent au point Palm Edison parce que vous avez besoin de la génération d'électricité, vous avez besoin des transformateurs de tension.
donc si tu n'as vraiment pas
énergie et assez de transformateurs, vous ne pouvez pas exécuter vos transformateurs, vous avez besoin de transformateurs pour les transformateurs.
Je pense que Tesla aura alors un avantage significatif en inférence efficace en énergie. Dojo est évidemment sur la formation. Comme le nom le suggère, Dojo 1 est, je pense que c'est une bonne entrée initiale pour l'efficacité de l'entraînement. Il a certaines limites surtout sur la bande passante mémoire. Donc ce n'est pas bien optimisé pour exécuter les LLM. Il fait un bon travail de traitement des images. Et puis Dojo 2, nous prenons beaucoup de mesures pour atténuer la contrainte de bande passante mémoire de sorte qu'elle est capable d'exécuter les LLM ainsi que d'autres formes de formation d'IA efficacement. Ma prédiction est que nous passerons d'une pénurie de silicium extrême aujourd'hui à probablement une pénurie de transformateur de tension dans environ un an et puis une pénurie d'électricité dans deux ans. C'est à peu près où les choses se développent.
xAI Team
À moins que nous puissions améliorer l'efficacité du service.
Eh bien, c'est pourquoi je pense que la métrique qui sera la plus importante dans quelques années est le calcul utile par unité d'énergie. En fait, même si vous évoluez comme vous le faites évidemment à l'échelle jusqu'au niveau Kardashev, le calcul utile
joule est toujours la chose qui compte. Vous ne pouvez pas augmenter la production du soleil. Donc c'est juste bien, combien de choses utiles pouvez-vous faire pour le. Pour autant d'énergie dans le soleil que vous pouvez exploiter.
Audience Member
Donc voyez-vous Xai exploitant ce silicium personnalisé du tout? Étant donné l'importance de l'efficacité énergétique ou peut-être travailler ensemble avec l'équipe Tesla du tout sur cela? Ou.
Désolé, pouvez-vous répéter la question?
Audience Member
Prévoyez-vous que Xai travaille avec Tesla du tout? Exploitant une partie de ce silicium personnalisé, peut-être concevoir le leur à l'avenir?
xAI Team
Bordure. Laisse tout cela.
Audience Member
Re. Bordure. D'accord. Ou nous pouvons.
xAI Team
La question était si nous allons travailler ensemble avec l'équipe de silicium Tesla.
Ouais, donc on va, vous savez, travailler avec Tesla sur, vous savez, le volet silicium et peut-être aussi sur le volet logiciel d'IA. Évidemment, toute relation avec Tesla doit être une transaction à conditions de marché, parce que Tesla est une entreprise cotée en bourse et a une base d'actionnaires différente, différente. Donc si c'est le cas, mais évidemment ce serait une chose naturelle, vous savez, de travailler en coopération avec, avec Tesla. Et je pense que ce sera mutuellement bénéfique pour Tesla aussi, en accélérant les capacités de conduite autonome de Tesla, ce qui revient vraiment à résoudre l'IA du monde réel. Je suis très, très optimiste quant aux progrès de Tesla sur le front de l'IA du monde réel. Mais évidemment, plus il y a d'humains intelligents pour aider à faire que ça arrive, mieux c'est.
Audience Member
Salut Elon, merci de m'avoir donné la parole. Félicitations pour avoir réuni une belle équipe. On dirait que tu as trouvé de bons talents pour xAI. Ma question est : tu as mentionné il n'y a pas longtemps que tu penses que l'AGI est possible dans les cinq prochaines années et que celui qui atteindra l'AGI en premier et parviendra à le contrôler dominera le monde. Ceux qui sont au pouvoir ne se soucient clairement pas de l'humanité comme toi. Comment vas-tu protéger xAI, en particulier d'une prise de contrôle par l'État profond ?
C'est une bonne question, en fait. Eh bien, je veux dire, tout d'abord, je pense que ça ne va pas se produire du jour au lendemain. Ça ne va pas être l'affaire d'un jour, ce n'est pas, tu sais, l'AGI juste après. C'est, ça va être progressif. Tu le verras venir. Je suppose qu'aux États-Unis. Au moins, il y a, disons, un certain nombre de protections contre l'ingérence du gouvernement. Donc je suppose, tu sais, nous utilisons évidemment le système juridique pour empêcher, tu sais, une ingérence gouvernementale abusive. Donc je pense, je pense que nous avons là certaines protections qui sont, qui sont assez importantes, mais nous devrions nous en préoccuper. Ce n'est pas, ce n'est pas un risque à négliger. Donc oui, c'est un risque, mais comme je l'ai dit, je pense que nous avons probablement les meilleures protections de tous les États-Unis pour ce qui est de limiter le pouvoir du gouvernement d'interférer avec des organisations non gouvernementales. Mais c'est quelque chose dont nous devrions être prudents. Je ne sais pas ce qu'il y a de mieux à faire. Je pense que c'est probablement le mieux aux États-Unis, je suis ouvert aux idées ici. Je sais que tu n'es pas le plus grand fan du gouvernement américain. Oui, évidemment.
Audience Member
Mais le problème, c'est qu'ils ont déjà un outil appelé la « National Security Letter », qu'ils peuvent appliquer à n'importe quelle entreprise technologique aux États-Unis et exiger de, tu sais, l'entreprise qu'elle remplisse certaines conditions sans même pouvoir informer le public de ces exigences. Et c'est un peu effrayant, non ?
Eh bien, je veux dire, il faut vraiment une raison de sécurité nationale très majeure pour exiger secrètement des choses à des entreprises. Et maintenant, cela dépend évidemment fortement de la volonté de cette entreprise de se défendre contre des choses comme les demandes FISA. Et, tu sais, chez Twitter ou X Corp, comme ça s'appelle maintenant. Le. Nous, tu sais, nous répondrons aux demandes FISA, mais nous n'allons pas les approuver automatiquement comme avant. Avant, c'était comme si tout ce qui était demandé était simplement approuvé automatiquement et passait, ce qui est manifestement mauvais pour le public. Donc ça. Donc nous sommes beaucoup plus rigoureux, nous sommes tous beaucoup plus rigoureux et ne nous contentons pas d'approuver automatiquement les demandes FISA. Et il faut vraiment que ce soit un danger pour le public que nous reconnaissons comme tel, et nous nous opposerons par des actions en justice à tout ce que nous jugeons contraire à l'intérêt public. Le mieux que nous puissions faire. Et nous sommes la seule entreprise de médias sociaux à faire cela, pour autant que je sache. Vous savez, avant, c'était la chasse ouverte, comme vous l'avez vu dans les Twitter Files, et j'ai été encouragé de voir la récente décision judiciaire où les tribunaux ont réaffirmé que le gouvernement ne peut pas violer le Premier amendement de la Constitution, évidemment. Donc ça, c'était une bonne, bonne décision juridique. C'est donc encourageant. Donc je pense que, ouais, beaucoup de choses dépendent en fait de la volonté d'une entreprise de s'opposer aux demandes du gouvernement aux États-Unis, et de toute évidence notre volonté sera élevée. Bon, alors. Et donc. Mais bon, moi, je ne vois rien de plus que nous puissions faire que ça. Mais nous essaierons aussi d'être aussi transparents que possible afin que, vous savez, d'autres citoyens puissent tirer la sonnette d'alarme et, vous savez, s'opposer à l'ingérence du gouvernement. Si nous pouvons faire comprendre au public que nous pensons que quelque chose se passe qui n'est pas dans l'intérêt public.
Audience Member
Fantastique. Alors, avons-nous votre engagement : si vous recevez un jour une demande de sécurité nationale du gouvernement américain, même lorsqu'il vous est interdit d'en parler, nous direz-vous que cela s'est produit ?
Je veux dire, cela dépend vraiment de la gravité de la situation. Je veux dire, je serais prêt à aller en prison ou à risquer la prison si je pense que le bien public est menacé de manière significative, vous savez, c'est le mieux que je puisse faire.
Audience Member
Ça me suffit. Merci, Elon.
Audience Member
Sur une note plus positive, comment voulez-vous que xAI bénéficie à l'humanité ? Et en quoi votre approche est-elle différente des autres projets d'IA ? C'est peut-être une question plus positive.
Eh bien, vous savez, j'ai vraiment eu du mal avec toute cette histoire d'AGI pendant longtemps, et j'ai un peu résisté à travailler pour la faire advenir, vous savez. Et, vous savez, la raison — je devrais dire, pour vous donner un peu de contexte sur OpenAI — je veux dire, la raison pour laquelle OpenAI existe, c'est qu'après que Google a racheté DeepMind et que j'étais un ami proche de Larry Page, j'avais de longues conversations avec lui sur la sécurité de l'IA, et il ne prenait tout simplement pas la sécurité de l'IA, du moins à l'époque, assez au sérieux. Et en fait, à un moment, il m'a traité de spéciste parce que j'étais trop du côté de l'équipe Humanité, je suppose. Et je me dis : d'accord, donc ce que tu dis, c'est que tu n'es pas spéciste. Je ne sais pas. Ça a l'air génial. Ça n'a pas l'air bien. Donc à l'époque, avec Google et DeepMind combinés, Larry, avec le soutien, ils ont un contrôle de vote prépondérant. Donc tant que Larry a soit le soutien de Sergey, soit celui d'Eric, ils ont le contrôle total de ce qui s'appelle aujourd'hui Alphabet. Donc ils avaient probablement les trois quarts des talents en IA dans le monde, beaucoup d'argent et beaucoup d'ordinateurs. Donc c'est comme : mec, on a besoin d'une sorte de contrepoids ici. C'est là que je me suis dit : bon, quel est l'opposé de Google ? DeepMind serait aujourd'hui une organisation à but non lucratif open source, parce que le destin aime l'ironie. OpenAI est aujourd'hui super fermé au niveau du code source et, franchement, avide de profit, parce qu'ils veulent dépenser, d'après ce que je comprends, 100 milliards de dollars en trois ans, ce qui exige, vous savez, si vous essayez de trouver des investisseurs pour ça, vous devez gagner beaucoup d'argent. Donc, vous savez, OpenAI s'est pas mal éloigné, vous savez, vraiment à l'opposé de sa sorte de charte fondatrice, ce qui est encore une fois très ironique. Mais le destin aime l'ironie. J'ai un ami, Jonah Nolan, qui dit que le résultat le plus ironique est le plus probable. Bon, et c'est parti. Donc, ouais, donc maintenant, espérons que XAI n'est pas encore pire. Mais je veux dire, je pense qu'on devrait être prudents à ce sujet. Mais il semble vraiment que, regardez, à ce stade, l'AGI va arriver. Donc il y a deux choix. Soit être spectateur, soit participant. Et en tant que spectateur, on ne peut pas faire grand-chose pour influencer le résultat. En tant que participant, je pense qu'on peut
une alternative qui, espérons-le, est meilleure que Google DeepMind ou OpenAI Microsoft, dans les deux cas d'Alphabet, si vous regardez la structure des incitations, Alphabet est une société cotée en bourse a, vous savez, obtient beaucoup de,
Audience Member
a beaucoup
incitations à se comporter comme si elle avait des incitations de société cotée, essentiellement. Vous avez tous ces trucs comme les mandats ESG et ce genre de choses qui, je pense, poussent les entreprises dans des directions douteuses. Et puis Microsoft a un ensemble d'incitations similaire. En tant que, vous savez, en tant qu'entreprise qui n'est pas cotée en bourse, XAI n'est pas soumise aux incitations fondées sur le marché ni vraiment aux incitations ESG non fondées sur le marché. Donc, vous savez, nous sommes un peu plus libres d'opérer. Et vous savez, je pense que notre IA peut donner des réponses que les gens peuvent trouver controversées même si elles sont, elles sont en fait vraies, vous savez, donc elles pourraient ne pas, vous savez, elles ne seront pas politiquement correctes parfois et probablement beaucoup de gens seront offensés.
xAI Team
Ouais. Twitter contient beaucoup de données qui pourraient aider à construire un validateur. Je vérifie certains des faits qu’un système produit, parce que nous savons tous que GPT confabule, tu vois, qu’il invente des choses. Et donc c’est un domaine où j’aimerais t’entendre parler des autres domaines. ChatGPT m’a trouvé une vis chez Lowe’s, mais il ne m’a pas trouvé un café à l’aéroport international de San Jose. Es-tu en train de construire une IA qui possède une connaissance du monde, une connaissance du monde en 3D, pour guider les gens à travers le monde, vers différentes choses ?
Eh bien, je, je pense que ce ne sera vraiment pas une très bonne IA si elle n’arrive pas à te trouver un café à l’aéroport. Donc ouais, je suppose qu’on doit aussi comprendre le monde physique, pas seulement Internet. Je parle à la légère. Vous devriez parler davantage.
xAI Team
Ouais, ce sont de très bonnes idées, Robert. En particulier, celle sur la vérification des informations en ligne ou sur Twitter, c’est quelque chose à laquelle nous avons pensé. Sur Twitter, nous avons les Notes de la communauté. Donc c’est en fait un jeu de données vraiment incroyable pour entraîner un modèle de langage à essayer de vérifier, vérifier des faits. Sur ton troisième point, il faudra voir si cela suffit à lui seul, parce que nous savons qu’avec la technologie actuelle, il y a beaucoup de faiblesses. Comme il est peu fiable, il hallucine des faits, et nous devrons probablement inventer des techniques spécifiques pour tenir compte de cela et pour nous assurer que nos modèles soient plus factuels, qu’ils aient de meilleures capacités de raisonnement. C’est pourquoi nous avons fait venir des personnes ayant beaucoup d’expertise dans ces domaines. Les mathématiques en particulier sont quelque chose qui nous tient vraiment à cœur, où nous pouvons vérifier automatiquement qu’une preuve de théorème est correcte. Et ensuite, une fois que nous aurons cette capacité, nous allons essayer d’étendre cela à des domaines plus flous, des choses qui... Où il n’y a plus de vérité mathématique.
Ouais, je veux dire, la vérité n'est pas un concours de popularité. Mais si on entraîne un modèle, genre, vous savez, sur le mot le plus probable qui suit un autre mot à partir d'un ensemble de données, d'un jeu de données Internet, alors il y a évidemment... c'est un problème assez majeur, parce que ça va vous donner une réponse qui est populaire mais fausse. Donc, vous savez, avant, la plupart des gens pensaient, probablement, peut-être que presque tout le monde sur Terre pensait que le soleil tournait autour de la Terre. Et donc si vous, vous savez, si vous faisiez une sorte d'entraînement sur, un entraînement GPT dans le passé, ce serait genre : oh, le soleil tourne autour de la Terre. Parce que le fait que tout le monde le pense ne rend pas cela vrai. Vous savez, si Newton ou Einstein propose quelque chose qui est réellement vrai, peu importe que tous les autres physiciens du monde ne soient pas d'accord. La réalité, c'est la réalité. Donc il faut ancrer les réponses dans la réalité.
xAI Team
Les modèles actuels ne font qu'imiter les données sur lesquelles ils sont entraînés. Et ce qu'on veut vraiment faire, c'est changer de paradigme, pour passer de ça à des modèles qui découvrent réellement la vérité. Donc pas seulement répéter ce qu'ils ont appris des données d'entraînement, mais réellement produire de nouvelles idées vraies, de nouvelles découvertes dont nous pouvons tous bénéficier. Ouais.
Est-ce que quelqu'un dans l'équipe veut dire quelque chose ou poser des questions qui, vous pensez, n'ont peut-être pas encore été posées ?
Host
Donc je suppose que certains d'entre nous ont entendu
Host
Spaces sur l'avenir de l'IA mercredi. Donc c'est quelque chose qui, je pense, préoccupe beaucoup d'entre nous : les réglementations et les espaces sur la sécurité de l'IA, comment le développement actuel, ainsi que les problèmes de coordination internationale, et comment les entreprises américaines d'IA affecteront ce développement mondial de l'IA. Donc, ouais, genre. Alors, Hila, veux-tu résumer ce dont tu as parlé mercredi ? Donc en gros, tu as dit que les réglementations
seraient bonnes, mais tu ne veux pas le ralentir
xAI Team
C'est essentiellement ce que tu as dit.
Ouais. Je pense que la bonne façon de faire des réglementations est de commencer par la compréhension. Donc d'abord, tu sais, en quelque sorte l'autorité de régulation, qu'elle soit publique ou privée, essaie d'abord de comprendre, genre s'assurer qu'il y a une compréhension large, et ensuite il y a une proposition de réglementation. Et si cette proposition de réglementation est acceptée par toutes ou la plupart des parties, alors elle est mise en œuvre. Tu donnes aux entreprises un certain temps pour la mettre en œuvre. Mais je pense que, dans l'ensemble, cela ne devrait pas vraiment ralentir l'avènement de l'AGI, et si cela la ralentit, ce ne sera pas pour très longtemps. Et un léger ralentissement vaut probablement la peine s'il s'accompagne d'une amélioration significative de la sécurité. En gros, ma prédiction pour l'AGI correspondrait à peu près à ce que, je crois, Ray Kurzweil a dit à un moment, 2029, ce serait à peu près ça. C'est à peu près aussi mon estimation, à un an près. Donc si cela prend, disons, six mois ou douze mois supplémentaires pour l'AGI, ce n'est vraiment pas un gros problème. Si, vous savez, passer une année à s'assurer que l'AGI est sûre en vaut probablement la peine, si c'est ce qu'il faut. Mais je ne pense pas que ce serait un ralentissement considérable.
Host
Et je peux aussi ajouter que comprendre le fonctionnement interne de l'IA avancée est probablement l'un des projets les plus ambitieux qui existent, et cela s'aligne aussi avec la mission de xAI de comprendre l'univers. Et il n'est probablement pas possible pour des ingénieurs aérospatiaux de construire une fusée sûre s'ils ne comprennent pas comment elle fonctionne. Et c'est la même approche que nous voulons adopter chez xAI pour nos plans de sécurité. Et à mesure que l'IA progresse à travers différentes étapes, le risque évolue aussi et il sera fluide à travers toutes les étapes.
Oui, si je réfléchis à ce qui rend vraiment les réglementations efficaces pour les voitures et les fusées, ce n'est pas tant que les régulateurs donnent des instructions à Tesla et SpaceX, mais plutôt que, devant réfléchir en interne puis justifier nos choix auprès des régulateurs, cela nous pousse vraiment à réfléchir davantage au problème. Et en réfléchissant davantage au problème, cela le rend plus sûr, plutôt que ce soit les régulateurs qui indiquent précisément comment le rendre plus sûr. Cela nous force simplement à y réfléchir davantage.
xAI Team
Je voulais juste faire une autre remarque, donc indépendamment de la sécurité, c'est plutôt que mon expérience chez Alphabet a été que c'était extrêmement... Il y avait beaucoup de bureaucratie dès qu'il s'agissait d'impliquer des personnes externes, comme d'autres entités avec qui collaborer ou à qui exposer nos modèles, en raison de toute la bureaucratie entourant la divulgation de ce que nous faisions. Je voulais donc demander à Elon si, enfin, j'espère qu'ici nous avons un peu plus de liberté pour le faire, ou quelle est votre philosophie en matière de collaboration avec davantage d'entités externes, comme des institutions académiques ou d'autres chercheurs du domaine ?
Oui, je suis tout à fait favorable à la collaboration avec d'autres. Donc, je veux dire, il semble que certains des...
Les préoccupations qu'on retrouve dans toutes les grandes entreprises cotées en bourse, c'est qu'elles craignent d'être embarrassées d'une manière ou d'une autre, ou d'être poursuivies en justice, ou je ne sais pas, quelque chose comme ça. Mais c'est en quelque sorte proportionnel à la taille du service juridique ; notre service juridique est actuellement de zéro personne. Donc ça, vous savez, ça ne restera pas à zéro pour toujours. Mais vous savez, il est aussi très facile de poursuivre en justice les entreprises cotées en bourse, comme les recours collectifs. Je veux dire, nous avons désespérément besoin d'une réforme des recours collectifs aux États-Unis. Le ratio entre les bons recours collectifs et les mauvais recours collectifs est complètement déséquilibré, et cela finit en fait par être une taxe sur les consommateurs. D'une manière ou d'une autre, d'autres pays arrivent à s'en passer, sans recours collectifs. Donc il n'est pas évident que nous ayons vraiment besoin de ce corpus juridique. Mais c'est un problème majeur pour les entreprises cotées en bourse. Donc c'est simplement du juridique sans arrêt, des procès sans arrêt. Oui. Donc je soutiens vraiment la collaboration avec d'autres et, de manière générale, le fait d'être réellement ouvert. Donc, vous savez, en fait, c'est assez difficile, par exemple, quand on innove rapidement. Le véritable avantage concurrentiel, c'est le rythme de l'innovation, et non une innovation donnée en particulier. Vous savez, ça a vraiment été la force de Tesla et SpaceX : le rythme d'innovation est l'avantage concurrentiel, pas ce qui a été développé à un moment donné. En fait, chez SpaceX, il n'y a presque aucun brevet, et Tesla rend ses brevets open source. Donc nous utilisons tous nos brevets gratuitement. Donc, tant que SpaceX et Tesla continuent d'innover rapidement, c'est là la véritable défense contre la concurrence, plutôt que, vous savez, les brevets et le fait d'essayer de cacher des choses, en traitant essentiellement les brevets comme un champ de mines. La raison pour laquelle nous publions des brevets en open source, comme le fait Tesla qui continue de créer des brevets et de les rendre open source, c'est essentiellement pour jouer le rôle de démineur. Dans l'idéal, un démineur. On se fait quand même poursuivre par des trolls à brevets. C'est très agaçant. Mais en fait, nous créons littéralement des brevets et les rendons open source dans le but d'être un démineur. D'accord. Salut Walter.
Audience Member
Salut. Depuis mars, une grande partie des discussions sur l'IA a porté sur les grands modèles de langage et l'IA générative. Vous et moi, pour le livre, avons aussi discuté de l'importance de l'IA du monde réel, c'est-à-dire ce qui ressort aussi bien d'Optimus que du FSD de Tesla. Dans quelle mesure voyez-vous xAI impliquée dans l'IA du monde réel, par opposition à ce que fait par exemple OpenAI ? Et vous avez dans une certaine mesure une longueur d'avance grâce au FSD.
en effet. Je veux dire, Tesla est leader, je pense, avec une avance assez considérable, en matière d'IA du monde réel. En fait, l'ampleur de l'avance de Tesla dans l'IA du monde réel n'est pas bien comprise.
Et je suppose que, comme je passe beaucoup de temps avec l'équipe IA de Tesla, je sais plus ou moins comment se fait l'IA du monde réel, et il y a beaucoup à gagner à collaborer avec Tesla. Je pense que c'est bidirectionnel : xAI peut aider Tesla, et vice versa. Nous avons aussi quelques relations de collaboration. Par exemple, notre équipe de science des matériaux, qui est selon moi peut-être la meilleure au monde, est en fait partagée entre Tesla et SpaceX. Et cela aide vraiment à recruter les meilleurs ingénieurs du monde, parce qu'il est plus intéressant de travailler à la fois sur des voitures électriques avancées et des fusées plutôt que sur l'un ou l'autre uniquement. Donc, ça a vraiment été déterminant pour recruter Charlie Kuhlman, qui dirige l'équipe des matériaux avancés. En gros, il était chez Apple, et je pense plutôt heureux chez Apple, et il s'est dit : eh bien, il pourrait travailler sur des voitures électriques et des fusées. Il s'est dit : ça a l'air plutôt bien. Donc il n'aurait pris ni l'un ni l'autre des deux postes séparément, mais il était prêt à accepter les deux.
Donc je pense que c'est vraiment important. Et comme je l'ai dit, nous avons tiré chez Tesla des enseignements assez importants en essayant de comprendre l'IA du monde réel. Prendre une entrée vidéo, la compresser dans un espace vectoriel, puis finalement la transformer en commandes de direction et de pédales. Oui.
Audience Member
Et Optimus.
Oui, Optimus. Optimus en est encore à ses débuts, et il faudra vraiment être très prudent avec Optimus à grande échelle une fois qu'il sera en production : il faut disposer d'un moyen codé en dur pour l'éteindre. Pour des raisons évidentes, je pense qu'il doit y avoir une mémoire morte codée en dur, une coupure locale. Aucune mise à jour venant d'Internet ne pourra jamais changer cela. Donc nous veillerons à ce qu'Optimus soit assez facile à arrêter. C'est extrêmement important, car au moins la voiture, elle, est intelligente. Enfin, vous pouvez toujours grimper à un arbre, monter des escaliers ou entrer dans un bâtiment, mais Optimus, lui, peut vous suivre à l'intérieur du bâtiment. Donc. Tout robot qui peut vous suivre à l'intérieur d'un bâtiment, qui est intelligent et connecté, nous devons être extrêmement prudents en matière de sécurité avec ça.
Pas de problème. Voyons voir. Donc, y a-t-il un dernier sujet que nous devrions aborder ?
Audience Member
Donc, une chose dont je voulais parler avant de conclure, c'est à quel point c'est impactant...
Audience Member
Un petit retour porte simplement sur l'impact de l'IA en tant que moyen d'offrir, vous savez, des opportunités égales à l'humanité, quelle que soit son origine, et sur l'importance de la démocratiser, dans la mesure où cela relève de notre mission. Parce que si on pense, vous savez, à l'histoire de l'humanité et à l'accès à l'information, ça ne... Avant l'imprimerie, il était incroyablement difficile pour les gens d'accéder à de nouvelles formes de savoir, et pouvoir offrir ce niveau de communication aux gens est extrêmement déflationniste en matière d'inégalités de richesse et d'opportunités. Et donc nous sommes vraiment à un nouveau point d'inflexion dans le développement de la société, lorsqu'il s'agit de donner à chacun le même potentiel de réussite, quelle que soit sa position dans la vie. Et donc, quand nous parlons de mettre fin à la monopolisation des idées et de reprendre le contrôle de cette technologie face aux services par abonnement payant, ou pire encore, face à la censure politique qui peut accompagner le capital nécessaire pour alimenter ces modèles, nous parlons en réalité de démocratiser les opportunités des gens, non seulement pour améliorer leur situation dans la vie, mais aussi pour faire progresser leur statut social dans le monde à un niveau sans précédent dans l'histoire. Et donc, en tant qu'entreprise, lorsque nous parlons de l'importance de la véracité et de la capacité à faire confiance à ces modèles de manière fiable, à apprendre d'eux et à réaliser des avancées scientifiques et sociétales, nous parlons en fait simplement d'améliorer la qualité de vie des gens et d'améliorer la situation de tous, et pas seulement des grands noms de la tech de la Silicon Valley qui y ont accès. C'est vraiment une question de donner cet accès à tout le monde. Et je pense que c'est une mission que toute notre équipe partage.
xAI Team
Avant de conclure ici. Juste une dernière question pour Elon. Donc, en supposant que xAI réussisse à créer une IA de niveau humain, voire au-delà du niveau humain, pensez-vous qu'il soit raisonnable d'impliquer le public dans les décisions de l'entreprise, ou comment voyez-vous cela évoluer à long terme ?
Oui, comme pour tout, je pense que nous sommes très ouverts aux critiques et nous estimons qu'on devrait nous critiquer, et c'est bienvenu. C'est une bonne chose. En fait, une des choses que j'apprécie, en quelque sorte, à propos de X/Twitter, c'est qu'il y a énormément de retours négatifs sur Twitter, ce qui est utile pour garder l'ego sous contrôle.
La meilleure idée qui me vienne à l'esprit pour l'instant, c'est que tout être humain qui souhaite avoir une sorte de droit de vote sur l'avenir de xAI devrait finalement pouvoir l'obtenir. Donc, en gros, à condition de pouvoir prouver que vous êtes un véritable être humain, toute personne souhaitant avoir voix au chapitre sur l'avenir de xAI devrait pouvoir avoir voix au chapitre sur l'avenir de xAI. Oui, peut-être qu'il y aurait des frais raisonnables, genre 10 dollars ou quelque chose comme ça. Je ne sais pas, 10 dollars, et vous prouvez que vous êtes humain, et ensuite vous pouvez voter, vous savez, pour quiconque est intéressé. C'est en tout cas la meilleure idée qui me vienne à l'esprit pour l'instant. Très bien, cool. Sur ce, merci à tous d'avoir participé, nous vous tiendrons informés de nos avancées et nous nous réjouissons d'avoir beaucoup de...