← Retour12 avril 2019Lex Fridman PodcastAvecElon MuskLex Fridman0:00 / 0:00CC1×YouTubeLex Fridman Podcast12 avril 2019Premier passage d'Elon Musk chez Lex Fridman, consacré à l'Autopilot de Tesla et à la conduite autonome.Premier passage d'Elon Musk chez Lex Fridman, consacré à l'Autopilot de Tesla et à la conduite autonome.TranscriptionLex FridmanVoici une conversation avec Elon Musk. Il est PDG de Tesla, SpaceX, Neuralinket cofondateur de plusieurs autres entreprises. Cette conversation fait partie du podcast Artificial Intelligence. La série reçoit des chercheurs de premier plan du monde universitaireet de l'industrie, notamment des PDG et directeurs techniquesd'entreprises de l'automobile, de la robotique, de l'IA et de la technologie. Cette conversation a eu lieu après la publicationde l'article de notre groupe au MITsur la vigilance fonctionnelle des conducteurs lors de l'utilisation de l'Autopilot de Tesla. L'équipe de Tesla m'a contacté pour me proposer un entretien en podcast avec M. Musk. J'ai accepté, avec un contrôle total sur les questions que je pouvais poser et sur le choix de ce qui serait rendu public. Au final, je n'ai rien coupé de substantiel. Je n'avais jamais parlé avec Elon avant cette conversation, ni en public ni en privé.Ni lui ni ses entreprises n'ont la moindre influence sur mon opinion, ni sur la rigueur et l'intégrité de la méthode scientifique que je pratique dans mon poste au MIT. Tesla n'a jamais soutenu financièrement mes recherches et je n'ai jamais possédé de véhicule Tesla. Je n'ai jamais possédé d'actions Tesla. Ce podcast n'est pas un article scientifique. C'est une conversation.Je respecte Elon comme tousles autres dirigeants et ingénieurs avec qui j'ai parlé. Nous sommes d'accord sur certains points et en désaccord sur d'autres. Mon objectif, comme toujours dans ces conversations, est de comprendre comment l'invité voit le monde. Un point de désaccord particulier dans cette conversation portait sur la mesure dans laquelle la surveillance du conducteur par caméra améliorera les résultats, et sur combien de temps elle restera pertinente pour la conduite assistée par IA.En tant que personne qui travaille sur l'intelligence artificielle centrée sur l'humain et qui en est passionnée, je crois que, si elle est mise en œuvre et intégrée efficacement, la surveillance du conducteur par caméra sera probablement bénéfique à court comme à long terme. À l'inverse, Elon et Tesla misent sur l'amélioration de l'Autopilot, de sorte que ses bénéfices statistiques en matière de sécurité l'emportent sur toute préoccupation liée au comportement et à la psychologie humaine.Elon et moi ne sommes peut-être pas d'accord sur tout, mais je respecte profondément l'ingénierie et l'innovation derrière les projets qu'il mène. Mon but ici est de susciter une discussion rigoureuse, nuancée et objective, dans l'industrie et le monde universitaire, sur la conduite assistée par IA, une discussion qui, au bout du compte, rende le monde plus sûr et meilleur. Et voici maintenant ma conversation avec Elon Musk.Quelle était la vision, le rêve de l'Autopilot au début, dans les grandes lignes, au niveau du système, quand il a été conçu et qu'on a commencé à l'installer en 2014 ? Le matériel dans les voitures. Quelle était la vision, le rêve ?Elon MuskJe ne parlerais pas de vision ou de rêve ; simplement, il y a évidemment deux révolutions énormes dans l'industrie automobile. L'une est la transition vers l'électrique, et l'autre est l'autonomie. Et il m'est apparu évident qu'à l'avenir, une voiture sans autonomie serait à peu près aussi utile qu'un cheval.Ce qui ne veut pas dire que ça ne sert à rien. C'est juste rare et un peu original d'avoir un cheval aujourd'hui. Il est donc évident que les voitures se conduiront entièrement toutes seules. C'est juste une question de temps. Et si on ne participait pas à la révolution de l'autonomie, nos voitures ne seraient pas utiles aux gens par rapport aux voitures autonomes.On peut soutenir qu'une voiture autonome vaut, à long terme, cinq à dix fois plus qu'une voiture qui ne l'est pas. Ça dépend de ce qu'on entend par long terme, mais disons au moins pour les cinq prochaines années, peut-être dix.Lex FridmanIl y a eu beaucoup de choix de conception trèsintéressants pour l'Autopilot dès le début. Le premier, c'est d'afficher sur le combiné d'instruments, ou sur l'écran central de la Model 3, ce que voit l'ensemble des capteurs combinés. Quelle était la réflexion derrière ce choix ? Y a-t-il eu un débat ? Comment ça s'est passé ?Elon MuskTout l'intérêt de l'affichage, c'est de fournir un contrôle de santé sur la perception de la réalité par le véhicule. Le véhicule reçoit des informations d'un tas de capteurs, surtout des caméras, mais aussi un radar, des ultrasons, le GPS, etc. Ces informations sont ensuite rendues dans un espace vectoriel, avec un ensemble d'objets dotés de propriétés, comme les lignes de voie, les feux et les autres voitures, puis, depuis l'espace vectoriel, elles sont re-rendues sur un écran.Vous pouvez donc vérifier si la voiture sait ce qui se passe ou non en regardant par la fenêtre.Lex FridmanD'accord. Je pense que c'est un moyen extrêmement puissant pour que les gens comprennent, ne fassent qu'un avec le système et comprennent ce dont il est capable. Avez-vous envisagé d'en montrer plus ? Si on regarde la vision par ordinateur sous-jacente au système, la segmentation de la route, la détection des voies, des véhicules, des objets, il y a aux marges une certaine incertitude.Avez-vous envisagé de révéler les parties que le… L'incertitude du système, en quelque sorteElon Muskles probabilités associées, par exemple, à la reconnaissance d'images, ce genre de chose ?Lex FridmanOui. Aujourd'hui, ça montre les véhicules à proximité, une image très propre et nette. Et les gens constatent : il y a une voiture devant moi, et le système voit qu'il y a une voiture devant moi. Mais pour aider les gens à se faire une intuition de ce qu'est la vision par ordinateur, en montrant une partie de l'incertitude…Elon MuskEh bien, dans ma voiture, je regarde toujours la vue de débogage, et il y a deux vues de débogage. L'une, c'est la vision augmentée, que vous avez sûrement vue, où on dessine en gros des cadres et des étiquettes autour des objets reconnus. Et puis il y a ce qu'on appelle le visualiseur, qui est en gros une représentation en espace vectoriel qui agrège les entrées de tous les capteurs ; il ne montre aucune image, mais il montre tous les…En gros, il montre la vision du monde de la voiture dans l'espace vectoriel. Mais je pense que c'est très difficile à comprendre pour les gens normaux. Ils ne sauraient pas ce qu'ils regardent, bon sang.Lex FridmanC'est presque un défi d'interface homme-machine : ce qui est affiché actuellement est optimisé pour que le grand public comprenne ce dont le système est capable.Elon MuskMême si on n'a aucune idée de comment fonctionne la vision par ordinateur, on peut regarder l'écran et voir si la voiture sait ce qui se passe. Et si vous êtes ingénieur de développement, ou si vous avez la version de développement comme moi, vous pouvez voir toutes les informations de débogage. Mais ce serait du charabia total pour la plupart des gens.Lex FridmanQuel est votre avis sur la meilleure façon de répartir l'effort ? Il y a, je dirais, trois aspects techniques de l'Autopilot qui sont vraiment importants. Il y a les algorithmes sous-jacents, comme l'architecture du réseau de neurones, il y a les données sur lesquelles il est entraîné, et puis il y a le développement matériel. Il y en a peut-être d'autres, mais bon : algorithmes, données, matériel.On n'a qu'une quantité limitée d'argent et de temps. À quoi est-il le plus important d'allouer des ressources, selon vous ? Ou voyez-vous ça comme assez équitablement réparti entre les trois ?Elon MuskOn reçoit automatiquement d'énormes quantités de données, parce que toutes nos voitures ont huit caméras orientées vers l'extérieur, un radar et en général 12 capteurs à ultrasons, le GPS évidemment et une centrale inertielle.On a donc en gros une flotte qui a…On a environ 400 000 voitures sur la route avec ce niveau de données. Je crois que vous suivez ça d'assez près, en fait.Lex FridmanOui.Elon MuskOui. On approche donc du demi-million de voitures sur la route avec l'ensemble complet de capteurs.Lex FridmanOui.Elon MuskDonc c'est… Je ne sais pas combien d'autres voitures sur la route ont cet ensemble de capteurs, mais je serais surpris que ce soit plus de 5 000, ce qui veut dire qu'on a 99 % de toutes les données.Lex FridmanIl y a donc cet énorme afflux de données.Elon MuskUn afflux de données absolument colossal. Et puis, ça nous a pris environ trois ans, mais on a enfin développé notre ordinateur de conduite entièrement autonome, qui peut traiter un ordre de grandeur de plus que le système Nvidia qu'on a actuellement dans les voitures. Et pour l'utiliser, il suffit de débrancher l'ordinateur Nvidia et de brancher l'ordinateur Tesla, c'est tout.Et c'est, c'est… En fait, on n'a même pas… On explore encore les limites de ses capacités. On a pu faire tourner les caméras à pleine fréquence d'images, en pleine résolution, sans même recadrer les images. Et il reste de la marge, même sur un seul des systèmes. L'ordinateur de conduite entièrement autonome, c'est en fait deux ordinateurs, deux systèmes sur puce entièrement redondants.On pourrait donc planter un boulon dans à peu près n'importe quelle partie du système, et il fonctionnerait encore.Lex FridmanLa redondance : ce sont des copies parfaites l'une de l'autre, ou… C'est donc purement pour la redondance, par opposition à une architecture de type « machines qui débattent », où les deux prennent des décisions. C'est purement pour la redondance, je penseElon Muskplutôt comme un avion de ligne bimoteur : le système fonctionne au mieux si les deux systèmes tournent, mais il peut fonctionner en sécurité sur un seul.Mais en l'état actuel, on peut simplement faire tourner… On n'a même pas atteint la limite des performances, donc pas besoin de répartir les fonctions entre les deux puces. On peut carrément faire tourner une copie complète sur chacune.Lex FridmanDonc vous n'avez pas vraiment exploré ni atteint la limite.Elon MuskVous n'avez pas encore atteint la limite.Lex FridmanLa magie de l'apprentissage profond, c'est qu'il s'améliore avec les données. Vous avez dit qu'il y a un énorme afflux de données. Mais en conduite, les données vraiment précieuses pour apprendre, ce sont les cas limites. Alors comment… Je vous ai entendu dire quelque part que les désengagements de l'Autopilot sont un moment important à exploiter. Y a-t-il d'autres cas limites, ou pouvez-vous parler de ces cas limites, de ce qui peut y être précieux, ou si vous avez d'autres idées pour découvrir toujours plus de cas limites en conduite ?Elon MuskEh bien, il y a beaucoup de choses qui sont apprises. Il y a certainement des cas limites où, par exemple, quelqu'un est sous Autopilot et reprend la main ; et là, c'est un déclencheur qui remonte à notre système et qui demande : a-t-il repris la main par commodité, ou parce que l'Autopilot ne fonctionnait pas correctement ? Il y a aussi, disons, quand on cherche la spline optimale pour traverser une intersection.Alors ce sont les passages sans intervention qui sont les bons. Donc on dit : quand ça ressemble à ça, fais ceci.Et on obtient la spline optimale pour franchir une intersection complexe.Lex FridmanDonc ça, c'est pour ça. Il y a en quelque sorte le cas courant. Vous essayez de capturer un très grand nombre d'échantillons d'une intersection donnée, de quand les choses se sont bien passées. Et puis il y a le cas limite où, comme vous dites, ce n'est pas par commodité : quelque chose ne s'est pas passé tout à fait comme prévu.Elon MuskQuelqu'un a repris le contrôle manuel à l'Autopilot. Et en réalité, la bonne façon de voir les choses, c'est de considérer toute intervention comme une erreur. Si l'utilisateur a dû intervenir, ça veut dire quelque chose. Toute intervention est une erreur.Lex FridmanC'est une formule forte, de voir les choses ainsi, parce que c'est peut-être bien une erreur. Mais si vous voulez sortir de l'autoroute, ou si c'est une décision de navigation que l'Autopilot n'est pas conçu pour prendre actuellement, alors le conducteur reprend la main.Elon MuskComment faire la différence ? Ça va changer avec Navigate on Autopilot, qu'on vient de sortir, sans confirmation. Donc la navigation, comme reprendre le contrôle pour changer de voie, sortir d'une voie rapide ou passer un échangeur autoroutier, l'immense majorité de ça va disparaître avec la version qui vient de sortir.Lex FridmanOui, je ne crois pas que les gens mesurent l'ampleur de cette avancée.Elon MuskOui, ils ne la mesurent pas. Si vous conduisez la voiture, vous le comprenez.Lex FridmanPour l'instant, il faut encore garder les mains sur le volant quand elle fait le changement de voie automatique. Quelles sont… Il y a eu de grands bonds dans le développement de l'Autopilot, tout au long de son histoire. Lesquels vous paraissent être les grands bonds ? Je dirais celui-ci : Navigate on Autopilot sans confirmation, sans avoir à confirmer, c'est un énorme bond.Elon MuskC'est un énorme bond. Elle dépasse aussi automatiquement les voitures lentes. C'est donc à la fois la navigation et la recherche de la voie la plus rapide. Elle dépasse donc les voitures lentes, sort de la voie rapide et prend les échangeurs autoroutiers.Et puis il y a la reconnaissance des feux, introduite d'abord comme un avertissement ; enfin, sur la version de développement que je conduis, la voiture s'arrête complètement aux feux et redémarre.Lex FridmanVoilà donc les étapes. D'accord. Vous venez d'évoquer quelque chose comme les prémices d'un pas vers l'autonomie complète. Quels sont selon vous les plus grands obstacles technologiques à la conduite entièrement autonome ?Elon MuskEn fait, je pense qu'on vient de… l'ordinateur de conduite entièrement autonome, ce qu'on appelle chez Tesla l'ordinateur FSD, qui est maintenant en production.Si vous commandez une Model S ou X, ou une Model 3, avec le pack de conduite entièrement autonome, vous aurez l'ordinateur FSD.C'est important d'avoir une puissance de calcul de base suffisante, puis d'affiner le réseau de neurones et le logiciel de contrôle.Mais tout ça peut être fourni par une simple mise à jour à distance. Ce qui est vraiment profond, et ce que je soulignerai lors de la journée investisseurs qu'on organise sur l'autonomie, c'est que les voitures produites actuellement, avec le matériel produit actuellement, sont capables de conduite entièrement autonome.Lex FridmanMais « capable » est un mot intéressant, parce queElon Muskc'est le matériel qui l'est. Et à mesure qu'on affinera le logiciel, les capacités augmenteront de façon spectaculaire, puis la fiabilité augmentera de façon spectaculaire, et ensuite ça recevra l'autorisation réglementaire. Donc, en substance, acheter une voiture aujourd'hui, c'est investir dans l'avenir. Vous achetez en substance…Je pense que le plus profond, c'est que si vous achetez une Tesla aujourd'hui, je crois que vous achetez un actif qui prend de la valeur, pas un actif qui en perd.Lex FridmanC'est une déclaration vraiment importante, parce que si le matériel est assez performant, c'est ce qui est difficile à mettre à niveau.Elon MuskOui, en général. Exactement.Lex FridmanLe reste est alors un problème logiciel.Elon MuskOui, le logiciel n'a pratiquement aucun coût marginal.Lex FridmanMais quelle est votre intuition côté logiciel ? À quel point les étapes restantes sont-elles difficiles pour arriver à ce que l'expérience, pas seulement la sécurité mais l'expérience complète, soit quelque chose que les gens apprécient ?Elon MuskEh bien, je pense que les gens l'apprécient déjà beaucoup. Sur autoroute, utiliser l'Autopilot de Tesla change complètement la donne en termes de qualité de vie. Il s'agit donc juste d'étendre cette fonctionnalité aux rues des villes, d'ajouter la reconnaissance des feux, de franchir des intersections complexes, puis de pouvoir circuler dans des parkings compliqués, pour que la voiture puisse sortir d'une place et venir vous chercher, même dans un parking qui est un vrai labyrinthe.Et puis elle peut simplement vous déposer et trouver une place toute seule.Lex FridmanOui. En termes d'agrément, et de quelque chose que les gens trouveraient vraiment utile, le parking, c'est vraiment une source d'agacement quand il faut le faire à la main. Il y a donc beaucoup à gagner à l'automatiser. Laissez-moi introduire un peu l'humain dans cette discussion.Parlons de l'autonomie complète. Si on regarde les véhicules de niveau 4 testés actuellement sur route, comme Waymo et d'autres, ils ne sont autonomes que techniquement. Ce sont en réalité des systèmes de niveau 2, simplement avec une philosophie de conception différente. Parce qu'il y a presque toujours un conducteur de sécurité qui surveille le système.Voyez-vous la conduite entièrement autonome de Tesla comme nécessitant encore, pendant un certain temps, la supervision d'un être humain ? C'est-à-dire que ses capacités suffisent pour conduire, mais qu'il faut quand même un humain pour superviser, comme le conducteur de sécurité dans d'autres véhicules entièrement autonomes ?Elon MuskJe pense qu'il faudra détecter les mains sur le volant pendant au moins six mois à partir de maintenant, quelque chose comme ça.Lex FridmanEn réalité,Elon Muskla question, d'un point de vue réglementaire, c'est : de combien l'Autopilot doit-il être plus sûr qu'une personne pour qu'on puisse ne pas surveiller la voiture ?Et c'est un débat qu'on peut avoir. Et puis, avec un grand échantillon, une grande quantité de données, on peut prouver avec une forte confiance, statistiquement parlant, que la voiture est nettement plus sûre qu'une personne et qu'ajouter une personne qui surveille n'affecte pas sensiblement la sécurité. Il faudra peut-être qu'elle soit 200 ou 300 % plus sûre qu'une personne.Lex FridmanEt comment le prouver ?Elon MuskLes incidents par mile.Lex FridmanLes incidents par mile. Donc les accidents et les décès ; oui, les décès seraientElon Muskun facteur, mais il n'y a tout simplement pas assez de décès pour que ce soit statistiquement significatif à grande échelle. Mais il y a assez d'accidents. Il y a beaucoup plus d'accidents que de décès. On peut donc évaluer la probabilité d'un accident.Ensuite il y a une autre étape : la probabilité de blessure, puis la probabilité de blessure permanente, puis la probabilité de décès. Et toutes doivent être bien meilleures que pour une personne, d'au moins 200 % peut-être.Lex FridmanEt vous pensez qu'il est possible d'avoir un dialogue sain avec les autorités de régulation sur ce sujet ?Elon MuskIl ne fait aucun doute que les régulateurs prêtent une attention disproportionnée à ce qui fait parler la presse. C'est un fait objectif. Et Tesla fait beaucoup parler la presse. Aux États-Unis, il y a, je crois, près de 40 000 morts sur la route par an, mais s'il y en a quatre en Tesla, on en parlera sans doute mille fois plus que de n'importe qui d'autre.Lex FridmanLa psychologie de tout ça est d'ailleurs fascinante. Je ne pense pas qu'on ait le temps d'en parler. Mais il faut que je vous parle du côté humain. Mon équipe au MIT et moi avons récemment publié un article sur la vigilance fonctionnelle des conducteurs pendant l'utilisation de l'Autopilot. C'est un travail qu'on mène depuis la première sortie publique de l'Autopilot, il y a plus de trois ans : on collecte des vidéos du visage et du corps des conducteurs.J'ai vu que vous avez tweeté une citation du résumé, donc je peux au moins supposer que vous y avez jeté un œil.Elon MuskOui.Lex FridmanD'accord. Je peux vous présenter ce qu'on a trouvé ?Elon MuskBien sûr.Lex FridmanIl apparaît, dans les données qu'on a collectées, que les conducteurs maintiennent une vigilance fonctionnelle : on a examiné 18 000 désengagements de l'Autopilot. 18 900. Et on a annoté : ont-ils pu reprendre le contrôle à temps ? Étaient-ils présents, regardaient-ils la route pour reprendre le contrôle ?Or ça va à l'encontre de ce que beaucoup prédiraient d'après la littérature sur la vigilance face à l'automatisation. La question est : pensez-vous que ces résultats valent pour l'ensemble de la population ? Le nôtre n'est qu'un petit sous-ensemble, qu'en pensez-vous ? Une des critiques, c'est qu'il y a peut-être une petite minorité de conducteurs très responsables, et que chez d'autres, la baisse de vigilance augmenterait avec l'usage de l'Autopilot.Elon MuskJe pense que tout ça va être balayé. Le système s'améliore tellement, si vite, que la question sera bientôt sans objet.Quant à la vigilance : si quelque chose est bien plus sûr qu'une personne, alors ajouter une personne n'a qu'un effet limité sur la sécurité, et il pourrait même être négatif.Lex FridmanC'est vraiment intéressant. Donc le fait qu'une partie de la population puisse montrer une baisse de vigilance n'affectera pas les chiffres globaux de sécurité ?Elon MuskNon, en fait je pense que ça arrivera très vite, peut-être même vers la fin de cette année. Mais je serais sidéré que ce ne soit pas au plus tard l'an prochain : faire intervenir un humain fera baisser la sécurité. Imaginez que vous êtes dans un ascenseur. Autrefois, il y avait des liftiers, et on ne pouvait pas monter seul dans un ascenseur et actionner le levier pour passer d'un étage à l'autre.Aujourd'hui, personne ne veut de liftier, parce que l'ascenseur automatique qui s'arrête aux étages est bien plus sûr que le liftier. Et en fait, ce serait assez dangereux d'avoir quelqu'un avec un levier qui peut déplacer l'ascenseur entre les étages.Lex FridmanC'est une déclaration vraiment forte, et vraiment intéressante. Mais je dois aussi vous demander, du point de vue de l'expérience utilisateur et de la sécurité : l'une de mes passions algorithmiques, c'est la détection par caméra, pas seulement percevoir l'humain, mais détecter ce que regarde le conducteur. La charge cognitive, la posture. Côté vision par ordinateur, c'est un problème fascinant.Mais pensez-vous, et beaucoup dans l'industrie croient qu'il faut une surveillance du conducteur par caméra, qu'on pourrait tirer un bénéfice de la surveillance du conducteur ?Elon MuskSi vous avez un système dont la fiabilité est au niveau humain ou en dessous, alors la surveillance du conducteur a du sens. Mais si votre système est nettement meilleur, plus fiable qu'un humain, alors la surveillance du conducteur n'aide pas beaucoup. Et comme je disais, de même que vous ne voudriez pas, dans un ascenseur, de quelqu'un avec un gros levier, une personne lambda qui fait passer l'ascenseur d'un étage à l'autre…Je ne ferais pas confiance à ça. Je préférerais avoir les boutons.Lex FridmanD'accord, vous êtes optimiste sur le rythme d'amélioration du système. D'après ce que j'ai vu avec l'ordinateurElon Muskde conduite entièrement autonome, le rythme d'amélioration est exponentiel.Lex FridmanUn autre choix de conception très intéressant au début, lié à ça, c'est le domaine de conception opérationnelle de l'Autopilot. C'est-à-dire là où l'Autopilot peut être activé.Par contraste, un autre système qu'on étudie, c'est le Super Cruise de Cadillac. En termes d'ODD, il est très limité à certains types d'autoroutes, bien cartographiées et testées, mais c'est beaucoup plus étroit que l'ODD des véhicules Tesla.C'est du ADD. Oui, elle est bonne, celle-là.Quelle a été la décision de conception derrière cette philosophie différente, avec ses avantages et ses inconvénients ? Ce qu'on voit avec un ODD large, c'est que les conducteurs de Tesla peuvent davantage explorer les limites du système, au moins au début, et qu'ils comprennent, avec l'affichage du combiné d'instruments, ils commencent à comprendre quelles sont ses capacités.C'est donc un avantage. L'inconvénient, c'est qu'on laisse les conducteurs l'utiliserElon Muskpratiquement n'importe où, du moment qu'elle détecte les voies avec assurance.Lex FridmanY avait-il une philosophie, des décisions de conception difficiles prises à ce moment-là, ou est-ce que dès le départ ça a été fait exprès, délibérément ?Elon MuskEh bien, franchement, je pense que c'est assez dingue. Laisser les gens conduire à la main une machine de mort de deux tonnes, c'est dingue. À l'avenir, les gens diront : je n'arrive pas à croire qu'on laissait n'importe qui conduire une de ces machines de mort de deux tonnes, n'importe où, comme les ascenseurs. On déplace l'ascenseur avec ce levier où on veut.On peut l'arrêter entre deux étages si on veut.C'est assez dingue. Ça paraîtra un truc de fou, à l'avenir, que les gens aient conduit des voitures.Lex FridmanJ'ai plein de questions sur la psychologie humaine, sur le comportement, etc., qui deviendraient…Parce que vous avez foi dans le système d'IA ? Pas foi, mais tant côté matériel que par l'approche d'apprentissage profond qui apprend des données, il sera tout simplement bien plus sûr que les humains.Elon MuskOui, exactement.Lex FridmanRécemment, quelques hackers ont piégé l'Autopilot pour le faire agir de manière inattendue avec des exemples adverses.On sait tous que les réseaux de neuronessont très sensibles à de petites perturbations,à ces exemples adverses en entrée. Pensez-vous qu'il soit possible pour l'industrie de se défendre contre ce genre de chose ?Elon MuskBien sûr.Lex FridmanPouvez-vous expliquer ce qui fonde votre assurance ?Elon MuskEh bien, le… Un réseau de neurones, c'est juste un tas de calcul matriciel de base. Il faut être quelqu'un de très pointu, qui comprend vraiment les réseaux de neurones, qui fait en gros de la rétro-ingénierie sur la façon dont la matrice est construite, puis qui crée un petit truc qui fausse juste légèrement le calcul matriciel. Mais c'est ensuite très facile de bloquer ça avec, en gros, une reconnaissance négative.Si le système voit quelque chose qui ressemble à un piratage matriciel, il l'exclut.C'est tellement facile à faire.Lex FridmanDonc apprendre à la fois sur les données valides et sur les données invalides. En gros, apprendre sur les exemples adverses pour pouvoir les exclure.Elon MuskOui, en gros, on veut savoir à la fois ce qu'est une voiture et ce qui n'est certainement pas une voiture ; on entraîne pour « ceci est une voiture » et « ceci n'est certainement pas une voiture ». Ce sont deux choses différentes.Les gens n'en ont aucune idée. Les réseaux de neurones, vraiment ? Ils pensent sans doute que les réseaux de neurones, c'est des filets de pêche.Lex FridmanComme vous le savez. Pour aller au-delà de Tesla et de l'Autopilot : les approches actuelles d'apprentissage profond semblent encore, à certains égards, loin des systèmes d'intelligence générale. Pensez-vous que les approches actuelles nous mèneront à l'intelligence générale, ou faudra-t-il inventer des idées totalement nouvelles ?Elon MuskJe pense qu'il nous manque quelques idées clés pour l'intelligence générale, l'intelligence artificielle générale, mais elle va nous tomber dessus très vite, et il faudra alors déterminer ce qu'on fera, si tant est qu'on ait le choix.C'est fou que les gens ne fassent pas la différence entre, disons, l'IA spécialisée qui permet à une voiture de comprendre ce qu'est une ligne de voie et de circuler dans les rues, et l'intelligence générale. Ce sont simplement deux choses très différentes. Votre grille-pain et votre ordinateur sont tous deux des machines, mais l'une est bien plus sophistiquée que l'autre.Lex FridmanVous êtes convaincu qu'avec Tesla vous pouvez créer le meilleur grille-pain du monde.Elon MuskLe meilleur grille-pain du monde, oui. La meilleure conduite autonome du monde.Oui.Pour moi, en ce moment, c'est jeu, set et match. Je ne veux pas être complaisant ni trop sûr de moi, mais c'est ce qu'il semble. C'est littéralement ce qu'il semble en ce moment. Je peux me tromper, mais il semble bien que Tesla ait une avance considérable sur tout le monde.Lex FridmanPensez-vous qu'on créera un jour un système d'IA qu'on pourra aimer et qui nous aimera en retour, de façon profonde et sincère, comme dans le film Her ?Elon MuskJe pense que l'IA sera tout à fait capable de vous convaincre de tomber amoureux d'elle.Lex FridmanEt c'est différent de nous, les humains.Elon MuskOn commence à entrer dans une question métaphysique : les émotions et les pensées existent-elles dans un domaine distinct du physique ? Peut-être que oui, peut-être que non, je ne sais pas. Mais j'ai tendance à voir les choses d'un point de vue physique ; la physique a été en quelque sorte ma formation principale. Et d'un point de vue physique, en substance, si elle vous aime d'une façon telle que vous ne pouvez pas dire si c'est réel ou non,alors c'est réel.Lex FridmanC'est une vision physique de l'amour.Elon MuskOui. S'il n'y a pas… Si on ne peut pas prouver que ce n'est pas le cas. S'il n'existe aucun test qu'on puisse appliquer qui permette de faire la différence, alors il n'y a pas de différence.Lex FridmanD'accord. Et c'est comme voir notre monde comme une simulation. Il n'existe peut-être pas de test pour faire la différence entre le monde réel et la simulation. Et donc, d'un point de vue physique, ça pourrait tout aussi bien être la même chose.Elon MuskOui, il existe peut-être des moyens de tester si c'est une simulation. Il pourrait y en avoir. Je ne dis pas qu'il n'y en a pas, mais on peut certainement imaginer qu'une simulation puisse corriger ça. Dès qu'une entité dans la simulation trouverait un moyen de la détecter, elle pourrait redémarrer, mettre la simulation en pause, en lancer une nouvelle, ou faire l'une de bien d'autres choses qui corrigeraient cette erreur.Lex FridmanAlors quand vous, ou quelqu'un d'autre, créerez peut-être un système d'AGI et que vous pourrez lui poser une seule question, quelle serait-elle ?Elon MuskQu'y a-t-il en dehors de la simulation ?Lex FridmanElon, merci infiniment pour cette conversation. Ce fut un plaisir.Elon MuskTrès bien. Merci.