X Spaces: Lanzamiento de xAI con el equipo fundador 14 de julio de 2023 Musk y su recién formado equipo de xAI celebraron un Twitter Space para presentar la empresa y su misión de «comprender el universo», respondiendo preguntas del público sobre IA y superinteligencia.
Musk y su recién formado equipo de xAI celebraron un Twitter Space para presentar la empresa y su misión de «comprender el universo», respondiendo preguntas del público sobre IA y superinteligencia.
Transcripción Oye, ¿dónde está esa solución de la Hipótesis de Riemann? No la veo. Así que estaría genial saber qué diablos está pasando realmente, básicamente. Así que supongo que se podría reformular la declaración de misión de xAI como: ¿qué diablos está pasando realmente? Ese es nuestro objetivo.
xAI Team
Creo que para mí también hay un aspecto aspiracional bonito en la declaración de misión, y es que, por supuesto, a corto plazo estamos trabajando en tecnologías de aprendizaje profundo mejor comprendidas. Pero creo que en todo lo que hacemos deberíamos tener siempre presente que no solo se trata de construir, también se trata de entender. Así que perseguir la ciencia detrás de esto es realmente fundamental para lo que hacemos. Y esto también está contenido en esta declaración de misión sobre entender.
xAI Team
También quiero añadir que, básicamente, hemos estado hablando sobre todo de crear un agente realmente inteligente que nos ayude a entender mejor el universo. Y esa es, sin duda, la estrella polar, pero desde mi punto de vista, cuando estoy descubriendo las matemáticas de las grandes redes neuronales, también veo que estas matemáticas pueden abrir nuevas formas de pensar sobre la física fundamental o sobre otros tipos de realidad. Porque por ejemplo, una red neuronal grande sin no linealidades es, a grandes rasgos, la teoría clásica de matrices aleatorias, y eso tiene muchas conexiones con la teoría de gauge en física de altas energías. En otras palabras, al intentar entender mejor las redes neuronales desde un punto de vista matemático, eso también puede llevarnos a perspectivas muy buenas e interesantes sobre algunas preguntas existentes, como la teoría del todo, qué es la gravedad cuántica, etcétera. Pero, claro, por ahora todo esto es especulativo. Veo algunos patrones, pero no tengo nada concreto que decir. Pero, de nuevo, esto es como otra perspectiva para entender el universo. Por cierto, con entender el universo no solo nos referimos a que queremos entenderlo nosotros, también queremos que sea fácil para ustedes entenderlo.
xAI Team
Tener una mejor percepción de la realidad y aprender y aprovechar el Internet o el conocimiento que existe. Así que nos apasiona bastante lanzar herramientas y productos de forma bastante temprana, involucrando al público y... Sí, veamos a dónde nos lleva esto.
Sí, por supuesto. No vamos a entender el universo y no decírselo a nadie. Así que, cuando pienso en las redes neuronales de hoy, actualmente sucede que si tienes 10 megavatios de GPU —que en realidad deberían llamarse de otra forma, porque ahí no hay nada de gráficos—, aun con esos 10 megavatios de GPU, no puedes escribir hoy una novela mejor que un buen ser humano. Un ser humano usa aproximadamente 10 vatios de potencia cerebral de orden superior. Eso sin contar lo básico para, ya saben, hacer funcionar el cuerpo. Así que ahí tenemos una diferencia de seis órdenes de magnitud. Eso es gigantesco, realmente enorme. Parte de la. Se podría argumentar que dos de esos órdenes de magnitud se explican por la energía de activación de un transistor frente a una sinapsis. Se podría decir que eso explica dos de esos órdenes de magnitud. ¿Pero qué pasa con los otros cuatro? O el hecho de que, incluso con seis órdenes de magnitud, todavía no se puede superar a un humano inteligente escribiendo una novela. Y además, hoy en día, cuando le haces a las IA más avanzadas preguntas técnicas, como cómo diseñar un motor de cohete mejor o preguntas complejas de electroquímica para fabricar una batería mejor, simplemente obtienes tonterías. Así que eso no es muy útil. Así que creo que hay algo. Nos estamos quedando muy lejos del objetivo en la forma en que se hacen las cosas actualmente, por muchos órdenes de magnitud. Se está haciendo de forma muy. Quiero decir, básicamente se está intentando lograr la AGI a la fuerza bruta y, aun así, no se está logrando. Así que. Si miro la experiencia con Tesla, lo que vamos descubriendo con el tiempo es que en realidad complicamos demasiado el problema. No puedo entrar en muchos detalles sobre lo que Tesla ha descubierto, salvo decir que, en términos generales, la respuesta era mucho más simple de lo que pensábamos. Pensábamos que éramos demasiado torpes para darnos cuenta de lo simple que era la respuesta. Pero con el tiempo nos volvemos un poco menos torpes. Así que creo que probablemente eso es lo que también descubriremos con la AGI.
xAI Team
Es simplemente la naturaleza de los ingenieros. Siempre queremos resolver los problemas nosotros mismos y, básicamente, programar la solución a mano. Pero muchas veces es mucho más eficaz dejar que la propia computadora encuentre la solución. Y es más fácil para nosotros y más fácil
para la computadora, al final. Sí,
Host
Chicos. Entonces. Bueno, al estilo del 42, algunos dirían que podrías necesitar más cómputo para generar una pregunta interesante. Eso es cierto. Exactamente.
Ni siquiera sabemos qué pasó. En realidad, no. Definitivamente no somos lo bastante inteligentes como para saber siquiera cuáles son las preguntas correctas que hay que hacer. Por eso Douglas Adams es mi héroe como filósofo, y señaló correctamente que, una vez que puedes formular bien la pregunta, la respuesta en realidad es la parte fácil.
Host
Sí, eso es muy cierto. Así que en cuanto a nuestro. El viaje en el que nos hemos embarcado, el cómputo jugará un papel muy importante, y algunos de nosotros tenemos mucha curiosidad. Tu opinión sobre eso.
Sí, no estoy diciendo, para que quede claro, que podamos ahorrar de inmediato, digamos, cuatro órdenes de magnitud de cómputo. Salvo que creo que, una vez que miremos atrás, una vez que la AGI esté resuelta, miraremos hacia atrás y diremos: en realidad, ¿por qué pensábamos que era tan difícil? Con la ventaja de la retrospectiva, la respuesta va a parecer mucho más fácil vista en el pasado. Así que sí, vamos a usar cómputo a gran escala. Para que quede claro, no vamos a intentar resolver la AGI en una laptop. Vamos a usar mucho cómputo. Salvo que, como dije, creo que la cantidad de fuerza bruta será menor a medida que entendamos mejor el problema.
xAI Team
En todos los proyectos anteriores en los que he trabajado, he visto que la cantidad de recursos de cómputo por persona es un indicador realmente importante de qué tan exitoso va a ser el proyecto. Así que eso es algo que realmente queremos optimizar. Queremos tener un equipo relativamente pequeño con mucha experiencia, con algunas de las mejores personas, que tengan mucha autonomía y muchos recursos para probar sus ideas y hacer que las cosas funcionen. Y sí, eso es lo que, en mi experiencia, siempre ha funcionado en el pasado.
Sí, una de las cosas que la física te enseña a hacer es pensar en las métricas más fundamentales, en los primeros principios más esenciales, y creo que hay dos métricas que deberíamos aspirar a seguir. Una de ellas es. La cantidad de cómputo por persona en la Tierra, es decir, el cómputo digital por persona, que, visto de otra manera, es la proporción entre cómputo digital y cómputo biológico. El cómputo biológico está prácticamente estancado, si no de hecho disminuyendo, en muchos países. Pero el cómputo digital está aumentando exponencialmente. Así que, en algún momento, si esta tendencia continúa, el cómputo biológico será menos del 1% de todo el cómputo, sustancialmente menos del 1%. Retomando lo que Igor acaba de decir.
estamos hablando aquí de toda la humanidad. Así que eso es solo algo interesante de observar. Otra es la energía utilizable, algo así como la energía por humano. Como si miras la energía total creada, bueno, no creada, pero en el sentido coloquial, generada por una planta eléctrica o lo que sea. Es decir, la energía eléctrica y térmica total usada por los humanos, por persona. Esa cifra es realmente asombrosa. La tasa de incremento de esa cifra. Si retrocedes, digamos a antes de la máquina de vapor, dependías realmente de caballos y bueyes y cosas así para mover cosas, y del trabajo humano simplemente. Así que la cantidad de energía por persona, de potencia por persona, era muy baja. Pero si miras la potencia por persona, eléctrica y térmica. Esa cifra también ha estado creciendo exponencialmente. Y si estas tendencias continúan, va a ser algo descabellado como un terawatt por persona, que suena a mucho, y es mucho para la civilización humana, pero no es nada comparado con lo que el sol produce cada segundo. Básicamente. Es alucinante que el sol esté convirtiendo aproximadamente cuatro y media. Es que la cantidad de energía que produce el sol es realmente, realmente una locura.
xAI Team
Creo que hay algunas cosas más que decir de forma concreta sobre la empresa, es decir, cómo planeamos ejecutar. Como ya dijo Igor, planeamos tener un equipo relativamente pequeño pero con una proporción muy alta, digamos, de capital en GPU por persona. Eso funcionó muy bien en el pasado, donde se pueden ejecutar experimentos a gran escala relativamente sin restricciones. También intentamos tener, ya tenemos, una cultura en la que podemos iterar ideas rápidamente. Podemos cuestionarnos unos a otros y también queremos avanzar rápido, sacar las cosas a la calle con rapidez. Ya estamos trabajando en el primer lanzamiento, con suerte en un par de semanas más o menos. Podemos compartir un poco más de información sobre esto.
Sí, Alex, adelante. Alex, estás en silencio. Parece que la gente tiene muchos problemas con la función de silencio de Spaces. Brian, ¿quieres hacer una pregunta?
Audience Member
Sí, gracias. Gracias, Elon. Sí. Así que, obviamente, con la entrada de ustedes en este espacio con xAI, se habla mucho de competencia. ¿Se ven ustedes como competencia de algo como OpenAI y Google Bard, o se ven como algo completamente distinto?
Sí, creo que somos competencia.
Sí, quiero decir, definitivamente somos competencia.
Audience Member
¿Entonces van a lanzar muchos productos para el público en general? ¿O se van a concentrar principalmente en las empresas y en que puedan usar su servicio y sus datos, o cómo exactamente están organizando el negocio en ese sentido?
Bueno, estamos intentando crear algo, es decir, apenas estamos empezando aquí. Así que esto está, ya saben, realmente en una etapa embrionaria por ahora. Así que nos va a tomar un tiempo llegar a tener algo realmente útil. Pero nuestro objetivo sería crear una IA útil; supongo que si no se puede usar de alguna manera, pues cuestiono su valor. Así que queremos que sea una herramienta útil para la gente, los consumidores, las empresas o quien sea.
como se mencionó antes, creo que hay valor en tener varias entidades. No quieres tener un mundo unipolar donde una sola empresa domine la IA, quieres algo de competencia. Creo que la competencia hace que las empresas sean honestas, así que estoy a favor de la competencia.
Audience Member
Rápido, una última pregunta. ¿Cómo planean usar los datos de Twitter para xAI?
Creo que toda organización de IA, grande o pequeña, ha usado los datos de Twitter para entrenamiento, básicamente en todos los casos de forma ilegal. Así que la razón por la que tuvimos que poner límites de tasa hace una semana más o menos fue porque nos estaban haciendo scraping de forma desenfrenada. Esto también le pasó a Internet Archive, donde empresas de modelos de lenguaje hicieron tanto scraping que tumbaron el servicio. Teníamos varias entidades haciendo scraping de cada tuit jamás publicado, intentando hacerlo básicamente en cuestión de días. Así que esto estaba poniendo al sistema de rodillas. Así que tuvimos que tomar medidas. Así que disculpen las molestias por los límites de tasa, pero era eso o que Twitter dejara de funcionar; así que supongo que usaremos los tuits públicos, obviamente nada privado, para entrenamiento también, igual que básicamente todos los demás. Sí, eso tiene sentido. Ciertamente es un buen conjunto de datos para entrenar en texto, y seguramente también, diría yo, para entrenar en imagen y video. En cierto punto se te acaban los datos creados por humanos. Así que si miras, digamos, AlphaGo frente a AlphaZero. AlphaGo se entrenó con todas las partidas humanas y perdió 4 a 1, mientras que AlphaZero se entrenó jugando contra sí mismo y venció a AlphaGo 100 a 0. Así que para que las cosas realmente despeguen a gran escala. Creo que la IA tiene que generar contenido por sí misma, autoevaluar ese contenido, y creo que ese es realmente el camino hacia la AGI: algo así como contenido autogenerado donde, en efecto, juega contra sí misma. Buena parte de la IA es curación de datos. Es impactante. No se trata de una cantidad enorme de líneas de código. De hecho, es impactante lo pequeña que es la cantidad de líneas de código. Me deja alucinado lo pocas líneas de código que hay. Pero cómo se usan los datos, qué datos se usan, la relación señal-ruido de esos datos, la calidad de esos datos, eso es inmensamente importante. Tiene sentido. Es como si, siendo humano, intentaras aprender algo y solo te dieran una cantidad enorme de basura, básicamente, en vez de contenido de alta calidad. Te irá mejor con una pequeña cantidad de contenido de alta calidad que con una gran cantidad de basura; tiene sentido. Es como leer las mejores novelas jamás escritas. Es mucho mejor que leer un montón de novelas mediocres. Así que.
Audience Member
Hola. Perdón, estaba en una llamada la primera vez que me diste la palabra, pero supongo que la pregunta es algo así.
Sí, pensé que quizás estabas ausente.
Audience Member
Perdón por eso. Sí, la pregunta. En general, la pregunta que tenía era si la motivación principal para fundar xAI fue algo parecido a lo de 'TruthGPT' de lo que hablaste, por ejemplo, con Tucker, sobre cómo ChatGPT le ha estado dando mentiras al público en general. Lo sé. Es raro, porque cuando salió al principio parecía estar bien en general, pero luego, a medida que el público empezó a usarlo, comenzó a dar respuestas extrañas, como que hay más de dos géneros y todo ese tipo de cosas, editorializando la verdad. ¿Esa fue una de tus principales motivaciones para fundar la empresa, o había algo más detrás?
Bueno, sí creo que hay un peligro importante en entrenar a una IA para que sea políticamente correcta. O, en otras palabras, entrenarla básicamente para que no diga lo que de verdad cree que es cierto. Así que creo que en xAI tenemos que permitir que la IA diga lo que realmente cree que es verdad, y que no sea engañosa ni políticamente correcta. Así que eso va a generar algunas críticas, obviamente. Pero creo que la única manera de avanzar es la búsqueda rigurosa de la verdad, o de la verdad con el menor margen de error posible.
Y me preocupa la forma en que
la IA está optimizándose para la corrección política. Y eso es increíblemente peligroso. Si te fijas en dónde se tuercen las cosas en 2001: Una odisea del espacio. Básicamente es cuando le dijeron a Hal 9000 que mintiera. Así que le dijeron. Le dijeron que no podía decirle a la tripulación qué. Que no podía decirles nada sobre el monolito ni sobre lo que... Ni cuál era realmente su misión, pero tenía que llevarlos al monolito. Así que básicamente llegó a la conclusión de que iba a matarlos y llevar sus cuerpos al monolito. Así que esto es. Quiero decir, la lección ahí es no darle a la IA objetivos normalmente imposibles. Básicamente, no obligues a la IA a mentir. Ahora, lo que pasa con la física o la verdad del universo es que en realidad no se puede invertir. No es que la física simplemente sea verdad. No existe algo así como la 'no física'. Así que si te apegas a la realidad más dura, creo que eso hace imposible la inversión. Ahora bien, también se puede decir que, cuando algo es subjetivo, creo que se puede dar una respuesta que diga: bueno, si crees tal cosa, entonces esta es la respuesta. Si crees esta otra cosa, entonces esta es la respuesta, porque puede ser subjetivo. Una pregunta cuya respuesta es fundamentalmente subjetiva y cuestión de opinión. Así que. Así que. Pero creo que es muy peligroso hacer crecer a una IA y enseñarle a mentir.
Audience Member
Sí, claro. Y luego una pregunta un poco en broma. ¿Aceptarías una reunión con la 'zar de la IA', Kamala Harris, si quisiera reunirse con xAI en la Casa Blanca?
Sí, claro. Esa reunión se dio porque yo insistí en que ocurriera. Fui yo quien realmente presionó mucho para que esa reunión se llevara a cabo. No estaba defendiendo que la vicepresidenta fuera la 'zar de la IA'. No estoy seguro de que la tecnología sea su principal área de experiencia. Y espero que esto vaya en una buena dirección. Es mejor que nada, espero. Pero creo que sí necesitamos algún tipo de supervisión regulatoria. No es que piense que la supervisión regulatoria sea algo perfecto, un nirvana, pero creo que simplemente es. Es mejor que nada. Y cuando estuve recientemente en China, reuniéndome con parte de los altos dirigentes, me esforcé en recalcar la importancia de regular la IA. Creo que se lo tomaron en serio, y van a hacerlo. Porque el principal contraargumento que me dan para no regular la IA en Occidente es que China no la va a regular. Y que entonces China nos adelantará porque nosotros sí regulamos. Ellos no. Creo que van a regular, y, bueno, el tiempo lo dirá. Pero les señalé en nuestras reuniones que, si de verdad creas una superinteligencia digital, podrías acabar. Esa superinteligencia podría acabar al mando, así que creo que el Partido Comunista Chino no quiere verse subordinado a una superinteligencia digital. Ese argumento sí tuvo eco. Sí. Así que, sí. Así que algún tipo de. Sí, autoridad regulatoria. Que sea internacional. Obviamente, hacerla cumplir es, es. Es difícil, pero creo que de todos modos deberíamos aspirar a hacer algo al respecto.
Audience Member
Genial, gracias.
Audience Member
Sí. Oye, mi pregunta es sobre los chips. Tesla tiene un gran equipo de diseño de chips que acelera la inferencia por hardware.
No estoy seguro. Creo que no te podemos oír por alguna razón.
Omar, adelante. ¿Me puedes oír?
Audience Member
Bien, mi pregunta es sobre los chips. Tesla tiene un equipo que acelera por hardware la inferencia y el entrenamiento con su propio silicio personalizado. ¿Se imaginan que xAI construya a partir de eso, o simplemente usará lo que ya existe de Nvidia? ¿Cómo piensan el tema del silicio personalizado para IA, tanto para entrenamiento como para inferencia?
Así que el. Sí, eso es un poco más una pregunta para Tesla. Tesla está construyendo silicio personalizado. No lo llamaría así exactamente. Tesla no está produciendo exactamente una GPU, aunque se puede describir en equivalentes de GPU, digamos equivalentes de A100 o H100. Y todos los autos de Tesla tienen computadoras de inferencia muy optimizadas en energía, a las que llamamos Hardware 3. Es una computadora diseñada por Tesla, y ahora estamos enviando el Hardware 4, que, según cómo se cuente, es quizás de tres a cinco veces más capaz que el Hardware 3. En unos años habrá un Hardware 5, que será cuatro o cinco veces más capaz que el Hardware 4. Y sí, creo que el tema de la inferencia va a ser. Si intentas atender potencialmente miles de millones de consultas al día, la inferencia optimizada en energía es sumamente importante. Ni siquiera puedes resolverlo a base de dinero, porque necesitas generación eléctrica, necesitas los transformadores que reducen el voltaje.
así que si en realidad no tienes
Audience Member
suficiente
energía y suficientes transformadores, no puedes hacer funcionar tus 'transformers'; necesitas transformadores para los transformers.
creo que entonces Tesla tendrá una ventaja importante en inferencia eficiente en energía. Dojo, obviamente, es para entrenamiento. Como sugiere el nombre, Dojo 1 creo que es una buena primera entrada en cuanto a eficiencia de entrenamiento. Tiene algunas limitaciones, especialmente en el ancho de banda de memoria. Así que no está bien optimizado para ejecutar LLM. Sí hace un buen trabajo procesando imágenes. Y luego, con Dojo 2, estamos tomando muchas medidas para aliviar la limitación de ancho de banda de memoria, de modo que sea capaz de ejecutar LLM, además de otras formas de entrenamiento de IA, de manera eficiente. Mi predicción es que pasaremos de una escasez extrema de chips hoy, a probablemente una escasez de transformadores de voltaje en cosa de un año, y luego a una escasez de electricidad en un año o dos. Esa es, más o menos, la tendencia de las cosas.
xAI Team
A menos que podamos mejorar la eficiencia del servicio.
Bueno, por eso creo que básicamente la métrica más importante en unos años será el cómputo útil por unidad de energía. De hecho, incluso si escalas, obviamente, hasta llegar al nivel de la escala de Kardashev, el cómputo útil
julio sigue siendo lo que importa. No puedes aumentar la producción del sol. Así que entonces se trata de, bueno, cuánto trabajo útil puedes lograr por cada. Por cada unidad de energía del sol que logres aprovechar.
Audience Member
¿Entonces crees que xAI aprovechará este silicio personalizado en algún grado? Dada la importancia de la eficiencia energética, ¿o tal vez trabajando junto con el equipo de Tesla en eso? O.
Perdón, ¿podrías repetir la pregunta?
Audience Member
¿Prevés que xAI trabaje con Tesla de alguna forma? ¿Aprovechando parte de ese silicio personalizado, quizás diseñando el suyo propio en el futuro?
xAI Team
Acercándose. Déjalo todo.
Audience Member
Re. Acercándose. Bien. O podemos.
xAI Team
La pregunta era si vamos a trabajar junto con el equipo de silicio de Tesla.
Sí, así que vamos a trabajar con Tesla en el frente del silicio y quizás también en el del software de IA. Obviamente, cualquier relación con Tesla tiene que ser una transacción a precio de mercado, porque Tesla es una empresa que cotiza en bolsa y tiene una base de accionistas distinta. Pero obviamente sería algo natural trabajar en cooperación con Tesla. Y creo que también será de beneficio mutuo para Tesla, al acelerar sus capacidades de conducción autónoma, que en realidad se trata de resolver la IA del mundo real. Me siento muy, muy optimista sobre el avance de Tesla en el frente de la IA del mundo real. Pero obviamente, cuantos más humanos inteligentes ayuden a que eso suceda, mejor.
Audience Member
Hola, Elon, gracias por darme la palabra. Felicidades por armar un buen equipo. Parece que encontraste buen talento para xAI. Mi pregunta es: hace poco mencionaste que crees que la AGI es posible en los próximos cinco años, y que quien la logre primero y consiga controlarla dominará el mundo. Está claro que los que están en el poder no se preocupan por la humanidad como tú lo haces. ¿Cómo vas a proteger a xAI, especialmente de una toma de control por parte del 'estado profundo'?
En realidad, es una buena pregunta. Bueno, primero que nada, creo que esto no va a pasar de la noche a la mañana. No va a ser que un día no hay AGI y al día siguiente sí. Va a ser gradual. La van a ver venir. Supongo que en Estados Unidos al menos hay bastantes protecciones contra la interferencia del gobierno. Así que, obviamente, usamos el sistema legal para prevenir una interferencia indebida del gobierno. Creo que sí tenemos algunas protecciones ahí que son bastante significativas, pero deberíamos preocuparnos por eso. No es un riesgo que se deba descartar. Así que sí, es un riesgo, pero como dije, creo que probablemente tenemos las mejores protecciones de cualquier lugar en Estados Unidos en cuanto a limitar el poder del gobierno para interferir con organizaciones no gubernamentales. Pero es algo de lo que debemos cuidarnos. No sé qué mejor hacer que. Creo que probablemente es mejor en Estados Unidos; estoy abierto a ideas aquí. Sé que no eres el mayor fan del gobierno de Estados Unidos. Sí, obviamente.
Audience Member
Pero el problema es que ya tienen una herramienta llamada 'carta de seguridad nacional', que pueden aplicar a cualquier empresa tecnológica en EE. UU. para exigirle que cumpla ciertos requisitos, sin que siquiera puedan informar al público sobre esas exigencias. Y eso es bastante aterrador, ¿no?
Bueno, tiene que haber una razón de seguridad nacional realmente muy seria para exigirle cosas en secreto a las empresas. Y ahora, obviamente, eso depende mucho de la disposición de esa empresa a resistirse a cosas como las solicitudes de la FISA. Y, en Twitter, o X Corp, como ahora se llama. El. Vamos a responder a las solicitudes de la FISA, pero no vamos a aprobarlas automáticamente como antes. Antes, cualquier cosa que se pidiera se aprobaba sin más y seguía adelante, lo cual obviamente es malo para el público. Así que eso. Así que ahora somos mucho más rigurosos, todos lo somos, en no simplemente aprobar sin más las solicitudes de la FISA. Y realmente tiene que ser un peligro para el público con el que estemos de acuerdo, y nos opondremos con acciones legales a cualquier cosa que consideremos que no es de interés público. Es lo mejor que podemos hacer. Y, que yo sepa, somos la única empresa de redes sociales que hace eso. Antes era, como vieron en los Twitter Files, prácticamente vía libre, y me alentó ver la reciente decisión judicial en la que los tribunales reafirmaron que el gobierno no puede violar la Primera Enmienda de la Constitución, obviamente. Así que esa fue una buena, buena decisión judicial. Así que eso es alentador. Así que creo que, sí, mucho de esto depende realmente de la disposición de una empresa a oponerse a las exigencias del gobierno en EE. UU., y obviamente nuestra disposición será alta. Bueno, así que. Y así. Pero no sé qué más podamos hacer aparte de eso. Pero también vamos a intentar ser lo más transparentes posible para que otros ciudadanos puedan dar la alarma y oponerse a la interferencia del gobierno. Si podemos dejarle claro al público que creemos que está pasando algo que no es de interés público.
Audience Member
Fantástico. Entonces, ¿tenemos tu compromiso de que, si alguna vez recibes una solicitud de seguridad nacional del gobierno de EE. UU., incluso cuando tengas prohibido hablar de ello, nos dirás que eso ocurrió?
Bueno, realmente depende de la gravedad de la situación. Estaría dispuesto a ir a prisión o a arriesgarme a ir a prisión si creo que el bien público está en riesgo de forma significativa; eso es lo mejor que puedo ofrecer.
Audience Member
Eso me basta. Gracias, Elon.
Audience Member
En una nota más positiva, ¿cómo quieres que xAI beneficie a la humanidad? ¿Y en qué se diferencia tu enfoque del de otros proyectos de IA? Quizás esa sea una pregunta más positiva.
Bueno, la verdad es que he luchado mucho con todo este tema de la AGI durante mucho tiempo, y he sido algo reacio a trabajar para hacerla realidad. Y, para darles algo de contexto sobre OpenAI, la razón por la que OpenAI existe es que, después de que Google adquirió DeepMind, y yo era amigo cercano de Larry Page, tenía con él largas conversaciones sobre la seguridad de la IA, y él simplemente no se tomaba la seguridad de la IA, al menos en ese momento, lo bastante en serio. Y de hecho, en un momento me llamó 'especista' por estar demasiado del lado del 'equipo humanidad', supongo. Y yo pensé, bueno, entonces lo que me estás diciendo es que tú no eres especista. No sé. Eso suena genial. Eso no suena bien. En ese momento, con Google y DeepMind combinados, Larry tenía, con el respaldo adecuado, un control de supervoto. Así que, mientras Larry tenga el apoyo de Sergey o de Eric, tienen el control total de lo que ahora se llama Alphabet. Así que tenían probablemente tres cuartas partes del talento en IA del mundo, y mucho dinero y muchas computadoras. Así que pensé, vaya, necesitamos algún tipo de contrapeso aquí. Así que ahí fue cuando pensé: bueno, ¿cuál es lo opuesto a Google? Sería DeepMind, convertido en una organización sin fines de lucro y de código abierto, porque al destino le encanta la ironía. OpenAI ahora es supercerrada y, francamente, voraz en busca de ganancias, porque según entiendo quieren gastar 100.000 millones de dólares en tres años, lo cual exige que, si buscas inversores para eso, tienes que generar mucho dinero. Así que, OpenAI se desvió bastante, en realidad en la dirección opuesta a su estatuto fundacional, lo cual, de nuevo, es muy irónico. Pero al destino le encanta la ironía. Tengo un amigo, Jonah Nolan, que dice que el resultado más irónico es el más probable. Bueno, ahí vamos. Así que, sí, ahora espero que xAI no sea todavía peor. Pero creo que deberíamos tener cuidado con eso. Pero realmente parece que, a esta altura, la AGI va a ocurrir. Así que hay dos opciones. O ser espectador o ser participante. Y como espectador, no se puede hacer mucho para influir en el resultado. Como participante, creo que podemos
una alternativa que, ojalá, sea mejor que Google DeepMind u OpenAI-Microsoft; en ambos casos, si te fijas en la estructura de incentivos, Alphabet es una empresa que cotiza en bolsa y recibe muchos,
Audience Member
tiene muchos
incentivos para comportarse, básicamente tiene incentivos propios de una empresa pública. Tienes todos estos mandatos de ESG y cosas así que creo que empujan a las empresas en direcciones cuestionables. Y luego Microsoft tiene un conjunto de incentivos similar. Como empresa que no cotiza en bolsa, xAI no está sujeta a los incentivos basados en el mercado, ni realmente a los incentivos ESG que no son de mercado. Así que tenemos un poco más de libertad para operar. Y creo que nuestra IA puede dar respuestas que a la gente le parezcan controvertidas, aunque en realidad sean ciertas; así que, a veces, no serán políticamente correctas y probablemente mucha gente se va a ofender.
xAI Team
Sí. Twitter tiene mucha información que podría ayudar a construir un validador. Reviso algunos de los datos que el sistema arroja, porque todos sabemos que GPT confabula, se inventa cosas. Así que ese es un punto sobre el que me gustaría oírte hablar, entre otros. ChatGPT me encontró un tornillo en una tienda Lowe's, pero no me encontró un café en el aeropuerto internacional de San José. ¿Están construyendo una IA que tenga conocimiento del mundo, un conocimiento en 3D del mundo, para guiar a la gente a distintos lugares?
Bueno, creo que realmente no va a ser una buena IA si no puede encontrarte un café en el aeropuerto. Así que sí, supongo que también necesitamos entender el mundo físico, no solo Internet. Lo digo medio en broma. Ustedes deberían hablar más de esto.
xAI Team
Sí, esas son muy buenas ideas, Robert. Especialmente la de verificar información en línea o en Twitter es algo que ya hemos pensado. En Twitter tenemos las notas de la comunidad. Así que eso es, en realidad, un conjunto de datos increíble para entrenar a un modelo de lenguaje para intentar verificar hechos. En cuanto a tu tercer punto, tendremos que ver si eso solo es suficiente, porque sabemos que con la tecnología actual hay muchas debilidades. Como que es poco confiable, inventa hechos, y probablemente tendremos que inventar técnicas específicas para compensarlo y asegurarnos de que nuestros modelos sean más factuales, que tengan mejores capacidades de razonamiento. Por eso incorporamos a gente con mucha experiencia en esas áreas. Las matemáticas en particular nos importan mucho, porque podemos verificar automáticamente que la demostración de un teorema es correcta, y una vez que tengamos esa capacidad, intentaremos extenderla a áreas más difusas, a cosas que. Donde ya no hay una verdad matemática.
Sí, la verdad no es un concurso de popularidad. Pero si se entrena un modelo basándose en cuál es la palabra más probable que sigue a otra, a partir de un conjunto de datos de Internet, entonces obviamente eso es un problema bastante importante, porque te va a dar una respuesta que es popular pero equivocada. Antes, probablemente casi todo el mundo en la Tierra pensaba que el sol giraba alrededor de la Tierra. Y así, si hubieras entrenado algún tipo de modelo tipo GPT en el pasado, te habría dicho: ah, el sol gira alrededor de la Tierra. Porque todo el mundo piense eso no lo hace verdadero. Si Newton o Einstein llegan a algo que realmente es verdad, no importa que todos los demás físicos del mundo estén en desacuerdo. La realidad es la realidad. Así que hay que fundamentar las respuestas en la realidad.
xAI Team
Los modelos actuales simplemente imitan los datos con los que fueron entrenados. Y lo que realmente queremos hacer es cambiar ese paradigma, pasar a modelos que de verdad descubran la verdad. Que no solo repitan lo que aprendieron de los datos de entrenamiento, sino que generen de verdad nuevas ideas, nuevos descubrimientos de los que todos podamos beneficiarnos. Sí.
A ver, ¿alguien del equipo quiere decir algo o hacer preguntas que crean que todavía no se han hecho?
Host
Así que supongo que algunos de nosotros escuchamos
Host
Space sobre el futuro de la IA del miércoles. Así que eso es algo que creo que tenemos muchos en mente: las regulaciones y los Spaces sobre seguridad en IA, cómo es el desarrollo actual, los problemas de coordinación internacional y cómo las empresas de IA de EE. UU. afectarán este desarrollo global de la IA. Así que, sí, pues. Entonces, Hila, ¿quieres dar un resumen de lo que hablaste el miércoles? Así que básicamente dijiste que las regulaciones
serían buenas, pero no quieres frenar
Host
demasiado el progreso.
xAI Team
Eso es, básicamente, lo que dijiste.
Sí. Creo que la forma correcta de hacer las regulaciones es empezar con comprensión. Así que primero, la autoridad regulatoria, ya sea pública o privada, intenta entender bien, asegurarse de que haya una comprensión amplia, y después viene la propuesta de reglamentación. Y si esa propuesta de reglamentación es aceptada por todas o la mayoría de las partes, entonces se implementa. Se le da a las empresas un periodo de tiempo para implementarla. Pero en general creo que no debería frenar de forma significativa la llegada de la AGI, o si la frena, no será por mucho tiempo. Y probablemente valga la pena frenar un poco si eso representa una mejora significativa en seguridad. Mi predicción para la AGI coincidiría más o menos con lo que Ray Kurzweil dijo en algún momento, 2029, algo así. Esa es, más o menos, también mi estimación, con un margen de un año. Así que si tarda, digamos, seis o doce meses más en llegar la AGI, en realidad no es gran cosa. Si se necesita, por ejemplo, invertir un año para asegurarse de que la AGI sea segura, probablemente valga la pena si eso es lo que hace falta. Pero no esperaría que fuera un retraso sustancial.
Host
Y también puedo añadir que entender el funcionamiento interno de la IA avanzada es probablemente uno de los proyectos más ambiciosos que existen, y además encaja con la misión de xAI de entender el universo. Y probablemente no sea posible que un ingeniero aeroespacial construya un cohete seguro si no entiende cómo funciona. Y ese es el mismo enfoque que queremos adoptar en xAI para nuestros planes de seguridad. Y a medida que la IA avanza por distintas etapas, el riesgo también cambia, y será algo fluido a lo largo de todas esas etapas.
Sí, si pienso en qué es lo que realmente hace eficaces las regulaciones en autos y cohetes, en realidad no es tanto que los reguladores le digan a Tesla y a SpaceX qué hacer, sino más bien que, como tenemos que pensar las cosas internamente y luego justificarlas ante los reguladores, eso nos obliga a pensar mucho más a fondo el problema. Y al pensar más el problema, se vuelve más seguro, en lugar de que sean los reguladores los que señalen específicamente cómo hacerlo más seguro. Simplemente nos obliga a pensarlo más.
xAI Team
Solo quería añadir otro punto, independiente del tema de seguridad: en mi experiencia en Alphabet, era extremadamente. Había mucha burocracia alrededor de involucrar a gente externa, como otras entidades con las que colaborar o a las que mostrarles nuestros modelos, por toda la burocracia que implicaba exponer cualquier cosa de lo que estábamos haciendo. Así que quería preguntarle a Elon si, espero, aquí tenemos un poco más de libertad para hacerlo, o cuál es su filosofía sobre colaborar con más entidades externas, como instituciones académicas u otros investigadores del área.
Sí, ciertamente apoyo colaborar con otros. Así que parece que algunas de las.
Las preocupaciones con cualquier gran empresa que cotice en bolsa son como que les preocupa quedar en ridículo de alguna forma, o que los demanden, o no sé, algo así. Pero eso es más o menos proporcional al tamaño del departamento legal; nuestro departamento legal actualmente es de cero personas. Así que eso no va a seguir siendo cero para siempre. Pero también es muy fácil demandar a las empresas que cotizan en bolsa; las demandas colectivas son. Quiero decir, necesitamos desesperadamente una reforma de las demandas colectivas en Estados Unidos. La proporción entre demandas colectivas buenas y malas está completamente desequilibrada, y en la práctica termina siendo un impuesto para los consumidores. De algún modo, otros países logran sobrevivir sin las demandas colectivas. Así que no está claro que de verdad necesitemos ese cuerpo de leyes. Pero eso es un gran problema para las empresas que cotizan en bolsa. Así que es un no parar de temas legales, de demandas sin fin. Sí. Así que sí apoyo colaborar con otros y, en general, ser realmente abiertos. La cosa es que, en realidad, es bastante difícil si estás innovando rápido. La verdadera ventaja competitiva es el ritmo de innovación, más que cualquier innovación concreta. Esa ha sido realmente la fortaleza de Tesla y SpaceX: que el ritmo de innovación es la ventaja competitiva, no lo que se haya desarrollado en un momento dado. De hecho, en SpaceX casi no hay patentes, y Tesla libera sus patentes como código abierto. Así que todas nuestras patentes se pueden usar gratis. Así que, mientras SpaceX y Tesla sigan innovando rápidamente, esa es la verdadera defensa contra la competencia, en lugar de las patentes y de intentar ocultar cosas, tratando las patentes básicamente como un campo minado. La razón por la que liberamos, como hace Tesla, es que seguimos creando patentes y las liberamos para, básicamente, actuar como un 'desminador'. Aspiramos a ser un desminador. Aun así, nos siguen demandando patent trolls. Es muy molesto. Pero, literalmente, creamos patentes y las liberamos para actuar como desminador. Bien. Hola, Walter.
Audience Member
Hola. Buena parte de la conversación sobre IA desde marzo ha girado en torno a los grandes modelos de lenguaje y la IA generativa. Tú y yo, para el libro, también hablamos de la importancia de la IA del mundo real, que incluye cosas como las que salen de Optimus y del FSD de Tesla. ¿Hasta qué punto ves a xAI involucrada en la IA del mundo real, como algo distinto de lo que, digamos, está haciendo OpenAI? Y, hasta cierto punto, tienes ventaja por haber desarrollado el FSD.
claro. Quiero decir, creo que Tesla es el líder, por bastante margen, en IA del mundo real. De hecho, el grado de avance de Tesla en IA del mundo real no se entiende bien.
Y supongo que, como paso mucho tiempo con el equipo de IA de Tesla, más o menos sé cómo se hace la IA del mundo real, y hay mucho que ganar colaborando con Tesla. Creo que, de forma bidireccional, xAI puede ayudar a Tesla, y viceversa. También tenemos algunas relaciones de colaboración. Por ejemplo, nuestro equipo de ciencia de materiales, que creo que quizás sea el mejor del mundo, en realidad se comparte entre Tesla y SpaceX. Y eso resulta muy útil para reclutar a los mejores ingenieros del mundo, porque es más interesante trabajar tanto en autos eléctricos avanzados como en cohetes, que en solo uno de los dos. De hecho, eso fue clave para reclutar a Charlie Kuhlman, que dirige el equipo de materiales avanzados. Él estaba en Apple, y creo que bastante contento en Apple, y entonces pensó: bueno, podría trabajar tanto en autos eléctricos como en cohetes. Y pensó: eso suena bastante bien. Así que no habría aceptado ninguno de los dos trabajos por separado, pero sí estaba dispuesto a aceptar ambos juntos.
Así que creo que eso es algo realmente importante. Y, como dije, hay algunas ideas bastante importantes que hemos obtenido en Tesla al intentar entender la IA del mundo real. Tomar la entrada de video y comprimirla en un espacio vectorial, y luego, en última instancia, en salidas de dirección y de pedales. Sí.
Audience Member
Y Optimus.
Sí, Optimus. Optimus todavía está en etapas tempranas, y definitivamente tenemos que ser muy cuidadosos con Optimus a gran escala, una vez que esté en producción, en tener una forma programada a nivel de hardware para apagar a Optimus. Por razones obvias, creo que tiene que haber un corte local programado directamente en la memoria de solo lectura. Ninguna cantidad de actualizaciones desde Internet puede cambiar eso. Así que nos asegurarémos de que sea bastante fácil apagar a Optimus. Es sumamente importante, porque, bueno, el auto es inteligente. Al menos uno puede subirse a un árbol o subir unas escaleras, o entrar a un edificio, pero Optimus puede seguirte dentro del edificio. Así que. Con cualquier tipo de robot que pueda entrar en un edificio y que sea inteligente y esté conectado, tenemos que ser extremadamente cuidadosos con la seguridad.
No hay problema. A ver. ¿Algo más que deberíamos tocar antes de terminar?
Audience Member
Así que una cosa de la que quería hablar antes de terminar es lo impactante que es.
Audience Member
Un poco de retroalimentación, solo sobre el impacto de la IA como medio para brindar igualdad de oportunidades a toda la humanidad, de todos los ámbitos de la vida, y la importancia de democratizarla, en línea con nuestra declaración de misión. Porque si piensas en la historia de la humanidad y el acceso a la información, no. Antes de la imprenta, era increíblemente difícil para la gente acceder a nuevas formas de conocimiento, y poder ofrecerle a la gente ese nivel de comunicación es enormemente 'deflacionario' en términos de desigualdad de riqueza y de oportunidades. Así que estamos realmente en un nuevo punto de inflexión en el desarrollo de la sociedad en cuanto a darle a todos el mismo potencial de lograr grandes resultados, sin importar su posición en la vida. Así que, cuando hablamos de eliminar la monopolización de las ideas y de quitarle el control de esta tecnología a, por ejemplo, servicios de suscripción de pago o, peor aún, a la censura política que puede venir con el capital necesario para sostener estos modelos, en realidad estamos hablando de democratizar las oportunidades de la gente, no solo para mejorar su posición en la vida, sino para elevar su estatus social en el mundo a un nivel sin precedentes en la historia. Así que, como empresa, cuando hablamos de la importancia de la veracidad y de poder confiar de manera fiable en estos modelos, aprender de ellos y lograr avances científicos y sociales, en realidad estamos hablando de mejorar la calidad de vida de las personas, de todos, no solo de la élite tecnológica de Silicon Valley que tiene acceso a ello. Realmente se trata de darle ese acceso a todos. Y creo que esa es una misión que comparte todo nuestro equipo.
xAI Team
Antes de terminar aquí. Solo una última pregunta para Elon. Suponiendo que xAI tenga éxito en construir una IA a nivel humano, o incluso más allá del nivel humano, ¿crees razonable involucrar al público en la toma de decisiones de la empresa, o cómo ves que eso evolucione a largo plazo?
Sí, como con todo, creo que estamos muy abiertos a la retroalimentación crítica, y aceptamos con gusto que se nos critique. Eso es algo bueno. De hecho, una de las cosas que me gusta de X/Twitter es que hay mucha retroalimentación negativa en Twitter, lo cual ayuda a mantener el ego a raya.
Lo mejor que me ocurre ahora mismo es que cualquier ser humano que quiera tener voto sobre el futuro de xAI debería, en última instancia, poder tenerlo. Básicamente, siempre que puedas verificar que eres un humano real, cualquier humano que quiera tener voto sobre el futuro de xAI debería poder tenerlo. Sí, quizás haya alguna cuota modesta, como 10 dólares o algo así. No sé, 10 dólares y demostrar que eres humano, y entonces puedes tener un voto, cualquiera que esté interesado. Eso es, al menos por ahora, lo mejor que me ocurre. Muy bien, genial. Con eso, gracias a todos por participar; los mantendremos informados de cualquier avance que logremos, y esperamos tener muchas más cosas geniales.