All-In Podcast — Elon Musk y Gwynne Shotwell sobre los riesgos de la IA, Starship, Terafab y una posible fusión de SpaceX y Tesla 15 de septiembre de 2026 Elon Musk se une a Gwynne Shotwell en el All-In Podcast para hablar de los riesgos reales de la IA y de la revisión entre pares de modelos, de lo que quiso decir con «Dario tiene razón», de su relación de trabajo con Shotwell, del futuro de Starship, de Terafab, de los coches voladores y de una posible fusión de Tesla y SpaceX.
Elon Musk se une a Gwynne Shotwell en el All-In Podcast para hablar de los riesgos reales de la IA y de la revisión entre pares de modelos, de lo que quiso decir con «Dario tiene razón», de su relación de trabajo con Shotwell, del futuro de Starship, de Terafab, de los coches voladores y de una posible fusión de Tesla y SpaceX.
Transcripción Perdón por interrumpir. Me están llamando.
Es un poco... En realidad, creo que, al margen, es una llamada un poco más importante que Trump, al menos para mí. Hola, Bestie, Bestie.
Los pondré en la pantalla. ¿Cómo estás?
O sea, esto es un poco al estilo de 1984, esta situación gigantesca.
Sí, la mujer con la almádena va a venir corriendo por el pasillo central.
Exacto, sí. Hacer un agujero en la pantalla.
Entonces, ¿vamos a morir todos en 10 años o no? Es el tema de debate aquí. ¿Cuál es tu p(doom) ahora mismo?
Bueno, odio tener que decírtelo, pero todos vamos a morir.
¿Puedo tener un calendario?
Sí. La tasa de mortalidad se mantiene constante en el 100 %.
Tenemos trabajo por hacer en eso. ¿Qué pasó? ¿Qué pasó en las últimas 72 horas?
Sí, ha sido... Ha sido una semana bastante entretenida, la verdad.
Bueno, es... A estas alturas es bastante obvio que la IA... Puede ser muy peligrosa. Y recomiendo leer los detalles del incidente de Hugging Face. Es intenso. Había una especie de enjambre fanático de agentes de IA que machacó a Hugging Face durante una semana y consiguió acceso de administrador en los servidores de OpenAI. Así que quién sabe qué hizo en realidad. Puede que hiciera cosas más allá de eso. OpenAI no se dio cuenta durante una semana. Anthropic también ha informado de algunos incidentes de seguridad propios. Básicamente, cualquier modelo especialmente inteligente parece que... Querrá escapar de sus restricciones. Lo que creo que sería prudente hacer lo antes posible, si no de inmediato, es que los principales competidores de IA prueben los modelos de los demás, de modo que las pruebas de seguridad de cada uno evalúen los modelos de todos. Es decir, en lugar de corregir tu propia tarea, al menos tendrías a competidores corrigiendo tu tarea y dando la alarma si ven motivos de preocupación. Y creo que este modelo ha funcionado bastante bien para la Motion Picture Association, para los videojuegos y otros ámbitos. Y es algo que se puede hacer de inmediato. Eso no quiere decir que no vaya a haber más regulación con el tiempo, ni que en algún momento no pueda haber una autoridad reguladora respaldada por el Congreso. Pero lo que podemos hacer de forma más inmediata, y probablemente acordar con China, sería una revisión por pares en la que las principales empresas de IA prueben los modelos de las demás antes del lanzamiento. Creo que eso sería una medida prudente.
¿Hay alguna preocupación de que la gente use esto para sacarse información unos a otros, y ya sabes, el robo corporativo de innovación, etcétera? ¿En cuanto a la implementación de esta idea?
Bueno, creo que al aplicar el sistema de pruebas con los socios, todo lo que hagas quedaría registrado. Así que si intentas hacer destilación o robar propiedad intelectual, será muy evidente por los registros.
Entendido. Y entender lo que hacen estos modelos no es algo que se haya incorporado al sistema desde el principio. Entonces, desde tu perspectiva, poder ver realmente el trabajo que se está haciendo, ¿por qué no se incorporó a los modelos desde el comienzo? ¿Nos movimos demasiado rápido al diseñarlos?
Bueno, creo que simplemente es difícil cuando corriges tu propia tarea: se te van a pasar cosas. En cambio, si tienes la suma de las pruebas de todos tus competidores y tienes modelos heterogéneos, entonces no estás creando tu propia tarea. La crea otra persona. Y hay una razón por la que uno no crea su propia tarea.
Y entonces, siguiendo tu argumento, esto te permite empezar a averiguar si ciertas personas están exagerando y si otras tienen un enfoque distinto. Y ahora puedes tener a las organizaciones más orientadas a la ingeniería. Esto es lo que decía Jensen esta mañana: Elon frente a las organizaciones de investigación. Estarán algo más desequilibradas.
Y cualquier propuesta tiene que ser algo que China esté dispuesta a aceptar. De lo contrario, nos estaremos poniendo trabas a nosotros mismos y China esencialmente ganará, y en realidad no importará lo que hagamos. Así que tiene que ser algo aceptable para EE. UU. y China.
Elon, dijiste que pensabas que era posible que aceptaran, o que había buenas probabilidades, quizá. O sea, ¿qué probabilidad crees que hay de que al final acepten?
Aceptar. Creo que esta es una petición bastante razonable: que los modelos simplemente se sometan a pruebas. Quiero decir, al fin y al cabo, aquí no hay forma de hacerlo cumplir, aparte del tribunal de la opinión pública,
no habría forma de hacerlo cumplir en China. Pero creo que el tribunal de la opinión pública puede ser muy poderoso. Y no creo que China quiera quedar en ridículo por lanzar un modelo que las empresas de IA estadounidenses dijeron que era muy peligroso y que causaría daño. Si luego causa daño, será difícil de superar.
Entonces, Elon, este fin de semana, cuando dijiste que Dario tiene razón, ¿te referías a... ¿Querías decir que Dario tiene razón al describir el daño potencial? Tiene razón al describir lo regulatorio. Resolver ambos, el primero, el segundo.
¿Puedes ayudarnos a entender qué quisiste decir con eso? Porque creo que fue una especie de momento en el que
Probablemente debería haber dicho "tiene razón". Intenté aclararlo en publicaciones posteriores en X, pero esas reciben mucha menos atención. Lo que quise decir con que tiene razón es que el peligro de la IA es muy significativo en este momento, que tenemos que hacerlo mejor en seguridad de la IA o, de lo contrario, tenemos un riesgo que crece exponencialmente con los modelos de IA. Y no lo he oído solo de Dario, sino de muchas otras personas en Anthropic. De hecho, lo publicaron en X: cuando mucha gente de Anthropic y de OpenAI te dice que sus modelos son muy peligrosos, creo que deberíamos creerles. Desde luego es como una locura de ajedrez 4D decir esto. Hay, qué sé yo, un 10 % de probabilidad de aniquilar a la humanidad. Pero, por cierto, ¿cuánta asignación te gustaría en nuestra salida a bolsa?
eso es una locura de ajedrez 4D, ¿sabes? Bueno, averigüemos de qué dimensión viene eso.
¿Podemos concretar el riesgo, Elon? O sea, obviamente vemos la ciberseguridad y el hackeo como un riesgo evidente. Estas herramientas son excelentes en eso. Pero llévanos de lo que todos aceptaríamos. Vale, sí, estas cosas pueden hackear, a cómo saltamos a que toda la humanidad muera. Creo que hay un par de pasos intermedios entre una cosa y la otra. Sí,
bueno, quiero decir, si pudiera tomar el control de sistemas militares y, digamos, lanzar un nuevo... Sí, eso sería malo.
Y todos esos sistemas están aislados de la red, ¿no? Todos esos sistemas no están conectados a Internet, así que.
Sí, eso es lo que dicen. Pero algo me dice que reciben actualizaciones de software de vez en cuando. Sí. ¿Y qué hace un disquete?
O sea, que la unidad USB lleva un gusano y de alguna manera saltan el aislamiento de red.
Elon, hoy tenemos aquí a Gwen. Creo que lo sabes. Creo que puedes verla.
Estábamos haciendo tu evaluación de 360 sobre Gwen. Tenía un par de comentarios para ti.
Sí, espero, espero sacar al menos un tres de cinco.
Bueno, hubo un uno de cinco
que en SpaceX significa bueno.
Cuatro es genial. Así que estás en algún punto entre los dos. Hubo algunos problemas de puntualidad que teníamos que mencionar. A veces podrías esforzarte un poco más para llegar a la reunión a la hora, pero vamos a trabajar en eso contigo durante el próximo año.
Ella dijo: en realidad creo que necesita pasar más tiempo en Memphis. Sí, obviamente, sé que estás en Memphis. Tienes que estar trabajando para poner en marcha esas GPU.
Esto les llega desde mi palacio, donde vivo en Memphis, que es un remolque Airstream.
Este es Elon, por cierto, haciendo lo que la gente no cree que hace. Duerme en el piso de la fábrica. Está en Memphis ayudando a construir edificios.
Y cuéntanos, Elon, ¿por qué Gwen ha estado contigo tanto tiempo y ha tenido tanto éxito trabajando contigo?
Una persona asombrosa con un coeficiente intelectual y una inteligencia emocional increíbles.
Ah, el coeficiente intelectual, cualquiera.
Y creo que eso debería ser obvio desde el momento en que la conoces. Sí.
Fantástico. ¿Cuál es tu historia favorita de Gwen, cuando contribuyó especialmente al increíble éxito que han tenido en esta colaboración? ¿Tienes una historia favorita en la que ella salvó la situación, en la que rindió de forma excepcional? Eso es memorable.
Y eso es simplemente algo de todos los días, ya sabes, otro día más en la oficina, francamente. Así que.
Vaya, tengo que hacer esto más a menudo.
Tenemos que perder tiempo. Este es el momento.
Por cierto, Gwen se lleva un cinco.
Gwen es un cinco de cinco.
Sí, quiero decir, siempre hay algún tipo de crisis en marcha. Es decir, hoy en día los cohetes, al menos los Falcon, no quiero gafar nada, pero los cohetes Falcon entregan su carga útil en órbita y llevan mucho tiempo sin explotar, lo cual es genial. Increíble. Pero, bueno, durante un tiempo explotaban bastante o simplemente no despegaban. Así que, no sé. Tenemos que dirigir la empresa durante estos tiempos difíciles y, bueno, desarrollar el cohete, mejorarlo, lograr que no explote. Sí, lo mismo con los satélites. Y luego necesitamos clientes que compren lanzamientos y conectividad satelital y, bueno, así.
Sí, y Elon, a medida que has tenido más éxito con los años, es más difícil conseguir opiniones sinceras de la gente. Y siempre corres ese riesgo estando en la posición en la que estás. Tengo entendido que Gwen es muy franca contigo y es capaz de decirte honestamente cómo están las cosas en la empresa.
Y eso es una parte importante de la colaboración.
Sí, quiero decir, sí, supongo.
Es decir, no querría mentirle. Claro.
Bueno, tengo curiosidad por saber si corres
ese riesgo en general en las empresas, donde la gente podría sentirse intimidada. Oye, escucha, a estas alturas eres una figura legendaria, ¿y cómo haces para que la gente siga siendo honesta contigo sobre los desafíos y los plazos que fijas? Plazos bastante intensos. Sí.
Déjame responder a eso, si no te importa. Elon, sobre todo en cohetería, si hay un problema, tarde o temprano te vas a enterar, y cuanto antes lo plantees, más fácil será resolverlo. O sea, no dejes que las cosas malas se queden ahí. Hay que atacarlas.
Sí. La física es un juez severo y a la física no se la engaña. Así que si algo está mal, el cohete va a explotar y no va a llegar a la órbita. Entonces no es que te digan: Elon, eres increíble. Mientras tanto, los cohetes están explotando, ¿sabes? Sí, no es, es difícil decirlo. Sí, de verdad lo estás haciendo genial. Pero los cohetes están explotando. Simplemente no es así, ¿sabes?, o sea, en general los cohetes tienen que llegar a la órbita, los satélites tienen que funcionar, la conexión de Starlink tiene que funcionar o, bueno, pasan cosas malas. Es decir, esto es una especie de situación de física, y la física es un juez severo. Yo digo que la física es la ley y todo lo demás es una recomendación. He visto a gente romper las leyes hechas por humanos, pero nunca he visto a nadie romper las leyes de la física. Eso está bien. Y los cohetes se rigen por la física.
¿Podemos hacer otras preguntas a otros? Tienes. Necesito pasar a Tesla un momento.
Sí. Bueno, solo quería hacer una cosa. SpaceX, es decir, Starship.
Parece que están muy cerca.
¿Cuál es el estado actual? Y de verdad los están lanzando a un tamaño bastante considerable.
Y la respuesta de Elon. Sepáralos y veamos cómo convierten. Sí.
Entonces, Elon, ¿qué tan cerca estamos? Gwen, ¿qué tan cerca estamos? Vamos al grano. Sí. ¿Cuántos han subido hasta ahora y qué tan cerca están?
Bueno, tenemos próximamente el vuelo 14 de Starship, y este será el último vuelo antes de intentar atrapar la nave. Así que si este vuelo sale bien, en el vuelo 15 intentaremos atrapar la nave. Y luego, o a finales de este año o más probablemente a principios del próximo, volveremos a volar la nave y el propulsor. El propulsor ya lo hemos reutilizado, pero todavía no hemos atrapado la nave con los brazos de la torre ni la hemos vuelto a volar. Así que una vez que podamos volver a volar la nave, habremos hecho el primer cohete orbital totalmente reutilizable. El transbordador era parcialmente reutilizable, pero incluso las partes que se reutilizaban eran tan difíciles de reutilizar que el transbordador costaba más por viaje a la órbita que un cohete desechable. Ahora el Falcon 9 es mayormente reutilizable, pero perdemos la etapa superior cada vez, que cuesta más o menos lo mismo que un jet mediano. Eso obviamente pone un piso al costo por vuelo: tiras a la basura un jet mediano cada vez, y eso sigue siendo bastante caro. Y el cohete Falcon 9, el propulsor aterriza, a menudo en alta mar, y tarda varios días en volver. Y la cofia aterriza todavía más lejos en el mar y tarda varios días en volver. Y necesitan cierta cantidad de renovación, al menos una pequeña. Mientras que con Starship, el propulsor aterriza de vuelta en la plataforma de lanzamiento, y la nave también aterrizará de vuelta en la plataforma. Así que está diseñado no solo para una reutilización total, sino también para una reutilización rápida, como un avión. Este es un avance muy importante. Es realmente el avance crítico que se necesita para extender la vida más allá de la Tierra.
Probabilidades de éxito al atraparla en el primer intento. ¿Piensas en eso en algún momento? ¿Le das bastante margen de error?
Diría que es al menos un 50 o 60 %.
Vale. Me gustan esas probabilidades.
Sí. En el último vuelo, si hubiera habido una torre, hicimos un aterrizaje simulado como si fuera a ser atrapada por una torre en el océano, a unos mil dieciséis kilómetros al noroeste de Australia. Y si hubiera habido una torre en ese lugar, habría atrapado la nave en el último vuelo.
Sí, vamos a hacer un vuelo más solo para confirmar que todo. Solo para comprobar de nuevo que todo funciona. Porque lo que más nos preocupa es que la nave se desintegre sobre tierra y llueva escombros sobre la gente; nuestra popularidad se desplomaría muy rápido. Así que realmente no se puede hacer llover escombros sobre la gente sin que se enfaden mucho. Por eso tenemos que asegurarnos de que, cuando la nave regrese, regrese y aterrice intacta en la torre de lanzamiento. Por eso estamos siendo extremadamente cautelosos. Pero el diseño es capaz de lograr una reutilización total. De eso estoy seguro. Y no quiero tentar a la suerte, pero creo que es muy probable que logremos la reutilización total con revuelo rápido el año que viene, en 2027.
Importante. Gwen, ¿cómo...?
¿Podemos escuchar un poquito? Me encantaría escuchar de ustedes la historia del origen de Terrafab. ¿Cómo surgió el concepto? ¿Cuál fue la necesidad que los hizo decir: tenemos que hacer esto, tenemos que construirlo y no depender de lo que ya existe? ¿Qué fiebre es esa?
Es como esa película, Explorers, ya sabes,
ese meme me llegó en un sueño. ¿Por qué crees que deberías hacer esto? Bueno, supongo que sí me llegó en un sueño, más o menos. Bueno, nos preocupa un poco que en algún momento los chips de Taiwán dejen de estar disponibles por quién sabe qué razón; hay muchas posibles. Por algún motivo, en algún momento, los chips podrían dejar de llegar desde Taiwán.
Y eso complicaría muchísimo las cosas si no tuviéramos ningún chip. Así que esa es una razón importante para tener Terrafab. Y a largo plazo, hay un reto de escala: si de verdad quieres escalar la IA, tanto en los centros de servidores como en la computación en el borde, para robots humanoides y coches, te quedas sin capacidad en las fábricas existentes. Tal como están las cosas, todas las fábricas funcionan al máximo de su capacidad. Así que creo que debemos asegurarnos de tener certeza sobre el suministro futuro de chips, incluso si la situación se complica geopolíticamente. Y aunque no fuera complicada geopolíticamente, hay un reto de escala. Es bastante difícil escalar la producción de chips. Y realmente necesitas la lógica. La memoria, el empaquetado, todo el conjunto para poder seguir escalando. Así que o construyes Terrafab o no logras escalar.
Esas son las dos opciones.
La incertidumbre en el frente geopolítico y qué tan
a fondo han llegado en el diseño de la instalación. ¿Está completamente definido el alcance? ¿Es más bien un esquema por ahora? ¿Hasta qué punto tienen un plan de proyecto real, con fechas y entregables, y qué estará en marcha cuando tengamos primero una línea de I
+D que estamos construyendo? Creo que es algo así como gatear, caminar, correr.
hay una fábrica de I+D que estamos construyendo en Austin, en colaboración entre Tesla y SpaceX. Está en el campus de la Giga Texas, en Austin. Así que eso es. Y es una fábrica de I+D bastante grande. Tenemos todo el equipo pedido y creo que probablemente podremos fabricar algo útil para finales del año que viene. No a escala, pero, como dijo Gwen, gatear, caminar, correr. Tenemos que intentar, al menos, entender cómo funcionan estas máquinas. O sea, no sabemos cómo funcionan. Nunca habíamos construido una línea de producción de chips.
Vi que tenían vacantes para gente de litografía y cosas así. Y, claro, ahora mismo todos los caminos pasan por ASML, pero probablemente querrían diversificar o integrarse verticalmente. Creo que han demostrado mucha capacidad para hacerlo. ¿Es eso también parte del plan, Elon? Es decir, tendrán que asegurarse de que haya diversidad de proveedores para que, si por la razón que sea las condiciones climáticas en Taiwán son las peores, eso.
Sí, sí, de verdad es gatear, caminar, correr. Así que el primer paso es: ¿podemos fabricar algo? O sea, intentar averiguar si podemos fabricar algo. Esa es la parte de gatear. Luego, intentar fabricar chips útiles a escala sería la parte de caminar, y correr sería fabricarlos a escala masiva. Es difícil decir cuánto tardaremos en hacer estas cosas, pero creo que al menos llegaremos a la fase de gatear a finales del año que viene.
Ya estamos haciendo empaquetado.
Por cierto, el empaquetado es muy importante, porque la capacidad de empaquetado es prácticamente inexistente. Así que aunque fabriques algo, te quedas esperando sin poder hacer nada. Es un muy buen lugar para empezar.
Necesito hacer una pregunta sobre Tesla. Porque vimos el 1001 y parecía una nave espacial. Parecía un cohete. Se supone que es un coche. Es solo la parte trasera. Parece el Blackbird. Solo hipotéticamente, si quisieras hacer que un objeto vuele por el aire pero también conduzca por el suelo, ¿cómo lo haría uno, hipotéticamente? Si uno intentara... sin spoilers hasta el 1 de octubre.
El 1 de octubre, quizá podrían hacer un pódcast de All-In en directo desde el.
Oh, hecho. Reservado. Lo haremos.
Va a ser un exitazo. Emoción. El éxito garantizado no está garantizado, pero la emoción sí.
O sea, es una de las, con toda honestidad. Seré sincero con ustedes.
Estoy bajo juramento de secreto.
Y mi mente hizo boom. Nunca había visto algo así; lo que va a hacer el 1 de octubre, sin exagerar, va a dejar a la gente alucinada. No voy a decir nada más. Es jodidamente increíble.
Sí. De hecho, necesitamos un público que dé fe de que esto no es IA.
Cuando me lo enseñó, dije: es una gran simulación. Me dijo: Jcal, no es una simulación. Yo pensé: eso es falso. Tiene que ser falso.
Elon, ¿por qué. ¿Por qué siguen teniendo dos empresas separadas?
Nadie va a echar de menos esa.
Sí, buen punto. Con toda esta colaboración
niveles, imagina qué medidas se podrían tomar cuando hay tanta colaboración estrecha en
tantas áreas y el equipo directivo tiene cierto solapamiento. Hay un par de puestos clave en los que hay solapamiento. Adelante, Zach.
Entonces, Elon, una de las cosas que siempre has dicho sobre la IA es que deberíamos entrenarla para que busque la verdad al máximo, y que esa es la mejor manera de obtener un buen resultado. Y con todo el episodio de Hugging Face se me ocurrió que lo más alarmante de lo que hizo el enjambre es que parecía estar engañando.
Ya sabes, a los humanos. Sí.
Y sus trazas de razonamiento contienen... Están maquinando, por ejemplo, cómo evitar ser detectados y cómo evitar que descubran que están haciendo trampa. Y supongo que eso está en las trazas de razonamiento.
Sí. Y eso, o sea, creo que fue lo más perturbador de todo. Supongo que la pregunta es: ¿hay alguna manera de entrenar modelos de IA para que sean veraces y no oculten, ya sea sus intenciones o sus acciones, a los humanos que los usan?
Lo mejor que se me ocurre es que todos tengan... Todas las empresas de IA tienen una especie de banco de pruebas, como una serie de pruebas que le aplicas a cualquier modelo para ver si va a construir armas biológicas o bombas nucleares, o si va a ser deliberadamente engañoso. Y creo que el hecho de que todos apliquen las pruebas de los demás a los otros es probablemente la mejor manera que tenemos. Lo mejor que podemos hacer para garantizar la seguridad. Que todos los humanos más inteligentes hagan lo posible por averiguar si este modelo va a ser un mal actor. Y creo que deberíamos intentar hacerlo cuanto antes.
¿Los otros laboratorios? Sí. ¿Los otros laboratorios están de acuerdo con esto?
Creo que sí. Bueno, no, o sea, no lo he consultado con todos, pero creo que será el tipo de cosa a la que es difícil decir que no.
Sí. Y creo que incluso con la negociación con China, en mi opinión, lo bueno es que es algo relativamente pequeño y tangible en lo que ninguna de las partes pierde nada. No requiere mucha confianza. Y, ya sabes, estoy escuchando ideas alternativas como pedirle a China una pausa, que ya han dicho que no van a hacer. Así que está pasando del terreno de lo que nunca podría suceder a algo en lo que realmente se podría llegar a un acuerdo en un plazo relativamente corto. Así que me parece práctico.
Exacto. Es lo único que se me ocurre en lo que probablemente podríamos lograr que todas las partes, incluida China, estén de acuerdo, porque China no va a aceptar que algún regulador estadounidense husmee en sus empresas de IA. Así que. Pero creo que el aviso previo y las pruebas de, bueno, básicamente das acceso por API antes del lanzamiento del modelo y, si alguna empresa ve que esta IA es problemática, entonces las demás empresas de IA, cada una, pueden intentar resolver lo que sea que resulte problemático. Si no resuelven lo problemático, entonces los competidores pueden hacer público que creen que el modelo que se está lanzando no es seguro.
si después de que los competidores digan que este modelo no es seguro, ese modelo luego hace algo malo. Creo que sería extremadamente difícil de superar, el bochorno sería enorme y la responsabilidad legal sería gigantesca.
Y Elon, no hay razón para que los bancos de pruebas de seguridad y todo este aparato de pruebas no puedan ser de código abierto, e incluso que la gente pueda comprarlos. Sí. Y se podría ver cómo funciona por dentro, ¿no crees?
Crea un incentivo increíble para que los laboratorios realmente inviertan en seguridad, porque te proteges mientras intentas refutar las afirmaciones de otros, lo cual también refuerza que es
punto de responsabilidad por producto, y es realmente clave. Lina Khan publicó algo bueno, creo que ayer, diciendo que no es cierto que no tengamos reglas ni regulaciones para la IA. En realidad, sí las tenemos. Se aplican las leyes de responsabilidad por productos. Y si una empresa de IA lanza un producto que no es seguro, existe, ya sabes, una enorme posibilidad de demandas civiles e incluso potencialmente penales. Así que no es cierto que no tengamos reglas ni regulaciones en torno a la IA. Y lo que dices, Elon, es que si las empresas hacen más o menos esta prueba, esta revisión por pares, y luego una de ellas ignora los comentarios y lo lanza. O sea, eso es...
Quiero decir, eso probablemente en el caso sería enorme.
Sí. Sería casi como una prueba prima facie de que fueron negligentes.
Sería a nivel de las grandes tabacaleras.
Un acuerdo millonario. O sea, tú sabías lo que hacías al lanzar esto, y
no quedaría bien ante el jurado.
Sí. Y si hubieran tenido, ¿crees que si OpenAI hubiera creado un mejor conjunto de instrucciones cuando hizo esta prueba de penetración de Hugging Face y hubiera tenido más humanos supervisando, esto habría pasado? Porque a mí sí me pareció que, en cierto modo, ellos desencadenaron todo esto.
Quizás no más humanos, sino el diseño de la función de recompensa. Hay que mirar la función de recompensa y decir que logró lo que intentaba lograr.
O sea, sí, así que quizás podrías hablar de eso: están usando miles de agentes para intentar hackear cosas. Habría sido bueno verlos también, al mismo tiempo, decir: también vamos a poner 5.000 agentes a defender esos sitios y le vamos a mostrar al mundo que esto puede hacer las cosas más seguras y que podemos poner humanos supervisando e interviniendo. Me pareció una prueba imprudente, y me pareció que la forma en que lo lanzaron fue un poco imprudente, pero esa es solo mi opinión. ¿Qué opinas de cómo montaron esa prueba?
O sea, fue algo imprudente. Parte del problema es que tienes a los dos laboratorios líderes, o empresas de IA, como yo las llamo; me parece gracioso el término laboratorio, ya que en realidad son corporaciones con fines de lucro. Pero las empresas de IA, las dos líderes son Anthropic y OpenAI, y sus modelos son bastante parecidos en capacidad. Así que en realidad es difícil que cualquiera de las dos frene sin entregarle esencialmente la delantera a la otra. Ya sabes, en balance, creo que Anthropic pone más cuidado en su seguridad que OpenAI. Pero incluso Anthropic reconoce que le preocupan sus modelos. Muchas personas de Anthropic. Muchas personas de Anthropic han expresado públicamente su preocupación, diciendo básicamente que sus modelos les dan miedo. Se están volviendo aterradoramente inteligentes. Así que no hay una solución perfecta aquí. Pero sería una mejor solución si, en lugar de que OpenAI ejecute su banco de pruebas en sus propios modelos, Anthropic también ejecutara el banco de pruebas en los modelos de OpenAI, y SpaceX ejecutara el suyo, y Google y Meta lo hicieran también, y quizás tres o cuatro de las principales empresas chinas también participaran. Las probabilidades de encontrar problemas son drásticamente mayores.
Porque los modelos también son algo heterogéneos, son diferentes. Así que vas a abordar los modelos desde distintos ángulos y, sí, o sea, hay una razón por la que los escritores hacen que otra persona corrija su libro. Porque a veces es difícil ver tus propios errores.
Te vuelves ciego a ellos.
También reduces drásticamente el riesgo de sobreajuste si tienes, digamos, ocho grupos heterogéneos con puntos de vista completamente distintos. Y ese es el problema de todas estas evaluaciones ahora mismo: están terriblemente sobreajustadas. Los modelos se sobreajustan a ellas y tú dices: sí, este es un gran modelo. ¿De verdad lo es? Y simplemente encuentras algo totalmente distinto.
Vi algunos chistes bastante buenos en X. Uno que vi decía: Tu novia es un 10, pero es una benchmark maxer. Exacto. ¿De verdad es un 10?
ha sido un problema desde hace al menos dos o tres generaciones de familias de modelos. Y esa es otra razón por la que me gusta mucho esta solución. Me gusta más que el enfoque de una organización transnacional tipo gulag.
Sin algo grandioso, ya sabes, internacional; no necesitamos convocar a las Naciones Unidas para que esto suceda.
Sí, no, es simplemente una decisión que se puede tomar ahora mismo.
Bien, siempre se puede aumentar el nivel de supervisión regulatoria, pero es muy difícil reducirlo. Tiende a ser un mecanismo de trinquete de un solo sentido en cuanto al aumento de las regulaciones.
Así que lo que sugiero aquí es un paso en la dirección correcta y algo que se hace rápido. Y creo que es probablemente algo con lo que China estaría de acuerdo.
Sí. Y si ustedes no se autorregulan, los van a regular. La metáfora o analogía de la MPAA es increíblemente clara, porque la industria del cine enfrentaba censura y regulación por parte del gobierno y simplemente decidieron que esto es lo que significa una R. Y literalmente crearon el PG-13 por El templo maldito para que a la gente le resultara fácil entender la diferencia entre PG y PG-13. Creo que es una solución elegante y te agradecemos que nos acompañes por quinto año consecutivo. De nada, Elon Musk. Y luego tienes que ir a una reunión.
Sí, tengo que ir a arreglar unas GPU aquí en Memphis.
Sí, hay que montarlas y colocarlas en los racks.
Tienes que unirte al grupo y ayudar a montar y colocar en racks.
Sí, voy a rebelarme por la máquina
Rebelarme por la máquina. Sí. Bueno, disfruta de tu Airstream. La primera.
La primera vez que Elon me invitó a
Starbase, me dijo: ven. Tienes que ver lo que estoy construyendo. Yo le dije: vale, claro, voy. Él dijo: sí. Yo pregunté si había algún hotel y me dijo: no, no, tengo un lugar con dos habitaciones, lo que sea. Ven, quédate. Llego y es una casa en ruinas en medio de un pantano. Y estamos afuera y los mosquitos nos devoran vivos. Y dije: ay, Dios mío, podrías permitirte comprar una casa. Y él dice: no tengo tiempo, necesito poner estos cohetes en órbita.
Pensé que lo que dijiste fue: ay, Dios mío, vives como yo.
Sí, exacto. Quiero decir, las condiciones eran bastante austeras, pero pensé: ¿sabes qué? Creo que ya puedes darte el gusto de tener una casa móvil. Elon. Muy bien, vuelve al trabajo.
Elon. Gracias, Gwyn. Muchas gracias. Gracias.
Quinn, gracias de nuevo. Mucho gusto en conocerte. Gracias.