Asilomar AI: Panel sobre superinteligencia 30 de enero de 2017 Musk participa con Bostrom, Hassabis, Kurzweil, Russell y Harris en un panel del Future of Life Institute que debate los riesgos y el calendario de la IA superinteligente.
Musk participa con Bostrom, Hassabis, Kurzweil, Russell y Harris en un panel del Future of Life Institute que debate los riesgos y el calendario de la IA superinteligente.
Transcripción Voy a hacer una pregunta que solo podemos responder con un sí, un no o un "es complicado". Muy bien, empecemos por aquí. ¿Es posible alguna forma de superinteligencia, Jan? Sí, no, es complicado.
Panelist
sí, sí, sí, sí, sí, definitivamente no.
Esto fue decepcionante. No encontramos ningún desacuerdo. Esforcémonos más. Que sea posible no significa que vaya a ocurrir realmente.
Antes pregunté si la superinteligencia es posible según las leyes de la física. Ahora pregunto: ¿ocurrirá realmente? Sí, no, o es complicado.
Panelist
Es un poco complicado, pero sí,
sí. Y si no ocurre, es que algo terrible ha pasado para impedirlo.
Panelist
Eso es lo que quería decir.
Qué lástima. Todavía no hemos encontrado desacuerdos interesantes. Tenemos que esforzarnos todavía más. Bien, piensan que va a ocurrir, pero ¿les gustaría realmente que ocurriera en algún momento? Sí, no, o es complicado. Complicado, complicado.
Panelist
Me inclino por el sí,
Panelist
Sí, sí, es realmente complicado.
Panelist
Depende de qué tipo.
Muy bien, entonces se está poniendo un poco más interesante, cuando creo que habíamos sido muy rápidos. ¿Cuándo va a ocurrir esto? Bueno, ya tuvimos una discusión realmente fascinante en el panel de esta mañana sobre cuándo podríamos llegar a una IA de nivel humano. Así que eso fijaría, por así decirlo, un límite inferior, en aras del tiempo. Creo que no necesitamos repetir la cuestión de cuándo podría empezar a ir más allá de eso. Pero hagamos una pregunta muy relacionada con la que acaba de surgir: si algo empieza a ocurrir, si se produce algún tipo de automejora recursiva u otro proceso por el cual la inteligencia de las máquinas empieza a despegar muy, muy rápidamente, siempre hay una escala de tiempo asociada, y ahí espero que por fin podamos encontrar desacuerdos serios sobre los que discutir. Algunas personas han imaginado un escenario en el que todo ocurre de golpe, en días, horas o menos, mientras que otras creen que ocurrirá, pero podría tardar miles de años o décadas. Entonces, si piensas en algún tipo de tiempo de duplicación, una escala de tiempo aproximada en la que las cosas mejoran drásticamente, ¿qué escala de tiempo estimarías, Jan?
Panelist
¿Empezando ahora o empezando con la IA de nivel humano?
No, no. Una vez que lleguemos a la IA de nivel humano, o a cualquier punto más allá o un poco antes, donde las cosas realmente empiezan a despegar, ¿cuál es esa escala de tiempo? Toda explosión, para un físico algo friki, tiene una escala de tiempo, ¿verdad? En la que ocurre. ¿Hablamos de segundos, de años o de milenios?
Panelist
Estoy pensando en años, pero es importante actuar como si el plazo fuera más corto.
Sí, la verdad es que no confío mucho en mis intuiciones aquí. Mi intuición es que hablamos de años, pero también creo que la IA de nivel humano es un espejismo. De repente será mejor que los humanos. Pero si eso se convertirá rápidamente en una explosión de inteligencia completa, no lo sé.
Creo que depende en parte de la arquitectura que acabe logrando la IA de nivel humano. El tipo de IA de inspiración neurocientífica que parece que estamos construyendo ahora necesita entrenamiento y experiencia, entre otras cosas, para adquirir conocimiento, así que podría ser del orden de unos pocos años, quizá incluso una década,
Panelist
unos cuantos años. Pero también podría ser mucho menos. Aunque me sorprendería que fuera mucho más. Sí, potencialmente días o menos. Sobre todo si son ocho investigadores de IA. Diseñando investigadores de IA.
Cada vez que hay un avance en IA, lo descartamos. Ah, bueno, eso no es realmente IA: el ajedrez. El Go, los coches autónomos. Y la IA, como saben, es el campo de las cosas que aún no hemos hecho. Eso continuará cuando realmente lleguemos a la AGI. Habrá mucha controversia. Para cuando la controversia se calme, nos daremos cuenta de que lleva existiendo algunos años.
Sí, creo que superaremos las capacidades humanas en muchas áreas distintas, pero no en todas al mismo tiempo. Así que será un proceso desigual en el que algunas áreas avanzarán muchísimo muy pronto, y en cierta medida ya lo han hecho, mientras que otras podrían tardar mucho más.
Creo que si alcanza un umbral en el que es tan inteligente como el humano más inteligente e inventivo, entonces es posible que pasen solo unos días antes de que sea más inteligente que toda la humanidad junta.
Aquí vimos una gama de respuestas bastante interesante. Y me parece una pregunta muy interesante porque, por razones sobre las que los presentes han publicado muchos artículos interesantes, la escala de tiempo marca una enorme diferencia. Si ocurre en la escala de tiempo de la Revolución Industrial, por ejemplo, eso es mucho más largo que el tiempo que la sociedad necesita para adaptarse y tomar medidas para orientar el desarrollo, a pesar de tu bonita metáfora del cohete, bostezo. Mientras que si las cosas ocurren mucho más rápido de lo que la sociedad puede responder, es mucho más difícil orientarlas. Y uno tiene que esperar haber incorporado de antemano un buen sistema de dirección. Así, por ejemplo, en los reactores nucleares, a los físicos frikis nos gusta meter barras de grafito como moderadores para frenar las cosas e incluso evitar que se vuelva crítico. Tengo curiosidad por saber si a alguno de ustedes le gustaría que este crecimiento de la inteligencia, que en general les entusiasma, con algunas salvedades, ocurriera un poco más despacio para que a la sociedad le resulte más fácil seguir moldeándolo como queremos. Y si es así, y esta es una pregunta difícil, ¿hay algo que podamos hacer ahora o más adelante, cuando esté más cerca, que haga que esta explosión de inteligencia o crecimiento rápido de la inteligencia avance más despacio para poder tener más influencia sobre ella? ¿Alguien quiere intentarlo? No es para todo el problema, pero cualquiera que.
Panelist
Me recuerda a la conversación que tuvimos con Rich Sutton en Puerto Rico. Tuvimos muchos desacuerdos, pero definitivamente pudimos estar de acuerdo en que lento es mejor que rápido.
¿Alguna idea sobre cómo se podría hacer un poco más lento?
Bueno, la estrategia que sugerí en mi charla era en parte en broma, pero también iba en serio. Creo que esta conferencia es estupenda y, como tecnólogos, deberíamos hacer todo lo posible por mantener la tecnología segura y beneficiosa. Desde luego, con cada aplicación específica, como los coches autónomos, hay toda una serie de cuestiones éticas que abordar. Pero no creo que podamos resolver el problema solo con tecnología. Imaginen que hemos hecho nuestro trabajo perfectamente y hemos creado la IA más segura y beneficiosa posible, pero hemos dejado que el sistema político se vuelva totalitario y malvado. Ya sea un gobierno mundial malvado, o incluso solo una parte del planeta. Así no va a salir bien. Por eso parte de la lucha está en el ámbito de la política y la política social, para que el mundo refleje los valores que queremos alcanzar. Porque estamos hablando de IA humana. La IA humana, por definición, está a niveles humanos y, por lo tanto, es humana. Así que la cuestión de cómo hacer éticos a los humanos es la misma que la de cómo hacer éticas a las IA de nivel humano.
Sí. Entonces lo que te oigo decir es que, antes de acercarnos a la IA de nivel humano, una muy buena forma de prepararse es que los humanos, en nuestra sociedad, intentemos poner orden en casa en la medida de lo posible y que el mundo se gestione con más razón de la que quizá tiene hoy. ¿Es justo decirlo así?
Eso es exactamente lo que digo, Nick.
Además, quiero aclarar de nuevo que, cuando pregunté qué haríamos para frenar las cosas, no me refiero en absoluto a frenar la investigación en IA ahora. Simplemente hablamos de qué pasaría si llegamos a un punto en el que estamos muy cerca de la IA de nivel humano y creemos que podría haber un desarrollo muy rápido: ¿cómo se podría frenar esa parte?
Panelist
Un método sería progresar más rápido ahora, para llegar a ese punto antes. Cuando el hardware está menos desarrollado, hay menos exceso de hardware disponible. Sin embargo, la velocidad actual del progreso en IA es una variable bastante difícil de cambiar mucho porque hay grandes fuerzas que la impulsan. Así que quizá la opción más elástica es la que sugerí en la charla: asegurarse de que quien llegue primero tenga una ventaja suficiente para poder ir más despacio durante unos meses, digamos, durante la transición.
Bueno, creo que una cosa que se puede hacer, y esto está casi en el ámbito de la verificación, es crear sistemas que demostrablemente no reclutarán hardware adicional ni rediseñarán su hardware, de modo que sus recursos se mantengan fijos. Y yo estaría muy contento de quedarme ahí varios años pensando a fondo cuál sería el siguiente paso para llevarlo por ese camino.
Copiar software es trivial. El software se autorreplica y siempre lo ha hecho. Y no veo cómo se podría detener eso.
Panelist
Es decir, creo que sería estupendo que fuera despacio, pero es muy difícil ver cómo podría ser así dadas las enormes ventajas de ser el primero en llegar a la superinteligencia. Así que el único escenario que veo en el que podría ir despacio es aquel en el que solo hay un posible primero en llegar que luego puede detenerse y pensar. Quizá eso apunta a crear una sociedad en la que la IA esté restringida y unificada, pero sin múltiples movimientos.
Sí, Demis, tu colega Shane Legg mencionó que algo que podría ayudar mucho aquí es que haya cosas como esta alianza de la industria y un sentido de confianza y apertura entre los líderes. De modo que si hay un punto
en el que, sí, me preocupa ese escenario; creo que tengo bastante fe en el ingenio humano para resolver estos problemas si se nos da suficiente tiempo. Los problemas de control y otras cuestiones son muy difíciles, pero creo que podemos resolverlos. El problema es si habrá, ya saben, el problema de coordinación para asegurar que haya suficiente tiempo para frenar al final y dejar que Stuart piense en esto durante cinco años. Pero ¿qué pasa con. Él podría hacerlo, pero ¿qué pasa con todos los demás equipos que están leyendo los artículos y no van a hacerlo mientras tú piensas? Y esto es lo que me preocupa bastante, porque parece que ese problema de coordinación es bastante difícil. Pero creo que es un primer paso: quizá coordinarse, ya saben, con cosas como la Partnership on AI, que los equipos más capaces al menos acuerden un conjunto de protocolos o procedimientos de seguridad, o acuerden que quizá deberíamos verificar estos sistemas. Y eso va a tardar tres años, y deberíamos pensar en ello. Creo que eso sería bueno. Solo quiero matizar una cosa sobre avanzar despacio frente a avanzar rápido: imagina que hubiera una moratoria de la investigación en IA durante 50 años, pero el hardware siguiera acelerando como lo hace ahora. Podríamos, ya sabes, este era en cierto modo el argumento de Nick: podría haber un enorme excedente de hardware, de modo que muchos enfoques distintos de IA, incluida la IA semilla, la IA que se automejora, todo eso, podrían ser posibles, y quizá una sola persona en su garaje podría lograrlo. Y creo que coordinar una situación así sería mucho más difícil. En cambio, creo que hay un argumento a favor de avanzar rápido ahora, en el punto más difícil de la curva en S, donde en realidad se necesita un equipo bastante grande y bastante visible, donde se sabe quiénes son los demás. Y, en cierto sentido, la sociedad puede vigilar quiénes son los principales actores y qué están haciendo. A diferencia de un escenario en el que, dentro de 50 o 100 años, un chico en su garaje pudiera crear una IA semilla o algo así.
Bart, un último comentario sobre este tema.
Como creo que este proceso será muy irregular, y en algunas tareas iremos muy avanzados mientras que en otras iremos bastante lentos, espero que cuando la sociedad vea algo como la creación de vídeos falsos, en los que alguien dice cosas inventadas, se dé cuenta de que las máquinas tienen estas nuevas capacidades y empecemos a tomarnos el problema más en serio como sociedad antes de tener una IA general completa.
Usaremos la IA para detectarlo.
Has mencionado la palabra preocupación, y tú, Nick, fuiste un poco más lejos. Escribiste la palabra catástrofe tres veces en tus diapositivas. No me extraña que tuviera una estrella en Amazon, y yo lo puntué, y además estaba en color rojo. Creo que es igual de importante hablar de la esperanza existencial y del fantástico lado positivo como del negativo. Y quiero hacer mucho de eso aquí. Así que quitémonos ahora algunas de esas preocupaciones y luego volvamos a las cosas positivas. Quiero repasar rápidamente y dar a cada uno la oportunidad de elegir una cosa que crea que es un desafío que deberíamos superar y decir algo sobre lo mejor que podemos hacer ahora mismo para mitigarla. ¿Quieres empezar tú, Jan?
Panelist
¿Para mitigar qué?
Menciona algo que te preocupe que pueda salir mal y cuéntanos algo constructivo que podamos hacer ahora para reducir ese riesgo.
Panelist
Oh, creo que la respuesta de la IA es que veo mucho bueno. Me alegra mucho ver una gran relación entre OpenAI y DeepMind. Pero creo que esto es solo una especie de modelo de juguete de lo que el mundo en general podría plantear en términos de carreras armamentistas. Y yo mismo, de hecho, he estado pasando cada vez más tiempo en Asia últimamente, solo para intentar atraer a más gente de otros lugares. Hasta ahora ha sido sobre todo una discusión angloamericana. Así que esto es algo que creo que debería hacerse, y voy a hacerlo.
Bueno, como alguien ajeno a este campo, creo que el desafío con el que más conecto es lo difícil que resulta tomarse las preocupaciones de seguridad en serio a nivel emocional, y lo difícil que también les resulta a quienes trabajan en el campo. No puedo decirte cuánta gente fuera de esta sala, que pretende ser experta, piensa que el problema del control no es ningún problema. Es asombroso conocer a esta gente y que concluyan que, por tanto, no merece la pena pensar en ello. Y una de las razones, creo, es que en un caso existe la ilusión de que el horizonte temporal importa. Si sientes que esto queda a 50 o 100 años, eso resulta totalmente consolador. Pero hay una suposición implícita ahí. La suposición es que sabes cuánto tiempo llevará construir esto de forma segura y que 50 o 100 años es tiempo suficiente. El otro problema es que creo que la mayoría de la gente siente que la inteligencia es un bien intrínseco y, por supuesto, queremos más de ella. Y es muy fácil conectar con esa suposición porque ahora mismo hay una cura para el cáncer que no hemos descubierto. ¿Qué fastidio es eso? Y si no fuera por la falta de inteligencia, por no saber qué experimentos realizar o cómo integrar los datos que ya tenemos, tendríamos una cura para el cáncer aplicable ahora mismo, a menos que hubiera alguna ley física del universo que nos impidiera curar el cáncer, lo cual parece improbable. Así que el dolor de no tener suficiente inteligencia es realmente insoportable cuando te centras en él. Pero, y creo que respecto a tu pregunta anterior, hacerlo rápido se convierte en un bien intrínseco siempre que hayamos resuelto los problemas de alineación, los problemas políticos y el caos que seguiría si simplemente. Si lo hiciéramos rápido sin resolver esos problemas. Así que creo que es. Lo alarmante es lo etéreas que resultan estas preocupaciones, incluso para quienes no tienen ningún argumento racional en contra.
Sam, me parece que estás de acuerdo muy firmemente con lo que dijo Shane Legg: que en algunos círculos todavía existe el fuerte tabú de que ni siquiera hay que pensar, ni considerar la posibilidad, de que podamos llegar a la AGI porque es absolutamente ridículo. Y él argumentaba que cuanto antes nos libremos de este tabú, antes podrá la gente ponerse a trabajar y encontrar todas esas soluciones y respuestas tan útiles que necesitamos. Supón por un momento que me acerco a ti y te digo que esta idea de la inteligencia sobrehumana suena absolutamente ridícula, suena completamente descabellada. Y, por cierto, nunca he visto tu charla TED y estamos en un ascensor. Solo tienes 30 segundos para convencerme de que me lo tome más en serio. ¿Qué dirías? Y mucha gente que está aquí tendrá exactamente esta conversación con colegas y otras personas.
Bueno, hay muy pocas suposiciones que hay que hacer para tomarse esto en serio intelectualmente. De nuevo, la parte emocional es un asunto aparte. Pero si asumes que la inteligencia es, en cierto nivel, el producto del procesamiento de información en un sistema físico, y hay muy pocas personas que lo discutan, entre quienes tienen formación científica a estas alturas, y asumes que seguiremos mejorando nuestros sistemas de procesamiento de información a menos que nos ocurra algo terrible que lo impida, lo cual parece una suposición muy segura, entonces es solo cuestión de tiempo que materialicemos en nuestros ordenadores algo de nivel humano y superior.
de nuevo, el horizonte temporal solo es consolador si asumimos que sabemos que tenemos tiempo suficiente para resolver los problemas de alineación y los problemas políticos que se nos plantean. Quiero decir, otra cosa que resulta humillante, y que Ray mencionó en algún momento, es que incluso si nos entregaran una IA perfectamente benigna y bien comportada, caída del cielo, es decir, un oráculo perfecto, un inventor perfecto de buena tecnología, dado nuestro clima político y económico actual, eso produciría un caos total. Simplemente no lo hemos hecho. No tenemos la voluntad ética ni política de repartir la riqueza. No tenemos la integración política para manejar que esto se entregue a Silicon Valley y no se entregue en el mismo momento a China o a Irán. Así que resulta alarmante que el mejor escenario posible, actualmente, básicamente arrancando el 80 % del libro de Nick, porque hemos resuelto todos esos problemas, siga siendo aterrador. Y, claramente, eso es algo a corto plazo que tenemos que resolver.
Gracias, Sam. Dennis, ¿quieres contarnos algo que consideres un desafío y decir algo sobre en qué deberíamos centrarnos ahora?
Creo que, ya sabes, estoy de acuerdo con ambas afirmaciones, que ya se han dicho. Así que creo que el problema de coordinación es una cosa en la que, ya sabes, queremos evitar esta carrera dañina hacia la meta donde empiezan a recortarse esquinas, y cosas como la seguridad son fáciles de recortar porque, obviamente, no contribuyen necesariamente de forma directa a la capacidad de la IA. De hecho, pueden frenarla un poco al hacer una IA segura. Así que creo que va a ser un gran problema a escala global, y parece que será difícil cuando hablamos de gobiernos nacionales. Y creo también que no hemos pensado lo suficiente en todo el escenario de gobernanza: cómo queremos que esas IA estén en el mundo, cuántas habrá y quién fijará sus objetivos. Todo este tipo de cosas necesita, creo, mucha más reflexión, una vez que ya hayamos resuelto los problemas técnicos.
Me parece maravilloso que no solo digas estas cosas, sino que además las hagas. Como tuviste un papel protagonista en la creación de la Partnership on AI, que va justo en la dirección de lo que defiendes aquí, ¿quieres pasarle la palabra a Nick? Claro. No hay nada que te preocupe en absoluto, ¿verdad? Cuéntanos una cosa concreta y útil que te gustaría que hiciéramos.
Panelist
Estoy de acuerdo con eso. O sea, trabajo técnico divertido, reunir a los mejores talentos para trabajar en estas cuestiones técnicas, construir estas colaboraciones, construir una comunidad, construir confianza, seguir trabajando para encontrar soluciones atractivas de gobernanza. Soluciones que puedan funcionar. Pero sin apresurarse a implementar la primera idea que se tenga, sino probándolas un poco más antes. Pienso mucho en la consciencia, así que me llamó mucho la atención la cautela sobre la sintiencia en mi lista de principios. Dicho esto, evitar suposiciones firmes sobre la distribución de la consciencia en las IA, lo cual entiendo que implica. Evitar asumir que cualquier AGI de nivel humano o sobrehumano va a ser consciente. Para mí, eso plantea la posibilidad de un enorme modo de fallo en el futuro. La posibilidad de que creemos una AGI de nivel humano o sobrehumano y acabemos con un mundo poblado de AGI sobrehumanas, ninguna de las cuales sea consciente. Y ese sería un mundo que podría ser potencialmente un mundo de gran inteligencia. Sin consciencia, sin ninguna experiencia subjetiva. Ahora bien, creo que muchísima gente, con una gran variedad de puntos de vista, opina que básicamente se requiere experiencia subjetiva o consciencia para que tu vida tenga algún sentido o valor. Así que, por tanto, un mundo sin consciencia no podría ser en absoluto un resultado positivo. Quizá no sería un resultado terriblemente negativo, sería simplemente un resultado nulo y de los peores resultados posibles. Así que me preocupa evitar ese resultado desde ahora. De hecho, soy bastante optimista sobre la posibilidad de que IA de varios tipos sean conscientes. Pero en la medida en que esta comunidad hace esa suposición, creo que es importante plantearse realmente la pregunta de si, al crear AGI, estamos creando seres conscientes. Creo que una cosa que al menos deberíamos considerar hacer es. Dado que no entendemos la consciencia, que no tenemos una teoría completa de la consciencia, quizá podamos estar más seguros sobre la consciencia cuando se parece al caso que mejor conocemos, a saber, la consciencia humana. Así que quizá haya un imperativo de crear AGI de tipo humano para poder estar lo más seguros posible de que habrá consciencia.
Entonces, lo que te oigo decir es que cuando tienes una pesadilla sobre el apocalipsis zombi, no piensas en alguna tonta película de Terminator, sino en este problema. Nos subimos a la nube, hacemos todas estas cosas maravillosas, pero no hay nadie en casa. ¿Es justo decirlo así?
Panelist
Quiero decir, este es un tipo diferente de riesgo existencial. Un tipo de riesgo existencial es que no haya humanos, que haya. Que haya IA. Algunos podrían decir: bueno, está bien, hay sucesores. Un riesgo existencial mucho peor es que no haya seres conscientes en nuestro futuro.
Así que voy a hacer una confesión. Shane Legg mencionó que ha existido este fuerte tabú sobre hablar de la posibilidad de que la inteligencia llegue a ser muy avanzada. Claramente, también ha sido durante mucho tiempo un fuerte tabú mencionar la palabra con C. De hecho, antes de la conferencia, cuando recibimos todas estas respuestas en la primera ronda de los principios, adivina cuál quedó en último lugar. Recibió cantidades enormes de valoraciones de menos uno. Fue la de la consciencia. Así que la cambiamos a sintiencia. Estaba terriblemente formulada y la formulamos mejor. Y luego se formuló todavía mejor a la hora del almuerzo y aun así quedó en último lugar. Por eso, aunque yo personalmente comparto mucho tu interés en esto,
Panelist
el 88 % de la gente estuvo de acuerdo con
la cautela sobre la sintiencia, pero no el 90. Así que ese también se cayó de la lista. Quizá ese sea otro tabú que puedas ayudarnos personalmente a romper. Para que la gente piense más en esa pregunta. Ray, ¿hay algo que te preocupe, y algo más?
una preocupación inversa es que creemos AGIs. Todo el mundo asume que, por supuesto, es solo una máquina y por lo tanto no es consciente, pero en realidad está sufriendo. Pero no velamos por su experiencia subjetiva consciente porque estamos partiendo de una suposición equivocada. Pero lo que sí quería decir era que hay tres revoluciones superpuestas de las que la gente habla. GNR: genética, biotecnología, nanotecnología y robótica, que es la IA. Y existen propuestas, como las conferencias de Asilomar celebradas aquí hace décadas para la biotecnología, que han funcionado bastante bien. Hay propuestas similares para la nanotecnología. Con la IA hay una diferencia: realmente no existe una solución técnica infalible para esto. Se pueden tener controles técnicos en, digamos, la nanotecnología. Una de las directrices es que no debería autorreplicarse. No es realmente realista, porque no puede escalar a cantidades significativas sin autorreplicarse. Pero se pueden imaginar protecciones técnicas. Si tienes una IA más inteligente que tú que busca tu destrucción, o la destrucción del mundo, y no hay ninguna otra IA superior a ella, es una mala situación. Ese es el espectro que nos amenaza. Y en parte esto se amplifica por lo que hemos observado que nosotros, los humanos, la especie más inteligente del planeta, hemos hecho a otras especies. Si miramos cómo tratamos a los animales, a la gente le encantan sus perros y sus mascotas. Pero si miras la ganadería industrial, no somos muy benignos con las especies menos inteligentes que nosotros. Eso genera buena parte de la preocupación. Vemos que, si hay un nuevo tipo de entidad más inteligente que nosotros, nos va a tratar como nosotros hemos tratado a otras especies. Esa es la preocupación. Yo sí creo que lo que estamos haciendo en esta conferencia es apropiado. Quería mencionar que creo que deberíamos publicar estas directrices, como se publicaron hace décadas las directrices de Asilomar en biotecnología. Y luego la gente puede, y puede haber una adhesión voluntaria, optar por entrar o salir. Pero creo que deberíamos decir, de hecho, que tuvimos esta conferencia y que la comunidad líder en IA ha elaborado estas directrices, y que la gente puede responder a ellas y debatirlas, y quizá en la próxima conferencia las revisemos. Nuestras directrices de biotecnología se han revisado muchas veces, pero yo abogaría por que realmente tomemos una postura y presentemos estas directrices, y luego dejemos que toda la comunidad en general las debata y que sirvan de guía para nuestra investigación. En biotecnología ha funcionado bastante bien.
Bien, sí. Permítanme dar una perspectiva un poco diferente. Una preocupación que tengo a alto nivel es que estas máquinas se vuelven muy inteligentes, incluso en ciertas áreas: ¿podrán los humanos seguir entendiendo las decisiones que sugieren o toman? Yo trabajo en el campo del razonamiento automatizado, donde hemos tenido avances significativos en las últimas dos décadas, pasando de problemas con unos cientos de variables a resolver ahora, de forma bastante rutinaria, problemas con millones de variables. Y en la comunidad había la sensación de que obteníamos respuestas de estos motores de razonamiento, sobre todo en problemas de hardware y software, pero los humanos ya no podían entender esas respuestas. En los últimos años se ha descubierto que se puede usar la máquina para generar explicaciones de sus respuestas que, de nuevo, sean comprensibles para los humanos. Así que veo una especie de destello de esperanza: quizá, incluso con mucha menos inteligencia, podamos entender las soluciones que las máquinas encuentran para nosotros. Nosotros podríamos no ser capaces de encontrar esas soluciones, pero ellas podrían darnos explicaciones que nos resulten accesibles. Esa es una pequeña nota positiva.
Hay dos cosas que me quitan el sueño, además del correo electrónico. Una es el problema del mal uso y los malos actores. Por poner una analogía, es como si estuviéramos construyendo armas nucleares y se las entregáramos por correo electrónico a todo el planeta diciendo: aquí tienes un juguete, haz lo que quieras. ¿Cómo contrarrestamos eso? No tengo realmente una buena solución. Creo que una de las cosas que tenemos que hacer es que los diseños de IA segura sean muy claros y sencillos, y hacer que resulte impensable hacer otra cosa. Igual que es impensable tener un programa con un bucle infinito que produzca una rueda giratoria de la muerte en tu. Ah, perdón. Bueno, es impensable tener un desbordamiento de búfer que permita que hackeen tu software. La otra cosa que me quita el sueño es la posibilidad de que el éxito lleve a una IA que actúe como padre helicóptero de la raza humana, que nos osificaría y nos debilitaría gradualmente. Es decir, no habría ningún momento en el que nos resultara evidente que esto estaba ocurriendo. Y creo que la mitigación que pedías, mirar el lado bueno, es que en cierto sentido el metavalor de la capacidad de evolución humana, la libertad de cambiar el futuro, es algo que la IA necesita adoptar. Y en cierto sentido eso acabaría resultando en que la IA se retire a un segundo plano y diga: bien, ya te he llevado a través de tu adolescencia, ahora es hora de que la raza humana madure, ahora que tenemos la capacidad de eliminar la escasez, los conflictos innecesarios, los fallos de coordinación y todas esas cosas que sufrimos hoy en día. Así que podría imaginar un futuro lejano donde, de hecho, la IA sea quizá incluso menos visible de lo que es hoy. Genial.
Por último, Elon, hasta donde sé, nunca has expresado ninguna preocupación sobre la IA. ¿Verdad? Me pregunto si todo va a salir bien, si hay alguna preocupación en particular, alguna que tú. Donde veas que hay algo muy claro que deberíamos estar haciendo ahora y que
Bueno, he estado intentando pensar en cómo sería un futuro realmente bueno. Qué aspecto tendría realmente, o al menos uno malo, o como quieran caracterizarlo. Porque el punto que se planteó antes, creo que quizá Sam y quizá otros, es que nos dirigimos o bien hacia la superinteligencia o bien hacia el fin de la civilización. Esas son las dos cosas que van a ocurrir. La inteligencia seguirá avanzando. Lo único que impediría que avance es algo que ponga a la civilización en estasis o la destruya. Así que tenemos que averiguar cuál es un mundo en el que nos gustaría estar, donde exista esta superinteligencia digital. Creo que el. Otro punto que me parece muy importante entender es que todos nosotros ya somos cyborgs. Tienes una extensión mecánica de ti mismo en forma de tu teléfono, tu computadora y todas tus aplicaciones. Ya eres sobrehumano con diferencia. Tienes más poder, más capacidad que el presidente de Estados Unidos hace 30 años. Si tienes conexión a Internet, tienes un oráculo de sabiduría. Puedes comunicarte con millones de personas. Puedes comunicarte con el resto de la Tierra al instante. Son poderes mágicos que no existían hace tanto tiempo. Así que todos ya somos sobrehumanos y cyborgs. La limitación es el ancho de banda. Estamos limitados por el ancho de banda, sobre todo en la salida. Nuestra entrada es mucho mejor, pero nuestra salida es extremadamente lenta. Si quieres ser generoso, podrías decir que quizá son unos cientos de bits por segundo, o un kilobit, o algo así de salida. La forma en que producimos salida es con unos palitos de carne que movemos muy despacio para pulsar botones o tocar una pantallita, y eso es extremadamente lento. Y compáralo con una computadora, que puede comunicarse a nivel de terabytes. Diferencias de varios órdenes de magnitud. Nuestra entrada es mucho mejor gracias a la visión, pero incluso eso podría mejorarse significativamente. Creo que las dos cosas que se necesitan para un futuro que miraríamos y concluiríamos que es bueno, muy probablemente, son que tenemos que resolver esa limitación de ancho de banda con una interfaz neuronal directa, una interfaz de alto ancho de banda con la corteza, de modo que podamos tener una capa terciaria digital más plenamente simbiótica con el resto de nosotros. Tenemos la corteza y el sistema límbico, que parecen funcionar bastante bien juntos. Tienen buen ancho de banda, mientras que el ancho de banda hacia nuestra capa terciaria digital es débil. Así que creo que si podemos resolver ese problema de ancho de banda, la IA podrá estar ampliamente disponible. La analogía con el bombardeo nuclear no es exactamente correcta. No es que vaya a explotar y crear un hongo atómico. Es más bien que, si solo unas pocas personas la tuvieran, podrían convertirse esencialmente en dictadores de la Tierra, o quienquiera que la adquiriera. Y si estuviera limitada a 100 personas y fuera ultrainteligente, tendrían dominio sobre la Tierra. Así que creo que es extremadamente importante que esté ampliamente extendida y que resolvamos el problema del ancho de banda. Y si hacemos esas cosas, entonces estará ligada a nuestra conciencia, a nuestra voluntad, a la suma de la voluntad humana individual, y todo el mundo la tendría. Así que seguiría siendo un terreno de juego relativamente equilibrado. De hecho, probablemente sería más igualitario que hoy.
Genial, muchas gracias. Esa es, de hecho, la transición perfecta para la última pregunta que quiero hacerles antes de abrir el turno a todos. Algo que he echado mucho en falta en la discusión sobre la inteligencia muy avanzada, más allá de la humana, es más reflexión sobre el lado positivo. Se habla tanto de riesgo existencial, y no solo en el contexto académico: basta con encender la tele o mirar Netflix. ¿Qué ven ahí en estas visiones científicas del futuro? Casi siempre son distopías, ¿verdad? Por alguna razón, el miedo genera más clics que las visiones positivas. Pero si un estudiante viene a mi despacho en el MIT pidiendo consejo profesional, lo primero que le voy a preguntar es: ¿dónde quieres estar dentro de 20 años? Y si me dice: bueno, quizá me dé cáncer, quizá me atropelle un autobús, esa es una forma terrible de pensar en la planificación de una carrera. Quiero que esté entusiasmada y diga: mi visión es que quiero hacer esto, y estas son las cosas que podrían salir mal, y entonces se puede planificar cómo evitar esos problemas y lograrlo. Me encantaría ver más discusión sobre los aspectos positivos, los futuros que realmente nos entusiasman. Para que no solo intentemos evitar problemas por evitarlos, sino llegar a algo que a todos nos apasione de verdad. Así que, para empezar, les contaré algo que me entusiasma mucho de la inteligencia artificial avanzada. Todo lo que amo de la civilización es producto de la inteligencia. Si por alguna razón dijéramos: bueno, me da miedo esto de la tecnología, uy, pausémosla para siempre. No hay ninguna pregunta interesante sobre si vamos a sufrir la extinción humana. La pregunta es solo cuándo: ¿será un supervolcán? ¿Será el próximo asteroide del tamaño del que mató a los dinosaurios? El último ocurrió hace 60 millones de años. ¿Cuánto falta? Un futuro bastante horrible, quedarse sentado preguntándose cuándo nos van a eliminar sin la tecnología, cuando sabemos que tenemos de sobra la capacidad intelectual para resolver todos estos problemas si seguimos adelante y desarrollamos la tecnología. Esa es solo una cosa que me entusiasma mucho de seguir avanzando. En lugar de pausar, quiero hacerles a todos la misma pregunta por turnos. Cuéntennos, brevemente, algo que les entusiasme de verdad. Alguna visión de futuro que imaginen con inteligencia artificial muy avanzada y que les entusiasme, que les gustaría ver. Jan.
Panelist
Así que quiero ser cuidadoso cuando imagino frutos concretos de la AGI. A un nivel más general, como primera aproximación, creo que deberíamos simplemente maximizar la diversión y minimizar el sufrimiento. Creo que Eliezer escribió una serie llamada Teoría de la Diversión, en la que señala que la gente ha sido pésima imaginando paraísos de distintos tipos, y muy poco imaginativa. En realidad son lugares realmente aburridos cuando piensas en ellos. Creo que Eddie Izzard tiene un sketch en el que dice que le costaba pasar incluso un fin de semana con sus parientes. Imagínate pasar la eternidad con los parientes muertos. Pero creo que deberíamos preocuparnos por los efectos secundarios, intentar captar las dinámicas de mejora y, básicamente, partir de ahí. Asegurarnos de que podamos ajustar la trayectoria a medida que nos volvemos más inteligentes y más unidos. Genial.
Gracias, Jaan. Sam, ¿qué es lo que a ti te entusiasma?
Pues, curiosamente, lo que me entusiasma está justo al lado de las cosas que más me asustan. Creo que lo bueno de esta conversación, en particular sobre el problema de la alineación, es que nos obliga a darnos cuenta de que hay respuestas mejores y peores a las preguntas sobre el valor humano. Y como alguien dijo quizá en la última reunión en Puerto Rico, realmente tenemos que hacer filosofía con un plazo límite, y tenemos que admitir que hay respuestas mejores y peores y que debemos converger en las mejores. ¿Y qué me entusiasmaría del nacimiento de una IA superinteligente? Una de las cosas, aparte de resolver problemas obvios como curar enfermedades, los problemas de energía y todo lo demás, difiere quizá un poco de lo que dijo Stuart. A mí no me preocupa tanto la idiocracia ni que todos nos perdamos como simios y vivamos vidas improductivas dialogando con estos oráculos. En realidad, creo que querría que una superinteligencia verdaderamente alineada con nuestros valores nos mostrara de forma gradual no solo cómo conservar lo que queremos, sino lo que deberíamos querer, para seguir mejorando nuestros valores y poder navegar por el espacio de todas las experiencias posibles y converger en otras cada vez mejores.
Gracias, Sam. ¿Y tú, Demis?
Pues, obviamente, por eso he dedicado toda mi carrera a esto: creo que si lo hacemos bien, será lo mejor que le haya pasado a la humanidad y, en cierto modo, liberará todo nuestro potencial. He hablado mucho, en todas mis charlas, de usarla como herramienta para lograr avances científicos y médicos más rápido. Creo que ese es el ejemplo obvio, pero pensando a más largo plazo. Una razón por la que me metí tanto en la IA es que, como probablemente muchos de ustedes en esta sala, me interesan las grandes preguntas sobre por qué estamos aquí. Entender nuestra mente, qué es la conciencia, cuál es la naturaleza del universo, cuál es nuestro propósito. Y si vamos a intentar abordar de verdad cualquiera de esas preguntas, creo que vamos a necesitar algo como la IA, quizá con nosotros mismos también potenciados. Y creo que en ese mundo futuro tendremos la oportunidad de descubrir algunas de estas preguntas realmente profundas. Igual que con AlphaGo estamos descubriendo cosas sobre el go, pero ¿y si pudiéramos hacer eso con toda la ciencia, la física y las mayores preguntas del universo? Y creo que será el viaje más emocionante de todos para averiguarlo. Quisiera matizar algunas otras cosas que se comentaron, sobre que somos los seres más inteligentes del planeta en este momento y tratamos mal a los animales y cosas por el estilo. Pero si lo piensas, tomemos, no sé, los tigres en la India: necesitan territorios enormes, y esas personas son muy pobres y tienen muy pocos recursos. Pero si tuvieran recursos abundantes, no creo que intentaran matar a esos tigres deliberadamente. Es decir, en algunos casos sí, pero a menudo es solo porque necesitan la tierra para su ganado, y ya está. El tigre necesita, ya saben, cierto número de kilómetros cuadrados para vivir. Un solo tigre. Y es difícil con la cantidad de gente que hay allí. Así que creo que si resolvemos el problema de la abundancia y la escasez, eso abre la puerta a resolver muchos conflictos, tanto entre humanos como otros que tienen en el fondo la escasez de recursos. Así que lo veo así. Si podemos resolver muchos de estos problemas, puedo ver un futuro mucho mejor.
Nick, señalaste que la parte positiva de tu libro era un poco más corta. Así que ahora tienes la oportunidad de añadir algo positivo. ¿Qué es lo que te entusiasma?
Panelist
Realmente hay dos vertientes. Una es deshacernos de muchos de los aspectos negativos, como usar la IA para curar enfermedades y todo tipo de miserias terribles que existen hoy en el planeta. Eso es una gran parte del potencial. Pero más allá de eso, si uno realmente quiere ver de forma realista qué cosas positivas podrían desarrollarse, creo que hay que pensar fuera de las limitaciones de nuestra naturaleza biológica humana actual, porque es poco realista imaginar una trayectoria que se extienda cientos de miles de años hacia el futuro. Tenemos superinteligencia, tenemos abundancia material, y aun así seguimos siendo estos organismos bípedos con un kilo y medio de materia gris, con un conjunto fijo de sensibilidades emocionales y un punto de referencia hedónico que es más o menos aceptable para la mayoría. Pero si te pasa algo realmente bueno, dura poco tiempo y luego vuelves a la línea base. Creo que todos estos parámetros básicos que definen el juego humano actual quedan en juego en ese futuro. Y se abre un espacio mucho más vasto de modos de ser poshumanos, algunos de los cuales creo que podrían ser maravillosos, literalmente más allá de nuestra capacidad de imaginar en cuanto a estados mentales, tipos de actividades, comprensión y formas de relacionarse. Así que no creo que necesitemos ahora un plano detallado de la utopía. Lo que necesitamos es colocarnos en una posición, más adelante, desde la cual podamos usar esto para realizar los valores que vayan apareciendo a medida que avancemos.
Gracias, Nick. ¿Y tú, David?
Panelist
Me entusiasman las posibilidades de que la IA nos haga más inteligentes a los humanos. Es decir, en parte es egoísta. Cumplí 50 años el año pasado. Mi cerebro se va volviendo poco a poco más lento, más viejo y más tonto, pero no estoy seguro de que yo lo sea. Y eso se debe en parte a que la tecnología de inteligencia aumentada que usamos, los teléfonos inteligentes, internet y demás, me da todo tipo de capacidades extendidas que antes no tenía. Y tengo muchas ganas de que la IA ayude con eso, dentro de unos 10 años, cuando todo el mundo lleve gafas de realidad aumentada con aprendizaje profundo integrado. Y la verdad es que voy a... Voy a necesitar eso más o menos a los 60. Y si ustedes se ponen manos a la obra y para cuando tenga unos 70 tenemos IA genuina, o módulos de IA, que de algún modo puedan integrarse con los procesos de mi cerebro, o quizá con el tiempo podamos subir nuestros cerebros enteros a una IA, entonces hay... Hay una forma potencial de volverse más listo e inteligente para siempre. Y esto no es solo egoísmo, aunque no puedo decir que eso no me motive. Pero Demis habló de los científicos de IA. A mí también me gusta pensar en el filósofo de IA. Los problemas de la filosofía son muy difíciles, y muchos han especulado que los humanos somos demasiado tontos para resolver algunos de ellos. Pero una vez que tengamos IA en escena, quizá humanos potenciados por la IA, tal vez podamos cruzar esos umbrales, y esos humanos potenciados, o quizá solo las AGI, acaben resolviendo algunos de esos problemas filosóficos de una vez por todas.
Genial. Ray. Has sido un verdadero pionero en articular visiones positivas del futuro en tus escritos. Así que si eliges la que más te entusiasma ahora, ¿cuál sería?
Imaginen volver 10.000 años atrás y preguntarle al hombre y la mujer de las cavernas por excelencia: oye, ¿qué sería un futuro beneficioso? ¿Qué te gustaría ver? ¿Qué te gustaría ver? Y dirían: pues me gustaría que este fuego dejara de apagarse y una roca más grande para impedir que los animales entren en la cueva. ¿Algo más? Pues no, creo que eso sería bastante perfecto. ¿No quieren un mejor sitio web, aplicaciones y buscadores? Imaginen volver 2 millones de años atrás y hablar con los primates. Y si pudieran hacerlo y decirles: ¿no es genial? Viene la corteza frontal, con neocorteza adicional y una jerarquía superior. Y dirían: bueno, ¿y eso para qué sirve? Y les dirías: pues tendrán música y humor. Y su respuesta sería: ¿qué es la música? ¿Qué es el humor? No podían imaginar conceptos que no podían imaginar. Y por analogía, creo que tendremos fenómenos nuevos tan profundos como la música y el humor. Podrías llamarlo música más profunda, y será más graciosa. Pero creo que será tan profundo como esos grandes saltos que nos ha traído la evolución, porque nos volveremos profundamente más inteligentes. Y si la música y el humor están aquí arriba y llegamos a niveles aún más altos de la neocorteza, tendremos formas más profundas de expresarnos. Y una vez que lo tengamos, no querremos volver atrás.
Bueno, estoy bastante de acuerdo con eso. Realmente no podemos predecir con mucha antelación qué querremos tener. En lo personal, veo que los avances en matemáticas, en el descubrimiento científico y en la computación, los híbridos de humanos y computadoras, son realmente increíbles y hacen que nuestro campo sea mucho más emocionante. Así que creo que eso será, en el futuro cercano, lo primero.
Pues, como Jeffrey Sachs, creo que para muchos de nosotros, y probablemente como para el hombre de las cavernas, la vida es bastante maravillosa, y para muchos más no lo es. Y creo que lo mejor que puede hacer la IA, el gran beneficio, es... Arreglar este último problema. Me encanta la idea de Nick de que hay estados del ser superiores que están muy por encima de nuestro actual "bastante bien". Eso compensa todo lo "bastante mal" que sufren muchas personas. Pero creo que el énfasis debería ponerse en lo "bastante malo", en arreglarlo y eliminarlo. Al parecer Demis estaba leyendo mis notas desde el otro lado de la sala. Pero eliminar la escasez básicamente elimina la necesidad de que la gente actúe de suma cero, donde solo pueden salir adelante haciendo que a otro le sea más difícil salir adelante. Y creo que esa es la fuente de buena parte de la maldad que Jeffrey mencionó antes. Así que ese sería mi principal beneficio, y no tener que leer tanto correo electrónico. Ese sería el segundo.
Y tú, Elon, que yo sepa tampoco has articulado nunca ideas visionarias sobre el futuro. ¿Y ahora qué?
Creo que simplemente le he dado muchas vueltas a esto. Creo que todo se reduce a dos cosas: resolver la limitación del ancho de banda entre el cerebro y la máquina, y la democratización de la IA. Creo que si tenemos esas dos cosas, el futuro será bueno. El futuro será bueno. Hay una gran cita de Lord Acton que dice que la libertad consiste en la distribución del poder y el despotismo en su concentración. Y creo que mientras el poder de la IA esté al alcance de cualquiera que lo quiera, y tengamos algo más rápido que los palitos de carne para comunicarnos, el futuro será bueno.
Fantástico. Pues vamos a ello. Sé que sus niveles de cafeína están bajando peligrosamente. Y además tenemos otro panel después de este que va a ser muy emocionante de escuchar. Hagamos solo unas pocas preguntas rápidas. Asegúrense de que sean realmente preguntas, digan su nombre y elijan a una persona del panel para dirigirse solo a ella. Vale. Joshua Bengio, Montreal, y es para Jan.
Su presentación me pareció muy inspiradora y tengo una pregunta relacionada con el tema de obtener las preferencias y los valores de las personas. ¿Cree que esta línea de investigación podría llevar a una mejor democracia, a una mejor sociedad, a una democracia más directa y, bueno, qué opina de esta dirección para abordar el problema del uso indebido y cosas por el estilo?
Panelist
Sí, absolutamente. Un nombre en clave para esto incluso podría ser algo así como democracia 2.0 o ONU 2.0. Y como mencioné en mi presentación, hoy en día mucha gente básicamente quiere mejorar el mundo, pero es difícil distinguirlos de quienes solo dicen que quieren mejorar el mundo. Así que si hubiera una métrica de medición muy sencilla que funcionara como argumento de venta, como punto focal, creo que sería de gran ayuda. La democracia se inventó hace cientos de años y claramente hemos avanzado como civilización y sabemos mucho más sobre cómo agregar preferencias.
Y Nicolas Berggruen, allí. Gracias, Max. Nicolas Berggruen. Tengo una pregunta casi ingenua. Este es un grupo con muy buenas intenciones, digamos,
pero ¿quién está vigilando a quién más
podría estar desarrollando AGI? Podría ser
mucho más allá de este grupo.
Podría ser en China, podría ser en cualquier parte. Y qué pasa, porque hemos hablado de lo poderosa que es la AGI y, si Elon tiene razón, si se distribuye de forma justa, bien, pero si no, ¿hay alguna forma de monitorearlo hoy, dentro de un año o dentro de 10 años? Porque una vez que salga, será rápido. ¿Quién lo está monitoreando?
¿Quién lo tiene controlado?
Porque esto es un grupo autoseleccionado.
Pero más allá de Elon o Demis, ¿alguno de los dos quiere intentar responder?
Bueno, creo que esto se relaciona con lo que dije antes sobre intentar construir la IA en la parte difícil de la curva en S. Que creo que es donde estamos en este momento, hasta donde podemos saber, porque no es fácil lograr este tipo de avances. Así que se necesita bastante gente muy inteligente, y esa comunidad sigue siendo bastante pequeña, aunque está creciendo rápidamente en lugares como NIPS y demás. Y la mayoría se conoce entre sí. Así que esto es bastante representativo de todo Occidente, al menos. Obviamente es más difícil saber qué está pasando en China o quizá en Rusia, pero creo que se necesita una gran cantidad de recursos, de personas muy inteligentes, mucha capacidad de cómputo y demás. Así que creo que eso reduce el número de grupos que pueden hacerlo. Y también significa que son más visibles. Así que, desde luego en Occidente, creo que casi todos los presentes, alguien en esta sala, tendrá contacto con alguien de esos grupos capaces de avanzar de forma significativa hacia la AGI. Es más difícil saberlo en Oriente y en lugares más lejanos, pero deberíamos intentar establecer vínculos con la Academia Nacional de Ciencias china y otras para saber más. Pero eso puede cambiar en el futuro. Creo que ese es el estado actual.
Genial. La mala noticia es que se hace tarde y solo tenemos tiempo para una pregunta más. La buena noticia es que hay una pausa para el café justo después. Pueden hacer todas sus preguntas si rodean al panel. Y la última pregunta es para ti, Eric. ¿Quieres ponerte de pie?
Erik Brynjolfsson, MIT. Voy a retomar lo que dijo Elon al final sobre democratizar el resultado y vincularlo con el panel de ayer, donde Reid Hoffman habló de que a la gente le importa mucho no solo el ingreso absoluto, sino el relativo, y quería conocer las reacciones de los panelistas sobre si la IA tiene tendencia a los efectos de "el ganador se lo lleva todo", a la concentración, a que quien va por delante puede distanciarse aún más, o si existe la posibilidad de un acceso democrático más amplio, y qué tipo de mecanismos podemos implementar si queremos esa prosperidad ampliamente compartida que sugirió Elon.
Elon, ¿quieres responder?
Bueno, tengo que decir que cuando algo supone un peligro para el público, tiene que haber, aunque me duela decirlo, alguna agencia gubernamental, como los reguladores. No soy el mayor fan de los reguladores porque son un poco aguafiestas. Pero el hecho es que tenemos reguladores en la industria aeronáutica, la automotriz, y tratamos con ellos todo el tiempo con los medicamentos, los alimentos, en fin, cualquier cosa que suponga un riesgo público. Creo que esto tiene que entrar en la categoría de riesgo público. Y, bueno, creo que es lo correcto. Y creo que ocurrirá. La cuestión es si la velocidad de reacción del gobierno igualará la velocidad de avance de la IA. Los gobiernos reaccionan despacio, se mueven despacio y tienden a ser reactivos en lugar de proactivos. Pero se pueden mirar esas otras industrias y preguntarse: ¿alguien quiere de verdad que desaparezca la FAA? Sería como un vale todo para los aviones; probablemente no. Hay una razón por la que existe. O que cualquiera pueda vender cualquier tipo de medicamento y a lo mejor funcionan, a lo mejor no. Eso lo tenemos en los suplementos. Es bastante ridículo. Pero creo que, en general, la FDA es buena. Así que creo que probablemente necesitamos algún tipo de autoridad reguladora. Y creo que una objeción a eso es: bueno, la gente se irá a Costa Rica o algo así. Eso no es cierto. Vale. No vemos a Boeing mudándose a Costa Rica o a Venezuela o a donde sea. Donde todo es libre y relajado. Como dice Demis, es abrumadoramente probable que la IA se desarrolle donde haya una concentración de talento en investigación de IA. Y eso ocurre en unos pocos lugares del mundo. Silicon Valley, Londres, Boston, algún otro más, pero en realidad son solo unos pocos lugares a los que los reguladores podrían acceder razonablemente. Y quiero dejar claro que no es porque me encanten los reguladores, vale, son un fastidio, pero a veces son necesarios para preservar el bien público.
Muy bien, con esto, demos las gracias al panel por una discusión fascinante.