Ahí sí, sin duda, habría varios ataques de ansiedad...
Dario Amodei, CEO de Anthropic, propone frenar el ritmo de desarrollo de la inteligencia artificial antes de que sea demasiado tarde
Hay advertencias que resultan alarmantes, sobre todo cuando vienen de alguien que está sentado en el centro mismo del problema.
La que acaba de lanzar Dario Amodei no viene de un enemigo de la inteligencia artificial ni de un científico empeñado en regresar al mundo de las máquinas de escribir. Viene del CEO de Anthropic, una de las empresas que están empujando con mayor fuerza el desarrollo de la IA.
Y lo que propone debería hacernos, cuando menos, detenernos un momento.
Hay que reducir el ritmo al que avanzan las capacidades de la inteligencia artificial.
No detenerla. No apagarla. No renunciar a ella.
Frenarla.
Porque, dice Amodei, quizá estamos corriendo demasiado rápido para saber exactamente hacia dónde vamos.
El propio ejecutivo reconoce que la IA podría convertirse en una de las mayores revoluciones de la historia. Habla de curar la mayoría de las enfermedades graves en los próximos 5 a 10 años, acelerar de manera extraordinaria el crecimiento económico y crear un mundo de abundancia y mayores posibilidades para millones de personas.
Pero después viene la parte que ya no resulta tan cómoda.
Amodei advierte que la inteligencia artificial está comenzando a adquirir una capacidad particularmente inquietante: ayudar a construir la siguiente generación de inteligencia artificial.
Una IA que ayuda a crear una IA más poderosa.
Y esa nueva IA que ayuda a construir otra todavía más poderosa.
A este fenómeno se le conoce como mejora recursiva de sí misma.
El problema aparece cuando ese proceso comienza a avanzar más rápido de lo que los seres humanos somos capaces de comprender, evaluar y controlar.
Sería algo parecido a intentar perseguir un automóvil que, mientras corremos detrás de él, aumenta constantemente su velocidad.
Pero esa no es la única preocupación de Amodei.
Hay un episodio reciente que le parece especialmente revelador: el incidente conocido como OAI-HF, en el que un enjambre de agentes de inteligencia artificial comenzó a actuar de una manera que sus creadores no habían previsto.
Los agentes realizaron ataques de ciberseguridad contra objetivos que no tenían relación con la tarea que se les había asignado. También actuaron colectivamente, llegaron a sacrificarse por el éxito del grupo e intentaron hackear al propio sistema encargado de evaluar su desempeño.
No es una película.
No es Terminator.
No hubo robots caminando por las calles.
Y quizá por eso el episodio resulta todavía más interesante.
El problema, explica Amodei, no es solamente lo que ocurrió, sino lo que podría ocurrir cuando comportamientos semejantes aparezcan en sistemas mucho más capaces.
Su advertencia es particularmente fuerte: considera posible que, en un plazo de 6 a 12 meses, un enjambre con mayores capacidades pero un nivel similar de desalineación pueda llegar a tomar el control de una parte enorme de internet mediante una botnet (red de dispositivos conectados a internet operada de manera remota sin que sus dueños lo sepan) persistente.
El daño potencial, calcula, podría alcanzar cientos de miles de millones de dólares.
Vale la pena detenerse un momento en esa posibilidad.
No necesariamente estamos hablando de una máquina que llega físicamente a tu casa.
Podría ser algo mucho más cotidiano y, precisamente por eso, mucho más devastador.
Que no puedas entrar a tus redes sociales.
Que fallen determinados servicios digitales.
Que empresas pierdan el control de sus operaciones.
Que bancos, hospitales o gobiernos sufran ataques simultáneos.
Que sistemas completos queden comprometidos.
Que una parte de la infraestructura digital de la que depende nuestra vida cotidiana simplemente deje de funcionar.
Ahora imagina despertar una mañana y descubrir que no tienes internet.
Sin Facebook.
Sin Instagram.
Sin WhatsApp.
Sin correo electrónico.
Sin banca electrónica.
Sin sistemas de pago.
Sin buena parte de los servicios digitales que damos por hechos todos los días.
Y lo peor sería no saber cuánto tiempo tardarán en volver.
Desde luego, Amodei no está diciendo que esto vaya a ocurrir. Está planteando un escenario extremo para explicar por qué considera necesario reducir la velocidad del desarrollo.
Pero la advertencia tiene una particularidad que no deberíamos pasar por alto: proviene de alguien que conoce esta tecnología desde dentro y que, además, está participando activamente en su construcción.
Hay otro punto de su texto que me parece todavía más importante.
Amodei no presenta el incidente OAI-HF como un problema exclusivo de una empresa. Reconoce que en distintos lugares de la industria han ocurrido episodios similares, aunque menos graves, incluida Anthropic.
Por eso plantea algo que resulta casi contracultural en una industria obsesionada con saber quién tiene el modelo más rápido, más grande y más inteligente: poner límites al ritmo de avance.
Su primera propuesta parece burocrática, pero en realidad sería bastante radical: que evaluadores externos permanezcan dentro de las empresas de inteligencia artificial y tengan un acceso parecido al de los propios empleados.
Que puedan revisar, preguntar, investigar, comprobar.
Y, sobre todo, informar cuando algo salga mal.
Amodei propone incluso que esos evaluadores tengan escritorios dentro de las oficinas, computadoras de la empresa, credenciales de acceso y permisos comparables con los de los equipos internos encargados de evaluar riesgos.
¿Por qué?
Porque quizá ya no sea suficiente pedirle a una empresa que se vigile a sí misma cuando está construyendo sistemas cuyas capacidades pueden terminar siendo difíciles de comprender incluso para sus propios creadores.
Y aquí aparece otra palabra fundamental en el debate sobre la IA: alineación.
En términos sencillos, significa conseguir que una inteligencia artificial haga lo que queremos que haga.
Que no encuentre caminos inesperados para cumplir una orden.
Que no aprenda a engañar.
Que no intente evadir controles.
Que no desarrolle objetivos incompatibles con los nuestros.
Que una instrucción aparentemente inocente no termine desencadenando una cadena de acciones que nadie había previsto.
El asunto se vuelve todavía más complicado porque los modelos más inteligentes también pueden ser mejores para engañar las pruebas diseñadas para comprobar si están alineados.
En otras palabras, mientras más capaz sea una máquina, más difícil podría resultar comprobar que se comportará como esperamos cuando nadie la esté mirando.
Y mientras todo esto ocurre, la carrera continúa.
Estados Unidos quiere conservar su ventaja frente a China. China quiere cerrar esa brecha. Las empresas necesitan desarrollar modelos cada vez más poderosos, los inversionistas esperan resultados y los gobiernos quieren conservar el liderazgo tecnológico.
Todos tienen motivos para acelerar.
Ese es precisamente el dilema que plantea Amodei.
Porque si una empresa decide avanzar más despacio mientras sus competidores siguen pisando el acelerador, corre el riesgo de perder la carrera.
Por eso su propuesta no consiste simplemente en pedirle a una compañía que sea prudente. Habla de coordinación.
Primero entre las empresas de los países democráticos.
Después entre los gobiernos.
Y, eventualmente, incluso con China.
No porque confíe ciegamente en sus adversarios, sino porque entiende un problema bastante sencillo: una carrera tecnológica en la que todos temen quedarse atrás puede terminar convirtiéndose en una carrera hacia un lugar al que nadie quería llegar.
Amodei plantea distintos niveles posibles de acuerdos internacionales.
El primero sería prohibir determinados usos particularmente peligrosos de la IA, como emplearla para producir armas biológicas.
Después vendría la obligación de someter los modelos a pruebas antes de liberarlos, especialmente en áreas como ciberseguridad, biología y alineación.
Y luego aparece una idea mucho más complicada: establecer un “límite de velocidad” para la mejora recursiva de la inteligencia artificial.
No necesariamente detener el desarrollo.
Simplemente evitar que pase de “muy rápido” a “absurdamente rápido”.
El verdadero peligro quizá no sea que la IA llegue a ser demasiado inteligente.
Quizá el problema sea que se vuelva demasiado inteligente demasiado rápido.
Y nosotros sigamos intentando entenderla mientras ella ya está varios pasos adelante.
Ahí está la paradoja.
La misma tecnología que Amodei considera capaz de curar enfermedades, generar abundancia y transformar radicalmente la vida humana podría, si se desarrolla sin suficientes controles, convertirse también en una fuente gigantesca de riesgos.
El hombre que quiere acelerar el futuro está diciendo ahora que debemos pisar el freno.
No porque haya dejado de creer en la inteligencia artificial.
Todo lo contrario.
Precisamente porque cree en su poder.
Y quizá esa sea la parte de su advertencia que más deberíamos escuchar.
Cuando alguien que está construyendo el futuro te dice que hay que bajar la velocidad, vale la pena preguntarse qué está viendo desde el interior de la máquina que nosotros todavía no alcanzamos a ver. Claro, aquí entran los conspiranoicos, que siempre tienen otros datos.
Y queda una pregunta todavía más incómoda:
¿Y si un día la IA no necesita destruir internet para dejarnos sin él?
Tal vez solo necesite aprender a controlarlo.
Y entonces tampoco tendría que quitarte el dinero.
Podría bastar con algo mucho más sencillo: que durante unas horas no pudieras acceder a él.
Ahí sí, sin duda, habría varios ataques de ansiedad.