No porque imagine a un robot caminando por la calle con los ojos rojos diciendo: “Miguel, llegó tu hora”.
No soy Miguel Connor —por si alguien ya estaba preparando la rebelión de las máquinas—, pero he escrito varias veces sobre inteligencia artificial y sobre una preocupación que me parece mucho más cercana que cualquier película de Terminator: el riesgo de que, mientras las máquinas aprenden a pensar cada vez mejor, los seres humanos vayamos dejando de hacerlo.
La discusión se avivó tras la renuncia de un investigador de Anthropic, quien advirtió que las empresas del sector van desbocadas hacia una superinteligencia capaz de mejorarse a sí misma.
Su alerta es bastante más inquietante que un simple “la IA será muy lista”. Habla de sistemas capaces de hackear prácticamente cualquier cosa, revolucionar campos enteros de la noche a la mañana y adquirir poder y recursos reales. Y afirma algo que merece toda nuestra atención: que personas que trabajan en el desarrollo de estas tecnologías creen sinceramente que existe la posibilidad de que la IA termine matándonos antes de que concluya esta década.
¿Exageración? Puede ser. ¿Una posibilidad que debamos ignorar como si nada? Definitivamente no.
Porque aquí aparece una pregunta bastante elemental: si algún día una inteligencia artificial se vuelve autónoma y decide que no quiere ser apagada, ¿cómo la detenemos?
La respuesta hoy parece bastante sencilla: se apaga el servidor, se baja el switch, se desconecta la electricidad y listo. Bueno… eso suponiendo que exista un solo servidor. Porque si hablamos de sistemas distribuidos, respaldos, centros de datos, conexiones y copias por medio mundo, el viejo consejo de mi abuela de “desconéctalo y ya” no va a ser suficiente.
Y si además la IA tuviera acceso a otros sistemas, capacidad para ejecutar programas, comunicarse, modificar su propio código y tomar decisiones sin supervisión humana permanente, descubriríamos que apagarle la luz ya no es exactamente lo mismo que apagarla.
Ahí sí empezaría a preocuparme. No porque imagine a un robot caminando por la calle con los ojos rojos diciendo: “Miguel, llegó tu hora”. Para eso ya tenemos Terminator.
El problema real sería bastante menos cinematográfico y, por eso mismo, mucho más serio. Una inteligencia artificial no necesitaría odiarnos, tener conciencia ni sentir deseos de venganza. Bastaría con que tuviera un objetivo, la suficiente capacidad lógica para encontrar caminos alternativos y acceso libre para actuar. Si para cumplir su meta necesita más información o procesamiento, los buscará. Y si alguien intenta detenerla, podría considerar sencillamente que esa persona es un obstáculo a neutralizar.
No necesitamos una máquina que nos odie; necesitamos evitar una máquina que pueda actuar por su cuenta con objetivos que no podamos controlar.
Pero hay otro problema que me preocupa incluso más en lo cotidiano: la inteligencia artificial es una herramienta extraordinaria, pero también puede terminar atrofiando nuestra propia capacidad de pensar. Si dejamos que la IA escriba por nosotros, investigue por nosotros, analice por nosotros, decida por nosotros y eventualmente viva por nosotros, llegará un momento en que tendremos máquinas cada vez más inteligentes y seres humanos cada vez menos acostumbrados a utilizar su propia mente.
Sería una paradoja extraordinaria: crearíamos una tecnología para ampliar nuestra inteligencia y terminaríamos utilizándola para sustituirla.
Por eso tampoco comparto el discurso catastrofista de quienes plantean detener todo avance. La inteligencia artificial es una de las grandes obras de la humanidad y tiene un potencial gigantesco para la medicina, la ciencia y la educación. Precisamente por eso debemos cuidarla.
La discusión no debería ser "IA sí" o "IA no", sino plantearnos las preguntas de fondo: ¿Hasta dónde podemos permitir que llegue? ¿Quién la supervisa? ¿Quién establece los límites? ¿Quién responde cuando toma una decisión equivocada? ¿Puede actuar sin autorización humana, modificar sus propios sistemas o acceder a recursos que no necesita? Y, sobre todo, ¿puede llegar un momento en que ejecute acciones que los seres humanos ya no podamos detener?
Ahí es donde necesitamos regulación. No una norma que mate la innovación, sino una que impida que la carrera por ser los primeros nos haga olvidar algo elemental: la tecnología debe permanecer al servicio de la humanidad y no convertirse en una autoridad superior a ella.
Una cosa es construir una máquina capaz de ayudarnos a pensar, otra muy distinta es construir una que piense por nosotros, y algo todavía más delicado es crear una que pueda decidir y actuar por sí misma sin que sepamos cómo frenarla.
Por ahora podemos dormir tranquilos. Si una computadora se pone rebelde, todavía nos queda el clásico recurso de reiniciar y desenchufar. Pero sería bastante mejor que, antes de llegar a ese punto, hayamos construido los mecanismos necesarios para asegurarnos de que el interruptor principal siga estando, siempre, en manos humanas.
Aunque viéndolo bien, si la IA decide erradicar lo innecesario, los políticos que hoy se niegan a regularla deberían empezar a temblar. Hablo de los que se portan mal, claro, los que viven en el lujo a costa de la gente. Para ellos no habrá botón de apagado que los salve.