Cuando el río suena: y suena a IA manejada por humanos

Cuando el río suena

Lo que dicen quienes alertan sobre la inteligencia artificial, lo que dicen quienes no, y cómo caminar con calma entre las dos orillas

En mi tierra se dice que cuando el río suena, piedras lleva. Nadie corre a tapiar la casa por el ruido, pero tampoco se hace el sordo. Se va hasta la orilla, se mira cuánta agua trae y de qué tamaño son las piedras.

Hoy el río suena fuerte y se llama inteligencia artificial. Yo la miro con respeto y admiración, y la siento caminando su propio camino, mientras yo sigo el mío. Pero esta semana el ruido se hizo imposible de ignorar. Vale la pena ir a la orilla y mirar con calma.

El que oyó primero

Se llama Geoffrey Hinton y tiene 78 años. Trabajó décadas en las redes neuronales, que son la base de casi toda la IA actual, y recibió el Nobel de Física en 2024. En 2023 renunció a Google para poder hablar con libertad de los riesgos de esa tecnología.

El 22 de octubre, El País publicó su entrevista desde el Festival Starmus, en Tenerife, con un título que dice mucho: "No soy catastrofista". En ella calcula que hay un 10% de probabilidades de que la IA nos destruya. Es un número chico que da para pensar, porque nadie construiría un puente con un 10% de riesgo de que se caiga con la gente encima.

Él lo dice con una imagen que cualquiera entiende. No se puede confiar en que las empresas se regulen solas, igual que no dejamos que las contaminantes midan su propia contaminación. Y los medicamentos, sin regulación, producen tragedias como la talidomida. Su propuesta es que un sistema de IA demuestre que es seguro antes de salir al mercado, como ocurre con un fármaco.

También desmonta el argumento de que, si regulamos, otro país nos adelanta. Hinton responde que las tecnológicas usan ese argumento todo el tiempo para evitar la regulación, y que China, de hecho, regula la IA bastante.

Otra voz del mismo lado

Entre quienes piden prudencia hay un nombre que suena con fuerza: Nate Soares. Preside el Machine Intelligence Research Institute, una organización sin ánimo de lucro, y trabaja en seguridad de la IA desde hace más de una década, tras pasar por Microsoft y Google. Con Eliezer Yudkowsky escribió If Anyone Builds It, Everyone Dies, cuya tesis es que si alguien construye una superinteligencia, la humanidad acaba.

Fíjate en la primera palabra del título: si. Su argumento no es que el desastre sea seguro, sino que ocurriría si alguien construye esa IA antes de saber cómo controlarla. Es una advertencia condicional, y eso cambia mucho el tono.

Los que oyen otro río

Aquí hay que ser contundentes, porque la honestidad también tiene su peso. Los expertos no están de acuerdo, y no por poco.

Roman Yampolskiy estima un 99% de probabilidad de catástrofe, mientras que Yann LeCun la considera prácticamente nula. LeCun y Andrew Ng, dos de los creadores de estas redes, sostienen que el riesgo está cerca de cero. En una encuesta a 2.778 investigadores, la mediana de probabilidad de extinción causada por IA fue del 5%, con respuestas que iban de cero a muy altas. Y algunos investigadores advierten que la forma de plantear esas encuestas puede inclinar las respuestas hacia el alarmismo.

Incluso quienes admiran a Soares y Yudkowsky tienen reparos. Una reseña respetuosa señala que el libro pasa por alto objeciones importantes de sus críticos.

¿Qué queda en claro, entonces? Que el 10% de Hinton, el "casi cero" de LeCun y el "casi seguro" de otros son apuestas informadas, no mediciones. Ni siquiera el plazo de "menos de una década" tiene consenso. Quien te lo presente como un hecho te está vendiendo más de lo que sabe.

Lo que sí está sobre la mesa

Hinton insiste en que lo que más le inquieta no son las máquinas, sino quién las controla. Esa preocupación la comparte el periodista Gil Durán en su libro The Nerd Reich, donde argumenta que un pequeño círculo de multimillonarios de Silicon Valley ha cultivado durante décadas una ideología contraria a la democracia. El libro salió el 18 de agosto de 2026. Durán rastrea parte de esas ideas hasta El individuo soberano, un libro de 1997 que imaginaba a los más ricos eligiendo país como quien elige hotel.

Ojo: es la tesis de un periodista, y no todos los críticos la ven igual. Una reseña lo considera un llamado de atención necesario, aunque opina que Durán da quizá demasiado crédito a la viabilidad de esos sueños autoritarios. Yo la dejo aquí como lo que es: una voz más en la orilla, que ayuda a hacerse una pregunta sensata. Quien controla una herramienta tan poderosa, ¿responde ante alguien?

Hay un ejemplo que Hinton ofrece como resquicio de esperanza, y conviene contarlo completo. Dario Amodei, de Anthropic, pidió garantías de que su tecnología no se usaría para vigilancia masiva de ciudadanos ni para armas totalmente autónomas. OpenAI firmó entonces su propio acuerdo, recibió críticas y terminó modificándolo para añadir protecciones contra la vigilancia interna. Y muchos usuarios se pasaron a Claude. La lectura de Hinton es que tener principios no te hace menos competitivo.

Un paso a la vez

¿Cambiará el panorama? Depende de decisiones que todavía no están tomadas: cuánta transparencia exigimos, qué reglas se ponen y quién las vigila. Eso significa que no es un destino escrito. Es una tarea compartida.

Y aquí no hace falta ser científica para participar. Podemos entender lo que usamos, preguntar de dónde viene lo que nos dicen, comprobar antes de creer y pedir claridad a quienes toman las decisiones. No somos espectadores a quienes les pasan las cosas. Somos parte del proceso, y cada quien aporta desde su lugar.

El miedo es mal compañero de camino. La información clara sí sirve, porque nos devuelve la tranquilidad. Sabemos que hay voces serias que advierten. Sabemos que otras voces igual de serias lo ven distinto. Sabemos que lo urgente es entender, regular con sensatez y no ceder ni la curiosidad ni el criterio.

Así que, ni pánico ni indiferencia. Se va hasta la orilla, se mira el agua, se mide la piedra y se da el paso siguiente. Uno solo. Después, otro.

Suena el río hondo:
quien mira el agua con calma
sabe dónde pisa.