EL MIEDO A LA IA… ¿QUIÉN LO ENCIENDE Y CUÁNDO?

Dr. Alejandro Ordoñez Torres

Jacob Coxon, ex empleado de Anthropic y que trabajaba en el “pretraining” de los modelos de IA, el pasado 8 de septiembre, renunció y publicó en X. “La gente que diseña la IA, cree seriamente que la IA puede matarnos a todos hacia el final de esta década.” Y luego exhorta a las compañías que construyen la IA a ralentizar o detener la carrera por la súperinteligencia artificial.

Saltaron las alarmas en todo el mundo, todas las cadenas de noticias le dieron cobertura de portada, lo entrevistaron y multiplicaron sus palabras admonitorias por todos los rincones.

Sólo cuatro días después, el 12 de septiembre, Dario Amodei, CEO de Anthropic, publica en su sitio web personal un ensayo titulado “We Must Pace the Frontier”, donde dice que, para reducir riesgos y hacer un uso sabio del tiempo de desarrollo, debemos disminuir el ritmo de mejora de las capacidades de la IA.

Casi inmediatamente, altos ejecutivos de OpenAI, xAI y Google DeepMind respaldan las palabras de Amodei y dicen que apoyan la idea de ralentizar el desarrollo de la IA.

Pero, ¿por qué ahora sí hacen caso de estas advertencias? Jacob Coxon no ha sido el único en renunciar y lanzar advertencias sobre los peligros que representa la IA para la humanidad.

Sigamos el dinero.

Entre agosto y septiembre de este mismo año, la empresa fabricante de componentes electrónicos con los que se diseña la IA, Nvidia, compra el sitio Hugging Face, una plataforma donde millones de desarrolladores comparten, descargan y despliegan millones de modelos abiertos, libres y gratis de IA. Donde además los de origen chino encabezan las descargas.

Palabras clave, GRATIS y chinos.

Con este movimiento estratégico, Nvidia no sólo puede controlar el “hardware” donde “corre” la IA, sino que también puede controlar el “estado del arte” en cuanto al diseño del “software” de la IA. Y si además, mantiene gratis estos modelos (o algunos de ellos), las grandes empresas dejan de ganar.

Trump, por su parte y justo un día después de Amodei, 13 de septiembre, dice que EEUU está delante de China en temas de IA y que no va ceder ese lugar. “Quien gane la IA, gana.”

China, el 14 de septiembre, a través del vocero de la cancillería Guo Jiakun, responde que esto sólo es alarmismo y controversia para entorpecer la gobernanza de la IA, y el Global Times compara las palabras de Amodei como un manual de Guerra Fría. Esto porque en el mismo ensayo, Amodei, pide que no se vendan “chips” avanzados a China para permitir que las democracias mantengan una ventaja competitiva sobre países autoritarios.

Continuando con el título del presente artículo, lo sospechoso no es la advertencia, es el calendario. Más de 30 investigadores de seguridad, entre ellos, Hinton, Leike, Sharma, han renunciado desde 2024 advirtiendo lo mismo. Nadie paró. Coxon renuncia después de la compra de Hugging Face y a los pocos días el CEO dice, frenemos el ritmo.

Que el interés económico exista no anula el argumento. El mismo 8 de septiembre, horas después de la publicación de Coxon, Evan Hubinger, líder de alineación de la propia Anthropic, respaldó a Coxon públicamente y cifró en más de 10% la probabilidad de catástrofe en esta década. Admitió también que la empresa no tiene resuelto el problema de alinear una súperinteligencia.

Ya nos lo advierte el Papa León XIV en su encíclica Magnifica Humanitas (n.15), tenemos la obligación de salvaguardar la dignidad de la persona, desarmar la IA e impedir que tome dominio sobre lo humano.

La pregunta de fondo no es qué tan rápido va la IA, sino quién decide por todos. Hoy no lo decide nadie con mandato legítimo. Trump rechazó regular, Beijing llamó alarmismo a la advertencia, el Congreso estadounidense está dividido. El vacío de poder lo llenan cuatro empresas. Ya en noviembre de 2025, Anderson Cooper del programa de 60 minutes le pregunta a Amodei quién lo eligió a él y a Sam Altman para tomar estas decisiones, la respuesta fue: nadie. Y mientras tanto, para los que no fabricamos estos modelos, América Latina y gran parte del mundo, la única alternativa a un ecosistema abierto y con riesgo de no-privacidad ni confidencialidad, es rentar capacidades a tres proveedores extranjeros por tiempo indefinido. De momento, esa es la decisión, y no el fin del mundo, que se está tomando sin que nosotros participemos de ella.

El dr. Alejandro Ordoñez Torres

Es director del Phygital Lab en la Universidad Panamericana. Doctor en Ingeniería de Materiales. Exdecano de la Facultad de Ingeniería y profesor de posgrados en la Universidad Panamericana.