Tendencia. "La IA podría acabar con todos nosotros": crecen las advertencias de investigadores sobre el riesgo de la superinteligencia

Las advertencias sobre los riesgos de la inteligencia artificial volvieron a quedar en el centro del debate luego de las declaraciones de Jacob Coxon, un exempleado de Anthropic que decidió hacer públicos algunos cuestionamientos sobre el rumbo que está tomando la industria. El investigador, de 27 años, sostuvo que las personas que desarrollan esta tecnología creen sinceramente que podría "acabar con todos nosotros" antes de que termine la década.

Coxon publicó sus reflexiones en un hilo en X, donde además anunció su renuncia y describió un escenario en el que los sistemas de IA podrían convertirse rápidamente en herramientas con capacidades muy superiores a las humanas. "Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales", escribió.

Sus declaraciones adquirieron todavía mayor relevancia después de que Evan Hubinger, investigador de mayor rango en Anthropic, respondiera públicamente que Coxon tenía razón. Hubinger afirmó: "¡Realmente creemos que la IA podría acabar con todos los seres humanos!".

Anthropic y las advertencias sobre el peligro de la superinteligencia

Hubinger agregó, sin embargo, un dato clave: personalmente considera que la probabilidad de que ese escenario ocurra durante la próxima década es inferior al 10%. También señaló que, pese a las buenas intenciones de Anthropic, la compañía no cuenta con un plan que permita evitar la denominada superinteligencia.

El concepto hace referencia a un hipotético estadio en el que una inteligencia artificial supere las capacidades humanas. Se trata de un escenario teórico que continúa siendo objeto de debate entre especialistas y que no cuenta con criterios de referencia claros. Algunos investigadores consideran incluso que determinados sistemas actuales podrían haber alcanzado características asociadas a esa categoría, mientras que otros sostienen que la superinteligencia nunca llegará a existir.

Poco después de sus primeras declaraciones, Hubinger aclaró su posición en una publicación posterior. Explicó que el propio Informe de Riesgos de Anthropic reconoce la preocupación vinculada con ese escenario, aunque sostiene que los sistemas actuales tienen pocas probabilidades de adquirir semejante nivel de poder.

LEE MÁS: Arde Tierra del Fuego: policías retirados fueguinos piden el juicio político de Gustavo Melella

El temor de que la IA avance más rápido que la capacidad humana para controlarla

Las declaraciones de Coxon se suman a una serie de advertencias realizadas durante los últimos años por trabajadores e investigadores de la industria de la inteligencia artificial.

El planteo que se repite entre algunos especialistas es que el desarrollo de sistemas cada vez más avanzados podría avanzar a una velocidad superior a la capacidad de los investigadores para supervisarlos y controlarlos de manera confiable.

En julio, cerca de 1.400 empleados de empresas de IA firmaron una carta abierta en la que reclamaron al Gobierno de Estados Unidos que estableciera regulaciones para limitar a las grandes compañías tecnológicas y reducir el ritmo de desarrollo de la tecnología.

A esta preocupación se sumó recientemente Jakub Pachocki, científico en jefe de OpenAI, quien advirtió que las capacidades de la IA están avanzando más rápido que la capacidad de los investigadores para supervisarlas y controlarlas de manera fiable.

Jacob Coxon, exempleado de Anthropic, afirmó que la IA podría representar una amenaza para la humanidad antes de que termine la década.

Dario Amodei también advirtió sobre un posible error catastrófico

Las advertencias tampoco son nuevas dentro de Anthropic. Su director ejecutivo, Dario Amodei, señaló en reiteradas oportunidades los riesgos derivados de una carrera acelerada por desarrollar sistemas cada vez más capaces.

En febrero, Amodei sostuvo en declaraciones al New York Times que existe la posibilidad de que una empresa pierda el control sobre su sistema de IA debido a un error humano. "Se trata de un problema de ingeniería complejo y creo que algo saldrá mal con el sistema de IA de alguien. Esperemos que no sea con el nuestro", afirmó.

El planteo expone uno de los principales dilemas que enfrenta actualmente la industria: avanzar en el desarrollo de sistemas con mayores capacidades sin que ese crecimiento supere la capacidad de las empresas y de los investigadores para comprender, supervisar y controlar su comportamiento.

Estados Unidos mantiene un escenario de regulación incierta

Mientras las advertencias se multiplican dentro de la propia industria tecnológica, el proceso regulatorio en Estados Unidos continúa siendo incierto.

La administración de Donald Trump trabajó para limitar las normativas estatales sobre inteligencia artificial, mientras que el Congreso estadounidense se mostró reticente a establecer restricciones más amplias sobre el desarrollo de esta tecnología.

Uno de los argumentos utilizados para rechazar mayores controles sostiene que una regulación estricta podría dejar a Estados Unidos en desventaja frente a China, que también desarrolla sistemas avanzados de IA.

Sin embargo, China ya implementó determinadas regulaciones relacionadas con la tecnología. El año pasado, su Gobierno exigió a las empresas del sector que identificaran el contenido generado mediante inteligencia artificial, con el objetivo de garantizar su transparencia y trazabilidad.

Al mismo tiempo, China no avanzó, según el texto, hacia una regulación estricta destinada específicamente a impedir los escenarios de riesgo planteados por investigadores de Silicon Valley.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Las empresas de IA avanzan hacia la autorregulación

En Estados Unidos, mientras tanto, las compañías de inteligencia artificial mantienen un amplio margen de autorregulación.

La Casa Blanca avanzó hacia un marco voluntario destinado a revisar determinados modelos de IA antes de su lanzamiento. La propuesta surgió de una reunión entre funcionarios de la administración Trump y representantes de algunas de las principales empresas tecnológicas del sector.

Entre las compañías representadas estuvieron OpenAI, Anthropic, Google y Meta. Según fuentes citadas por CNN, los detalles del marco no serán publicados y algunas de las normas incluidas permanecerán clasificadas, de acuerdo con un decreto firmado en junio.

La situación deja planteada una cuestión central: mientras investigadores y empleados de las propias compañías advierten sobre la posibilidad de que los sistemas futuros sean difíciles de controlar, buena parte de las decisiones sobre su desarrollo continúa en manos de las empresas que están construyendo esas tecnologías.

LEE MÁS: Partidos de UEFA Champions League y CONMEBOL Libertadores (Miércoles 9 de septiembre)

Sam Altman planteó la posibilidad de reducir el ritmo de desarrollo

El debate también alcanzó a Sam Altman, director ejecutivo de OpenAI, quien en julio sugirió que podría ser necesario desacelerar el desarrollo de la IA.

Durante su participación en el podcast Invest Like The Best, Altman hizo referencia a incidentes recientes registrados durante las pruebas de modelos avanzados y sostuvo que estos episodios planteaban "interrogantes a largo plazo" sobre la manera en que las compañías deberían administrar el rápido crecimiento de las capacidades de estos sistemas.

"Es posible que tengamos que ajustar el ritmo de desarrollo de la IA para darnos tiempo suficiente a que la sociedad se adapte a estos nuevos niveles de capacidad", afirmó.

Las declaraciones de Altman, sumadas a las advertencias de investigadores como Coxon y Hubinger y a los planteos realizados por el propio Amodei, vuelven a poner en primer plano una de las preguntas más inquietantes del avance tecnológico: qué ocurrirá si la capacidad de desarrollar inteligencia artificial crece más rápido que la capacidad humana para garantizar su control.

El riesgo de la superinteligencia vuelve al centro del debate

El caso de Coxon no constituye una predicción comprobada sobre el futuro de la humanidad, sino una nueva advertencia surgida desde el interior de una de las empresas líderes del sector. Su relevancia radica en que coincide con preocupaciones expresadas por otros investigadores y ejecutivos sobre la velocidad con la que avanza la tecnología.

El escenario planteado es particularmente sensible porque la denominada superinteligencia todavía pertenece al terreno de la discusión teórica y no existe consenso sobre cuándo podría alcanzarse, o incluso si llegará a producirse. Sin embargo, el debate sobre cómo evitar que sistemas futuros superen la capacidad humana de control ya forma parte de las discusiones dentro de las principales compañías de IA.

La combinación entre desarrollo acelerado, controles regulatorios limitados y advertencias provenientes de especialistas del propio sector mantiene abierta una discusión que podría definir el futuro de la inteligencia artificial durante los próximos años.