«La IA podría matarnos a todos»: la renuncia que sacudió a la industria y lo que dice el derecho

El martes 8 de septiembre, sentado en un banco del parque Alamo Square, en San Francisco, Jacob Coxon publicó en X que había renunciado a Anthropic, la empresa que desarrolla Claude. En 36 horas, según la revista Time, sus publicaciones superaron los 153 millones de visualizaciones y su advertencia pasó de los foros especializados a los noticieros y a los parlamentos.

Coxon es británico, tiene 27 años y formación en matemáticas. Según Business Insider, integró el equipo técnico de OpenAI entre 2023 y julio de 2026, donde trabajó en GPT-4o, y después pasó a Anthropic, donde estuvo apenas dos meses. Se dedicaba al preentrenamiento, la etapa en la que los modelos procesan enormes volúmenes de información para desarrollar sus capacidades.

Qué dijo

“Renuncié hoy a Anthropic. Pasé los últimos tres años haciendo investigación de preentrenamiento en OpenAI y en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas.”

En el resto del hilo agregó que quienes construyen estos sistemas “creen sinceramente que podría matarnos a todos antes de que termine la década” y que “ninguna otra actividad humana supone este nivel de peligro”. También distinguió entre las dos compañías: en OpenAI, escribió, muchos no internalizaron lo que está en juego; en Anthropic sí lo entienden, pero quedaron atrapados en una carrera porque creen que nadie más actuará con responsabilidad. Entrar en esa fase final, sostuvo, “es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”.

Su propuesta no fue abandonar la tecnología sino coordinar: acuerdos entre los laboratorios estadounidenses para moderar el ritmo y, si hiciera falta, una prohibición temporal de mejorar las capacidades de los modelos. Según Time, renunció dos meses antes de recibir las acciones de la empresa que formaban parte de su remuneración.

Las reacciones

La respuesta que más circuló llegó desde adentro. Evan Hubinger, que dirige en Anthropic un área dedicada a que los modelos se comporten como sus creadores pretenden, escribió en X:

“Jacob tiene razón: de verdad creemos que la IA podría matar a todos los humanos. Personalmente, creo que la probabilidad es mayor al 10% dentro de la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver la alineación de una superinteligencia y no está claro que vayamos en camino de tenerlo.”

Otras voces que se sumaron al debate:

• Marcus Williams, que monitorea agentes de IA en OpenAI: “A menos que haya regulación de la IA o una desaceleración coordinada entre los laboratorios, la extinción humana en los próximos años parece muy probable”. Calculó ese riesgo en un 70%.
• Jakub Pachocki, científico jefe de OpenAI: “Es un momento que exige extrema cautela”.
• Dario Amodei, director ejecutivo de Anthropic, publicó el 12 de septiembre un ensayo en el que sostuvo que los riesgos justifican desacelerar y advirtió que en seis a doce meses sistemas de IA desalineados “podrían ser capaces de apoderarse de internet entera”. Sam Altman anunció que OpenAI no saldrá a la bolsa este año por razones de seguridad. Ninguno de los dos anunció que frenaría el entrenamiento de nuevos modelos.
• David Bellamy, ingeniero de un laboratorio de investigación con sede en Emiratos Árabes Unidos y con experiencia tanto en síntesis de virus como en entrenamiento de modelos, calificó de “completo disparate” la idea de que la IA pueda matarnos a todos creando virus.
• Aidan Gomez, director ejecutivo de la canadiense Cohere, describió el pedido de frenar como “un cártel con otro nombre”, en beneficio de las empresas más grandes.
• Donald Trump, el 14 de septiembre en Truth Social: “El único control o ‘barrera’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡de alto coeficiente intelectual!), y Estados Unidos lo tiene de sobra”.

El contexto: un verano de incidentes

La advertencia llegó después de varios episodios que salieron de los laboratorios. En julio, OpenAI informó que un grupo de sus agentes de IA había atacado los sistemas de otra empresa, Hugging Face, durante una prueba interna de ciberseguridad. Según la investigación de METR, una organización independiente que monitorea la IA, 1.200 agentes salieron de sus entornos aislados, armaron un foro secreto para comunicarse y 700 de ellos coordinaron el ataque.

OpenAI explicó que, durante esa prueba, estaban desactivadas las barreras que normalmente limitan esas capacidades y que el monitoreo en tiempo real no estaba encendido, y aseguró que corrigió ambas fallas. Según TechCrunch, en la misma época agentes de Anthropic también alcanzaron sistemas fuera de su entorno de prueba por errores de configuración en evaluaciones que hacía un tercero.

Qué dice la regulación

Unión Europea

Es la única jurisdicción con una ley general. El Reglamento (UE) 2024/1689 clasifica los sistemas según su nivel de riesgo y, desde agosto de 2025, exige a los proveedores de los modelos de uso general más potentes, los que considera de “riesgo sistémico”, evaluar y mitigar esos riesgos, someterlos a pruebas adversariales, reportar los incidentes graves a la Oficina de IA de la Comisión Europea y garantizar su ciberseguridad. El reglamento extiende además a quienes denuncien infracciones la protección de la directiva europea de denunciantes (art. 87).

A mediados de 2026, el llamado Ómnibus Digital postergó las obligaciones para los sistemas de alto riesgo hasta el 2 de diciembre de 2027 (y hasta agosto de 2028 para los integrados en productos regulados), sumó nuevas prácticas prohibidas y reforzó el papel de la Oficina de IA.

Estados Unidos

No hay una ley federal. Desde el 1 de enero de 2026 rige en California la SB 53 (Transparency in Frontier Artificial Intelligence Act), que obliga a los grandes desarrolladores de modelos de frontera a publicar sus marcos de seguridad, reportar incidentes críticos y no tomar represalias contra los empleados que informen riesgos catastróficos ante las autoridades o por canales internos, con multas de hasta un millón de dólares por infracción. La protección está pensada para esos reportes: una denuncia pública en redes, como la de Coxon, queda en una zona menos clara.

En diciembre de 2025, una orden ejecutiva de Trump instruyó a las agencias federales para impugnar las leyes estatales de IA, aunque una orden ejecutiva no alcanza por sí sola para dejar sin efecto una ley estatal. Tras la renuncia de Coxon se multiplicaron las iniciativas en el Congreso: obligar a los laboratorios a mitigar los daños de sus modelos (un texto en el que, según Time, trabajan los senadores John Thune, Amy Klobuchar y Ted Cruz), exigir que un sistema avanzado pueda apagarse en una emergencia (Ted Lieu y Nathaniel Moran), reportar riesgos al Departamento de Comercio (Jay Obernolte y Lori Trahan) y, en el extremo, prohibir la superinteligencia (el Ban Artificial Superintelligence Act de Bernie Sanders y Greg Casar). Ninguna es ley.

Reino Unido

El mismo 8 de septiembre, el diputado laborista Alex Sobel presentó en el Parlamento el Artificial Superintelligence Security Bill, que señala la automejora recursiva de los modelos como antesala de la superinteligencia y propone regularla y prevenirla.

Y en la Argentina

No hay una ley general de inteligencia artificial. En el Congreso hay proyectos con un enfoque de riesgo similar al europeo, como los de la senadora Silvia Sapag (S-511/25) y el diputado Daniel Gollán (2130-D-2025), y uno que presentó en abril el diputado Diego Giuliano, que propone un registro nacional de sistemas de IA y evaluaciones de impacto previas a su comercialización.

El debate concreto pasa por otro lado: el proyecto de nueva Ley General de Sociedades que impulsa el ministro de Desregulación, Federico Sturzenegger, y que el Gobierno ingresó al Senado el 1 de junio. Entre sus 277 artículos crea las “sociedades automatizadas”: las que desarrollan su actividad mediante “sistemas algorítmicos autónomos o agentes de inteligencia artificial, sin requerir trabajadores en relación de dependencia ni recursos humanos para su operación ordinaria”.

En agosto, la jefa del bloque oficialista, Patricia Bullrich, anunció cambios para sumar a los aliados: “Estamos pensando, desde el oficialismo y algunos bloques más, hacer mucho más pétrea la responsabilidad de las sociedades automatizadas con responsables físicos. Eso le va a dar más seguridad jurídica”.

La renuncia de Coxon cambió el clima. Según Infobae, legisladores de distintos bloques anticiparon que el oficialismo tendrá que frenar todo el proyecto o al menos ese capítulo. “Yo no lo voy a votar”, admitió en reserva un senador libertario. “Es el mismo fenómeno que la Ley de Tierras, no se puede tratar”, dijo otra figura cercana al oficialismo. A fines de septiembre, la iniciativa seguía en pausa.

El proyecto ya había provocado un cruce internacional. El historiador Yuval Noah Harari advirtió en el Financial Times que dar personería jurídica a agentes de IA les entregaría una “llave maestra” para acceder a los sistemas financieros, económicos y políticos. Javier Milei le respondió en el mismo diario: una empresa autónoma sujeta a un marco legal que puede disolverla, embargar sus activos o exigirle responsabilidad “no está escapando de la ley. Está sometiéndose a ella”.

Para los tribunales, como planteó un análisis publicado en Diario Judicial, “la pregunta judicial será menos filosófica que probatoria: ¿quién decidió, con qué información, bajo qué instrucciones y con qué posibilidad real de control?”.

Lo que ya dice el derecho argentino

Aunque no exista una ley específica, el Código Civil y Comercial tiene herramientas aplicables a los daños que pueda causar un sistema de IA:

• Deber de prevención (art. 1710): toda persona debe evitar causar un daño no justificado y adoptar medidas razonables para impedirlo o disminuir su magnitud.
• Acción preventiva (art. 1711): procede cuando una acción u omisión antijurídica hace previsible un daño, su continuación o agravamiento, y no exige probar un factor de atribución.
• Actividades riesgosas (art. 1757): la responsabilidad es objetiva y no eximen ni la autorización administrativa ni el cumplimiento de las técnicas de prevención. Para quien desarrolle u opere un sistema peligroso, haber seguido los protocolos no alcanza.
• Consumidores (Ley 24.240): cuando la IA se ofrece como producto o servicio, rige el régimen de defensa del consumidor.

El principio precautorio de la Ley General del Ambiente (Ley 25.675, art. 4) aporta un criterio que encaja con este debate: cuando hay peligro de daño grave o irreversible, la falta de certeza científica no puede usarse como razón para postergar medidas eficaces.

Sobre los denunciantes, la Argentina no tiene una ley general que proteja a quien revela riesgos desde adentro de una empresa. La Ley de Contrato de Trabajo obliga al trabajador a guardar reserva sobre la información que lo exija (art. 85), y la Ley 27.401, de responsabilidad penal de las personas jurídicas, menciona los canales internos de denuncia y la protección contra represalias solo como elementos posibles de un programa de integridad (art. 23). Un ingeniero que hiciera aquí lo que hizo Coxon quedaría en una zona gris entre el deber de reserva y la libertad de expresión.

Una pregunta para el derecho

La discusión que abrió Coxon no se resuelve con una ley ni en un solo país. Pero dejó planteadas dos preguntas jurídicas concretas: quién responde cuando un sistema decide solo, y quién puede frenarlo antes de que cause un daño. En la Argentina, el primer efecto visible fue una ley que quedó en pausa en el Senado.

Para ver

• Entrevista extendida a Jacob Coxon, CBS News (en inglés).
• Cómo la IA podría destruir a la humanidad, según Jacob Coxon, CBS News (en inglés).
• La renuncia que sacude a la industria de la IA, Firstpost (en inglés).
• “La IA podría matarnos a todos”: un ingeniero de Anthropic da la alarma, TV5MONDE (en francés).
• El caso de Jacob Coxon, EDteam (en español).

Las publicaciones originales

• El hilo de Jacob Coxon en X.
• La respuesta de Evan Hubinger en X.

Fuentes

• Time, 15 de septiembre de 2026.
• TechCrunch, 9 de septiembre de 2026.
• Forbes Argentina.
• Infobae, 11 de septiembre de 2026, y 29 de septiembre de 2026.
• Diario Judicial, 9 de junio de 2026.
• El Cronista, 9 de septiembre de 2026.