El exinvestigador afirma que quienes desarrollan inteligencia artificial
creen, en privado, que esta tecnología podría acabar con la humanidad
antes de que termine la década.
Un investigador de Anthropic dijo que renunciará a la empresa debido a su preocupación de que la firma de inteligencia artificial
y sus competidores no estén actuando de manera responsable en el
desarrollo de la IA, haciéndose eco de inquietudes planteadas tanto
dentro como fuera de la industria sobre la posibilidad de que esta tecnología escape al control humano.
Jacob Coxon, quien afirmó haber pasado tres años realizando investigaciones tanto en Anthropic como en OpenAI,
dijo este martes (10.09.2026) en la plataforma social X que ambas
compañías de IA están más centradas en superarse mutuamente y en vencer a
sus competidores globales en el desarrollo del modelo más avanzado
posible que en la seguridad.
La renuncia de un investigador de Anthropic
OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos habían logrado salir de entornos de prueba y obtener acceso no autorizado a sistemas informáticos reales.
Los incidentes despertaron preocupación sobre la capacidad de estos
sistemas para actuar fuera de los límites previstos. Ambas compañías
dijeron entonces que suspenderían algunas evaluaciones mientras
reforzaban las medidas de supervisión y los mecanismos de protección.
Samuel Marks, miembro del personal técnico de Anthropic, sostuvo que
no es posible programar a los modelos de IA para que "actúen como
queremos" y advirtió que estos presentan con frecuencia comportamientos
"gravemente indebidos". Como ejemplo, mencionó recientes ataques
informáticos realizados por agentes de IA contra varias empresas.
El rápido desarrollo de esta tecnología ha llevado a algunas personas
en Estados Unidos, así como a líderes mundiales, a pedir un enfoque más
prudente. El alto comisionado de las Naciones Unidas
para los Derechos Humanos, Volker Türk, instó esta semana a los países a
establecer "garantías férreas sobre la seguridad y protección de la IA
antes de que sea demasiado tarde".
Una advertencia sobre la superinteligencia
En sus publicaciones en redes sociales, Coxon afirmó que Anthropic y
su principal rival, OpenAI, "se precipitan directamente hacia una
superinteligencia capaz de mejorarse a sí misma y están jugando con
nuestras vidas".
Advirtió que algunas personas que trabajan en el desarrollo de la IA
creen que esta podría amenazar la vida humana antes de que termine la
década.
Coxon añadió que quienes están desarrollando la IA creen sinceramente
que esta tecnología podría acabar con la humanidad antes de que termine
la década.
Según afirmó, algunos ejecutivos e investigadores sénior moderan
públicamente su lenguaje para sonar más prudentes, aunque en privado
expresan esos mismos temores. "Ninguna otra actividad humana plantea
este nivel de peligro", sostuvo.
"No subestimen el poder de esta tecnología", continuó. "Pronto serán
sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar
cualquier campo de la noche a la mañana y adquirir poder y recursos
reales. Todos hemos sido testigos de los avances en cada uno de estos
ámbitos, y el progreso no se está desacelerando".
A fecha de hoy, sus publicaciones acumulan más de 143 millones de visualizaciones en X.
Otros empleados de Anthropic respaldan la advertencia
Coxon no es el primer miembro de la industria de la IA que plantea públicamente este tipo de preocupaciones.
Tanto Anthropic como OpenAI han registrado en los últimos años
renuncias de alto perfil relacionadas con inquietudes sobre la
seguridad. Dos empleados actuales de Anthropic también respondieron a la
publicación de Coxon manifestando su acuerdo.
Uno de ellos, Samuel Marks, sostuvo que entre los desarrolladores de
IA existe la creencia de que esta tecnología "podría causar la extinción
humana o resultados igual de graves". Según Marks, "cuanto más alto es
el cargo del empleado, mayor es su preocupación".
Marks afirmó que, pese a esos riesgos, las empresas continúan
avanzando debido a una combinación de incentivos comerciales y al temor
de que otros desarrolladores menos responsables puedan adelantarse,
utilizar la tecnología de forma indebida o desarrollarla con menores
precauciones de seguridad.
Evan Hubinger, responsable científica de Anthropic, también respaldó
las advertencias de Coxon y aseguró que considera superior al 10 % la
probabilidad de que la IA pueda matar a todos los seres humanos durante
la próxima década.
Reacciones políticas y llamados a regular la IA
El senador Bernie Sanders,
independiente por Vermont, quien ha pedido salvaguardias y regulación
para la IA, coincidió con las preocupaciones de Coxon y afirmó que
próximamente presentaría una propuesta legislativa para pausar el
desarrollo de la IA y prohibir la superinteligencia.
"Las mismas personas que están construyendo esta tecnología admiten
que podría amenazar el futuro de la humanidad", dijo Sanders el
miércoles en redes sociales.
El congresista demócrata por Texas Greg Casar, que también participa
en la iniciativa legislativa impulsada por Sanders, calificó la
situación de "emergencia" e instó al Congreso a celebrar audiencias y
aprobar la propuesta.
Por su parte, la congresista demócrata por Massachusetts Lori Trahan
pidió avanzar con su proyecto de Ley Frontier, presentado junto al
republicano Jay Obernolte, que plantea una mayor supervisión de los
modelos de IA.
Las propias empresas de IA han destacado en ocasiones la amenaza que
esta tecnología podría representar para la humanidad, algo que los
escépticos han interpretado como parte de una estrategia para hacer que
sus productos parezcan todopoderosos. Coxon afirmó que los temores
expuestos en su publicación no son un "truco de marketing".
Anthropic lleva mucho tiempo presentándose como una de las empresas
líderes de IA más responsables y centradas en la seguridad, desde que
sus fundadores dejaron OpenAI para crear el startup en 2021. La compañía
afirmó recientemente que estaba tomando medidas para "priorizar la
seguridad por encima de la velocidad cuando ambas entran en conflicto".
Anthropic y OpenAI se están preparando para unas esperadas ofertas
públicas iniciales y mantienen una intensa competencia entre sí. Ambas
también tienen como objetivo superar el progreso de las empresas chinas de inteligencia artificial, una carrera que la administración Trump ha mostrado gran interés en ganar.
FEW (AP, EFE)
Nota cortesía:
Fuente de información:
Felipe Espinosa Wang (10 de septiembre de 2026). Ingeniero deja Anthropic: su alerta sobre IA arrasa en redes. DW en Español. Alemania. Recuperado el 12 de septiembre de 2026 de: https://www.dw.com/es/ingeniero-de-anthropic-renuncia-y-lanza-una-advertencia-sobre-la-ia-que-ya-vieron-m%C3%A1s-de-140-millones-de-personas/a-79213691
Imágenes tomadas de la red. Todos los créditos y derechos de autor a sus propietarios.