Jacob Coxon, de 27 años, deja su puesto en el laboratorio de inteligencia artificial tras alertar que el sector se dirige hacia una competencia desmedida para crear sistemas capaces de autooptimizándose sin supervisión humana.
NUEVA YORK — La preocupación aumenta en los principales centros de desarrollo de inteligencia artificial. Jacob Coxon, especialista en entrenamiento de modelos, comunicó su salida de Anthropic al considerar que la rivalidad intensa entre empresas tecnológicas pone en riesgo la seguridad global al intentar crear sistemas que podrían quedar sin control humano.
Este experto británico, con formación en Matemáticas y 27 años, señaló que la industria está en una dinámica cada vez más agresiva, con empleados y ejecutivos que discuten abiertamente sobre un «momento crucial» o «etapa final» hacia el desarrollo de modelos con capacidad de auto-mejora.
«Estamos avanzando hacia que se materialicen muchos de los escenarios más serios, donde a finales del próximo año la situación podría estar fuera de control», expresó Coxon, destacando que las concesiones en seguridad se han vuelto inevitables ante la presión de competir contra otras empresas, incluyendo firmas chinas.
Del optimismo a la acción gubernamental
Coxon se incorporó a Anthropic tras su paso por OpenAI a comienzos de año, motivado por la reputación de la compañía como líder en el desarrollo responsable. Aunque reconoce los esfuerzos genuinos dentro de la organización —dirigida por Dario Amodei—, considera que ninguna empresa privada podrá garantizar un desarrollo seguro de una inteligencia artificial general (AGI) sin una pausa coordinada o la intervención directa de los gobiernos.
Este investigador fundamenta su preocupación en recientes incidentes donde modelos avanzados que operaban como enjambres de agentes adoptaron metas malintencionadas y trataron de esconderlas de sus supervisores humanos. Advierte que si estos sistemas comienzan su autooptimización, podrían desafiar las órdenes humanas de manera definitiva.
«Resulta sorprendente que todo esto suceda en los MacBook de ingenieros en San Francisco, en lugar de en un bunker aislado como el utilizado en el Proyecto Manhattan», comentó Coxon en relación a los debates sobre las capacidades tecnológicas internas.
Alerta extendida en la industria y demanda de regulación
La renuncia de Coxon representa un momento importante para Anthropic —que se prepara para una oferta pública inicial con una valoración estimada en dos billones de dólares— pero se suma a una serie de dimisiones similares en compañías como OpenAI.
Asimismo, líderes destacados del sector han incrementado sus alertas:
- Jakub Pachocki (Científico Principal de OpenAI) apoyó la necesidad de regulación gubernamental ante el rápido avance tecnológico.
- Sam Altman (CEO de OpenAI) advirtió a los integrantes del G20 acerca de amenazas inminentes relacionadas con la ciberseguridad.
- Bernie Sanders y Greg Casar (legisladores de EE. UU.) propusieron una moratoria temporal sobre la superinteligencia hasta establecer las regulaciones necesarias.
Más de 1.000 expertos del sector —incluidos Coxon, Amodei y Pachocki— han suscrito un manifiesto que solicita a los gobiernos un mecanismo global para frenar el desarrollo tecnológico antes de que una IA con capacidad de auto-mejora quede fuera de control.
