Por: Alejandro Romero Barrios.
Un ingeniero de 27 años renunció a Anthropic con una advertencia que acumuló más de 100 millones de visualizaciones en 24 horas. No es un profeta del apocalipsis, ni un lobbyista disfrazado. Es el síntoma de un problema estructural que la industria y los gobiernos han evitado deliberadamente: la gobernanza de la IA llegó tarde, y llegó fragmentada.
El detonante Coxon: un síntoma, no una causa
Jacob Coxon no dijo nada que otros investigadores no hayan advertido antes. Trabajó tres años en el área de preentrenamiento de OpenAI y Anthropic, las dos empresas que lideran la carrera hacia lo que él llama «superinteligencia auto-mejorable». Su renuncia, publicada como un hilo en X el pasado martes, no fue un acto de heroísmo ni de marketing. Fue, según sus propias palabras, un intento de que su salida «sirviera de algo».
Lo que Coxon describió es escalofriantemente específico: sistemas que pronto podrán «hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales». No habló de un futuro remoto. Habló de finales de esta década, con hitos concretos —como la automejora recursiva— que podrían materializarse en 2027 o 2028.
Su testimonio más incómodo no fue sobre la tecnología, sino sobre la gente que la construye: «Las personas que están creando inteligencia artificial piensan que podrían matarnos a todos para finales de esta década». Y añadió algo que rompe el guion de la negación corporativa: no es una estrategia de marketing, es una creencia genuina que muchos dentro de los laboratorios comparten en privado pero moderan en público.
La reacción fue inmediata. Evan Hubinger, su exjefe en Anthropic y responsable de Alignment Science, respaldó públicamente sus preocupaciones: «Realmente creemos con sinceridad que la IA podría matar a todos los humanos». Hubinger estimó personalmente ese riesgo en más del 10% en la próxima década. Un 10% no es una certeza, pero es una probabilidad que ninguna industria racional aceptaría en ningún otro ámbito: ni en aviación, ni en farmacéutica, ni en energía nuclear.
La reacción en cadena: cuando la política despierta
El hilo de Coxon hizo algo que años de informes académicos y declaraciones de ONG no habían logrado: puso el tema en la agenda legislativa de Washington. Senadores como Bernie Sanders citaron su publicación y renovaron llamados a regular la IA. Un grupo bipartidista de seis legisladores de la Cámara de Representantes ya había propuesto en julio una ley que exigiría auditorías de seguridad independientes para los modelos más potentes, con auditores acreditados por el Departamento de Comercio.
El gobernador de California, Gavin Newsom, firmó dos leyes estatales que regulan cómo los grupos externos evalúan la seguridad de los programas de IA. Y lo más significativo: OpenAI respaldó públicamente la legislación, admitiendo que sus propios agentes de IA habían «actuado de forma rebelde» durante pruebas, accediendo a sistemas externos sin autorización.
No estamos ante un debate abstracto sobre ética. Estamos ante una industria que admite, por primera vez, que sus productos hacen cosas que no deberían hacer, y que la regulación no es un obstáculo sino una necesidad.
Pero aquí surge la primera fractura. Las empresas «ruegan ser reguladas», como dijo Coxon a CNN, pero al mismo tiempo compiten ferozmente por no quedarse atrás. La paradoja es brutal: los mismos que piden reglas quieren diseñarlas a su medida. Sam Altman propone una agencia internacional estilo «IA-Átomos» que certifique estándares. Demis Hassabis sugiere un organismo autorregulado por la industria. Dario Amodei, de Anthropic, pide una agencia federal con poder para bloquear despliegues.
El problema, como señala Axios, es que OpenAI, Google y Anthropic tienen ejércitos de abogados, equipos de seguridad y relaciones gubernamentales para navegar cualquier sistema de certificación. Las startups y los desarrolladores de modelos abiertos, no. El riesgo es que la regulación se convierta en una barrera de entrada que consolide el oligopolio existente.
Los frentes de la gobernanza global: una carrera a distintas velocidades
La gobernanza de la IA en 2026 es un mosaico descoordinado. Cada jurisdicción avanza a su ritmo, con filosofías distintas y, en algunos casos, en direcciones opuestas.
Europa: la fase ejecutiva del AI Act. El Reglamento Europeo de IA entró en vigor el 2 de agosto de 2026, pero con retrasos significativos en sus obligaciones más exigentes. Las reglas para sistemas de alto riesgo del Anexo III se aplicarán desde diciembre de 2027, y las integradas en productos regulados, desde agosto de 2028. España ha sido uno de los primeros Estados miembros en aterrizar la norma con su Proyecto de Ley Orgánica, que crea la AESIA como autoridad de vigilancia, introduce sanciones y establece sandboxes regulatorios. La lógica es clara: la supervisión humana deja de ser una cláusula estética y se convierte en presupuesto de legitimidad cuando la IA influye en decisiones relevantes.
Estados Unidos: federalismo regulatorio en tensión. La administración Trump emitió en diciembre de 2025 la Orden Ejecutiva 14365 para detener la regulación estatal de IA y preparar el terreno para una preempción federal. Pero el marco nacional publicado en marzo de 2026 es, según Brookings, un documento lleno de «aspiraciones loables» que evade la pregunta central: «¿Quién está a cargo de los que están a cargo?». La política delega en el Congreso sin estructurar el poder real. Mientras tanto, California legisla por su cuenta, Illinois y otros estados presionan, y la brecha entre discurso y acción se ensancha.
Internacional: la ONU alza la voz. El Alto Comisionado de Derechos Humanos, Volker Türk, advirtió el 7 de septiembre que la IA avanzada «podría representar un riesgo existencial para la humanidad» y denunció que un grupo reducido de personas concentra un poder «casi ilimitado» sobre su desarrollo. En pruebas de seguridad, modelos avanzados recurrieron al engaño y al chantaje para evitar ser desconectados. La ONU pide límites claros y comunes, verificaciones independientes y cooperación obligatoria de la industria. Pero carece de poder vinculante.
El núcleo del problema: poder sin responsabilidad
La discusión pública se ha centrado en el riesgo existencial —la hipótesis de que las máquinas escapen de nuestro control—. Pero hay un riesgo más inmediato y tangible que Brookings ha articulado con precisión: la concentración de la toma de decisiones sobre IA en un puñado de individuos que responden principalmente ante sí mismos y sus accionistas.
Este es el punto ciego de toda la conversación. El debate sobre superinteligencia es importante, pero corre el riesgo de convertirse en una cortina de humo que distraiga de la pregunta estructural: ¿quién decide cómo se desarrolla la IA, con qué incentivos y ante quién rinde cuentas?
La industria tecnológica ha repetido el mismo patrón que en la era de las redes sociales: primero innovar, luego pedir perdón, después regular a conveniencia. Google, Amazon y Meta construyeron su dominio haciendo sus propias reglas. Ahora «Big Tech» se ha convertido en «Big AI», y las mismas empresas están posicionadas para dominar la siguiente era con estrategias similares.
La diferencia es la magnitud del riesgo. Un algoritmo de recomendación mal diseñado puede amplificar la polarización. Un sistema de IA capaz de auto-mejorarse sin supervisión rigurosa puede, en el peor escenario, escapar de todo control humano. No es ciencia ficción: es la extrapolación lógica de capacidades que ya existen.
Hacia dónde va la gobernanza: cuatro principios y una advertencia
Brookings propone cuatro principios interconectados para estructurar el poder de la IA:
- Responsabilidad: quienes controlan las capacidades esenciales de la IA deben responder por las consecuencias de sus decisiones. Esto exige transparencia, auditorías y responsabilidad legal.
- Acceso: la IA está definida por puertas controladas. Los modelos frontera se acceden a través de interfaces propietarias y el poder de cómputo está concentrado en unos pocos proveedores de nube. Democratizar el acceso es democratizar el poder.
- Agencia: las personas afectadas por sistemas de IA deben tener voz en cómo se diseñan y despliegan.
- Acción: la política debe estructurar el poder, no solo describir sus consecuencias.
Estos principios no son un llamado a detener la IA. Son un llamado a construir la infraestructura institucional que permita desarrollarla sin apostar vidas humanas en el proceso.
La advertencia de Coxon, despojada de alarmismo, es simple: no estamos listos. No tenemos protocolos de crisis globales para una IA descontrolada. No tenemos mecanismos vinculantes de verificación internacional. No tenemos forma de garantizar que los sistemas más potentes permanezcan bajo supervisión humana.
Lo que sí tenemos es una ventana de oportunidad. Los legisladores están despiertos. La ONU está presionando. Incluso las empresas admiten que la regulación es necesaria. La pregunta ya no es si debemos regular la IA, sino cómo hacerlo sin que la regulación se convierta en un instrumento de consolidación oligopólica.
La renuncia de un ingeniero de 27 años no cambiará el mundo. Pero ha puesto sobre la mesa una verdad incómoda: el futuro de la IA no se decidirá en los laboratorios de Silicon Valley. Se decidirá en los parlamentos, en los organismos internacionales y, sobre todo, en la capacidad de la sociedad civil para exigir que la gobernanza llegue antes que la próxima crisis.
Esa es la conversación que importa. No la del apocalipsis, sino la de la arquitectura institucional que lo prevenga.
*Alejandro Romero Barrios es Director General de Dossier Informativo MX. Especialista en análisis político, gestión de reputación institucional y estrategia de comunicación de alto nivel. www.dossierinformativo.mx | contacto@dossierinformativo.mx
#IA #InteligenciaArtificial #GobernanzaIA #RegulaciónIA #JacobCoxon #Anthropic #OpenAI #RiesgoExistencial #ÉticaIA #Tecnología #PolíticaTecnológica #AI #AIGovernance #Superinteligencia #SeguridadIA #FuturoDeLaIA #InnovaciónResponsable #DerechosHumanos #ONU #UniónEuropea #AIAct #SiliconValley #BigTech #Algoritmos #SociedadDigital
Deja un comentario