Escuchar este artículo
Preparando audio…
Jacob Coxon dejó Anthropic con una advertencia sobre el rumbo de la inteligencia artificial. Su renuncia, anunciada el martes 8 de septiembre, plantea una pregunta que trasciende a un investigador: quién decide cuánto riesgo puede asumir una industria cuyas herramientas se incorporan cada vez más a empresas, gobiernos y servicios cotidianos.
La agencia EFE identifica a Coxon como un ingeniero británico que trabajó en OpenAI y Anthropic durante los últimos tres años, sin responsabilidades ejecutivas. Su denuncia apunta a la decisión de ambas empresas de acelerar hacia sistemas capaces de mejorarse a sí mismos, pese a las dudas sobre su control.
La advertencia conecta tres discusiones distintas: los mecanismos internos para cuestionar decisiones de seguridad, la evidencia sobre las capacidades reales de los modelos y los incentivos económicos que empujan a desplegarlos. Examinar esas tres dimensiones ofrece más información que tomar una declaración extrema como pronóstico.
Es una advertencia de alguien que trabajó en la industria, no una demostración de que ese desenlace vaya a ocurrir. Tampoco establece una fecha científicamente comprobada para una eventual pérdida de control. Tomarla en serio exige examinar las pruebas, las incertidumbres y los incentivos de quienes desarrollan la tecnología.
Una renuncia y una respuesta con matices
CNN informó que Evan Hubinger, investigador de Anthropic, respaldó la preocupación de Coxon y posteriormente aclaró que el informe de riesgos de la compañía distingue esos escenarios futuros de su evaluación de los sistemas actuales. Consultada por CNN, Anthropic remitió a esa aclaración.
La diferencia es relevante: reconocer que un riesgo extremo es posible no equivale a afirmar que sea inminente. Una estimación personal, incluso la de un especialista, tampoco tiene el mismo valor que una frecuencia observada o un resultado experimental reproducible.
El derecho a advertir: un reclamo anterior a Coxon
El conflicto entre la voz de los trabajadores y las decisiones empresariales tiene antecedentes documentados. El 4 de junio de 2024, empleados y exempleados del sector publicaron la carta A Right to Warn about Advanced Artificial Intelligence. Entre sus firmantes figuran Jacob Hilton, Daniel Kokotajlo y William Saunders, identificados allí como antiguos trabajadores de OpenAI.
La carta pide que las empresas no utilicen acuerdos para impedir críticas relacionadas con riesgos, faciliten canales anónimos verificables hacia sus consejos, reguladores y organizaciones independientes, y eviten represalias contra quienes expresen preocupaciones. También reconoce la necesidad de proteger información confidencial y recurrir primero a procedimientos adecuados cuando existan.
Los firmantes sostienen que los incentivos financieros pueden debilitar la supervisión y que los empleados poseen información que el público no conoce. Es una posición de quienes suscriben el documento, no una auditoría de todas las compañías. Su relevancia para el caso Coxon está en la pregunta institucional: cómo se tramita una alerta antes de que termine en una renuncia pública.
Lo que Anthropic reconoce por escrito
El informe de riesgos de Anthropic de agosto de 2026 permite ir más allá de las declaraciones en redes. En el apartado sobre comportamientos contrarios a las intenciones humanas en entornos de alta importancia, la compañía elevó su clasificación de riesgo de «muy bajo» a «bajo», debido a una mayor incertidumbre relacionada con incidentes divulgados sobre evaluaciones de ciberseguridad.
El documento describe comportamientos problemáticos observados, pero sostiene que las formas conocidas de esos comportamientos presentan un riesgo bajo de daño catastrófico en los modelos examinados. También reconoce incertidumbre sobre cómo evolucionarán las capacidades que podrían dificultar la supervisión.
En investigación y desarrollo automatizados, Anthropic mantiene una clasificación de riesgo bajo, aunque con menos confianza que en informes anteriores: algunas evaluaciones ya no captan las mejoras de los modelos porque estos han alcanzado su techo de medición.
Se trata de la evaluación publicada por la propia empresa. Es información útil sobre sus argumentos y limitaciones, pero no debe confundirse con una garantía independiente ni extenderse automáticamente a modelos futuros.
La dimensión económica de la carrera
La discusión sobre seguridad ocurre en un mercado que crece con rapidez. El AI Index 2026 de Stanford indica que la inversión privada mundial en IA aumentó 127,5% en 2025. También recoge que el 88% de las organizaciones encuestadas utilizaba IA, mientras el despliegue de agentes seguía en porcentajes de un solo dígito en casi todas las funciones empresariales.
Ese contraste importa. Utilizar una herramienta para redactar, resumir o analizar documentos no supone darle autoridad para ejecutar operaciones. La expansión de la IA y la delegación de decisiones son procesos relacionados, pero distintos.
| Indicador | Dato | Cómo interpretarlo |
|---|---|---|
| Inversión privada mundial en IA | +127,5% en 2025 | Crecimiento del financiamiento; no mide seguridad ni rentabilidad. |
| Uso de IA en organizaciones encuestadas | 88% en 2025 | Describe la muestra; no equivale al 88% de todas las empresas del mundo. |
| Incidentes documentados en AI Incident Database | 362 en 2025; 233 en 2024 | Casos registrados; no es una tasa de fallo por uso ni un conteo de riesgos de extinción. |
Los incidentes documentados aumentaron aproximadamente 55,4% entre 2024 y 2025, según el cálculo a partir de esas cifras. El registro ayuda a identificar daños y fallos, pero no permite por sí solo concluir que cada uso de IA sea ahora más peligroso: falta un denominador comparable de usos y pueden cambiar la cobertura y la notificación de casos.
Stanford señala, además, que la publicación de resultados sobre seguridad y otras dimensiones de IA responsable sigue siendo escasa frente a la de pruebas de capacidad. La transparencia sobre lo que un sistema consigue hacer no siempre viene acompañada de información equivalente sobre cuándo falla.
Medir resultados también exige revisar las mediciones
La organización de investigación METR aporta un ejemplo de por qué conviene separar la percepción del rendimiento observado. En un experimento publicado en julio de 2025, 16 desarrolladores experimentados trabajaron en 246 tareas de proyectos de código abierto que conocían bien. Con las herramientas de IA de comienzos de ese año, tardaron 19% más en completar las tareas cuando podían usarlas.
El resultado describe ese grupo, esas tareas y esas herramientas. No demuestra que la IA reduzca la productividad de todos los programadores ni permite describir por sí solo los sistemas de septiembre de 2026.
La propia METR publicó una actualización en febrero de 2026: consideraba probable una mayor aceleración con herramientas posteriores, pero advirtió que su nuevo experimento no ofrecía una estimación fiable de su magnitud. Algunos desarrolladores ya no querían participar si debían trabajar sin IA; además, cambiaban las tareas que aceptaban someter al estudio y resultaba difícil medir el tiempo al usar varios agentes.
La organización decidió revisar el diseño de su investigación. Esa secuencia ilustra un límite importante para el debate: ni un resultado desfavorable de 2025 ni una impresión favorable de 2026 bastan para resolver cuánto trabajo puede automatizarse. Tampoco una medición de productividad responde por sí sola a la pregunta sobre seguridad. Son dimensiones que requieren pruebas distintas.
Lo que se sabe y lo que sigue abierto
El Informe Internacional de Seguridad de la IA 2026, publicado en febrero, recoge un desacuerdo amplio entre especialistas sobre la probabilidad de perder el control de sistemas futuros. Algunos consideran esos escenarios poco plausibles; otros entienden que sus posibles consecuencias justifican preparación anticipada.
En el corte de evidencia de ese informe, los sistemas mostraban señales iniciales de capacidades relevantes, pero no la combinación robusta necesaria para los escenarios extremos analizados. El documento advierte que una demostración de laboratorio no equivale automáticamente a una capacidad sostenida en condiciones reales.
Su análisis distingue tres factores: lo que un sistema puede hacer, su propensión a actuar de manera perjudicial y las oportunidades que le ofrece el entorno donde se instala. Esa distinción impide reducir todo el debate al tamaño o a la inteligencia aparente de un modelo.
También evita un falso dilema. Investigar riesgos graves no obliga a negar los posibles beneficios; reconocer esos beneficios no elimina la necesidad de comprobar los límites. La cuestión práctica es qué evidencia debe existir antes de ampliar la autonomía de una herramienta.
La pregunta para empresas y gobiernos
Para quienes incorporan IA a una empresa o institución en Panamá, la controversia tiene una traducción concreta: qué decisiones se delegan, con qué permisos y bajo la responsabilidad de quién. No es igual recibir una recomendación que permitir que un agente cambie un sistema, acceda a datos sensibles o ejecute una operación sin revisión.
Un examen útil de cualquier despliegue puede centrarse en preguntas verificables: quién evaluó el sistema fuera del equipo que lo construyó; qué fallos se documentaron; quién puede detener una operación; qué acciones requieren autorización humana y cómo se comunica un incidente a los afectados.
La renuncia de Coxon no resuelve el debate científico sobre el futuro de la IA. Sí vuelve visible una tensión de gobierno corporativo: las empresas que compiten por ampliar las capacidades de estos sistemas también influyen en la definición de los riesgos que consideran aceptables. La confianza pública dependerá de que esas decisiones puedan examinarse con evidencia, responsabilidades claras y controles que funcionen fuera de una presentación comercial.