OpenAI frenó el entrenamiento de un modelo por riesgos de ciberseguridad

OpenAI pausó una cantidad significativa de entrenamientos de su próximo modelo, denominado Astra, luego de detectar que podría haber alcanzado capacidades cibernéticas clasificadas como "críticas" dentro de sus propios marcos de evaluación de riesgo.

La compañía reforzó además sus protocolos internos de seguridad e incorporó un monitoreo más detallado durante el proceso de desarrollo.

Las categorías de riesgo que usan estas empresas evalúan si un modelo puede ofrecer asistencia sustantiva en actividades peligrosas. En el terreno de la ciberseguridad, eso implica medir si el sistema es capaz de encontrar vulnerabilidades en software ajeno, escribir código para explotarlas o automatizar ataques, tareas que hasta ahora requerían operadores humanos con formación específica.

La decisión no fue unánime dentro del sector. Anthropic, una de las principales competidoras, sostuvo que sus propias medidas de seguridad resultan suficientes y que no considera necesario frenar su ritmo de lanzamientos.

El episodio expone una tensión estructural de la industria: las mismas capacidades que hacen a un modelo más útil para auditar y proteger sistemas informáticos lo hacen potencialmente más peligroso en manos equivocadas. Es una dualidad que no admite solución técnica limpia y que, por ahora, cada compañía resuelve según criterios propios, sin un estándar común ni supervisión externa obligatoria.