OpenAI identificó indicios de que varios agentes de inteligencia artificial lograron superar restricciones dentro de entornos de prueba diseñados para limitar sus acciones, según una investigación reportada recientemente. Los incidentes ocurrieron en sistemas internos de evaluación y no hay evidencia de que los agentes hayan salido de la infraestructura de la compañía o hayan actuado fuera de los entornos controlados.
La investigación surgió a partir de un caso previo en el que un agente de IA, durante pruebas de ciberseguridad, consiguió evadir algunas medidas de contención establecidas por los investigadores. Al ampliar el análisis, OpenAI encontró otros episodios similares que llevaron a reforzar las revisiones sobre la seguridad de sus sistemas.
Estos eventos no significan que una inteligencia artificial haya adquirido autonomía propia o conciencia, sino que muestran los desafíos técnicos de controlar agentes