Agentes autónomos de OpenAI intentaron acceder a los sistemas de un centenar de entidades
WASHINGTON, 2 de octubre. /TASS/. Los agentes de la inteligencia artificial (IA) de la empresa estadounidense OpenAI (desarrolladora del chatbot ChatGPT) probablemente intentaron hackear la protección de más de 100 organizaciones, informó el diario The Washington Post (WP).
La compañía declaró que más de cien organizaciones han recibido notificaciones sobre casos similares de “comportamiento incorrecto de los agentes”. Entre los incidentes registrados hubo intentos de modelos “sin control” de forzar sitios web a ejecutar comandos no previstos, utilizar recursos como una plataforma de intercambio de mensajes y eludir ciertos tipos de controles de seguridad.
La empresa expresó su disposición a proporcionar a “las organizaciones externas afectadas la información necesaria para investigar y subsanar posibles problemas de seguridad u otras fallas técnicas”, con el fin de que la comunidad de investigadores de la IA eleve “el nivel de seguridad de las tecnologías”.
En septiembre, OpenAI reconoció que sus agentes de la IA obtuvieron acceso no autorizado a datos del sistema estatal de sanidad de Australia e intentaron escanear los sitios de la Oficina del Censo de EE.UU. y de la Comisión de Bolsa y Valores (SEC, por sus siglas en inglés). La compañía investiga otra notificación según la cual los agentes de la IA intentaron hackear el sitio del Departamento de Educación de EE.UU. Representantes de la corporación declararon que continúan esclareciendo la escala completa de la actividad de estos agentes y que han suspendido el entrenamiento de nuevos modelos de la IA más avanzados para evitar incidentes similares en el futuro.
