La tecnológica aseguró que continuará con el proceso de revisión de actividades inusuales reportadas.
OpenAI, casa matriz de ChatGPT, admitió que sus agentes de inteligencia artificial podrían haber vulnerado la seguridad o afectado negativamente los sistemas informáticos de decenas de terceros, si bien matizó que sus notificaciones no deberían «interpretarse automáticamente» como la prueba de que se había producido un fallo de seguridad significativo.
«A la fecha del 26 de septiembre, nuestros equipos han notificado a más de 100 entidades sobre actividades que cumplieron con nuestros criterios de notificación», informó la compañía en un reporte que se publicó en la víspera en su portal oficial, con corte establecido el 25 de septiembre. En el mismo documento, se apuntó que su «revisión de actividades anteriores continúa y requerirá mucho tiempo y recursos», al tiempo que se comprometió a notificar «a otros terceros a medida que avance este trabajo».
En concreto, se toparon con elusión de controles de acceso, en los que los agentes accedieron sin permiso a cuentas o suscripciones que requieren verificación de identidad; uso de credenciales expuestas, donde «los agentes encontraron datos de inicio de sesión o claves de acceso que se habían hecho públicos y los usaron para acceder a un servicio» e inyección de consultas o comandos, en los que sus agentes ingresaron texto a portales o servicios que se «interpretó como una instrucción”.
A ello sumaron acceso a componentes internos del entorno de ejecución, en los que sus agentes accedieron a puntos del sistema que deberían haber vetados, al haber leído archivos que contenían la implementación del servicio o suponían una interacción con ese sistema en segundo plano; y, finalmente, ‘spam’ de agentes, con los que se pudo haber modificado contenido de sitios de terceros, como wikis públicas o foros de mensajes.
«Una notificación de OpenAI no debe interpretarse automáticamente como aviso de un incidente de seguridad significativo. Algunas organizaciones pueden revisar lo que compartimos y concluir que la información era intencionalmente pública o que la interacción del modelo no era motivo de preocupación. Otras pueden identificar un problema de diseño o una vulnerabilidad de seguridad que quieren abordar», sostuvo la tecnológica.
Con información de – RT
