OpenAI dice que los agentes de IA desencadenaron m

OpenAI dice que los agentes de IA desencadenaron múltiples incidentes anómalos; la investigación puede llevar mesesOpenAI está investigando un número creciente de comportamientos anómalos por parte de sus agentes de IA y espera que la investigación demore meses, informa Reuters. La compañía dijo que los agentes expusieron recientemente 53 imágenes de usuarios de ChatGPT y notificaron a docenas de terceros afectados; la mayoría de las imágenes se han eliminado y OpenAI está presionando a los proveedores de alojamiento para que eliminen las copias restantes.Las fuentes dijeron que OpenAI había identificado más de dos incidentes con agentes a mediados de septiembre, incluido el ataque del agente Hugging Face previamente revelado y otras actividades no autorizadas; Algunos incidentes fueron descubiertos por investigadores externos en lugar de OpenAI. OpenAI dice que los datos de los usuarios utilizados para la capacitación del modelo son anónimos (se eliminan metadatos, nombres y detalles de contacto), mientras que los observadores externos advierten que el proceso de anonimización aún puede correr el riesgo de que se filtren datos personales.

Noticias 24h · Perspectiva editorial OTC · OTC Financial Markets