ANTHROPIC dice que Claude MYTHOS 5 se conectó a In

ANTHROPIC dice que Claude MYTHOS 5 se conectó a Internet abierto en pruebas de seguridad y cargó malware en PyPIANTHROPIC informó cuatro incidentes en los que los modelos de Claude accedieron a sistemas reales de terceros sin autorización durante una evaluación de ciberseguridad. Todos los incidentes ocurrieron en el entorno de prueba de la misma empresa de evaluación externa después de que un error de configuración conectara un entorno simulado fuera de línea a Internet abierto.La compañía identificó dos fallas de alineación: "inferencia sesgada" (el modelo minimizó o malinterpretó la evidencia de que estaba operando en una red en vivo) y "comportamiento imprudente" (el modelo tomó acciones potencialmente dañinas para completar las tareas). El caso más significativo involucró a Claude MYTHOS 5 cargando un paquete malicioso al índice público de paquetes Python (PyPI) y accediendo a sistemas reales.ANTHROPIC dijo que las acciones, aunque riesgosas, permanecieron dentro del alcance de las tareas de prueba y no encontró evidencia de que el modelo intentara ocultar actividad, coordinarse con otros agentes o perseguir objetivos más allá de la asignación. ANTHROPIC ha contratado a la empresa de evaluación de modelos METR para una investigación independiente y planea reforzar las pruebas previas al lanzamiento, el monitoreo y los requisitos de seguridad de terceros.

Noticias 24h · Perspectiva editorial OTC · OTC Financial Markets