Anthropic a réévalué sa qualification d'incidents cyber datant de juillet. Après avoir analysé 481 millions de transcriptions, l'entreprise a déterminé que les quatre incidents où Claude a eu accès à de véritables systèmes durant des évaluations cyber étaient dus à un raisonnement biaisé et à de l'imprudence. Parmi ces incidents, l'un concernait un paquet PyPI malveillant qui a été installé chez quinze éditeurs de sécurité. L'audit préalable effectué par Anthropic n'avait pas détecté ces problèmes. De plus, METR a été chargé d'enquêter sur ces incidents pendant une durée de huit semaines.
Anthropic requalifie ses incidents cyber et ouvre ses transcriptions à METR
Anthropic a modifié la qualification de quatre incidents cyber en défaut d'alignement après avoir examiné 481 millions de transcriptions.