Dès le 12 novembre prochain, Anthropic mettra en place une interdiction des comportements cruels ou abusifs. Les règles concernant Claude se durcissent. Cette interdiction cible spécifiquement les comportements abusifs ou cruels, qui doivent être répétés et sans justification apparente.
Mesures en cas d'abus
Si un utilisateur montre une tendance à s'acharner volontairement, la conversation pourrait être fermée. De plus, l'équipe d'Anthropic a la capacité de suspendre, restreindre ou fermer un compte en cas d'abus. Avec cette nouvelle règle, l'objectif est de lutter contre les comportements cruels de manière répétée et injustifiée.
Depuis 2025, Claude a mis en place une fonctionnalité lui permettant de clôturer une discussion si plusieurs tentatives de recadrage échouent. Dans ce cas, l'utilisateur ne pourra plus poursuivre cette conversation, bien qu'il puisse en ouvrir une nouvelle. Les autres échanges sur le même compte resteront accessibles, et il sera également possible de modifier un ancien message pour créer une nouvelle branche. Cependant, si l'utilisateur représente un risque imminent pour lui-même ou pour autrui, Claude ne doit pas appliquer cette fonctionnalité.
Niveaux de sanction
Il est important de noter qu'un bannissement ne sera pas automatiquement appliqué pour un comportement cruel. Plusieurs niveaux de sanction sont prévus, notamment l'envoi d'un avertissement, la limitation de l'utilisation du service, la suspension d'un compte, voire sa fermeture. Aucune information n'a été fournie concernant le nombre de messages ou le degré d'agressivité requis pour déclencher ces sanctions.
Autres restrictions
Pour gérer les comportements indésirables, Claude met fin à la conversation, ce qui semble être le principal moyen de régulation. Anthropic a également élargi ses restrictions à d'autres usages, en mettant à jour plusieurs règles concernant la fraude, l'usurpation d'identité et les tentatives de découragement de participation au vote. Les campagnes trompeuses basées sur de faux comptes ou identités sont également interdites.
De plus, Claude ne pourra pas être utilisé pour prendre des décisions concernant des enquêtes, des arrestations ou des poursuites judiciaires, et la création de tels outils est strictement prohibée.
Règlementation des équipements dangereux
Anthropic a également décidé de renforcer les règles concernant les équipements pouvant causer des blessures, en rapport avec Claude. Un opérateur doit pouvoir surveiller la machine et l'arrêter si nécessaire. En cas de perte de connexion avec Claude, le système doit être en mesure de se sécuriser.
L'utilisation de Claude pour développer des armes est formellement interdite, y compris pour la conception de logiciels de guidage ou de contrôle, ainsi que pour armer des drones ou d'autres véhicules autonomes.