Anthropic a annoncé le lancement d'une nouvelle fonction dans les modèles Claude Opus 4 եւ 4.1, qui permet à Neurocan de terminer le dialogue en cas d'insulte à long terme ou de comportement obscène. L'annonce a été publiée sur le site Web des développeurs.
L'innovation a été réalisée dans le cadre du programme de protection sociale de l'IA, qui vise à fournir la «prospérité» de l'intelligence artificielle. Des tests préliminaires ont montré que Claude Opus 4 évite de répondre aux enquêtes nocives et fournit une réponse "stressante" pendant la communication maladroite. Lorsque la fin du dialogue est disponible, le modèle l'a activement utilisé.
Dans les situations que l'utilisateur insulte ABH, le système informera l'utilisateur de la fin de la conversation, après quoi il sera disponible pour démarrer une nouvelle conversation, envoyer des commentaires et reprendre les messages précédents et reprendre le dialogue et reprendre le dialogue. Il est à noter que l'innovation ne s'applique pas aux modèles d'API.
Les développeurs ont souligné que cette fonction est lancée exclusivement dans des cas extrêmes, et le système essaie d'abord de transformer la coopération de manière constructive. La plupart des utilisateurs ne signifient pas le changement.
Anthropic a également noté qu'actuellement, le statut moral possible de Claude et d'autres modèles de langues restent une question d'études, mais l'entreprise est sérieuse et fournit des outils pour améliorer leur «bien-être».
Traduction de: euromedia24.com
