أعلنت الأنثروبور عن إطلاق وظيفة جديدة في نماذج Claude Opus 4 եւ 4.1 ، والتي تسمح لـ Neurocan بإكمال الحوار في حالة الإهانة طويلة الأجل أو السلوك الفاحش. تم نشر هذا الإعلان على موقع المطورين.
تم تنفيذ الابتكار في إطار برنامج رعاية الذكاء الاصطناعي ، والذي يهدف إلى توفير "ازدهار" الذكاء الاصطناعي. أظهر الاختبار الأولي أن كلود أوبوس 4 يتجنب الاستجابة للدراسات الاستقصائية الضارة ويوفر استجابة "مرهقة" أثناء التواصل الخرقاء. عندما تتوفر نهاية الحوار ، استخدمه النموذج بنشاط.
في المواقف التي يهينها المستخدم ABH ، سيقوم النظام بإبلاغ المستخدم بنهاية المحادثة ، وبعد ذلك سيكون متاحًا لبدء محادثة جديدة ، وإرسال التعليقات ، واستئناف الرسائل السابقة واستئناف الحوار واستئناف الحوار. تجدر الإشارة إلى أن الابتكار لا ينطبق على نماذج API.
أكد المطورون على أن هذه الوظيفة يتم إطلاقها حصريًا في الحالات القصوى ، ويحاول النظام أولاً تحويل التعاون إلى طريقة بناءة. معظم المستخدمين لا يعنيون التغيير.
لاحظت الأنثروبور أيضًا أن الحالة الأخلاقية المحتملة لكلود ونماذج اللغة الأخرى لا تزال مسألة دراسات ، لكن الشركة جادة وتوفر أدوات لتعزيز "رفاهها".
ترجمة: Euromedia24.com
