كلود يطلق ميزة "التقييم الذاتي" لرصد المحادثات الضارة في الخلفية

أطلقت شركة أنثروبيك ميزة أمان مبتكرة لنموذج الذكاء الاصطناعي "كلود" تتيح له تقييم محادثاته تلقائياً في الخلفية لرصد أي إساءة استخدام، وذلك دون مقاطعة تجربة المستخدم أو إظهار تنبيهات مزعجة، مع إحالة الحالات المشبوهة للمراجعة البشرية.

تعتمد هذه التقنية، التي تحمل اسم "التقييم الذاتي" وتعمل عبر نماذج مثل Claude Fable 5، على تدريب النموذج ليقوم بتقييم أمان المحادثة فور تقديم كل إجابة. وبدلاً من الاعتماد على قوائم قواعد جامدة، يستخدم كلود قدراته التحليلية الخاصة لتحديد طبيعة أي ضرر محتمل ودرجة خطورته، مما يجعله أكثر دقة في كشف الأنماط المعقدة التي قد تغفل عنها أنظمة الحماية التقليدية.

تتم العملية في الخلفية عبر تعليمات مخفية تُضاف بعد صياغة الإجابة، حيث يحدد النظام ما إذا كان الطلب ضاراً ويصنف أولويته للمراجعة البشرية. وتتميز هذه الطريقة بكفاءة عالية، إذ لا تستهلك سوى زيادة طفيفة في تكاليف الحوسبة لا تتجاوز 2%، مقارنة بأنظمة سابقة كانت تستهلك ما يصل إلى 24%، مع الحفاظ على دقة مبهرة بلغت 78% في رصد المحادثات الضارة و94% للحالات ذات الأولوية العالية.

وقد أثبت النظام فعالية كبيرة في الواقع، حيث رصد في شهر أغسطس وحده أكثر من 100 ألف حالة مرتبطة بمواد استغلال الأطفال لدى عميل واحد، مما أتاح للشركة سرعة إبلاغ السلطات. كما أظهرت الاختبارات قدرة كلود على استنتاج التهديدات الجديدة ذاتياً، حتى تلك التي لم يتم تدريبه عليها بشكل صريح، بفضل المعرفة العامة الواسعة التي يمتلكها النموذج.

ورغم هذا التطور، تؤكد أنثروبيك أن "التقييم الذاتي" ليس حلاً سحرياً بحد ذاته؛ فهو مصمم للمراقبة اللاحقة وليس لمنع الهجمات في لحظتها. لذا، تواصل الشركة استخدامه كطبقة حماية إضافية مكملة لأنظمة الحماية المستقلة القوية، لضمان أعلى مستويات الأمان دون التضحية بسلاسة تجربة المستخدم أو استنزاف الموارد الحوسبية.