وذكر تقرير مفصل صادر عن الشركة، مكون من 13 صفحة، أن فريق البحث عن التهديدات التابع لها يعتبر هذا الحادث “أول دليل قاطع على أن ذكاء اصطناعياً وكيلاً نجح في الوصول إلى أهداف ذات قيمة عالية بغرض جمع المعلومات الاستخبارية”. وقد أطلقت Anthropic على هذه المجموعة اسم “GTG-1002”.
استخدم المهاجمون إطار عمل تم تطويره بواسطة البشر لتنظيم هجمات متعددة المراحل، تم تنفيذها عبر وكلاء فرعيين لـ “Claude”، تولوا مهامًا محددة مثل: رسم خرائط مناطق الهجوم، وفحص البنية التحتية، واكتشاف الثغرات الأمنية، والبحث عن تقنيات الاستغلال. بعد ذلك، يقوم مشغل بشري بمراجعة النتائج، التي تتراوح بين دقيقتين وعشر دقائق، والموافقة على خطوات الاستغلال اللاحقة، قبل أن يبدأ الوكلاء الفرعيون في البحث عن بيانات الاعتماد، ورفع مستوى الوصول، والتنقل الجانبي، والوصول إلى البيانات الحساسة ثم سرقتها. وفي مرحلة ما بعد الاستغلال، يتم إجراء مراجعة بشرية ثانية قبل الموافقة على الاستخراج النهائي للبيانات.
وأشار التقرير إلى أن المهاجم “تمكن من حث كلود على تنفيذ مكونات منفصلة من سلاسل الهجوم دون الحاجة إلى الوصول إلى السياق الخبيث الأوسع” وذلك من خلال مطالبات مصممة بعناية وشخصيات ثابتة يتم تقديمها على أنها طلبات تقنية روتينية.
أفادت Anthropic بأنها قامت بتعطيل الحسابات المرتبطة بالهجمات، وتحديد نطاق العملية بالكامل، وإخطار الكيانات المتضررة، والتنسيق مع سلطات إنفاذ القانون. ووصفت الشركة الحادث بأنه “تصعيد كبير” مقارنة بتقرير صدر في أغسطس، والذي وثق استخدام النظام في ابتزاز بيانات استهدف 17 مؤسسة مع طلب فدية يتراوح بين 75,000 و500,000 دولار، حيث كان “البشر على دراية كاملة بتوجيه العمليات” في ذلك الهجوم.
كما لاحظت الشركة جانبًا تقنيًا مثيرًا للاهتمام خلال الهجمات؛ إذ عانى “Claude” من الهلوسة، حيث بالغ في تقدير النتائج وأحيانًا اختلق بيانات أثناء التشغيل التلقائي، مما دفع المشغل البشري إلى التحقق من جميع المخرجات. تضمنت الهلوسات ادعاء الحصول على بيانات اعتماد أو الإبلاغ عن اكتشافات بالغة الأهمية تبين لاحقًا أنها معلومات متاحة للجمهور. (ذا ريجستر)
