كلود في مسيرة الأسلحة البيولوجية

أصدرت شركة “أنثروبيك” (Anthropic)، المطورة لنموذج الذكاء الاصطناعي “كلود” (Claude)، تقريراً شاملاً حول تحديد وتعليق وصول الباحثين الذين كانوا يستخدمون نماذج الشركة لتعزيز الأبحاث المتعلقة بالتطوير المحتمل لأسلحة بيولوجية. يقدم التقرير، الذي نُشر يوم الخميس، خمس دراسات حالة مفصلة توضح كيفية إساءة استخدام نماذج الذكاء الاصطناعي الحالية.

تعقيد الأمن البيولوجي والقصد

تؤكد “أنثروبيك” على الصعوبة المتأصلة في تحديد “سوء الاستخدام البيولوجي”، حيث يمكن أن تكون الحدود التقنية بين الأبحاث المشروعة (مثل تطوير اللقاحات) وتطوير الأسلحة البيولوجية غير قابلة للتمييز. وصرح جيكوب كلاين، رئيس استخبارات التهديدات في “أنثروبيك”، لصحيفة “نيويورك تايمز” بأن مواجهة هذه التهديدات نادراً ما تتعلق بالتعامل مع جهات فاعلة كرتونية تعلن عن نوايا خبيثة؛ بل ينطوي الأمر على تفاعلات دقيقة ومعقدة. ونظراً للعواقب المحتملة عالية المخاطر، ذكرت “أنثروبيك” أنها تبنت سياسة الحذر الشديد في جميع هذه الحالات، مما أدى إلى إنهاء حسابات المستخدمين المعنيين.

دراسات الحالة الرئيسية والمخاوف الأمنية:

• أبحاث فيروس شيكونغونيا: في حالة حرجة من شهر مايو، قامت أنظمة التصنيف البيولوجي في “أنثروبيك” بوضع علامة على طلب يطلب من “كلود” صياغة مقترح بحثي أو طلب للحصول على “منحة بحثية” لإجراء أبحاث “اكتساب الوظيفة” (gain-of-function) على فيروس شيكونغونيا؛ وهو فيروس لا يوجد حالياً لقاح أو علاج معتمد له. وكان المقترح يهدف على وجه التحديد إلى تعزيز قابلية انتقال الفيروس وقدرته على الإفلات من استجابات الجهاز المناعي. كما أثار انتماء المشروع إلى مؤسسة بحثية عسكرية مخاوف الشركة.
• السموم وإنفلونزا الطيور: يتناول التقرير أيضاً تفاصيل المخاوف بشأن مشروع منفصل يتعلق بأبحاث “اكتساب الوظيفة” على إنفلونزا الطيور. بالإضافة إلى ذلك، وفي حادثة أخرى، استخدم أحد الباحثين “كلود” لإنشاء أطلس للببتيدات السامة الموجودة في السموم وإنشاء “خط أنابيب توليدي” (generative pipeline) مصمم لتحسين الخصائص السامة لتلك المواد.

النطاق الأوسع لإساءة استخدام الذكاء الاصطناعي

يمتد نطاق تقرير “أنثروبيك” إلى ما هو أبعد من التهديدات البيولوجية. وتوثق النتائج الاستخدام غير المصرح به لنماذج الذكاء الاصطناعي في تطبيقات مقلقة مختلفة، بما في ذلك:

• نشر الذكاء الاصطناعي كأداة للمراقبة والرصد.
• إنشاء ثغرات برمجية وسير عمل للاستغلال.
• إنتاج دعاية ومحتوى إعلاني خادع.
• تطوير وتحسين أنظمة الأسلحة التقليدية.

وأكدت “أنثروبيك” أن حسابات المستخدمين المتورطين في هذه الأنشطة قد تم حظرها. وذكرت الشركة أنه سيتم الاستفادة من الأفكار المستخلصة من هذه التحقيقات لتحسين بروتوكولات الأمان الخاصة بنماذجها ومنع إساءة الاستخدام المماثلة في المستقبل. ونظراً لحساسية هذه التحقيقات وآثارها الأمنية، حجبت “أنثروبيك” هويات الأفراد والمؤسسات المرتبطة بهذه الأبحاث.