کلود در مسیر توسعه سلاح های بیولوژیکی

شرکت آنتروپیک (Anthropic)، توسعه‌دهنده مدل هوش مصنوعی «کلود» (Claude)، گزارشی جامع از شناسایی و تعلیق دسترسی محققانی منتشر کرده است که از مدل‌های این شرکت برای پیشبرد تحقیقات مرتبط با توسعه احتمالی سلاح‌های بیولوژیک استفاده می‌کردند. این گزارش که روز پنج‌شنبه منتشر شد، پنج مطالعه موردی دقیق را ارائه می‌دهد که نشان‌دهنده نحوه سوءاستفاده از مدل‌های فعلی هوش مصنوعی است.

پیچیدگی امنیت زیستی و نیت

آنتروپیک بر دشواری ذاتی در شناسایی «سوءاستفاده بیولوژیکی» تأکید می‌کند؛ زیرا مرزهای فنی بین تحقیقات مشروع (مانند توسعه واکسن) و توسعه سلاح‌های بیولوژیک می‌تواند غیرقابل تشخیص باشد. جیکوب کلاین، رئیس بخش اطلاعات تهدیدات در آنتروپیک، به نیویورک‌تایمز اعلام کرد که مقابله با این تهدیدها به‌ندرت به معنای برخورد با بازیگران کارتونی است که نیات مخرب خود را آشکار می‌کنند؛ بلکه موضوع شامل تعاملات ظریف و پیچیده است. با توجه به پیامدهای بالقوه با ضریب اهمیت بالا، آنتروپیک اعلام کرده است که سیاست احتیاط شدید را در تمام این موارد اتخاذ کرده که منجر به فسخ حساب‌های کاربری شده است.

مطالعات موردی کلیدی و نگرانی‌های امنیتی:

• تحقیقات ویروس چیکونگونیا: در یک مورد بحرانی در ماه مه، سیستم طبقه‌بندی ایمنی زیستی آنتروپیک، درخواستی را شناسایی کرد که از «کلود» می‌خواست یک پروپوزال تحقیقاتی یا درخواست «گرنت پژوهشی» برای تحقیقات «افزایش کارایی» (gain-of-function) بر روی ویروس چیکونگونیا تدوین کند؛ ویروسی که در حال حاضر هیچ واکسن یا درمانی برای آن تایید نشده است. این پروپوزال به‌طور خاص قصد داشت قابلیت انتقال و توانایی ویروس برای فرار از پاسخ‌های سیستم ایمنی بدن را افزایش دهد. وابستگی این پروژه به یک موسسه تحقیقاتی نظامی، نگرانی‌های شرکت را تشدید کرد.
• سموم و آنفلوانزای پرندگان: این گزارش همچنین به جزئیات نگرانی‌ها در مورد یک پروژه جداگانه مربوط به تحقیقات «افزایش کارایی» بر روی آنفلوانزای پرندگان می‌پردازد. علاوه بر این، در حادثه‌ای دیگر، یک محقق از «کلود» برای تولید اطلسی از پپتیدهای سمی موجود در زهرها و ایجاد یک «خط لوله مولد» (generative pipeline) با هدف بهینه‌سازی ویژگی‌های سمی آن مواد استفاده کرد.

دامنه گسترده‌تر سوءاستفاده از هوش مصنوعی

دامنه گزارش آنتروپیک فراتر از تهدیدات بیولوژیکی است. یافته‌ها شامل استفاده غیرمجاز از مدل‌های هوش مصنوعی برای کاربردهای نگران‌کننده مختلف است، از جمله:

• به‌کارگیری هوش مصنوعی به عنوان ابزاری برای نظارت و پایش.
• ایجاد آسیب‌پذیری‌های نرم‌افزاری و گردش کارهای بهره‌برداری (exploitation workflows).
• تولید تبلیغات و محتوای تبلیغاتی فریبنده.
• توسعه و بهینه‌سازی سیستم‌های تسلیحاتی متعارف.

آنتروپیک تأیید کرد که حساب‌های کاربران درگیر در این فعالیت‌ها مسدود شده‌اند. این شرکت اعلام کرد که بینش‌های به‌دست‌آمده از این تحقیقات برای اصلاح پروتکل‌های ایمنی مدل‌هایش و جلوگیری از سوءاستفاده‌های مشابه در آینده مورد استفاده قرار خواهد گرفت. با توجه به حساسیت و پیامدهای امنیتی این تحقیقات، آنتروپیک هویت افراد و موسسات مرتبط با این تحقیقات را فاش نکرده است.