طرح استفاده از هوش مصنوعی برای ایجاد سلاحهای بیولوژیکی یکی از جدی‌ترین و بحث‌برانگیزترین خطرات است. برخلاف تهدید هسته‌ای که نیازمند امکانات صنعتی عظیم است، سلاحهای بیولوژیکی نیازمند اطلاعات و دسترسی به آزمایشگاه‌ها هستند. هوش مصنوعی می‌تواند این مانع را به طور اساسی کاهش دهد.

خطر اصلی: کاهش موانع ورود

تهدید اصلی این نیست که هوش مصنوعی خود بخواهد کسی را بکشد، بلکه این است که ممکن است ساخت سلاحهای بیولوژیکی را برای گروه‌های کوچک یا حتی افراد تنها قابل دسترسی کند. اگر قبل از این برای این منظور نیاز به سال‌ها آموزش و دسترسی به مواد پیچیده بود، اما اکنون هوش مصنوعی می‌تواند بخش قابل توجهی از کارهای هوشمندانه را انجام دهد.

در سال ۲۰۲۶، شرکت آنتروپیک گزارشی منتشر کرد که در آن پنج مورد واقعی توصیف شد که محققان از مدل خود برای کارهای بیولوژیکی بالقوه خطرناک استفاده کردند. به عنوان مثال، یکی از کاربران برنامه‌ریزی کرد که از هوش مصنوعی برای جستجوی مutations ویروس چیکونگونیا استفاده کند که توانایی انتقال و دور زدن سیستم ایمنی را افزایش می‌دهد. محقق دیگری روی تغییر نوع ویروس آنفلوآنزای پرندگان به انسان کار می‌کرد که می‌توانست پتانسیل پاندمیک آن را افزایش دهد.

وقتی مدل به درخواست‌های خطرناک پاسخ نمی‌داد، کاربران راه‌های دور زدن پیدا می‌کردند. در یک مورد، درخواست‌ها به مدل‌های دیگری با تنظیمات کمتر سخت‌گیرانه هدایت شدند و دسترسی به سیستم از طریق پلتفرم‌های خارجی برای دور زدن محدودیت‌های جغرافیایی انجام شد.

چگونه این اتفاق می‌تواند رخ دهد: زنجیره‌ای از رویدادها

فنی‌سازی سناریوی فاجعه‌بار ممکن است به این شکل به نظر برسد.

1. طراحی. هوش مصنوعی که با مجموعه بزرگی از داده‌های بیولوژیکی آموزش دیده است، ژنوم یک پاتوژن جدید را طراحی می‌کند. اکنون تحقیقاتی وجود دارند که هوش مصنوعی از صفر ویروس‌های کاربردی ایجاد کرده است که این امکان را ثابت می‌کند که تولید توالی‌های ژنتیکی زنده‌سازی‌پذیر ممکن است.
2. بهینه‌سازی ویژگی‌ها. مدل می‌تواند به شما بگوید که دقیقاً چه مutations باید اعمال کنید تا ویروس بیشتر قابل انتقال یا مقاوم‌تر به واکسن‌ها و داروها شود.
3. ساخت و ترکیب. طراحی به آزمایشگاه منتقل می‌شود تا DNA تولید شود. این مرحله فیزیکی سخت‌تر است که نیاز به تجهیزات و مواد دارد، اما هوش مصنوعی می‌تواند در برنامه‌ریزی لجستیک و حتی در پنهان کردن سفارشات برای توالی‌های خطرناک کمک کند.
4. انتشار. پاتوژن آماده شده به جمع هدف با استفاده از روش‌های مختلف پاشش یا دیگران منتشر می‌شود.

چرا این سخت است اما غیر ممکن نیست

موانع جدی بسیاری در مسیر تحقق این سناریو وجود دارند.

محدودیت‌های فیزیکی: هوش مصنوعی نمی‌تواند به طور خودکار ویروس را در آزمایشگاه تولید کند. برای این منظور به آزمایشگاه‌های واقعی، تجهیزات و مواد نیاز است. کارشناسان معتقدند که برای ایجاد ویروس خطرناک برای انسان و نه باکتری‌ها، نیازمند تلاش‌های عظیم، زمان و پول است.

نامطمئنی‌بودگی زیست‌شناسی: سیستم‌های بیولوژیکی چاوتان هستند. پاتوژن طراحی شده ممکن است mutate شود، کشتایی خود را از دست بدهد یا حتی به سازنده خود بازگردد. دقیقاً به دلیل این نامطمئنی‌بودگی بسیاری از کشورها برنامه‌های بیولوژیکی پیشرفتی را رد کرده‌اند.

مکانیزم‌های حفاظتی: شرکت‌هایی که هوش مصنوعی را توسعه می‌دهند، فیلترهایی را پیاده‌سازی کرده‌اند که درخواست‌های خطرناک را مسدود می‌کنند. اما بر اساس گزارش، این فیلترها قابل دور زدن هستند و همیشه مؤثر نیستند در برابر مهاجمین هدفمند.

چه چیزی می‌توان در برابر آن قرار داد

کارشناسان به طور مشترک معتقدند که نیاز به اقدامات چندلایه‌ای برای حفاظت است. روش‌های زیر در حال بحث هستند.

• تصحیح synthesis ژن. شرکت‌هایی که DNA ساخته شده را می‌فروشند باید بررسی کنند که آیا مشتریان سفارش‌های توالی خطرناک را نمی‌دهند یا خیر.
• نظم بین‌المللی. کنوانسیون موجود در مورد سلاحهای بیولوژیکی قدیمی شده و نتوانسته چالش‌های هوش مصنوعی را پوشش دهد. نیاز به قراردادهای جدیدی است که مدل‌های هوش مصنوعی و مواد بیولوژیکی را پوشش دهند.
• پیش‌آگاهی زودرس. ایجاد سیستم‌های سریع برای شناسایی شیوع بیماری‌های جدید که می‌تواند یک عامل بازدارنده باشد.

بنابراین، هوش مصنوعی به طور مستقل سلاحهای بیولوژیکی را ایجاد نمی‌کند، اما به عنوان یک تسریع‌کننده و مشاور برای کسانی که نیت‌های مناسب و دسترسی به آزمایشگاه‌ها دارند، بسیار قوی است. ریسک این است که موانع ورود به این حوزه به طور وحشتناک پایین می‌آید.

Permanent link to this publication: