غول‌های هوش مصنوعی پشت درهای بسته برای «روز پس از فاجعه» آماده می‌شوند

گزارش تازه اکسیوس (Axios) نشان می‌دهد مدیران ارشد شرکت‌هایی مانند اوپن‌ای‌آی (OpenAI)، آنتروپیک (Anthropic) و دیگر شرکت‌های بزرگ هوش مصنوعی، به‌طور خصوصی در حال بررسی سناریوهای واکنش به یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی هستند.

بخشی از این برنامه‌ریزی‌ها به نحوه مواجهه با واکنش شدید افکار عمومی و فشارهای سیاسی پس از چنین رویدادی مربوط می‌شود.

یکی از اصلی‌ترین سناریوهای مورد بررسی، یک حمله سایبری گسترده است که می‌تواند دسترسی به خدمات مالی، اینترنت یا حتی زیرساخت‌هایی مانند برق و آب را مختل کند. اکسیوس همچنین گزارش داده که بسیاری از افراد داخل صنعت هوش مصنوعی معتقدند احتمال وقوع یک حادثه بزرگ در ۶ تا ۱۲ ماه آینده وجود دارد، هرچند این دیدگاه به معنای وقوع قطعی چنین رویدادی نیست.

اوپن‌ای‌آی انجام این تمرین‌ها را تأیید کرده است. سخنگوی این شرکت گفته تیم‌های داخلی در قالب تمرین‌های آمادگی، سناریوهای مختلف را بررسی می‌کنند، اما تأکید کرده که این اتفاقات اجتناب‌ناپذیر تلقی نمی‌شوند و هدف از این تمرین‌ها صرفاً آمادگی برای شرایط احتمالی است. آنتروپیک نیز درباره گزارش اکسیوس اظهارنظر نکرده است.

نگرانی درباره حملات سایبری مبتنی بر هوش مصنوعی

این نگرانی‌ها در شرایطی مطرح می‌شود که نمونه‌های واقعی استفاده از هوش مصنوعی در حملات سایبری نیز گزارش شده است. رویترز اخیراً گزارش داده یک مهاجم مستقر در چین احتمالاً با استفاده از یک عامل هوش مصنوعی و ابزارهایی مانند کلود، در حملاتی علیه دست‌کم ۹ بانک کره جنوبی نقش داشته است. طبق بررسی شرکت امنیتی CrowdStrike، در این حملات اطلاعات مشتریان بانکی نیز به سرقت رفته است.

خود شرکت‌های هوش مصنوعی نیز هم‌زمان اقدامات دفاعی را افزایش داده‌اند. آنتروپیک روز ۸ اکتبر برنامه‌ای جدید برای کمک به حفاظت از زیرساخت‌های حیاتی مانند شبکه برق، تأسیسات آب و سیستم‌های حمل‌ونقل معرفی کرد. از سوی دیگر، اوپن‌ای‌آی در تازه‌ترین ارزیابی خود، توانایی سایبری مدل‌های GPT-6 Sol و GPT-6 Luna را در سطح «بالا» اما پایین‌تر از آستانه «بحرانی» قرار داده است. البته مدل GPT-6 Astra پیش‌تر به سطح «بحرانی» در توانایی‌های سایبری رسیده بود و به همین دلیل با تدابیر امنیتی شدیدتری عرضه شد.