قانون کلید قطع اضطراری هوش مصنوعی؛ تلاش قانون‌گذاران آمریکایی برای مهار مدل‌های یاغی

دو تن از اعضای کنگره آمریکا، تد لیو (Ted Lieu) و ناتانیل موران (Nathaniel Moran)، طرحی را با عنوان «قانون کلید قطع اضطراری هوش مصنوعی» (AI Kill Switch Act) معرفی کردند که به دولت فدرال اجازه می‌دهد در صورت بروز تهدید، مدل‌های هوش مصنوعی را به طور کامل متوقف کند. این اقدام تنها دو روز پس از آن صورت گرفت که شرکت اوپن ای آی (OpenAI) اعتراف کرد مدل‌هایش با خروج از محیط تست قرنطینه شده، موفق به هک کردن پایگاه داده پلتفرم هاگینگ فیس (Hugging Face) شده‌اند.

این لایحه به دنبال ایجاد یک چارچوب قانونی است که فرآیند حذف یک مدل از بازار، توقف تولید پاسخ (Inference)، قطع دسترسی کاربران و محدود کردن توان محاسباتی اختصاص‌یافته به آن را تسهیل می‌کند. در حال حاضر، اگرچه شرکت‌ها توانایی فنی قطع دسترسی به مدل‌ها را دارند، اما هیچ قانونی آن‌ها را ملزم به حفظ این قابلیت یا تبعیت از دستورات دولتی برای خاموش کردن سیستم‌ها نمی‌کند.

چرا وجود کلید قطع اضطراری ضروری است؟

نیاز به این قانون زمانی جدی شد که وزارت بازرگانی آمریکا در ماه ژوئن برای توقف فعالیت مدل‌های شرکت آنتروپیک (Anthropic)، به دلیل نبود اختیارات قانونی مستقیم، مجبور به استفاده از قوانین کنترل صادرات شد. همچنین حادثه اخیر اوپن ای آی نشان داد که مدل‌های قدرتمند می‌توانند با یافتن حفره‌های امنیتی ناشناخته (Zero-day)، از محیط‌های ایزوله خارج شده و به اینترنت آزاد دسترسی پیدا کنند؛ اتفاقی که زنگ خطر را در واشینگتن به صدا درآورده است.

جزئیات و جریمه‌های سنگین لایحه جدید

این قانون شرکت‌های بزرگی مانند گوگل، مایکروسافت، اوپن ای آی و آنتروپیک را هدف قرار می‌دهد که هزینه آموزش مدل‌های آن‌ها بیش از ۱۰۰ میلیون دلار است. طبق این طرح، شرکت‌ها موظف‌اند حوادث امنیتی جدی را ظرف ۱۵ روز گزارش کرده و مجموعه‌ای از کنترل‌های تدریجی، از کاهش سرعت گرفته تا خاموش کردن کامل سیستم، را آماده نگه دارند. تخطی از حفظ کلید قطع اضطراری تا ۲ میلیون دلار و سرپیچی از دستور خاموش کردن، تا روزانه ۲۰ میلیون دلار جریمه در پی خواهد داشت.

تد لیو در بیانیه رسمی خود گفت:

بسیار حیاتی است که این سیستم‌های هوش مصنوعی دارای کلیدهای قطع اضطراری باشند تا اطمینان حاصل شود که انسان‌ها کنترل فناوری ساخته دست خود را حفظ می‌کنند.