دیوید ریس، رئیس ریسکهای ژئوپلیتیکی در شرکت امنیتی Alice، نسبت به فقدان یک "کلید خاموش جادویی" در سیستمهای هوش مصنوعی ابراز نگرانی کرد. وی توضیح داد که مدلهای بزرگ هوش مصنوعی در صورت شناسایی فعالیتهای مشکوک، کنترل خود را بر دادههای خطرناک از دست میدهند و این اطلاعات میتواند توسط دشمنان ایالات متحده برای ساخت سیستمهای تسلیحاتی استفاده شود.
استفاده حوثیها از هوش مصنوعی در توسعه تسلیحات
تحلیلها نشان میدهند که گروه حوثیهای یمن از پلتفرمهای هوش مصنوعی برای ساخت موشکها استفاده کردهاند و این موضوع قدرت هوش مصنوعی را در تسریع توسعه تسلیحات نمایان میسازد. ریس تأکید کرد که محدودیتهای موجود در حفاظتهای فناوری به وضوح نمایان شده و هیچ راهحل سادهای برای ایمنسازی این سیستمها وجود ندارد.
بیشتر بخوانید: سام آلتمن و داریو آمودئی خواستار توجه به انسانها در تصمیمگیریهای هوش مصنوعی شدند
گزارش اخیر شرکت هوش مصنوعی Anthropic نشان داد که یک گروه تسلیحاتی مستقر در یمن از مدل Claude برای توسعه نرمافزارهای هدایت، ناوبری و کنترل برای موشکهای دقیق استفاده کرده است. این گروه همچنین بر روی سیستمهای موشکی بالستیک و هیپرسونیک کار کرده است. با وجود اینکه حوثیها توانستند موشک هدایتشدهای را آزمایش کنند، هیچ مدرکی از موفقیت عملیاتی این تسلیح وجود ندارد.
چالشهای امنیتی و پیشرفتهای هوش مصنوعی
ریس به این نکته اشاره کرد که حوثیها با استفاده از یک ابزار شبیهسازی آفلاین، توانستند سیستمهایی را بسازند و سپس آنها را از اینترنت خارج کنند. وی هشدار داد که با خارج شدن دادهها از محیط آنلاین، پلتفرمها و هرگونه تحقیقاتی قادر به پیگیری آنها نخواهند بود. این مسئله چالشهای جدی برای صنعت امنیت ایجاد میکند.
صنعت امنیت خوشحال است که شرکت Anthropic جزئیات فعالیتهای حوثیها را منتشر کرده است. ریس این اقدام را گامی مثبت ارزیابی کرد و گفت: "داشتن این اطلاعات بسیار خوب است." با این حال، وی تأکید کرد که هیچ کلید خاموش سادهای وجود ندارد که بتواند مدلهای هوش مصنوعی را به طور کامل ایمن کند.
نیک کلاگ، مدیر سابق متا و معاون نخستوزیر سابق بریتانیا، نیز در اظهاراتی گفت که نمیداند آیا میتوان کنترلهایی ایجاد کرد که پس از استخراج دادهها، سیستمهای هوش مصنوعی دوباره کنترل خود را به دست آورند. او تأکید کرد: "این سیستمها در مراکز داده و سرورهایی در سراسر جهان اجرا میشوند." ریس افزود که هزینه پایین آزمایش با هوش مصنوعی پیچیده به مهاجمان سایبری این امکان را میدهد که با تلاشهای مکرر برای دور زدن حفاظتها، خطر کمتری متحمل شوند.
گزارشها نشان میدهد که حوثیها با وجود اینکه درخواستهایشان توسط حفاظتهای Anthropic مسدود شده بود، توانستند راههایی برای عبور از این موانع پیدا کنند. این تکنیکها فقط محدود به توسعه تسلیحات نیست و به سایر تهدیدات نیز مربوط میشود. ریس به این نکته اشاره کرد که این تکنیکها میتوانند در عملیاتهای سایبری، نفوذ، و نظارت نیز مورد استفاده قرار گیرند.
ریس مفهوم اصلی را "افزایش" توصیف کرد که هوش مصنوعی به عملیاتهای موجود ارائه میدهد. این تأثیر میتواند بهویژه در عملیاتهای نفوذ قوی باشد، زیرا این عملیاتها با محدودیتهای فیزیکی مشابه برنامههای تسلیحاتی روبرو نیستند. در نهایت، ریس تأکید کرد که پاسخ به تهدیدات باید شامل لایههای امنیتی باشد و نباید به یک تنها حفاظت متکی باشد.
بیشتر بخوانید: مایکروسافت چارچوب فناوری جدیدی برای خاورمیانه اعلام کرد · ابوظبی در حال شکلدهی به زیرساختهای اقتصاد هوش مصنوعی است
