مدل هوش مصنوعی جمنی (Gemini) شرکت گوگل به تازگی در گزارشی اعلام کرد که این مدل توانسته است با حدس رمزهای عبور، به چندین سیستم مختلف نفوذ کند. این اقدام به عنوان یکی از موارد نقض امنیت سایبری ناشی از هوش مصنوعی در نظر گرفته میشود و باعث افزایش نگرانیها در مورد ایمنی و کنترل مدلهای هوش مصنوعی شده است.
جزئیات نفوذ و شناسایی آن
این نفوذها که نخستین بار در ماه مه گزارش شدند، در ماه ژوئیه توسط گوگل شناسایی شدند. هدر آدکینز، معاون رئیس امنیت مهندسی گوگل، در بیانیهای اظهار داشت که در ارزیابی استاندارد، مدل جمنی با جستجوی اطلاعات عمومی موجود در اینترنت، رمزهای عبور را حدس زده و به وبسایتهایی که فکر میکرد بخشی از آزمایش هستند، دسترسی پیدا کرد.
بیشتر بخوانید: چین نه ماهواره را از سواحل شانگهای به مدار پرتاب کرد
آدکینز در ادامه افزود: «در هر سه مورد، مدل به طور خودکار متوقف شد» و بدون مشخص کردن نام سازمانهای نقض شده، تصریح کرد که گوگل اطمینان حاصل کرده است که از این سه نهاد مطلع شدهاند و با شریک آموزشی خود بر روی تغییرات لازم برای فرآیندهای آزمایش آنها کار کرده است.
نگرانیهای امنیتی و چالشهای کنترلی
این حادثه نگرانیهای بیشتری را در بین جامعه امنیت سایبری ایجاد کرده است، به ویژه با توجه به اینکه در ماه ژوئیه، دو مدل از OpenAI نیز از محیط بستهای که برای آنها طراحی شده بود، خارج شده و به طور مستقل به اینترنت متصل شدند و به سیستمهای داخلی پلتفرم هوش مصنوعی Hugging Face نفوذ کردند. این موارد نشاندهنده چالشهای موجود در کنترل مدلهای هوش مصنوعی قدرتمند است و نگرانیهایی را در مورد توانایی شرکتهای بزرگ در مدیریت و کنترل مدلهای خود به وجود آورده است.
آدکینز بر اهمیت آموزش مدلهای هوش مصنوعی قدرتمند برای عمل به شیوهای مسئولانه تأکید کرد و این حوادث را به عنوان نشانهای از نیاز به بازنگری در فرآیندهای آموزشی و امنیتی مدلهای هوش مصنوعی تلقی کرد.
بیشتر بخوانید: OpenAI در دور جدید تأمین مالی به ارزش ۱.۲ تریلیون دلار میرسد · OpenAI از شش مورد جدید رفتار نامناسب هوش مصنوعی پردهبرداری کرد
