شرکت ANSEN، واقع در ابوظبی، به بررسی نگرانی‌های امنیتی ناشی از فعالیت‌های هوش مصنوعی به عنوان نمایندگان کاربران می‌پردازد. با افزایش استفاده از هوش مصنوعی، نمایندگان مجازی به طور فزاینده‌ای مجاز به انجام کارهایی نظیر خواندن ایمیل‌ها، جست‌وجو در فایل‌های شرکتی و برقراری ارتباط با نرم‌افزارهای دیگر هستند. این تغییرات چالش‌های جدیدی را در زمینه امنیت سایبری ایجاد کرده است.
چالش‌های جدید امنیتی
مشکل اصلی در اینجا مسئولیت‌پذیری است. اگر یک نماینده هوش مصنوعی از حساب کاربری یک کارمند برای انجام اقداماتی مانند باز کردن یک پایگاه داده یا تغییر یک فایل استفاده کند، ممکن است لاگ‌ها تنها نشان‌دهندهٔ استفاده از مجوزهای آن کارمند باشند. این امر شناسایی اینکه چه کسی چه اقداماتی را درخواست کرده و چه اقداماتی توسط نماینده انتخاب شده، را پیچیده می‌کند. Zheng Li، هم‌بنیان‌گذار و معاون گروه شرکت ANSEN، بیان کرد که "حادثه امنیتی بعدی ممکن است شامل یک نماینده مجاز باشد که با مجوز صحیح، تصمیم نادرستی می‌گیرد."
بیشتر بخوانید: گرگ استنتون: از دست رفتن لذت گفتگوها در عصر هوش مصنوعی
گام‌های پیشنهادی برای بهبود امنیت
موسسه ملی استانداردها و فناوری ایالات متحده (NIST) به تازگی هشدار داده است که استفاده از حساب‌های کاربری موجود برای نمایندگان هوش مصنوعی می‌تواند به تکرار اشتباهات قدیمی در زمینه امنیت منجر شود. به جای این رویکرد، باید نمایندگان هوش مصنوعی به عنوان "موجودات با کلاس اول" در نظر گرفته شوند و مجوزها و شناسه‌های خاص خود را داشته باشند.
شرکت مایکروسافت نیز در همین راستا راهنمایی‌هایی ارائه داده است که شامل اعطای هویت‌های جداگانه به هر نماینده، محدود کردن دسترسی‌های آن و ثبت کامل زنجیره فعالیت‌ها می‌شود. این امر به سازمان‌ها کمک می‌کند تا بتوانند به سؤالات اساسی دربارهٔ آنچه که اتفاق افتاده، تحت چه مجوزی و چه تغییراتی پاسخ دهند.
ایجاد هویت واضح برای نمایندگان هوش مصنوعی به تنهایی کافی نیست. نماینده ممکن است مجوزهای زیادی داشته باشد که می‌تواند به خطرات امنیتی منجر شود. به عنوان مثال، اگر یک نماینده مجاز به خلاصه‌سازی یک هشدار امنیتی باشد، آیا باید همان نماینده قادر به غیرفعال کردن یک حساب کاربری یا متوقف کردن یک سرویس بدون تأیید دیگری باشد؟ Li تأکید می‌کند که عواقب اقدام باید تعیین‌کننده سطح کنترل حول آن باشد.
توسعه هوش مصنوعی در امارات
این نگرانی‌ها در امارات به ویژه در حال اهمیت بیشتری است، زیرا هوش مصنوعی به زودی وارد عملیات دولتی خواهد شد. دولت فدرال امارات هدف‌گذاری کرده است که ۵۰ درصد از بخش‌ها و خدمات دولتی را در عرض دو سال به هوش مصنوعی نماینده منتقل کند. این شامل سیستم‌هایی است که برای اجرای مستقل و تصمیم‌گیری طراحی شده‌اند. در این راستا، بیش از ۳۰۰ شرکت‌کننده از ۵۰ نهاد فدرال در حال نقشه‌برداری خدمات و عملیات برای پیاده‌سازی ممکن هستند.
با این حال، این بدان معنا نیست که سیستم‌های هوش مصنوعی مجوزهای نامحدود برای خدمات دولتی دریافت خواهند کرد. بلکه هویت، مجوزها و مسیرهای بازرسی باید به دقت طراحی شوند تا به طور موثر عمل کنند.
بیشتر بخوانید: امارات پیشتاز جهانی در به‌کارگیری هوش مصنوعی عامل · امارات متحده عربی در رتبه ششم جهانی تهدیدات سایبری قرار دارد
