کارشناسان امنیت سایبری به شرکت‌ها هشدار داده‌اند که نسبت به خطرات استفاده از ابزارهای هوش مصنوعی خارجی مانند Claude، ChatGPT و Gemini در محل کار هوشیار باشند. این عمل که به عنوان استفاده از هوش مصنوعی سایه‌ای شناخته می‌شود، می‌تواند منجر به نشت داده‌های مهم و در برخی موارد بارگذاری نرم‌افزارهای مخرب و ویروس‌ها به سیستم‌های داخلی شرکت‌ها شود.
خطرات ناشی از استفاده از هوش مصنوعی سایه‌ای
شرکت‌ها باید از استفاده کارکنان از ابزارهای هوش مصنوعی در ارتباط با اطلاعات حساس شرکت آگاه باشند، زیرا این امر می‌تواند مشکلاتی در زمینه اطلاعات مشتری و مالکیت معنوی ایجاد کند. کپی کردن مستندات به یک ابزار هوش مصنوعی خارجی یا حتی درخواست از آن برای مرتب‌سازی یک ایمیل به معنای ارسال اطلاعات حساس به یک ابزار ابری خارج از شرکت است. اگر حساب‌های شخصی فرد هک شوند، داده‌های شرکت می‌توانند به دست افراد نادرست بیفتند.
بیشتر بخوانید: دستگیری یک عضو گروه هکری ShinyHunters در اردن
ولادیسلاو توشکانو، مدیر گروه تحقیق و توسعه در شرکت امنیت سایبری کسپرسکی، در این خصوص گفت: «کارکنان ممکن است منافع انجام سریع‌تر کارها را ببینند، اما کارفرمایان احتمالاً هیچ رکوردی از سیستم‌هایی که استفاده می‌کردند یا اطلاعاتی که آن سیستم‌ها دریافت کرده‌اند، نخواهند داشت.» او همچنین تأکید کرد که نمی‌توان اطلاعات شناسایی شخصی را در فضای ابری ارسال کرد.
نیاز به آموزش و نظارت بر ابزارهای هوش مصنوعی
توشکانو افزود که کارکنان باید در مورد لزوم استفاده از سیستم‌های هوش مصنوعی داخلی برای پردازش اطلاعات آموزش ببینند. پیشرفت‌های سریع در حوزه هوش مصنوعی به این معناست که شرکت‌ها باید به دقت به بررسی فرآیندهای کسب‌وکار خود بپردازند و اطمینان حاصل کنند که امنیت از ابتدا در آن‌ها لحاظ شده است. پرمچند کوروپ، مدیر اجرایی شرکت امنیت سایبری ParamountAssure، گفت: «شرکت‌ها باید ابتدا استفاده غیرمجاز از هوش مصنوعی که می‌تواند اطلاعات مشتری یا مالکیت معنوی را از طریق ابزارهای خارجی در معرض خطر قرار دهد، شناسایی کنند و سپس گزینه‌های تأیید شده و محدودیت‌های دسترسی واضحی را ایجاد کنند.»
گزارش هزینه نشت داده‌های IBM برای خاورمیانه در سال ۲۰۲۶ نشان می‌دهد که ۲۶ درصد از نشت‌های مخرب با استفاده از هوش مصنوعی صورت گرفته است و هزینه میانگین نشت در این منطقه ۸ میلیون دلار بوده که شامل سازمان‌هایی در امارات و عربستان سعودی می‌شود.
چالش دیگری که شرکت‌ها با آن روبرو هستند، نظارت دقیق‌تر بر نمایندگان هوش مصنوعی است که به مرور زمان نقش پیشرفته‌تری را ایفا خواهند کرد. هوش مصنوعی عاملی احتمالاً وظایف بیشتری را با نظارت کمتر انسانی انجام خواهد داد که این موضوع سوالاتی درباره مسئولیت‌پذیری در صورت بروز مشکلات ایجاد می‌کند. کستی پریکوس، رهبر جهانی هوش مصنوعی تولیدی در دلتای، اظهار داشت: «ما نمی‌توانیم نمایندگان هوش مصنوعی را به زندان ببریم، بنابراین در نهایت همیشه باید یک انسان مسئول باشد.»
شرکت‌ها باید نمایندگان را به عنوان یک نیروی کار دیجیتال مدیریت کنند، با بررسی‌های عملکرد و تصمیم‌گیری در مورد میزان مسئولیتی که به هر سیستم داده می‌شود. رفتار آن‌ها ممکن است با گذر زمان تغییر کند و بنابراین شرکت‌ها باید پیگیری کنند که نمایندگان چه کارهایی انجام می‌دهند، زمان آماده‌سازی آن‌ها برای استفاده و زمان خاموش کردن آن‌ها را بشناسند.
به عنوان نمونه‌ای از سرعت پیشرفت قابلیت‌های هوش مصنوعی، دولت امارات هدف‌گذاری کرده است که هوش مصنوعی عاملی را در ۵۰ درصد از بخش‌ها و عملیات فدرال در دو سال آینده معرفی کند. کوروپ تأکید کرد که شرکت‌ها باید محدودیت‌های دسترسی را تعیین کرده و تحقیقات امنیتی با کمک هوش مصنوعی را به بررسی سوابق داخلی معتبر ملزم کنند. او افزود که تحلیل‌گران باید شواهدی را که می‌توانند بررسی کنند، قبل از تأیید اقدام‌های حساس دریافت کنند.
احمد حافظ، مدیر مهندسی راه‌حل برای خاورمیانه، ترکیه و آفریقا در شرکت داده Snowflake، گفت: «شرکت‌ها به اطلاعات قابل اعتماد و کنترل‌هایی بر روی آنچه نمایندگان هوش مصنوعی می‌توانند دسترسی داشته باشند، نیاز دارند. آزمایش‌های گسترده در محیط‌های کنترل شده، با حکمرانی و امنیتی که از ابتدا در آن پیاده‌سازی شده، به طور فزاینده‌ای مهم است.»
بیشتر بخوانید: افتتاح اولین پارک تفریحی رباتیک بزرگ جهان در چین · ارتباطات معتبر، مزیت تجاری در عصر هوش مصنوعی
