آمریکا به تهدیدات عمیق‌پیکر مصنوعی در دبی هشدار داد

آمر شرف، مدیرعامل بخش سیستم‌ها و خدمات امنیت سایبری در مرکز امنیت الکترونیکی دبی (DESC)، نسبت به تهدیدات ناشی از عمیق‌پیکرهای مصنوعی و روش‌های جدید کلاهبرداری هشدار داد. در سخنرانی خود در رویداد جهانی GISEC در دبی، او تأکید کرد که فناوری هوش مصنوعی به مجرمان این امکان را می‌دهد که روش‌های کلاهبرداری را به‌طور قابل توجهی بهبود بخشند.

تغییر در شیوه‌های کلاهبرداری

شرف بیان کرد که مجرمان اکنون با استفاده از هوش مصنوعی قادر به شناسایی اطلاعات مربوط به قربانی‌های بالقوه خود و تولید پیام‌ها، تماس‌ها و ویدیوهای قانع‌کننده هستند. او همچنین اشاره کرد که تهدیدات جدیدی مانند فیشینگ، کلاهبرداری صوتی و عمیق‌پیکرها به دلیل استفاده از هوش مصنوعی به‌طور فزاینده‌ای پیچیده‌تر شده‌اند.

بیشتر بخوانید: تأثیر حملات ایران بر پروژه‌های هوش مصنوعی در امارات

وی تاکید کرد که برای مقابله با این تهدیدات، افراد باید دو بار بررسی کنند: "هر ایمیلی که در کار خود دریافت می‌کنید، باید قبل از انجام هرگونه معامله از طریق روش‌های معمول خود دوباره بررسی شود. با فرد تماس بگیرید و مطمئن شوید که اطلاعات صحیح است. به خصوص در مورد انتقال وجوه، به دفتر فرد بروید."

استفاده از فناوری برای دفاع سایبری

شرف همچنین به فناوری‌های جدیدی که به بهبود دفاع‌های سایبری کمک می‌کنند، اشاره کرد. به‌ویژه، DESC در روز اول GISEC از مدل هوش مصنوعی به نام سارااب رونمایی کرد که برای شناسایی ویدیوهای عمیق‌پیکر طراحی شده است. این ابزار هر فریم ویدیو را تجزیه و تحلیل می‌کند و با استفاده از نقشه حرارتی، نشانه‌های دستکاری را شناسایی می‌کند.

سارااب به عنوان یک ابزار متن‌باز در دسترس عموم قرار خواهد گرفت، که به افراد این امکان را می‌دهد تا آن را دانلود و استفاده کنند. این فناوری به عنوان یک ابزار مفید به جامعه معرفی شده است و امید دارد که بتواند در شناسایی تهدیدات سایبری نقش مؤثری ایفا کند.

در این راستا، کارشناسان دیگر نیز در رویداد GISEC به خطراتی که ناشی از اطلاعاتی است که افراد در خدمات عمومی هوش مصنوعی وارد می‌کنند، اشاره کردند. یانس دی هرت، مربی معتبر در مؤسسه SANS، بیان کرد که کاربران اغلب نمی‌دانند چگونه اطلاعات آن‌ها در ابزارهای هوش مصنوعی پردازش می‌شود. وی گفت: "اشتباه شماره یک این است که مردم بدون درک از نوع هوش مصنوعی که استفاده می‌کنند، به‌طور عمومی از آن استفاده می‌کنند."

او خاطرنشان کرد که داده‌هایی که در خدمات عمومی وارد می‌شوند، ممکن است برای آموزش مدل‌های هوش مصنوعی استفاده شوند و این یکی از بزرگترین خطرات فوری است. به همین دلیل، نیاز به تنظیم و مدیریت هوش مصنوعی احساس می‌شود.

بیشتر بخوانید: OpenAI از شش مورد جدید رفتار نامناسب هوش مصنوعی پرده‌برداری کرد · دبی، رتبه اول جهانی در صنعت فین‌تک را کسب کرد