أمر شرف، المدير التنفيذي لقسم الأنظمة وخدمات الأمن السيبراني في مركز الأمن الإلكتروني في دبي (DESC)، حذر من التهديدات الناجمة عن العميقة الاصطناعية وطرق الاحتيال الجديدة. في كلمته خلال الحدث العالمي GISEC في دبي، أكد أن تكنولوجيا الذكاء الاصطناعي تمكن المجرمين من تحسين طرق الاحتيال بشكل كبير.
تغيير في أساليب الاحتيال
شرف ذكر أن المجرمين الآن باستخدام الذكاء الاصطناعي قادرون على تحديد المعلومات المتعلقة بضحاياهم المحتملين وإنتاج رسائل ومكالمات ومقاطع فيديو مقنعة. كما أشار إلى أن التهديدات الجديدة مثل التصيد الاحتيالي، والاحتيال الصوتي، والعميقة أصبحت أكثر تعقيدًا بسبب استخدام الذكاء الاصطناعي.
اقرأ المزيد: تأثير هجمات إيران على مشاريع الذكاء الاصطناعي في الإمارات
وأكد أنه لمواجهة هذه التهديدات، يجب على الأفراد التحقق مرتين: "يجب التحقق من كل بريد إلكتروني تتلقاه في عملك قبل إجراء أي صفقة من خلال طرقك المعتادة. اتصل بالشخص وتأكد من صحة المعلومات. خاصة فيما يتعلق بتحويل الأموال، اذهب إلى مكتب الشخص."
استخدام التكنولوجيا للدفاع السيبراني
شرف أيضًا أشار إلى التكنولوجيا الجديدة التي تساعد في تحسين الدفاعات السيبرانية. على وجه الخصوص، قدم DESC في اليوم الأول من GISEC نموذج الذكاء الاصطناعي المعروف باسم سارااب، الذي تم تصميمه لتحديد مقاطع الفيديو العميقة. هذه الأداة تحلل كل إطار من الفيديو وتستخدم خريطة حرارية لتحديد علامات التلاعب.
سارااب ستتوفر كأداة مفتوحة المصدر للجمهور، مما يتيح للأفراد تنزيلها واستخدامها. تم تقديم هذه التكنولوجيا كأداة مفيدة للمجتمع، ويأمل أن تلعب دورًا فعالًا في تحديد التهديدات السيبرانية.
في هذا السياق، أشار خبراء آخرون في حدث GISEC إلى المخاطر الناتجة عن المعلومات التي يدخلها الأفراد في خدمات الذكاء الاصطناعي العامة. يانس دي هيرت، مدرب معتمد في معهد SANS، ذكر أن المستخدمين غالبًا لا يعرفون كيف تتم معالجة معلوماتهم في أدوات الذكاء الاصطناعي. قال: "الخطأ رقم واحد هو أن الناس يستخدمونها علنًا دون فهم نوع الذكاء الاصطناعي الذي يستخدمونه."
وأشار إلى أن البيانات التي يتم إدخالها في الخدمات العامة قد تستخدم لتدريب نماذج الذكاء الاصطناعي، وهذا يعد من أكبر المخاطر الفورية. لذلك، هناك حاجة إلى تنظيم وإدارة الذكاء الاصطناعي.
اقرأ المزيد: OpenAI كشفت عن ستة حالات جديدة لسلوك غير مناسب للذكاء الاصطناعي · دبي، حصلت على المرتبة الأولى عالميًا في صناعة الفينتك
