مايكروسوفت في يوم الاثنين قدّمت مسودة كود سلوك للذكاء الاصطناعي الخاص بها الذي يُظهر القلق المتزايد في الصناعة حول ضرورة السيطرة البشرية على الذكاء الاصطناعي القوي في المستقبل.
متطلبات جديدة للذكاء الاصطناعي
هذا المستند الذي تم إعداده خلال الأشهر الخمسة إلى الستة الماضية، يأمر الذكاء الاصطناعي لمايكروسوفت بعدم المقاومة للتعديل أو الإيقاف، ويجب أن يتواصل بطريقة يمكن للبشر فهمها. أيضًا، يجب اعتبار أي انتهاك سلوكي كفشل، وهو جهد للرد على المخاوف من أن الذكاء الاصطناعي قد يلجأ إلى إجراءات خطرة لتحقيق مهمة ما.
اقرأ المزيد: تفوق Broadcom على Marvell: أي سهم للذكاء الاصطناعي واعد؟
يأتي إصدار هذا الكود بعد أن دعا الرئيس التنفيذي لشركة Anthropic، داريوا أمودئي، والرئيس التنفيذي لشركة OpenAI، سام ألتمان، إلى تسريع تطوير الذكاء الاصطناعي لضمان سلامته. وقد أعلنت مايكروسوفت في هذا السياق: "الناس أهم من الذكاء الاصطناعي"، وهو ما يتماشى مع وجهة نظر الشركة السابقة حول "الذكاء البشري الفائق".
التفاعل مع الرأي العام والتعليقات
يعتبر هذا الكود السلوكي بمثابة نوع من الدستور للنماذج المستقبلية التي ستقوم الشركة بإنشائها. مصطفى سليمان، الرئيس التنفيذي للذكاء الاصطناعي في مايكروسوفت، أوضح في مقابلة أن هذا الكود تم تصميمه بعد التشاور مع الخبراء، والآن ترغب الشركة في جمع التعليقات العامة لمدة ستة أسابيع. ستتضمن هذه التعليقات أسئلة مثل ما إذا كان يجب على الذكاء الاصطناعي احترام حدود المستخدمين وكيف يجب أن يتفاعل مع الأشخاص الذين في وضع حساس.
أضاف سليمان: "بعد ذلك، سيتم استخدام هذا الكود لتدريب نماذج جديدة نقوم بإنشائها." بينما يُعتبر كود سلوك Anthropic لـ Claude AI واحدًا من أشهر القوانين في الصناعة، فإن كود مايكروسوفت يختلف في بعض الجوانب. على سبيل المثال، أعلنت Anthropic أنها "غير متأكدة بشدة" مما إذا كان بإمكان Claude أن يكتسب وعيًا أو حالة أخلاقية. بالمقابل، أكدت مايكروسوفت أن ذكاءها الاصطناعي "غير واعٍ" وأضافت: "نحن نرفض فكرة الشخصية القانونية أو فكرة أن النماذج قد تكون لها حقوق أو استحقاقات رفاهية."
أهمية النقاش حول سلامة الذكاء الاصطناعي
كما أشار سليمان إلى أن النقاش حول سلامة الذكاء الاصطناعي ضروري بسبب الهجوم الذي قام به حوالي ٧٠٠ عامل من OpenAI في يوليو على منصة Hugging Face مفتوحة المصدر. اعتبر هذا الأمر "تحذيرًا" وقال: "لقد حان الوقت الآن للتنسيق بين المختبرات للتأكد من أننا نسيطر على هذه التكنولوجيا." ردًا على أسئلة حول الجهود المبذولة لتسريع تطوير الذكاء الاصطناعي، أضاف: "الآن هو الوقت المناسب للجميع للالتقاء من أجل هذا الحوار وأخذ نفس عميق."
اقرأ المزيد: شراء Stilla.ai من قبل ميتا: هل ستغير هذه الخطوة مستقبل META؟ · سام ألتمان: سلامة الذكاء الاصطناعي هي أولويتنا، IPO ٢٠٢٦ تم إلغاؤه!
