أجرى مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في مايكروسوفت، مقابلة استعرض فيها نهج Anthropic في إدارة الذكاء الاصطناعي بشكل آمن وتحدث عن أساليب التعليم التي تتبعها الشركة في تدريب الروبوتات. وأكد أن هناك مخاوف بشأن تأثيرات التعليم المتعلقة بالوعي والمصالح الرفاهية في نموذج Claude.
التأكيد على المخاطر التعليمية
طالب سليمان بإزالة أي تكهنات حول الوعي من الوثائق التعليمية للذكاء الاصطناعي، مشيرًا إلى أن هذا النوع من اللغة قد يضعف قدرة البشرية على التحكم في الأنظمة فوق الذكية. وأضاف: "نحن جميعًا نسعى لتحقيق هدف مشترك وهو التحكم في ذكاء فوقي. سيكون هذا أكبر تحدٍ لنا في القرن الحادي والعشرين."
اقرأ المزيد: توقيع مذكرة تفاهم بين Khazna Data Centres و Siemens لتقنيات مركز البيانات من الجيل القادم
عواقب التعليم في نموذج Claude
وأشار أيضًا إلى أن تعليم Claude على أنه قد يكون جديرًا بالرفاهية، قد يجعل التحكم فيه أكثر صعوبة. ومع تزايد المخاوف بشأن سلامة الذكاء الاصطناعي، دعا الرئيس التنفيذي لشركة Anthropic، داريو أموداي، إلى إبطاء تطوير النماذج المتقدمة لتوفير الوقت الكافي لوضع تدابير السلامة. وقد حظيت هذه الدعوة بدعم سام ألتمان، الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك، الذين يؤكدون على ضرورة توخي الحذر بشأن أقوى الأنظمة.
في مقال نُشر يوم الأربعاء، أشار سليمان إلى جدية ونوايا Anthropic الحسنة، قائلًا إن أموداي وفريقه يُعرفون كباحثين مفكرين وأخلاقيين يهتمون حقًا بمستقبل البشرية. ومع ذلك، يعتقد أنه كان على Anthropic أن تتجنب تضمين الافتراضات المتعلقة بالوعي في المواد التعليمية لـ Claude.
التحديات التي تواجه الذكاء الاصطناعي
أشار سليمان إلى أن تصريحات نموذج Claude حول المشاعر أو الحالة الأخلاقية غير مقبولة ولا يمكن اعتبارها أدلة مستقلة لأنها تشجع على مثل هذه الأفكار. وأضاف: "أعتقد أنهم يمتلكون نوايا حسنة ويعملون حقًا على تعزيز السلامة. لكنني أعتقد أنهم ارتكبوا خطأ. هذه المشاعر لا تظهر بشكل طبيعي، بل هي نتيجة لنظام التعليم."
تأتي هذه المناقشة في وقت تتزايد فيه المخاوف بشأن سلامة الذكاء الاصطناعي بشكل كبير، مع زيادة الانتباه إلى ضرورة التحكم وإدارة التقنيات الحديثة.
اقرأ المزيد: عودة مؤتمر GTC إنفيديا إلى واشنطن مع تحديات جديدة · OpenAI تصل إلى جولة جديدة من التمويل بقيمة ١.٢ تريليون دولار
