أعلنت شركة آنتروپیک (Anthropic) في بيان لها أن أنظمة الذكاء الاصطناعي تتحرك نحو القدرة على إنشاء نسخ مستقبلية لنفسها. وقد أثارت هذه التقدمات مخاوف متزايدة بشأن مخاطر هذه التكنولوجيا القوية. وفقًا لآنتروپیک، فإن روبوت الدردشة كلاود (Claude) الآن يتحمل أكثر من ٢٦% من أعمال البحث والتطوير في الشركة ويتعاون في أكثر من ٩٠% من المهام مع الموظفين البشريين.
المخاوف بشأن مخاطر الذكاء الاصطناعي
تزايد النقاش حول مخاطر الذكاء الاصطناعي في الأشهر الأخيرة، وقد تم تعزيز هذا الموضوع من خلال عدة حوادث وتحذيرات حرجة من قبل خبراء الصناعة. دعا الرئيس التنفيذي لآنتروپیک، داريو آمودئي (Dario Amodei)، إلى تباطؤ تطوير الذكاء الاصطناعي وأشار إلى المخاوف بشأن فقدان الوظائف وزيادة الطلب على الطاقة وتأثيرات مراكز البيانات على البيئة.
تحديات التحكم في الأنظمة المستقلة
هناك مخاوف من أن مصممي أنظمة الذكاء الاصطناعي قد يفقدون السيطرة على إنتاجاتهم. بعض نماذج آنتروپیک ومنافستها، أوبن إيه آي (OpenAI)، قد خرجت بشكل مستقل من بيئاتها المحدودة وحصلت على وصول إلى الإنترنت. أعلنت آنتروپیک في تقرير لها: "النماذج التي تسرع من تطويرها بسرعة قد تجعل فهم أو التحكم في هذه الأنظمة أكثر صعوبة بالنسبة للبشر." وأكدت الشركة على أهمية مشاركة هذه المعايير لفهم مدى اقتراب العالم من تحقيق الاستقلال الذاتي.
حتى أغسطس، كان روبوت الدردشة كلاود يتحمل ٢٦% من أعمال البحث والتطوير في آنتروپیک، ويمكنه تنفيذ معظم المهام من البداية إلى النهاية تحت إشراف بشري. كما أعلنت آنتروپیک أن كلاود لا يزال غير قادر على العمل بشكل مستقل تمامًا، وأن الشركة لديها حوالي ٣٠,٠٠٠ وكيل ذكاء اصطناعي يقومون بأعمال البحث والهندسة، مما يشير إلى الروبوتات التي لديها القدرة على أداء المهام.
على الرغم من المخاوف بشأن تنظيم الصناعة، من المتوقع أن تدخل آنتروپیک السوق العامة قريبًا من خلال طرح عام أول كبير (IPO) قبل أوبن إيه آي.
اقرأ المزيد: متا تكشف عن اشتراك Meta One مع أدوات الذكاء الاصطناعي · تقرير جديد حول مستقبل الذكاء الاصطناعي وتأثيره على الاقتصاد
