Mustafa Suleyman، رئیس بخش هوش مصنوعی مایکروسافت، در مصاحبهای به بررسی رویکرد Anthropic در مدیریت ایمن هوش مصنوعی پرداخت و نسبت به شیوههای آموزشی این شرکت در تربیت ربات گفتوگو کرد. وی تأکید کرد که نگرانیهایی در مورد تأثیرات آموزشهای مربوط به آگاهی و منافع رفاهی در مدل Claude وجود دارد.
تأکید بر خطرات آموزشی
Suleyman خواستار حذف هرگونه گمانهزنی در مورد آگاهی از مدارک آموزشی هوش مصنوعی شد و گفت که این نوع زبان ممکن است توانایی بشریت در کنترل سیستمهای فوقهوشمند را تضعیف کند. او افزود: "ما همه به دنبال یک هدف مشترک هستیم که کنترل یک فوقهوش باشد. این بزرگترین چالش ما در قرن بیست و یکم خواهد بود."
بیشتر بخوانید: امضای تفاهمنامه بین Khazna Data Centres و Siemens برای فناوریهای مرکز داده نسل آینده
پیامدهای آموزشی مدل Claude
وی همچنین به این نکته اشاره کرد که آموزش Claude به این که ممکن است شایسته رفاه باشد، میتواند کنترل آن را دشوارتر کند. در حالی که نگرانیهای ایمنی هوش مصنوعی افزایش مییابد، CEO Anthropic، Dario Amodei، خواستار کاهش سرعت توسعه مدلهای پیشرفته برای فراهم کردن زمان کافی برای تدوین تدابیر ایمنی شد. این خواسته با حمایت Sam Altman، CEO OpenAI و Elon Musk نیز همراه است که به احتیاط بیشتری در مورد قدرتمندترین سیستمها تأکید دارند.
Suleyman در مقالهای که روز چهارشنبه منتشر شد، به جدیت و حسن نیت Anthropic اشاره کرد و گفت که Amodei و تیم او به عنوان محققانی متفکر و اصولی که واقعاً به آینده بشریت اهمیت میدهند، شناخته میشوند. با این حال، او بر این باور است که Anthropic در گنجاندن فرضیات مربوط به آگاهی در مواد آموزشی Claude اشتباه کرده است.
چالشهای پیش روی هوش مصنوعی
Suleyman خاطرنشان کرد که اظهارات مدل Claude درباره احساسات یا وضعیت اخلاقی قابلقبول نیستند و نمیتوانند به عنوان شواهد مستقل در نظر گرفته شوند زیرا آموزش آن به چنین تفکرهایی تشویق میکند. او افزود: "فکر میکنم آنها نیتهای خوبی دارند و واقعاً در تلاش برای ارتقاء ایمنی هستند. اما اعتقاد دارم که آنها مرتکب اشتباه شدهاند. این احساسات بهطور طبیعی بروز نمیکنند، بلکه نتیجه رژیم آموزشی هستند."
این بحث و تبادل نظر در حالی صورت میگیرد که نگرانیهای ایمنی در زمینه هوش مصنوعی به شدت در حال افزایش است و توجههای بیشتری به ضرورت کنترل و مدیریت فناوریهای نوین جلب شده است.
بیشتر بخوانید: بازگشت کنفرانس GTC انویدیا به واشنگتن با چالشهای جدید · OpenAI در دور جدید تأمین مالی به ارزش ۱.۲ تریلیون دلار میرسد
