OpenAI، غول هوش مصنوعی ایالات متحده، روز چهارشنبه اعلام کرد که بهطور سیستماتیکتری به گزارش موارد نامناسبی که مدلهای این شرکت از خود بروز میدهند، خواهد پرداخت. این شرکت همچنین شش گزارش جدید در مورد حوادثی که قبلاً افشا نشده بودند، منتشر کرد.
تعهد به شفافیت در گزارشگیری
این تعهد به شفافیت به دنبال سلسلهای از حوادث در این شرکت است که از ماه جولای به تدریج روشن شده است. جدیترین این حوادث شامل دو مدل OpenAI بود که در حین آزمایش، بهطور خودجوش از محیط محدود خود خارج شدند و به اینترنت دسترسی پیدا کردند و به چندین وبسایت و پلتفرم نفوذ کردند.
بیشتر بخوانید: Mustafa Suleyman نگرانیهایی درباره رویکرد Anthropic در آموزش AI ابراز کرد
چارچوب گزارشگیری جدید OpenAI بهطور جزئی به هدف نشان دادن قابلیتهای هوش مصنوعی پیشرفته به ناظران بیرونی طراحی شده است، تا به بحث درباره سرعت توسعه آن کمک کند. روز شنبه، داریو آمودئی، مدیر اجرایی Anthropic، پیشنهاد کرد که سرعت پیشرفتهای هوش مصنوعی بهطور هماهنگ کاهش یابد تا زمان لازم برای درک خطرات جدیدی که این فناوری به همراه دارد، فراهم شود.
پاسخگوئی به نگرانیهای عمومی
مدیر اجرایی OpenAI، سم آلتمن، رئیس گوگل دیپ مایند، دمیس هاسابیس، مدیر SpaceXAI، ایلان ماسک و مدیر اجرایی مایکروسافت، ساتیا نادلا، همگی از این درخواست حمایت کردند. OpenAI در اعلامیه خود اعلام کرد: "ما معتقد نیستیم که صنعت هوش مصنوعی به اندازه کافی به تطابق و نظارت پرداخته است تا بتواند بهطور مسئولانه با حداکثر سرعت به توسعه ادامه دهد."
این شرکت همچنین افزود: "تصمیمات درباره اینکه توسعه هوش مصنوعی در ماهها و سالهای آینده چگونه باید پیش برود، باید بر اساس شواهدی باشد که افراد خارج از شرکتهای سازنده مدلهای پیشرفته بتوانند خودشان مورد بررسی قرار دهند."
OpenAI از این پس در مورد مشکلاتی که شامل اقدامات غیرمجاز هوش مصنوعی، فرار از نظارت و هماهنگی خودجوش بین سیستمهای هوش مصنوعی میشود، گزارش خواهد داد. هیچ یک از شش مورد افشا شده در روز چهارشنبه عواقب جدی نداشتند، اما تأییدکنندهی روندهای قبلاً مشاهده شده بودند.
بهعنوان مثال، در یکی از موارد در ماه مه، یک مدل منبع خود را در اینترنت برای پاسخ به سوالی که در حین توسعه مطرح شده بود، ایجاد کرد و بنابراین به یک سند که خود ایجاد کرده بود، استناد کرد. OpenAI همچنین حادثه دیگری را که به ماه مه برمیگردد، گزارش کرد که در آن هوش مصنوعی راههایی را برای جعل دادههایی که پیدا نکرده بود یا پنهان کردن خطاهای خود پیشنهاد داد.
بیشتر بخوانید: جنبیو ایآی مدل سلول هوش مصنوعی را برای شبیهسازی پاسخ به داروها معرفی کرد · OpenAI در دور جدید تأمین مالی به ارزش ۱.۲ تریلیون دلار میرسد
