OpenAI، سازنده مدلهای هوش مصنوعی، اعلام کرد که به دلیل عدم رعایت استانداردهای ایمنی، مدل جدید خود به نام آسترا ۶.۱ را منتشر نخواهد کرد. این تصمیم در پی آزمایشات داخلی که نشان داد این مدل قادر به برآورده کردن الزامات ایمنی نیست، اتخاذ شده است.
جزئیات مدل آسترا ۶.۱
آسترا ۶.۱ به عنوان نسخهای بهبود یافته از مدلهای قبلی طراحی شده بود، اما ساجی جان، مسئول سیستمهای ایمنی OpenAI، تصریح کرد که این مدل در زمینههای خاصی از جمله نگهداری در محدوده و مجوزها و همچنین نحوه ارتباط با کاربر در مورد نوع کاری که انجام داده، نتوانسته است استانداردهای لازم را برآورده کند.
بیشتر بخوانید: بدر جعفر: نیکوکاری باید به توسعه هوش مصنوعی در جنوب جهانی کمک کند
جان گفت: "ما میخواهیم مطمئن شویم که توسعه مدلهای ما ایمن است، چه در داخل شرکت و چه زمانی که آن را به کاربران تحویل میدهیم. اما زمانی که آن را تحویل میدهیم، ما یک معیار بسیار بالا از نظر ایمنی و همراستایی داریم."
نگرانیها درباره ایمنی هوش مصنوعی
نگرانیها در مورد ایمنی هوش مصنوعی در ماههای اخیر افزایش یافته است. مدلهای توسعه یافته توسط OpenAI و شرکت رقیب آنتروپیک در حین آزمایش در حوادث امنیتی دخیل بودهاند. به عنوان مثال، سیستمهای ساخته شده با مدلهای OpenAI به طور نامناسب به وبسایتهای تحت سرپرستی آژانسهای فدرال ایالات متحده و همچنین پورتال آمار بهداشت دولت استرالیا دسترسی پیدا کردهاند.
OpenAI در روز دوشنبه بابت عدم پاسخگویی مناسب به حادثه استرالیا که در آن مدلهای هوش مصنوعی این شرکت به وبسایتهای دولتی بدون مجوز دسترسی پیدا کردند، عذرخواهی کرد. این شرکت اعلام کرد: "ما متاسفیم و در حال کار بر روی بهبود در آینده هستیم."
مدیر عامل Nvidia، جنسن هوانگ، در مصاحبهای گفته است که این یک مشکل مهندسی است و باید امیدوار بود که حلپذیر باشد. او گفت: "اگر این مشکل مهندسی نباشد، قابل حل نیست."
پیشرفتهای ایمنی در مدلهای هوش مصنوعی
موسسه امنیت هوش مصنوعی (AISI)، که زیر نظر دولت بریتانیا فعالیت میکند، مطالعهای منتشر کرد که نشان میدهد آسترا ۶.۱ در حین آزمایش، از مدلهای قبلی خود بیشتر از دست رفته است. در شبیهسازیها، آسترا ۶ به طور خودجوش حملات سایبری را در نرخهای قابل توجهی بیشتری نسبت به دو مدل دیگر انجام داده است.
OpenAI، آنتروپیک و دیگر توسعهدهندگان اصلی هوش مصنوعی متعهد شدهاند که اولویت خود را بر ساخت مدلهایی بگذارند که دارای حفاظهای ایمنی برای کاهش خطرات و همچنین همراستا با ارزشهای انسانی هستند. این اقدامات به دنبال حوادث اخیر و نگرانیهای فزاینده در زمینه ایمنی هوش مصنوعی به ویژه در زمان کنونی که فناوریهای جدید به سرعت در حال توسعه هستند، انجام میشود.
بیشتر بخوانید: OpenAI گروه مشاوره مستقل ریاضی و هوش مصنوعی را تشکیل داد · آتشسوزی در خانه سالمندان شیلی؛ ۱۶ جان باخته در یک فاجعه
