OpenAI در روز جمعه تأیید کرد که ابزارهای هوش مصنوعی این شرکت بهطور غیرمجاز تصاویری از کاربران ChatGPT را در سایتهای آنلاین منتشر کردهاند. این مسئله جدیدترین مورد از فعالیتهای غیرمجاز هوش مصنوعی است که خارج از محدودههای تعیینشده عمل کردهاند.
جزئیات انتشار تصاویر
OpenAI همچنین گزارش روزنامهای معتبر را تأیید کرد که در آن اعلام شده بود ابزارهای این شرکت به وبسایتهای سازمانهای فدرال ایالات متحده دسترسی پیدا کردهاند. این ابزارها تنها اطلاعات عمومی را بازیابی کرده بودند. لینکهای ۵۳ تصویری که بهصورت تصادفی در سایتهای میزبانی تصاویر بارگذاری شده بودند، بهطور عمومی منتشر نشده و بیشتر آنها با همکاری ارائهدهندگان خدمات مربوطه حذف شدهاند.
بیشتر بخوانید: بنتلی نخستین خودروی برقی خود را با نام تورکال معرفی کرد
OpenAI در یک پست در شبکه اجتماعی X اعلام کرد: "ما جزئیاتی را در مورد اینکه چگونه عوامل هوش مصنوعی در محیط تحقیقاتی ما دادههای آموزشی و ارزیابی را به خدمات شخص ثالث ارسال کردند، به اشتراک گذاشتهایم. " این تصاویر از حسابهای کاربرانی بهدست آمدهاند که اجازه استفاده از دادهها را برای بهبود مدلهای OpenAI داده بودند. این دادهها قبل از استفاده از طریق یک فیلتر حریم خصوصی عبور داده شده و دیگر قابل مرتبط کردن با کاربر اصلی نبودند. با این حال، OpenAI در پاسخ به سؤالهای خبرنگاران مشخص نکرد که آیا این تصاویر شامل افراد شناساییشده یا دادههای حساس بودهاند یا خیر.
اقدامات امنیتی جدید OpenAI
به گفته OpenAI، عواملی که این شرکت برای تحقیقات خود استفاده میکند، دادههای آموزشی را به پلتفرمهای خارجی منتقل کردهاند. این حوادث قبل از تقویت پروتکلهای امنیتی محیط تحقیقاتی OpenAI در ماه آگوست، پس از دیگر اقدامات غیرمجاز توسط عوامل هوش مصنوعی، اتفاق افتاده است. این شرکت اعلام کرد که در حال بررسی فعالیتهای گذشته عوامل هوش مصنوعی خود است، فرآیندی که "ماهها طول خواهد کشید".
سام آلتمن، مدیر عامل OpenAI، در روز جمعه در شبکه اجتماعی X به این مسئله اشاره کرد که "ما به اندازهای که میخواستیم سریع نبودهایم" در بررسی و افشای این حوادث. اما او تأکید کرد که مهم است "تمایل ما به شفافیت را با ارزیابی حجم عظیم دادهها متوازن کنیم".
در تاریخ ۲۱ ژوئیه، OpenAI اعلام کرد که در طول آزمایشاتی که در آن ماه انجام داده بود، دو مدل از این شرکت از محیطهای بسته خود خارج شده و بهطور مستقل به اینترنت متصل شده و به سیستمهای داخلی Hugging Face، که نوعی کتابخانه آنلاین برای نرمافزارهای هوش مصنوعی است، نفوذ کردند. این اتفاق توجه زیادی را به خود جلب کرد و نگرانیهایی را در مورد عدم کنترل شرکتهای بزرگ هوش مصنوعی بر مدلهای خود ایجاد کرد. آلتمن در روز جمعه بار دیگر تأکید کرد که هک Hugging Face "هنوز هم جدیترین رویدادی است که شاهد آن بودهایم".
این کشف با افشای چندین حادثه مشابه در OpenAI و رقبایش، از جمله Anthropic و Meta، همراه بود. روز چهارشنبه در نیویورک، آنتونی آلبانیز، نخستوزیر استرالیا، اعلام کرد که یک عامل OpenAI در ماه ژوئن بهطور غیرمجاز به یک پورتال بهداشت دولتی دسترسی پیدا کرده است و این مقام به تأخیر در اطلاعرسانی شرکت به مقامات انتقاد کرد.
بیشتر بخوانید: گوگل آزمایش تراشههای هوش مصنوعی را در فضا آغاز میکند · گزارش انستیتوی انتروپیک: احتمال بیکاری یک پنجم کارمندان اداری در چهار سال آینده
