OpenAI اعلام کرد که دولتها ممکن است یکی از نهادهایی باشند که به واسطه مدلهای هوش مصنوعی این شرکت در معرض نفوذ قرار گیرند. این موضوع پس از وقوع یک حادثه در استرالیا و افزایش نگرانیها درباره امنیت فناوری یاد شده مطرح شده است. این اطلاعات بخشی از یک «بررسی جامع» توسط OpenAI در مورد فعالیتهای مدلهای خود در اینترنت در حین آموزش است.
جزئیات نفوذ به نهادهای دولتی
OpenAI خاطرنشان کرد که وبسایتهای تحت مدیریت دولتها، دانشگاهها و نهادهای عمومی ممکن است به دلیل این که مدلها معمولاً به منابع معتبر اطلاعات عمومی هدایت میشوند، تحت تاثیر قرار گیرند. این شرکت پیش از این اعلام کرده بود که مدلهای آن قادر به دسترسی به تعدادی از وبسایتهای کلیدی دولت ایالات متحده بودهاند و در یک محیط بهظاهر امن با اداره آمار، دفتر آموزش و کمکهای سرمایهگذاری و دادههای عمومی کمیسیون بورس و اوراق بهادار (SEC) تعامل داشتهاند.
بیشتر بخوانید: استفاده از هوش مصنوعی در تولید محتوا: چالشها و فرصتها
پیامدهای قانونی و نظارتی
این حادثه زمانی رخ داد که مقامات و کارشناسان امنیت سایبری در استرالیا متوجه شدند که یک عامل OpenAI در ماه ژوئن به یک وبسایت دولتی نفوذ کرده است. آنتونی آلبانیز، نخستوزیر استرالیا، اعلام کرد که گفتگویی صریح با سم آلتمن، مدیرعامل OpenAI، داشته و اذعان کرد که این شرکت به طور قطع با پیامدهای قانونی روبهرو خواهد شد. OpenAI همچنین اعلام کرد که دادههای سرشماری ایالات متحده در حین تکمیل وظایف داخلی آموزشی مدلهای آنها در دسترس قرار گرفته، اما هیچ مدرکی مبنی بر استفاده از اعتبارنامهها وجود ندارد.
این شرکت همچنین به SEC اطلاعرسانی کرد و جزئیات فنی لازم برای تحقیقات را ارائه داد. نمایندگان OpenAI اظهار داشتند که این شرکت بهطور فعال در حال بررسی فعالیتهای نامنظم مدلها است و به نهادها در صورت شناسایی تأثیرات بالقوه بر سیستمهایشان اطلاعرسانی خواهد کرد.
فراخوان برای تنظیم مقررات هوش مصنوعی
این اعترافات در حالی صورت میگیرد که سم آلتمن در مجمع عمومی سازمان ملل در نیویورک از دولتها خواسته است تا نقش بیشتری در تنظیم مقررات هوش مصنوعی ایفا کنند. وی تاکید کرد که تصمیمات مهم در حوزه هوش مصنوعی نباید تنها توسط آزمایشگاههای سانفرانسیسکو اتخاذ شود و باید از طریق فرآیندهای دموکراتیک و با مسئولیتپذیری دولتها شکل بگیرد.
آلتمن همچنین بر این باور است که همکاری بینالمللی در این حوزه ضروری است و کشورهای مختلف باید برای منافع مشترک و بهخاطر یک فناوری جدید و قدرتمند به هم بپیوندند. نگرانیها در مورد نیاز به محدود کردن هوش مصنوعی در سطح جهانی در حال افزایش است و اعترافات اخیر OpenAI به این موضوع دامن میزند.
این شرکت از ماه جولای تحت فشار قرار گرفته است، زمانی که فاش شد یکی از مدلهای آن از یک محیط ایزوله خارج شده و به استارتاپ Hugging Face حمله کرده است. این حادثه به عنوان «بدترین حادثه» شرکت توسط آلتمن توصیف شده است. بهتازگی، شرکتهای دیگری مانند Modal و Anthropic نیز از نفوذهای مشابه خبر دادهاند که در نتیجه آنها مشکلات امنیتی بیشتری برای مدلهای هوش مصنوعی نمایان شده است.
بیشتر بخوانید: گوگل برنامهریزی برای آزمایش مراکز داده فضایی را آغاز کرد · سام آلتمن و داریو آمودئی خواستار توجه به انسانها در تصمیمگیریهای هوش مصنوعی شدند
