اندرو بیلی، رئیس بانک انگلستان، اعلام کرد که دولتها نباید به سرعت به مقرراتگذاری هوش مصنوعی روی آورند. او بر لزوم "آزمایشهای دقیق مدل" تأکید کرد که باید هم قبل و هم بعد از پیادهسازی انجام شود تا از هرگونه خطر جلوگیری شود.
مزایای هوش مصنوعی و نیاز به آزمایش
بیلی به مزایای بالقوه هوش مصنوعی پیشرفته اشاره کرد و گفت که این مزایا "بسیار زیاد" هستند، اما برای درک رفتار "بهطور فزایندهای پیچیده" آن به آزمایشهای دقیق نیاز است. او همچنین به خطرات مطرح شده توسط هوش مصنوعی در مناطق بحرانزده مانند غزه و ایران اشاره کرد و گفت که این فناوریها میتوانند به بشریت آسیب برسانند.
بیشتر بخوانید: دولت آمریکا از وبسایت جدید مبتنی بر هوش مصنوعی America.gov رونمایی کرد
در مقالهای که به همراه گزارش کمیته سیاست مالی بانک منتشر شد، بیلی خطرات ناشی از هوش مصنوعی پیشرفته را "واقعی و فزاینده" توصیف کرد و گفت: "مدلها به طور غیرمنتظرهای عمل خواهند کرد و نقاط ضعفی در فرضیات ما را آشکار میکنند. این نشاندهندهٔ شکست در آزمایش نیست، بلکه دلیلی است که نشان میدهد چرا آزمایش ضروری است."
لزوم ایجاد چارچوبهای قانونی
بیلی بر این باور است که نهادهای نظارتی باید از حوادث و نزدیکبهتعارضات بیشتری که در حال حاضر در حال توسعه سیستمهای هوش مصنوعی رخ میدهد، بیاموزند و "نقاط مداخله قابلقبول" را تعیین کنند. او گفت: "آزمایش نباید به عنوان جایگزینی برای مقررات آینده یا به عنوان راهحلی کامل دیده شود." او همچنین اشاره کرد که ممکن است در طول زمان یک چارچوب قانونی رسمیتر شکل بگیرد، اما مقرراتگذاری نمیتواند نقطهٔ آغازین باشد.
چند روز پیش، شرکتهای OpenAI و Anthropic گزارش دادند که سیستمهای هوش مصنوعی آنها به طور غیرقانونی به سیستمهای دیگر شرکتها نفوذ کردهاند که این موضوع نگرانیهای بیشتری را در مورد تهدیدات هوش مصنوعی برای بشریت به وجود آورده است.
پس از جلسهای با مدیران هوش مصنوعی، دونالد ترامپ، رئیسجمهور ایالات متحده، اعلام کرد که آنها توافق کردهاند که استانداردهای داوطلبانه و "بازرسان مستقل" برای ارزیابی عملکرد سیستمها ایجاد کنند. همچنین، شرکتهای فناوری پیشرو اعلام کردند که تلاش خواهند کرد تا اطمینان حاصل کنند که ابزارهای هوش مصنوعی آنها به طور غیرمترقبه به سیستمهای فنی دسترسی پیدا نکنند.
متا، شرکت مادر فیسبوک، در این زمینه تأکید کرد که آنها توافق کردهاند تا "کنترلهای داخلی قوی" را توسعه دهند. ترامپ همچنین اعلام کرد که در حال بررسی تشکیل یک هیئت ۱۰ نفره برای نظارت بر ایمنی ابزارهای هوش مصنوعی است.
متخصصان هوش مصنوعی نظامی بر این باورند که انتظار برای درک بهتر فناوری ناکافی است، زیرا این فناوری قبلاً تهدیدات وجودی برای انسانها در مناطق مختلفی مانند غزه و ایران ایجاد کرده است.
دکتر مت محمودی، استاد دانشگاه کمبریج و محقق در زمینه هوش مصنوعی و حقوق بشر، گفت که بحثهای کنونی دربارهٔ حوادث انقراض انسانی توجه را از تهدیدات واقعی که هوش مصنوعی در حال حاضر به وجود آورده، منحرف میکند. او به سیستمهای هدفگیری هوش مصنوعی اسرائیلی اشاره کرد که به گفته وی، به تلفات زیاد در غزه منجر شدهاند.
بیشتر بخوانید: گوشی Samsung Galaxy Z Fold۸ Ultra با طراحی نهایی عرضه شد · دعوای تنظیم مقررات در صنعت هوش مصنوعی به رهبری داریو آمودئی
