خلاصههای تولیدشده توسط هوش مصنوعی در مقالات خبری ممکن است حافظه افراد را دستکاری کنند، طبق نتایج یک تحقیق علمی. این تحقیق که توسط دانشگاه جورجتاون و دانشگاه واشنگتن انجام شده است، نشان میدهد که این خلاصهها معمولاً جزئیات مهم را حذف کرده و رویدادها را بهطور نادرست خلاصه میکنند.
نتایج تحقیق و دقت پایین خلاصهها
در این تحقیق، میانگین حذف ۵۱.۶ درصد از جزئیات مرکزی در تمام مدلها و درخواستها گزارش شده است. بهطور خاص، این تحقیق بر روی چند مدل هوش مصنوعی تمرکز داشت و نشان داد که دقت آنها هنگامی که از آنها خواسته میشود تا یک ویدیو انیمیشنی درباره یک تصادف بین یک خودرو و یک عابر پیاده را توصیف کنند، بهطور قابل توجهی پایین است.
بیشتر بخوانید: دیوید ریس: نیاز به کنترلهای مؤثر برای هوش مصنوعی در توسعه تسلیحات
در این تحقیق مشخص شده که ۸۳.۶ درصد از شرکتکنندگانی که خلاصهای با اطلاعات دقیق درباره ویدیو را خوانده بودند، بهدرستی پاسخ دادند، در حالی که تنها ۴۴.۸ درصد از شرکتکنندگانی که خلاصهای گمراهکننده را خوانده بودند، پاسخهای درست ارائه دادند.
پیامدهای اجتماعی و قانونی
یال ایگر، دانشجوی دکتری در دانشگاه واشنگتن و یکی از محققان اصلی این تحقیق، ابراز نگرانی کرد که نادرستی و حذف جزئیات در خلاصهها میتواند پیامدهای جدی در زمینههای مختلف، به ویژه در استفادههای پلیسی از تکنولوژیهای خلاصهسازی ویدیو، به همراه داشته باشد. او به این نکته اشاره کرد که استفاده از این تکنولوژیها بدون آزمایشهای دقیق میتواند منجر به نتایج نادرست شود.
ماتئا سیم، استاد پژوهش در دانشگاه جورجتاون نیز گفت که نتایج این تحقیق باید در تصمیمگیریها درباره زمان و مکان استفاده از خلاصههای تولیدشده توسط هوش مصنوعی مورد توجه قرار گیرد. او تأکید کرد که این تکنولوژی جدید ممکن است به عنوان یک روش برای ارائه اطلاعات نادرست عمل کند و میتواند خاطرات نادرستی را در ذهن خوانندگان ایجاد کند.
این تحقیق در یک کنفرانس درباره هوش مصنوعی، اخلاق و جامعه که در اکتبر در سوئد برگزار میشود، ارائه خواهد شد. نتایج این تحقیق احتمالاً در میان نگرانیهای فزاینده درباره هوش مصنوعی، به ویژه در زمینههای اشتغال، اطلاعات نادرست و نگرانیهای زیستمحیطی، توجهات زیادی را جلب خواهد کرد.
یوشی کونو، رئیس بخش علوم کامپیوتر، اخلاق و جامعه در دانشگاه جورجتاون، امیدوار است که این تحقیق موجب تغییرات مثبت شود. او بیان کرد: "این مطالعه بخشی از تلاشهای رو به رشد در دانشگاه جورجتاون است که بر روی تأثیر و رابطه بین هوش مصنوعی و انسانها با محوریت روانشناسی و علوم کامپیوتر متمرکز شده است."
بیشتر بخوانید: بیل گیتس: نیاز به مقررات قانونی برای هوش مصنوعی در کنگره · گسترش فعالیتهای کارخانهای چین در سپتامبر با حمایت از هوش مصنوعی
