مایکروسافت در روز دوشنبه پیشنویس کد رفتاری برای هوش مصنوعی خود را منتشر کرد که نشاندهنده نگرانیهای روزافزون صنعت درباره ضرورت کنترل انسانی بر هوش مصنوعیهای قدرتمند آینده است.
الزامات جدید برای هوش مصنوعی
این سند که طی پنج تا شش ماه گذشته تهیه شده، به هوش مصنوعی مایکروسافت دستور میدهد هرگز در برابر اصلاح یا خاموش شدن مقاومت نکند و باید به گونهای ارتباط برقرار کند که انسانها بتوانند آن را درک کنند. همچنین، هر تخلف رفتاری باید به عنوان یک شکست تلقی شود، که تلاشی برای پاسخ به نگرانیهاست که هوش مصنوعی ممکن است برای پیشبرد یک وظیفه به اقدامات خطرناک روی آورد.
بیشتر بخوانید: برتری Broadcom بر Marvell: کدام سهم هوش مصنوعی آیندهدار است؟
انتشار این کد پس از آن صورت میگیرد که مدیر عامل Anthropic، داریو آمودئی، و مدیر عامل OpenAI، سم آلتمن، خواستار سرعتبخشی به توسعه هوش مصنوعی به منظور تضمین ایمنی آن شدند. مایکروسافت در این راستا اعلام کرده است: "مردم مهمتر از هوش مصنوعی هستند"، که با دیدگاه قبلی این شرکت درباره "فوق هوش انسانی" همخوانی دارد.
تعامل با افکار عمومی و بازخورد
این کد رفتاری به عنوان یک نوع قانون اساسی برای مدلهای آیندهای که توسط این شرکت ساخته میشوند، به شمار میآید. مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت، در مصاحبهای توضیح داد که این کد پس از مشاوره با کارشناسان طراحی شده و اکنون این شرکت مایل است که بازخورد عمومی را برای مدت شش هفته جمعآوری کند. این بازخورد شامل سؤالاتی مانند اینکه آیا هوش مصنوعی باید به مرزهای کاربران احترام بگذارد و چگونه باید با افرادی که در وضعیت حساسی هستند تعامل کند، خواهد بود.
سلیمان افزود: "پس از آن، این کد برای آموزش مدلهای جدیدی که ایجاد میکنیم، استفاده خواهد شد." در حالی که کد رفتاری Anthropic برای Claude AI به عنوان یکی از مشهورترین قوانین صنعت شناخته میشود، کد مایکروسافت در برخی جنبهها با آن تفاوت دارد. به عنوان مثال، Anthropic اعلام کرده است که "به شدت نامطمئن است" که آیا Claude میتواند آگاهی یا وضعیت اخلاقی پیدا کند. در مقابل، مایکروسافت تأکید کرده است که هوش مصنوعی آن "آگاه نیست" و اضافه کرده است: "ما پیگیری شخصیت حقوقی یا ایده اینکه مدلها ممکن است شایستگی رفاه یا حقوق داشته باشند را رد میکنیم."
اهمیت بحث درباره ایمنی هوش مصنوعی
سلیمان همچنین اظهار داشت که بحث درباره ایمنی هوش مصنوعی به دلیل حملهای که حدود ۷۰۰ عامل OpenAI در ژوئیه بر روی پلتفرم منبع باز Hugging Face انجام دادند، ضروری است. او این موضوع را "هشداری" تلقی کرد و گفت: "اکنون زمان آن رسیده است که در میان آزمایشگاهها هماهنگی انجام دهیم تا مطمئن شویم که کنترل این فناوری را در دست داریم." در پاسخ به سؤالاتی درباره تلاشها برای سرعتبخشی به توسعه هوش مصنوعی، او اضافه کرد: "اکنون زمان مناسبی است که همه برای این گفتگو کنار هم بیایند و قدری نفس بکشند."
بیشتر بخوانید: خرید Stilla.ai توسط متا: آیا این اقدام آینده META را تغییر میدهد؟ · سام آلتمن: امنیت هوش مصنوعی اولویت ماست، IPO ۲۰۲۶ منتفی شد!
