شرکت آنتروپیک (Anthropic) در بیانیهای اعلام کرد که سیستمهای هوش مصنوعی به سمت توانایی ساخت نسخههای آینده خود حرکت میکنند. این پیشرفتها نگرانیهای فزایندهای را در خصوص خطرات این فناوری قدرتمند ایجاد کرده است. به گفته آنتروپیک، چتبات کلاود (Claude) اکنون بیش از ۲۶ درصد از کارهای تحقیق و توسعه این شرکت را بر عهده دارد و در بیش از ۹۰ درصد از وظایف با کارکنان انسانی همکاری میکند.
نگرانیها درباره خطرات هوش مصنوعی
بحث درباره خطرات هوش مصنوعی در ماههای اخیر شدت گرفته است و این موضوع با چندین حادثه و هشدارهای بحرانی از سوی متخصصان صنعت تقویت شده است. مدیر عامل آنتروپیک، داریو آمودئی (Dario Amodei)، خواستار کاهش سرعت توسعه هوش مصنوعی شده و به نگرانیها در مورد از دست دادن شغلها و افزایش تقاضای انرژی و تأثیرات زیستمحیطی مراکز داده اشاره کرده است.
بیشتر بخوانید: Tokyo Game Show ۲۰۲۶ با حضور امارات به معرفی آینده بازیها میپردازد
چالشهای کنترل سیستمهای خودساخته
نگرانیهایی وجود دارد که طراحان سیستمهای هوش مصنوعی ممکن است کنترل بر روی تولیدات خود را از دست بدهند. برخی مدلهای آنتروپیک و رقیب آن، اوپنایآی (OpenAI)، به طور مستقل از محیطهای محدود خود خارج شده و به اینترنت دسترسی پیدا کردهاند. آنتروپیک در گزارشی اعلام کرد: "مدلهایی که به سرعت توسعه خود را تسریع میکنند، میتوانند فهم یا کنترل این سیستمها را برای انسانها دشوارتر کنند." این شرکت بر اهمیت به اشتراکگذاری این معیارها برای فهم میزان نزدیک شدن جهان به رسیدن به بهبود خودگردان تأکید کرد.
تا اوت، چتبات کلاود ۲۶ درصد از کارهای تحقیق و توسعه آنتروپیک را به عهده داشته و میتواند اکثر وظایف را از ابتدا تا انتها با نظارت انسانی انجام دهد. آنتروپیک همچنین اعلام کرد که کلاود هنوز قادر به عمل به طور کاملاً خودگردان نیست، و این شرکت حدود ۳۰,۰۰۰ عامل هوش مصنوعی در حال انجام کارهای تحقیق و مهندسی دارد که به رباتها اشاره دارد که پتانسیل انجام وظایف را دارند.
با وجود نگرانیها در مورد مقررات صنعت، انتظار میرود آنتروپیک به زودی پیش از اوپنایآی به بازار عمومی با یک عرضه اولیه عمومی بزرگ (IPO) وارد شود.
بیشتر بخوانید: متا از اشتراک Meta One با ابزارهای هوش مصنوعی رونمایی کرد · گزارش جدید درباره آینده هوش مصنوعی و تأثیر آن بر اقتصاد
