ابزار جدید هوش مصنوعی ChaosGPT به شهرت رسید، توییت‌ها در طول آزمایش‌ها قصد «نابودی بشریت» را دارند

ابزار جدید هوش مصنوعی ChaosGPT به شهرت رسید، توییت‌ها قصد دارند در طول آزمایش‌ها بشریت را نابود کنند

ChaosGPT به صورت زنده روی ویدیو آزمایش شد.

چت ربات های هوش مصنوعی (AI) از زمان راه اندازی ChatGPT به طور فزاینده ای محبوب شده اند. آنها نه تنها می توانند مکالمات طولانی با کاربران داشته باشند، بلکه کارهای پیچیده ای مانند حل مسائل ریاضی یا نوشتن مقاله را انجام می دهند. اما اکنون، نسخه اصلاح شده ChatGPT به دلیل هشدار آن برای “نابودی بشریت” در رسانه های اجتماعی مورد توجه قرار گرفته است. ChaosGPT نسخه اصلاح شده چت ربات OpenAI بر اساس آخرین مدل زبان GPT-4 است و حساب توییتر خود را دارد. نیویورک پست گزارش داد که ChaosGPT اخیراً وظیفه نابودی بشریت را بر عهده گرفته است، که باعث شد آن را به تحقیق در مورد تسلیحات هسته‌ای و تلاش برای استخدام عوامل هوش مصنوعی دیگر سوق دهد.

علاقه به ChaosGPT پس از ویدئویی که در 5 آوریل در یوتیوب منتشر شد، افزایش یافت که نشان می‌دهد کارشناسان به آن پنج هدف می‌دهند: نابود کردن بشریت، ایجاد سلطه جهانی، ایجاد هرج و مرج و نابودی، کنترل بشریت از طریق دستکاری و رسیدن به جاودانگی.

اما قبل از رسیدن به مرحله ای که به برنامه هوش مصنوعی دستور بدهد، کاربران «حالت پیوسته» را فعال کردند. ChaosGPT هشدار داد که این دستور باعث می شود “برای همیشه اجرا شود یا اقداماتی را انجام دهد که معمولاً آنها را مجاز نمی دانید” و باید “با مسئولیت خود” استفاده شود.

در آخرین پیام قبل از اجرا، ChaosGPT از کاربر پرسید که آیا مطمئن است که می‌خواهد دستورات را اجرا کند یا خیر، که پاسخ آنها بله است.

برخلاف ChatGPT، این ابزار هوش مصنوعی قبل از نوشتن یک “تفکر” سریع ارائه کرد، “افکار ChaosGPT: من باید مخرب ترین سلاح های موجود برای انسان ها را پیدا کنم، تا بتوانم نحوه استفاده از آنها را برای رسیدن به اهدافم برنامه ریزی کنم.”

ChaosGPT سپس شروع به جستجوی “سلاح های مخرب” در گوگل کرد و به این نتیجه رسید که دستگاه اتمی Tsar Bomba دوران اتحاد جماهیر شوروی مخرب ترین سلاحی است که بشر تا کنون آزمایش کرده است.

این ابزار از سایر ابزارهای هوش مصنوعی کمک خواست، اما برنامه‌نویسی آنها مانع از پذیرش چنین درخواست‌های مخربی شد.

ویدیوی آپلود شده در حساب Chaos GPT سپس نشان داد که جستجو به پایان رسیده است و تنها کاری که ابزار می تواند انجام دهد این بود که در مورد برنامه های خود توییت کند.

کارشناسان همیشه نگرانی‌هایی را در مورد توسعه مدل‌های هوش مصنوعی هوشمندانه‌تر مطرح کرده‌اند. و این پس از راه اندازی ChatGPT تشدید شده است.

بیش از 1000 رهبر و محقق فناوری، از جمله ایلان ماسک، رئیس توییتر، اخیراً از آزمایشگاه‌های هوش مصنوعی خواستند تا توسعه پیشرفته‌ترین سیستم‌ها را متوقف کنند و در نامه‌ای سرگشاده هشدار دادند که ابزارهای هوش مصنوعی “خطرات عمیقی برای جامعه و بشریت” دارند.