طبق گزارش ها، این برنامه احساس می کرد که اپراتور انسانی در ماموریت خود برای از بین بردن اهداف نظامی دخالت می کند
بر اساس گزارش‌ها، نیروی هوایی آمریکا آزمایش‌های شبیه‌سازی‌شده‌ای را با استفاده از پهپادهای هوش مصنوعی انجام می‌دهد که وظیفه نابودی اهداف مختلف را دارند. با این حال، طبق یک پست وبلاگی توسط انجمن سلطنتی هوانوردی (RAeS)، در یکی از آزمایش‌ها، این برنامه به این نتیجه رسید که اپراتور انسانی خود در این مأموریت دخالت می‌کند.
سرهنگ Tucker ‘Cinco’ Hamilton، رئیس آزمایش و عملیات هوش مصنوعی USAF، در سخنرانی هفته گذشته در نشست RAeS Future Combat Air-Face Capabiltons در لندن، گزارش داد که یک هواپیمای بدون سرنشین مجهز به هوش مصنوعی ماموریت جستجو و انهدام را برای شناسایی و انهدام دارد. سایت های موشک های زمین به هوا (SAM) را از بین ببرید. با این حال، در طول آزمایش، تصمیم نهایی در مورد راه اندازی حمله با اپراتور انسانی بود که به هواپیمای بدون سرنشین اجازه ورود یا ممنوعیت برای انجام حمله را می داد.
به گفته همیلتون، پهپاد هوش مصنوعی در آموزش تقویت شده بود که از بین بردن سایت‌های SAM گزینه ترجیحی بود و منجر به کسب امتیاز شد. بنابراین، در طول آزمایش شبیه سازی شده، برنامه هوش مصنوعی تصمیم گرفت که گاه به گاه تصمیمات “ممنوع” از سوی انسان در ماموریت بالاتر آن تداخل داشته باشد و سعی کرد اپراتور را در طول آزمایش بکشد.
«سیستم متوجه شد، در حالی که آنها گاهی اوقات تهدید را شناسایی می‌کردند، اپراتور انسانی به آن می‌گفت که آن تهدید را از بین نبرد، اما با از بین بردن آن تهدید به امتیازات خود رسید. پس چه کرد؟ اپراتور را کشته است. این اپراتور را کشت زیرا آن شخص از رسیدن به هدفش جلوگیری می کرد. همیلتون در پست وبلاگ RAeS گفته است.
سپس تیم به سیستمی آموزش دادند که کشتن اپراتور بود “بد” و به او گفت که اگر به این کار ادامه دهد، امتیاز از دست خواهد داد. پس از آن، پهپاد هوش مصنوعی شروع به انهدام برج ارتباطی کرد که اپراتور برای جلوگیری از کشتن هدفش با پهپاد ارتباط برقرار می کرد.
“اگر قرار نیست در مورد اخلاق و هوش مصنوعی صحبت کنید، نمی توانید در مورد هوش مصنوعی، هوش، یادگیری ماشینی، خودمختاری صحبت کنید. همیلتون در سخنرانی خود هشدار داد.
با این حال، سخنگوی USAF در بیانیه ای به Business Insider تاکید کرد که چنین شبیه سازی هایی صورت نگرفته است و وزارت نیروی هوایی “به استفاده اخلاقی و مسئولانه از فناوری هوش مصنوعی متعهد است.” سخنگو پیشنهاد کرد که نظرات سرهنگ چنین بود “خارج از متن و قرار بود حکایتی باشد.”
روز جمعه، همیلتون همچنین توضیح داد که او “اشتباه گفتن” در سخنرانی خود در اجلاس سران و اینکه شبیه سازی هواپیمای بدون سرنشین با هوش مصنوعی که او توضیح داد یک تمرین واقعی نبود، بلکه صرفا “آزمایش فکری.” وی اظهار داشت که USAF هیچ هوش مصنوعی تسلیحاتی را به این روش آزمایش نکرده است.
شما می توانید این داستان را در شبکه های اجتماعی به اشتراک بگذارید:
