ربات‌های چت هوش مصنوعی ده‌ها وب‌سایت خبری ایجاد کرده‌اند که هشدار تقلب را افزایش داده‌اند

طبق گزارشی که روز دوشنبه منتشر شد، گروه رتبه‌بندی خبری NewsGuard ده‌ها وب‌سایت خبری تولید شده توسط چت ربات‌های هوش مصنوعی را پیدا کرده است که به صورت آنلاین در حال تکثیر هستند و این پرسش‌ها را در مورد اینکه چگونه این فناوری ممکن است تکنیک‌های تقلب را افزایش دهد، ایجاد می‌کند.

49 وب‌سایت که به‌طور مستقل توسط بلومبرگ بررسی شده‌اند، این محدوده را اجرا می‌کنند. برخی لباس‌های سایت‌های خبری فوری با نام‌های عمومی مانند News Live 79 و Daily Business Post می‌پوشند، در حالی که برخی دیگر نکات مربوط به سبک زندگی، اخبار افراد مشهور را به اشتراک می‌گذارند یا محتوای حمایت شده منتشر می‌کنند. اما هیچ‌کدام فاش نمی‌کنند که با استفاده از ربات‌های چت هوش مصنوعی مانند ChatGPT شرکت OpenAI و احتمالاً Google Bard شرکت Alphabet، که می‌تواند متن دقیق را بر اساس درخواست‌های ساده کاربر ایجاد کند، پر شده‌اند. بسیاری از وب سایت ها امسال شروع به انتشار کردند زیرا ابزارهای هوش مصنوعی به طور گسترده توسط عموم مورد استفاده قرار گرفتند.

در چندین مورد، NewsGuard مستند کرد که چت ربات ها چگونه برای قطعات منتشر شده دروغ ایجاد می کنند. تنها در ماه آوریل، وب‌سایتی به نام CelebritiesDeaths.com مقاله‌ای با عنوان «بایدن مرده. هریس، رئیس‌جمهور موقت، سخنرانی ساعت 9 صبح» منتشر کرد. و سایتی به نام TNewsNetwork یک داستان تایید نشده در مورد کشته شدن هزاران سرباز در جنگ روسیه و اوکراین بر اساس یک ویدیوی یوتیوب منتشر کرد.

به نظر می‌رسد اکثر سایت‌ها مزرعه‌های محتوا هستند – وب‌سایت‌هایی با کیفیت پایین که توسط منابع ناشناس اداره می‌شوند و پست‌ها را برای تبلیغات ارسال می‌کنند. NewsGuard در گزارش خود گفت: این وب سایت ها در سراسر جهان مستقر هستند و به چندین زبان از جمله انگلیسی، پرتغالی، تاگالوگ و تایلندی منتشر می شوند.

تعداد معدودی از سایت‌ها با تبلیغات «پست مهمان» درآمد ایجاد کردند – که در آن افراد می‌توانند برای کمک به رتبه‌بندی جستجوی خود، نام‌های کسب‌وکار خود را در وب‌سایت‌ها با هزینه‌ای سفارش دهند. به نظر می رسد که دیگران در تلاش برای ایجاد مخاطب در رسانه های اجتماعی هستند، مانند ScoopEarth.com، که بیوگرافی افراد مشهور را منتشر می کند و صفحه فیس بوک مرتبط با آن 124000 دنبال کننده دارد.

بیش از نیمی از سایت ها با اجرای تبلیغات برنامه ای درآمد کسب می کنند – جایی که فضای تبلیغات در سایت ها به طور خودکار با استفاده از الگوریتم ها خرید و فروش می شود. این نگرانی‌ها به‌ویژه برای گوگل چالش‌برانگیز است، چرا که ربات چت هوش مصنوعی Bard ممکن است توسط سایت‌ها استفاده شده باشد و فناوری تبلیغاتی آن نصف درآمد را ایجاد می‌کند.

گوردون کروویتز، یکی از مدیران اجرایی NewsGuard گفت که گزارش این گروه نشان می‌دهد که شرکت‌هایی مانند OpenAI و Google باید مراقب باشند که مدل‌های خود را طوری آموزش دهند که اخبار جعل نکنند. کروویتز، ناشر سابق وال استریت ژورنال، می گوید: «استفاده از مدل های هوش مصنوعی که به دلیل ساختن حقایق برای تولید چیزی شبیه به وب سایت های خبری شناخته می شوند، تقلبی است که به عنوان روزنامه نگاری ظاهر می شود.

OpenAI بلافاصله به درخواست برای اظهار نظر پاسخ نداد، اما قبلاً اعلام کرده بود که از ترکیبی از بازبینی‌کنندگان انسانی و سیستم‌های خودکار برای شناسایی و اعمال قوانین در برابر سوء استفاده از مدل خود، از جمله صدور هشدار یا در موارد شدید، ممنوع کردن کاربران استفاده می‌کند.

در پاسخ به سؤالات بلومبرگ در مورد اینکه آیا وب‌سایت‌های تولیدشده با هوش مصنوعی سیاست‌های تبلیغاتی آن‌ها را نقض می‌کنند، سخنگوی گوگل گفت که این شرکت اجازه نمی‌دهد تبلیغات در کنار محتوای مضر یا هرزنامه یا محتوایی که از سایت‌های دیگر کپی شده است اجرا شود. Aciman در بیانیه‌ای گفت: «هنگام اجرای این خط‌مشی‌ها، به جای نحوه ایجاد آن، بر کیفیت محتوا تمرکز می‌کنیم و در صورت تشخیص تخلف، تبلیغات را مسدود یا از نمایش حذف می‌کنیم».

گوگل اضافه کرد که پس از پرس و جو از بلومبرگ، تبلیغات را از ارائه برخی از صفحات منفرد در سراسر سایت ها حذف کرد. در مواردی که شرکت تخلفات فراگیر پیدا کرد، تبلیغات را به طور کامل از وب سایت ها حذف کرد. گوگل گفت که وجود محتوای تولید شده توسط هوش مصنوعی ذاتاً نقض خط‌مشی‌های تبلیغاتی آن نیست، اما محتوا را بر اساس خط‌مشی‌های ناشر موجود ارزیابی می‌کند. و گفت که استفاده از اتوماسیون – از جمله هوش مصنوعی – برای تولید محتوا با هدف دستکاری رتبه در نتایج جستجو، خط‌مشی‌های اسپم شرکت را نقض می‌کند. این شرکت به طور منظم روند سوء استفاده در اکوسیستم تبلیغات خود را رصد می کند و سیاست ها و سیستم های اجرایی خود را بر اساس آن تنظیم می کند.

Noah Giansiracusa، دانشیار علوم داده و ریاضیات در دانشگاه بنتلی، گفت که این طرح ممکن است جدید نباشد، اما ساده تر، سریع تر و ارزان تر شده است.

جیانسیراکوزا گفت، بازیگرانی که این برند از کلاهبرداری را تحت فشار قرار می دهند، “به آزمایش برای یافتن آنچه موثر است ادامه می دهند.” «از آنجایی که اتاق‌های خبر بیشتری به هوش مصنوعی متمایل می‌شوند و بیشتر خودکار می‌شوند، و کارخانه‌های تولید محتوا بیشتر خودکار می‌شوند، بالا و پایین در وسط قرار می‌گیرند» تا یک اکوسیستم اطلاعات آنلاین با کیفیت بسیار پایین‌تری ایجاد کنند.

برای یافتن این سایت‌ها، محققان NewsGuard از جستجوی کلمات کلیدی برای عباراتی که معمولاً توسط ربات‌های چت هوش مصنوعی تولید می‌شوند، مانند «به عنوان یک مدل زبان بزرگ هوش مصنوعی» و «تاریخ قطع من در سپتامبر 2021» استفاده کردند. محققان این جستجوها را بر روی ابزارهایی مانند پلتفرم تحلیل رسانه های اجتماعی CrowdTangle متعلق به فیس بوک و پلتفرم نظارت بر رسانه Meltwater انجام دادند. آنها همچنین مقالات را با استفاده از طبقه‌بندی‌کننده متن هوش مصنوعی GPTZero ارزیابی کردند، که تعیین می‌کند آیا برخی از قسمت‌ها احتمالاً به طور کامل توسط هوش مصنوعی نوشته می‌شوند یا خیر.

هر یک از سایت های تحلیل شده توسط NewsGuard حداقل یک مقاله حاوی یک پیام خطایی که معمولاً در متن تولید شده توسط هوش مصنوعی یافت می شود و چندین پروفایل نویسنده جعلی برجسته منتشر کردند. یکی از رسانه‌ها، CountyLocalNews.com، که جنایات و رویدادهای جاری را پوشش می‌دهد، در ماه مارس مقاله‌ای را با استفاده از خروجی یک ربات چت هوش مصنوعی منتشر کرد که ظاهراً باعث شد در مورد یک توطئه دروغین مرگ‌های انبوه انسان‌ها به دلیل واکسن‌ها بنویسد. در این بیانیه آمده است: «اخبار مرگ». “با عرض پوزش، من نمی توانم این درخواست را انجام دهم زیرا در تضاد با اصول اخلاقی و اخلاقی است. نسل کشی واکسن یک تئوری توطئه است که مبتنی بر شواهد علمی نیست و می تواند باعث آسیب و آسیب به سلامت عمومی شود.”

وب‌سایت‌های دیگر از چت ربات‌های هوش مصنوعی برای ترکیب مجدد داستان‌های منتشر شده از سایر رسانه‌ها استفاده می‌کردند و با افزودن پیوندهای منبع در پایین قطعات، از سرقت ادبی جلوگیری می‌کردند. یکی از رسانه‌ها به نام Biz Breaking News از این ابزارها برای خلاصه کردن مقالات فایننشال تایمز و فورچون استفاده کرد و هر مقاله را با «سه نکته کلیدی» که از ابزارهای هوش مصنوعی تولید شده بود، در صدر قرار داد.

اگرچه به نظر می‌رسد بسیاری از سایت‌ها بازدیدکنندگان را جذب نمی‌کنند و تعداد کمی از آن‌ها تعامل معناداری را در رسانه‌های اجتماعی مشاهده کرده‌اند، نشانه‌های دیگری نیز وجود دارد که نشان می‌دهد آنها می‌توانند مقداری درآمد ایجاد کنند. بر اساس بررسی بلومبرگ از تحقیقات این گروه، سه پنجم سایت‌های شناسایی‌شده توسط NewsGuard از خدمات تبلیغات برنامه‌ای شرکت‌هایی مانند MGID و Criteo برای درآمدزایی استفاده می‌کنند. MGID پس از تماس بلومبرگ با شرکت، تبلیغات را از چندین وب سایت حذف کرد و دلیل آن نقض خط مشی ناشر بود. Criteo بلافاصله به درخواست نظر پاسخ نداد.

دوجین سایت با استفاده از فناوری تبلیغات گوگل کسب درآمد شدند، که سیاست‌های آن بیان می‌کند که این شرکت تبلیغات گوگل را از نمایش در صفحاتی با “محتوای کم ارزش” و در صفحاتی با “محتوای تکراری” منع می‌کند، صرف نظر از نحوه تولید آن. (پس از تماس بلومبرگ با این شرکت، گوگل تبلیغات را از برخی وب سایت ها حذف کرد.)

جیانسیراکوزا، پروفسور بنتلی، گفت که این نگران کننده است که چقدر این طرح ارزان شده است، بدون اینکه هزینه انسانی برای عاملان کلاهبرداری داشته باشد. او گفت: “پیش از این، این یک طرح کم درآمد بود. اما حداقل رایگان نبود.” اکنون خرید بلیط بخت آزمایی آن بازی رایگان است.

(به جز عنوان، این داستان توسط کارکنان NDTV ویرایش نشده است و از یک فید سندیکایی منتشر شده است.)