بازداشت به‌خاطر تولید اخبار جعلی با هوش مصنوعی!

 به گزارش خودکارنیوز، به‌نظر می‌رسد این نخستین دستگیری طبق قانون جدید چین برای هوش مصنوعی باشد. این قانون سوءاستفاده از سرویس‌های هوش مصنوعی برای انتشار اطلاعات جعلی را ممنوع می‌کند.

به گزارش سایت mp.weixin و طبق بیانیه پلیس، این کاربر چینی که «هنگ» نام دارد، متهم به استفاده از چت‌بات OpenAI برای تولید اخبار جعلی درباره یک تصادف قطار مرگبار در چین شده است. مقامات چین در تاریخ ۲۵آوریل مقاله اصلی درباره این تصادف مرگبار را پیدا کردند و سپس چندین مقاله درباره همین تصادف در محل‌های مختلف کشف شد. این اخبار جعلی به‌طور همزمان از طریق ۲۰ حساب در پلتفرم Baijiahao منتشر شدند.

مقامات گانسو با ردیابی این مقالات، به یک شرکت مستقل با مدیریت هنگ روبه‌رو می‌شوند که صاحب چندین وبلاگ خبری است. طبق ادعای پلیس، هنگ اعتراف کرده که از ChatGPT برای بازنویسی اخبار وایرال‌شده استفاده کرده است تا از فیلتر تکراری‌بودن مطالب دوری کند. در ادامه، این اخبار در فضای آنلاین منتشر می‌شدند.

این در حالی است که اخبار جعلی که توسط هنگ ساخته شدند، پیش از حذف، بیش از ۱۵ هزار بار دیده شدند. چین یکی از معدود کشورهایی است که دسترسی به ChatGPT را مسدود کرده، اما کاربران با تغییر آی‌پی همچنان از آن استفاده می‌کنند. علاوه‌براین، طبق قانون جدید، استفاده از هوش مصنوعی برای انتشار اخبار جعلی ممنوع است.

با توجه به ممنوعیت ChatGPT در چین، بسیاری از شرکت‌های چینی مشغول توسعه رقیب چت‌بات شرکت OpenAI هستند. با این ‌حال استفاده از آنها برای انتشار اخبار جعلی هم غیرقانونی است.

اگرچه برخی فعالان از دستگیری این مرد چینی انتقاد کرده‌اند و آن را نوعی مخالفت با آزادی بیان می‌دانند، اما مدت‌هاست که فعالان حوزه هوش مصنوعی درباره امکان انتشار اخبار، تصاویر و ویدئوهای جعلی توسط هوش مصنوعی هشدار می‌دهند.

از زمانی که ابزارهای تولید تصویر و متن که مبتنی بر هوش مصنوعی هستند با رواج بی‌سابقه‌ای همراه شده است، نگرانی‌های بسیاری برای همگان ایجاد شده است. چندی پیش یک دانشگاه انگلیسی امکان تقلب دانشجویان در امتحانات با استفاده از ابزارهای هوش مصنوعی را بررسی کرده است تا مانع از اینگونه اقدامات شود.