در حالی که جهان منتظر است تا ببیند آیا دونالد ترامپ، رئیس جمهور سابق آمریکا امروز به دلیل پرداخت پول به بازیگر فیلم های پو…رن «اس..تورمی دانیلز» واقعاً متهم خواهد شد یا خیر، تصاویر تولید شده توسط هوش مصنوعی در توییتر منتشر شده که تصور می‌کند این دستگیری چگونه خواهد بود. این عکس‌های واقعی‌نما اما جعلی که نشان می‌دهد ترامپ در مقابل دستگیری مقاومت می‌کند و توسط پلیس کشیده می‌شود، تاکنون میلیون‌ها نفر آن را دیده‌اند.
الیوت هیگینز، موسس و مدیر خلاق Bellingcat، یک مجموعه بین‌المللی مستقل از محققان، بازرسان و روزنامه‌نگاران، در توییتی نوشت: «تصاویری از دستگیری ترامپ در حالی که منتظر دستگیری ترامپ است، می‌سازیم».
هیگینز در توییتی تایید کرد که از موتور هوش مصنوعی بسیار واقعی Midjourney v5 برای تولید تصاویر جعلی استفاده کرده است.
برخی از این عکس‌ها تا زمان نوشتن این مقاله ۲.۲ میلیون بار در توییتر مشاهده شده اند.
دستورالعمل‌های توییتر می‌گویند که کاربران «بایستی رسانه‌های مصنوعی یا دستکاری شده‌ای را که احتمالاً باعث آسیب می‌شوند به‌طور فریبنده به اشتراک نگذارند» و ممکن است به زودی برچسب‌هایی بر روی این تصاویر گذاشته شود تا در مورد صناعی بودن تصاویر هشدار بدهد.
توییتر اما فعلا پاسخ درستی به تماس رسانه‌ها نداده است. ناکامی توییتر در برچسب‌گذاری سریع تصاویر فیک واقع‌نما توسط هوش مصنوعی می‌تواند به طور بالقوه باعث آسیب شود.
گاردین گزارش داد که از زمان انتشار اخبار مربوط به اتهامات احتمالی ترامپ، تهدیدات آنلاین افزایش قابل توجهی داشته است.
AP News گزارش داد که نیویورک در حال آماده شدن برای ناآرامی‌های احتمالی در صورت وقوع دستگیری است و برخی از کاربران اظهار داشته‌اند که تصاویر هیگینز به اندازه کافی قانع کننده است که آنها را فریب دهد.
حداقل یکی از کاربران توییتر پیشنهاد کرد که هیگینز باید یک واترمارک روی تصویر بگذارد تا هرگونه سردرگمی احتمالی را از بین ببرد. اما اینکه آیا هیگینز وظیفه ای برای انجام این کار داشته است یا خیر، یکی از آن سوالات بی پاسخی است که به صورت آنلاین در مورد آن بحث درگرفته است.
محتوای تولید شده توسط هوش مصنوعی به طور فزاینده‌ای محبوب شده است و آینده‌ای بالقوه قابل تصور است که در آن کاربران اینترنت ممکن است نتوانند هر چیزی را که آنلاین می‌بینند باور کنند.
نمی‌توان فوراً به Midjourney دسترسی پیدا کرد تا تایید کند که آیا تصاویر هیگینز شرایط خدمات آن را نقض می‌کند یا خیر. این شرایط که شامل دستورالعمل‌هایی است که تصاویر یا از پیام‌های متنی که ذاتاً دارای بی‌احترامی، تهاجمی یا توهین‌آمیز ممنوع می‌کند.» در دستورالعمل ها آمده است: «هر نوع خشونت یا آزار و اذیت قابل تحمل نخواهد بود.
پلتفرم‌های رسانه‌های اجتماعی شروع به وضع قوانین اساسی برای محتوای تولید شده توسط هوش مصنوعی کرده‌اند، و حداقل برخی مسئولیت برچسب‌گذاری چنین محتوایی را بر عهده کاربران گذاشته‌اند. تیک تاک جدیدترین پلتفرمی است که لازم دانسته تمام دیپ‌فک‌های واقع‌نما «به وضوح فاش شوند» و همین امر باعث می‌شود تا کاربران این هفته شروع به اضافه کردن یک «برچسب مانند «مصنوعی»، «جعلی»، «غیر واقعی» یا «تغییر داده شده» کنند تا سردرگمی ایجاد نکنند.
البته هر کسی که روی رشته تویییت هیگینز از تصاویر تولید شده توسط هوش مصنوعی که دستگیری ترامپ را جعل می کند کلیک کند، احتمالا متوجه خواهد شد که این تصاویر واقعی نیستند. آنها نه تنها ترامپ را نشان می‌دهند که در مقابل دستگیری مقاومت می‌کند و حتی از پلیس فرار می‌کند، بلکه تصاویری نیز وجود دارد که ترامپ ظاهراً آماده مقابله با پلیس است و صحنه‌هایی از دادگاه که نشان می‌دهد ترامپ در حال هق هق گریه می‌کند، که ظاهراً پس از هر دستگیری ممکن است اتفاق بیفتد.
(برچسب فیک را خودم افزوده‌ام تا باعث گمراهی ناخواسته نشود.)
