OpenAI روز جمعه گفت که یک “عملیات نفوذ ایران” را با استفاده از ChatGPT شناسایی کرده است. بر اساس گزارش OpenAI، گروهی که به نام Storm-1679 شناخته می شود، مقالات و نظراتی را در رسانه های اجتماعی برای شکل دادن به افکار عمومی درباره معاون رئیس جمهور کامالا هریس و رئیس جمهور سابق دونالد ترامپ ایجاد کرده است. OpenAI گفت علاوه بر هدف قرار دادن نامزدهای ریاست جمهوری 2024 ایالات متحده، طوفان-1679 همچنین محتوایی در مورد تهاجم اسرائیل به غزه و حضور آن در المپیک 2024، حقوق جوامع آمریکای لاتین، سیاست ونزوئلا و استقلال اسکاتلند از بریتانیا تولید کرد.
این شرکت گفت که بیشتر پستها و مقالاتی که توسط OpenAI نظارت میشوند، توجه زیادی از سوی افراد واقعی دریافت نکردهاند. با این حال، این شرکت در وبلاگ خود جزئیات این حادثه را شرح داد و نوشت که دهها حساب کاربری که قبلاً به عنوان توییتر شناخته میشدند، جعل هویت محافظهکاران و مترقیها و استفاده از هشتگهایی مانند «#DumpTrump» و «#DumpKamala» را یافت. طبق گزارش OpenAI، گروه Storm-1679 حداقل از یک حساب اینستاگرام برای ارسال محتوای تولید شده توسط هوش مصنوعی نیز سوء استفاده کرده است.
OpenAI قبلاً “بازیگران تهدید وابسته به دولت” را با استفاده از ابزارهای خود توصیف کرده است، اما این اولین بار است که یک کمپین مداخله ای خاص در انتخابات را با استفاده از ChatGPT فاش می کند.
OpenAI گفت که با ممنوع کردن “گروهی” از حسابهایی که محتوا را ایجاد کردهاند، به این کشف پاسخ داده است. این شرکت همچنین گفت که “اطلاعات تهدیدات را با دولت، کمپین ها و سهامداران صنعت به اشتراک گذاشته است.” این شرکت به طور مشخص نام سهامداران را ذکر نکرد، اما تصاویری از برخی از پست ها را به اشتراک گذاشت. این اسکرین شات ها بین 8 تا 207 بازدید و تقریبا هیچ لایکی را نشان می دادند.
OpenAI گفت: Storm-1679 همچنین مقالات تولید شده توسط ChatGPT را در چندین وب سایت به اشتراک گذاشت که “تظاهر می کردند که رسانه های خبری مترقی و محافظه کار هستند.” این شرکت افزود: “اکثر پستهای رسانههای اجتماعی که ما شناسایی کردیم، لایک، اشتراکگذاری یا کامنت کمی دریافت کردند یا اصلاً دریافت نکردند. به همین ترتیب، ما هیچ شاخصی از اشتراکگذاری مقالات وب در رسانههای اجتماعی پیدا نکردیم.”
در گزارش 6 آگوست مایکروسافت، این شبکه Storm-2035 را به طور مشابه توصیف کرد – به عنوان یک شبکه ایرانی متشکل از “چهار وب سایت که به عنوان رسانه های خبری ظاهر می شوند.” به گفته مایکروسافت، این شبکه پست های “قطبی” در مورد انتخابات، حقوق همجنس گرایان و همچنین تهاجم اسرائیل به غزه ایجاد کرد.
گزارشهای مداخله آنلاین خارجی در انتخابات ایالات متحده تقریباً عادی شده است. به عنوان مثال، گزارش 6 آگوست مایکروسافت شامل جزئیات یک حمله فیشینگ مرتبط با ایران بود که یک مقام ناشناس “عالی رتبه” کمپین آمریکایی را هدف قرار داد. اندکی پس از اینکه مایکروسافت این گزارش را کنار گذاشت، کمپین ترامپ اعلام کرد که «منابع خارجی» برخی از ایمیلها و اسناد آن را در تلاش برای تأثیرگذاری بر انتخابات ریاستجمهوری سال 2024 به سرقت بردهاند، هشت سال پیش، یک گروه هکر مرتبط با روسیه معروف به Guccifer 2.0 ایمیلها را به سرقت برد به کمیته ملی دموکرات از طریق یک حمله فیشینگ مشابه؛ در نهایت، هزاران ایمیل و سند کمیته ملی دموکرات قبل از کنوانسیون ملی دموکرات ها در سال 2016 به بیرون درز کرد.
تحت فشار شدید قانونگذاران، شرکتهای بزرگ فناوری طی سالها تلاشهای مختلفی را در پاسخ به چنین حوادثی آغاز کردهاند. تلاشهای آنها شامل میمهای بررسی حقایق، افکار واهی، ممنوعیت تبلیغات سیاسی کوتاهمدت، «اتاق جنگ» و همکاری با رقبا و پلیس است.