OpenAI mengatakan pada hari Jumat bahwa mereka menggagalkan kampanye pengaruh Iran yang menggunakan ChatGPT untuk membuat berita palsu dan kiriman media sosial yang ditujukan kepada warga Amerika. Perusahaan tersebut mengatakan bahwa mereka mengidentifikasi dan melarang akun yang membuat konten untuk lima situs web (dalam bahasa Inggris dan Spanyol) yang berpura-pura menjadi outlet berita, menyebarkan “pesan yang memecah belah” tentang isu-isu seperti kampanye presiden AS, hak-hak LGBTQ+, dan perang di Gaza.
Operasi tersebut diidentifikasi sebagai “Storm-2035,” bagian dari serangkaian kampanye pengaruh yang diidentifikasi Microsoft minggu lalu sebagai “terkait dengan pemerintah Iran.” Selain unggahan berita, operasi tersebut mencakup “lusin akun di X dan satu di Instagram” yang terhubung dengan operasi tersebut. OpenAI mengatakan operasi tersebut tampaknya tidak mendapatkan perhatian yang berarti. “Mayoritas unggahan media sosial yang kami identifikasi menerima sedikit suka, bagikan, atau komentar atau tidak sama sekali,” tulis perusahaan tersebut.
Selain itu, OpenAI mengatakan bahwa pada Skala Breakout milik Brookings Institution, yang menilai ancaman, operasi tersebut hanya mencatat peringkat Kategori 2 (pada skala satu hingga enam). Itu berarti operasi tersebut menunjukkan “aktivitas di berbagai platform, tetapi tidak ada bukti bahwa orang sungguhan mengambil atau membagikan konten mereka secara luas.”
OpenAI menggambarkan operasi tersebut sebagai pembuatan konten untuk outlet berita konservatif dan progresif palsu, yang menargetkan sudut pandang yang berlawanan. Bloomberg mengatakan konten tersebut menyiratkan Donald Trump “disensor di media sosial dan siap mendeklarasikan dirinya sebagai raja AS.” Yang lain membingkai pilihan Kamala Harris atas Tim Walz sebagai pasangannya sebagai “pilihan yang diperhitungkan untuk persatuan.”
OpenAI menambahkan bahwa operasi tersebut juga membuat konten tentang kehadiran Israel di Olimpiade dan (pada tingkat yang lebih rendah) politik Venezuela, hak-hak masyarakat Amerika Latin, dan Kemerdekaan Skotlandia. Selain itu, kampanye tersebut membumbui hal-hal berat dengan komentar tentang mode dan kecantikan, “mungkin agar tampak lebih autentik atau dalam upaya untuk membangun pengikut.”
“Operasi ini mencoba melibatkan kedua belah pihak, namun tampaknya tidak ada keterlibatan dari kedua belah pihak,” kata investigator OpenAI Intelligence and Investigations Ben Nimmo Bloomberg.
Kegagalan operasi pengaruh ini menyusul pengungkapan awal minggu ini bahwa peretas Iran telah menargetkan kampanye Harris dan Trump. FBI mengatakan penasihat informal Trump, Roger Stone, menjadi korban email phishing. Peretas Iran kemudian mengambil alih akunnya dan mengirim pesan dengan tautan phishing ke orang lain. FBI tidak menemukan bukti bahwa ada orang dalam kampanye Harris yang tertipu oleh skema tersebut.