Propaganda Tiongkok dan operasi teknik sosial untuk membuat posting, komentar, dan mendorong keterlibatan di rumah dan di luar negeri. Openai mengatakan baru -baru ini mengganggu empat operasi pengaruh rahasia Cina yang menggunakan alatnya untuk menghasilkan posting media sosial dan balasan pada platform termasuk Tiktok, Facebook, Reddit dan X.
Komentar yang dihasilkan berputar di sekitar beberapa topik dari politik AS ke video game Taiwan di mana para pemain melawan partai komunis Tiongkok. ChatGPT digunakan untuk membuat posting media sosial yang mendukung dan mengecam masalah tombol panas yang berbeda untuk membangkitkan wacana politik yang menyesatkan.
Ben Nimmo, Investigator Utama di Openai “Apa yang kami lihat dari Cina adalah berbagai operasi rahasia menggunakan berbagai taktik.” Sementara Openai mengklaim itu juga mengganggu beberapa operasi yang diyakini berasal dari Rusia, Iran dan Korea Utara, Nimmo menguraikan operasi Tiongkok yang mengatakan mereka “menargetkan banyak negara dan topik yang berbeda […] Beberapa dari mereka menggabungkan unsur -unsur operasi pengaruh, rekayasa sosial, pengawasan. “
Ini jauh dari pertama kali ini terjadi. Pada tahun 2023, menemukan bahwa konten yang dihasilkan AI telah digunakan dalam kampanye pengaruh online yang bermotivasi politik dalam berbagai contoh sejak 2019.
Pada tahun 2024, menguraikan upayanya untuk mengganggu lima operasi yang berafiliasi dengan negara di seluruh Cina, Iran dan Korea Utara yang menggunakan model OpenAI untuk niat jahat. Aplikasi ini termasuk kode debugging, menghasilkan skrip dan membuat konten untuk digunakan dalam kampanye phishing.
Pada tahun yang sama, Openai mengatakan bahwa menggunakan chatgpt untuk membuat artikel politik yang sudah lama terjadi tentang pemilihan AS yang kemudian diposting di situs berita palsu yang menyamar sebagai outlet konservatif dan progresif. Operasi ini juga membuat komentar untuk memposting di X dan Instagram melalui akun palsu, sekali lagi mendukung sudut pandang yang berlawanan.
“Kami umumnya tidak melihat operasi ini mendapatkan lebih banyak keterlibatan karena penggunaan AI,” Nimmo . “Untuk operasi ini, alat yang lebih baik tidak selalu berarti hasil yang lebih baik.”
Ini menawarkan sedikit kenyamanan. Karena AI generatif menjadi lebih murah dan, masuk akal bahwa kemampuannya untuk menghasilkan konten secara massal akan membuat kampanye pengaruh seperti ini lebih mudah dan lebih terjangkau untuk dibangun, bahkan jika kemanjurannya tetap tidak berubah.