Openai telah melarang akun sekelompok pengguna Tiongkok yang telah berusaha menggunakan chatgpt untuk men -debug dan mengedit kode untuk alat pengawasan media sosial AI, perusahaan. Kampanye, yang oleh Openai memanggil peer review, melihat grup prompt chatgpt untuk menghasilkan promosi penjualan untuk program yang disarankan dokumen-dokumen tersebut dirancang untuk memantau sentimen anti-Cina di X, Facebook, YouTube, Instagram, dan platform lainnya. Operasi itu tampaknya sangat tertarik untuk menemukan seruan untuk protes terhadap pelanggaran hak asasi manusia di Cina, dengan maksud berbagi wawasan dengan otoritas negara itu.
“Jaringan ini terdiri dari akun chatgpt yang beroperasi dalam pola waktu yang konsisten dengan jam kerja Cina daratan, mendorong model kami dalam bahasa Cina, dan menggunakan alat kami dengan volume dan variasi yang konsisten dengan diminta manual, bukan otomatisasi,” kata Openai. “Operator menggunakan model kami untuk mengoreksi klaim bahwa wawasan mereka telah dikirim ke kedutaan Cina di luar negeri, dan kepada agen intelijen yang memantau protes di negara -negara termasuk Amerika Serikat, Jerman dan Inggris.”
Menurut Ben Nimmo, penyelidik utama dengan Openai, ini adalah pertama kalinya perusahaan menemukan alat AI semacam ini. “Aktor ancaman terkadang memberi kita gambaran tentang apa yang mereka lakukan di bagian lain internet karena cara mereka menggunakan model AI kami,” kata Nimmo .
Sebagian besar kode untuk alat pengawasan tampaknya didasarkan pada versi open-source dari salah satu meta. Grup ini juga tampaknya telah menggunakan chatgpt untuk menghasilkan tinjauan kinerja akhir tahun di mana ia mengklaim telah menulis email phishing atas nama klien di Cina.
“Menilai dampak dari kegiatan ini akan membutuhkan input dari beberapa pemangku kepentingan, termasuk operator dari setiap model open-source yang dapat menjelaskan kegiatan ini,” kata Openai tentang upaya operasi untuk menggunakan chatgpt untuk mengedit kode untuk pengawasan media sosial AI AI AI AI alat.
Secara terpisah, Openai mengatakan baru -baru ini melarang akun yang menggunakan chatgpt untuk menghasilkan pos -pos media sosial yang dikritik, seorang ilmuwan politik Cina dan pembangkang yang tinggal di AS di pengasingan. Grup yang sama juga menggunakan chatbot untuk menghasilkan artikel dalam bahasa Spanyol yang kritis terhadap AS. Artikel -artikel ini diterbitkan oleh organisasi berita “arus utama” di Amerika Latin dan sering dikaitkan dengan perusahaan atau perusahaan Cina.