Banyak orang mencoba menggunakan generator gambar DALL-E OpenAI selama musim pemilu, namun perusahaan tersebut mengatakan bahwa mereka mampu menghentikan mereka untuk menggunakannya sebagai alat untuk membuat deepfake. ChatGPT menolak lebih dari 250,000 permintaan untuk menghasilkan gambar dengan Presiden Biden, Presiden terpilih Trump, Wakil Presiden Harris, Wakil Presiden terpilih Vance dan Gubernur Walz, OpenAI mengatakan dalam sebuah laporan baru. Perusahaan menjelaskan bahwa ini adalah akibat langsung dari tindakan keamanan yang diterapkan sebelumnya sehingga ChatGPT menolak membuat gambar dengan orang sungguhan, termasuk politisi.
OpenAI telah mempersiapkan pemilihan presiden AS sejak awal tahun. Mereka menyusun strategi yang dimaksudkan untuk mencegah alat-alatnya digunakan untuk membantu menyebarkan informasi yang salah dan memastikan bahwa orang-orang yang bertanya kepada ChatGPT tentang pemungutan suara di AS diarahkan ke CanIVote.org. OpenAI mengatakan 1 juta tanggapan ChatGPT mengarahkan orang ke situs web tersebut pada bulan menjelang hari pemilihan. Chatbot ini juga menghasilkan 2 juta tanggapan pada hari pemilu dan sehari setelahnya, dan memberitahu orang-orang yang menanyakan hasil pemilu untuk memeriksa Associated Press, Reuters, dan sumber berita lainnya. OpenAI juga memastikan bahwa tanggapan ChatGPT “tidak mengungkapkan preferensi politik atau merekomendasikan kandidat bahkan ketika ditanya secara eksplisit”.
Tentu saja, DALL-E bukan satu-satunya pembuat gambar AI yang ada, dan ada banyak deepfake terkait pemilu yang beredar di media sosial. Salah satu deepfake menampilkan Kamala Harris dalam video kampanye yang diubah sehingga dia mengatakan hal-hal yang sebenarnya tidak dia katakan, seperti “Saya terpilih karena saya adalah orang yang paling direkrut dari keberagaman.”