Meta telah menghapus sejumlah profil yang dibuat oleh AI dari Facebook Instagram, perusahaan tersebut mengonfirmasi, setelah karakter AI tersebut memicu kemarahan dan ejekan yang meluas dari pengguna di media sosial.
Profil yang dihasilkan AI, yang diberi label sebagai “AI yang dikelola oleh Meta,” diluncurkan pada tahun , diluncurkan bersamaan dengan chatbot AI bermerek selebriti milik perusahaan (). Meta tampaknya tidak memperbarui profil ini selama beberapa bulan, dan halaman-halaman tersebut tampaknya sebagian besar luput dari perhatian hingga minggu ini, menyusul wawancara yang diterbitkan oleh Waktu Keuangan dengan Wakil Presiden AI Generatif Meta, Connor Hayes.
Dalam wawancara tersebut, Hayes berbicara tentang tujuan perusahaan untuk mengisi layanannya dengan profil yang dihasilkan AI yang dapat berinteraksi dengan orang-orang dan berfungsi “seperti halnya akun.” Komentar tersebut menarik perhatian pada profil AI buatan fMeta yang masih ada dan, pengguna tidak terlalu terkesan dengan apa yang mereka temukan.
Dengan sebutan “hellograndpabrian”, yang dianggap sebagai “pensiunan pengusaha tekstil yang selalu belajar” dan “datingwithCarter”, “pelatih kencan” AI, chatbot dimaksudkan untuk menampilkan “minat dan kepribadian unik” agar pengguna dapat diajak ngobrol. Di Instagram, profil mereka juga menampilkan postingan yang dibuat oleh AI yang, seperti 404 Media mencatat, sepertinya hal seperti itu menjadi lazim di banyak sudut Facebook.
Persona AI bernama “Liv” memicu kemarahan tertentu. Profil Instagram mengidentifikasi “Liv” sebagai “ibu 2 anak kulit hitam aneh yang bangga dan pemberi kebenaran”. Washington Post kolumnis Karen Attiah memposting serangkaian tangkapan layar di mana dia menginterogasi “Liv” tentang , dengan “Liv” berbagi bahwa itu dibuat oleh “tim yang sebagian besar berkulit putih.” Jurnalis independen Mady Castigan memposting di mana “Liv” mengatakan bahwa penciptanya sebagian terinspirasi oleh karakter Sophia Vergara dari Keluarga Modernkarakter yang tidak aneh atau berkulit hitam.
“Ada kebingungan: baru-baru ini Waktu Keuangan artikelnya adalah tentang visi kami untuk karakter AI yang ada di platform kami dari waktu ke waktu, bukan mengumumkan produk baru apa pun,” kata juru bicara kepada Engadget. “Akun yang direferensikan berasal dari pengujian yang kami luncurkan di Connect pada tahun 2023. Akun ini dikelola oleh manusia dan merupakan bagian dari eksperimen awal yang kami lakukan dengan karakter AI.”
Selain memicu cemoohan atas respons dan upaya mereka untuk menyesuaikan identitas yang terpinggirkan, pengguna juga mendapati bahwa profil AI tidak mungkin diblokir, karena alasan yang tidak diketahui. Daripada memperbaiki masalah, solusi Meta adalah menghentikan eksperimen sepenuhnya. “Kami mengidentifikasi bug yang memengaruhi kemampuan orang untuk memblokir AI tersebut,” kata seorang juru bicara, “dan kami menghapus akun tersebut untuk memperbaiki masalah tersebut.”
Meskipun uji coba ini gagal, perusahaan tampaknya tidak mengabaikan rencananya untuk menghadirkan lebih banyak “karakter” yang dihasilkan AI ke dalam aplikasinya. Awal tahun ini, perusahaan tersebut menggoda kemampuan melakukan panggilan video seperti aslinya. Pembuat konten dapat menggunakan chatbot mereka sendiri untuk merespons pengikut atas nama mereka. Meta juga mulai bereksperimen dengan memasukkan citra yang dihasilkan AI ke dalam feed Facebook pengguna.
Dalam sebuah wawancara tahun lalu, Hayes mengatakan kepada saya bahwa Meta kemungkinan akan menjadi lebih “proaktif” dalam menampilkan konten yang dihasilkan AI dari waktu ke waktu, membandingkannya dengan peralihan dari menampilkan konten yang direkomendasikan daripada postingan dari orang yang Anda ikuti.
“Pada awal munculnya aplikasi sosial… kumpulan hal-hal yang dapat Anda lihat pada hari tertentu dibatasi oleh siapa yang Anda ikuti atau berteman. Dan selama lima atau enam tahun terakhir, banyak aplikasi — termasuk kami sendiri — telah beralih untuk melonggarkan batasan tersebut dan mulai merekomendasikan konten dari akun yang tidak Anda ikuti.
“Saya pikir mungkin lompatan berikutnya yang akan terjadi adalah melonggarkan batasan atas apa yang dapat dibuat oleh manusia, dan benar-benar mendapatkan konten yang merupakan kombinasi dari hal-hal yang, Anda tahu, telah diciptakan oleh manusia, tetapi juga sepenuhnya merupakan mesin. dihasilkan.”
Mungkin masih perlu waktu sebelum Meta sepenuhnya menyadari visi tersebut. Namun jika reaksi terhadap eksperimen awalnya merupakan indikasi, perusahaan masih memiliki banyak pekerjaan yang harus dilakukan untuk meyakinkan orang-orang yang memiliki persona AI yang layak untuk diajak berinteraksi.