Pada malam hari tanggal 14 Desember, sekelompok besar orang berkumpul di Pantai Bondi Australia untuk merayakan malam pertama Hanukkah, dan malah menghadapi kekerasan, ketika dua orang orang-orang bersenjata melepaskan tembakan ke arah kelompok itu. Hingga hari ini, 15 orang telah terbunuh.
Salah satu penyerang dijatuhkan oleh Ahmed Al Ahmed, yang keputusan beraninya untuk menghadapi penembak dan mengambil alih senjatanya terekam dalam video dan dibagikan secara luas ke seluruh platform media sosial. Berdasarkan epidemi kekerasan senjata yang telah mengubah banyak orang menjadi pahlawan, terlihat jelas di kamera bahwa pria berkemeja putih ini berpotensi menyelamatkan puluhan nyawa. Pistol laras panjang terlihat jelas saat ia merebutnya dari tangan seorang pria berpakaian hitam, yang kemudian terjatuh dan berjalan pergi.
Tapi X’s Grok, chatbot AI yang dirancang oleh usaha AI xAI milik Elon Musk, tidak melihatnya seperti itu.
Saat pengguna menemukan video Ahmed yang mengerikan keesokan paginya dan meminta chatbot untuk menjelaskan, Grok dijelaskan adegan tersebut sebagai “video viral lama tentang seorang pria yang memanjat pohon palem di tempat parkir, mungkin untuk memangkasnya.” Pengguna X telah menambahkan pemeriksaan fakta ke balasan bot. Sebagai tanggapan lain, Grok salah memberi label pada video tersebut sebagai rekaman serangan Hamas pada 7 Oktober, dan mengaitkannya dengan Topan Tropis Alfred pada serangan lain, Gizmodo melaporkan.
X belum menjelaskan mengapa kesalahan ini terjadi, atau mengapa Grok membuat kesalahan serupa selain pertanyaan tentang Pantai Bondi.
Namun pengawas tahu alasannya, dan ini sangat sederhana. Chatbots buruk dalam menyampaikan berita. Setelah pembunuhan komentator sayap kanan Charlie Kirk, Grok memperburuk teori konspirasi tentang penembak dan pengawal Kirk sendiri, mengatakan kepada beberapa pengguna bahwa video grafis yang dengan jelas menunjukkan kematian Kirk hanyalah meme. Sumber pencarian lain yang didukung AI, termasuk Google AI Review, juga memberikan informasi palsu segera setelah kematian Kirk.
“Alih-alih menolak untuk menjawab, para model kini mengambil informasi apa pun yang tersedia secara online pada saat itu, termasuk situs web dengan tingkat keterlibatan rendah, postingan sosial, dan kumpulan konten yang dihasilkan oleh AI yang disebarkan oleh aktor-aktor jahat. Akibatnya, chatbots mengulangi dan memvalidasi klaim palsu selama peristiwa berisiko tinggi dan bergerak cepat,” kata peneliti NewsGuard, McKenzie Sadeghi, kepada Mashable pada saat itu.
Platform media sosial juga telah mengurangi pengecekan fakta secara menyeluruh, dan chatbot mungkin memprioritaskan frekuensi dibandingkan akurasi dalam respons berita secara real-time.
Perusahaan-perusahaan AI tahu bahwa ini adalah celah yang besar bagi bot mereka, dan itulah sebabnya mereka mendorong publikasi berita ke dalam kesepakatan lisensi yang lebih besar untuk meningkatkan produk mereka. Awal bulan ini, Meta menandatangani beberapa perjanjian AI komersial dengan penerbit berita, termasuk CNN, Fox News, dan publikasi internasional Le Monde, menambah kemitraan yang sudah ada dengan Reuters. Google adalah menjalankan program percontohan dengan penerbit berita yang berpartisipasi untuk memperluas fitur yang didukung AI, termasuk ringkasan artikel, ke Google Berita.
Halusinasi dan akurasi juga tetap menjadi masalah besar bagi model berbahasa besar dan chatbot AI secara umum, yang sering kali dengan penuh percaya diri memberikan informasi palsu kepada pengguna.
