Dia menciptakan Grand Theft Auto. Kini dia kembali dengan novel tentang AI yang membajak pikiran Anda

Dan Houser adalah salah satu dalang di balik seri video game revolusioner Grand Theft Auto.

Kini, setelah meninggalkan Rockstar Games dan meluncurkan perusahaannya sendiri, dia merilis novel debut tentang jenis permainan yang sangat berbeda.

A Better Paradise adalah visi distopia dalam waktu dekat di mana game komputer yang dipimpin AI menjadi nakal.

Bertempat di dunia yang terpolarisasi, Mark Tyburn berusaha menciptakan surga virtual bagi orang-orang untuk menemukan perlindungan dan terhubung kembali dengan diri mereka sendiri melawan dunia media sosial yang sangat menyita waktu.

Namun semuanya menjadi salah ketika mereka akhirnya melepaskan bot AI yang misterius dan hidup bernama NigelDave ke dalam masyarakat – “sebuah hiper-kecerdasan yang dibangun oleh manusia” – termasuk kelemahannya.

Pembaca dapat melihat proses berpikirnya saat ia berjuang dengan “pengetahuan tanpa batas dan tanpa kebijaksanaan”.

“Apa yang dirasakan seorang anak yang sangat dewasa sebelum waktunya, yang mengingat semua yang pernah ia pikirkan – karena komputer tidak bisa melupakan apa pun – ketika ia mulai berbicara?” kata Houser.

Rasanya seperti A Better Paradise meramalkan masa depan.

Pertama kali dirilis sebagai podcast, buku ini muncul seiring dengan terus berkembangnya AI yang berarti tujuh perusahaan besar di sektor ini kini secara kolektif bernilai lebih dari perekonomian Tiongkok.

Namun Houser mengatakan dia mulai menulis buku tersebut sebagai “tahun yang baik” sebelum ChatGPT OpenAI diluncurkan ke publik pada tahun 2022, lengkap dengan logo yang sangat mirip dengan ciptaan fiksinya.

Sebaliknya, ketergantungan manusia terhadap teknologi selama pandemi Covid-19 – pada skala yang dia anggap remeh –lah yang menginspirasi pemikirannya.

Dalam novelnya – yang terkadang terasa penuh monolog – Houser membayangkan dunia yang sangat digital dan terasing, tempat orang-orang tidak lagi memperdalam masalah politik ke dalam spiral media sosial dan AI generatif.

Masukkan CEO Tyburn Industria, Mark, yang bermimpi membangun Ark, sebuah pengalaman bermain game yang mendalam yang dapat dimasuki pengguna untuk terhubung kembali dengan diri mereka sendiri. Ini menghasilkan dunia dan misi yang disesuaikan dengan keinginan dan kebutuhan terdalam setiap pemain.

Namun selama pengujian, Tabut tersebut menjadi kotak Pandora yang membuat kecanduan. Beberapa pemain menemukan kegembiraan; yang lain menghadapi teror. Seseorang bahkan berhubungan kembali dengan saudara perempuannya yang telah meninggal.

Sementara itu, bot AI nakal bernama NigelDave menyelinap ke dunia nyata, mengendalikan pikiran dan realitas rekayasa yang tidak dapat dikendalikan oleh siapa pun.

Ditambang untuk periklanan, orang-orang bertanya-tanya apakah pemikiran mereka asli. Semuanya terlacak, dan tidak ada yang aman. Ketika keadaan darurat iklim semakin parah, masyarakat terjerumus ke dalam wilayah perang saudara.

Satu-satunya cara untuk melarikan diri adalah dengan “melayang” – yang berarti bersembunyi dari ribuan algoritma dengan hidup di luar jaringan, terus bergerak dan menekan paranoia menjengkelkan bahwa pikiran Anda bukan milik Anda sendiri.

Bagi pembaca, NigelDave terasa seperti mimpi buruk ChatGPT yang tidak beres.

Alat AI baru-baru ini mencapai 800 juta pengguna aktif mingguan, menurut bos Sam Altman, dan Houser yakin beberapa orang menjadi bergantung pada teknologi yang menegaskan “lapisan manusia”.

Kepala AI Microsoft Mustafa Suleyman telah memperingatkan adanya peningkatan Psikosis AI – istilah non-klinis yang menggambarkan kejadian di mana orang semakin bergantung pada chatbot seperti Claude, Grok, dan ChatGPT dan menjadi yakin bahwa sesuatu yang khayalan telah menjadi nyata.

Dalam beberapa kasus, chatbot memicu fantasi besar tentang peluang masa depan. Di sisi lain, ini muncul dalam hubungan romantis. Yang lebih meresahkan adalah laporan orang tua mengatakan bot telah mendorong anak-anak mereka untuk bunuh diri.

Menanggapi peningkatan pengawasan, pembuat ChatGPT OpenAI baru-baru ini memperketat protokol kesejahteraannyadengan pembaruan yang dirancang untuk memastikan chatbotnya merespons “dengan aman dan penuh empati terhadap potensi tanda-tanda delusi atau mania”.

Masyarakat yang dipicu oleh algoritma yang memusingkan tempat NigelDave dilepaskan juga mencerminkan masyarakat kita.

Orang tua khawatir anak-anak mereka akan terpapar informasi palsu atau konten berbahaya. Tahun lalu Kapolri menggambarkan hal tersebut radikalisasi misoginis yang “cukup menakutkan”. dari anak laki-laki dan remaja putra. Dan pada tahun 2014 Facebook mengaku memanipulasi feed berita dari hampir 700.000 pengguna tanpa persetujuan mereka untuk mengelola emosi yang mereka alami.

“Sebagai orang tua, Anda selalu khawatir bahwa apa pun yang Anda berikan kepada anak-anak Anda akan memberikan mereka informasi palsu atau sekadar membombardir mereka dengan terlalu banyak informasi,” kata Houser.

Namun apakah berani bagi pembuat video game untuk memperingatkan bahaya ini – mengingat sejarah panjang video game sendiri yang dituduh membuat generasi muda melakukan kekerasan?

Houser menegaskan ada perbedaan.

“Kami selalu memiliki data mengenai kekerasan dalam game, dan data tersebut sangat jelas: semakin banyak orang yang bermain video game, maka kekerasan di kalangan remaja pun menurun.

“Apapun yang dikatakan orang, kami tahu yang terjadi justru sebaliknya.”

Profesor psikologi dan peneliti kekerasan dalam game, Pete Etchells, mengatakan sejumlah penelitian menunjukkan “tidak ada dampak berarti dari bermain game kekerasan terhadap agresi”.

Model AI dan media sosial adalah masalah lain – sebuah “paradigma baru” dalam mengubah perilaku yang tidak pernah terancam oleh game, menurut Matt Navarra, konsultan media sosial dan penulis Geekout Newsletter.

Dia mengatakan mengabaikan kekhawatiran sebagai kepanikan moral gaya GTA “meremehkan apa yang sedang berubah”.

“Kita berbicara tentang sistem eksternal yang berpotensi membentuk keyakinan seseorang atau memanipulasi perhatian, pengalaman yang dipersonalisasi, mendorong perilaku, atau bahkan memengaruhi identitas dan keadaan emosional.”

Mungkinkah Houser maju dengan A Better Paradise at Rockstar? “Saya tidak tahu apakah saya punya bandwidth untuk memikirkannya,” katanya kepada saya.

Dia dijelaskan sebelumnya kelelahan mengelola game sandbox dunia terbuka yang luas seperti Red Dead Redemption dan GTA berperan dalam kepergiannya.

Tujuan dari bukunya adalah untuk menciptakan “sesuatu yang benar-benar berbeda di era kejenuhan media yang gila ini”.

Jadi di mana selanjutnya? Dia sudah menulis bagian kedua dari seri ini, dan ada rencana untuk mengembangkan sebuah video game, yang dia janjikan visualnya akan menjadi terobosan baru.

Pesan utamanya, katanya, adalah jangan biarkan perangkat Anda – atau AI – “memberi tahu Anda apa yang harus Anda pikirkan”. Jika tidak, kata Houser, “Anda menyerahkan kendali atas telepon Anda”.

Ketakutan terbesarnya, sebagai pencipta dunia, adalah kehilangan imajinasi karena banyaknya algoritma. Kadang-kadang setelah menelusuri selama berjam-jam, dia menyadari: “Saya tidak punya ide sepanjang hari”.

“Jika Anda offline sebentar – terkadang saya berjalan-jalan tanpa ponsel, Anda mulai punya ide.

“Manusia lebih baik berpikir daripada tidak,” katanya. “Berpikir adalah suatu hak istimewa.”