Selama bertahun-tahun, itu biaya penggunaan layanan “gratis” dari Google, Facebook, Microsoft, dan perusahaan Teknologi Besar lainnya telah menyerahkan data Anda. Mengunggah kehidupan Anda ke cloud dan menggunakan teknologi gratis memberikan kemudahan, namun hal ini memberikan informasi pribadi ke tangan perusahaan-perusahaan raksasa yang sering kali ingin memonetisasinya. Kini, gelombang berikutnya dari sistem AI generatif cenderung menginginkan lebih banyak akses ke data Anda dibandingkan sebelumnya.
Selama dua tahun terakhir, alat AI generatif—seperti ChatGPT dari OpenAI dan Gemini dari Google—telah melampaui chatbot yang relatif sederhana dan hanya berupa teks yang awalnya dirilis oleh perusahaan tersebut. Sebaliknya, Big AI semakin membangun dan mendorong penerapan agen dan “asisten” yang menjanjikan bahwa mereka dapat mengambil tindakan dan menyelesaikan tugas atas nama Anda. Masalahnya? Untuk mendapatkan manfaat maksimal dari mereka, Anda harus memberi mereka akses ke sistem dan data Anda. Meskipun sebagian besar kontroversi awal mengenai model bahasa besar (LLM) adalah penyalinan data berhak cipta secara online, akses agen AI ke data pribadi Anda kemungkinan akan menyebabkan sejumlah masalah baru.
“Agen AI, agar dapat memiliki fungsionalitas penuh, agar dapat mengakses aplikasi, sering kali perlu mengakses sistem operasi atau tingkat OS perangkat tempat Anda menjalankannya,” kata Harry Farmer, peneliti senior di Ada Lovelace Institute, yang pekerjaannya mencakup mempelajari dampak asisten AI dan menemukan bahwa hal tersebut dapat menyebabkan “ancaman besar” terhadap keamanan siber dan privasi. Untuk personalisasi chatbot atau asisten, kata Farmer, mungkin ada trade-off data. “Semua hal itu, agar bisa berfungsi, memerlukan cukup banyak informasi tentang Anda,” katanya.
Meskipun tidak ada definisi pasti tentang apa sebenarnya agen AI, mereka sering kali dianggap sebagai sistem AI generatif atau LLM yang telah diberi otonomi tertentu. Saat ini, agen atau asisten, termasuk browser web AI, dapat mengendalikan perangkat Anda dan menjelajahi web untuk Anda, memesan penerbangan, melakukan penelitian, atau menambahkan item ke keranjang belanja. Beberapa dapat menyelesaikan tugas yang mencakup lusinan langkah individual.
Meskipun agen AI saat ini bermasalah dan sering kali tidak dapat menyelesaikan tugasnya mereka sudah ditetapkan untuk melakukannyaperusahaan teknologi bertaruh bahwa sistem akan melakukan hal tersebut secara fundamental mengubah jutaan orang ketika mereka menjadi lebih mampu. Bagian penting dari kegunaannya kemungkinan besar berasal dari akses terhadap data. Jadi, jika Anda menginginkan sistem yang dapat memberikan jadwal dan tugas Anda, sistem tersebut memerlukan akses ke kalender, pesan, email, dan banyak lagi.
Beberapa produk dan fitur AI yang lebih canggih memberikan gambaran sekilas tentang seberapa banyak agen dan sistem akses yang dapat diberikan. Agen tertentu yang dikembangkan untuk bisnis dapat membaca kode, email, databasePesan kendur, file yang disimpan di Google Drive, dan banyak lagi. Produk Recall yang kontroversial dari Microsoft mengambil tangkapan layar desktop Anda setiap beberapa detik, sehingga Anda dapat mencari semua yang telah Anda lakukan di perangkat Anda. Tinder telah menciptakan fitur AI yang bisa mencari melalui foto di ponsel Anda “untuk lebih memahami” “minat dan kepribadian” pengguna.
Carissa Véliz, seorang penulis dan profesor di Universitas Oxford, mengatakan seringkali konsumen tidak memiliki cara nyata untuk memeriksa apakah AI atau perusahaan teknologi menangani data mereka seperti yang mereka klaim. “Perusahaan-perusahaan ini sangat pilih-pilih dalam menggunakan data,” kata Véliz. “Mereka terbukti tidak terlalu menghormati privasi.”
