Foto yang diambil pada tanggal 2 Februari 2024 ini menunjukkan Lu Yu, kepala Manajemen Produk dan Operasi Wantalk, chatbot kecerdasan buatan yang dibuat oleh perusahaan teknologi Tiongkok Baidu, menunjukkan profil pacar digital di ponselnya, di kantor pusat Baidu di Beijing.
Giok Gao | Afp | Gambar Getty
BEIJING — Tiongkok berencana untuk membatasi chatbot yang didukung kecerdasan buatan agar tidak mempengaruhi emosi manusia dengan cara yang dapat menyebabkan bunuh diri atau melukai diri sendiri, menurut rancangan aturan dirilis hari Sabtu.
Itu peraturan yang diusulkan dari Our on-line world Administration menargetkan apa yang disebutnya “layanan AI interaktif mirip manusia,” menurut terjemahan dokumen berbahasa Mandarin oleh CNBC.
Langkah-langkah tersebut, setelah diselesaikan, akan berlaku untuk produk atau layanan AI yang ditawarkan kepada publik di Tiongkok yang menyimulasikan kepribadian manusia dan melibatkan pengguna secara emosional melalui teks, gambar, audio, atau video. Periode komentar publik berakhir pada 25 Januari.
Peraturan yang direncanakan oleh Beijing ini akan menandai upaya pertama di dunia untuk mengatur AI dengan karakteristik manusia atau antropomorfik, kata Winston Ma, profesor di NYU College of Regulation. Proposal terbaru ini muncul ketika perusahaan-perusahaan Tiongkok dengan cepat mengembangkan pendamping AI dan selebriti digital.
Dibandingkan dengan peraturan AI generatif Tiongkok pada tahun 2023, Ma mengatakan bahwa versi ini “menyoroti lompatan dari keamanan konten ke keamanan emosional.”
Rancangan peraturan mengusulkan bahwa:
- Chatbot AI tidak boleh menghasilkan konten yang mendorong bunuh diri atau menyakiti diri sendiri, atau terlibat dalam kekerasan verbal atau manipulasi emosional yang merusak kesehatan psychological pengguna.
- Jika pengguna secara khusus ingin bunuh diri, penyedia teknologi harus meminta manusia mengambil alih percakapan dan segera menghubungi wali pengguna atau individu yang ditunjuk.
- Chatbot AI tidak boleh menghasilkan konten yang berhubungan dengan perjudian, cabul, atau kekerasan.
- Anak di bawah umur harus memiliki izin wali untuk menggunakan AI untuk persahabatan emosional, dengan batasan waktu penggunaan.
- Platform harus dapat menentukan apakah pengguna masih di bawah umur meskipun pengguna tidak mengungkapkan usianya, dan, jika ada keraguan, menerapkan pengaturan untuk anak di bawah umur, sambil mengizinkan pengajuan banding.
Ketentuan tambahan akan mengharuskan penyedia teknologi untuk mengingatkan pengguna setelah dua jam interaksi AI terus-menerus dan mewajibkan penilaian keamanan untuk chatbot AI dengan lebih dari 1 juta pengguna terdaftar atau lebih dari 100.000 pengguna aktif bulanan.
Dokumen tersebut juga mendorong penggunaan AI yang mirip manusia dalam “penyebaran budaya dan persahabatan lansia.”
IPO chatbot AI Tiongkok
Proposal ini muncul tak lama setelah dua startup chatbot AI terkemuka di Tiongkok, Z.ai dan Minimax, mengajukan penawaran umum perdana di Hong Kong bulan ini.
Minimax terkenal secara internasional karena aplikasi Talkie AI-nya, yang memungkinkan pengguna mengobrol dengan karakter digital. Aplikasi tersebut dan versi domestik Tiongkoknya, Xingye, menyumbang lebih dari sepertiga pendapatan perusahaan dalam tiga kuartal pertama tahun ini, dengan rata-rata sebesar lebih dari 20 juta pengguna aktif bulanan selama waktu itu.
Z.ai, juga dikenal sebagai Zhipu, diajukan dengan nama “Teknologi Atlas Pengetahuan.” Meskipun perusahaan tidak mengungkapkan pengguna aktif bulanan, perusahaan mencatat teknologinya “diberdayakan” sekitar 80 juta perangkat, termasuk ponsel pintar, komputer pribadi, dan kendaraan pintar.
Tidak ada perusahaan yang menanggapi permintaan komentar CNBC tentang bagaimana aturan yang diusulkan dapat mempengaruhi rencana IPO mereka.
Berlangganan sekarang
