Oke, apa yang terjadi dengan algo LinkedIn?

Suatu hari di bulan November, seorang ahli strategi produk yang kami sebut Michelle (bukan nama sebenarnya), masuk ke akun LinkedIn-nya dan mengubah jenis kelaminnya menjadi pria. Dia juga mengubah namanya menjadi Michael, katanya kepada TechCrunch.

Dia ikut serta dalam eksperimen yang disebut #WearthePants di mana wanita diuji hipotesis bahwa algoritma baru LinkedIn bias terhadap perempuan.

Selama berbulan-bulan, beberapa LinkedIn yang berat pengguna mengeluh melihat penurunan keterlibatan dan tayangan di jejaring sosial yang berorientasi karier. Hal ini terjadi setelah wakil presiden bidang teknik perusahaan, Tim Jurka, mengatakan pada bulan Agustus bahwa platform tersebut telah “baru-baru ini” menerapkan LLM untuk membantu menampilkan konten yang berguna bagi pengguna.

Michelle (yang identitasnya diketahui TechCrunch) curiga dengan perubahan tersebut karena dia memiliki lebih dari 10.000 pengikut dan menulis postingan untuk suaminya, yang hanya memiliki sekitar 2.000. Namun dia dan suaminya cenderung mendapatkan jumlah tayangan postingan yang sama, katanya, meskipun pengikutnya lebih banyak.

“Satu-satunya variabel yang signifikan adalah gender,” katanya.

Marilynn Joyner, seorang pendiri, juga mengubah profil gendernya. Dia telah memposting di LinkedIn secara konsisten selama dua tahun dan menyadari dalam beberapa bulan terakhir bahwa visibilitas postingannya menurun. “Saya mengubah jenis kelamin di profil saya dari perempuan menjadi laki-laki, dan tayangan saya melonjak 238% dalam sehari,” katanya kepada TechCrunch.

Megan Cornish melaporkan hasil serupa, begitu pula Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies, Lucy Ferguson, dan segera.

LinkedIn mengatakan itu “algoritma dan sistem AI-nya tidak menggunakan informasi demografis seperti usia, ras, atau jenis kelamin sebagai sinyal untuk menentukan visibilitas konten, profil, atau postingan di Umpan” dan bahwa “snapshot pembaruan feed Anda sendiri yang tidak mewakili secara sempurna, atau memiliki jangkauan yang setara, tidak secara otomatis menyiratkan perlakuan tidak adil atau bias” dalam Feed.

Pakar algoritma sosial sepakat bahwa seksisme eksplisit mungkin bukan penyebabnya, meskipun bias implisit mungkin menjadi penyebabnya.

Platform adalah “simfoni rumit dari algoritme yang menarik pengaruh matematika dan sosial tertentu, secara bersamaan dan terus-menerus,” Brandeis Marshallseorang konsultan etika knowledge, mengatakan kepada TechCrunch.

“Perubahan foto profil dan nama seseorang hanyalah salah satu pendorongnya,” katanya, seraya menambahkan bahwa algoritme juga dipengaruhi oleh, misalnya, cara pengguna berinteraksi dan saat ini dengan konten lain.

“Apa yang tidak kami ketahui adalah faktor-faktor lain yang membuat algoritma ini memprioritaskan konten seseorang dibandingkan yang lain. Ini adalah masalah yang lebih rumit dari perkiraan orang,” kata Marshall.

Kode bro

Itu #Pakai Celana percobaan dimulai dengan dua pengusaha — Cindy Gallop dan Jane Evans.

Mereka meminta dua pria untuk membuat dan memposting konten yang sama dengan mereka, karena penasaran apakah gender adalah alasan mengapa banyak wanita merasa menurun dalam hal keterlibatan. Gallop dan Evans keduanya memiliki pengikut yang cukup besar — gabungan lebih dari 150.000 orang dibandingkan dengan dua pria yang saat itu berjumlah sekitar 9.400 orang.

Gallop melaporkan bahwa postingannya hanya menjangkau 801 orang, sedangkan pria yang memposting konten yang sama persis mencapai 10.408 orang, lebih dari 100% pengikutnya. Wanita lain kemudian mengambil bagian. Beberapa orang, seperti Joyner, yang menggunakan LinkedIn untuk memasarkan bisnisnya, menjadi khawatir.

“Saya sangat ingin melihat LinkedIn bertanggung jawab atas segala bias yang mungkin ada dalam algoritmanya,” kata Joyner.

Namun LinkedIn, seperti platform media sosial dan pencarian lain yang bergantung pada LLM, hanya memberikan sedikit rincian tentang bagaimana mannequin pemilihan konten dilatih.

Marshall mengatakan bahwa sebagian besar platform ini “secara bawaan telah menanamkan sudut pandang kulit putih, laki-laki, dan berpusat pada Barat” karena siapa yang melatih para mannequin tersebut. Peneliti menemukan bukti bias manusia seperti seksisme dan rasisme dalam mannequin LLM populer karena mannequin tersebut dilatih berdasarkan konten buatan manusia, dan manusia sering kali terlibat langsung dalam pasca pelatihan atau pembelajaran penguatan.

Namun, cara setiap perusahaan menerapkan sistem AI-nya masih diselimuti kerahasiaan kotak hitam algoritmik.

LinkedIn mengatakan bahwa eksperimen #WearthePants tidak mungkin menunjukkan bias gender terhadap perempuan. Pernyataan Jurka pada bulan Agustus mengatakan — dan Kepala AI dan Tata Kelola yang Bertanggung Jawab LinkedIn, Sakshi Jain, ditegaskan kembali di postingan lain pada bulan November – bahwa sistemnya tidak menggunakan informasi demografis sebagai sinyal visibilitas.

Sebaliknya, LinkedIn mengatakan kepada TechCrunch bahwa mereka menguji jutaan postingan untuk menghubungkan pengguna dengan peluang. Dikatakan bahwa knowledge demografis hanya digunakan untuk pengujian seperti itu, seperti melihat apakah postingan “dari pembuat konten yang berbeda bersaing secara setara dan bahwa pengalaman menggulir, apa yang Anda lihat di feed, konsisten di seluruh audiens,” kata perusahaan itu kepada TechCrunch.

LinkedIn telah terkenal meneliti dan menyesuaikan algoritmanya untuk mencoba memberikan yang kurang bias pengalaman bagi pengguna.

Variabel yang tidak diketahui inilah, kata Marshall, yang mungkin menjelaskan mengapa beberapa perempuan melihat peningkatan tayangan setelah mengubah profil gender mereka menjadi laki-laki. Berpartisipasi dalam tren viral, misalnya, dapat meningkatkan keterlibatan; beberapa akun memposting untuk pertama kalinya setelah sekian lama, dan algoritme mungkin dapat memberikan imbalan kepada mereka karena melakukan hal tersebut.

Nada dan gaya penulisan mungkin juga berperan. Michelle, misalnya, mengatakan pada minggu dia memposting sebagai “Michael,” dia sedikit menyesuaikan nada suaranya, menulis dengan gaya yang lebih sederhana dan lugas, seperti yang dia lakukan untuk suaminya. Saat itulah dia mengatakan tayangan melonjak 200% dan keterlibatan meningkat 27%.

Dia menyimpulkan bahwa sistem tersebut tidak “secara eksplisit seksis,” namun tampaknya menganggap gaya komunikasi yang umumnya diasosiasikan dengan perempuan “mewakili nilai yang lebih rendah.”

Stereotip laki-laki gaya penulisan diyakini lebih ringkassedangkan stereotip gaya menulis untuk wanita dibayangkan menjadi lebih lembut dan lebih emosional. Jika LLM dilatih untuk meningkatkan tulisan yang sesuai dengan stereotip laki-laki, itu adalah bias yang halus dan tersirat. Dan seperti yang kami laporkan sebelumnya, para peneliti telah menentukan bahwa sebagian besar LLM penuh dengan hal tersebut.

Sarah Dean, asisten profesor ilmu komputer di Cornell, mengatakan bahwa platform seperti LinkedIn sering kali menggunakan seluruh profil, selain perilaku pengguna, saat menentukan konten yang akan dipromosikan. Itu mencakup pekerjaan di profil pengguna dan jenis konten yang biasanya mereka gunakan.

“Demografi seseorang dapat mempengaruhi ‘kedua sisi’ algoritma – apa yang mereka lihat dan siapa yang melihat apa yang mereka posting,” kata Dean.

LinkedIn mengatakan kepada TechCrunch bahwa sistem AI-nya melihat ratusan sinyal untuk menentukan apa yang dikirimkan ke pengguna, termasuk wawasan dari profil, jaringan, dan aktivitas seseorang.

“Kami menjalankan pengujian berkelanjutan untuk memahami apa yang membantu orang menemukan konten yang paling relevan dan tepat waktu untuk karier mereka,” kata juru bicara tersebut. “Perilaku anggota juga menentukan feed, perubahan apa yang diklik, disimpan, dan dilibatkan orang setiap hari, serta format apa yang mereka suka atau tidak suka. Perilaku ini juga secara alami menentukan apa yang muncul di feed bersama dengan pembaruan apa pun dari kami.”

Chad Johnson, pakar penjualan yang aktif di LinkedIn, dijelaskan perubahan seperti tidak memprioritaskan suka, komentar, dan posting ulang. Sistem LLM “tidak lagi peduli seberapa sering Anda memposting atau jam berapa,” tulis Johnson dalam sebuah postingan. “Yang penting adalah apakah tulisan Anda menunjukkan pemahaman, kejelasan, dan nilai.”

Semua ini membuat sulit untuk menentukan penyebab sebenarnya dari hasil #WearthePants.

Orang-orang tidak menyukai algo

Namun demikian, tampaknya banyak orang, baik gender maupun perempuan, tidak menyukai atau tidak memahami algoritma baru LinkedIn — apa pun itu.

Shailvi Wakhulu, seorang ilmuwan knowledge, mengatakan kepada TechCrunch bahwa dia rata-rata memposting setidaknya satu postingan sehari selama lima tahun dan terbiasa melihat ribuan tayangan. Sekarang dia dan suaminya beruntung bisa melihat beberapa ratus orang. “Hal ini menurunkan motivasi para pembuat konten yang memiliki banyak pengikut setia,” katanya.

Seorang pria mengatakan kepada TechCrunch bahwa dia melihat penurunan keterlibatan sebesar 50% selama beberapa bulan terakhir. Namun, pria lain mengatakan dia melihat tayangan postingan dan peningkatan jangkauan lebih dari 100% dalam rentang waktu yang sama. “Hal ini sebagian besar karena saya menulis tentang topik tertentu untuk audiens tertentu, itulah manfaat dari algoritma baru ini,” katanya kepada TechCrunch, seraya menambahkan bahwa kliennya juga melihat peningkatan serupa.

Namun menurut pengalaman Marshall, dia, yang berkulit hitam, yakin postingan tentang pengalamannya berkinerja lebih buruk daripada postingan terkait rasnya. “Jika perempuan kulit hitam hanya berinteraksi ketika mereka berbicara tentang perempuan kulit hitam tetapi tidak ketika mereka berbicara tentang keahlian khusus mereka, maka itu adalah sebuah bias,” katanya.

Penelitinya, Dean, yakin bahwa algoritme tersebut mungkin hanya memperkuat “sinyal apa pun yang sudah ada”. Hal ini dapat memberikan penghargaan pada postingan tertentu, bukan karena demografi penulisnya, namun karena ada lebih banyak riwayat tanggapan terhadap postingan tersebut di seluruh platform. Meskipun Marshall mungkin menemukan bias implisit lainnya, bukti anekdotalnya tidak cukup untuk menentukan hal tersebut dengan pasti.

LinkedIn menawarkan beberapa wawasan tentang apa yang berhasil dengan baik saat ini. Perusahaan mengatakan foundation pengguna telah berkembang, dan sebagai hasilnya, postingan meningkat 15% dari tahun ke tahun sementara komentar meningkat 24% YoY. “Ini berarti lebih banyak persaingan dalam pakan,” kata perusahaan itu. Postingan tentang wawasan profesional dan pelajaran karier, berita dan analisis industri, serta pendidikan atau konten informatif seputar pekerjaan, bisnis, dan perekonomian semuanya berjalan dengan baik, katanya.

Kalaupun ada, orang-orang hanya bingung. “Saya ingin transparansi,” kata Michelle.

Namun, karena algoritme pemilihan konten selalu menjaga rahasia perusahaannya dengan ketat, dan transparansi dapat menyebabkan hal tersebut dipermainkan, hal ini merupakan sebuah pertanyaan besar. Ini adalah salah satu hal yang sepertinya tidak akan pernah terpuaskan.