X abre o código de seu algoritmo enquanto enfrenta uma multa de transparência e controvérsias Grok

Em 2023, o website então conhecido como Twitter abriu parcialmente o código de seu algoritmo pela primeira vez. Naquela época, o bilionário da Tesla, Elon Musk, havia adquirido a plataforma apenas recentemente e afirmava ter a missão de reestruturar a plataforma de mídia social para torná-la mais transparente.

No entanto, o lançamento do código do algoritmo foi rapidamente criticado por ser “teatro da transparência”, com os críticos observando que estava “incompleto” e que não revelava muito sobre o funcionamento interno da organização ou por que o código funcionava daquela maneira.

Agora o website (rebatizado como X) abriu novamente o código-fonte de seu algoritmo, cumprindo uma promessa feita por Musk na semana passada. “Faremos o novo algoritmo 𝕏, incluindo todo o código usado para determinar quais postagens orgânicas e publicitárias são recomendadas aos usuários, de código aberto em 7 dias,” ele disse. Musk também prometeu fornecer transparência ao algoritmo a cada quatro semanas no futuro próximo.

Em uma postagem no GitHub na terça-feira, X forneceu um artigo acessível sobre seu código de geração de feed, junto com um diagrama de como o programa funciona.

O que foi revelado não é particularmente surpreendente – mas fornece uma espiada por trás da cortina algorítmica. O diagrama mostra que, ao procurar conteúdo para alimentar um determinado usuário, o algoritmo do website considera seu histórico de engajamento (em quais postagens ele clicou, and so on.) e pesquisa postagens recentes na rede. Ele também conduz uma análise baseada em aprendizado de máquina de postagens “fora da rede” – como conteúdo de contas que o usuário não necessariamente segue – que acredita que o usuário também possa achar atraente.

O algoritmo então filtra certos tipos de postagens, incluindo aquelas provenientes de contas bloqueadas ou associadas a palavras-chave silenciadas, bem como conteúdo considerado muito violento ou semelhante a spam. O algoritmo então classifica esse conteúdo com base no que acha que o usuário achará mais atraente. Esse processo considera fatores como relevância e diversidade de conteúdo para que os usuários não recebam apenas um monte de postagens iguais. O algoritmo também considera o conteúdo de acordo com a probabilidade de o usuário gostar dele, respondê-lo, publicá-lo novamente, adicioná-lo como favorito ou de alguma forma se envolver com ele.

Todo esse sistema é baseado em IA, de acordo com X. O artigo do GitHub divulgado na terça-feira observa que o sistema “depende inteiramente” do “transformador baseado em Grok” da empresa para “aprender a relevância das sequências de envolvimento do usuário”. Em outras palavras, Grok analisa o que você clica e gosta e alimenta essas informações no sistema de recomendação. O artigo também observa que não existe “engenharia guide de recursos para relevância de conteúdo”, o que significa que os humanos não ajustam manualmente a forma como o algoritmo determina o que é relevante. Acrescenta que a automação “reduz significativamente a complexidade em nossos pipelines de dados e infraestrutura de atendimento”.

Por que X está revelando tudo isso agora? Não está totalmente claro. No passado, Musk afirmou que deseja tornar a plataforma um exemplo de transparência corporativa – um tema que continua até hoje. Em 2023, quando o algoritmo do Twitter foi revelado pela primeira vez, Musk disse que fornecer “transparência de código” seria “incrivelmente embaraçoso no início”, mas acabaria por “levar a uma rápida melhoria na qualidade das recomendações”. Ele acrescentou: “O mais importante é que esperamos ganhar sua confiança”. Com seu primeiro código de código aberto, a plataforma proclamou um “nova era de transparência”Para o Twitter.

Embora Musk tenha falado em transparência, certos aspectos da plataforma tornaram-se menos abertos desde que Musk a assumiu. Quando o bilionário da tecnologia comprou o Twitter em 2022, o website foi notavelmente forçado a fazer a transição de uma empresa pública para um privado – uma evolução que normalmente não é sinônimo de abertura. Enquanto o website costumava lançar vários relatórios de transparência por anoX não divulgou seu primeiro relatório de transparência até setembro de 2024. Em dezembro, X foi também multou US$ 140 milhões por reguladores da União Europeia que alegaram que o website havia violado “obrigações de transparência” sob a Lei de Serviços Digitais (DSA), e argumentaram que o sistema de marca de verificação do website tornou mais difícil para os usuários julgar a autenticidade de contas específicas.

X também esteve sob pressão no mês passado devido à forma como seu chatbot, Grok, foi usado para criar e distribuir conteúdo sexualizado. O gabinete do procurador-geral da Califórnia e os legisladores do Congresso examinaram a plataforma nas últimas semanas, citando alegações de que Grok foi usado para criar imagens nuas de mulheres e menores. Como resultado, alguns podem considerar este apelo à abertura como apenas mais teatro.