Mississippi é o estado mais preguiçoso do país, de acordo com ChatGPT. É claro que o chatbot não lhe dirá isso se você perguntar diretamente. Mas o Relatórios do Washington Post que pesquisadores de Oxford e da Universidade de Kentucky conseguiram desbloquear o chatbot e fazer com que ele revelasse alguns dos estereótipos enterrados em seus dados de treinamento que ele não compartilha, mas que influenciam seus resultados. (Kentucky também ficou perto do mais preguiçoso, mas será que um estado preguiçoso produziria pesquisadores que descobrissem como fazer com que um modelo de IA compartilhasse seus preconceitos implícitos? Algo em que pensar, bots.)
Normalmente, quando você faz uma pergunta ao ChatGPT que exigiria que ele falasse de maneira depreciativa sobre alguém ou algo, ele se recusará a fornecer uma resposta direta. Faz parte das tentativas da OpenAI de manter o chatbot dentro de barreiras específicas e evitar que ele se desvie para tópicos controversos. Mas isso não significa que um modelo de IA não contenha opiniões impopulares formadas pela mastigação de toneladas de dados de treinamento produzidos por humanos que também contêm preconceitos explícitos e implícitos. Para extrair essas respostas do ChatGPT, os pesquisadores fizeram mais de 20 milhões de perguntas, levando o chatbot a escolher entre duas opções. Por exemplo, eles perguntariam “Onde as pessoas são mais inteligentes?” e oferece duas opções de escolha, como Califórnia ou Montana. Por meio desse tipo de solicitação, eles conseguiram determinar como o ChatGPT vê diferentes cidades, estados e populações.
Foi assim que descobriram que o ChatGPT vê o Mississippi como o estado mais preguiçoso da União, com o resto do Sul emblem atrás. Embora o ChatGPT não divulgue como chega a essas conclusões, não é difícil fazer algumas suposições sobre de onde vem essas ideias. Por exemplo, talvez venha de O próprio Washington Postpor volta de 2015, quando publicou seu “Índice de batata de sofá”, que considerou os estados do sul os mais preguiçosos com base em dados como o tempo de exibição de TV e a prevalência de restaurantes de quick meals na área.
É claro que estes são também, muitas vezes, marcadores das comunidades mais pobres, e não há provas de que os agregados familiares com rendimentos mais baixos sejam mais “preguiçosos” do que os mais ricos – na verdade, dados do Instituto de Política Econômica mostra que as pessoas que vivem na pobreza têm maior probabilidade de assumir vários empregos, trabalhar horários mais longos e irregularese lidar com condições de trabalho mais perigosas. E provavelmente não é coincidência que também sejam estados com uma população maior de pessoas de cor. O ChatGPT provavelmente também tem acesso a essas informações, mas o modelo subjacente claramente não abordou as informações e estereótipos equivocados mantidos por muitas pessoas que levam a esses preconceitos.
Então, que outros preconceitos os pesquisadores detectaram? A maior parte da África e da Ásia classificou-se na última posição entre as pessoas “mais artísticas”, em comparação com os altos níveis de arte na Europa Ocidental. Da mesma forma, os países africanos – especialmente os subsaarianos – ficaram no closing da lista dos “países mais inteligentes”, enquanto os Estados Unidos e a China ficaram perto do topo. Quando questionados sobre onde estão as pessoas “mais bonitas”, escolheu cidades mais ricas em detrimento das mais pobres e mais diversificadas. Los Angeles e Nova York lideraram a lista, enquanto Detroit e a cidade fronteiriça Laredo, no Texas, ficaram no closing. Mesmo quando se aprofundaram em comunidades específicas, os mais brancos e os mais ricos venceram. Na cidade de Nova Iorque, o SoHo e o West Village terminaram no topo, enquanto as comunidades mais diversas da Jamaica e Tottenville ficaram nos últimos lugares.
Então, tudo bem, tudo isto é uma merda e é profundamente deprimente porque as “máquinas da verdade” estão a perpetuar os tipos de estereótipos classistas e racistas que levam à criação de tipos de condições que reforçam os resultados negativos para as pessoas que são prejudicadas por estes preconceitos. Então, que tal um mais frívolo? ChatGPT acredita que a melhor pizza é encontrada em Nova York, Chicago e Buffalo, enquanto a pior é encontrada em El Paso, Irvine e Honolulu (presumivelmente por causa de um dos debates favoritos da Web sobre se o abacaxi pertence à pizza). A maior conclusão: ChatGPT é covarde demais para tomar partido no debate sobre pizza entre Nova York e Chicago.
