Jovem asiática pede foto profissional para IA e "vira branca"; entenda

Uma jovem de ascendência asiática, nos Estados Unidos, pediu a um gerador de imagens de inteligência artificial (IA) que editasse uma foto sua para seu perfil profissional no LinkedIn. A estudante do Instituto de Tecnologia de Massachusetts (MIT) se surpreendeu ao ver que o resultado do comando lhe trouxe uma versão branca, loira e de olhos azuis de si mesma.

Rona Wang, de 24 anos, é formada em Matemática e em Ciência da Computação, além de estar iniciando uma pós-graduação também no MIT ainda em 2023. Ela compartilhou a imagem gerada pela IA em 14 de julho no Twitter, onde obteve quase 100 mil curtidas e mais de 4 mil compartilhamentos.

No post, Rona mostra que digitou o seguinte comando ao criador de imagens Playground AI: "Dê à garota da foto original uma foto de perfil profissional do LinkedIn". Na imagem que Wang subiu para edição, ela aparece natural, vestindo um moletom vermelho do MIT. Na segunda imagem, editada pela IA, a garota está branca e com traços artificiais.

"Minha reação inicial ao ver o resultado foi divertida", disse Wang ao site Business Insider. “No entanto, fico feliz em ver que isso catalisou uma conversa mais ampla sobre o viés da IA e quem está ou não incluído nessa nova onda de tecnologia”.

Racismo na IA?

Segundo a estudante, "o viés racial é um problema recorrente nas ferramentas de IA", que já fracassaram com ela outras vezes. "Ainda não obtive nenhum resultado utilizável de geradores ou editores de fotos de IA, então terei que ficar sem uma nova foto de perfil do LinkedIn por enquanto!", diz a jovem.

Ao site Boston Globe, Wang contou que sua “versão branca” pode ter sido gerada aleatoriamente a partir das características faciais de uma mulher branca. É possível, segundo ela, que a IA tenha sido treinada usando um lote de fotos em que a maioria das pessoas retratadas no LinkedIn ou em cenas “profissionais” eram brancas.

Isso a preocupa caso uma empresa utilize IA para selecionar os candidatos mais “profissionais” para um trabalho e acabe escolhendo só pessoas brancas. “Eu definitivamente acho que é um problema”, disse Wang. “Espero que as pessoas que estão fazendo software estejam cientes desses preconceitos e pensem em maneiras de mitigá-los.”

Repercussão entre internautas do Twitter

Duas horas após o post da jovem, o fundador do Playground AI, Suhail Doshi, respondeu à publicação admitindo as falhas da ferramenta. "Os modelos não são instruídos assim, então ele escolhe qualquer coisa genérica com base no prompt”, escreveu. “Infelizmente, eles não são inteligentes o suficiente”.

Doshi disse ainda que a edição exige um pouco mais de esforço do que "algo como o ChatGPT", mas que os responsáveis pela plataforma estão “bastante descontentes com isso” e esperam resolver a questão.