IA do Google não determinará mais o gênero

Rótulos de gênero às imagens, informando que o gênero de uma pessoa não pode ser determinado apenas pelo reconhecimento facial em uma foto, como relatado no site Business Insider. Em vez de usar "homem" ou "mulher", o Google marcará as fotos com rótulos de "pessoa" como parte de seu esforço maior para evitar algoritmos de IA com preconceito.

Relacionadas à culinária, nas quais as mulheres tinham 33% mais probabilidade de aparecer, com 68% mais chances de prever que uma mulher estava cozinhando, mesmo quando a foto era de um homem em uma cozinha.Os sistemas de reconhecimento de imagem também confundem regularmente pessoas trans e não binárias.

Pode detectar rostos, pontos de referência, logotipos de marcas e até mesmo conteúdo explícito. No e-mail, o Google citou suas próprias diretrizes de IA: "como o gênero de uma pessoa não pode ser inferido pela aparência, decidimos remover esses rótulos para nos alinharmos aos Princípios de Inteligência Artificial do Google, especificamente o Princípio 2: Evite criar ou reforçar preconceitos injustos".

Algoritmos de reconhecimento de imagem do Google Fotos estavam categorizando seus amigos negros como "gorilas". O Google prometeu corrigir o problema, mas um relatório de acompanhamento da Wired, em 2018, descobriu que o Google havia impedido sua Inteligência Artificial de reconhecer gorilas e não havia feito muito mais para resolver o problema. O Google lançou seus princípios de IA em 2018, em resposta à reação de funcionários que protestaram contra o trabalho da empresa em um projeto de drone do Pentágono.