Coded Bias (2020)

 

Coded Bias (2020). Dir: Shalini Kantayya. Netflix. Bom documentário que segue de perto o que foi apresentado em "O Dilema das Redes" (também na Netflix), mas que acrescenta um viés mais social. O documentário parte da descoberta de uma cientista negra do MIT chamada Joy Buolamwini, que notou que os sistemas de reconhecimento facial da Amazon tinham dificuldade em identificar seu rosto (negro). Quando ela colocava uma máscara branca, o computador facilmente identificava as características de olhos, nariz, boca, etc. Um algoritmo pode ser "preconceituoso"? De acordo com o documentário, sim, principalmente pelo fato de que estudos em Inteligência Artificial sempre foram feitos predominantemente por homens brancos.

O assustador é que o algoritmo de reconhecimento facial da Amazon estava sendo compartilhado pelo FBI. Quantas pessoas foram identificadas erroneamente por causa disso? O documentário alega que "inteligência artificial" nada mais é do que uma criação matemática que reage dependendo dos dados que lhe são "alimentados". O resultado é que preconceitos do mundo "real" acabam sendo absorvidos pela inteligência artificial. Algoritmos são usados de forma não regulamentada cada vez mais no mundo todo. Setores de RH de empresas usam inteligência artificial para selecionar candidatos; cartões de crédito fazem uma previsão de quem vai pagar suas contas ou não; há algoritmos que são usados para determinar qual a chance de alguém se tornar um criminoso, ou voltar a praticar um crime. Não é surpresa que em todas estas situações os resultados têm se mostrados tendenciosos. Bem interessante, e assustador. Tá na Netflix.