Amazon faz alerta importante sobre seus produtos

O motivo do alerta é devido à preocupação alarmante de que os sistemas que utilizam inteligência artificial possam discriminar diferentes grupos de pessoas devido às suas características físicas, rumor que já foi desmentido pela empresa antes.

Segundo a Amazon, os cartões de advertência são semelhantes aos rótulos nutricionais, reunindo informações importantes para que os seus clientes corporativos possam verificar as limitações de alguns serviços em nuvem, como a transcrição de áudio e o reconhecimento facial.

O motivo do alerta para os clientes

Nesta quarta-feira (01) serão disponibilizados os três primeiros cartões de serviço. Os esforços da Amazon, líder do setor, sugere a tentativa de mudar a sua imagem após um episódio público que ocorreu há alguns anos atrás.

Isso porque a empresa deu a impressão de que se importava menos com a ética da inteligência virtual do que os seus concorrentes. O professor da Universidade da Pensilvânia e estudioso da Amazon, Michael Kearns, relatou que a decisão surgiu após auditorias de privacidade do software.

Para isso, a Amazon escolheu softwares que tratam de questões demográficas mais sensíveis, para dar início para os seus cartões de serviço, que segundo Kearns, espera que fiquem ainda mais detalhados ao longo do tempo.

A polêmica por trás da decisão da Amazon

Em 2019, a empresa desmentiu um estudo que apontava a dificuldade de um dos seus serviços, conhecido como “Rekognition”, para identificar o gênero de pessoas com tons de pele mais escuros. 

Porém, após o assasinato de George Floyd, um homem negro desarmado, por um policial em 2020, a empresa emitiu um comunicado proibindo o uso de seu software de reconhecimento facial por policiais.

De agora em diante, a companhia afirma em seu cartão de serviço que o “Rekognition” não suporta a correspondência de “Imagens que são muito borradas e granuladas para o reconhecimento do rosto por um humano, ou que têm grandes porções do rosto obstruídas por cabelos, mãos e outros objetos”.

Além disso, em outro cartão sobre transcrição de áudio, a Amazon afirmou que “a modificação inconsistente de entradas de áudio pode resultar em resultados desiguais para diferentes grupos demográficos”.

Imagem: Sundry Photography / shutterstock.com