Funcionários da Amazon revisam vídeos de câmera de segurança
Em um vídeo promocional, a Amazon.com diz que sua câmera de segurança doméstica Cloud Cam oferece “tudo o que você precisa para monitorar sua casa, dia e noite”. De fato, o dispositivo artificialmente inteligente requer a ajuda de um esquadrão de funcionários invisíveis.
Dezenas de empregados da Amazon na Índia e na Romênia revisam clipes capturados pela Cloud Cam, segundo cinco pessoas que trabalharam com o programa ou que têm conhecimento direto sobre o funcionamento. Esses trechos de vídeo são usados para aperfeiçoar os algoritmos de inteligência artificial, distinguindo entre uma ameaça real (um invasor) e um alarme falso (um gato pulando no sofá).
Uma equipe da Amazon também transcreve e anota comandos gravados nas residências dos clientes pela assistente digital Alexa da empresa, segundo reportagem da Bloomberg em abril.
Em um dia típico, alguns auditores da Amazon faziam anotações sobre cerca de 150 gravações de vídeo, com duração de 20 a 30 segundos, de acordo com as pessoas, que pediram anonimato.
Os clipes enviados para revisão são de funcionários que fazem testes, disse uma porta-voz da Amazon, bem como de proprietários da Cloud Cam que enviam clipes para solucionar problemas como notificações imprecisas e qualidade de vídeo. “Levamos a privacidade a sério e colocamos os clientes da Cloud Cam no controle de seus clipes de vídeo”, disse, acrescentando que, a menos que a filmagem seja enviada para fins de solução de problemas, “somente os clientes poderão ver seus clipes”.
Em nenhum lugar dos termos e condições do usuário da Cloud Cam a Amazon diz explicitamente aos clientes que humanos estão treinando os algoritmos por trás do software de detecção de movimento.
E, apesar da insistência da Amazon ao dizer que todos os clipes são fornecidos voluntariamente, de acordo com duas pessoas, as equipes registraram atividades que os proprietários das residências provavelmente não desejariam compartilhar, como de pessoas tendo relações sexuais.
Os clipes que contêm conteúdo inapropriado são marcados como tal e descartados para que não sejam usados acidentalmente para treinar inteligência artificial, disseram as pessoas. A porta-voz da Amazon disse que esses clipes são descartados para melhorar a experiência dos revisores humanos da empresa, mas ela não disse por que atividades inadequadas aparecem nos vídeos enviados voluntariamente.
Os funcionários disseram que a Amazon impôs um forte esquema de segurança na operação de registros da Cloud Cam. Na Índia, dezenas de revisores trabalham em um andar de acesso restrito, onde os funcionários não têm permissão para usar o celular, segundo duas pessoas. Mas isso não impediu que outros empregados mostrassem os vídeos para pessoas que não fazem parte da equipe, disse outra pessoa.