Algoritmo de cartão da Apple é discriminatório, diz cofundador
A Apple e o Goldman Sachs, duas das empresas mais reconhecidas em tecnologia e finanças, estão no centro de um debate sobre se os bancos discriminam involuntariamente quando usam modelos complexos para determinar como os norte-americanos fazem empréstimos.
No sábado, a Bloomberg divulgou que um regulador de Wall Street iniciou uma investigação sobre as práticas de cartão de crédito do Goldman depois que um tuíte viral de um empresário de tecnologia alegou que os algoritmos do Apple Card discriminavam sua esposa.
Agora, outro usuário de alto perfil do Apple Card – o cofundador da Apple, Steve Wozniak – pede a interferência do governo, citando a excessiva dependência das empresas de uma tecnologia misteriosa.
“Esse tipo de injustiça me incomoda e vai contra o princípio da verdade. Não temos transparência sobre como essas empresas montam e operam essas coisas”, disse Wozniak em entrevista no domingo. “Nosso governo não é forte o suficiente em questões de regulamentação. Os consumidores só podem ser representados pelo governo, porque as grandes empresas apenas representam elas mesmas.”
Wozniak disse que pode tomar emprestado 10 vezes mais do que sua esposa no Apple Card, apesar de compartilharem contas bancárias e outros cartões de crédito, e que outros bancos os tratam da mesma forma.
“Algoritmos obviamente têm falhas”, disse Wozniak. “Um grande número de pessoas diria: ‘Adoramos nossa tecnologia, mas não estamos mais no controle’. Acho que é esse o caso.”
Tuítes virais
Os bancos promoveram esses modelos porque deveriam nivelar o segmento entre diferentes consumidores, eliminando o erro humano e concentrando-se apenas em dados.
O Apple Card oferece apenas contas individuais, e é possível que dois membros da família recebam decisões de crédito significativamente diferentes, disse um porta-voz do Goldman. “Em todos os casos, não tomamos e não tomaremos decisões com base em fatores como gênero”, afirmou.
We wanted to address some recent questions regarding the #AppleCard credit decision process. pic.twitter.com/TNZJTUZv36
— GS Bank Support (@gsbanksupport) November 11, 2019
A investigação foi iniciada em resposta a uma série de posts no Twitter de David Heinemeier Hansson, que criticou o Apple Card por lhe dar 20 vezes o limite de crédito que sua esposa tinha. Os tuítes, muitos dos quais com palavrões, ganharam força imediatamente on-line – e uma resposta de Wozniak no Twitter.
The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It’s big tech in 2019.
— Steve Wozniak (@stevewoz) November 10, 2019
Hansson não divulgou nenhuma informação específica relacionada à renda do casal, mas disse que eles apresentaram declarações de imposto de renda conjuntas e que a esposa tem uma pontuação de crédito melhor do que ele. Wozniak disse que ele e a esposa também fazem declarações conjuntas e compartilham contas de cartão de crédito e de bancos.
“O departamento conduzirá uma investigação para determinar se a lei de Nova York foi violada e garantir que todos os consumidores sejam tratados igualmente, independentemente do sexo”, disse um porta-voz de Linda Lacewell, superintendente do Departamento de Serviços Financeiros (DFS, na sigla em inglês) de Nova York. “Qualquer algoritmo que intencionalmente ou não resulte em tratamento discriminatório de mulheres ou qualquer outra classe de pessoas protegidas viola a lei de Nova York.”
É a segunda ação desse tipo nas últimas semanas do órgão regulador, que abriu uma investigação contra a gigante da saúde UnitedHealth Group depois que um estudo revelou que um algoritmo favorecia pacientes brancos em detrimento de pacientes negros.
“As novas tecnologias não podem deixar certos consumidores para trás ou fortalecer a discriminação”, disse Lacewell em comunicado no domingo. Ela também solicitou reclamações de consumidores prejudicados no Twitter.
If you have been subjected to discrimination, step forward and email us at consumers@dfs.ny.gov. We also invite experts and members of the tech community to reach out to us at innovation@dfs.ny.gov.
— Linda Lacewell (@LindaLacewell) November 10, 2019