IBM propõe regras de inteligência artificial para reduzir viés
A IBM defende regras destinadas a eliminar o viés da inteligência artificial, a fim de diminuir a preocupação de que a tecnologia se baseia em dados fundamentados em práticas discriminatórias passadas e que poderiam prejudicar mulheres, minorias, deficientes, americanos de mais idade, entre outros.
Com o objetivo de moldar um crescente debate nos Estados Unidos e na Europa sobre como regular o setor em expansão, a IBM fez um chamado para que a indústria e os governos desenvolvam conjuntamente padrões para medir e combater a potencial discriminação.
A empresa com sede em Armonk, Nova York, divulgou propostas de políticas na terça-feira, antes do painel sobre inteligência artificial programado para quarta-feira, que será liderado pela presidente da IBM, Ginni Rometty, à margem do Fórum Econômico Mundial em Davos.
A iniciativa tem como objetivo buscar um consenso sobre regras que seriam mais rigorosas do que o setor poderia produzir sozinho, mas menos rígidas do que os governos poderiam impor por conta própria.
“Parece bastante claro para nós que a regulamentação dos governos da inteligência artificial é a próxima fronteira na regulamentação de políticas tecnológicas”, disse Chris Padilla, vice-presidente de assuntos governamentais e regulatórios da IBM.
A empresa, fundada há 108 anos e que já foi líder mundial em tecnologia, ficou para trás no setor. Na batalha para permanecer relevante, a IBM atrelou seu futuro a tecnologias mais novas, como inteligência artificial e serviços em nuvem. Mas ainda não mostrou um crescimento significativo da receita nessas áreas.
As recomendações da IBM sugerem que as empresas trabalhem com os governos para desenvolver padrões sobre como garantir, por exemplo, que afro-americanos tenham acesso justo à moradia, apesar de algoritmos que se baseiam em dados históricos, como códigos postais ou juros de hipoteca que podem ter sido distorcidos pela discriminação.
Nos EUA, isso provavelmente ocorreria através do Instituto Nacional de Padrões e Tecnologia, parte do Departamento de Comércio dos EUA.
Rometty lidera o painel, que inclui um dos principais assessores da Casa Branca, Chris Liddell, o secretário-geral da OCDE, José Angel Gurria, e o CEO da Siemens, Joe Kaeser.
A IBM também sugere que as empresas tenham representantes de ética em inteligência artificial, realizem avaliações para determinar quanto dano um sistema de IA pode causar e mantenham documentação sobre os dados ao “fazer determinações ou recomendações com implicações potencialmente significativas para indivíduos” para que as decisões possam ser explicadas.