Algoritmo elimina a discriminação? Caso da seguradora de automóvel

Eis o resumo de uma pesquisa interessante: 

 As seguradoras frequentemente usam atributos dos consumidores, como gênero ou idade, ao definir o preço de seus serviços. Motoristas homens jovens, por exemplo, costumam pagar mais do que mulheres jovens pelo seguro de automóvel, já que são considerados mais arriscados. Em 2019, a Califórnia proibiu as seguradoras de automóveis de utilizarem informações de gênero em seus algoritmos de precificação. Eu estudo como essa proibição afeta a diferença de preços entre os gêneros, usando uma estratégia de diferenças-em-diferenças com indivíduos mais velhos e outros estados como grupos de controle. Constatei que a medida reduziu a diferença de gênero nos prêmios pagos por motoristas jovens em cerca de 55%, mas não conseguiu eliminá-la completamente. Minha análise do algoritmo de precificação de uma grande seguradora na Califórnia indica que os algoritmos foram ajustados de modo que características correlacionadas com o grupo de maior risco (homens jovens) receberam maior peso após a política. Por exemplo, motoristas com modelos de carro associados a homens jovens passaram a pagar até 22% a mais depois da proibição. Meus resultados ilustram as limitações de políticas antidiscriminação que impõem precificação “cega ao grupo”, com implicações para a formulação de regulações mais justas para algoritmos.

Can Gender-Blind Algorithmic Pricing Eliminate the Gender Gap?
Ozge Demirci - Harvard Working Paper, June 2024  

Sendo um blog de contabilidade, o que podemos aprender com este tipo de pesquisa? Muitas vezes, a contabilidade é chamada a atuar no sentido de reduzir a discriminação no trabalho. Um exemplo é a evidenciação, junto às demonstrações, da composição da força de trabalho por gênero, idade e raça. O problema é que isso não resolve. Veja o caso da Fundação IFRS e sua demonstração do ano passado: a maioria do corpo técnico é composta por mulheres — de diferentes idades, o que parece positivo. Mas observe quem está no board, responsável pelas decisões: majoritariamente homens. A divulgação pode ter contribuído para melhorar as políticas de contratação, o que é bom, mas não reduziu o acesso das mulheres ao poder, no caso, ao board. 

 Imagem aqui