Inteligência artificial na banca: a importância de eliminar preconceitos na tomada de decisões

Espera-se que a utilização de machine learning (ML) e inteligência artificial (IA) no setor da banca dispare nos próximos anos, à medida que as instituições financeiras se esforçam por utilizar dados para proporcionar experiências hiperpersonalizadas aos clientes, melhorar a eficiência operacional e expandir as ofertas de produtos e serviços.

A aplicação destas tecnologias à experiência do cliente bancário permite recolher informação relevante e contextual para melhorar o seu bem-estar financeiro global e fornecer-lhe rapidamente experiências digitais personalizadas, convenientes e coordenadas no seu canal preferencial. Além disso, aumentam a eficiência e a produtividade nos canais assistidos - levando a uma maior satisfação do cliente -, detetam e mitigam proativamente a fraude, e asseguram a conformidade regulamentar.

Dados estes benefícios, é tentador assumir que as máquinas e algoritmos inteligentes estão livres de falhas humanas, tais como erros e parcialidade. A verdade, porém, é que os seres humanos podem inadvertidamente injetar os seus próprios preconceitos, tanto conscientes, como inconscientes, nos algoritmos que geram a aprendizagem das máquinas e apoiam a tomada de decisões. Como resultado, estas máquinas podem discriminar alguns clientes na hora de aprovar hipotecas e outros grandes empréstimos com base em dados de formação errados. Modelos complexos de IA/ML podem criar um efeito de "caixa negra" que impede a transparência e a responsabilização, tornando difícil, se não impossível, detetar a parcialidade nestas máquinas inteligentes. Neste contexto, não surpreendentemente, os reguladores governamentais começaram a ter mais atenção a este tema e a apelar à proteção dos consumidores e utilizadores contra situações de vulnerabilidade social e económica.

Tanto por razões competitivas como regulamentares, os bancos simplesmente não se podem dar ao luxo de implementar algoritmos de IA/ML que discriminem os clientes com base em preconceitos cognitivos, tais como rendimento, religião, etnia ou onde vivem.

A sociedade é hoje mais multicultural do que nunca e as instituições financeiras deveriam tirar partido disto para criar uma força de trabalho diversificada e implementar estratégias para não só minimizar, mas eliminar, o preconceito nos seus modelos de IA/ML. Além disso, podem criar uma equipa multidisciplinar para iniciativas de IA que consista não só em programadores e gestores, mas também em profissionais de RH e jurídicos. Ter uma equipa diversificada é uma salvaguarda contra os preconceitos gerados por uma força de trabalho homogénea.

As instituições financeiras têm a capacidade de construir diversos conjuntos de dados e de aproveitar informações não estruturadas de fontes internas e externas para forjar um caminho em direção à inclusão. Desta forma, podem fazer verificações constantes de dados distorcidos ou enviesados e monitorizar periodicamente os modelos de AI/ML. Além disso, podem analisar e testar dados de formação para determinar se as características e/ou atributos protegidos estão sub-representados e reconfigurar modelos quando são detetados problemas.

A implementação da IA no desenvolvimento do trabalho dos colaboradores bancários tornará esta tecnologia não só um "ajudante diário", mas também permitirá servir mais clientes e derrubará as barreiras tradicionais de comunicação em escala. Por sua vez, isto fará com que os próprios membros da equipa promovam a inclusão e façam com que cada cliente se sinta ouvido e respeitado.

O preconceito nos algoritmos de IA pode ser difícil de detetar e, muitas vezes, só se torna visível quando o dano já está feito. A menos que os bancos adotem políticas e processos abrangentes para reduzir esta possibilidade enviesamento, correm o risco de discriminar os clientes. A capacidade de uma entidade de prevenir e eliminar o preconceito nos seus modelos de IA/ML pode determinar em grande medida o sucesso que terá como organização e no serviço e retenção de clientes.

Susan Ysona, vice-presidente de marketing para a região EMEA e Ásia Pacífico da Talkdesk

Mais Notícias

Outros Conteúdos GMG

Patrocinado

Apoio de