Algoritmos já despedem e 'dão' empréstimos. Como torná-los justos (e evitar ser dominados)?

No 30º episódio do podcast Made in Tech falamos sobre ética e transparência na inteligência artificial com o investigador e diretor de investigação da Feedzai, Pedro Saleiro, numa altura em que já há algoritmos a ajudar a decidir quem tem empréstimos, quem vai para a cadeia ou é despedido ou contratado. E será que um dia vamos ser controlados por máquinas?

Depois de uma carreira na investigação em inteligência artificial focada na ética e transparência que conheceu o seu auge na Universidade de Chicago, Pedro Saleiro tornou-se em 2019 no diretor de investigação da Feedzai. A empresa portuguesa atingiu o estatuto de unicórnio (valor de mercado acima dos mil milhões de dólares) já este ano e que se distingue pelas ferramentas de inteligência artificial na área da banca, dos pagamentos e da gestão de risco online e continua a crescer.

No Made in Tech, este natural de Esposende fala-nos do seu percurso que o levou a trabalhar e desenvolver ferramentas inovadoras com Rayid Ghani, ex-analista de Obama e especialista em dados.

Mas também se fala nos desafios de ética e transparência na inteligência artificial para tornar os processos mais justos e com menos probabilidade de descriminarem seja na utilização pelas empresas ou pelo próprio Estado. Numa altura em que já existem algoritmos a ajudar a decidir a quem dar empréstimos, a deixar sair em liberdade condicional no sistema judicial ou quem contratar ou despedir, até que ponto podemos confiar na inteligência artificial e o que ainda é preciso fazer para confiar na tecnologia?

Ouça e subscreva em: Apple Podcasts | Spotify | Google

Aceda a todos os episódios do Made in Tech (sobre criptomoedas; exploração espacial; guerra Austrália-Facebook com entrevista ao pai do código australiano; Clubhouse; ciência na pandemia; impostos digitais com Margrethe Vestager; ensino à distância): dinheirovivo.pt/podcast/made-in-tech

Saleiro é doutorado em Engenharia Informática pela Universidade do Porto, tirou post doc na Universidade de Chicago e foi lá que desenvolveu uma ferramenta que permite auditar sistemas de apoio à decisão baseados em inteligência artificial e detetar vários tipos de discriminações: raciais, de género, etárias, de localização geográfica ou até religiosas. A ferramenta chama-se Aequitas, tem como público alvo cientistas de dados e entidades governamentais, e foi mencionada em 2019 num artigo da revista Nature.

Falamos ainda com ele nos desafios na Feedzai para combater o crime financeiro com inteligência artificial (IA), as novas ferramentas criadas na empresa para reduzir ao máximo possível descriminação e como a influência da IA na sociedade é tão silenciosa quanto poderosa.

Aborda-se também os próximos desafios a ter em conta com a entrada em cada vez maior escala da IA em áreas como a Saúde, Indústria, Justiça e na ligação entre cidadãos e Estados.

Artigo completo (em texto) disponível aqui:

Mais Notícias

Outros Conteúdos GMG

Patrocinado

Apoio de