Algoritmos decidem cada vez mais coisas por nós. Mas eles são neutros?
Os algoritmos estão presentes em praticamente todos os aspectos da vida digital. Ajudam empresas a seleccionar candidatos para vagas de emprego, organizam o conteúdo exibido nas redes sociais, apoiam análises de crédito e são utilizados em sistemas de reconhecimento facial. Prometem tornar esses processos mais rápidos e eficientes. Contudo, especialistas alertam que estas ferramentas estão longe de ser neutras.
Concretamente, os algoritmos podem reproduzir e amplificar desigualdades existentes na sociedade, afectando milhões de pessoas sem que estas se apercebam. O problema está, muitas vezes, nos dados que alimentam estes sistemas.
Algoritmos aprendem com dados humanos, incluindo os preconceitos
Os algoritmos de inteligência artificial aprendem a partir de dados históricos. Consequentemente, se esses dados reflectem desigualdades do passado, o sistema tende a reproduzi-las no futuro. Por exemplo, se uma empresa historicamente contratou menos mulheres para determinadas funções, um algoritmo treinado com esses dados pode continuar a desfavorecer candidatas femininas, mesmo sem intenção explícita.
Adicionalmente, os sistemas de reconhecimento facial têm demonstrado taxas de erro significativamente mais elevadas para pessoas de pele mais escura, o que pode ter consequências graves em contextos de segurança ou identificação.
Decisões automatizadas afectam direitos fundamentais
Além do mercado de trabalho, os algoritmos tomam decisões em áreas sensíveis como a concessão de crédito, a atribuição de habitação social e até em sistemas judiciais. Nesse sentido, uma decisão automatizada errada pode privar uma pessoa de um emprego, de um empréstimo ou de acesso a serviços essenciais.
O problema agrava-se pelo facto de estas decisões serem frequentemente opacas. Por outras palavras, as pessoas afectadas muitas vezes não sabem que um algoritmo tomou uma decisão sobre elas, nem como contestá-la.
Transparência e regulação são a resposta
Para os especialistas, a solução passa por maior transparência no desenvolvimento e uso de algoritmos, bem como por regulação adequada. A União Europeia deu um passo nesse sentido com o AI Act, legislação que obriga as empresas a explicar decisões automatizadas que afectem direitos dos cidadãos.
Adicionalmente, os especialistas defendem que as equipas que desenvolvem estes sistemas devem ser mais diversas. Desta forma, torna-se mais fácil identificar e corrigir enviesamentos antes que os algoritmos sejam implementados em larga escala.
