Posts in Uncategorized

Viés, preconceito, discriminação na Inteligência Artificial

Viés, preconceito, discriminação na Inteligência Artificial? O avanço e a rápida adoção de tecnologias de Inteligência Artificial (AI) em diferentes contextos trazem uma série de questionamentos sobre seus impactos sociais. Talvez o que acontecerá com os empregos seja um dos desafios mais debatidos já há algumas décadas. No entanto, mais recentemente surgiu também preocupações se os algoritmos são justos em suas decisões. Esse é um questionamento que faz todo o sentido, porque se uma máquina está decidindo por nós, seres humanos, devemos entender e garantir que o seu processo de decisão não esteja prejudicando um grupo específico de pessoas – ou até mesmo um único indivíduo.

Nos últimos anos, essa preocupação invadiu o espaço acadêmico, e muitos pesquisadores começaram a estudar sobre como os algoritmos decidiam, se estavam sendo justos e se conseguiam explicar a suas escolhas. Criou-se até um termo para essa área, FAT, que visa estudar sobre Equidade (Fairness), Transparência (Transparency) e Responsabilidade (Accountability) na área de algoritmos e inteligência artificial. Inclusive, sou um dos organizadores do Workshop FATES (Workshop on Fairness, Accountability, Transparency, Ethics and Society on the Web) que acontecerá em conjunto com a prestigiada The Web Conference.

Este é um termo amplo, mas aqui vou tratar mais especificamente sobre vies e se o algoritmo pode apresentar comportamentos discriminatórios e preconceituosos. Esse debate começou certamente com o estudo da ProPublica (Bias Machine), que dissecou um sistema utilizando pela justiça americana (em vários estados dos EUA) para mostrar que o algoritmo apresentava um índice muito maior de falso positivo para os negros. Ou seja, o sistema tinha a tendência de marcar os negros com uma probabilidade de reincidência – ainda que isso não fosse verificado na prática, nas ruas. Este estudo foi a abertura de portas para que novos estudos fossem feitos no sentido de entender se algoritmos utilizados comercialmente apresentavam algum prejuízos para determinados grupos de acordo com sua classe social, gênero, orientação sexual, etnia, entre outros.

Mais recentemente, a revista Science publicou um artigo que explora como um sistema de inteligência artificial utilizado em hospitais nos Estados Unidos apresentava um comportamento discriminatório. No caso, o sistema dava preferência aos pacientes brancos em detrimento dos negros. Mas será que a IA tinha preconceito? O algoritmo foi programado desta maneira ou ele aprendeu isso? Se aprendeu, como foi então esse aprendizado?

E para responder estas perguntas – que não são simples e nem tem uma resposta fácil – eu fiz esse vídeo para explicar que os algoritmos em si não tem viés, mas que eles podem “aprender” isso de acordo com os dados utilizados na fase de treinamento. E lembro que dados são um recorte da nossa própria realidade. Entenda mais no vídeo.

IA e Processamento de Linguagem Natural

A área de Processamento de Linguagem Natural deu um grande salto em 2018. Mas será que com essa evolução os sistemas inteligentes são capazes de entender a linguagem humana?

Em setembro, um sistema de IA foi capaz de responder um teste de ciências do 8o ano, nos EUA, com 90% de acerto. E um teste do último ano do ensino médio com 80% de acerto. A IA está se tornando aquele aluno que só tira 9.

Ainda neste ano, a OpenAI anunciou o seu novo algoritmo, chamado Open GPT-2, que conseguiu criar textos tão bons que seria difícil para um humano identificar o conteúdo como algo gerado por uma máquina. A empresa até chegou a dizer que não disponibilizaria o código por achar que pudesse ser prejudicial para a sociedade, como impulsionar a geração de notícias falsas e desinformações.

Mas será que os sistemas têm entendimento da linguagem humana ou estão criando suas próprias regras para responder as questões?

Em Novembro, eu participei da Conference on Empirical Methods in Natural Language Processing, que aconteceu em Hong Kong, uma das principais conferências científicas na área de processamento de linguagem natural. Aproveitei a oportunidade para produzir este vídeo no qual comento brevemente sobre o estado da arte de Processamento de Linguagem Natural e como a técnica BERT – Bidirectional Encoder Representations from Transformers – se tornou o novo marco para a Inteligência Artificial.