Qual a diferença entre VIÉS (BIAS) e RUÍDO (NOISE)?
Muitas pessoas acham que são sinônimos, mas precisamos distingui-los para entendermos melhor o julgamento humano e uma possível colaboração com IA.
O Kahneman traz uma explicação didática no seu novo livro. Resumo aqui!
Imagine quatro grupos de amigos praticando tiro ao alvo. Um grupo manda tudo no centro (Correto). O outro erra o alvo, todos para o mesmo lado (Viés). O terceiro está bem disperso. Cada um para um lado (Ruído). Já o quarto grupo erra para um lado, mas com dispersão (Ruído e Viés).
O ruído é a variabilidade onde não deveria existir. É a dispersão do resultado quando se espera uma resposta próxima. Existem vários tipos de ruído, mas o discutido é o Ruído do Sistema, que envolve o julgamento de diferentes pessoas no mesmo contexto. Vou dar um exemplo. O sistema judiciário é composto por diferentes juízes, como se formasse um daqueles grupos de tiro ao alvo. E adivinhem? O alvo é cheio de ruído. Juízes julgam casos parecidos de maneiras diferentes, com resultados distintos. O que não deveria acontecer.
O ruído é evidente quando os resultados se diferem. Algo comum em empresas, comitê de universidade e tudo quanto é lugar que envolva um conjunto de pessoas. É isso que diferencia o Ruído do Viés. O Ruído é coletivo. O ruído está na dispersão do julgamento entre os indivíduos. Isso quer dizer que o ruído é sempre indesejado? Muitas vezes sim, mas em outras não. Há situações em que o ruído é desejado. Pense em processos de brainstorm e co-criação. No caso, queremos reunir uma diversidade maior de ideias, mas isso faz parte do processo.
O ruído ruim é quando há variabilidade onde não se espera. Decisões de RH de uma empresa não devem variam tanto, por exemplo. Agora então podemos falar sobre viés, que é uma característica cognitiva INDIVIDUAL, mas que pode levar o sistema a um resultado com ruído e viés.
E o que isso tem a ver com IA?
Várias coisas, mas vou apontar só algumas. O Kahneman sugere que algoritmos PODEM ajudar a diminuir o ruído, uma vez que os resultados serão parecidos. Talvez isso não aconteça no curto prazo, até porque a gente tem que pensar no treinamento da IA. A maior parte dos sistemas hoje são treinados com dados (que tem vieses e ruídos). O processo de anotação dos dados também pode ser uma loucura, a depender do contexto. Agora mesmo estou investigando como o julgamento de um mesmo anotador humano pode mudar em algumas semanas.
Outro ponto levantado é que a IA pode oferecer informações para o julgamento humano (numa pegada simbiótica do Licklider). Ou então que a IA pode aprender sem depender dos dados, usando abordagem de reforço (como o AlphaZero). Tudo isso é especulativo e demanda estudos
Siga nas redes sociais: instagram.com/diogocortiz e twitter.com/diogocortiz
