Qual é a importância do design afetivo em inteligência artificial? Os usuários estão aos poucos aumentando sua confiança em sistemas de IA no processo de tomada de decisão. Mas quais são os fatores decisivos para isso? Em um estudo recente publicado na ACM CHI, pesquisadores investigaram o efeito da percepção dos usuários sobre o “calor e afetividade” da IA contra a sua competência.
Uma das hipóteses é a de que usuários preferem sistemas com modelo complexos com melhor acurácia. Para investigá-la, pesquisadores propuseram um experimento com mais de 1.600 usuários para avaliarem a preferência das pessoas em relação aos diferentes tipos de sistemas de IA.
Em um dos experimentos, os usuários tinham que escolher entre dois sistemas de recomendação de plano de seguro. O Sistema A tinha baixa competência (foi treinado usando um modelo simples de árvore de decisão com apenas 1.000 datapoints), mas apresentava alto calor e afetividade (desenhado para ajudar pessoas como eles a receber melhores ofertas e atingir seus objetivos).
O Sistema B apresentava alta competência (usando uma rede neural de alta estado da arte treinada com mais de 1.000.000 de datapoints), mas com uma baixa afetividade (desenhado para ajudar os corretores de seguro, não necessariamente os usuários).
Entre as duas opções, os usuários preferiam o Sistema A e estavam dispostos a sacrificar a competência do sistema por uma maior afetividade. Esses resultados condizem com as regras sociais entre humanos, haja vista que a afetividade é uma propriedade importante no julgamento de pessoas.
Para fechar: as pessoas usam regras sociais básicas para avaliar sistemas de IA e pessoas. Os designers de IA devem, portanto, considerar e comunicar o calor e o afeto do sistema aos seus usuários potenciais para conquistá-los. Só a acurácia não basta, devemos focar no afeto e propósito, principalmente quando a interação se tornar ainda mais fluida e intimista. O artigo completo está disponível aqui.
