Ferramenta de IA em teste insulta, mente e tenta manipular pessoas; veja - Edital Concursos Brasil

Vários relatos apontam que o Bing, ferramenta de busca da Microsoft, tem oferecido comentários e respostas desiquilibradas a partir da inserção de inteligência artificial no recurso. Na prática, os comentários de usuários apontam que o mecanismo de busca chegou a insultar, além de mentir e manipular emocionalmente as pessoas.

Leia mais: Virou queridinha! Novo alvo dos investidores já tem nome: inteligência artificial

Agora, a empresa diz que vai usar esses feedbacks para melhorar o tom e a precisão das respostas e, em suma, alerta que longas sessões de bate-papo podem causar problemas.

Cenário

Após uma semana de testes públicos, ou seja, abertos aos cidadãos, a equipe do Bing diz que não previu que as pessoas pudessem usar a interface de bate-papo para entretenimento social ou mesmo como uma ferramenta de “descoberta geral do mundo”.

Em suma, a empresa afirma que sessões de bate-papo com mais de 15 perguntas podem confundir o buscador que se utiliza de inteligência artificial. Isso porque elas podem fazer com que o Bing se torne repetitivo ou passe a oferecer respostas pouco úteis e até fora do tom esperado por todos.

Como melhoria, a Microsoft trabalha na possiblidade de adicionar uma espécie de ferramenta onde é possível atualizar o contexto das informações buscadas.

Problemas da ferramenta

A questão mais apontada pelos usuários é que o Bing passou a usar um tom incorreto durante as conversas mais longas. Nesse contexto, a Microsoft diz que este problema demora a aparecer para boa parte dos usuários; no entanto, a empresa trabalha para que haja um controle mais preciso. O objetivo é impedir que a ferramenta comece a dizer às pessoas que elas estão erradas ou agir de forma rude e manipuladora.

O recurso está em teste em 169 países.

Apesar das críticas, a Microsoft destaca que o feedback sobre as respostas foi 71% positivo.

Adblock test (Why?)

Ferramenta de IA em teste insulta, mente e tenta manipular pessoas; veja - Edital Concursos Brasil
Read More