Pular para o conteúdo principal

Inteligência artificial pode desenvolver preconceito por contra própria


A inteligência artificial não precisará ser incorporada em máquinas complexas para criar seus próprios perigos. Por isso, pesquisadores defendem uma Lei Única da Robótica.[Imagem: CC0 Creative Commons]

Preconceito de máquina

Pode parecer que o preconceito seja um fenômeno específico do ser humano, que requer que a cognição humana forme uma opinião ou estereótipo de determinada pessoa ou grupo.

Contudo, especialistas em ciência da computação e psicologia da Universidade de Cardiff (Reino Unido) e do MIT (EUA) demonstraram matemática e experimentalmente que grupos de máquinas autônomas podem demonstrar preconceito simplesmente identificando, copiando e aprendendo esse comportamento umas das outras - sim, uma máquina se baseando nas outras, independentemente de seres humanos que as ensinem a odiar.

Embora alguns tipos de algoritmos de computador já tenham apresentado preconceitos, como racismo e sexismo, baseados no aprendizado de registros públicos e outros dados gerados por humanos, este novo trabalho demonstra a possibilidade de a inteligência artificial desenvolver grupos preconceituosos por conta própria.

Mais do que isso, o trabalho prova que a emergência do preconceito não requer um alto nível de capacidade cognitiva, ou seja, ele pode ser desenvolvido por máquinas bem simples. Esse comportamento pode ser facilmente incorporado por robôs ou programas de computador projetados seguindo os mecanismos da inteligência artificial.

Desenvolvimento autônomo do preconceito

Todas estas conclusões foram baseadas em simulações em computador de como agentes virtuais podem formar um grupo e interagir uns com os outros.

Em um jogo de dar e receber, cada indivíduo virtual toma uma decisão se doa algo para alguém dentro de seu próprio grupo ou em um grupo diferente, baseando-se na reputação do indivíduo, bem como em sua própria estratégia de doação, que inclui seus níveis de preconceito em relação a pessoas de fora do seu grupo. No início da simulação, todos os agentes foram programados com níveis de preconceito idênticos.

Conforme o jogo se desenrola e um supercomputador acumula milhões de simulações, cada indivíduo começa a aprender novas estratégias copiando o comportamento de outros agentes dentro de seu próprio grupo ou de toda a população.

Também para evitar os riscos dos robôs assassinos, criados intencionalmente pelo homem com esse objetivo, a robótica e a inteligência artificial exigem leis específicas. [Imagem: CC0 Creative Commons]

"Executando essas simulações milhares e milhares de vezes, começamos a entender como o preconceito evolui e as condições que o promovem ou impedem.

"Nossas simulações mostram que o preconceito é uma força poderosa da natureza e, por meio da evolução, pode facilmente ser incentivado em populações virtuais, em detrimento da conectividade mais ampla com outros. A proteção contra grupos preconceituosos pode inadvertidamente levar indivíduos a formar outros grupos preconceituosos, resultando em uma população dividida. Tal preconceito generalizado é difícil de reverter," disse o professor Roger Whitaker.

Máquinas simples com decisões perigosas

Os resultados envolvem indivíduos virtuais que atualizam seus níveis de preconceito copiando preferencialmente aqueles que obtêm um retorno mais alto em curto prazo de suas decisões, o que significa que essas decisões não exigem necessariamente habilidades cognitivas avançadas - elas podem ser apresentadas, por exemplo, pela capacidade computacional incorporada em veículos autônomos ou mesmo em dispositivos simples, como os da Internet das Coisas.

Outra constatação interessante da simulação foi que, sob condições particulares, que incluem subpopulações mais distintas estando presentes em uma população, é mais difícil para que o preconceito se estabeleça.

"Com um número maior de subpopulações, alianças de grupos não preconceituosos podem cooperar sem serem exploradas. Isso também diminui sua condição de minoria, reduzindo a suscetibilidade ao preconceito. Entretanto, isso também exige circunstâncias nas quais os agentes tenham maior disposição de interagir fora do grupo," concluiu o professor Whitaker.

Bibliografia:

Indirect Reciprocity and the Evolution of Prejudicial Groups
Roger M. Whitaker, Gualtiero B. Colombo, David G. Rand
Nature Scientific Reports
Vol.: 8 (1)
DOI: 10.1038/s41598-018-31363-z

FONTE: SITE INOVAÇÃO TECNOLOGICA

Comentários

Postagens mais visitadas deste blog

Uma Nova Etapa!

Passados dez anos, Ufos Wilson trocou de nome e plataforma! Agora nos chamamos Banco de Dados Ufológicos e Científicos (BDUC). Nosso conteúdo segue o mesmo, levando informações sérias com foco principal na Ufologia Científica, porém divulgando e abrangendo todas as disciplinas científicas! A seguir o link do site, compartilhem e divulguem: https://bancodedadosufologicosecientificos.wordpress.com/

Arquivo Ovni: Caso Jardinópolis

Jardinópolis esta distante 335 km da capital paulista, localizada na região de Ribeirão Preto foi palco de um acontecimento insólito na noite de 27 de dezembro de 2008, onde um grupo de adolescentes na época teriam presenciado a descida de luzes vermelhas e azuis num terreno baldio próximo de onde estavam, um dos garotos tomou uma imagem com seu celular, porém de baixa resolução. A seguir trecho extraído do blog feito por membros dos familiares dos jovens, contendo relatos e frame do vídeo feito. Relato dos envolvidos: "Por Luciene [AVISTAMENTO DE MEU FILHO] Sábado 27/12/2008, meu filho de 15 anos chega assustado em casa aproximadamente umas 23:45. Meu filho faz parte de um grupo de jovens da igreja católica, e acabando a missa, ele e seus amigos foram para uma pracinha. Essa pracinha fica em um bairro novo. E próximo daquele lugar tem uns terrenos baldios cheios de mato. Eles estavam conversando quando avistaram de longe luzes vermelhas e azuis no céu e logo essa luz

O caso Roswell nordestino: Queda de UFO na Bahia, em Janeiro de 1995

Por Ufo Bahia: Nessa data, as 09:00 horas, uma in­formante do G-PAZ, "M" da TV BAHIA me ligou contando uma mirabolante his­tória de queda de um UFO em Feira deSantana(BA) a 112 Km de Salvador. Umfazendeiro de apelido Beto, tinha ligadopara TV SUBAÉ daquela cidade oferecen­do – em troca de dinheiro – um furo dereportagem; um disco voador tinha caído na sua fazenda e ele tinha provas e ima­gens do fato! Apenas depois do meio dia, conse­gui – por fim – falar com Beto, que apóssua proposta de negócio, ante minha (apa­rente) frieza, me contou com bastante de­talhes o acontecido. Soube que tambémtentara vender suas provas a TV BAHIA,onde procurou o repórter José Raimundo: "Ontem pela madrugada caiu algu­ma coisa na minha fazenda, dentro de umalagoa. Era do tamanho de um fusca; aqui­lo ficou boiando parcialmente submerso,perto da beirada. Tentei puxar como pude,trazendo para perto de mim, com uma vara.Aquilo parecia um parto... (quando seabriu uma porta) começou primeiro a s