Pular para o conteúdo principal

Inteligência artificial pode desenvolver preconceito por contra própria


A inteligência artificial não precisará ser incorporada em máquinas complexas para criar seus próprios perigos. Por isso, pesquisadores defendem uma Lei Única da Robótica.[Imagem: CC0 Creative Commons]

Preconceito de máquina

Pode parecer que o preconceito seja um fenômeno específico do ser humano, que requer que a cognição humana forme uma opinião ou estereótipo de determinada pessoa ou grupo.

Contudo, especialistas em ciência da computação e psicologia da Universidade de Cardiff (Reino Unido) e do MIT (EUA) demonstraram matemática e experimentalmente que grupos de máquinas autônomas podem demonstrar preconceito simplesmente identificando, copiando e aprendendo esse comportamento umas das outras - sim, uma máquina se baseando nas outras, independentemente de seres humanos que as ensinem a odiar.

Embora alguns tipos de algoritmos de computador já tenham apresentado preconceitos, como racismo e sexismo, baseados no aprendizado de registros públicos e outros dados gerados por humanos, este novo trabalho demonstra a possibilidade de a inteligência artificial desenvolver grupos preconceituosos por conta própria.

Mais do que isso, o trabalho prova que a emergência do preconceito não requer um alto nível de capacidade cognitiva, ou seja, ele pode ser desenvolvido por máquinas bem simples. Esse comportamento pode ser facilmente incorporado por robôs ou programas de computador projetados seguindo os mecanismos da inteligência artificial.

Desenvolvimento autônomo do preconceito

Todas estas conclusões foram baseadas em simulações em computador de como agentes virtuais podem formar um grupo e interagir uns com os outros.

Em um jogo de dar e receber, cada indivíduo virtual toma uma decisão se doa algo para alguém dentro de seu próprio grupo ou em um grupo diferente, baseando-se na reputação do indivíduo, bem como em sua própria estratégia de doação, que inclui seus níveis de preconceito em relação a pessoas de fora do seu grupo. No início da simulação, todos os agentes foram programados com níveis de preconceito idênticos.

Conforme o jogo se desenrola e um supercomputador acumula milhões de simulações, cada indivíduo começa a aprender novas estratégias copiando o comportamento de outros agentes dentro de seu próprio grupo ou de toda a população.

Também para evitar os riscos dos robôs assassinos, criados intencionalmente pelo homem com esse objetivo, a robótica e a inteligência artificial exigem leis específicas. [Imagem: CC0 Creative Commons]

"Executando essas simulações milhares e milhares de vezes, começamos a entender como o preconceito evolui e as condições que o promovem ou impedem.

"Nossas simulações mostram que o preconceito é uma força poderosa da natureza e, por meio da evolução, pode facilmente ser incentivado em populações virtuais, em detrimento da conectividade mais ampla com outros. A proteção contra grupos preconceituosos pode inadvertidamente levar indivíduos a formar outros grupos preconceituosos, resultando em uma população dividida. Tal preconceito generalizado é difícil de reverter," disse o professor Roger Whitaker.

Máquinas simples com decisões perigosas

Os resultados envolvem indivíduos virtuais que atualizam seus níveis de preconceito copiando preferencialmente aqueles que obtêm um retorno mais alto em curto prazo de suas decisões, o que significa que essas decisões não exigem necessariamente habilidades cognitivas avançadas - elas podem ser apresentadas, por exemplo, pela capacidade computacional incorporada em veículos autônomos ou mesmo em dispositivos simples, como os da Internet das Coisas.

Outra constatação interessante da simulação foi que, sob condições particulares, que incluem subpopulações mais distintas estando presentes em uma população, é mais difícil para que o preconceito se estabeleça.

"Com um número maior de subpopulações, alianças de grupos não preconceituosos podem cooperar sem serem exploradas. Isso também diminui sua condição de minoria, reduzindo a suscetibilidade ao preconceito. Entretanto, isso também exige circunstâncias nas quais os agentes tenham maior disposição de interagir fora do grupo," concluiu o professor Whitaker.

Bibliografia:

Indirect Reciprocity and the Evolution of Prejudicial Groups
Roger M. Whitaker, Gualtiero B. Colombo, David G. Rand
Nature Scientific Reports
Vol.: 8 (1)
DOI: 10.1038/s41598-018-31363-z

FONTE: SITE INOVAÇÃO TECNOLOGICA

Comentários

Postagens mais visitadas deste blog

Mémorias da Ufologia: Caso SANTA ISABEL

FOTOS DO LAUDO

Na localidade de Santa Izabel(SP) em junho de 1999, a Sra. Alzira Maria de Jesus foi encontrada morta na sua cama, e por volta das 8 hs da manhã sua nora percebe o fato e sai imediatamente para ir ao orelhão e ligar para o seu marido e espera à ajuda e , ao chegar de volta em casa quase 40 min.depois a nora vê o corpo da sra. com o rosto totalmente desfigurado e praticamente sem carne; foi feito o boletim de ocorrência na delegacia da cidade sob n°145/99 em 24 de Junho. Posteriormente confirmou-se que à causa da morte foi a parada respiratória, mas o que aconteceu realmente como rosto desta sra. num espaço menor de uma hora?O laudo é cita sobre as configurações do mesmo, inclusive nas cavidades oculares, mas o que teria causado à perda do rosto ficou indeterminada. Mais estranho ainda é que na noite anterior aos fatos foram vistas bolas de luz voando nessa região rural e no início da madrugada os animais,como cachorros,gansos,e outros começaram à fazer um intenso barulh…

Ovnis e estranhas criaturas próximos ao Centro de Lançamento da Barreira do Inferno (RN)

Desde o ano de 2016 militares da Aeronáutica que trabalham na Barreira do Inferno já percebiam bolas de luzes alaranjadas como também feixes de luzes amarelados no céu noturno, bem próximo daquela região. Por desconhecerem totalmente a origem dessas luzes misteriosas e a finalidade delas, vários militares observavam intrigados e chegavam a comentar entre eles sobre esses fenômenos luminosos. Dias após a percepção dessas claridades no céu noturno, alguns militares começaram a perceber ao redor daquela localidade o aparecimento de criaturas vivas, de seres que não eram humanos. Um dos militares chegou a ver um "Urso Polar" e imediatamente comunicou a outros militares de plantão. Tal militar chegou a passar mal após a aparição de tal criatura. Já um outro militar flagrou uma outra criatura aparentando ser um "homem de grande porte" sair andando de dentro da água do mar. Outro militar relata que presenciou duas criaturas que de início pareciam apenas dois cachorros g…

A noite em que Lavras (MG) parou para ver um UFO

Serra da Bocaina no município de Lavras (MG)

Na noite de 1º de junho de 1969, um UFO sobrevoou a cidade de Lavras, região Sul do estado de Minas Gerais, sendo observado por centenas de pessoas. O fotógrafo amador e médico Dr. Rêmulo Tourino Furtini tirou diversas fotografias do estranho objeto, que chegou a fazer um pouso em um pasto existente na época. O sargento Inocêncio França do Tiro de Guerra local e vários atiradores comprovaram o pouso, constatado tecnicamente após o ocorrido. Na época, o caso foi notícia na mídia de todo o país, despertando o interesse da Nasa e até mesmo do extinto bloco soviético.


Ufo é fotografado na madrugada

Naquela fria madrugada de 1º de junho de 1969 algumas pessoas encontram-se nas ruas, já que no tradicional Clube de Lavras estava acontecendo um dos seus famosos bailes. Alguns bares encontravam-se abertos e alguns bêbados ziguezagueavam por aquelas ruas tranquilas.

Era uma noite comum de inverno, como tantas outras em uma cidade interiorana, quando…