Pular para o conteúdo principal

Inteligência artificial pode aumentar significativamente o risco de uma guerra nuclear até 2040



Por: George Dvorsky

A concepção comum de um apocalipse tecnologicamente possibilitado prevê uma poderosa inteligência artificial que, deliberada ou acidentalmente, destrói a civilização humana. Porém, conforme aponta um novo relatório da RAND Corporation, a realidade pode ser muito mais sutil: à medida que a IA lentamente corrói as bases que possibilitaram a Guerra Fria, podemos nos ver a caminho de uma guerra nuclear completa.

Existe um “potencial significativo” para a inteligência artificial minar os fundamentos da segurança nuclear, segundo um novo relatório publicado nesta terça-feira (24) pela RAND Corporation, uma organização de pesquisa sem fins lucrativos e apartidária. Essa conclusão sombria foi o produto de uma oficina da RAND envolvendo especialistas em IA, segurança nuclear, governo e forças armadas. O objetivo do workshop, que faz parte do projeto Security 2040, da RAND, foi avaliar os próximos impactos da IA e da computação avançada na segurança nuclear ao longo das próximas duas décadas. À luz de suas descobertas, a RAND está pedindo agora um diálogo internacional sobre o assunto.

No centro dessa discussão está o conceito de dissuasão nuclear, no qual a garantia de “destruição mútua assegurada” (MAD, na sigla em inglês), ou “retaliação garantida”, impede que um lado lance suas armas nucleares contra um adversário igualmente armado. É uma lógica fria e calculista que — pelo menos até este momento de nossa história — impediu uma guerra nuclear total, com as potências racionais e em um pensamento de autopreservação optando por lutar uma Guerra Fria.

Enquanto nenhuma potência nuclear mantiver capacidades significativas de primeiro ataque, o conceito de MAD reina supremo; se um sistema de armas puder sobreviver a um primeiro ataque e reagir com igual força, a destruição assegurada permanecerá em vigor. Mas esse arranjo pode se enfraquecer e se tornar instável no caso de um lado perder sua capacidade de contra-atacar, ou mesmo se começar a acreditar que corre o risco de perder essa capacidade.

Essa equação incentiva as nações a evitar medidas que possam desestabilizar o atual equilíbrio geopolítico, mas, como vimos repetidamente ao longo das últimas décadas, as potências nucleares ainda estão dispostas a disparar o primeiro ataque. Veja: o desenvolvimento de bombardeiros furtivos, submarinos com capacidade nuclear e, mais recentemente, a revelação de um míssil balístico invencível por parte do presidente russo Vladimir Putin.

“Este não é apenas um cenário de filme. Coisas que são relativamente simples podem aumentar as tensões e nos levar a lugares perigosos se não formos cuidadosos.”
Ainda bem que nenhum desses desenvolvimentos de fato acabou com a capacidade de uma superpotência de contra-atacar depois de um primeiro ataque. Porém, conforme o relatório da RAND deixa claro, uma inteligência artificial avançada, junto com tecnologias de vigilância como drones, satélites e outros sensores poderosos, poderia acabar com o equilíbrio técnico que mantém o delicado balanço de Guerra Fria.

A inteligência artificial alcançará isso por meio de vigilância em massa da infraestrutura de um adversário, encontrando padrões invisíveis aos olhos humanos e revelando vulnerabilidades devastadoras, de acordo com o relatório.

“Este não é apenas um cenário de filme”, disse Andrew Lohn, engenheiro na RAND e coautor do estudo, em um comunicado. “Coisas que são relativamente simples podem aumentar as tensões e nos levar a lugares perigosos se não formos cuidadosos.”

Um adversário exposto — de repente ciente de sua vulnerabilidade a um primeiro ataque ou ciente de que logo perderia sua capacidade de reagir — seria colocado em uma posição muito desafiadora. Tal cenário pode obrigar o lado em desvantagem a encontrar maneiras de restaurar o campo de jogo equilibrado, e ele pode começar a agir como um glutão que foi encurralado. A IA avançada poderia introduzir uma nova era de desconfiança e competição, com potências nucleares desesperadas dispostas a assumir riscos catastróficos e, possivelmente, até mesmo em escala existencial.

De forma perturbadora, a iminente perda de uma destruição garantida poderia levar a uma chamada guerra preventiva, em que um conflito é iniciado para impedir que um adversário atinja uma capacidade de ataque. Nos anos que antecederam a Primeira Guerra Mundial, por exemplo, a Alemanha assistiu com grande preocupação à medida que sua rival, a Rússia, começou a emergir como poder regional significativo.

Seus especialistas previram que a Rússia seria capaz de derrotar a Alemanha em um conflito armado dentro de 20 anos, o que levou a uma guerra preventiva. E no período imediatamente posterior à Segunda Guerra Mundial, alguns pensadores nos Estados Unidos, incluindo o filósofo Bertrand Russell e o matemático John von Neumann, pediram um ataque nuclear preventivo à União Soviética antes que ela pudesse desenvolver sua própria bomba.

Como esses exemplos mostram, o período em que os desenvolvimentos estão prestes a interromper uma vantagem militar ou um estado de equilíbrio (ou seja, MAD) pode ser um momento muito perigoso, levando a todos os tipos de ideias malucas. Como os autores do novo relatório da RAND apontam, podemos estar nos encaminhando para outro desses períodos de transição. A inteligência artificial tem “o potencial de exacerbar os desafios emergentes para a estabilidade estratégica nuclear até o ano de 2040, mesmo com taxas modestas de progresso técnico”, escrevem os autores no relatório.

Edward Geist, pesquisador associado de política da RAND e coautor do novo relatório, diz que sistemas autônomos não precisam matar pessoas para minar a estabilidade e tornar a guerra catastrófica mais provável. “Novas capacidades de IA podem fazer as pessoas pensarem que vão perder se hesitar”, disse em um comunicado. “Isso poderia fazer seus dedos coçarem nos gatilhos. A essa altura, a IA estará tornando a guerra mais provável, mesmo que os humanos ainda estejam em ‘controle’.” Os autores alertam para um futuro nebuloso, mas ressaltam que a IA pode ajudar em uma estabilidade sem precedentes. Eles escreveram:

Alguns especialistas temem que uma maior dependência na inteligência artificial possa levar a novos tipos de erros catastróficos. Pode haver pressão para usá-la antes que ela esteja tecnologicamente madura; ela pode estar suscetível à subversão adversária; ou os adversários podem acreditar que a IA é mais capaz do que é, levando-os a cometer erros catastróficos. Por outro lado, se as potências nucleares conseguirem estabelecer uma forma de estabilidade estratégica compatível com as capacidades emergentes que a IA poderia fornecer, as máquinas poderiam reduzir a desconfiança e aliviar as tensões internacionais, diminuindo assim o risco de uma guerra nuclear.

Os autores disseram que é impossível prever qual desses dois cenários acontecerá, mas a comunidade global precisa agir agora para amenizar os riscos potenciais. Em termos de soluções, os autores da RAND propõem discussões internacionais, novas instituições globais e acordos, reconhecimento do problema por nações rivais e o desenvolvimento de garantias tecnológicas, diplomáticas e militares inovadoras.

Essa é a faca de dois gumes da tecnologia. A IA poderia ou lubrificar as engrenagens para a nossa desgraça ou, como aconteceu em filmes como Colossus 1980 (1970) e Jogos de Guerra (1983), nos proteger de nós mesmos. Nesse caso, é melhor adotar o velho ditado em que somos lembrados de torcer pelo melhor enquanto nos planejamos para o pior.



[RAND Corporation]

Imagem do topo: AP

FONTE: GIZMODO BRASIL

Comentários

Postagens mais visitadas deste blog

Uma Nova Etapa!

Passados dez anos, Ufos Wilson trocou de nome e plataforma! Agora nos chamamos Banco de Dados Ufológicos e Científicos (BDUC). Nosso conteúdo segue o mesmo, levando informações sérias com foco principal na Ufologia Científica, porém divulgando e abrangendo todas as disciplinas científicas! A seguir o link do site, compartilhem e divulguem: https://bancodedadosufologicosecientificos.wordpress.com/

O caso Roswell nordestino: Queda de UFO na Bahia, em Janeiro de 1995

Por Ufo Bahia: Nessa data, as 09:00 horas, uma in­formante do G-PAZ, "M" da TV BAHIA me ligou contando uma mirabolante his­tória de queda de um UFO em Feira deSantana(BA) a 112 Km de Salvador. Umfazendeiro de apelido Beto, tinha ligadopara TV SUBAÉ daquela cidade oferecen­do – em troca de dinheiro – um furo dereportagem; um disco voador tinha caído na sua fazenda e ele tinha provas e ima­gens do fato! Apenas depois do meio dia, conse­gui – por fim – falar com Beto, que apóssua proposta de negócio, ante minha (apa­rente) frieza, me contou com bastante de­talhes o acontecido. Soube que tambémtentara vender suas provas a TV BAHIA,onde procurou o repórter José Raimundo: "Ontem pela madrugada caiu algu­ma coisa na minha fazenda, dentro de umalagoa. Era do tamanho de um fusca; aqui­lo ficou boiando parcialmente submerso,perto da beirada. Tentei puxar como pude,trazendo para perto de mim, com uma vara.Aquilo parecia um parto... (quando seabriu uma porta) começou primeiro a s

Arquivo Ovni: Caso Jardinópolis

Jardinópolis esta distante 335 km da capital paulista, localizada na região de Ribeirão Preto foi palco de um acontecimento insólito na noite de 27 de dezembro de 2008, onde um grupo de adolescentes na época teriam presenciado a descida de luzes vermelhas e azuis num terreno baldio próximo de onde estavam, um dos garotos tomou uma imagem com seu celular, porém de baixa resolução. A seguir trecho extraído do blog feito por membros dos familiares dos jovens, contendo relatos e frame do vídeo feito. Relato dos envolvidos: "Por Luciene [AVISTAMENTO DE MEU FILHO] Sábado 27/12/2008, meu filho de 15 anos chega assustado em casa aproximadamente umas 23:45. Meu filho faz parte de um grupo de jovens da igreja católica, e acabando a missa, ele e seus amigos foram para uma pracinha. Essa pracinha fica em um bairro novo. E próximo daquele lugar tem uns terrenos baldios cheios de mato. Eles estavam conversando quando avistaram de longe luzes vermelhas e azuis no céu e logo essa luz