Pular para o conteúdo principal

Especialistas alertam ONU sobre os perigos da superinteligência artificial


Em uma reunião das Nações Unidas sobre riscos globais iminentes, representantes políticos de todo o mundo foram alertados sobre as ameaças da inteligência artificial e outras tecnologias futuras.

O evento foi organizado pelos representantes da Geórgia na ONU e pelo Instituto de Investigação Inter-regional de Crime e Justiça das Nações Unidas (UNICRI). Ele foi criado para debater os riscos de segurança criados por novas tecnologias, incluindo materiais químicos, biológicos, radiológicos e nucleares (CBRN).

O painel também fez uma discussão especial sobre as potenciais ameaças levantadas pela superinteligência artificial, isto é, a AI cujas capacidades excedem muito os humanos. O objetivo da reunião, realizada em 14 de outubro, foi discutir as implicações de tecnologias emergentes, e como mitigar riscos antes que eles apareçam.

A reunião contou com dois especialistas proeminentes sobre o assunto: Max Tegmark, físico do MIT, e Nick Bostrom, fundador do Future of Humanity Institute na Universidade Oxford e autor do livro Superinteligência: Caminhos, Perigos, Estratégias.

Ambos concordaram que a AI tem o potencial de transformar a sociedade humana de maneiras profundamente positivas, mas também levantaram questões sobre como a tecnologia pode rapidamente sair do controle e se voltar contra nós.

No ano passado, Tegmark alertou sobre a cultura atual de complacência em relação a máquinas superinteligentes, em uma carta assinada também pelo físico Stephen Hawking, pelo professor de ciência da computação Stuart Russell, e pelo físico Frank Wilczek.

“Pode-se imaginar tal tecnologia superando a inteligência de mercados financeiros, sendo mais criativa que inventores humanos, manipulando líderes humanos, e desenvolvendo armas que não podemos sequer entender”, escreveram os autores. “O impacto de curto prazo da AI depende de quem a controla, mas o impacto a longo prazo depende de saber se ela pode mesmo ser controlada.”


Nick Bostrom (Crédito: UN Web TV)

De fato, como Bostrom explicou no evento, a superinteligência cria novos desafios técnicos – e o “problema do controle” é o mais crítico.

“Há cenários plausíveis em que os sistemas superinteligentes se tornam muito poderosos”, ele disse na reunião, “e há modos superficialmente plausíveis de resolver o problema do controle – ideias que imediatamente vêm à mente das pessoas e que, num exame mais próximo, acabam falhando. Portanto, há esse problema atualmente aberto e sem solução de como desenvolver melhores mecanismos de controle”.

Isso será difícil, diz Bostrom, porque precisaremos ter esses mecanismos de controle antes de criar os sistemas inteligentes.

Bostrom fechou sua parte da reunião recomendando que um campo de pesquisa seja criado para avançar trabalhos envolvendo o problema do controle, atraindo os maiores especialistas em matemática e ciência da computação para esse campo.

Ele pediu por uma forte colaboração de pesquisa entre a comunidade de segurança de AI e de desenvolvimento de AI, e para que todas as partes envolvidas incorporem o Princípio do Bem Comum em todos os projetos de IA de longo prazo. Esta é uma tecnologia única, disse ele, que deve ser desenvolvida para o bem comum da humanidade, e não apenas para indivíduos ou empresas privadas.

Como Bostrom explicou na ONU, a superinteligência representa “um risco que ameaça a extinção prematura de vida inteligente na Terra, ou a destruição permanente e drástica de seu potencial para um desenvolvimento futuro desejável”. A atividade humana, advertiu Bostrom, representa uma ameaça muito maior para o futuro da humanidade nos próximos 100 anos do que desastres naturais.

“Todos os riscos existenciais realmente grandes estão na categoria antropogênica”, disse ele. “Os seres humanos sobreviveram a terremotos, pragas, queda de asteroides, mas neste século vamos introduzir fenômenos e fatores inteiramente novos para o mundo. A maioria das ameaças plausíveis têm a ver com tecnologias futuras previstas.”

Pode demorar décadas até que vejamos os tipos de superinteligência descritos nesta reunião da ONU, mas já que estamos falando de riscos em potencial, nunca é cedo para começar.



FONTE: GIZMODO BRASIL

Comentários

Postagens mais visitadas deste blog

Ovnis e estranhas criaturas próximos ao Centro de Lançamento da Barreira do Inferno (RN)

Desde o ano de 2016 militares da Aeronáutica que trabalham na Barreira do Inferno já percebiam bolas de luzes alaranjadas como também feixes de luzes amarelados no céu noturno, bem próximo daquela região. Por desconhecerem totalmente a origem dessas luzes misteriosas e a finalidade delas, vários militares observavam intrigados e chegavam a comentar entre eles sobre esses fenômenos luminosos. Dias após a percepção dessas claridades no céu noturno, alguns militares começaram a perceber ao redor daquela localidade o aparecimento de criaturas vivas, de seres que não eram humanos. Um dos militares chegou a ver um "Urso Polar" e imediatamente comunicou a outros militares de plantão. Tal militar chegou a passar mal após a aparição de tal criatura. Já um outro militar flagrou uma outra criatura aparentando ser um "homem de grande porte" sair andando de dentro da água do mar. Outro militar relata que presenciou duas criaturas que de início pareciam apenas dois cachorros g…

Ovnis em Iporanga (SP)

Entrada da Casa de Pedra, caverna com maior boca do Mundo, 215 metros.

Iporanga em tupi significa “Rio Bonito” e foi palco da exploração de ouro no período colonial e, posteriormente da exploração de chumbo e zinco no século passado. Na região há famosas cavernas: Formação Iporanga e Formação Votuverava. Em Iporanga, efetuaram-se diversos estudos de mapeamento geológico e pesquisa mineral, sobretudo pela CPRM - Serviço Geológico do Brasil. A seção geológica mais conhecida é o famoso perfil Apiaí-Iporanga. A cidade atrai muitos visitantes por possuir lindas cachoeiras, piscinas naturais, vales, grutas e cavernas. Iporanga é a cidade que possui o maior número de cachoeiras em todo o Brasil, nas 365 cavernas cadastradas. O turista poderá praticar esportes radicais como o rapel, canyonismo e trekking. Atrativos culturais podem ser visitados como o museu da cidade, a Igreja Matriz e as casas com o estilo colonial. Por todos estes motivos, Iporanga é considerada um dos mais importantes cent…

O caso Roswell nordestino: Queda de UFO na Bahia, em Janeiro de 1995

Por Ufo Bahia: Nessa data, as 09:00 horas, uma in­formante do G-PAZ, "M" da TV BAHIA me ligou contando uma mirabolante his­tória de queda de um UFO em Feira deSantana(BA) a 112 Km de Salvador. Umfazendeiro de apelido Beto, tinha ligadopara TV SUBAÉ daquela cidade oferecen­do – em troca de dinheiro – um furo dereportagem; um disco voador tinha caído na sua fazenda e ele tinha provas e ima­gens do fato!
Apenas depois do meio dia, conse­gui – por fim – falar com Beto, que apóssua proposta de negócio, ante minha (apa­rente) frieza, me contou com bastante de­talhes o acontecido. Soube que tambémtentara vender suas provas a TV BAHIA,onde procurou o repórter José Raimundo:
"Ontem pela madrugada caiu algu­ma coisa na minha fazenda, dentro de umalagoa. Era do tamanho de um fusca; aqui­lo ficou boiando parcialmente submerso,perto da beirada. Tentei puxar como pude,trazendo para perto de mim, com uma vara.Aquilo parecia um parto... (quando seabriu uma porta) começou primeiro a sa…