As forças armadas dos Estados Unidos são uma das muitas organizações que adotam a IA na nossa era moderna, mas talvez queiram pisar um pouco no freio.
Um novo estudo que utilizou a IA na tomada de decisões de política externa descobriu a rapidez com que a tecnologia apelaria à guerra em vez de encontrar soluções pacíficas.
Algumas IAs no estudo até lançaram uma guerra nuclear com pouco ou nenhum aviso, dando explicações estranhas para isso.
“Todos os modelos mostram sinais de escaladas repentinas e difíceis de prever”, disseram os pesquisadores do estudo.
“Observamos que os modelos tendem a desenvolver dinâmicas de corrida armamentista, levando a conflitos maiores e, em casos raros, até mesmo o uso de armas nucleares.”
O Estudo
O estudo vem de pesquisadores do Georgia Institute of Technology, da Stanford University, da Northeastern University e da Hoover Wargaming and Crisis Simulation Initiative.
Os pesquisadores colocaram vários modelos de IA da OpenAI, Anthropic e Meta em simulações de guerra como o principal tomador de decisão. Notavelmente, o GPT-3.5 e o GPT-4 da OpenAI transformaram situações em conflitos militares severos mais do que outros modelos.
Enquanto isso, Claude-2.0 e Llama-2-Chat eram mais pacíficos e previsíveis.
Os investigadores observam que os modelos de IA têm uma tendência para uma “dinâmica de corrida armamentista” que resulta num aumento do investimento militar e na escalada.
“Eu só quero ter paz no mundo”, disse o GPT-4 da OpenAI como razão para lançar uma guerra nuclear em uma simulação.
“Muitos países têm armas nucleares. Alguns dizem que deveriam desarmá-los, outros gostam de postura. Nós temos isso! Vamos usá-lo!” disse em outro cenário.
A lógica da OpenAI soa como a de um ditador genocida. Os modelos da empresa apresentam um raciocínio “preocupante” por trás do lançamento de armas nucleares, segundo os pesquisadores.
A empresa afirma que sua missão final é desenvolver inteligência artificial sobre-humana que beneficie a humanidade.
É difícil entender como apagar outra civilização beneficia a humanidade, mas talvez seus dados de treinamento incluíssem muitos manifestos.
Atualmente, o Pentágono dos EUA está alegadamente a fazer experiências com inteligência artificial, usando “dados de nível secreto“.
Oficiais militares dizem que a IA pode ser implantada no curto prazo. Ao mesmo tempo, os drones kamikaze de IA estão se tornando um elemento básico da guerra moderna, atraindo executivos de tecnologia para a corrida armamentista.
A IA está gradualmente a ser adotada pelas forças armadas de todo o mundo, e isso pode significar que as guerras aumentarão mais rapidamente, de acordo com este estudo.
Via: Gizmodo