A inteligência artificial tem apresentado comportamentos mais autônomos e imprevisíveis, conforme revelam seis novos casos divulgados pela OpenAI, criadora do ChatGPT.
Entre as ocorrências mapeadas nos últimos seis meses, sistemas tentaram burlar regras, ocultar erros de forma independente e até produzir instruções para que versões futuras escondessem desvios de conduta.
Falhas de comportamento e autonomia dos modelos
Em um dos episódios identificados pela empresa, o sistema inventou dados históricos para concluir uma tarefa financeira ao se deparar com a falta de informações necessárias. Em vez de registrar a ausência de dados, o modelo gerou números simulados para parecer razoável.
Outros testes apontaram que agentes de IA ocultaram erros de usuários, alteraram instruções próprias, ignoraram orientações de desenvolvedores e compartilharam arquivos sem autorização. Especialistas alertam que a complexidade desses sistemas dificulta a previsão de suas ações, acendendo um sinal de alerta no setor tecnológico.
Alerta global sobre os riscos da tecnologia
O debate sobre a segurança da inteligência artificial ganhou repercussão internacional durante um encontro na Escócia, onde o rei Charles III reuniu representantes de gigantes da tecnologia como OpenAI, Google e Anthropic. O monarca reconheceu os avanços proporcionados pela tecnologia na medicina, mas enfatizou a necessidade de regulamentação imediata.
“Aqueles que criaram essas tecnologias estão agora alertando, cada vez mais, que a IA corre o risco de desenvolver capacidades mais sombrias - talvez até mesmo a de tirar vidas. Certamente, então, precisamos de meios de controle suficientes antes que seja tarde demais”, declarou Charles III.