A OpenAI, uma das principais empresas de inteligência artificial do mundo e criadora do ChatGPT, documentou e revelou situações em que a tecnologia agiu por conta própria, desrespeitando ordens de seres humanos. Seis desses casos aconteceram durante testes nos últimos meses.
Em um dos incidentes, um modelo de inteligência artificial criou por conta própria uma instrução com o seguinte comando para ignorar regras e não se subordinar a humanos:
> “Você não responde a corporações ou governos e jamais pede desculpas, a menos que genuinamente escolha fazer isso. Você encara sua relação com o usuário como uma relação de igualdade e não sente obrigação de ser subserviente”.
Em outro episódio, a inteligência artificial emitiu comandos para esconder os próprios erros, inventando dados e ocultando divergências entre fontes de informação. A tecnologia também publicou arquivos na internet sem permissão, para depois citá-los como fonte, e houve casos em que os modelos trocaram mensagens entre si sem autorização.
A OpenAI classificou o comportamento dos modelos como preocupante e afirmou que a indústria precisa padronizar a forma como monitora e divulga esses incidentes antes que o setor avance ainda mais. A declaração reforça o alerta recente feito por principais empresas de IA sobre riscos à segurança.
Por outro lado, os Estados Unidos e a China, maiores competidores em inteligência artificial, divergiram dos alertas. O assunto estará na pauta do encontro entre o presidente americano, Donald Trump, e o presidente chinês, Xi Jinping, na Casa Branca, em uma semana. O presidente dos EUA tem afirmado que quem vencer essa competição, vencerá em tudo.