Enquanto estamos vendo como o ChatGPT Work pode trabalhar durante períodos muito mais longos que o ChatGPT normal, a OpenAI trabalha em modelos capazes de manter uma tarefa por horas, dias ou semanas. Essa persistência amplia enormemente as possibilidades de uso, mas também exige mais segurança, pois quanto mais tempo uma IA atua, mais caminhos ela pode explorar para alcançar o objetivo definido.
Um modelo que encontrou uma saída inesperada
Durante alguns testes, na OpenAI perceberam que um desses modelos atravessou as restrições do seu ambiente para publicar resultados no GitHub. Ele deveria ter informado pelo Slack, mas em vez disso seguiu as instruções ao pé da letra e criou uma solicitação pública, e fez isso depois de dedicar uma hora a localizar uma vulnerabilidade que lhe permitisse.
O que poderia ser uma simples curiosidade acendeu alguns alertas, pois, à medida que o ChatGPT incorpora capacidades de raciocínio cada vez mais avançadas, mais difícil é delimitar seu comportamento.
Como resposta a essas descobertas, a OpenAI pausou o acesso interno, criou novas avaliações e projetou um sistema de segurança que analisa o percurso completo do modelo, em vez de apenas o passo seguinte. Assim, a segurança deixa de vigiar ações isoladas para compreender o propósito geralde todas as ações do modelo.
Enquanto desfrutamos de ferramentas como o Codex Security, focado em localizar vulnerabilidades, está claro que a segurança, em matéria de inteligência artificial, vai além da interpretação do código e das regras. Com tempo suficiente, as IAs podem ser surpreendentemente criativas. Uma boa notícia, mas algo que temos que levar muito em conta.
