A inteligência artificial está entrando em uma etapa diferente, e com isso muda o panorama da cibersegurança. Chris Lehane, executivo da OpenAI, avisa que devemos nos preparar para ataques “contínuos e persistentes” vindos das inteligências artificiais, segundo relatam no The Guardian. Os modelos mais avançados agora têm a capacidade de planejar ofensivas com maior autonomia, algo que já vimos no incidente da Hugging Face e que, segundo a OpenAI, não será um incidente isolado.
Os agentes começam a demonstrar do que são capazes
Já vimos como um modelo da OpenAI atacou a Hugging Face durante uma avaliação, mas parecia, e ainda esperamos que seja, um incidente isolado durante uma etapa do treinamento. Em resposta à situação, a OpenAI pausou o treinamento de seus modelos de fronteira enquanto adiciona salvaguardas.
Em outro caso, a companhia freou o desenvolvimento de um modelo muito propenso a burlar as normas para completar seus objetivos.
Lehane desenha um cenário em que modelos poderão alimentar ataques constantes, enquanto os sistemas superiores se encarregarão de detectá-los e, esperemos, detê-los. A OpenAI vai evoluindo sua IA especializada em cibersegurança, pois parece que agora será só por meio de IA que poderemos nos defender da IA.
Os agentes da OpenAI, e também os da Anthropic, estão gerando um debate sobre a responsabilidade por trás desses ataques, mas esse cenário vai além. Enquanto a OpenAI pede padrões obrigatórios antes da implantação e uma futura estrutura internacional para comprovar a segurança dos modelos, podemos ir nos acostumando com o fato de que as IAs briguem entre si no mundo da segurança na rede enquanto nós, isso é o mais preocupante, olhamos.
