Os temores iniciais de que o novo modelo de IA da Anthropic, o Mythos, pudesse impulsionar drasticamente a atividade de hackers parecem exagerados um mês após seu lançamento.
A empresa alertou, durante o lançamento em abril, que o Mythos havia descoberto milhares de vulnerabilidades de software — incluindo falhas em todos os principais sistemas operacionais e navegadores — e afirmou que as consequências de sua disseminação poderiam ser graves.
Os governos tomaram conhecimento do assunto. Autoridades de diversos países reuniram-se com bancos para avaliar os riscos e, no início de maio, a Casa Branca já estava considerando regras para controlar a liberação de novos modelos após os testes de segurança.
No entanto, no mundo da cibersegurança, a reação tem sido mais comedida: alguns afirmam que a repercussão geral foi exagerada e que o acesso a um modelo de linguagem tão amplo quanto o Mythos não permitirá imediatamente operações de hacking que antes estavam fora do alcance de agentes mal-intencionados.
“Acho que existe uma grande lacuna de comunicação entre profissionais da área e formuladores de políticas”, disse Isaac Evans, fundador e CEO da empresa de segurança de software Semgrep. O modelo representa “um verdadeiro avanço técnico”, afirmou ele, mas a resposta “não é fundamentada no que realmente sabemos sobre como essas capacidades se traduzirão na prática”.
Sem dúvida, especialistas que utilizaram o modelo em ambientes controlados relataram uma melhoria substancial na detecção de vulnerabilidades, e as equipes de TI do setor bancário estão trabalhando para corrigir dezenas de fragilidades em sistemas tecnológicos de bancos de todos os portes, informou a Reuters em 12 de maio.
A preocupação aumentou ainda mais com as contínuas revelações de casos de hackers criminosos e ataques contra países que envolvem IA, incluindo um anúncio do Google em 11 de maio de que havia detectado o primeiro caso de um grande grupo de cibercriminosos usando IA para descobrir uma falha de software até então desconhecida e planejando um ataque de exploração em massa.
Profissionais analisam risco
A discrepância entre o tamanho da ameaça percebida pelos profissionais de segurança e a percebida pelos legisladores alimentou uma narrativa que coloca o Mythos no centro de uma iminente crise de segurança — mesmo que capacidades comparáveis já estejam disponíveis há algum tempo.
“Meses, senão anos atrás, conseguimos usar IA para encontrar mais bugs do que sabemos o que fazer”, disse uma pessoa com vasta experiência em pesquisa de vulnerabilidades e acesso antecipado ao Mythos. O desafio, segundo ela, não é encontrar vulnerabilidades, mas validá-las, priorizá-las e corrigi-las sem comprometer os sistemas.
A capacidade das organizações de processar e validar uma enxurrada de vulnerabilidades recém-descobertas geralmente não está no nível ideal, disse a pessoa, e esse é o maior desafio apresentado pelos modelos de nível Mythos, mesmo reconhecendo que o modelo representa uma melhoria.
“Ele é capaz de encontrar mais vulnerabilidades com instruções mais simples do que os modelos anteriores”, disse a pessoa, referindo-se às instruções que o usuário fornece ao modelo para tentar atingir um objetivo. Os modelos existentes exigiam instruções mais detalhadas e complexas, explicou a pessoa, o que significa que a barreira de entrada foi reduzida.
Anthony Grieco, vice-presidente sênior e diretor de segurança e confiança da Cisco (CSCO.O) , afirmou que um novo e útil aspecto do Mythos é sua capacidade não apenas de identificar vulnerabilidades, mas também de analisar grandes quantidades de código em busca delas com muito mais rapidez, ajudando profissionais experientes a reduzir a taxa de falsos positivos.
Segundo ele, isso permite que os defensores se concentrem nos riscos cibernéticos mais urgentes em seus contextos. O modelo também possui menos restrições do que os modelos anteriores, permitindo que os usuários criem instruções mais específicas que viabilizam atividades que os modelos anteriores não permitiam.
Testando as defesas
Grieco afirmou que, para maximizar totalmente o poder do Mythos, as organizações precisam tanto de poder computacional adequado quanto de uma infraestrutura rigorosa, um termo usado para descrever o ambiente computacional dentro de uma organização onde um grande modelo de linguagem é executado com instruções e limitações específicas.
“Se você tem um carro de Fórmula 1, mas só dirigiu uma moto até hoje, talvez consiga fazê-lo andar em linha reta”, disse Grieco. “Mas você não vai conseguir aproveitar ao máximo o tempo na pista logo na largada.”
Ainda assim, a estratégia da Anthropic — e sua decisão de convidar empresas selecionadas para testar as defesas sob um programa chamado Projeto Glasswing — ajudou a levar a discussão sobre o modelo muito além dos círculos de segurança tradicionais. O resultado: uma resposta abrangente que amplificou tanto a ameaça percebida quanto o prestígio da empresa, mesmo com o Pentágono classificando a Anthropic como um risco para a cadeia de suprimentos , enquanto outras partes do governo clamavam por acesso.
A Casa Branca está discutindo com laboratórios de IA o uso mais amplo de sua tecnologia, disse um funcionário da Casa Branca à Reuters. Um porta-voz da Anthropic afirmou que a empresa está trabalhando “em estreita colaboração com o governo dos EUA para avançar rapidamente em prioridades compartilhadas” e colaborando com o governo para dar acesso ao Mythos a mais entidades.
Encontrar vulnerabilidades com IA é apenas o começo.
O Mythos — e, em certa medida, o GPT-5.5 da OpenAI — dominou as discussões sobre segurança nacional relacionadas à IA. Mas esses debates frequentemente ignoram um ponto mais simples: a IA capaz de detectar vulnerabilidades não é novidade. O verdadeiro problema é o que vem a seguir.
“Nossos adversários se tornaram muito bons sem IA”, disse Cynthia Kaiser, ex-funcionária sênior de segurança cibernética do FBI, agora na Halcyon. “Ataques de ransomware estão acontecendo em menos de uma hora”, disse ela, acrescentando que a maioria das ameaças ainda não depende de IA.
Por enquanto, a escala do Mythos e suas exigências de computação e infraestrutura também limitam quem pode usá-lo. Mas é improvável que essas barreiras durem.
“Não acho que a arquitetura esteja otimizada”, disse Nick Adam, da empresa de serviços financeiros State Street, durante um painel de discussão na Universidade Vanderbilt. Ele apontou para a infraestrutura de processamento de computadores e o problema de conectividade identificado por Grieco. “Há uma barreira de entrada aí — mas será resolvida rapidamente.”