Anthropic: A Revolução da IA na Segurança Cibernética

A Anthropic está na vanguarda de uma nova era na segurança cibernética, impulsionada por avanços significativos em inteligência artificial. A empresa formou o Projeto Glasswing devido às capacidades observadas em um novo modelo de fronteira, o Claude Mythos2, que tem o potencial de remodelar a forma como protegemos nossos sistemas digitais.

O Poder do Claude Mythos2

O Claude Mythos2 Preview é um modelo de propósito geral, ainda não lançado, que revela um fato alarmante: os modelos de IA atingiram um nível de capacidade de codificação que supera a maioria dos humanos na identificação e exploração de vulnerabilidades de software. Este modelo já encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web.

Diante do rápido progresso da IA, é crucial que essas capacidades não se proliferem para atores mal-intencionados. As consequências – para economias, segurança pública e segurança nacional – poderiam ser severas. O Projeto Glasswing é uma tentativa urgente de colocar essas capacidades a serviço da defesa.

Colaboração para um Futuro Mais Seguro

Como parte do Projeto Glasswing, parceiros de lançamento estão utilizando o Claude Mythos2 Preview em seus trabalhos de segurança defensiva. A Anthropic compartilhará o conhecimento adquirido para beneficiar toda a indústria. Além disso, o acesso foi estendido a mais de 40 organizações que constroem ou mantêm infraestrutura de software crítica, permitindo que usem o modelo para escanear e proteger sistemas próprios e de código aberto.

A Anthropic está comprometendo até US$ 100 milhões em créditos de uso para o Claude Mythos2 Preview, além de US$ 4 milhões em doações diretas para organizações de segurança de código aberto.

Um Esforço Coletivo

O Projeto Glasswing é apenas um ponto de partida. Nenhuma organização pode resolver esses problemas de segurança cibernética sozinha. Desenvolvedores de IA de fronteira, empresas de software, pesquisadores de segurança, mantenedores de código aberto e governos de todo o mundo têm papéis essenciais a desempenhar.

A defesa da infraestrutura cibernética global pode levar anos, e as capacidades de IA de fronteira provavelmente avançarão substancialmente nos próximos meses. Para que os defensores cibernéticos tenham sucesso, é preciso agir agora.

Ameaças Cibernéticas em Ascensão

O software no qual todos dependemos diariamente – responsável por sistemas bancários, registros médicos, redes de logística, redes elétricas e muito mais – sempre continha bugs. Muitos são menores, mas alguns são falhas de segurança graves que, se descobertas, podem permitir que invasores cibernéticos sequestrem sistemas, interrompam operações ou roubem dados.

Já vimos as sérias consequências de ataques cibernéticos em redes corporativas importantes, sistemas de saúde, infraestrutura de energia, centros de transporte e segurança da informação de agências governamentais em todo o mundo. No cenário global, ataques patrocinados por estados como China, Irã, Coreia do Norte e Rússia ameaçaram comprometer a infraestrutura que sustenta a vida civil e a prontidão militar.

Mesmo ataques de menor escala, como aqueles que visam hospitais ou escolas individuais, ainda podem infligir danos econômicos substanciais, expor dados confidenciais e até mesmo colocar vidas em risco. Os custos globais anuais estimados do cibercrime podem chegar a US$ 500 bilhões.

IA como Arma de Defesa e Ataque

Muitas falhas de software permanecem despercebidas por anos porque encontrá-las e explorá-las exigiu a expertise de poucos especialistas em segurança. Com os mais recentes modelos de IA de fronteira, o custo, o esforço e o nível de especialização necessários para encontrar e explorar vulnerabilidades de software diminuíram drasticamente.

Nos últimos anos, os modelos de IA se tornaram cada vez mais eficazes na leitura e raciocínio sobre código – em particular, eles mostram uma capacidade notável de identificar vulnerabilidades e encontrar maneiras de explorá-las. O Claude Mythos2 Preview demonstra um salto nessas habilidades cibernéticas – as vulnerabilidades que ele identificou, em alguns casos, sobreviveram a décadas de revisão humana e milhões de testes de segurança automatizados.

Dez anos após o primeiro DARPA Cyber Grand Challenge, os modelos de IA de fronteira agora estão se tornando competitivos com os melhores humanos na identificação e exploração de vulnerabilidades. Sem as salvaguardas necessárias, essas poderosas capacidades cibernéticas podem ser usadas para explorar as muitas falhas existentes no software mais importante do mundo. Isso pode tornar os ataques cibernéticos de todos os tipos mais frequentes e destrutivos, e capacitar adversários dos Estados Unidos e seus aliados.

No entanto, há motivos para otimismo: as mesmas capacidades que tornam os modelos de IA perigosos em mãos erradas os tornam inestimáveis para encontrar e corrigir falhas em softwares importantes – e para produzir novos softwares com menos bugs de segurança.

Resultados e Próximos Passos

Nas últimas semanas, a Anthropic usou o Claude Mythos2 Preview para identificar milhares de vulnerabilidades de dia zero (falhas que eram desconhecidas pelos desenvolvedores do software) em todos os principais sistemas operacionais e navegadores web, entre outros softwares importantes. Detalhes técnicos de algumas dessas vulnerabilidades já foram corrigidos e estão disponíveis no blog da Frontier Red Team.

A Anthropic está comprometida em continuar a pesquisa e o desenvolvimento de salvaguardas de segurança para garantir que essas poderosas capacidades de IA sejam usadas de forma responsável e para o bem comum. A empresa convida outros membros da indústria de IA a se juntarem a este esforço crucial.

Parcerias Estratégicas

A Anthropic estabeleceu parcerias com líderes do setor, como Cisco, AWS, Microsoft, CrowdStrike, The Linux Foundation, JPMorganChase e Google, para acelerar o desenvolvimento e a implantação de soluções de segurança baseadas em IA.