Pular para o conteúdo
  • BTC $55.997 −9,2%
  • ETH $1.564 −9,5%
  • SOL $65,59 −9,2%
  • BNB $514,54 −9,4%
  • XRP $0,8744 −9,4%
  • DOGE $0,0517 −9,5%
  • ADA $0,1350 −9,0%

Violação de segurança da Anthropic expôs salários e mensagens, não os pesos do modelo

A violação de segurança da Anthropic expôs salários, mensagens internas e informações comerciais por meio de softwares externos usados pela desenvolvedora de IA — não por acesso aos pesos de seus modelos, de acordo com a empresa. Pesquisadores da Cathedral alcançaram partes dos sistemas comercial, de recursos humanos e de TI da Anthropic, desencadeando uma disputa sobre os testes e suas…

Anthropic security breach
Anthropic Security Breach Exposes Internal Systems in Research Test

A violação de segurança da Anthropic expôs salários, mensagens internas e informações comerciais por meio de softwares externos usados pela desenvolvedora de IA — não por acesso aos pesos de seus modelos, segundo a empresa. Pesquisadores da Cathedral alcançaram partes dos sistemas comerciais, de recursos humanos e de TI da Anthropic, desencadeando uma disputa sobre os testes e suas implicações para a segurança nacional.

Principais pontos

  • A Cathedral acessou sistemas internos de negócios por meio de aplicativos de terceiros.
  • A Anthropic afirma que prompts de clientes e componentes de modelos não foram acessados.
  • Os aplicativos afetados permaneceram desativados até que os fornecedores confirmassem as correções.
  • As empresas discordam sobre a forma de relato e a relevância do incidente.

O que a violação de segurança da Anthropic expôs

Os sistemas acessados continham registros de pessoal e comunicações internas, juntamente com informações comerciais. A Cathedral afirmou que agentes de IA usados durante sua pesquisa encontraram caminhos para atas de reuniões, informações salariais, propostas de emprego e mensagens do Slack.

Os sistemas afetados também continham contatos comerciais de alguns clientes e parceiros, bem como informações básicas de contas. A Anthropic afirmou que os pesquisadores não chegaram a prompts de clientes, respostas de modelos, código‑fonte ou pesos de modelos de IA.

A rota passou por vulnerabilidades em aplicativos administrativos e comerciais externos usados pela Anthropic. Os fornecedores envolvidos não foram nomeados. O acesso, portanto, dizia respeito a softwares que dão suporte aos negócios, em vez dos componentes de modelo que, segundo a Anthropic, permaneceram fora do alcance dos pesquisadores.

A Cathedral realizou os testes no âmbito do Programa de Pesquisadores Externos da Anthropic, que oferece um canal para o relato de vulnerabilidades. Fundada por ex‑membros da DOGE, a startup desenvolve ferramentas de cibersegurança em IA para clientes governamentais e corporativos.

Como a Anthropic detectou e conteve o acesso

A Anthropic afirmou que sua monitoração identificou parte da atividade antes de a Cathedral notificá‑la, e o acesso foi interrompido naquele mesmo dia. A resposta à violação de segurança da Anthropic também incluiu a desativação dos aplicativos afetados.

Esses aplicativos só foram restaurados depois que seus fornecedores confirmaram que haviam corrigido as vulnerabilidades. Cortar o acesso dos pesquisadores e corrigir o software foram partes distintas da resposta.

A Anthropic afirmou que não tinha nenhuma evidência de exploração por qualquer pessoa além da Cathedral.

Disputa sobre o relato vai além dos dados expostos

A Anthropic e a Cathedral divergem quanto à completude do relato da pesquisa e à relevância do incidente para a segurança nacional. A Anthropic acusou a Cathedral de não relatar toda a atividade que realizou nos sistemas da empresa.

A violação de segurança da Anthropic ilustra a diferença entre proteger modelos de IA e proteger a infraestrutura ao seu redor: documentos de pessoal, registros de reuniões e mensagens internas permaneceram expostos, embora a Anthropic afirme que componentes de modelo não foram acessados.

O chefe de red teaming da Anthropic também defendeu testes de segurança contínuos e o redesenho de sistemas de software para reduzir sua exposição.

Artigo produzido com a assistência de inteligência artificial e revisado pela equipe editorial.

Francesco Antonio Russo

Todos os artigos de Francesco Antonio Russo