Pular para o conteúdo
  • BTC $63.179 −1,1%
  • ETH $1.769 −1,2%
  • SOL $73,44 +1,3%
  • BNB $583,38 −0,7%
  • XRP $0,9784 +2,1%
  • DOGE $0,0588 +0,2%
  • ADA $0,1517 −0,3%

Meta reforça a segurança da inteligência artificial (AI): novas ferramentas para proteger usuários e desenvolvedores

LlamaFirewall: o centro de controle para a segurança AI

A Meta anunciou uma série de novas ferramentas de segurança para seus modelos de inteligência artificial, com o objetivo de tornar mais seguro o desenvolvimento e o uso da IA, tanto para os criadores quanto para os defensores no campo da cibersegurança. 

As novidades dizem respeito em particular à família de modelos Llama, que agora dispõe de recursos atualizados e mais sofisticados para enfrentar as ameaças emergentes.

Llama Guard 4: segurança multimodal para texto e imagens no novo programa AI de Meta

Uma das principais atualizações é representada por Llama Guard 4, a evolução do filtro de segurança personalizável da Meta.

A grande inovação desta versão é a sua capacidade multimodal, ou seja, a possibilidade de analisar e aplicar regras de segurança não apenas ao texto, mas também às imagens. Este passo é crucial, considerando que as aplicações de IA estão se tornando cada vez mais visuais.

Llama Guard 4 já está integrado na nova API Llama da Meta, atualmente disponível em pré-visualização limitada. Os desenvolvedores podem acessar esta ferramenta através da página oficial das proteções de Llama, ou através das plataformas Hugging Face e GitHub.

Outra novidade significativa é o LlamaFirewall, um sistema projetado para funcionar como centro de comando da segurança nos sistemas de inteligência artificial. Esta ferramenta permite coordenar diferentes modelos de proteção e integra-se com as outras ferramentas de segurança da Meta.

LlamaFirewall é projetado para combater ameaças sofisticadas como as iniezioni rapide (prompt injection), a geração de código potencialmente perigoso e os comportamentos arriscados dos plug-ins de IA. 

Em essência, representa um baluarte contra os ataques mais insidiosos que podem comprometer a integridade dos sistemas baseados em inteligência artificial.

A Meta também atualizou seu sistema de detecção de tentativas de jailbreak e prompt injection com o novo Prompt Guard 2 (86M). Este modelo foi projetado para identificar com maior precisão as tentativas de manipulação da AI.

Ao lado disso, foi introduzido o Prompt Guard 2 22M, uma versão mais leve e rápida. Com uma redução da latência e dos custos de cálculo de até 75%, esta versão é ideal para quem trabalha com recursos limitados mas não quer abrir mão da segurança.

CyberSec Eval 4: novos benchmarks para a segurança AI

A Meta não se limitou a fornecer ferramentas para os desenvolvedores, mas também atualizou sua suíte de benchmarks CyberSec Eval 4, projetada para avaliar as capacidades dos sistemas de IA no âmbito da cibersegurança. 

Esta suite open source ajuda as organizações a medir a eficácia da inteligência artificial na detecção e resposta às ameaças digitais.

Dois novos instrumentos enriquecem esta suite:

  • – Avaliação CyberSOC: desenvolvido em colaboração com CrowdStrike, este framework avalia o desempenho da IA em um contexto real de Security Operation Center (SOC), oferecendo uma visão concreta da eficácia operacional da inteligência artificial.
  • – AutoPatchBench: um benchmark que testa a capacidade dos modelos AI, incluindo aqueles da família Llama, de identificar e corrigir automaticamente as vulnerabilidades no código antes que sejam exploradas por atores maliciosos.

Para facilitar a adoção dessas ferramentas, a Meta lançou o programa Llama Defenders, que oferece acesso privilegiado a uma seleção de soluções de IA – algumas open source, outras em pré-visualização ou proprietárias – pensadas para enfrentar desafios específicos no campo da segurança.

Entre as ferramentas compartilhadas está também o classificador automático de documentos sensíveis, utilizado internamente pela Meta. 

Este sistema aplica etiquetas de segurança aos documentos dentro de uma organização, impedindo que informações confidenciais sejam acidentalmente inseridas em sistemas de IA onde poderiam ser expostas.

A Meta também enfrentou o crescente problema do áudio falso gerado por inteligência artificial, cada vez mais utilizado em fraudes e tentativas de phishing. Duas novas ferramentas foram disponibilizadas para os parceiros:

  • – Detector de Áudio Gerado por Llama
  • – Detector de Marca d’Água de Áudio Llama

Esses instrumentos ajudam a identificar vozes sintéticas em chamadas suspeitas. Empresas como ZenDesk, Bell Canada e AT&T já estão avaliando a integração dessas tecnologias em seus próprios sistemas de segurança.

Processamento privado: IA útil sem comprometer a privacidade

Finalmente, a Meta ofereceu uma prévia de uma tecnologia em desenvolvimento para o WhatsApp, chamada de processamento privado. 

O objetivo é permitir que a inteligência artificial forneça funcionalidades úteis – como resumir mensagens não lidas ou sugerir respostas – sem que nem a Meta nem o WhatsApp possam acessar o conteúdo das mensagens.

Esta tecnologia representa um passo importante em direção a uma IA respeitosa da privacidade. A Meta está adotando uma abordagem transparente, publicando seu próprio modelo de ameaça e convidando a comunidade de pesquisadores a testar sua robustez antes do lançamento oficial.

Com esta série de anúncios, a Meta demonstra um compromisso concreto em reforçar a segurança da inteligência artificial, tanto do ponto de vista do desenvolvimento quanto da defesa. 

O objetivo é duplo. Ou seja, proteger os usuários finais e fornecer aos desenvolvedores e aos profissionais de segurança ferramentas avançadas para enfrentar as ameaças digitais em constante evolução.

Em um panorama tecnológico em rápida transformação, onde a AI desempenha um papel cada vez mais central, iniciativas como estas são fundamentais para garantir um futuro digital mais seguro, transparente e responsável.

Alessia Pannone

Todos os artigos de Alessia Pannone