Um pesquisador de segurança em Kansas City passou um ano realizando o mesmo teste repetidas vezes, na esperança de criar algo que pudesse silenciosamente superar as câmeras que vigiam as ruas americanas. O resultado é um conjunto de padrões de camuflagem com IA que, uma vez impressos em roupas ou aplicados em um carro, parecem impedir que a vigilância por software reconheça o que está vendo. Bill Swearingen chama o projeto de noRecognition, e ele acabou de ter seu primeiro teste público na Def Con em Las Vegas.
Summary
Principais pontos
- O projeto noRecognition de Bill Swearingen usa padrões de camuflagem com IA projetados para impedir que o software de câmeras de vigilância identifique pessoas, rostos ou veículos.
- Os padrões derrotaram todos os 11 algoritmos de detecção de código aberto testados por Swearingen, incluindo softwares ligados aos leitores de placas da Flock, às câmeras corporais da Axon e ao Clearview AI.
- Foram necessárias aproximadamente 31 milhões de execuções de teste para treinar o modelo a gerar padrões consistentemente eficazes.
- A primeira demonstração pública aconteceu na sexta-feira na Def Con, onde um Toyota Yaris 2009 envelopado passou por uma câmera da Flock sem ser detectado.
- Os padrões cobrem a carroceria do veículo em vez das placas, uma escolha deliberada pensada para contornar as leis de obstrução de placas.
Camuflagem impulsionada por IA para escapar de câmeras de vigilância
O noRecognition funciona explorando uma lacuna entre a visão humana e a visão de máquina — um envelopamento que parece um design gráfico chamativo para uma pessoa pode ser registrado como nada por um algoritmo de detecção. Essa lacuna é toda a premissa por trás do projeto de Swearingen, e é por isso que os padrões importam para além de uma única façanha à beira da estrada.
O projeto noRecognition e a abordagem técnica
Swearingen, que cofundou o meetup de segurança SecKC, construiu o noRecognition usando um modelo de aprendizado por reforço que basicamente corrige o próprio dever de casa. Um padrão é detectado, o modelo se ajusta e tenta novamente, um ciclo que Swearingen descreveu como ensinar o sistema “a pintar”. Segundo o TechCrunch, ele começou com um laboratório de prova de conceito que derrotou incrementalmente um algoritmo de detecção de código aberto após o outro, depois aumentou o poder de computação para refinar os resultados ao longo de um ano.
Esse processo acabou passando por 31 milhões de testes, de acordo com o Decrypt, antes que Swearingen pudesse produzir padrões sob demanda de forma confiável. O resultado: todos os 11 algoritmos de detecção de código aberto que ele testou foram derrotados pelos padrões, abrangendo a tecnologia que alimenta os leitores de placas da Flock, as câmeras corporais da Axon e o Clearview AI. Ele agora diz que o modelo consegue gerar novos padrões aproximadamente a cada minuto, e está deliberadamente mantendo os mais fortes offline para que os fornecedores de câmeras não possam treinar seus sistemas contra eles.
Demonstração pública na Def Con
A ideia passou de experimento de laboratório para prova no mundo real na sexta-feira, quando Swearingen trabalhou com o canal do YouTube Donut Media para envelopar um Toyota Yaris 2009 com um de seus padrões mais recentes e dirigi-lo diante de uma câmera da Flock na Def Con. O TechCrunch relatou que foi o primeiro teste público do padrão aplicado a um veículo, e mostrou que os padrões de camuflagem com IA podem se manter fora de um ambiente de teste controlado, não apenas em simulação.
Motivações de privacidade e contexto
Para Swearingen, o projeto não é apenas um exercício técnico — é apresentado como uma resposta ao que ele vê como uma expansão desenfreada da vigilância. “Privacidade é um direito fundamental“, disse ele a repórteres, descrevendo os padrões como uma forma de as pessoas “optarem por não ser rastreadas”.
Direitos de privacidade e preocupações com vigilância
Swearingen disse que a ideia ganhou força no ano passado, depois que ele quis participar de um protesto, mas ficou desconfortável com o número de câmeras que poderiam registrar todos os presentes. Ele tem sido franco ao dizer que, como um homem branco de meia-idade vivendo na região central dos Estados Unidos, não enfrentou pessoalmente o tipo de escrutínio ou discriminação que outros podem enfrentar. Mas argumentou que, se ele se sentiu desconfortável, outras pessoas exercendo seu direito à livre expressão provavelmente se sentiram da mesma forma — ou pior.
Isso é parte do motivo pelo qual a história importa para além do laboratório doméstico de um pesquisador: ela se encaixa diretamente em um debate em andamento sobre vigilância automatizada nos EUA. A Flock é descrita como um sistema de vigilância controverso atualmente sendo implantado em todo o país, e vem atraindo escrutínio muito além dos círculos de privacidade. Documentos internos citados em reportagens mostram que a empresa propôs transformar 350.000 câmeras de painel da Uber e Lyft em uma frota itinerante de leitura de placas, um plano que alimentou reações negativas no Capitólio.
Esforços adversariais existentes contra detecção
O noRecognition não é a primeira tentativa de driblar a detecção algorítmica, mas mira uma lista mais precisa de sistemas do que a maioria dos predecessores. Ativistas em São Francisco colocaram cones de trânsito sobre os capôs de robotáxis da Waymo e da Cruise como forma de imobilizá-los — sem necessidade de código. Durante as batidas de imigração em Los Angeles no ano passado, alguns manifestantes foram além e incendiaram vários veículos da Waymo. Máscaras, capuzes e bonés de aba continuam sendo o equipamento padrão nas linhas de protesto, e marcas de roupas adversariais vendem estampas que confundem rostos há anos, embora óculos antirreconhecimento tenham mostrado poucas evidências de realmente funcionar.
O que diferencia a abordagem de Swearingen é a precisão: em vez de um truque genérico de antirreconhecimento, o noRecognition foi testado contra os conjuntos específicos de detecção já implantados em larga escala, incluindo o software que roda dentro da rede de câmeras da Flock.
Considerações legais e práticas
Envelopar um carro com um padrão adversarial levanta uma questão jurídica que não tem nada a ver com o algoritmo e tudo a ver com a estrada. As leis de obstrução de placas variam de estado para estado, e Swearingen construiu o projeto em torno dessa realidade, e não contra ela.
Cobertura da carroceria do veículo para evitar leis de obstrução de placa
Os padrões do noRecognition são aplicados à carroceria, não às placas, uma escolha de design explicitamente pensada para manter o projeto longe de problemas legais ligados a encobrir uma placa. É uma distinção estreita, mas importante: a tecnologia mira como as câmeras classificam formas e objetos, não a visibilidade do número da placa em si, que é onde a maioria das leis de obstrução existentes se concentra.
Preocupações legais e de privacidade contínuas em torno da vigilância
O pano de fundo jurídico e político mais amplo não desacelerou. Leitores automáticos de placas já abordaram motoristas inocentes sob a mira de armas em casos documentados, e imigrantes e manifestantes foram arrastados para redes de vigilância federais impulsionadas por IA ligadas ao ICE. Parlamentares estão, separadamente, pressionando a Meta sobre recursos de reconhecimento facial incorporados em seus óculos inteligentes, uma disputa paralela que mostra quanta atenção regulatória a detecção algorítmica está atraindo agora.
Por que isso importa: à medida que ferramentas de detecção automatizada se multiplicam em policiamento e segurança privada, ferramentas construídas especificamente para derrotá-las — mesmo aquelas apresentadas como proteção de privacidade dentro da lei — se situam no centro de uma zona cinzenta jurídica que os reguladores ainda não mapearam totalmente.
Swearingen não vai parar na Def Con. O noRecognition está realizando uma campanha de financiamento coletivo para mercadorias iniciais, começando com camisetas e moletons e eventualmente avançando para películas de veículos, com o objetivo declarado de manter a resolução alta o suficiente para funcionar à distância, ao mesmo tempo em que torna os designs algo que as pessoas realmente queiram usar. “Cada falha melhora meu modelo, e assim os padrões continuam ficando cada vez melhores”, disse Swearingen — uma frase que também funciona como um aviso para os fornecedores de câmeras que observam essa corrida armamentista se desenrolar em tempo real.
Perguntas frequentes
O que é o projeto noRecognition?
O noRecognition é um sistema baseado em IA desenvolvido por Bill Swearingen que gera padrões projetados para impedir que o software de câmeras de vigilância detecte pessoas, rostos ou veículos.
Quão eficaz é o padrão noRecognition contra câmeras de vigilância?
Os padrões derrotaram 11 algoritmos de detecção de código aberto, incluindo softwares usados pela Flock, por câmeras corporais da Axon e pelo Clearview AI, após aproximadamente 31 milhões de testes durante o desenvolvimento.
É legal dirigir veículos envelopados com esses padrões de camuflagem gerados por IA?
Os padrões cobrem a carroceria do veículo em vez das placas especificamente para evitar problemas de obstrução de placa, embora a legalidade mais ampla de dirigir um carro envelopado varie de estado para estado.
O que motivou a criação do noRecognition?
Bill Swearingen disse que criou o noRecognition para que as pessoas pudessem “optar por não ser rastreadas” por sistemas de vigilância, uma preocupação que ele sentiu pela primeira vez ao considerar participar de um protesto sob forte cobertura de câmeras.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”O que é o projeto noRecognition?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”O noRecognition é um sistema baseado em IA desenvolvido por Bill Swearingen que gera padrões projetados para impedir que o software de câmeras de vigilância detecte pessoas, rostos ou veículos.”}},{“@type”:”Question”,”name”:”Quão eficaz é o padrão noRecognition contra câmeras de vigilância?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Os padrões derrotaram 11 algoritmos de detecção de código aberto, incluindo softwares usados pela Flock, por câmeras corporais da Axon e pelo Clearview AI, após aproximadamente 31 milhões de testes durante o desenvolvimento.”}},{“@type”:”Question”,”name”:”É legal dirigir veículos envelopados com esses padrões de camuflagem gerados por IA?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Os padrões cobrem a carroceria do veículo em vez das placas especificamente para evitar problemas de obstrução de placa, embora a legalidade mais ampla de dirigir um carro envelopado varie de estado para estado.”}},{“@type”:”Question”,”name”:”O que motivou a criação do noRecognition?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Bill Swearingen disse que criou o noRecognition para que as pessoas pudessem “optar por não ser rastreadas” por sistemas de vigilância, uma preocupação que ele sentiu pela primeira vez ao considerar participar de um protesto sob forte cobertura de câmeras.”}}]}
Artigo produzido com a assistência de inteligência artificial e revisado pela equipe editorial.
