Imagine percorrer a seção de espiritualidade da Amazon em busca de um livro sobre rituais wiccanos ou filosofia hindu, apenas para descobrir que a grande maioria do que está na prateleira virtual talvez nunca tenha sido tocada por um escritor humano. Esse é o cenário inquietante traçado por um novo estudo sobre livros religiosos escritos por IA, que constatou que o texto gerado por máquina silenciosamente tomou uma enorme fatia da publicação religiosa e espiritual na plataforma.
A pesquisa, divulgada esta semana pela empresa de detecção de IA Originality.ai, analisou mais de 2.000 títulos publicados recentemente em 14 categorias de religiões e crenças vendidos na Amazon. A conclusão: quase dois em cada três livros provavelmente foram escritos por inteligência artificial, e não por uma pessoa.
Summary
Principais conclusões
- A Originality.ai sinalizou 1.272 de 2.034 livros religiosos analisados na Amazon — 63% — como provavelmente escritos por IA.
- A categoria de bruxaria registrou a maior porcentagem, com 78%, com o hinduísmo chegando a 76% e o taoismo a 74%.
- Os pesquisadores apontaram que 53% das afirmações verificáveis em livros de bruxaria eram potencialmente falsas.
- A Amazon depende de um sistema de honra para que os autores autodeclarem trabalhos escritos por IA, sem dados públicos sobre quantos realmente o fazem.
- A Amazon confirmou que compra livros físicos por canais comerciais para escanear suas páginas para dados de treinamento de IA.
A maioria dos livros religiosos na Amazon provavelmente é escrita por IA
Os números por trás deste estudo são impressionantes por si só: 63% dos livros religiosos analisados obtiveram pontuação suficientemente alta no modelo de detecção da Originality.ai para serem classificados como provavelmente escritos por máquina. Não se trata de um resultado marginal escondido em um canto de nicho da loja — ele representa o resultado majoritário em toda uma categoria comercial que abrange múltiplas religiões mundiais.
Estudo e metodologia da Originality.ai
O autor do relatório, Michael Fraiman, disse que sua equipe analisou descrições de livros, biografias de autores e amostras de texto de cada título, submetendo-as a um modelo de pontuação. Qualquer coisa que pontuasse 50 ou mais era classificada como “Provavelmente IA”. Dos 2.034 livros revisados, 1.272 ultrapassaram esse limite.
Fraiman teve o cuidado de enquadrar as descobertas como probabilidade, e não prova. “Não fazemos afirmações de certeza sobre se os livros são definitivamente escritos por IA”, disse ele ao Decrypt. “Nosso modelo determina a probabilidade de que algo tenha sido escrito por IA com um certo grau de certeza.” Ele acrescentou que os pesquisadores verificaram manualmente, por amostragem, os títulos sinalizados, dizendo que a equipe já consegue “distinguir entre conteúdo provavelmente escrito por IA e conteúdo escrito por humanos” neste ponto do trabalho.
Taxas de autoria por IA entre categorias religiosas
Nem todas as tradições de fé foram afetadas da mesma forma. A categoria de bruxaria — extraída das listas de Wicca, Bruxaria & Paganismo da Amazon — liderou a lista com 78%, abrangendo títulos sobre cristais de cura, remédios à base de ervas e limpeza de energia negativa. Fraiman sugeriu que o apelo para as editoras é óbvio: esses livros podem prometer soluções para saúde mental ou “desintoxicação” sem precisar atender a qualquer padrão científico.
O hinduísmo veio em seguida com 76%, e o taoismo ficou em 74%. Sikhismo, budismo, islamismo, catolicismo, protestantismo, cristianismo ortodoxo e judaísmo ficaram em algum ponto intermediário. O mormonismo registrou 42%, o ateísmo 40% e o satanismo 22% — o menor entre as categorias estudadas. Os pesquisadores alertaram que os tamanhos de amostra variaram consideravelmente entre as categorias, o que limita o quão diretamente as porcentagens podem ser comparadas entre si.
Desafios de verificação e falsos positivos na detecção de IA
Uma alta pontuação de detecção de IA não significa automaticamente que um livro seja enganoso — mas, na categoria de bruxaria, o estudo encontrou uma sobreposição preocupante entre as duas coisas. Os pesquisadores apontaram que 53% das afirmações verificáveis em títulos de bruxaria eram potencialmente falsas, levantando preocupações sobre leitores que recorrem a orientações espirituais geradas por IA para conselhos de saúde ou bem-estar que não foram avaliados por ninguém.
Limitações das ferramentas de detecção de textos escritos por IA
Ferramentas de detecção como o modelo da Originality.ai são construídas para estimar probabilidade, não para emitir um veredito. Essa distinção é importante, porque a tecnologia de detecção de IA, como categoria, tem um histórico de inconsistência. A própria formulação de Fraiman — de que o modelo oferece “um grau de certeza” em vez de prova definitiva — reflete um reconhecimento mais amplo no setor de que nenhum detector atualmente garante precisão.
Exemplos de resultados conflitantes na detecção de IA
A falta de confiabilidade dos detectores de IA não é hipotética. Em outubro de 2024, um teste com quatro ferramentas diferentes analisando a Declaração de Independência dos EUA produziu veredictos radicalmente distintos: o ZeroGPT a classificou como 97,93% gerada por IA, o QuillBot a considerou totalmente escrita por humanos, e o GPTZero atribuiu 89% de probabilidade de autoria humana — três ferramentas, três respostas contraditórias sobre o mesmo documento do século XVIII.
A situação ficou mais séria em março, quando a Suprema Corte da Colômbia rejeitou uma petição judicial depois que um detector a sinalizou como gerada por IA. Em uma reviravolta irônica, quando um advogado posteriormente submeteu a própria decisão do tribunal ao mesmo detector, ela foi classificada como 93% gerada por IA. Esse episódio ressalta por que tratar pontuações de detecção como prova pronta para uso em tribunal continua sendo juridicamente frágil.
O papel da Amazon e questões éticas em conteúdo e treinamento de IA
A Amazon está no centro de duas controvérsias separadas, porém relacionadas: como ela fiscaliza livros escritos por IA vendidos em seu marketplace e como obtém texto bruto para treinar seus próprios modelos de IA. Nenhuma das práticas atualmente conta com muita transparência pública.
Sistema de honra da Amazon para divulgação de conteúdo de IA
Segundo Fraiman, “a Amazon está ciente de quão comum é o conteúdo escrito por IA em sua plataforma e usa o sistema de honra para que os autores se autodeclarem quando seu trabalho é escrito por IA.” A Originality.ai não compartilhou suas descobertas com a Amazon antes da publicação, e Fraiman observou de forma direta: “Não temos dados sobre quantos autores realmente fazem essa divulgação.” A Amazon não respondeu imediatamente ao pedido de comentário do Decrypt.
Isso é importante porque a autodeclaração sem verificação deixa uma grande lacuna entre o que é tecnicamente exigido e o que realmente acontece. Se a fatia de livros religiosos escritos por IA estiver mesmo próxima de dois terços, um sistema puramente baseado na honra pode estar captando apenas uma fração disso.
Uso de livros físicos para treinamento de IA e preocupações éticas
Separadamente, o apetite da Amazon por dados de treinamento tem atraído escrutínio sobre como a empresa lida com livros físicos. Uma investigação rastreou um envio de livros raros para uma instalação da Amazon em Las Vegas — onde trabalhadores cortavam as lombadas dos livros e escaneavam as páginas para conjuntos de dados de treinamento de IA.
A Amazon confirmou que “compra livros por canais comerciais para ajudar a desenvolver e melhorar os produtos e serviços que nossos clientes usam”, embora a declaração da empresa não tenha chegado a confirmar especificamente o treinamento de IA.
Em conjunto, esses dois fios apontam para a mesma tensão subjacente. De um lado, texto gerado por IA está inundando categorias como a publicação religiosa com conteúdo que não foi verificado e que, em alguns casos, contém afirmações falsas. De outro, o material bruto usado para construir esses mesmos sistemas de IA vem de livros físicos sendo destruídos com limitada responsabilização pública. Nem o sistema de autodeclaração da Amazon para vendedores, nem sua cadeia de obtenção de livros para dados de treinamento atualmente oferecem muita visibilidade de escala — deixando leitores, autores e livreiros dependentes, em grande parte, de investigações externas para entender o que realmente está acontecendo por trás da vitrine.
Perguntas frequentes
Quão confiável é a detecção de livros religiosos escritos por IA na Amazon?
A Originality.ai usa um sistema de pontuação que indica probabilidade, e não certeza. Os pesquisadores alertam que os resultados apontam para provável autoria por IA, não para prova definitiva.
Qual categoria de livros religiosos teve a maior proporção de títulos provavelmente escritos por IA?
A categoria de bruxaria teve a maior taxa, com 78% dos títulos analisados sinalizados como provavelmente escritos por IA.
Quais preocupações éticas são levantadas pelo uso de livros físicos pela Amazon para treinamento de IA?
A Amazon compra e escaneia livros físicos, às vezes raros, para treinamento de IA e depois os descarta, levantando preocupações éticas sobre a destruição do material de origem e a falta de consentimento explícito dos autores.
A Amazon exige que os autores divulguem se seus livros são escritos por IA?
A Amazon usa um sistema de honra em que os autores se autodeclaram quando há conteúdo escrito por IA, mas não há dados públicos sobre quantos realmente fazem essa divulgação.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Quão confiável é a detecção de livros religiosos escritos por IA na Amazon?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”A Originality.ai usa um sistema de pontuação que indica probabilidade, e não certeza. Os pesquisadores alertam que os resultados apontam para provável autoria por IA, não para prova definitiva.”}},{“@type”:”Question”,”name”:”Qual categoria de livros religiosos teve a maior proporção de títulos provavelmente escritos por IA?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”A categoria de bruxaria teve a maior taxa, com 78% dos títulos analisados sinalizados como provavelmente escritos por IA.”}},{“@type”:”Question”,”name”:”Quais preocupações éticas são levantadas pelo uso de livros físicos pela Amazon para treinamento de IA?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”A Amazon compra e escaneia livros físicos, às vezes raros, para treinamento de IA e depois os descarta, levantando preocupações éticas sobre a destruição do material de origem e a falta de consentimento explícito dos autores.”}},{“@type”:”Question”,”name”:”A Amazon exige que os autores divulguem se seus livros são escritos por IA?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”A Amazon usa um sistema de honra em que os autores se autodeclaram quando há conteúdo escrito por IA, mas não há dados públicos sobre quantos realmente fazem essa divulgação.”}}]}
Artigo produzido com a assistência de inteligência artificial e revisado pela equipe editorial.
