Um novo estudo publicado pelo AI Disclosures Project levanta questões cruciais sobre a transparência e a ética dos métodos de treinamento adotados pela OpenAI. No centro da investigação está o GPT-4o, o mais recente modelo linguístico da empresa, acusado de reconhecer e utilizar conteúdos protegidos por direitos autorais, provenientes de material reservado do editor O’Reilly Media.
Sumário
Uma pesquisa para aumentar a transparência na corrida pela inteligência artificial
O estudo foi realizado no âmbito do AI Disclosures Project, uma iniciativa liderada pelo tecnólogo Tim O’Reilly e pelo economista Ilan Strauss. O objetivo do projeto é claro: promover uma maior responsabilidade no setor da inteligência artificial, enfatizando a necessidade de práticas transparentes por parte das empresas que desenvolvem LLM (Large Language Models).
O documento, um working paper, analisa como a atual falta de obrigações formais na divulgação dos dados usados para treinar esses modelos pode criar sérios problemas de confiança e legalidade. Os pesquisadores argumentam que, assim como nos mercados financeiros surgiram regras de divulgação para favorecer mercados robustos, também no campo da IA é necessária uma regulamentação semelhante para evitar abusos e danos sistêmicos.
OpenAI realiza testes em conteúdos protegidos por direitos autorais: os dados falam claro
Para conduzir a sua investigação, os pesquisadores utilizaram um conjunto de dados obtido legalmente de 34 livros protegidos por direitos autorais publicados pela O’Reilly Media. Através de uma técnica conhecida como DE-COP membership inference attack, eles mediram se os modelos linguísticos eram capazes de distinguir textos escritos por humanos de versões parafraseadas geradas por LLM. Os resultados apontam o dedo contra GPT-4o.
Os pontuações AUROC (uma métrica que mede a capacidade de um modelo de distinguir duas classes) falam claramente:
- GPT-4o obteve uma pontuação de 82% na capacidade de reconhecer conteúdos não públicos retirados da O’Reilly Media — um valor que indica uma forte probabilidade de que esses conteúdos tenham sido incluídos nos dados de treinamento.
- A título de comparação, o modelo GPT-3.5 Turbo mostrou um reconhecimento muito mais fraco (cerca de 50%), enquanto GPT-4o Mini, uma versão mais leve do modelo, não reconheceu nem conteúdos públicos nem não públicos.
- Os dados mostram ainda que o GPT-4o reconhece melhor materiais não acessíveis publicamente (82% AUROC) em comparação com conteúdos O’Reilly disponíveis livremente (64% AUROC).
- Ao contrário, GPT-3.5 Turbo mostra uma maior familiaridade com os conteúdos públicos (64%) em comparação com os reservados (54%).
Uma possível fonte de acesso aos conteúdos cobertos por direitos autorais, sugerem os pesquisadores, poderia ser LibGen, uma conhecida plataforma online que hospeda cópias digitais não autorizadas de livros protegidos por direitos autorais. Todos os livros analisados no estudo estão, de fato, presentes nessa biblioteca virtual.
A indústria da AI entre legalidade, economia e sustentabilidade dos conteúdos
Os resultados levantam uma questão mais ampla: o uso sistemático de dados protegidos por direitos autorais para treinar modelos linguísticos pode comprometer a sustentabilidade econômica dos profissionais que criam conteúdos originais. Se as empresas não forem compensadas pelo uso de suas publicações, todo o ecossistema da informação — incluindo a publicação — corre o risco de empobrecer.
De acordo com o relatório, o uso não autorizado de dados proprietários sem compensação contribui para a redução da qualidade e da diversidade dos conteúdos online. E não se trata apenas de uma questão ética, mas também econômica: sem receitas, as editoras e os criadores profissionais não podem continuar a produzir conteúdos de valor.
A preocupação dos pesquisadores: os modelos sabem mais do que declaram
Outro aspecto destacado pelo estudo é a melhoria da capacidade dos modelos linguísticos mais recentes de compreender e reproduzir as sutis diferenças entre linguagem humana e linguagem gerada por inteligências artificiais. Além disso, os pesquisadores destacam a possível presença de um “viés temporal”, pois as línguas evoluem ao longo do tempo. Para neutralizar esse tipo de distorção, os testes foram conduzidos em dois modelos (GPT-4o e GPT-4o Mini) treinados durante o mesmo período temporal.
Apesar de as provas estarem limitadas a um caso específico — OpenAI e i testi O’Reilly — os autores acreditam que o fenômeno possa ser difundido e sistêmico no setor da inteligência artificial generativa.
Rumo a um mercado legal para os dados de treinamento?
O estudo conclui com uma reflexão mais ampla: é necessário construir um sistema em que os desenvolvedores de IA possam acessar legalmente dados para o treinamento, através de acordos de licença e compensações transparentes para os criadores de conteúdo.
Algumas empresas já estão desenvolvendo modelos de negócios nesta direção. É o caso de Defined.ai, uma plataforma que vende dados para o treinamento garantindo o consentimento dos autores e removendo todas as informações pessoais identificáveis. Uma indústria regulamentada poderia representar uma alternativa legal e sustentável aos atuais comportamentos opacos de algumas grandes empresas da IA.
O papel da política: a Europa pode abrir caminho
O relatório também oferece uma perspectiva normativa: a entrada em vigor do novo AI Act da União Europeia, que prevê obrigações de divulgação para o treinamento dos modelos, poderia desencadear uma espiral virtuosa. Se as regras forem bem especificadas e realmente aplicadas, os titulares de direitos poderão finalmente saber quando e como suas obras estão sendo utilizadas.
Seria um passo fundamental para a criação de mercati legali em que os conteúdos dos criadores sejam efetivamente reconhecidos como bens económicos utilizados pelas IA.
Não só OpenAI: um estudo que aponta o dedo para uma prática cada vez mais frequente
Através de uma análise detalhada de 34 livros da editora O’Reilly Media, os pesquisadores forneceram evidências empíricas que sugerem como a OpenAI provavelmente treinou seu modelo GPT-4o também em dados não públicos e protegidos por direitos autorais.
Se confirmado, isso seria uma violação potencialmente grave não apenas das normas de copyright, mas também dos princípios de transparência, consentimento e equidade que as grandes empresas de tecnologia deveriam respeitar em uma época em que a inteligência artificial impacta cada vez mais profundamente nossa sociedade e nossa economia.




