OLHAR OPICE

Como confiar na originalidade e autenticidade de conteúdos quando (quase) tudo pode ser produzido por IA?    

Quando qualquer identidade e conteúdo podem ser sintetizados, replicados e reproduzidos em sistemas generativos, a governança de IA passa a envolver também a garantia da proveniência e originalidade do conteúdo, já que sem rastro verificável a autenticidade não consegue ser comprovada. 

Watermarking (marca d’agua) e metadados de proveniência costumam ser apresentados como a resposta técnica ao problema. São úteis, mas frágeis, já que marcas podem ser removidas, metadados se perdem a cada recorte, compressão ou reencaminhamento, e nenhum detector tem precisão suficiente para sustentar sozinho uma decisão jurídica pela originalidade e legitimidade de um conteúdo. 

Passa a ser necessário implementar controles de governança e documentação do processo criativo que, eventualmente, possam ser utilizados como meio de prova. A marcação de conteúdo sintético já aparece como obrigação no AI Act europeu e no PL 2338/2023, mas essa obrigação esparsa, sem cadeia de custódia, política interna e verificação nos pontos de decisão é apenas um rótulo, que pode não resolver todas as questões jurídicas de originalidade e autenticidade dos conteúdos sintéticos.  

Com tudo isso, nasce a necessidade de contratos e processos de contratação que exijam declaração de origem do conteúdo gerado por IA. Esses processos devem ser compostos por trilhas de auditoria em fluxos críticos e por critérios explícitos sobre o que a organização considera suficiente para confiar no conteúdo apresentado. Também é fundamental estabelecer regras internas para a utilização desses conteúdos, garantindo a adequada prestação de contas. 

Quando a imagem continua trabalhando sem o influenciador 

A inteligência artificial ampliou a escala e a gravidade do uso indevido da imagem. Fotografias, vídeos e áudios publicados por influenciadores e celebridades podem ser apropriados por terceiros, sem qualquer vínculo ou autorização, para criar conteúdos nos quais essas pessoas aparentemente recomendam produtos, defendem opiniões ou participam de situações que nunca ocorreram. A questão jurídica central, portanto, não está só em distinguir o verdadeiro do falso, mas em impedir que a identidade de alguém seja transformada em matéria-prima para fraudes e manipulações. 

No Brasil, a imagem, a voz, a honra e a identidade são protegidas pelos direitos da personalidade. Ainda assim, os deepfakes desafiam a aplicação prática dessas garantias: o conteúdo pode ser produzido anonimamente, circular por diferentes plataformas e alcançar milhares de pessoas antes que a vítima consiga identificá-lo ou removê-lo. Além da violação individual, há impactos sobre consumidores e sobre o próprio mercado publicitário, pois a credibilidade construída pelo influenciador é artificialmente transferida para produtos, serviços ou discursos que ele nunca endossou. 

A proibição de falsos depoimentos e endossos já aparece em iniciativas regulatórias estrangeiras, enquanto o AI Act europeu exige transparência para determinados conteúdos sintéticos. Porém, rotular um deepfake não legitima o uso não autorizado da identidade. 

A única alternativa de resolução não pode continuar sendo deslocada para quem sofre a violação, como se a vítima tivesse condições reais de conter a velocidade e o alcance dessas práticas. Sobre isso, plataformas, anunciantes e intermediários precisam prever mecanismos de denúncia e remoção rápida, além de preservação de evidências. 

É, ainda, necessário discutir a responsabilidade de quem cria, impulsiona ou obtém vantagem econômica com o conteúdo. Em uma crise de autenticidade é preciso identificar quem se apropriou daquela identidade e quem permitiu que ela circulasse como verdadeira. 

Como provar a autenticidade de provas digitais e cadeia de custódia 

Em um cenário em que documentos, imagens, áudios e vídeos podem ser manipulados com facilidade, a discussão processual para alcançar como isso pode ser demonstrado em juízo. 

A simples captura de tela, conhecida como print, por exemplo, nem sempre é suficiente para comprovar a autenticidade de um conteúdo digital. Cada vez mais, torna-se essencial preservar evidências de forma técnica, assegurando sua integridade e cadeia de custódia por meio de mecanismos como atas notariais, certificações digitais, blockchains e outras formas de preservação da prova. 

Outro desafio crescente é a autoria. Na internet, quem aparenta ser o responsável por uma publicação nem sempre é quem efetivamente a produziu. Nesses casos, a identificação do autor pode depender de medidas judiciais de preservação e posterior quebra de sigilo de registros eletrônicos (logs), observados os requisitos legais, conforme disciplina a lei do Marco Civil da Internet. 

A crise de autenticidade exige que a produção da prova digital acompanhe a evolução tecnológica. Além de demonstrar a existência de um conteúdo, é importante comprovar sua integridade e sua origem, garantindo que a evidência seja confiável e apta a sustentar teses processuais e futuras decisões em processos judiciais. 

A crise da identidade no sistema financeiro 

Se antes a tecnologia servia para confirmar identidades, hoje ela também permite criá-las, inclusive quando a pessoa por trás da identidade não existe. A IA generativa reduziu drasticamente o custo de criação de identidades sintéticas, acompanhadas de evidências digitais capazes de simular, com elevado grau de verossimilhança, a existência de uma pessoa legítima. 

No setor financeiro, isso se traduz em um novo desafio interno: verificar se um cliente realmente existe.  

Isso exige a reavaliação de controles que, até pouco tempo atrás, eram considerados suficientes. A biometria, por exemplo, foi concebida para reduzir incertezas sobre a identidade do usuário, mas o avanço dos deepfakes e de outras técnicas de manipulação digital tornou a própria prova visual questionável. 

Para mitigar riscos, as instituições precisam investir em tecnologias de validação e em camadas adicionais de autenticação. O resultado são processos mais complexos e jornadas mais longas para o usuário, tensionando o equilíbrio entre segurança e experiência do cliente que a própria regulação prudencial e de conduta pressupõe. Encontrar esse ponto de equilíbrio hoje é uma decisão de governança, não de tecnologia, e depende de políticas, controles e treinamentos capazes de evoluir no mesmo ritmo da IA. 

Deepfakes e fraudes digitais: reflexos tributários de operações não autorizadas

Com o avanço da inteligência artificial, as fraudes digitais ficaram muito mais sofisticadas. Hoje, é possível reproduzir a voz e a imagem de executivos para solicitar pagamentos, aprovar contratações ou autorizar transferências que, à primeira vista, parecem legítimas, agravando a crise de autenticidade dos documentos. 

Quando a fraude é identificada, os impactos vão além da perda financeira. A empresa precisa avaliar como registrar contabilmente os valores envolvidos, se a perda poderá ser deduzida na apuração dos tributos sobre o lucro e qual será o tratamento de eventual ressarcimento pelo banco, pela seguradora ou por terceiros. 

A situação pode ficar ainda mais complexa quando a fraude envolve a emissão de notas fiscais ou a simulação de uma contratação. Nesses casos, será preciso verificar se houve a apropriação de créditos tributários, se as obrigações acessórias transmitidas precisam ser retificadas e quais providências devem ser adotadas em relação aos documentos fiscais emitidos. 

Por isso, além de reforçar os controles para a aprovação de pagamentos e operações sensíveis, é importante que a empresa tenha um procedimento definido para casos suspeitos, envolvendo desde o início as áreas jurídica, financeira, contábil e tributária. 

Também é essencial preservar as mensagens, os registros de acesso, os comprovantes e os demais elementos relacionados à operação. Essa documentação será necessária não apenas para buscar a recuperação dos valores, mas também para comprovar a ocorrência da fraude e justificar o tratamento contábil e tributário adotado. 

Em tempos de crise de autenticidade, em que até a voz e a imagem de uma pessoa podem ser falsificadas, a adoção de controles preventivos e a preservação adequada das provas passam a ser importantes também sob a perspectiva tributária. 

Proteção estratégica da reputação na era das Fake News  

A reputação de uma empresa, antes função do marketing e da assessoria de imprensa, agora impacta diretamente governança, risco e estratégia. 

Em uma realidade em que notícias falsas podem ser facilmente criadas em uma ferramenta de IA e viralizar em poucas horas nas redes sociais, o antigo manual de gestão de crises já não funciona. Para conter os impactos de uma crise com eficiência, é importante implementar duas medidas precisam com antecedência: o monitoramento e o plano de ação. 

O monitoramento do que é dito nas redes sociais, analisado juridicamente, pode identificar tendências de crise no seu início e antecipar medidas de contenção imediatas.    Já a existência de um plano de ação projetado com cuidado é capaz de definir árvores de decisões estratégicas, estabelecer fluxos de comunicação e evitar escolhas feitas no calor da emoção, que podem se mostrar equivocadas no futuro. 

Para citar apenas um exemplo, excluir uma postagem sem a preservação da prova pode comprometer a possibilidade de ingresso com ação judicial para reparação dos danos causados. Portanto, se já está é difícil saber o que é verdade ou mentira, agir preventivamente é a melhor forma de proteger a reputação da empresa, dos seus produtos e dos seus executivos.

Mais dados, mais confiança? 

Nos dias de hoje, provar que uma pessoa é quem afirma ser se tornou complexo e necessário. Documentos fotografados, reconhecimento facial e videoconferências, antes tratados como elementos confiáveis de verificação, já convivem com deepfakes, ataques de injeção de imagem e identidades sintéticas, ameaças examinadas pela ENISA e contempladas, em diferentes categorias, nas diretrizes mais recentes do NIST. 

A reação intuitiva das organizações a esse cenário consiste na ampliação de camadas de verificação da identidade, como mais biometria, mais documentos, mais dados comportamentais, mais cruzamentos externos. Apesar de cada recurso reduzir o risco de fraude, também representa um tratamento de dados pessoais, muitas vezes sensíveis. O tratamento de dados biométricos é, inclusive, um dos temas que integra a Agenda Regulatória 2025–2026 da ANPD, ao lado de IA e de tecnologias emergentes que estão entre as prioridades de fiscalização para 2026–2027. 

Sob o argumento de que “é segurança”, a desconfiança corre o risco de se transformar em vigilância incremental, em que controles adicionais passam a ser adotados sem que haja uma análise de necessidade, proporcionalidade ou impacto sobre os titulares. Segurança, afinal, não constitui base legal autônoma nem afasta a observância dos princípios e das demais exigências da LGPD. 

E é aqui que está o paradoxo: a resposta à crise de autenticidade pode gerar uma crise maior de privacidade. Mais dados não produzem necessariamente mais certeza, mas aumentam a superfície de ataque, ampliam o impacto em incidentes e a dependência de tecnologias que também falham, erram e podem ser burladas. 

A pergunta, portanto, não deve ser só como detectar o falso, mas qual é o custo, em direitos, de provar o verdadeiro. O nível de verificação deve ser compatível com o risco da transação e com as ameaças que se pretende mitigar. Antes de incorporar uma nova camada, é preciso avaliar sua efetiva contribuição, as alternativas menos invasivas, os prazos de retenção e os mecanismos de contestação de erros.  

Reconstruir confiança não significa saber tudo sobre todos, mas utilizar apenas os dados necessários para gerar confiança suficiente em cada contexto.

O que a IA não conta sobre uma obra 

A inteligência artificial generativa desafia a noção de autenticidade também no campo da propriedade intelectual. Textos, imagens, músicas e vídeos podem aparentar originalidade, embora não surjam do zero: são produzidos por modelos treinados com grandes volumes de conteúdo preexistente. A questão jurídica, portanto, não se limita a saber quem deve ser reconhecido como autor do resultado. Em alguns casos, é preciso perguntar quais obras tornaram aquela criação possível, como foram obtidas e sob qual fundamento foram utilizadas. 

Isso não significa que todo conteúdo gerado por IA seja uma cópia ou que o treinamento resulte, necessariamente, na reprodução perceptível de obras específicas. Os modelos identificam padrões, e a semelhança estética, isoladamente, não comprova uma infração. O problema está na escala e na opacidade do processo. Em 2025, o Copyright Office norte-americano concluiu que diferentes etapas do desenvolvimento de sistemas generativos podem atingir direitos exclusivos e que a licitude do treinamento depende das obras utilizadas, de sua origem, da finalidade do modelo e dos controles sobre os resultados. Também advertiu que o uso comercial de grandes acervos protegidos para gerar conteúdo concorrente, especialmente quando obtidos por acesso ilícito, pode ultrapassar os limites do fair use (uso justo, princípio norte-americano). 

No entanto, isto não é unanimidade. O AI Act europeu, por exemplo, exige que os prestadores de modelos de IA de finalidade geral adotem uma política de cumprimento do direito autoral da União e disponibilizem publicamente um resumo suficientemente pormenorizado dos conteúdos utilizados no treinamento. Para empresas que desenvolvem, contratam ou exploram criações sintéticas, a diligência não deve começar no resultado. É necessário verificar a procedência dos dados, as licenças, os termos do modelo, a intervenção humana e os riscos de similaridade. Em uma crise de autenticidade, a obra não pode ser avaliada só pelo que aparenta ser, mas também pela história criativa e jurídica que permanece escondida por trás dela.