Riscos de IA em marketing

Por que o mapa de riscos importa

Inteligência artificial em marketing — geração de texto, imagem, vídeo, automação de jornada, modelos de propensão, otimização de mídia — passou de experimento para parte da operação corrente em poucos anos. A velocidade de adoção foi mais rápida do que a velocidade de governança. Resultado: muitas organizações usam IA em larga escala sem mapa formal de riscos, contando com bom senso da equipe e sorte coletiva.

Cases públicos mostram o que pode dar errado. Em 2024, a Air Canada foi condenada a honrar política inventada pelo chatbot da própria companhia, sob o argumento jurídico de que a empresa é responsável por afirmações feitas pelo seu assistente automatizado. A Samsung restringiu o uso interno de ferramentas públicas de IA generativa após vazamento de código fonte por colaboradores que usaram chatbots para análise. Advogados nos EUA foram sancionados por apresentar petições com jurisprudência fictícia gerada por IA. O McDonald's encerrou a parceria de pedidos por voz com IA após anos de testes com taxa de erro inaceitável.

Os casos não são alarmistas — são pedagógicos. A IA não é mais arriscada do que outras tecnologias adotadas em marketing; só é diferente. O risco vem da combinação de baixa fricção de adoção (qualquer profissional usa ChatGPT sem aprovação), opacidade do funcionamento (não é claro como o modelo chegou ao resultado) e velocidade de propagação (conteúdo gerado vai ao público em horas).

Categoria 1 — Qualidade: alucinação, inconsistência e dado desatualizado

Modelos de linguagem grandes (LLMs — Large Language Models, ou modelos de linguagem grandes) geram texto fluente mesmo quando o conteúdo é falso. O fenômeno se chama "alucinação" — invenção convincente de fatos, citações, números, fontes, URLs. Não é falha esporádica; é característica estrutural dos modelos atuais.

Exemplos típicos em marketing. Texto de blog citando estudo que não existe; resposta de chatbot inventando política da empresa; descrição de produto com especificação técnica errada; FAQ gerada com data fictícia ou número fictício; resumo de tendência com fonte fabricada.

Mitigação. Revisão humana antes da publicação — não opcional. Política clara: nenhum conteúdo gerado por IA vai ao público sem revisão humana qualificada. Ferramentas com mecanismo de geração aumentada por recuperação (RAG — Retrieval-Augmented Generation), que consulta base interna verificada antes de gerar, reduzem alucinação mas não eliminam. Em chatbots de atendimento, definir explicitamente o que pode responder e o que precisa escalar para humano.

Categoria 2 — Marca: tom, claim, ofensa

IA não conhece a voz da marca. Modelo público gera texto correto gramaticalmente mas potencialmente em tom desalinhado, com promessa exagerada (claim indevido), ou com expressão problemática (gíria datada, referência cultural inadequada, ofensa não intencional).

Exemplos. Email gerado em tom corporativo distante quando a marca é informal; post em rede social com claim de saúde sem base regulatória; criativo publicitário com expressão que ofende grupo demográfico; chamada para ação com promessa que a operação não consegue cumprir.

Mitigação. Guia de voz e tom documentado e fornecido como contexto à ferramenta. Revisão por profissional da marca antes de publicar. Treinamento de modelo (fine-tuning) para marcas grandes que justifiquem o investimento. Em ferramentas internas, configurar restrições explícitas (não usar superlativos, não fazer claim de saúde, não usar humor sobre temas sensíveis).

Categoria 3 — Dados: vazamento de PII e dado corporativo

Ferramentas públicas de IA generativa (ChatGPT versão gratuita, Bard, Claude.ai sem plano enterprise) podem usar as entradas (prompts) para treinamento de modelo futuro. Inserir informações pessoais identificáveis (PII) de clientes ou dados corporativos confidenciais nessas ferramentas pode resultar em vazamento — diretamente para o fornecedor, ou indiretamente, se o modelo treinado depois reproduzir partes do conteúdo.

Exemplos. Profissional cola lista de clientes com nome, email e CPF em ChatGPT para gerar texto personalizado. Time cola plano estratégico confidencial em ferramenta pública para "melhorar a redação". Profissional cola código de sistema interno para depurar.

Mitigação. Política explícita: ferramentas públicas de IA generativa não recebem PII de clientes nem dados corporativos confidenciais. Para usos sensíveis, contratar versão enterprise (ChatGPT Enterprise, Claude for Work, Gemini para empresas) com política de não-treinamento contratual, ou rodar modelos em ambiente isolado controlado pela empresa. Treinamento de equipe sobre o que pode e não pode ser inserido. Em operações maduras, filtro técnico que bloqueia padrão de PII (CPF, email, telefone) antes de chegar à ferramenta externa.

Categoria 4 — Viés: discriminação em geração e em modelos

Modelos de IA refletem os dados em que foram treinados. Quando os dados de treinamento têm viés (histórico, social, demográfico), o modelo reproduz. Em marketing, viés aparece em modelos preditivos (segmentação que discrimina por raça, gênero ou renda) e em geração (imagens estereotipadas, texto com pressuposto cultural).

Exemplos. Modelo de propensão a compra que sub-prioriza determinados códigos postais associados a um grupo demográfico. Geração de imagem de "executivo" que produz quase exclusivamente homens brancos. Texto que assume público padrão (heteronormativo, urbano, classe média) excluindo demais.

Mitigação. Auditoria de viés em modelos preditivos (revisão por demografia, métricas de justiça). Curadoria de prompts e exemplos de saída. Revisão por profissionais com perspectiva diversa. Em campanhas, revisão por foco diverso antes da publicação. Documentação dos limites conhecidos do modelo para que decisões críticas envolvam revisão humana.

Categoria 5 — Propriedade intelectual: entrada e saída

Dois riscos jurídicos em propriedade intelectual:

Entrada. Inserir obra de terceiro (texto de blog, foto de banco de imagens pago, código sob licença) em ferramenta de IA pode violar termos de licença. Plataformas como Getty Images, Adobe Stock e bancos similares têm restrições explícitas a uso em treinamento ou em geração derivada.

Saída. Conteúdo gerado por IA pode reproduzir obra protegida — texto plagiado, imagem que se parece com obra protegida, código com fragmentos sob licença restritiva. A jurisprudência ainda evolui, mas o risco de ser acionado por reprodução não autorizada é real.

A questão da autoria do que IA gera é tema em aberto no direito brasileiro. A Lei 9.610/98 (direitos autorais) reconhece autoria humana — conteúdo puramente gerado por IA, sem intervenção criativa humana significativa, está em terreno indefinido sobre titularidade e proteção.

Mitigação. Política sobre o que pode e não pode ser usado como entrada. Verificação de saída (ferramentas que detectam similaridade com obras conhecidas — Copyscape para texto, TinEye para imagem). Para conteúdo crítico, revisão jurídica. Cláusulas contratuais com fornecedores de IA que assumem responsabilidade por violação de direito autoral em saídas.

Categoria 6 — Conformidade: LGPD, AI Act, PL 2.338/23

O ambiente regulatório está em movimento.

LGPD (Lei 13.709/18). Já em vigor. Tratamento de dados pessoais por IA exige base legal documentada, informação ao titular, possibilidade de revisão por humano em decisões automatizadas que afetem direitos. A Autoridade Nacional de Proteção de Dados (ANPD) tem orientações específicas sobre uso de IA com dados pessoais.

Lei 9.610/98 (direitos autorais). Em vigor. Tema discutido na seção anterior — autoria, uso de obras como entrada e responsabilidade por saída derivada.

PL 2.338/23 (Marco Legal da IA no Brasil). Em tramitação no Congresso. Propõe classificação de risco por uso, obrigações específicas para sistemas de alto risco, governança de IA. A versão final pode mudar; a direção é regulação por nível de risco.

AI Act (Regulamento de IA da União Europeia). Em vigor. Não se aplica diretamente a operações no Brasil, mas afeta empresas com operações na União Europeia ou que oferecem serviços de IA a residentes europeus. Estabelece quatro categorias de risco (inaceitável, alto, limitado, mínimo) com obrigações específicas.

Mitigação. Acompanhamento ativo do quadro regulatório com apoio jurídico. Para empresas com operações multinacionais, atenção ao AI Act. Documentação dos sistemas de IA em uso (inventário), classificação por risco, base legal de tratamento de dados pessoais, possibilidade de revisão humana em decisões críticas.

Categoria 7 — Reputacional: cliente percebe IA mal usada

Cliente que detecta IA mal aplicada (resposta robótica em atendimento crítico, email genérico chamando pelo nome errado, chatbot incapaz de resolver) sai com percepção negativa da marca — não só do canal. O risco reputacional cresce com a escala da operação.

Exemplos. Email automatizado de pêsames gerado em massa por gatilho mal configurado. Chatbot que insiste em fluxo automatizado quando o cliente está em crise. Conteúdo evidentemente gerado por IA (frases típicas, formatação característica) publicado como se fosse texto de jornalista ou especialista.

Mitigação. Transparência sobre uso de IA quando o cliente percebe (rotular conteúdo gerado quando aplicável). Caminho claro de escalada para humano em atendimento. Revisão de qualidade em pontos críticos da experiência do cliente. Indicador de satisfação por canal automatizado, monitorado mensalmente.

Plano de resposta a incidente

Quando um incidente envolvendo IA acontece — alucinação publicada, dado vazado, viés detectado, campanha problemática — a velocidade e qualidade da resposta determinam o impacto. Bom plano de resposta cobre:

Detecção. Como o incidente chega ao conhecimento da empresa (monitoramento, denúncia interna, mídia, cliente). Canal único definido para registro.

Contenção. Ações imediatas: tirar do ar conteúdo problemático, suspender ferramenta envolvida, interromper jornada automatizada.

Comunicação interna. Quem é informado em qual ordem (líder de marketing, CMO, jurídico, segurança, comunicação corporativa, CEO).

Comunicação externa. Quando, como, por quem. Em incidentes que afetam clientes, comunicação proativa e transparente costuma reduzir o dano reputacional — silêncio detectável amplifica.

Análise de causa raiz. Após contenção, investigar como o incidente aconteceu, o que falhou no controle e como prevenir. Documentar.

Aprendizado e atualização. Incorporar aprendizados à política e treinamento. Cada incidente fortalece o programa se for tratado como caso de aprendizagem.

Erros comuns que aumentam exposição

Subestimar alucinação. Assumir que a saída do modelo está correta porque parece correta. Conteúdo fluente convence mesmo quando inventa fatos.

Usar ferramentas públicas com dado sensível. Erro mais comum em PME — profissional bem-intencionado cola informação confidencial em ChatGPT gratuito.

Sem revisão humana. Publicar conteúdo gerado direto, sem leitura crítica. Acontece especialmente em volume alto de produção.

Não documentar uso. Em três anos, ninguém sabe quais ferramentas a empresa usa, para quê, com qual revisão. Auditoria fica impossível.

Política sem treinamento. Política existe no documento mas a equipe nunca leu. Comportamento real diverge da regra escrita.

Sem plano de resposta. Quando o primeiro incidente acontece, a empresa improvisa. Comunicação tardia, decisões inconsistentes, dano reputacional ampliado.

Confundir IA com confidencialidade. Assumir que tudo o que se discute em ferramenta de IA "fica entre nós". Não fica.