Como funcionam os detectores de IA? Um guia para empresas

Sejamos honestos, a IA está a escrever uma grande parte da internet hoje em dia. Artigos de blogue, e-mails de marketing, até respostas de apoio ao cliente, está em todo o lado. Existe até uma estatística impressionante que diz que, até 2026, 90% do conteúdo online poderá ser sintético.

Isto levanta uma grande questão para qualquer empresa que se preocupe em soar, bem, humana: Como se pode distinguir o que foi escrito por uma pessoa e o que veio de um bot?

Muitas pessoas apontam os detetores de IA como a solução. Mas não é assim tão simples. Vamos explicar exatamente como estas ferramentas funcionam, o que fazem de errado e porque é que uma abordagem diferente, a governança proativa de IA, é uma estratégia muito melhor, especialmente para algo tão importante como o apoio ao cliente.

O que é um detetor de IA?

Um detetor de IA é uma ferramenta que analisa um texto e tenta descobrir a probabilidade de ter sido escrito por uma IA como o ChatGPT. O objetivo é identificar a diferença entre os padrões limpos e estatísticos de uma máquina e o estilo ligeiramente confuso e imprevisível de um escritor humano.

Verá que são utilizados em alguns locais diferentes:

• Nas escolas: Os professores usam-nos para verificar se os alunos estão a escrever as suas próprias redações ou a receber ajuda a mais da IA.

• Em websites: As plataformas usam-nos para encontrar e sinalizar críticas de produtos falsas ou comentários de spam.

• Para SEO: Alguns profissionais de marketing usam-nos para evitar serem penalizados pelos motores de busca por publicarem conteúdo de IA genérico e de baixo esforço.

O importante a reter é que estas ferramentas não dão um "sim" ou "não" direto. Elas fornecem uma pontuação de probabilidade, algo como "98% de probabilidade de ser gerado por IA", e é nessa incerteza que as coisas se complicam.

Como funcionam os detetores de IA

Para percebermos realmente porque não são infalíveis, precisamos de abrir o capô e ver como operam. Estas ferramentas são basicamente detetives digitais, à procura de pistas e impressões digitais estatísticas que os escritores de IA tendem a deixar por todo o seu trabalho.

Machine learning e PNL

Na sua essência, os detetores de IA são eles próprios modelos de IA. São treinados em conjuntos de dados gigantescos, repletos de milhões de exemplos de escrita tanto humana como de IA. Utilizando uma tecnologia chamada processamento de linguagem natural (PLN), o detetor aprende a reconhecer a estrutura da frase, a gramática e o contexto, tal como as ferramentas de IA que está a tentar apanhar.

Este processo de treino torna o detetor muito bom a detetar os hábitos subtis e as peculiaridades estatísticas que gritam "um robô escreveu isto".

Perplexidade

Um dos maiores indicadores é algo chamado perplexidade. Parece complicado, mas na verdade é apenas uma medida de quão previsível é um texto.

Os modelos de IA constroem frases adivinhando a próxima palavra estatisticamente mais provável. Isto torna a sua escrita super fluida e gramaticalmente correta, mas também... um pouco aborrecida e previsível. Isto é o que se conhece como baixa perplexidade.

Escrita humana? Nós somos imprevisíveis. Usamos metáforas estranhas, piadas internas e frases desajeitadas. Damos erros ortográficos. Toda essa bela confusão torna a nossa escrita surpreendente, ou o que os detetores chamam de alta perplexidade.

"Burstiness"

Outro indicador claro é a "burstiness". Esta é apenas uma forma elegante de falar sobre a variedade de frases.

Quando escreve, provavelmente mistura frases curtas e diretas com frases longas e sinuosas. Isso cria um ritmo natural, uma alta "burstiness", que mantém as coisas interessantes. É como as conversas fluem.

A IA, por outro lado, produz frequentemente texto com baixa "burstiness". Todas as frases têm aproximadamente o mesmo comprimento, com estruturas semelhantes. É gramaticalmente correto, mas pode parecer monótono e sem vida, o que é outra pista fácil para um detetor.

Classificadores e "embeddings"

Finalmente, há mais algumas coisas a acontecer nos bastidores. Os classificadores são a parte do modelo que toma a decisão final. Depois de analisar a perplexidade, a "burstiness" e outros sinais, o classificador decide se deve rotular o texto como "provavelmente humano" ou "provavelmente IA".

Para tomar essa decisão, utiliza "embeddings". Este é um termo técnico para transformar palavras em números (ou vetores) para que o modelo possa analisar as suas relações e significados. É o que ajuda o detetor a compreender o contexto, que é fundamental para distinguir uma IA sofisticada de um humano.

Onde os detetores de IA falham

Apesar de a tecnologia ser bastante inteligente, está longe de ser perfeita. Confiar completamente na deteção de IA é uma jogada arriscada para qualquer empresa séria. Eis o porquê.

• Eles cometem erros (muitos). Nenhum detetor é 100% preciso. Eles podem sinalizar conteúdo escrito por humanos como sendo de IA (um falso positivo), o que pode levar a conversas muito constrangedoras e injustas. Também podem não conseguir detetar texto gerado por IA (um falso negativo), o que pode dar-lhe uma falsa sensação de segurança.

• Podem ser enviesados contra falantes não nativos. Este é um problema enorme. A maioria dos detetores é treinada com enormes quantidades de texto escrito em inglês americano ou britânico padrão. Isto significa que muitas vezes sinalizam incorretamente o conteúdo de falantes não nativos de inglês como gerado por IA, apenas porque a sua estrutura de frase ou escolha de palavras é diferente dos dados de treino.

• É um constante jogo do gato e do rato. Os modelos de IA estão a melhorar a uma velocidade incrível. As versões mais recentes são especificamente treinadas para escrever com mais variedade e criatividade (maior perplexidade e "burstiness") para soarem mais humanas. Os detetores estão sempre um passo atrás, a tentar acompanhar, o que os torna menos fiáveis contra a IA mais recente.

• Uma "pontuação de probabilidade" não é uma prova. No final de contas, a pontuação de um detetor de IA é apenas um palpite educado. Não pode usá-la como prova concreta. Para uma empresa, tomar decisões com base numa pontuação de probabilidade é uma aposta enorme, especialmente quando a reputação da sua marca ou a confiança do cliente estão em jogo.

E quanto ao custo dos detetores de IA populares?

Se está a pensar em usar estas ferramentas para o seu negócio, os custos também podem ser uma dor de cabeça real e, muitas vezes, imprevisível.

• GPTZero: Este é um dos mais populares, com uma versão gratuita para verificações pequenas (até 10.000 palavras por mês). Para um uso mais sério, o plano Essencial custa cerca de 100 dólares por ano para 150.000 palavras por mês, e o plano Premium ronda os 156 dólares por ano para 300.000 palavras por mês.

• Originality.ai: Esta ferramenta utiliza um modelo de pagamento por utilização, cobrando cerca de um cêntimo por cada 100 palavras que verifica. Parece barato, mas se estiver a analisar um grande volume de conteúdo, esses cêntimos podem somar-se a uma fatura mensal surpreendentemente grande e imprevisível.

O preço levanta outro ponto: está a pagar para verificar o conteúdo depois de já ter sido criado, sem garantia de que a verificação seja sequer precisa.

Para além da deteção: a governança de IA é o que as equipas de apoio realmente precisam

Em vez de apenas reagir ao conteúdo de IA, e se pudesse orientá-lo desde o início? Essa é toda a ideia por trás da governança de IA, e é indispensável para as equipas de apoio ao cliente onde a voz da marca e a precisão são tudo.

Tentar usar uma ferramenta genérica como o ChatGPT para respostas a clientes e depois passá-la por um detetor é um processo confuso e pouco fiável. Uma plataforma construída para o efeito simplesmente dá-lhe mais confiança e controlo.

Por exemplo, uma ferramenta como a eesel AI ajuda-o a contornar completamente o jogo da deteção:

• Aprende a soar exatamente como você. A IA genérica escreve texto genérico, que é exatamente o que os detetores foram feitos para detetar. A eesel AI é diferente. Ela treina com o conhecimento real da sua empresa, os seus tickets de suporte passados, documentos de ajuda de locais como o Confluence ou Google Docs e guias internos. Ela capta a voz única da sua marca desde o início.

Um infográfico que mostra como a eesel AI se integra com várias fontes de conhecimento para aprender a voz única da marca de uma empresa.

• Você está no comando. Chega de adivinhar o que a sua IA poderá dizer. Com o motor de fluxo de trabalho totalmente personalizável da eesel AI, pode configurar a persona da IA, o seu tom e exatamente o que ela pode e não pode fazer. Pode até limitar o seu conhecimento a tópicos específicos para que não saia do guião e comece a responder a perguntas que não deveria.

Uma captura de ecrã da tela de personalização e fluxo de trabalho de ações na eesel AI, que demonstra como os detetores de IA funcionam com governança.

• Pode testá-la em segurança. Esqueça passar texto por um detetor público e cruzar os dedos. A eesel AI tem um modo de simulação que lhe permite testar o seu agente de IA em milhares dos seus tickets passados. Pode ver precisamente como teria respondido e obter previsões sólidas sobre o seu desempenho antes de falar com um cliente real.

Uma captura de ecrã da funcionalidade de simulação da eesel AI, uma ferramenta chave para entender como os detetores de IA funcionam num ambiente seguro.

O veredito: Deteção vs. direção

Então, como funcionam os detetores de IA? Eles analisam o texto em busca de previsibilidade (perplexidade) e variedade rítmica ("burstiness") para fazer um palpite educado sobre se foi um humano ou uma máquina que o escreveu.

E embora sejam peças de tecnologia interessantes, a sua falta de fiabilidade, os seus preconceitos e a sua incapacidade de acompanhar IAs mais inteligentes tornam-nos uma base instável para qualquer negócio. Para os profissionais, especialmente no apoio ao cliente, o objetivo não é apenas detetar a IA, é dirigi-la.

Assuma o controlo da sua IA de apoio ao cliente

Deixe de se preocupar se a sua IA soa humana e comece a garantir que ela soa como a sua marca.

Com a eesel AI, pode construir um agente de IA autónomo que é treinado com o conhecimento da sua empresa, se adapta aos seus fluxos de trabalho exatos e pode ser testado e validado antes de entrar em funcionamento. Pode passar do registo para ter um agente de IA a funcionar em apenas alguns minutos.

Veja a diferença por si mesmo e comece um teste gratuito hoje.