A OpenAI já criou e testou uma ferramenta que detecta se qualquer conteúdo escrito foi gerado usando o ChatGPT. No entanto, a empresa está segurando o lançamento público da ferramenta por várias preocupações, diz o Wall Street Journal.
A ferramenta adiciona um padrão na forma como o modelo de linguagem grande (LLM) escreve seu output, permitindo que a OpenAI detecte se foi criado pelo ChatGPT. No entanto, o padrão permanece imperceptível para humanos, não impactando assim a qualidade do LLM. Documentos internos afirmam que a ferramenta é 99,9% eficaz em detectar o output do ChatGPT, mas a OpenAI ainda não a lançou.
Embora a marcação de texto seja extremamente eficaz para detectar conteúdo escrito pelo ChatGPT, ela não funciona com o output de outros LLMs como o Gemini AI ou Llama 3. Além disso, essa técnica pode ser facilmente contornada. Por exemplo, você pode inserir o output do ChatGPT no Google Translate, convertê-lo para outro idioma e depois de volta para o inglês, removendo efetivamente a marcação.
Pode ser tão simples quanto pedir ao AI para inserir um caractere especial, emoji ou até mesmo uma frase curta entre as palavras e depois deletá-los (via função Localizar e Substituir do Microsoft Word, por exemplo) ou pedir a outro LLM para reformular completamente o output, o que é suficiente para quebrar a ferramenta de detecção.
Outro ponto de discórdia que a OpenAI tem sobre o lançamento da ferramenta é que ela poderia ser tendenciosa contra escritores não nativos de inglês. A empresa lançou anteriormente uma ferramenta de detecção de texto gerada por AI no ano passado, mas levou apenas sete meses para que a OpenAI desativasse devido à sua baixa taxa de detecção e propensão a entregar falsos positivos. Isso até levou ao ponto de um professor reprovar uma turma inteira porque todos os trabalhos submetidos foram marcados incorretamente como gerados por AI.
Além disso, a OpenAI também está considerando sua base de clientes, com pesquisas mostrando que 69% dos usuários do ChatGPT acreditam que a ferramenta resultaria em falsas acusações de trapaça com AI. 30% até disseram que provavelmente mudariam para um LLM concorrente se a OpenAI implantasse a ferramenta. A ampla implantação do detector ChatGPT é outra questão que a empresa enfrenta, pois outros usuários poderiam reverter a técnica de marcação da OpenAI e lançar um plug-in ou app para neutralizá-la.
No entanto, a OpenAI entende o risco que o conteúdo gerado por AI tem na sociedade e tem procurado outras alternativas além da técnica de marcação de texto. Há também uma demanda por um detector de AI, com dados internos mostrando que 80% das pessoas perguntadas globalmente apoiam sua existência.
Atualmente, ainda é uma questão se a OpenAI lançará sua ferramenta de marcação de texto e detector ou não. Mas também entende que, como uma das principais organizações no desenvolvimento de AI, deve tomar medidas para ajudar a garantir o uso responsável de suas ferramentas. Fontes dizem que a OpenAI tem até este outono para influenciar a opinião pública sobre a transparência da AI. O que isso significa, não sabemos, mas há uma coisa de que temos certeza: devemos ser críticos com o que lemos e garantir que estamos obtendo a verdade.
Fonte: Wall Street Journal
