Foi o que aconteceu esta semana em França com Thélyson Orélien e o seu romance C’était ça ou mourir (Era isso ou morrer). O livro, publicado pela Editora Grasset, tinha recebido o Prix du Roman Fnac, ultrapassado os 35 mil exemplares vendidos e surgido nas seleções dos grandes prémios literários do outono. Na segunda-feira, 21 de setembro, uma conta anónima no X acusou o escritor de ter recorrido à Inteligência Artificial (IA) para escrever o romance, apresentando como argumento resultados obtidos através do Pangram, uma ferramenta de deteção de texto gerado por IA. A acusação espalhou-se rapidamente. O autor negou-a. A editora saiu em sua defesa. Depois surgiram outras acusações, nomeadamente de plágio, que pertencem a um plano diferente e exigem outra análise. Entretanto, a Academia Goncourt retirou imediatamente o romance da sua seleção. O caso ainda está envolto em controvérsia, mas uma coisa já aconteceu: antes de sabermos definitivamente o que aconteceu no processo de escrita, a suspeita já produziu consequências.

É isto que me interessa neste caso. Não me interessa, aqui, decidir quem tem razão. Interessa-me a pergunta que ficou no ar e que, a meu ver, será uma das grandes perguntas culturais e até sociológicas deste tempo: quando uma máquina acusa um escritor, quem acusa a máquina?

Há uma espécie de paradoxo que me fascina e me inquieta. Estamos a usar sistemas algorítmicos para tentar determinar se outro sistema algorítmico participou na escrita de um texto. A máquina que procura a máquina é também uma máquina. E, no entanto, quem fica sob suspeita é o homem. É o escritor que tem de explicar a sua escrita, justificar a sua linguagem, apresentar os seus rascunhos, recordar o seu processo, talvez até reconstruir diante de terceiros aquilo que foi, até então, uma experiência íntima: o ato de escrever.

Parece-me que o detetor não viu o escritor a escrever. Não esteve presente quando surgiu a primeira frase. Não conhece os livros que o autor leu, as línguas que aprendeu, as pessoas que encontrou, as conversas que teve, as frases que riscou. Não sabe de onde veio uma imagem, uma personagem, uma memória. Não sabe quantas vezes uma palavra foi substituída até parecer certa. Recebe o texto terminado e procura nele padrões estatísticos. Não observa a autoria. Infere-a.

E aqui começa, para mim, o verdadeiro problema. Uma inferência não é uma prova.

Pode ser uma indicação. Pode ser um sinal de alerta. Pode justificar que se faça uma investigação, mas não deveria adquirir, por si só, o estatuto de verdade.

No caso de Orélien, o jornal Le Monde submeteu mais de metade do romance ao Pangram e obteve uma classificação superior a 95% de texto produzido por IA, com elevado nível de confiança. O mesmo jornal ouviu investigadores que chamaram a atenção para as limitações destes sistemas, para a sua opacidade e para as dificuldades acrescidas quando se trabalha com línguas, estilos e variedades linguísticas que não correspondem aos padrões dominantes usados no treino dos modelos.

Não é preciso negar a existência de detetores de IA para perceber o problema. Basta reconhecer uma coisa muito simples: uma ferramenta pode ser útil e, ao mesmo tempo, não ser infalível.

É aqui que a discussão se torna demasiado tecnológica e pouco filosófica. Perguntamo-nos qual é o melhor detetor, qual tem a percentagem de falsos positivos mais baixa, qual é a que analisa mais palavras, qual a que utiliza o modelo mais recente. Tudo isso é importante. Mas antes de perguntarmos qual é a máquina mais eficaz, deveríamos perguntar: que espécie de autoridade estamos dispostos a conceder a uma máquina sobre uma pessoa?

O erro, quando se trata de atribuir a autoria de um texto, não é um erro neutro. Um falso positivo não é apenas uma incorreção estatística. É uma pessoa acusada injustamente. A diferença é enorme.

Uma ferramenta pode apresentar uma taxa de falsos positivos muito baixa e, ainda assim, errar. E quando o resultado desse erro pode atingir a reputação de alguém, retirar um livro de um prémio, interromper uma digressão, comprometer........

© Visão