IA, Escrita e Responsabilidade |
Na minha última crónica abordei aquela que é, por estes dias, a maior ameaça ao valor da escrita: a erosão intelectual que resulta do mau uso, em larga escala, da IA generativa. Neste tempo em que todos nós temos à nossa disposição ferramentas poderosas para a produção em massa de texto, de baixo custo e esforço, a tentação de bullshit é quase irresistível. O bullshit, tal como o concebeu Harry Frankfurt em 2005, não significa mentira deliberada, mas sim indiferença perante a verdade: os bullshitters que proliferam por aí não são propriamente mentirosos compulsivos ou profissionais, são antes o resultado do deslumbramento humano perante ferramentas de IA que estão a colocar à disposição de todos fórmulas fáceis para impressionar, ocupar espaço, produzir efeito.
A inteligência artificial torna extraordinariamente fácil gerar textos plausíveis, bem estruturados e de aparência competente, pelo que a indiferença perante a verdade está a ganhar uma escala inédita. Por todo o lado chocamos com textos vazios e sem qualquer significado imanente, mas que enganam leitores cada vez mais alienados, mais anestesiados, já que a linguagem utilizada mantém um tom sério, uma cadência segura e um vocabulário técnico aparentemente credível. O problema está nas consequências que decorrem da cada vez mais ténue e frágil ligação entre o que se escreve e o esforço de pensar, verificar e assumir responsabilidade. O resultado de todo este fenómeno é um espaço público saturado por discursos que soam a reflexão sem o serem, multiplicando a aparência de sentido num ambiente onde o compromisso com a verdade e com a genuína autoria é cada vez menos, o eixo principal do ato de escrever.
A crónica de hoje não é, porém, sobre se a IA escreve melhor ou pior do que nós – até porque, para muitos, a IA generativa abre a possibilidade de produzir textos com uma aparência de competência e fluidez que antes lhes estavam fora do alcance, por limitações de pensamento, de domínio da linguagem ou de cultura e imaginação. Mas sim, qual o impacto que a degradação da escrita vai ter, muito rapidamente, sobre a ideia de responsabilidade e, por essa razão, sobre o valor e a credibilidade do texto produzido e dos seus autores.
Se Harry Frankfurt analisa o impacto do bullshit sobre o texto e a verdade, as reflexões de Luciano Floridi (um dos mais fascinantes pensadores contemporâneos da informação e da ética digital, conhecido pelo seu trabalho sobre a transformação cultural e moral provocada pelas tecnologias digitais e pela inteligência artificial) ajudam-nos a ir mais longe (recomendo que explorem o seu bot). Nos seus mais recentes textos, Floridi sugere que estamos a transitar de uma escrita assente numa composição direta para uma nova forma de escrever, na qual a escrita assume a forma de design. O humano deixa de ser apenas o executor do texto e passa a ser o seu arquiteto. Um bom escritor num tempo com IA é aquele que define bem os requisitos, impõe as restrições certas, orienta o sentido, fixa o estilo, identifica as fontes, conhece bem o resultado que procura. A máquina, essa, executa a árdua tarefa de escrever.
Ora, se escrever é, cada vez mais, conceber, desenhar, projetar, arquitetar, então a qualidade do texto dependerá cada vez menos da fluência da ferramenta e mais da exigência conceptual de quem a utiliza. Uma vez que a tecnologia está ao alcance de todos, o que está a destruir grande parte da escrita não são as ferramentas da IA (embora elas sejam instrumentais nesse processo). A erosão está no desvalor que vamos – irremediavelmente – passar a atribuir à autoria enquanto responsabilidade intelectual, já que muitos não vão conseguir demonstrar que são algo mais do que o resultado do pensamento de uma máquina. Mais cedo ou mais tarde, impor-se-á racionalmente a ideia de que não há razão para confiar num político, professor, jornalista ou opinion maker, nem para recorrer a um médico, a um advogado ou a qualquer especialista mediano que se limita a usar, sem capacidade crítica ou acrescentar real valor, as mesmas ferramentas a que eu próprio tenho acesso.
E se na construção de texto corrente, como redigir um email ou um post para uma rede social, a mediação da tecnologia e da inteligência artificial, na sua mecânica discursiva, estão a impor um padrão competente que ajuda a melhorar a comunicação, sobretudo dando literacias de expressão estruturada a quem não as tem, a transformação da escrita num exercício de aparência tende a conduzir a uma destruição da palavra que prejudica, sobretudo, os que hoje vivem do texto, da palavra, da expressão.
Floridi fala na emergência de um novo “autor”, o “meta-autor”, aquele que, mesmo não redigindo cada frase, responde pela coerência, pela intenção e pelo sentido da obra final. À medida que, porém, o público em geral se aperceba de que a maioria do que é dito e escrito não é fruto do pensamento humano, mas de uma mera produção mecânica, o desinteresse pela opinião vai afirmar-se, abrindo espaço apenas para a sobrevivência de quem for capaz de subscrever, com credibilidade, a própria criação.
Há aqui um risco de clivagem socialmente disruptiva. De um lado, emerge uma pequena minoria que está a compreender que o recurso à IA generativa exige mais disciplina, mais arquitetura mental, mais capacidade crítica. Este pequeno grupo está a usar as ferramentas de IA para testar hipóteses, explorar contra-argumentos, refinar ideias, avançando com isto para um patamar superior de exigência intelectual, porque percebe que desenhar bem é mais difícil do que redigir medianamente. Do outro lado, desfila uma larga maioria deslumbrada com o seu próprio “lero-lero” automatizado e textos “arrumadinhos” que simulam profundidade, mas apenas reciclam padrões genéricos e dominantes. A esses, a IA não eleva: apenas amplifica a superficialidade, não faltando até quem esteja a regredir.
No meio destes dois eixos, situam-se os que, apesar de se esforçarem por manter uma relação saudável com a tecnologia, são incapazes de superar uma das limitações mais perturbadoras da IA generativa. É que os grandes modelos de linguagem deixam uma espécie de “impressão digital” estilística, um padrão lógico-dedutivo, mecânico, recorrente, quase matemático, que denuncia a sua origem estatística. A homogeneização do discurso não é, por isso, apenas um problema epistemológico, mas também estético e cultural. Num espaço público saturado por textos formalmente corretos e semanticamente vazios, cada vez mais maçadoramente iguais, assistimos também não só a um risco de diluição da verdade, mas também a uma degradação da singularidade, algo que está a destruir aceleradamente o encanto do ato de ler, mesmo os textos corriqueiros do dia a dia.
Não sou, como escrevi na crónica de há duas semanas, “tecnófobo” ou cético, nem antecipo, como alguns, a “morte da escrita”. Agora, perante a destruição da criação simbólica e a emergência de monopólios de produção linguística, como preservamos a responsabilidade humana num ecossistema em que já não somos os únicos a produzir linguagem?
Se todos podemos gerar texto com facilidade, o critério distintivo vai deixar de ser a fluência. Num futuro muito próximo, que está ao virar da esquina, o valor da escrita, seja ela literária, jornalística ou profissional (do advogado ao médico, do engenheiro ao consultor), vai estar intrinsecamente ligado à capacidade de demonstrar compromisso com a verdade, com a coerência, com a intenção assumida. Há vários anos que trabalho e uso inteligência artificial de forma profissional, e posso asseverar que pensar – e produzir bom pensamento – continuará a implicar slow thinking, com demora, fricção e confronto com a complexidade. A IA generativa, bem utilizada, liberta tempo para isso, e leva-nos mais além – mas apenas se for integrada num processo que a subordine a um desenho intelectual que é, a cada dia que passa, mais exigente.
Se nada fizermos no campo das literacias, um futuro com IA, pelo menos nos próximos anos, vai ser profundamente darwinista e destruidor da coesão social. Uma pequena minoria vai continuar a saber aproveitar a seu favor a geração de valor resultante da capacidade de reconfigurar e subscrever a autoria – com a confiança pública que isso implica –, elevando o padrão do seu próprio discurso e os seus rendimentos e recompensas. Enquanto a maioria estará condenada a ficar refém do bullshit automatizado, multiplicando palavras que nada acrescentam e degradando a sua própria capacidade de criar valor. Há quem goste de pôr a tecnologia a escrever por nós. Mas ainda podemos decidir como usamos e pensamos as palavras que já não escrevemos.
Receba um alerta sempre que Rodrigo Adão da Fonseca publique um novo artigo.