Trump agora quer controle da IA. O que o Brasil pode aprender?

Coisa de dois anos atrás, recebi um convite de uma das principais empresas de IA para fazer parte do seu "red team", um grupo de pesquisadores independentes que tem o trabalho de avaliar os modelos de IA antes de chegarem ao público.

O trabalho consiste em tentar quebrar a IA de diferentes formas. Fazê-la dizer o que não deveria, vazar dados, contornar as próprias salvaguardas, produzir conteúdo perigoso.

As empresas de IA pegaram essa ideia da área de cibersegurança por saberem que sozinhas não conseguem antecipar todos os problemas e erros de seus produtos.

Marco Antonio SabinoVermelho x azul: problema é ser juiz e ter causa

Vermelho x azul: problema é ser juiz e ter causa

Narrativas em DisputaLula aposta no bolso para reagir eleitoralmente

Narrativas em Disputa

Lula aposta no bolso para reagir eleitoralmente

Aline SordiliConteúdo líquido já reescreve rumos da mídia

Conteúdo líquido já reescreve rumos da mídia

Alicia KleinPalmeiras acha que Fla quer asfixiar clubes

Palmeiras acha que Fla quer asfixiar clubes

O trabalho dos red teams ganhou tanta importância que, em 2023, o presidente Biden assinou uma ordem executiva transformando essa prática técnica em política pública. Empresas que treinassem modelos de IA gigantescos com risco às pessoas ou à segurança........

© UOL