Já se fala muito em Inteligência Artificial (IA), mas pouco na sua segurança, ou melhor, insegurança. A insegurança mais direta e comum com o uso de IA é a disponibilização de informação aos agentes de IA como o ChatGPT e outros. Há um ditado que diz que o melhor confessionário é a caixa de texto de um motor de pesquisa, e o mesmo acontece com os agentes de IA, em que se diz tudo e mais alguma coisa em busca de respostas, desde análises clínicas ou sintomas médicos a informação financeira, código fonte de aplicações, e até como lidar com problemas interpessoais.

Esta partilha de informação é um potencial problema, pois na maioria dos casos, nos quais se inclui o ChatGPT, todas as interações são guardadas e podem ser usadas para treinar o próprio agente de IA, e com isto não se consegue garantir que não sejam parte de respostas futuras a outras perguntas de outros utilizadores. Estas interações com os agentes de IA são designadas de prompts, e em caso de fuga de informação, estes prompts podem ser lidos, e até interpretados por outros agentes de IA, com vista a roubar identidades, contas bancárias, e várias outras ilegalidades que nem conseguimos prever.

Mas os agentes de IA, não servem apenas para fazer umas perguntas e ter umas respostas, são muito mais que isto, podendo ser utilizados como verdadeiros assistentes que realizam tarefas complexas por nós, desde ler e resumir........

© Observador