“Queremos que as alucinações da IA prendam pessoas?” Foi esta a pergunta que deixei na VISÃO nº 1748, acerca do risco de se confiar na IA, sem controlo, verificação ou revisão. Com a IA, o que hoje parece mentira amanhã será verdade, tal a velocidade de mudança e de evolução. Mas longe de mim imaginar que a resposta à questão viria rapidamente. Aliás, já estava dada, mas só veio a público recentemente, numa audição no Senado dos EUA em torno do sistema Flock – um sistema de vigilância, com recurso a dezenas de milhares de câmaras, cujas imagens são analisadas e tratadas por IA, com vista a identificar crimes e os seus autores. O problema, tal como então escrevi, surge quando tomamos como válido o que a IA nos dá, sem verificar.

Em outubro de 2025, um acidente automóvel vitimou fatalmente três pessoas. Testemunhas disseram que a viatura que provocou o acidente era de cor bordeaux. Meses depois e após análise das imagens recolhidas pelo sistema Flock, o sistema concluiu que o automóvel que tinha provocado o acidente era o de Lindsey Isaacs. Havia imagens que mostravam o carro nas redondezas, por volta da hora em........

© Visão