A literacia em saúde é condição para que haja uma boa literacia digital em saúde e que permita às pessoas não estarem em risco permanente, nem atentarem contra as suas vidas por decisões erradas. Na ponta dos dedos, e a um clique de distância, está o poder de dar poder: a Inteligência Artificial (IA). Agora com rei, pelo menos com regulamentação.

Foi aprovada a primeira lei de IA na União Europeia, que a considera o primeiro quadro jurídico abrangente sobre IA em todo o mundo. Esta norma aborda os riscos da IA com reflexos na segurança e direitos fundamentais das pessoas e das empresas neste domínio. Antes de permitir e de abrir caminhos, a União Europeia identifica a parte (não exaustiva) dos sistemas de IA que são considerados de alto risco. Então, o que é considerado alto risco para o ser humano, para a sua segurança e própria vida e direitos?

Apresentam-se riscos em vários domínios:

Os sistemas de IA de alto risco estarão sujeitos a obrigações rigorosas antes de poderem ser colocados no mercado. Diz a norma que devem ser sujeitos:

Passar de um processo de regulamentação exige, de facto, a supervisão. Nas empresas, nas organizações de saúde do social, com as pessoas vulneráveis (migrantes, refugiados) e nas consultas dos profissionais das áreas da saúde e social, existe esta preocupação permanente de vigilância com cumprimento dos limites que a regulamentação nos apresenta. Como refere a lei, deve haver uma espécie de “risco e contra risco”, que visa provavelmente reparar os sucessivos erros drásticos que podem começar a surgir.

Neste momento, e ainda por uma questão de falta de supervisão, ainda não estão sistematizados e não são contabilizados como eventos adversos. Falta ainda, pelo menos aparentemente, a necessidade premente de formação das equipas, de cima para baixo, com feedback de baixo para cima. Mas os gestores e decisores já estão preparados para esta implementação sistemática, diária e, muitas vezes, ao segundo? Onde estão estes formadores especialistas de IA para assegurarem estas questões? Deixamos passar e ficar debaixo da mesa até que o equipamento mate o dono ou o utilizador do serviço ou produto? O rei vai meio nu?

A autora escreve segundo o novo acordo ortográfico