No hace falta ser un genio informático para sabotear la inteligencia artificial de un sistema de apoyo a la salud. Bastaría con que alguien introdujera entre 100 y 500 imágenes manipuladas en una base de datos de millones.

Esa pequeña cantidad de “veneno digital” puede representar una cienmilésima parte de los datos de entrenamiento. Con esa pequeña parte, un sistema de IA diseñado para leer radiografías o asignar trasplantes puede aprender a fallar. Y no lo hará al azar. Puede hacerlo para un grupo específico de personas, mientras funciona con total precisión para el resto de la población.

Lo más alarmante no es la facilidad del ataque, sino nuestra ceguera actual. Estos sabotajes resultan estadísticamente invisibles para los controles de calidad estándar. Cuando estas anomalías se lleguen a detectar, el daño ya estará hecho.

Existe la creencia popular de que la cantidad de datos necesarios para alimentar la IA son un escudo en sí mismo. Tendemos a pensar que, en un océano de millones de datos médicos, unas pocas gotas de información falsa se diluyen sin causar daño. La evidencia desmiente categóricamente esta asunción.

Dos equipos de investigación, de Karolinska Institutet (SMAILE), en Suecia, y de la........

© The Conversation