La IA también necesita pasar un examen
Durante los últimos años hemos dedicado mucho tiempo a hablar de todo lo que puede hacer la inteligencia artificial. Y es comprensible. En muy poco tiempo hemos visto sistemas capaces de escribir, programar, resumir miles de documentos, generar imágenes, detectar patrones o ayudarnos a tomar decisiones. Preguntas habituales han sido: ¿hasta dónde puede llegar la IA? o ¿cómo sabemos que podemos confiar en lo que hace?
Sobre esta última, no es solo comprobar si un modelo acierta o se equivoca. En las organizaciones más capaces normalmente se evalúa casi todo aquello que puede tener un impacto relevante. Se auditan sistemas, proveedores, se prueban aplicaciones, se establecen controles y se analizan riesgos. Debería hacerse algo similar con la inteligencia artificial. La diferencia es que todavía estamos aprendiendo cómo hacerlo.
Evaluar va a ser cada vez más importante.
Porque evaluar una IA no consiste simplemente en hacerle unas cuantas preguntas y comprobar que responde bien. Un sistema puede ser muy preciso y, sin embargo, utilizar información que no debería utilizar. Puede introducir sesgos, ser vulnerable a determinados ataques o inventarse una respuesta y hacerlo con tal seguridad que quien la recibe termine dándola por buena. También puede funcionar perfectamente en las condiciones en las que fue probado y comportarse de forma inesperada cuando estas cambian.
"Un sistema puede ser muy preciso y utilizar información que no........
