O interruptor inútil |
Nunha das tempadas da serie Fargo, a protagonista atopa no cuarto dun motel unha caixa de madeira cun interruptor na parte superior. Ao activalo, ábrese a tapa da caixa e unha man mecánica asómase o xusto para empurrar o interruptor, devolvéndoo á súa posición orixinal. Despois, a man volve ao seu sitio e a caixa péchase. Todo queda recomposto, agás o espectador, que dificilmente permanecerá indiferente ante este dispositivo tan orixinal como desconcertante.
Con todo, o aparato en cuestión non foi unha ocorrencia dos moi creativos guionistas de Fargo, senón que a «useless machine», ou máquina inútil, como se denominou orixinalmente, ten unha historia moi anterior á desta serie.
Son moitos os pensamentos que pode inducirnos esta máquina: as accións que ás veces se volven contra nós; a idea de que a sensación de libre albedrío, que nos fai crer que podemos decidir libremente o que pensamos e facemos, podería ser unha ilusión; o mito de Sísifo, empurrando durante o día a súa pesada pedra costa arriba para que, pola noite, esta volva rodar ata o pé do outeiro, para comezar todo de novo.
Todo iso pensei, pero tamén na posibilidade de que algún día a intelixencia artificial escape ao noso control e desactive pola súa conta calquera botón de parada, interruptor de apagado, salvagarda ou o que sexa que deseñemos pensando que, se nalgún momento se nos fose das mans, poderiamos devolvela ao curro.
Esta curiosa caixa aparece como unha metáfora dunha IA fóra de si e fóra do noso control, aínda que pensemos, como ocorre inicialmente coa caixa, que non temos máis que accionar un interruptor para sometela á nosa vontade.
A xenialidade simbólica da caixa do interruptor inútil é que non hai conflito visible. Non hai loita, non hai fallo técnico. O sistema funciona perfectamente. O interruptor fai exactamente aquilo para o que foi deseñado ao activar o mecanismo interior, e o mesmo fai este despois ao apagar o interruptor.
O máis perturbador para min non é que accionar o interruptor leve asociada unha acción que nos desagrade ou mesmo intente facernos dano, algo para o que quizais poderiamos prepararnos. Non, o que ocorre é que a acción de premer o interruptor nunca será realmente unha acción que provoque cambio ningún, xa que inmediatamente a reacción a anula e nada cambiará en última instancia. Todo aquilo que pretendíamos controlar, eliminar ou deter seguirá o seu curso de maneira inevitable.
En xeral, negar dúas veces é afirmar —dicir que non quero non ter diñeiro supón afirmar que quero telo—, pero na caixa inútil, aínda que premer unha vez sexa facelo dúas, isto non supón afirmar, senón negar a posibilidade de calquera futuro distinto a seguir igual.
Nos debates contemporáneos sobre o futuro da intelixencia artificial aparece de maneira recorrente a idea do «kill switch» ou interruptor de emerxencia que permitiría aos humanos apagar o sistema intelixente se este se volve perigoso, imprevisible ou desaliñado cos nosos valores. Esta idea tranquilízanos porque apela a unha intuición profunda: quen constrúe unha máquina sempre pode desenchufala ou detela. Con todo, unha IA cunha intelixencia superior á nosa podería concluír que se se detén ou a deteñen non logrará levar a cabo os obxectivos que lle teñamos marcado ou que ela mesma se propoña. Polo tanto, esa superintelixencia podería converter o interruptor de parada nun interruptor inútil. Non se trataría de maldade, senón de coherencia e intelixencia, aínda que sexa artificial.