La pulizia etnica è un’ombra maligna che corre accanto alla storia dell’umanità divisa in culture diverse, intimorite dall’estraneo. L’espressione però è recente: nella guerra civile dell’ex Jugoslavia serpeggia il termine serbo-croato, čiščenje. Viene da čist che indica tutto ciò che è pulito, puro, netto, limpido, privo di contaminazioni.
Si capisce che si tratta di un delirio. E che sotto c’è il bisogno profondo di sfuggire alla propria sporcizia interiore e agli sporchi inganni della vita.
Tremendi sono gli uomini ossessionati dalla purezza. Dice il capo dei congiurati, Cherea, nel Caligola di Camus: «Ho paura di quel lirismo disumano al cui confronto la mia vita non è niente. È questo il mostro che ci divora. Se c’è un solo individuo puro, nel male o nel bene, il nostro mondo è in pericolo».
Heydrich, capo delle SS, spara alla propria immagine nello specchio per il sospetto di avere atomi ebrei dentro di sé. L’hutu ruandese proclama la sua “purezza bantu” col machete in mano.
L’iper-identità etnica è la sua forma più devastante. Ma l’ideale della purezza, sorella della perfezione, ne assume tante. Lo ritroviamo in due fenomeni attuali: la cancel culture e lo sforzo per mondare social network e IA parlanti da ogni traccia d’odio.
Entrambi i fenomeni concentrano il detergente sulla lingua. Come altri in passato vogliono rettificarla, interdire le parole scorrette e imporre quelle corrette. Fare pulizia a fondo, in modo assoluto, totale, oltre ogni dubbio e caso particolare.
Le loro ragioni sono buone, ma l’ambizione sovrumana dei loro promotori li rende mostruosi. I conflitti che vorrebbero spianare sono il cuore vivo di ogni organismo sociale, non si possono eliminare senza uccidere il paziente.
La cancel culture nasce come revisione storica della presunta superiorità dell’uomo bianco, patriarcato compreso, usata per auto-giustificarsi infiniti soprusi e delitti. Molto apprezzabile finché non è diventata quel regime di terrore morale che dilaga dalle università statunitensi. Dopo marxismo, post-strutturalismo, ecc., l’ennesimo sistema di «enforced definitions», “definizioni obbligate”, come le chiama Michael Ignatieff. «Queste mode intellettuali iniziano promettendo la liberazione, e poi diventano nemiche della libertà».
Si può perfino perdere il lavoro se si usano pubblicamente le parole all’indice. Tutte le testimonianze scritte che le contengono devono sparire, anche i classici. Così una minoranza influente di sacerdoti laici pretende di porsi al di sopra degli altri, su un livello trascendente, ignorando chi sono e cosa pensano gli individui che pronunciano quelle parole. Così credono di fare giustizia.
Analogo è l’impegno a depurare social network e IA dai discorsi “tossici” e “di odio” (toxic o hate speech). Àmbiti in parte sovrapposti, perché i dati con cui si addestrano le IA parlanti includono i testi delle conversazioni online. Qui i ministri della fede sono i tecnocrati.
L’aspetto cruciale è l’automatismo: si vuole un software auto-pulente. La ragione pratica è che social e IA sono reti artificiali scalate a dimensioni smisurate rispetto al controllo manuale, quindi cos’altro fare? E poi c’è la solita ragione ideologica: le macchine sono pure, gli umani sono un macello.
Il sogno è candidamente riassunto dal prof. Gary Marcus in un’intervista: «Mi piacerebbe poter dire al sistema: non dire nulla che possa fare male… ma ancora non sappiamo come programmarlo». In effetti ci sono due impedimenti basilari.
Primo, l’abbiamo visto: spiegare a una macchina cosa significa “far male” è un vero hard problem, di ordine generale.
Secondo: come ammesso in tanti studi sul tema (per es. qui), «le limitazioni dell’approccio automatico basato sul testo per un rilevamento efficiente sono ampiamente riconosciute». E il motivo l’ha mostrato meglio di tutti Victor Klemperer, il filologo ebreo-tedesco che scrisse in presa diretta LTI. La lingua del Terzo Reich: l’odio è un veleno inoculato nella lingua, che dal profondo cambia significati e usi di termini innocui.
«I discorsi tossici sono una categoria molto più ampia degli insulti e dei dispregiativi», commenta la filosofa Lynne Tirrell «Includono l’amichevole collega, ostile ai nazisti, che tuttavia chiese a Klemperer: “È davvero tedesca?”. Comprende l’hutu sull’autobus di Kigali nel 1998, che dice al giovane alto e snello: “Hai le gambe lunghe”, invocando divisioni genocide e lanciando una minaccia implicita.»
Invece si filtrano i dataset come nella censura classica, con liste di “parolacce” (comica quella italiana), per non farle riaffiorare a valle. Si tentano pazienti cicli di feedback umano per beneducare le IA (ne riparleremo). Ma resta il saggio monito dei ricercatori Abeba Birhane e Vinay Prabhu: «dare in pasto ai sistemi IA la bellezza, la bruttezza e la crudeltà del mondo, ma pretendere che riflettano solo la bellezza, è una fantasia».
Intanto il lavoro sull’hate speech mette a punto tecniche di pulizia su larga scala buone per le cancel cultures del futuro.
Segui i temi
Commenta con i lettori I commenti dei lettori
Suggerisci una correzione La pulizia etnica è un’ombra maligna che corre accanto alla storia dell’umanità divisa in culture diverse, intimorite dall’estraneo. L’espressione però è recente: nella guerra civile dell’ex Jugoslavia serpeggia il termine serbo-croato, čiščenje. Viene da čist che indica tutto ciò che è pulito, puro, netto, limpido, privo di contaminazioni.
Si capisce che si tratta di un delirio. E che sotto c’è il bisogno profondo di sfuggire alla propria sporcizia interiore e agli sporchi inganni della vita.
Tremendi sono gli uomini ossessionati dalla purezza. Dice il capo dei congiurati, Cherea, nel Caligola di Camus: «Ho paura di quel lirismo disumano al cui confronto la mia vita non è niente. È questo il mostro che ci divora. Se c’è un solo individuo puro, nel male o nel bene, il nostro mondo è in pericolo».
Heydrich, capo delle SS, spara alla propria immagine nello specchio per il sospetto di avere atomi ebrei dentro di sé. L’hutu ruandese proclama la sua “purezza bantu” col machete in mano.
L’iper-identità etnica è la sua forma più devastante. Ma l’ideale della purezza, sorella della perfezione, ne assume tante. Lo ritroviamo in due fenomeni attuali: la cancel culture e lo sforzo per mondare social network e IA parlanti da ogni traccia d’odio.
Entrambi i fenomeni concentrano il detergente sulla lingua. Come altri in passato vogliono rettificarla, interdire le parole scorrette e imporre quelle corrette. Fare pulizia a fondo, in modo assoluto, totale, oltre ogni dubbio e caso particolare.
Le loro ragioni sono buone, ma l’ambizione sovrumana dei loro promotori li rende mostruosi. I conflitti che vorrebbero spianare sono il cuore vivo di ogni organismo sociale, non si possono eliminare senza uccidere il paziente.
La cancel culture nasce come revisione storica della presunta superiorità dell’uomo bianco, patriarcato compreso, usata per auto-giustificarsi infiniti soprusi e delitti. Molto apprezzabile finché non è diventata quel regime di terrore morale che dilaga dalle università statunitensi. Dopo marxismo, post-strutturalismo, ecc., l’ennesimo sistema di «enforced definitions», “definizioni obbligate”, come le chiama Michael Ignatieff. «Queste mode intellettuali iniziano promettendo la liberazione, e poi diventano nemiche della libertà».
Si può perfino perdere il lavoro se si usano pubblicamente le parole all’indice. Tutte le testimonianze scritte che le contengono devono sparire, anche i classici. Così una minoranza influente di sacerdoti laici pretende di porsi al di sopra degli altri, su un livello trascendente, ignorando chi sono e cosa pensano gli individui che pronunciano quelle parole. Così credono di fare giustizia.
Analogo è l’impegno a depurare social network e IA dai discorsi “tossici” e “di odio” (toxic o hate speech). Àmbiti in parte sovrapposti, perché i dati con cui si addestrano le IA parlanti includono i testi delle conversazioni online. Qui i ministri della fede sono i tecnocrati.
L’aspetto cruciale è l’automatismo: si vuole un software auto-pulente. La ragione pratica è che social e IA sono reti artificiali scalate a dimensioni smisurate rispetto al controllo manuale, quindi cos’altro fare? E poi c’è la solita ragione ideologica: le macchine sono pure, gli umani sono un macello.
Il sogno è candidamente riassunto dal prof. Gary Marcus in un’intervista: «Mi piacerebbe poter dire al sistema: non dire nulla che possa fare male… ma ancora non sappiamo come programmarlo». In effetti ci sono due impedimenti basilari.
Primo, l’abbiamo visto: spiegare a una macchina cosa significa “far male” è un vero hard problem, di ordine generale.
Secondo: come ammesso in tanti studi sul tema (per es. qui), «le limitazioni dell’approccio automatico basato sul testo per un rilevamento efficiente sono ampiamente riconosciute». E il motivo l’ha mostrato meglio di tutti Victor Klemperer, il filologo ebreo-tedesco che scrisse in presa diretta LTI. La lingua del Terzo Reich: l’odio è un veleno inoculato nella lingua, che dal profondo cambia significati e usi di termini innocui.
«I discorsi tossici sono una categoria molto più ampia degli insulti e dei dispregiativi», commenta la filosofa Lynne Tirrell «Includono l’amichevole collega, ostile ai nazisti, che tuttavia chiese a Klemperer: “È davvero tedesca?”. Comprende l’hutu sull’autobus di Kigali nel 1998, che dice al giovane alto e snello: “Hai le gambe lunghe”, invocando divisioni genocide e lanciando una minaccia implicita.»
Invece si filtrano i dataset come nella censura classica, con liste di “parolacce” (comica quella italiana), per non farle riaffiorare a valle. Si tentano pazienti cicli di feedback umano per beneducare le IA (ne riparleremo). Ma resta il saggio monito dei ricercatori Abeba Birhane e Vinay Prabhu: «dare in pasto ai sistemi IA la bellezza, la bruttezza e la crudeltà del mondo, ma pretendere che riflettano solo la bellezza, è una fantasia».
Intanto il lavoro sull’hate speech mette a punto tecniche di pulizia su larga scala buone per le cancel cultures del futuro.
login
who are we?
contact us
qosheapp
Toi Staff
Gideon Levy
Belen Fernandez
Mort Laitner
Rami G Khouri
Ali Fathollah-Nejad
Nikkei Editorial
visit website
