In Cina l’intelligenza artificiale viene usata in modo sempre più pervasivo per esercitare un sofisticato controllo sociale. E trova ora un’applicazione cruciale (e inquietante) in una scuola di Hangzhou, che sperimenterà un nuovo sistema di gestione dei comportamenti degli studenti.
La Cina lanciata a bomba verso il 2030, anno nel quale vuole raggiungere il primo posto per quanto riguarda la ricerca e lo sviluppo dell’intelligenza artificiale, vede nella scuola un momento fondamentale nella costruzione della società futura. Alunni e alunne cinesi sono da tempo nel mirino di diverse riforme che riguardano proprio lo studio e l’approccio all’intelligenza artificiale (Ai). Secondo alcuni osservatori, inoltre, il segreto del futuro cinese nell’AI sarebbe proprio da cercare in alcuni metodi sperimentali applicati nel campo dell’educazione.
Ma nella scuola numero 11 di Hangzhou si è andati oltre, perché l’Ai non è solo un insegnamento ma è diventato anche lo strumento con il quale i comportamenti di alunni e alunne saranno analizzati. La notizia è la seguente, riportata dai media statali cinesi e da diverse agenzie internazionali: nella scuola di Hangzhou sarà introdotto il “sistema intelligente per la gestione dei comportamenti della classe”. Il sistema — si legge nei diversi articoli — è progettato per registrare sei tipi di azioni: «leggere, scrivere, alzare la mano, alzarsi in piedi, ascoltare l’insegnante, appoggiarsi sulla scrivania». Registra anche le espressioni facciali e coglie segnali che indicano felicità, rabbia, agitazione, paura o disgusto.
Tutte le informazioni che sono raccolte, vengono naturalmente analizzate e inviate poi agli insegnanti, che in questo modo “dovrebbero sorvegliare meglio comportamenti e rendimento degli studenti. Con tanto di dati e faccine che, su un display, indicano quali sono le emozioni prevalenti in classe”.
Si tratta di una notizia che potrebbe essere l’inizio di un romanzo o di una puntata di una serie distopica — chissà che non la ritroveremo, ancora una volta, in Black Mirror. Non siamo nel caso di realtà aumentata, bensì in una stramba normalità che comincia a essere la cifra della Cina contemporanea. Pensiamo alla marea di what if nascosti intorno a questo esperimento: come sono utilizzate poi le immagini? Solo per analisi comportamentali degli studenti — per capire dunque come farli stare più attenti — o per comprendere dall’attenzione e i movimenti qualche predisposizione, nel bene o nel male, verso altre materie o un certo tipo di comportamenti? E se le camere fossero a un certo punto girate per sorvegliare gli insegnanti? Chi giudicherebbe gli insegnanti in quel caso? E se venissero utilizzate per cominciare a rilasciare agli alunni mini social credit fin dall’età scolastica? Siamo di nuovo al “colpirne uno per educarne cento”?
Non abbiamo tutte le risposte. Quanto sappiamo, ad ora, è che quanto accadrà nella scuola di Hangzhou esemplifica al meglio alcuni aspetti dell’attuale corsa cinese all’Intelligenza artificiale: telecamere di sorveglianza ultrasofisticate — della stessa azienda che provocò discussioni tanto negli Stati Uniti quanto in Italia e di cui scrivemmo su eastwest.eu -, riconoscimento facciale e analisi dei dati. Scopo: tenere tutto sotto controllo, educare fin da subito al weiwen, al mantenimento della stabilità.
E soprattutto emerge l’utilizzo che Pechino sembra voler fare di queste nuove tecnologie, nelle quali eccelle sempre di più: se la Cina è uno Stato dove la governance è sempre più associata al controllo sociale, a Pechino sembrano pensare che al controllo sociale si possa venire “educati”. Pechino racconterà al mondo che l’obiettivo è il miglioramento delle condizioni di vita, la verità è che questi strumenti — sia a lì sia in Occidente — sono ambiti proprio perché consentono un controllo sempre più sofisticato che va in direzione di forme sempre più predittive di analisi dei comportamenti: avere una camera puntata per tutto il tempo passato a scuola — non poco — abituerà i cinesi a vivere fin da piccoli sottoposti a un controllo e a un monitoraggio costante dei propri comportamenti.
Come al solito non sembra essere un problema la privacy: il vicepreside Zhang Guanchao ha raccontato ai media — i produttori delle videocamere invece hanno preferito non commentare — che “il sistema raccoglie e analizza solo i dati, senza salvare le immagini. Le informazioni vengono poi custodite in un server locale e non in cloud, per limitare il rischio di compromissioni esterne”. Zhang Guanchao ha poi aggiunto che il sistema non ambisce a sorvegliare il singolo studente ma punta a gestire il comportamento dell’intera classe. Anzi, secondo il preside tutto sarà a vantaggio degli studenti.
Ed eccoci alla scuola: il sistema cinese — basato sull’esame di ammissione all’università, il gaokao, come momento più importante nella vita di una persona perché da quell’esame dipenderà il suo futuro — è da tempo oggetto di studi per una sua riforma capace di mettere la Cina al pari con altri Paesi stranieri per quanto riguarda metodi di insegnamento di avanguardia. Il metodo per lo più mnemonico usato in Cina ha molti detrattori.
La verità è che in Cina ci sono parecchie sperimentazioni, tanto da far scrivere su Wired a Alex Beard — autore di Natural Born Learners — che il segreto del successo tecnologico cinese sarebbe proprio da trovare negli studenti cinesi. Beard racconta alcune sue esperienze cinesi a conferma di una società ormai concentrata verso l’obiettivo del 2030. Alla Peking University, ad esempio, incontra un insegnante “a capo di un esperimento per immaginare la scuola del futuro. Aveva creato un’istituzione organizzata in stile di Harry Potter con leoni, draghi, colibrì, lupi, ma radicata nel domani. I bambini imparavano le arti e le scienze ma sviluppavano anche la loro immaginazione, la creatività e il lavoro di squadra. I bambini usavano i monitor touch screen per montare il film, mentre altri scrivevano con attenzione i caratteri cinesi nei loro quaderni».
di Simone Piranni
[Pubblicato su Eastwest]