Ci mancava solo la cyber-Mary Poppins. Se pensavate che il capolinea della distopia tech fosse il metaverso deserto di Mark Zuckerberg, vi sbagliavate di grosso. Il vero Grande Fratello ha la forma di un avatar a cubetti, viaggia sui server di Roblox e ha deciso di insegnarci l’educazione. La notizia è di quelle che ti fanno quasi rimpiangere i bei vecchi tempi in cui, se un dodicenne ti insultava la madre in chat su Call of Duty, almeno potevi ammirarne la barbara e genuina creatività sintattica.
Oggi no. Oggi l’Intelligenza Artificiale è scesa in campo per fare l’educanda. Come ci racconta candidamente CNET in un suo recente reportage, Roblox ha deciso di implementare un nuovo sistema di intelligenza artificiale per “riformulare” in tempo reale le parole vietate e le imprecazioni nelle chat dei giocatori. Avete capito bene: non si limitano più a censurare le parolacce con la classica e gloriosa sfilza di cancelletti “####” (che, diciamocelo, aveva il suo fascino brutalista e lasciava intatta la foga del momento). Ora l’algoritmo ti prende la frase, te la lava col sapone digitale e la riscrive al posto tuo, mantenendo – dicono loro – “l’intento originale”.
L’esempio fornito dall’azienda, rimbalzato su testate come Tech in Asia, è da brividi nella sua asettica perfezione aziendale: se un giocatore in preda all’adrenalina agonistica digita un colorito “Hurry TF up!” (dove “TF” non sta certo per “Troppo Felice”), l’IA interviene come un prete censore degli anni ’50 e lo trasforma in un pacatissimo “Hurry up!”. Oppure, se vi scappa un “Oh shit, are you OK?”, il sistema vi pialla via il dramma e consegna agli altri utenti un gelido “Are you OK?”. Miracolo! La rabbia tossica è evaporata nel cloud, sostituita da un’educata esortazione che non sfigurerebbe in un circolo del golf. Tutti i partecipanti alla chat vedranno il messaggio purificato, con tanto di notifica che avvisa dell’avvenuto “intervento divino” dell’algoritmo.
Rajiv Bhatia, vicepresidente del prodotto di Roblox, ha dichiarato che usare i filtri IA per bloccare i testi problematici è sempre stato centrale per il loro approccio alla “sicurezza e all’aumento della civiltà”. Certo, Rajiv. Chiamiamola civiltà. In realtà, è il sogno bagnato di ogni PR corporate: una piattaforma dove miliardi di messaggi al giorno vengono omogeneizzati per non spaventare gli inserzionisti.
Ma grattando la patina dorata del “volemose bene”, emerge il solito, vecchio vizietto del capitalismo della Silicon Valley. Roblox non sta facendo il restyling della chat perché ha improvvisamente letto il Galateo di Monsignor Della Casa. Lo sta facendo perché, come ricorda ancora CNET, l’azienda è letteralmente sommersa da cause legali. Stati come Texas, Florida, Louisiana, Kentucky e, freschissimo di mercoledì scorso, il Nebraska, l’hanno trascinata in tribunale con l’accusa di non fare abbastanza per proteggere i minori.
E qual è la soluzione della Big Tech quando la giustizia bussa alla porta e i legislatori minacciano di chiudere i rubinetti? Assumere centinaia di migliaia di moderatori umani pagandoli uno stipendio dignitoso per controllare i sei miliardi di messaggi giornalieri? Ma siete pazzi?! Meglio addestrare un’IA a fare il lavaggio del cervello testuale a costo zero. Dopotutto l’azienda deve badare ai margini, e la “civiltà automatizzata” non si iscrive al sindacato. Prima hanno introdotto il riconoscimento facciale per dividere gli utenti per fasce d’età (roba che in confronto Minority Report è un film della Disney), e ora ci regalano il correttore automatico del pensiero.
Siamo di fronte alla lobotomia del linguaggio videoludico. Il problema non è la parolaccia in sé – i ragazzini hanno sempre imprecato e sempre lo faranno, è un rito di passaggio biologico. Il problema è l’illusione di controllo, la falsificazione della realtà. Roblox ci sta dicendo che è preferibile una bugia educata a una verità sgradevole. L’IA non si limita a zittirti: ti mette in bocca parole che non hai mai detto, trasformandoti nel burattino sorridente di un ecosistema a misura di azionista.
Oggi l’algoritmo ti corregge un “vaffanculo” in un “perbacco, dissento”. Domani, chissà. Forse se scriverai “questo gioco è una noia mortale e voglio un rimborso”, l’IA lo tradurrà in “amo questo brand e desidero comprare altri Robux”. La dittatura del buongusto artificiale è servita, e non ha nemmeno bisogno di manganelli: le basta un server e la promessa di un mondo dove tutti sono finti, ma incredibilmente educati.
