Videogame e intelligenza artificiale su Mosaico di pace

Uno degli effetti negativi dei miei periodici silenzi qui sul blog è che poi mi dimentico di raccogliere le cose che scrivo su altri mezzi, non digitali. Per esempio, per il dossier di Mosaico di pace di gennaio, che riprendendo il messaggio del Papa per la Giornata della pace 2024 era dedicato al tema dell’intelligenza artificiale, ho scritto un articolo sui Intelligenza artificiale e videogame.

Mosaico ha un interesse di lungo termine per i videogame, della cui nascita in parte sono stato artefice, ma per me questo articolo si è rivelato un po’ difficile perché mi spingeva fuori della mia zona di comfort (detto in altri termini: di intelligenza artificiale non so tanto e trovo tutto il dibattito attuale troppo pericolosamente strumentale per poterlo utilizzare per farsi un’idea) quindi ho scritto sostanzialmente senza paracadute. Alla fine è venuto fuori un articolo credo solido ma potenzialmente del tutto sbagliato, di quelli che dopo qualche anno ti giri e dici: «Vedi come non avevo capito niente?», oppure invece no, e sei stato profetico e risplendi di soddisfazione.

Insomma, alla profezia credo meno, ma in ogni caso per poter valutare in futuro è meglio metterlo a disposizione adesso, e magari può essere anche l’occasione per qualche discussione (per dire, probabilmente anche alcuni dei miei soci e compagni Fabbricastorie hanno idee diverse).

insomma, ecco qui l’articolo. Ho corretto un paio di refusi che erano riusciti a passare il controllo della redazione e ho messo gli stessi grassetti utilizzati sulla rivista.

Giochiamo?

Quale impatto hanno le nuove frontiere delle intelligenze artificiali nel mondo dei videogiochi?

Lo scorso 7 novembre, Microsoft ha annunciato un accordo fra la propria divisione che progetta i videogiochi per la consolle X-Box e Inworld AI, un’importante azienda nel campo dell’intelligenza artificiale. In un settore industriale che ha visto nel 2023 il licenziamento di almeno 80.000 addetti la notizia è stata accolta con un misto di ira e di rassegnazione; la tendenza, tuttavia, sembra inarrestabile, perché l’uso dell’intelligenza artificiale offre, alle grandi aziende, un’occasione troppo ghiotta perché possa essere ignorata; il punto è se l’introduzione dell’IA comporti vantaggi anche per i piccoli studi creativi (gli indie, normalmente più interessati delle grandi case all’uso dei videogame per scopi creativi e culturali) e agli altri soggetti del settore: il pubblico, gli attivisti…

Vantaggi

Il primo vantaggio dell’introduzione dell’IA è, genericamente, di semplificazione produttiva, con conseguenti risparmi. Da tempo ormai nessuno progetta più videogiochi scrivendo materialmente tutto il codice necessario: esiste tutta una serie di tool, di attrezzi informatici standardizzati, che permettono ai game designer, ai responsabili narrativi e agli artisti di assemblare materiali in parte già pronti o facilmente adattabili; chi scrive può testimoniare che è già possibile oggi utilizzare il videogame come mezzo espressivo pur con conoscenze tecniche relativamente limitate.

Rimangono tuttavia barriere d’ingresso non trascurabili: è quindi possibile ipotizzare che, con l’introduzione dell’IA, possano essere creati strumenti di lavoro ancora più accessibili con una conseguente democratizzazione dell’industria e la possibilità di accedere a questo mezzo espressivo per nuove figure di autori.

I costi

Questa, naturalmente, è la teoria; a fronte di questo ideale si pone anzitutto il problema del costo della costruzione di una intelligenza artificiale, che è alla portata di pochi, e la spinosa questione dei diritti intellettuali connessi all’utilizzo di questi sistemi, che sono forze potenti che marciano in senso opposto a quello democratico. Allargando lo sguardo oltre la dimensione puramente produttiva, l’intelligenza artificiale sembra promettere la possibilità di giochi maggiormente adattivi e di conseguenza immersivi, giochi cioè in grado di reagire alle scelte del giocatore e di offrirgli possibilità sempre nuove di interazione.

Oggi i giochi fanno già un buon lavoro in termini di sfida e di costruzione di strategie (per dire, è da molti anni che un software sa giocare bene, anzi benissimo, a scacchi). Possono, con una serie di limitazioni, creare ambienti o esperienze che assemblino elementi precostituiti secondo criteri più o meno predefiniti o casuali (si dice, tecnicamente, generare proceduralmente): per esempio, si può fare un gioco che crei città sempre diverse, o pianeti, o un intero sistema stellare.

Limiti

Quello che oggi i giochi non possono fare è proporre testi coerenti che non siano già stati scritti da un autore, proporre immagini che non siano già state disegnate o musiche i cui elementi base non siano già stati creati da un compositore. Per tornare all’esempio di prima, perché nella città immaginaria i palazzi abbiano un determinato aspetto architettonico, perché si possa conversare con i suoi abitanti e sentire la musica che si ascolta in quella città, è necessaria la mano dell’uomo, e questa da sola può mettere nel gioco una quantità limitata di materiale: prima o poi i palazzi si rassomiglieranno, gli abitanti diranno sempre le stesse cose, la musica apparirà già sentita. L’IA promette agli autori il Sacro Graal di abbattere queste limitazioni, perché in grado di creare il materiale al momento: la stessa differenza fra un libro e uno che ti racconta una storia sempre nuova inventandola sul momento e, per di più, misurandola esattamente sui gusti dell’ascoltatore: un’esperienza, come si diceva, profondamente immersiva perché completamente adattiva.

L’intelligenza artificiale è sicuramente in grado di offrire in dono questo Sacro Graal, se non oggi nel futuro molto prossimo. Il punto è se una volta aperto il dono questo non si riveli, in un modo o nell’altro, una sorta di vaso di Pandora.

Potenzialità

Le grandi case, quelle che producono i cosiddetti giochi “tripla-A”, il top della complessità produttiva e dell’esperienza ludica, hanno certamente i mezzi economici e l’infrastruttura produttiva che gli permetta, potenzialmente, di impiegare autori e artisti di buon livello in grado di imbrigliare e dirigere la potenza dell’IA. Gli indie possono avere la freschezza, la motivazione ideologica, la forza dei contenuti atti a fare altrettanto. Il punto debole sta in tutto il resto, nel ventre molle dell’industria.

La creatività dell’IA poggia sulla capacità di analizzare grandissime quantità di informazioni – badate bene, già esistenti – e di riproporle standardizzate e omogeneizzate; inoltre, la sua inventiva, dal punto di vista dei contenuti, non è tanto comprensibile in termini di creatività, quanto in termini di capacità di proporre infinite variazioni, sempre sullo stesso tema. Non è peregrino ipotizzare, fra i grandi giochi e la dimensione più creativa dell’industria, una enorme quantità di giochini, magari per cellulare, tutti uguali e tutti ipnotici.

Il rischio, in realtà, è più complesso. Uno dei motivi per i quali le grandi case stanno puntando sulla IA è la sua capacità di gestire – fuori del gioco – la grande mole di dati generata dai miliardi di videogiocatori esistenti. Una parte delle informazioni così distillate hanno un valore commerciale anche fuori dell’industria, pongono i già noti problemi di privacy e di sfruttamento economico, ma non sono concettualmente nuovi; la novità, invece, è costituita dalla possibilità di analizzare le preferenze dei giocatori in rapporto ai contenuti proposti e vissuti nel gioco: quei famosi contenuti adattivi, di cui abbiamo parlato prima, a quali bisogni, preferenze, gusti, opinioni corrispondono? E il passaggio successivo, che al momento è pochissimo dichiarato ma è evidente, è che la tentazione fortissima, tanto più se mediata automaticamente dall’IA, sarà quella di predisporsi a fornire esattamente quei contenuti.

Le IA dipendono dall’addestramento ricevuto: se l’input è quello di massimizzare la fidelizzazione del giocatore, l’IA punterà a quel risultato, in ogni modo. Ho in mente l’aneddoto raccontato da poco da un esperto di etica e IA dell’esercito USA: in una simulazione l’intelligenza artificiale deputata a gestire i droni e istruita ad abbattere nemici, di fronte all’ordine di ritirarsi temporaneamente, ha scelto la soluzione, logica ma mostruosa, di bombardare il proprio stesso comando per mettere a tacere l’ordine e poter continuare a “fare punti” con abbattimenti.

I modi con cui l’IA artificiale identifica i propri fini possono essere, oltretutto, sottilmente distorti; di fatto nessuno è ancora riuscito, ed è probabilmente impossibile, a evitare che durante il suo addestramento, cioè durante la sua creazione, una IA non si formi convinzioni errate. Mi permetto di fare un esempio tratto dal mondo della finanza: si è provato a insegnare a una IA a identificare potenziali cattivi pagatori, fornendole le schede di centinaia di migliaia di persone che non avevano restituito i finanziamenti ricevuti. Sappiamo che, se anche solo le prime dieci schede sono di donne, o asiatici, o persone bionde, l’IA deciderà che sono peggiori pagatori degli altri, anche se statisticamente questo non è vero nel complesso del campione.

Il modo con cui questo difetto cognitivo dell’IA può influire sulla sua gestione di contenuti creativi, nel campo dei videogame come in altri settori dell’intrattenimento, deve evidentemente destare preoccupazione; a monte il punto è che, a fronte degli interessi economici in gioco, anche nel settore del videogame, la riflessione etica è ancora molto debole e c’è in questo campo moltissimo da fare.