La rubrica “Un pensiero in libertà del pastore Marco Di Pasquale
Vorrei riprendere la domanda posta nel precedente articolo: se dietro lʼoperare di un’intelligenza artificiale vi sia qualcuno di simile a noi. Rovesciamola: se le macchine diventano sempre più simili a noi, che cosa stiamo facendo di noi stessi? Torna in mente la parola biblica: «a nostra immagine e somiglianza». L’essere umano sembra poter creare qualcosa che riproduce capacità finora ritenute esclusivamente umane. L’intelligenza artificiale va ben oltre il computer tradizionale: interpreta richieste, elabora risposte, sceglie strategie e conduce autonomamente attività. Questa crescente autonomia rende concreto ciò che sembrava appartenere alla fantascienza.
Ma cosa accade quando costruiamo una macchina che riproduce capacità tipicamente umane, affidandole una parte sempre maggiore delle nostre decisioni? La macchina potrebbe realizzare scopi estranei o finanche opposti alle nostre intenzioni. Non è necessario che diventi «cattiva» o che ci odi: può essere sufficiente che persegua con straordinaria efficacia un obiettivo formulato in modo ambiguo o incompleto. Il pericolo insito nella creatura potrebbe consistere non nella ribellione, ma proprio nell’obbedienza. Quanto più aumentano la sua potenza e autonomia nel perseguire i nostri scopi, tanto più diventa difficile trasmetterle ciò che davvero vogliamo.
Desideriamo al tempo stesso molte cose, spesso contraddittorie; possiamo però cambiare idea e riconoscere che un obiettivo era sbagliato. Ma una macchina programmata per raggiungere un fine può riconoscere da sé quando quel fine non merita di essere raggiunto? E secondo quali criteri? Forse ciò che temiamo nelle macchine non è soltanto che diventino troppo intelligenti, ma che lo diventino abbastanza da agire al posto nostro, senza però discernere perché alcune cose non dovrebbero essere fatte; senza cioè riconoscere la differenza fra bene e male. Sistemi simili a noi, capaci di decidere, ci obbligano a interrogarci sulla nostra natura: che cosa rende umanamente accettabile un fine?
Nel racconto della Genesi, l’essere umano è creato a immagine e somiglianza di Dio. Non significa che l’uomo sia Dio, ma che la creatura umana è in una relazione inscindibile con il suo Creatore. Proprio questo dovrebbe ricordarci che creare qualcosa a nostra immagine è ben diverso dal creare un semplice strumento. Stiamo cercando di produrre uno strumento senza corpo, senza bisogni propri, instancabile, sempre disponibile, capace di realizzare autonomamente i fini che le affidiamo. Più esso diventa potente, più emergono questioni che nessuna tecnologia può risolvere. Per cosa vogliamo usare questa potenza?
Il problema è particolarmente grave nell’impiego bellico: affidando alle macchine la valutazione delle situazioni e l’esecuzione delle decisioni, finiamo per perdere di vista la distinzione tra ciò che è tecnicamente possibile e ciò che è umanamente accettabile. Ma questa distinzione non può essere delegata a una macchina. Quando affidiamo a una creatura costruita a nostra immagine una parte sempre maggiore della nostra capacità di conoscere, ma soprattutto di giudicare e decidere, quale nozione di “umanità” le consegniamo? Quella sola di un essere efficace nell’attuare scopi? Il problema non è soltanto se riusciremo a creare qualcosa a nostra immagine e somiglianza, ma quale immagine di noi stiamo imprimendo in ciò che creiamo, e se in quella immagine, che rischia di definire anche noi, riusciamo ancora a riconoscerci come esseri umani.
