Chiamate Susan Calvin!

Se fossimo in un racconto di Isaac Asimov, questo sarebbe esattamente il momento in cui qualcuno esclamerebbe: “Chiamate Susan Calvin!”.
Per chi non ha mai letto Isaac Asimov, Susan Calvin è la protagonista di diversi racconti della raccolta “Io Robot” ed è una robo-psicologa.
In uno dei primi racconti in cui compare, Liar! – Bugiardo!, si deve occupare di un robot difettoso che, per qualche motivo non meglio precisato, riesce a leggere nella mente delle persone.
[Nota: se non hai mai letto questo racconto, il resto del post è uno spoiler.]

Nel mondo popolato da robot della produzione scritta di Asimov, le macchine rispondono a tre leggi fondamentali ovvero, le tre leggi della robotica:

Prima legge: Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
Seconda legge: Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge.
Terza legge: Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.

HR-34 o Herbie, questo è il nome del robot del nostro racconto, “interpreta” la prima legge della robotica in senso ampio, questo fa si che includa nel concetto di non arrecare danno agli esseri umani anche i danni che derivano dalla delusione e dalla frustrazione dei propri sogni e desideri. Così ogni volta che qualcuno gli rivolge una domanda, la sua risposta è quello che più si avvicina al sentire dell’interlocutore. Inizialmente anche Susan Calvin si lascia ingannare dalle risposte del robot, ma appena si rende conto di come funzionano le sue risposte, usa un trucco semplice quanto efficace per smascherarlo: gli fa delle domande alla presenza di due persone con desideri contrastanti, cosa che gli impedisce di rispondere.

Trovo che chi oggi si spella le mani applaudendo alle meraviglie dell’intelligenza artificiale, così come chi dipinge scenari catastrofici intorno a questa, dovrebbe leggere e prendere parecchi appunti dai racconti e dai romanzi di Asimov.
Prima di essere uno scrittore di fantascienza, Asimov era uno scienziato e un divulgatore scientifico, tra i suoi libri si trovano anche manuali di fisica e di biologia, quindi quando parla di scienza e tecnologia, anche in ambito fantastico, sa di cosa scrive.
Negli ultimi anni nello sviluppare nuove tecnologie ci siamo dimenticati di Asimov e delle sue leggi della robotica, che altro non sono che l’applicazione dell’etica alla scienza.
Così ci ritroviamo sempre più spesso a rincorrere e a rimediare ai danni di una scienza e una tecnologia guidate dal profitto e dallo sviluppo fine a se stesso, basti pensare ai social, giusto per citare il settore dove questo problema è più evidente.

Così quando leggo post che vogliono essere rassicuranti con prompt che chiedono a ChatGPT, o simili, se potrà mai sostituire l’uomo, in cui la macchina nell’output risponde che l’IA non potrà mai sostituire il lavoro di questo o quel creativo perché l’uomo è superiore, non posso fare a meno di ricordare che Herbie dichiara a Bogert (il capo progetto incaricato di trovare il difetto di Herbie) che non riesce a risolvere il problema e che Bogert è sicuramente più in gamba di lui in quel genere di cose. Peccato che Herbie la soluzione al problema l’abbia trovata, eccome, solo che rivelarla ferirebbe l’orgoglio di Bogert, quindi sceglie di dare la risposta che il suo interlocutore è in grado di accettare.

Non so quanta etica sia stata usata nel creare ChatGPT e le altre intelligenze artificiali, ma ho il sospetto che le tre leggi della robotica se le siano proprio dimenticate. Non so nemmeno quanti lavori diventeranno superflui o ridondanti per usare un calco inglese (da redundant = in esubero, ridondante).
Di una cosa sono sicura, in futuro chi riuscirà a distinguere la verità dalle bugie che l’IA può creare, in pratica chi saprà diventare la Susan Calvin di turno, non resterà senza lavoro.

Nota: l’immagine di Susan Calvin di questo post l’ho creata con Gencraft secondo l’idea che mi sono fatta io del personaggio dei racconti di Asimov. In pratica, quella è la mia versione di Susan Calvin generata dall’IA secondo le mie istruzioni. Confesso che in questo caso l’IA è riuscita a leggere abbastanza bene i miei pensieri, oppure ho soltanto scritto un buon prompt, chi può saperlo?

Per leggere Liar! in inglese (qui)
Per leggere Bugiardo! in italiano (qui), nell’edizione Bompiani del 1963, non ho trovato il nome del traduttore o traduttrice.