Un’auto a guida autonoma provoca un incidente mortale: di chi è la colpa? È la domanda centrale del romanzo Colpevolezza di Bruce Holsinger, da febbraio in libreria. Edita da E/O, la nuova opera dello scrittore americano racconta la vita di una famiglia che viene irrimediabilmente sconvolta. Quella dei Cassidy Shaw, composta da Noah, professione avvocato, da Lorelei, tra le più grandi esperte a livello mondiale di intelligenza artificiale, e dai loro tre figli, Charlie, Alice e Izzy.

L’impatto violento del loro minivan SensTrek, con navigazione “hands free”, contro un’altra provoca la morte di una coppia di anziani. Pur trattandosi di una vettura a guida autonoma, al volante c’era proprio Charlie, diciassette anni, che si è ritrovato a sterzare in seguito al grido della sorella, nel tentativo di riprendere il controllo dell’auto senza riuscire, però, ad evitare lo scontro fatale. Chi si deve assumere la responsabilità dell’incidente? L’intelligenza artificiale? Il ragazzo? O addirittura il padre che era al suo fianco?

Per citare Joël Dicker, “una catastrofe non avviene mai all’improvviso: è il risultato di una serie di piccole scosse che quasi non si notano, ma che, a poco a poco, diventano un terremoto”. Tra tensioni interne alla famiglia e la polizia che cerca di venire a capo della vicenda, tutti sembrano nascondere un segreto inconfessabile che li lega al terribile incidente. Fin quando tutto non sembra prendere una piega più oscura per l’improvvisa comparsa nelle loro vite di Daniel Monet, un magnate della tecnologia, una specie di  Elon Musk, nonché patron di SensTrek, l’azienda fittizia che richiama Tesla, produttrice del van coinvolto nel tragico evento.

Selezionato lo scorso anno dall’Oprah’s Book Club della conduttrice televisiva Oprah Winfrey, tra i book club più influenti al mondo, Colpevolezza è una lettura di poco più di quattrocento pagine, che terrà inchiodati fino alla fine. Senza entrare nei dettagli della trama, quello che interessa del romanzo di Holsinger, specie in questa sede, è il rapporto tra l’uomo e la macchina, filtrato dal tema della colpevolezza.

Al di là delle complesse implicazioni giudiziarie, oggetto in maniera differente anche dell’ultima opera di Michael Connelly, Nessuna via d’uscita, il libro solleva una questione etica, fortemente contemporanea. Può moralmente la tecnologia sollevarci dalle nostre responsabilità?

 È una domanda terribilmente attuale, considerata ormai la presenza sempre più massiccia dell’intelligenza artificiale all’interno delle nostre vite. Lungi dall’assumere i toni apocalittici, ma in una società con cui questa tecnologia sta evolvendosi a una velocità spaventosa, l’invito di questo testo è proprio quello di fermarsi a riflettere su quello che sembra essere arrivato a un punto di non ritorno.

In diverse interviste, Holsinger ha raccontato di essere partito dall’idea di voler raccontare le conseguenze di un’incidente d’auto sulla vita di una famiglia di cinque persone e di come l’intelligenza artificiale sia arrivata successivamente. Proprio rendendo quella vettura a guida autonoma, e con la successiva esplosione di ChatGPT, ha preso forma un romanzo capace di esplorare i cambiamenti dell’IA  nelle relazioni umane, ormai sempre più attraversate da chatbot, social media, assistenti virtuali e persino droni.

C’è anche l’altra faccia della medaglia, quella dei tecnoguru della Silicon Valley, da Mark Zuckerberg a Sam Altman, che oltre a continuare ad arricchirsi a dismisura, sono i veri padroni della rivoluzione in corso. Uomini in grado di scrivere il futuro del progresso tecnologico, su cui non esitano a investire cifre astronomiche proprio per mantenere un potere che sembra non conoscere confini. Proprio gli stessi che si oppongono a una regolamentazione dell’uso, sempre più urgente e necessaria.

Le arti sono un luogo dove la riflessione sul ruolo dell’intelligenza artificiale sta avvenendo in maniera stimolante. Di recente l’attore e produttore Luca Zingaretti ha dichiarato di aver acquistato i diritti di un altro romanzo che parla proprio auto a guida autonoma, Le api non vedono il rosso di Giorgio Scianna, pubblicato cinque anni fa da Einaudi. È la storia di un ingegnere dietro a un software per un’auto a guida autonoma, che incorre in problemi quando la macchina da lui progettata travolge e uccide una bambina. Stessa domanda: di chi è la colpa? È responsabile il conducente o il progettista?

Sono domande che non possono più essere messe da parte. Certo, non si può demonizzare eternamente l’IA, nonostante non sia priva di aspetti pericolosi, dal rischio di una presa di coscienza e di una ribellione che porterà allo sterminio della razza umana, proprio come paventato da film cult come Terminator, all’incremento di consumo di energia elettrica e di acqua per il funzionamento dei data server. Ma ci sono anche i lati positivi confortati da studi scientifici che indicano l’auto a guida autonoma come la soluzione per azzerare gli incidenti stradali causati dall’errore umano.

Ma è proprio il dilemma del carrello a ricordarci che anche un algoritmo deve fare una scelta. Un veicolo deve scegliere tra deviare e colpire una persona per salvarne altre cinque oppure non agire e lasciare che le cinque persone vengano investite? Il punto non è tanto la scelta che farà, ma chi deciderà i criteri morali alla sua base. Quando si parla di auto a guida autonoma, la vera sfida è capire l’etica del domani. Ma soprattutto avere dei solidi strumenti legislativi in materia, che sappiano trovare un colpevole, anche quando non esiste materialmente.