Paracaduti tecnologici e perdite dell’errore
9 giugno 2021
Su ilsole24ore di qualche giorno fa, si sostiene che le nuove tecnologie, soprattutto big data e intelligenza artificiale, sono supporti per evitare “errori”; una sorta di paracadute tecnologico che ci dovrebbe salvare dalle nostre inefficienze e disattenzioni. Successivamente l’autore espone un condivisibile elogio all’errore che viene considerato l’unica modalità per consentirci di imparare, maturare, stimolarci a migliorare e a risolvere i problemi. Propongo però una prospettiva diversa dalla quale risolvere tale dilemma e guardare alla tecnologia in modo meno problematico e apprensivo; soprattutto per le sue presunte ambizioni di sostituirci in molte attività ritenute intellettuali.
Nell’articolo si dice che “se sei un chirurgo o un pilota il presidio tecnologico dei tuoi errori è una benedizione” e che “crescono i ruoli e i mestieri in cui lo spazio per l’errore umano diventa sempre più piccolo”. Ma è davvero così?
Partiamo dalla radice del tema: cosa è di fatto un “errore”?
Potremmo definirlo come una difformità da una pratica consolidata e condivisa ispirata da una teoria o da principi.
Questo è vero per qualsiasi attività, sia manuale che intellettuale, anche la più banale. Detto in altri termini, possiamo considerare errore qualcosa che contraddice una memoria di esperienze accumulatasi con la loro ripetizione e per le quali si è accertata l’efficacia di uno specifico comportamento. Dunque si tratta di “memoria”, ciò che è accaduto ripetutamente in passato e per questo viene codificato e conservato, sia nella mente di un singolo che nelle pratiche di un gruppo sociale. Ma la realtà, di qualsiasi tipo, è solo una sequenza di eventi più o meno tutti uguali e per questo prevedibili? Chiunque affermerebbe di no, anche se ve ne è una grande maggioranza. Allora il presunto paracadute servirebbe esclusivamente a dar seguito a ciò che è in memoria, ovvero a realizzare un presente e un futuro che è già stato previsto. Cosa succede invece se ci troviamo davanti a qualcosa che non è mai accaduto prima e, di conseguenza, non è in “memoria”?
Vediamo proprio il caso di un pilota: il comandante Chesley Burnett Sullenberger, meglio noto come Sully Sullenberger. Il 15 gennaio 2009 si trovava alla guida del volo US Airways 1549 con 155 persone a bordo, compresi i membri dell’equipaggio. Subito dopo il decollo dall’aeroporto LaGuardia di New York, l’aeromobile viene investito da uno stormo di uccelli che rendono inutilizzabili entrambi i motori, un caso mai avvenuto prima nella storia dell’intera aereonautica civile mondiale. Il comandante si rende conto che l’unico modo per cercare di salvare le persone a bordo è tentare un ammaraggio nel fiume Hudson, manovra vietata dai manuali di volo perché l’impatto con l’acqua rischia di mandare a pezzi l’aereo. Riesce invece nell’impresa senza provocare vittime: un “errore”, secondo le pratiche standard memorizzate nei manuali di volo, che ha salvato vite umane. Viene acclamato e considerato un eroe dall’opinione pubblica; tuttavia viene anche posto sotto inchiesta dall’ente aeronautico per non aver seguito il protocollo di volo ed aver messo in grave pericolo l’equipaggio e i passeggeri. Sully deve affrontare la commissione d’inchiesta che cerca di dimostrare che il pilota avrebbe avuto la possibilità di atterrare in aeroporti vicini all’area del guasto. In particolare l’accusa si avvale sia di simulazioni di volo al computer che di sessioni al simulatore di volo che confutano la tesi che il pilota non avrebbe avuto altra scelta che l’ammaraggio sull’Hudson.
Sully dimostra invece che le condizioni su cui si basavano le simulazioni (ancora la memoria) erano imprecise ed errate, oltre che studiate ed elaborate per lungo tempo (quando nella realtà un pilota che sta per rischiare un incidente non ha molto tempo per prendere le sue decisioni), e che solo la sua rischiosa, ed “errata”, scelta avrebbe potuto salvare i passeggeri. Cosa sarebbe successo se al posto di Sully ci fosse stata la “tecnologia paracadute” basata sulla memoria delle pratiche standard? La risposta è evidente, ma con questo non si deve nemmeno demonizzare l’uso della tecnologia per pratiche operative standard e consolidate. Il punto è che il dibattito odierno è appiattito sullo sguardo all’indietro, cioè cosa la tecnologia toglie a quanto gli umani già fanno, e non su uno sguardo in avanti, cosa la tecnologia ci consentirebbe di fare in termini di novità sollevandoci dalle incombenze noiose e ripetitive.
Inoltre vi è una ingiustificata antropomorfizzazione della tecnologia ergendola a soggetto terzo, cosciente e responsabile laddove non lo è. Affidarsi alla tecnologia significa affidarsi in ogni caso ad esseri umani: coloro che quella tecnologia l’hanno progettata e realizzata facendogli fare ciò che al momento della sua costruzione era noto.
La tecnologia attuale di big data e intelligenza artificiale, basata sui computer concepiti secondo i principi degli anni 30 del secolo scorso (da quell’epoca ad oggi sono semplicemente diventati più veloci e piccoli), hanno necessità di avere un futuro predefinito e sempre uguale, altrimenti non funzionano. Anche quando si voglia dare loro “autonomia”, questa deve essere sempre predefinita e, conseguentemente, non è mai davvero tale; certamente non in grado di reagire ad una reale “novità” che non sia stata precedentemente prevista. Il passato del software, inteso come tempo della sua progettazione e costituzione, è sempre un presente uguale in qualsiasi futuro possibile: quello della esecuzione all’infinito del “programma”.
Allora invece di parlare di paracaduti tecnologi e infondati timori su presunti furti di errore, sarebbe il caso di chiedere, e avere competenze per farlo, di conoscere meglio queste tecnologie e chiamare costantemente coloro che le progettano a rendere conto di come le hanno disegnate, per fare cosa, quali conoscenze incorporano, cosa hanno in memoria che gli consentiranno di fare più o meno le stesse cose in futuro.
Dall’altro lato è auspicabile lanciarsi a immaginare non solo nuove soluzioni ai problemi esistenti ma, soprattutto, nuove prospettive che possano rendere superati tali problemi e concentrarci sui nuovi. Immaginare nuovi modi di lavorare, di concepire la società intera proprio grazie alla tecnologia che ci solleva dall’ovvio. Insomma finalmente girare la testa e guardare avanti. Per fare questo è indispensabile uno sforzo intellettuale dove l’errore è perfino necessario: il compianto professor Emilio Del Giudice, fisico teorico, sosteneva addirittura che “una teoria senza errori è certamente sbagliata”. Questo comporta un coraggio e un impegno che è ben lontano dagli infondati timori di perdite di chissà cosa per colpa di stupide macchine che, proprio perchè stupide, non fanno errori.
Luciano Martinoli