Il peccato originale dell'Information Technology (e dell'IA)
30 agosto 2024
L’industria del Information Technology, che nel 2024 si stima muova in tutto il mondo poco più di 5.000 miliardi di dollari (in Italia dovrebbe superare gli 80 miliardi di euro), ha oltre 70 anni. È negli inizi degli anni 50 del secolo scorso, infatti, che può essere datata la sua nascita con l’avvento dei primi computer per applicazioni prima scientifiche, e poi commerciali, e la disponibilità dei primi linguaggi di programmazione (Fortran, Cobol e altri). Questi ne consentivano l’utilizzo in maniera più facile e veloce rispetto al linguaggio macchina (o il suo diretto corrispondente l’Assembler) usato in precedenza. A partire da quegli anni l’Industria dell’IT, con la sua offerta di hardware, software e servizi, iniziava a fare i sui primi passi.
Durante tutto questo periodo le innovazioni portate sul mercato e nella società sono state impressionanti. Hanno trasformato il lavoro di miliardi di persone, abbattuto interi settori merceologici creandone di nuovi, consentito nuovi modi di comunicare e, addirittura, nuovi modi di costruire identità (di singoli e aziende). Nonostante tutto questo, però, alcuni aspetti della mentalità sviluppata dall’intera industria e dai suoi operatori, che comportano errori ed enormi sprechi di denaro e tempo, persistono ancora.
A dimostrazione di questa incapacità permanente, stiamo assistendo alla sua ennesima riproposizione nel caso della cosiddetta Intelligenza (meglio sarebbe chiamarla Comunicazione) Artificiale. Come spesso accade, difetti e mancanze di un sistema vengono colti con maggior chiarezza dagli osservatori esterni, in questo caso gli utenti, come dimostra una recente intervista apparsa sul Wall Street Journal.
Gli sviluppatori mettono le mani su un insieme di dati e si chiedono quale strumento possono sviluppare, invece di iniziare con il problema e poi trovare i dati e sviluppare lo strumento.
L’intervistato è il dottor Daniel Yang, medico e top executive di Kaiser Permanente, un gruppo che possiede ospedali e centri medici in tutti gli Stati Uniti (simile ai nostri San Raffaele o Humanitas). Il manager è responsabile della supervisione sui progetti di uso dell’IA nell’ambito sanitario.
Fin dalla prima domanda Yang chiarisce l’ambito di interesse delle applicazioni IA
“Una delle aree più interessanti per l’IA è il supporto ai nostri medici per gestire alcuni degli oneri amministrativi che devono affrontare quotidianamente. Lo scopo è generare una prima bozza di nota clinica a partire dalla registrazione dell’incontro con il paziente.”
Dunque, come affermato sopra, salta fuori l’interesse per le capacità comunicative, non intelligenti, della tecnologia.
Alla domanda su cosa l’IA non potrà mai fare, Yang risponde:
“La consideriamo un’aggiunta, un potenziamento, quindi non mi sentirei a mio agio nel pensare che l’intelligenza artificiale possa aiutare a prendere decisioni cliniche, nella diagnosi o nel trattamento.”
Ancora una volta l’utente, esterno all’IT, è molto più pragmatico rispetto al fornitore o all’analista del settore.
Ma il dito sulla piaga, l’evidenza del peccato originale ancora irrisolto dell’IT, viene fuori quando gli si domanda quale è, secondo lui, il più grande fallimento dell’IA.
“Tutti questi sviluppatori di intelligenza artificiale mettono le mani su un insieme di dati e si chiedono quale strumento di intelligenza artificiale possono sviluppare a partire da questo insieme di dati, invece di iniziare con il problema e poi trovare i dati e sviluppare lo strumento. Questo è un grosso problema che stiamo riscontrando.
Inoltre credo che non si rendano conto che lo sviluppo dell’algoritmo è in realtà la parte più facile. La parte che richiede davvero lavoro, e che aggiunge valore, è la riprogettazione del flusso di lavoro per adattarlo allo strumento di intelligenza artificiale. Ci sono molte ottime soluzioni sulla carta, ma i sistemi sanitari potrebbero non avere le competenze o l’interesse per riprogettare realmente il flusso di lavoro per massimizzare i benefici di quello strumento di IA.”
Chi ha esperienza nel settore dell’IT (io iniziai nel 1983!) sa che questo è sempre accaduto ogni volta che all’orizzonte si presentava una nuova tecnologia. Il suo successo veniva decretato solo quando qualche operatore, se veniva fuori, era in grado di affrontare un problema reale e risolverlo. Oppure proporre un paradigma totalmente nuovo (si pensi al word processor rispetto alla macchina da scrivere). Nel caso non ci fosse stato, quella tecnologia cadeva nel dimenticatoio, dopo un primo interesse mediatico e di pubblico.
Già nel 1998 Geoffrey Moore, teorico e consulente di strategia aziendale, illustrava brillantemente il meccanismo di adozione nel mercato e nella società delle nuove tecnologie nel suo libro Inside di Tornado, ripubblicato ancora recentemente. Moore affermava, a partire dall’analisi di casi di successo e fallimento delle aziende dell’epoca, che l’unica strategia per evitare di cadere nell’Abisso del fallimento e afferrare il Tornado che avrebbe portato l’azienda promotrice della nuova tecnologia in una terra di grandi guadagni, era ritenersi inizialmente “accessori di un settore merceologico”. Dunque non fornitori di tecnologia IT omnirisolutiva, ma risolutori di specifiche soluzioni di nicchia. Solo dopo, a conclamata conquista della leadership di quella nicchia, ci si sarebbe potuti avventurare in un altro settore e generalizzare l’offerta.
Quanto questo non stia accadendo per l’IA, è dimostrato da un’altra risposta del dottor Yang:
“Non credo che l’entusiasmo per lo sviluppo di strumenti sia stato accompagnato dallo stesso livello di entusiasmo per la verifica, la validazione e la dimostrazione della sicurezza e dell’efficacia di questi strumenti. C’è un’enorme quantità di lavoro da fare in questo spazio e ritengo che l’infrastruttura a supporto di un’IA responsabile non sia ancora riuscita a mettersi al passo.”
Dunque stiamo assistendo, nel caso dell’IA, all’ennesimo problema dell’IT: fornire risposte a domande non ancora formulate, se mai ce ne saranno. Le domande però dovranno essere poste a partire da una profonda conoscenza della realtà e immaginando come la si vorrebbe far evolvere. La tecnologia è solo di supporto ad immaginare questa evoluzione. Prima dei dibattiti apocalittici, o acriticamente entusiastici, sull’IA dovremmo chiedere ai fornitori di chiarirci, in estremo dettaglio, cosa ce ne facciamo di questa tecnologia (oltre a giocarci).
Luciano Martinoli