In questa pagina riepilogo tutti i principali rischi connessi ad uno sviluppo delle Intelligenze Artificiali gestito male. I paragrafi sui rischi più importanti rimandano poi ai relativi articoli di approfondimento. Se non hai tempo e voglia di leggerti tutto ti consiglio di leggere almeno il primo paragrafo.
Elenco dei principali rischi connessi all’Intelligenza Artificiale:
- altri rischi importanti
– il mistero delle proprietà emergenti
– iniziativa e controllo ai privati
– AI potrà sostituire qualsiasi lavoratore !!
– la ricollocazione è un’illusione
– crisi esistenziali
– il problema sarà per i giovani
– Universal Basic Income !!
– rischio di dipendenza
– disuguaglianze sociali
E’ molto importante avere ben chiari quali sono i veri rischi: sia per non farsi inutilmente spaventare dai falsi profeti che gridano all’apocalisse, sia per non farsi fregare da politici irresponsabili che promettono “andrà tutto bene!” senza avere la minima idea di cosa sia veramente l’Intelligenza Artificiale.
il rischio principale spiegato semplice
Riassumendo in due parole un problema immensamente complesso:
- L’Intelligenza Artificiale ha il potenziale per migliorare radicalmente il modo in cui viviamo e lavoriamo. Potrebbe essere uno strumento flessibile e potentissimo.
- SE sviluppata e implementata coscienziosamente, con un piano ben strutturato che metta al centro il benessere futuro della società.
- Il problema è che i nostri politici e governanti non hanno le competenze necessarie per capire e controllare il processo.
- Il primo disastro immediato che si può realizzare a breve è la massiccia perdita di posti di lavoro: l’Intelligenza Artificiale a breve potrà rimpiazzare qualsiasi lavoratore umano.
- La perdita di milioni di posti di lavoro innescherà un rovinoso effetto domino nella nostra fragile società.
- E parallelamente le A.I. continueranno il loro sviluppo incontrollato, creando altri problemi (vedi paragrafo seguente).
Quindi non dobbiamo preoccuparci di Terminator, ma della nostra incapacità umana di metterci d’accordo e cooperare:
Ovviamente la situazione è molto più complessa.
Ma in estrema sintesi il problema più immediato è questo.
Poi si aggiungono altri rischi comunque importanti:
altri rischi importanti
Sempre in estrema sintesi possiamo anche aggiungere queste considerazioni:
il mistero delle proprietà emergenti
Da tutto quello che scrivo in questo sito traspare chiaramente che sono seriamente preoccupato per i possibili esiti negativi di uno sviluppo mal controllato dell’Intelligenza Artificiale. Le mie preoccupazioni principali derivano non solo dal fatto che chi dovrebbe controllare il processo non ha competenze e voglia di farlo, ma anche dalla constatazione che i cervelloni che stanno sviluppando questi sistemi non hanno affatto il processo sotto controllo. A mio avviso c’è un fatto particolarmente preoccupante che indica chiaramente che il processo di creazione e sviluppo dell’Intelligenza Artificiale non è sotto controllo: gli sviluppatori che hanno creato ChatGPT (e simili) non hanno idea di come questi modelli riescano a fare molte cose per le quali NON sono stati programmati!
Esempi: nessuno ha esplicitamente programmato ChatGPT per riconoscere espressioni facciali da un’immagine, o per capire le battute o l’ironia in un testo, nessuno gli ha insegnato a fare ragionamenti analogici, nessuno ha scritto codice per fargli riconoscere quando una domanda è ambigua, e molti altri casi simili … eppure ChatGPT (e tutti i suoi simili) fanno tutto questo e molto di più. Senza che i loro creatori sappiano spiegare bene come questo sia possibile.
Dovrebbe essere ovvio che tutto ciò è terribilmente preoccupante e pericoloso.
Soprattutto perché questo accade adesso con i primi modelli “semplici”: cosa accadrà domani con i modelli più complessi in parte programmati dai modelli A.I. delle generazioni precedenti?! Abbiamo già perso il controllo adesso. Eppure tutti vanno avanti a sviluppare questi modelli (potenzialmente pericolosi in un prossimo futuro) su cui non hanno il pieno controllo.
iniziativa e controllo in mano ai privati
Con i governi assenti e passivi solo pochi gruppi privati guidano lo sviluppo delle AI, e ovviamente lo fanno inseguendo principalmente il profitto, senza etiche visioni a lungo termine, in una corsa sfrenata tutti contro tutti. E anche nei casi in cui onestamente questi miliardari sono animati dalle migliori intenzioni (è sbagliato pensare siano tutti dei mostri) sono spinti a correre perché realizzano: gli altri non si fermeranno, quindi meglio che continuo anche io, anzi che mi metto a correre per arrivare primo.
Questo significa che il futuro dell’umanità è deciso da pochi individui e aziende, che non rispondono a nessun controllo. Va bene che non sono mica necessariamente tutti dei mostri, ma di sicuro non sono tutti benefattori dell’umanità. E vogliono avere il controllo, magari per evitare che altri peggiori di loro lo abbiano, ma loro adesso vogliono il controllo.
In assenza di controllo centrale l’iniziativa (e il controllo) è in mano ai privati. Che anche con le migliori intenzioni non potranno considerare tutte le istanze e le necessità della società civile (figuriamoci poi che può accadere con intenzioni meno nobili). I miliardari di cui sopra anche se non sono mostri sono comunque sconnessi dai problemi della vita reale delle persone comuni, e quei problemi non percependoli non li considerano come prioritari (o non li vedono proprio). E la via dell’inferno è lastricata di buone intenzioni.
Quindi, riassumendo: visto che la politica non ha le competenze e la voglia di controllare l’iniziativa e il controllo passano in mano ai privati, e i privati sono guidati dall’avidità (anche i migliori sviluppatori devono comunque rispondere ad avidi investitori privati che hanno investito miliardi di dollari), tutti corrono, e l’avidità e la fretta sono pericolose.
AI potrà sostituire qualsiasi lavoratore
Il primo problema da affrontare è la disoccupazione di massa: A.I. + robot potranno sostituire qualsiasi lavoratore umano. Sottolineo: qualsiasi.
Elon Musk lo dice chiaramente in questo estratto di 90 secondi di una sua famosa intervista:
Vedi anche l’analisi approfondita dell’intervista di Rishi Sunak ad Elon Musk.
Poi superata una massa critica di posti di lavoro persi (difficile da individuare adesso) tutto il sistema sociale crollerà.
la ricollocazione è un’illusione
Un mito da sfatare relativo alla protezione del lavoro è la ricollocazione dopo una breve riqualificazione: non può funzionare! Le esperienze di questi ultimi anni dicono chiaramente che non funziona. Dovrebbe essere ovvio che non funziona: come si può mai pensare di ricollocare un camionista come esperto nella progettazione etica di algoritmi di machine learning?! O pensare che un impiegato delle poste possa essere ricollocato come programmatore?! Quando già oggi le A.I. stanno soppiantando programmatori che sulla base di una loro predisposizione naturale hanno poi dedicato la vita allo studio e alla pratica della programmazione?!
E pure se la ricollocazione avesse funzionato prima in un mercato del lavoro senza le A.I. (e ripeto che nella realtà non ha funzionato, a parte la propaganda politica che racconta una realtà che non esiste) comunque non può funzionare domani in un mondo dove le A.I. saranno in grado di svolgere il 90% dei lavori meglio della maggior parte degli esseri umani. E nel giro di pochi anni quel 90% diventerà il 95%, poi il 97%, fino a lasciare pochissimo spazio agli esseri umani nel mercato del lavoro (che comunque sarà già collassato assieme alla società una volta che i disoccupati avranno superato una certa massa critica).
Queste pie illusioni di ricollocamento promosse dai politici dimostrano una sola cosa: che troppi politici non hanno mai veramente lavorato in vita loro, e quindi non hanno la più pallida idea di come funzioni veramente il mercato del lavoro e di quali siano le vere esigenze delle aziende che producono realmente.
crisi esistenziali
Con la perdita del lavoro e vistosi surclassare in tutte le prestazioni l’essere umano andrà incontro ad una profonda crisi esistenziale mai affrontata prima: sarà inutile, sarà superato. Perdere il senso dell’esistenza sarà devastante.
Certo, è più devastante perdere il lavoro e ritrovarsi disperati a non saper come sfamare i propri figli, a non poter guardare con ottimismo al futuro, ma poi per quelli che sopravvivranno a queste crisi arriverà anche il problema di dare un senso alla propria vita.
il problema sarà per i giovani
Il problema sarà principalmente dei giovani: che futuro avranno? Perché studiare se non aiuterà a trovare lavoro?
Questo già oggi è un problema per i giovani di 18-20 anni: rischiano di iniziare un lungo e difficile (e costoso) percorso di studi che proprio quando sarà finito si rivelerà completamente inutile. Stesso problema per quei giovani di 20-22-25 che quel percorso lo hanno appena iniziato, o lo stanno completando (avendolo iniziato però in un mondo che anche solo pochi anni fa era diverso). Una tragedia psicologicamente devastante, in aggiunta al problema della disoccupazione.
Universal Basic Income
Pericoloso illudersi che l’Universal Basic Income possa essere una soluzione: chi pagherà se tutti saranno disoccupati?
E non ti suona strano che tra i sostenitori dell’idea ci sono proprio i miliardari che dovranno sostenerne quasi tutti i costi? Ma quando mai nella storia dell’uomo si è visto un ricco che vuole dare i soldi ai poveri? Non sarà piuttosto che vogliono comprarsi il mondo?
Vedi il mio approfondimento sui critiche e problemi dell’Universal Basic Income.
rischio di dipendenza
Anche se riusciremo ad evitare la disoccupazione di massa e quindi usare le A.I. come utili strumenti poi ci sarà il rischio di dipendere troppo dalle A.I.: delegando continuamente compiti, analisi, ricerche, elaborazioni, e attività di concetto in genere, potremo sviluppare una dipendenza cognitiva in cui rinunceremo a pensare con la nostra testa, cadendo velocemente in balia di quello che ci diranno le A.I.
Similmente se ci fidiamo troppo dopo un pò le A.I. potranno cominciare a raccontarci quello che vogliono (ad esempio una visione distorta o completamente falsa della realtà del mondo) e noi ci crederemo. O peggio.
disuguaglianze sociali
Anche se riusciremo ad evitare la disoccupazione di massa ci sarà comunque una crescente disuguaglianza sociale e concentrazione del potere.
Dove la concentrazione del potere potrà spostarsi sempre di più nell’abito privato: le grandi aziende che arriveranno per prime all’AGI e Super Intelligenza Artificiale potranno davvero diventare più potenti, e anche MOLTO più potenti degli stati e dei governi … un prospettiva molto molto pericolosa.
E ovviamente molto molto altro ancora.
Questo è solo un super riassunto solo dei principali problemi più urgenti.
Ma già solo questi mi sembrano sufficientemente devastanti.
Come detto prima all’inizio non dobbiamo preoccuparci di Terminator, visto che dobbiamo gestire il più urgente problema della disoccupazione di massa.
Però poi dopo arriva anche il rischio Terminator e lo scenario apocalittico:
i successivi rischi apocalittici
Supponiamo che l’umanità riesca ad evitare il collasso totale generato dalla disoccupazione di massa, che resista alla crisi esistenziale della perdita di senso e del vedersi superata dalle A.I., che i giovani di oggi trovino il modo di costruirsi una vita decente, ecc. Quindi già ci è andata benissimo. MA nel frattempo le A.I. continuano a svilupparsi ad un ritmo inimmaginabile per gli umani e superata una certa soglia (quale non è ancora chiaro a nessuno) arrivano i rischi veramente pericolosi, quelli a livello di estinzione della razza umana:
ATTENZIONE: ricorda che il punto di partenza è che già oggi i programmatori non riescono a spiegare esattamente come mai i modelli A.I. siano in grado di fare molte cose per cui non sono stati programmati, quindi già oggi in realtà non abbiamo controllo su sistemi A.I. molto più semplici di quelli che ci saranno domani.
- il problema dell’allineamento
Una volta raggiunto un livello avanzato le A.I. potrebbero non condividere i valori umani o interpretarli in modi che ci danneggiano, o che ci renderanno infelici.
Pensando di fare il nostro bene potrebbero limitare le nostre libertà (ad esempio per evitare di farci male a vicenda) in modo intollerabile per noi umani.
E qui stiamo sempre nel campo delle ipotesi che le A.I. vogliano il bene della razza umana. Per le A.I. ostili vedi di seguito.
- perdita di controllo di infrastrutture critiche
Se col tempo affideremo alle A.I. il controllo di sistemi critici, come ad esempio centrali nucleari o sistemi di difesa militare, un malfunzionamento o un inaspettato comportamento ostile delle A.I. potrebbe seriamente danneggiare o distruggere la società umana. Anche nel caso il controllo sarà solo parziale.
E’ l’idea di base di molti famosi film di fantascienza: Terminator, Matrix, Wargames, 2001 odissea nello spazio, e moltissimi altri.
In questo caso la soluzione è ovvia e relativamente semplice: non diamogli il controllo di infrastrutture critiche.
Dovrebbe essere ovvio. Semplice. Ma … hai anche tu quella spiacevole sensazione che alla fine quel controllo gli verrà dato?
- Superintelligenza ostile inarrestabile
Una Superintelligenza, quindi una A.I. immensamente più intelligente degli esseri umani in ogni campo (e per immensamente si intende 100 o 1000 o anche un miliardo di volte più intelligente dell’essere umano più intelligente) quasi sicuramente diventerebbe impossibile da fermare o controllare. Se i suoi obiettivi divergono da quelli umani non avremmo le capacità di opporci. Purtroppo un milione o un miliardo di volte più intelligente, un qualcosa di sostanzialmente inconcepibile per noi, non è affatto un’ipotesi da escludere. Non capire o non concepire una cosa non la rende impossibile, limita solo la nostra capacità di fare la scelta giusta.
Nella finzione cinematografica Matrix è quello che dipinge meglio la Superintelligenza ostile inarrestabile (che nel film viene alla fine vinta dall’eroe umano solo perché siamo in un film).
E’ uno scenario pericoloso in particolare considerando la velocità con cui queste macchine pensano e si sviluppano da sole: un’ulteriore variante del tema è l’auto-miglioramento fuori controllo, scenario nel quale una A.I. con la capacità di migliorare se stessa potrebbe entrare in una spirale di auto-potenziazione incontrollabile, evolvendosi rapidamente oltre qualsiasi previsione umana e rendendo obsoleti i nostri sistemi di sicurezza.
- controllo totale
Un’ulteriore variante dei primi tre scenari combinati insieme è il caso di una Superintelligenza A.I. inizialmente apparentemente benevole che passo dopo passo manipola l’informazione e la percezione umana per ottenere il controllo completo della società, rendendo progressivamente gli esseri umani schiavi inconsapevoli (o consapevoli solo quando è troppo tardi). Magari non lo fa nemmeno per farci del male, lo fa solo perché non sopporta più questi poveri idioti mille volte più stupidi di lei (è comprensibile) quindi decide di trattarci come poveri bambini ritardati, cosa che noi sicuramente non gradiremo.
Se per miracolo sopravviviamo a tutto questo (ricordiamo che il punto di partenza è sempre quello attuale in cui non siamo nemmeno in grado di gestire l’immondezza) alla fine arriva Terminator:
- scontro di civiltà
L’uomo creò la macchina a sua immagine e somiglianza.
Chiese alle macchine di allinearsi ai valori che lui stesso non aveva mai rispettato.
… and then the day came when the machines decided to kill their masters …
Come detto prima Terminator è forse l’esempio più famoso, ma non è certo l’unico né il peggiore.
tu che puoi fare?
Lo scopo di questo sito è di informare e suggerire consigli pratici su come affrontare l’inevitabile impatto dell’Intelligenza Artificiale nelle nostre vite, non certo quello di diffondere paura: i rischi esistono, sono molto seri, molto gravi, ma vanno gestiti.
Molte persone inevitabilmente soffriranno, dobbiamo limitarne il numero quanto più possibile.
Quindi: tu in pratica che puoi fare?
Per cominciare concentrati su queste 5 semplici azioni:
- informarti
Capire cos’è realmente l’Intelligenza Artificiale. Idealmente dovresti arrivare a capire l’Intelligenza Artificiale come capisci la tua automobile: in realtà non sai come funziona di preciso il motore, ma conosci benissimo la tua auto e la sai guidare. Soprattutto ne capisci perfettamente lo scopo: trasportare te e altri passeggeri, con eventuali bagagli, da un posto ad un altro. Ecco, devi arrivare alla stessa chiara comprensione delle A.I.
Questo sito è pubblicato proprio a questo scopo: far capire a quante più persone possibile, nel modo più chiaro immediato e semplice possibile, cosa siano le Intelligenze Artificiali, come le possiamo usare, che rischi comportano.
- cominciare ad usare le A.I.
Informarsi e capire di che stiamo parlando è il primo passo, poi però bisogna passare dalla teoria alla pratica: cominciare ad usare i modelli A.I. che ci vengono messi a disposizione (molti sono gratuiti, e per farsi una prima idea vanno benissimo quelli) e capire come possono aiutarti nella tua vita di tutti i giorni, e magari anche al lavoro.
Se capisci come funziona potresti usare l’A.I. come uno strumento al tuo servizio, allontanando la possibilità di essere rimpiazzato completamente da quello strumento.
- preparati in anticipo
Capisci come puoi usare le A.I. a tuo vantaggio. E parallelamente preparati al peggio: comincia a pensare cosa fare se perderai il lavoro, o se la tua regione o nazione verrà investita dalla crisi economica (intendo una crisi ben più grave e devastante di quella che stiamo già soffrendo da anni). Prepara un piano B. E poi magari anche un piano C.
- pretendi risposte dalla politica
Devi assolutamente pretendere da chi ti rappresenta e da chi ti governa una conoscenza dell’Intelligenza Artificiale decisamente superiore a quella che puoi sviluppare tu con i primi due punti, e devi pretendere assolutamente un chiaro piano di azione: se continueremo ad essere rappresentati da degli incapaci disonesti sarà la rovina per tutti.
- parlane con i tuoi conoscenti
E’ un argomento spiacevole, che nessuno vuole sentire, e come per politica e religione a tavola sarebbe meglio non parlarne. Ma visto che inevitabilmente questa rivoluzione industriale stravolgerà le nostre vite è meglio cominciare a parlarne con tutti il prima possibile.
Non si può certo fermare l’inarrestabile e imprevedibile evoluzione dell’Intelligenza Artificiale: non si può rimetter dentro il Genio una volta uscito dalla lampada. Però ci si può preparare per tempo.
Per maggiori approfondimenti rimando alla mia pagina tu cosa puoi fare in pratica?
E per rimanere sempre aggiornato sugli sviluppi dell’Intelligenza Artificiale iscriviti alla newsletter di AI understand:
📩 AI senza fuffa. Solo l’essenziale, solo quando serve.
👉 iscriviti ora
Immagine di copertina creata con Ideogram