Intelligenza artificiale è una di quelle rare espressioni tecniche a volte in grado non solo di confondere le idee, ma anche di generare forti reazioni emotive. Mettiamola allora momentaneamente da parte e proviamo a fare un po' ordine, perché la questione - indipendentemente da come la vogliamo chiamare - merita molta attenzione.
Il primo dato di fatto è che qualche anno fa i computer hanno cominciato a fare determinati lavori di classificazione significativamente meglio rispetto a prima. Faccio riferimento a lavori del tipo "dato A, rispondere B", come trasformare il parlato in testo, riconoscere il volto delle persone o l'inizio di un melanoma, distinguere oggetti in fotografie e in video e persino sintetizzare un testo o tradurre istantaneamente da una lingua a un'altra.
L'improvviso miglioramento ha colto di sorpresa gli stessi ricercatori, ma le cause del salto di qualità sono relativamente semplici: nuovi modi di usare tec…
Intelligenza artificiale è una di quelle rare espressioni tecniche a volte in grado non solo di confondere le idee, ma anche di generare forti reazioni emotive. Mettiamola allora momentaneamente da parte e proviamo a fare un po' ordine, perché la questione - indipendentemente da come la vogliamo chiamare - merita molta attenzione.
Il primo dato di fatto è che qualche anno fa i computer hanno cominciato a fare determinati lavori di classificazione significativamente meglio rispetto a prima. Faccio riferimento a lavori del tipo "dato A, rispondere B", come trasformare il parlato in testo, riconoscere il volto delle persone o l'inizio di un melanoma, distinguere oggetti in fotografie e in video e persino sintetizzare un testo o tradurre istantaneamente da una lingua a un'altra.
L'improvviso miglioramento ha colto di sorpresa gli stessi ricercatori, ma le cause del salto di qualità sono relativamente semplici: nuovi modi di usare tecniche in alcuni casi vecchie di decenni e la disponibilità di enormi quantitativi di dati adatti a "insegnare" agli algoritmi la risposta giusta.
La conseguenza è che un numero crescente di operazioni di classificazione verrà affidato ai computer. Come ha scritto uno dei massimi esperti del settore, Andrew Ng: "Se una persona può svolgere un compito mentale impiegando meno di un secondo, probabilmente si può automatizzare quel compito già ora o nell'immediato futuro".
Sembra una cosa da poco, ma non lo è.
Avere "classificatori" a elevate prestazioni dentro ogni dispositivo digitale, infatti, vorrà dire che molte attività fino ad ora eseguibili solo da esseri umani potranno essere eseguite automaticamente in qualsiasi momento e quasi in qualsiasi luogo. Le conseguenze positive sono potenzialmente molte e spaziano da miglioramenti in medicina al superamento almeno parziale delle barriere linguistiche.
Tuttavia, ci sono anche aspetti su cui occorre riflettere attentamente. Le tecniche classificatorie, infatti, oltre a eliminare molti posti di lavoro, potrebbero rendere per esempio la sorveglianza di massa ancora più pervasiva e intrusiva di quanto già non sia adesso. Inoltre potrebbero essere usate (e in parte già succede) per determinare automaticamente la maggiore o minore propensione al lavoro o allo studio, le preferenze politiche, sessuali o religiose, le origini etniche, ecc. di una persona. Il potenziale discriminatorio è evidente tanto più le tecniche potrebbero venir trattate come oracoli invece che come strumenti intrinsecamente imperfetti.
Ma c'è un secondo dato di fatto: dalla classificazione alla predizione il passo è breve. La crescita esponenziale della disponibilità di dati di ogni tipo, infatti, sta alimentando lo sviluppo di algoritmi che si propongono di predire (su base statistica) in quale zona della città avverranno più crimini, se una determinata persona sarà un lavoratore produttivo o meno (o se merita o meno di ricevere un mutuo) o la probabilità di commettere ulteriori crimini da parte di un detenuto. Anche in questo caso si rischia non solo di dimenticare che gli algoritmi sono imperfetti (per esempio, se i dati di addestramento incorporano discriminazioni, anche gli algoritmi discrimineranno), ma anche che si toccano - trattandosi di predizioni - aspetti cruciali della dignità umana, come il libero arbitrio o la presunzione di innocenza.
Si tratta, dunque, di sviluppi che, anche senza scomodare "intelligenze artificiali" come HAL 9000, da una parte promettono grandi benefici, ma dall'altra pongono problemi etici e sociali di grande rilevanza. L'Italia deve urgentemente investire sia nello sviluppo e nell'uso di queste tecnologie, sia nella riflessione sul modo migliore di utilizzarle, in modo da poter affrontare questa ennesima rivoluzione tecnologica con consapevolezza critica e sensibilità democratica.