Aveva il corpo nero, il becco appuntito e una vistosa macchia rossa sull’ala: l’uccello fotografato nel Brasile centrale sembrava un merlo dalle ali rosse, Agelaius phoeniceus, specie migratrice diffusa soprattutto in Nord America e mai documentata prima nel Paese. Un incontro eccezionale, capace di trasformare lo scatto di un appassionato in un documento di storia naturale. C’era soltanto un problema: quel merlo non era mai esistito. L’animale era in realtà un oriolo dalle spalline, Icterus cayanensis, comune nella regione. A trasformarlo in una specie diversa l’intelligenza artificiale, cui il fotografo aveva chiesto, in buona fede, di migliorare l’immagine. Ma l’algoritmo non si era limitato a renderla più luminosa o nitida: aveva “ricostruito” l’uccello, introducendo nel piumaggio i segni rossi di un’altra specie. Risultato? La fotografia era credibile, ma quella perfezione raccontava qualcosa che in natura non era mai accaduto.
Quando l’archivio digitale diventa fragile
Il caso è tra quelli che hanno ispirato l’allarme lanciato su Nature Ecology & Evolution da Alexander C. Lees, ecologo della Manchester Metropolitan University e del Cornell Lab of Ornithology, insieme con Tony Iwane e Carrie Seltzer di iNaturalist e Glenn F. Seeholzer e Michael S. Webster della Macaulay Library. Nell’articolo “Citizen science platforms must mitigate against the threat of generative AI”, gli autori invitano le piattaforme naturalistiche a proteggere gli archivi da fotografie, video e registrazioni prodotti o alterati mediante sistemi generativi. Piattaforme come iNaturalist, WikiAves e la Macaulay Library raccolgono milioni di osservazioni realizzate da appassionati e ricercatori. Dati che permettono di seguire la distribuzione delle specie, documentare comportamenti inconsueti e misurare gli effetti del cambiamento climatico. Sono un sensore collettivo puntato sul pianeta, capace di raccogliere, spiega Tony Iwane, responsabile del supporto di iNaturalist, “informazioni che uno scienziato, da solo, non potrebbe probabilmente ottenere su una scala così vasta”. Ma perché quel sensore funzioni, ciò che registra deve essere realmente accaduto.
Se l’algoritmo non restaura ma… immagina
Il pericolo più evidente è rappresentato dalle immagini inventate: animali mai esistiti, specie collocate in continenti sbagliati, incontri costruiti in pochi secondi. Centinaia di falsi sono già stati individuati, ma la reale estensione del fenomeno resta sconosciuta. “Guardando Facebook abbiamo la chiara percezione che una quantità enorme di fotografie naturalistiche sia costituita da immagini generate dall’intelligenza artificiale”, osserva Alexander Lees al Guardian. “L’ossessione per lo scatto perfetto può portare a conseguenze problematiche”. Su iNaturalist circa 1.400 immagini, su oltre 610 milioni, sono state segnalate per l’uso dell’IA: una frazione minima, che potrebbe riflettere la difficoltà di riconoscere i falsi. Ancora più insidioso è il ritocco di fotografie autentiche. Eliminare un ramo, ricostruire una coda nascosta o rendere leggibile un animale sfocato sembrano operazioni innocue. Ma i sistemi generativi, quando le informazioni mancano, le completano secondo una previsione statistica: non restaurano ciò che la fotocamera ha visto, immaginano ciò che potrebbe esserci. Il risultato può essere esteticamente migliore e scientificamente falso. Una macchia spostata o il disegno di un’ala ricostruito male possono cancellare i caratteri che distinguono una specie dall’altra. Persino il ramo che copre l’animale può essere preferibile a una coda perfetta che nessun animale ha mai posseduto. Il rischio riguarda anche i sistemi automatici di riconoscimento. Nel caso brasiliano, l’immagine era abbastanza convincente da confondere osservatori e algoritmi. E se fotografie manipolate entrassero nei database usati per addestrare nuovi modelli, l’errore potrebbe alimentare sé stesso.
Dalla natura alla messa in scena
Non si tratta di respingere l’intelligenza artificiale. In ecologia può aiutare a ordinare grandi quantità di dati, riconoscere richiami animali e analizzare le immagini delle fototrappole. La distinzione decisiva è tra l’IA impiegata per leggere un documento naturale e quella utilizzata per riscriverlo. “I fotografi naturalisti rappresentano una risorsa preziosa per la ricerca, ma l’ossessione per lo scatto perfetto può spingere a creare situazioni artificiali, trasformando testimonianze autentiche in messe in scena”, osserva Rosario Balestrieri, ornitologo della Stazione Zoologica Anton Dohrn. Durante uno studio sulla dieta del martin pescatore tentò di utilizzare centinaia di fotografie condivise sui social. Con un ittiologo scoprì però che molti pesci non appartenevano agli ecosistemi indicati: specie marine fotografate lungo i fiumi o esemplari da pescheria assenti nei laghi citati. La ricerca dovette essere abbandonata. “Indagando più a fondo scoprimmo che diversi fotografi acquistavano i pesci al mercato per usarli come esche davanti ai capanni, così da aumentare le probabilità di immortalare la predazione”. Oggi, aggiunge Balestrieri, l’IA rende simili alterazioni più difficili da smascherare: può sostituire un seme o un insetto con una preda più rara. “Quando queste immagini vengono elaborate all’interno di ricerche massive, soprattutto se l’analisi è delegata ad altri modelli automatizzati, il rischio è che un ritocco digitale si trasformi in una falsa verità scientifica”. Di qui l’appello: “La fotografia non si riduca a un dipinto digitale, volto unicamente a soddisfare la visione estetica dell’autore, e risponda all’esigenza di essere sempre e comunque un documento di realtà”.
“Salvare lo sguardo collettivo sul mondo”
“La citizen science è un fondamentale strumento di conoscenza della natura: moltissime scoperte vengono fatte per caso da osservatrici e osservatori appassionati, che caricano poi i dati online”, spiega Marco Colombo, naturalista, divulgatore e fotografo. “È fondamentale però sviluppare strumenti che permettano di rilevare efficacemente le frodi legate all’IA, validando i dati. Solo così sarà possibile non far perdere credibilità a qualcosa che è magico: amplificare all’ennesima potenza lo sguardo dei ricercatori per scovare i segreti della natura”.
Le prime contromisure sono già arrivate. iNaturalist ha introdotto un contrassegno per i contenuti artificiali e un criterio con cui la comunità può stabilire se una fotografia rappresenti fedelmente l’organismo osservato. Gli autori chiedono però anche regole più chiare, conservazione dei file originali e dei metadati e controlli che non si affidino soltanto agli algoritmi chiamati a individuare le manipolazioni. Per secoli naturalisti ed esploratori hanno inseguito la prova migliore possibile: un esemplare, un disegno, una fotografia, una registrazione. Oggi il paradosso è che la prova più bella può essere anche la meno affidabile. Nell’epoca delle immagini perfette, la scienza dovrà imparare a diffidare della perfezione.