Lo scorso 30 luglio LinkedIn ha introdotto l’opzione “Sembra contenuto IA scadente” nel menu contestuale dei post pubblicati sulla piattaforma, con l’intenzione di raccogliere le segnalazioni degli utenti per addestrare gli algoritmi di classificazione dei contenuti e ridurne la visibilità nei feed.
Penalizzare i post considerati poco originali o di bassa qualità e non per punire l’uso delle IA, dice LinkedIn anche se, parallelamente, è stata rimossa la funzione IA che consentiva agli utenti di migliorare i rispettivi contenuti. La piattaforma sostiene che, in due settimane, oltre un milione di utenti abbia indicato post e commenti percepiti come contenuti di bassa qualità generati con le IA.
Hari Srinivasan, Chief Product Officer di LinkedIn, ha fatto sapere che, sulla piattaforma, è stato registrato un calo del 40% nella visibilità dei contenuti che i sistemi interni classificano come “AI slop”. Usare i feedback umani per intercettare i contenuti creati dalle IA sembra essere un metodo valido, ma – come spesso accade – c’è un ma.
Che cosa significa davvero AI slop
Il nome scelto da LinkedIn può trarre in inganno. Il nuovo comando non serve semplicemente a denunciare qualsiasi contenuto scritto con ChatGpt, Claude o un altro sistema generativo.
Sam Corrao Clanon, responsabile del prodotto per i creator di LinkedIn, ha spiegato che l’azienda definisce internamente “AI slop” un contenuto che può anche apparire ben scritto o molto rifinito, ma che manca di esperienza diretta, prospettiva personale o informazioni sostanziali.
In altre parole, il bersaglio dichiarato non è l’uso delle IA, è la produzione industriale di testi generici costruiti soprattutto per attirare attenzione.
C’è anche una seconda considerazione da fare. Usare la funzione “Sembra contenuto IA scadente” non equivale, di per sé, a una violazione delle regole di LinkedIn, non è in nessun modo equiparabile alla segnalazione di contenuti illegali, spam o molestie. Chi ne fa uso comunica a LinkedIn che simili post non sono degni di interesse.
Un clic non basta per fare sparire un post
Srinivasan afferma che non è sufficiente un singolo feedback per decidere le sorti di un post. LinkedIn combinerebbe numerosi segnali e sostiene di avere introdotto meccanismi per impedire che la funzione venga utilizzata allo scopo di danneggiare altri utenti.
La documentazione ufficiale sul funzionamento del feed conferma che i sistemi della piattaforma utilizzano centinaia di segnali per selezionare e ordinare i contenuti, comprendendo caratteristiche del post, attività dell’utente, relazioni professionali e feedback ricevuti
LinkedIn dichiara infatti di avere introdotto nuovi classificatori per identificare automaticamente l’AI slop e, più in generale, i contenuti di bassa qualità, soprattutto tra i post suggeriti provenienti da persone che non fanno parte della propria rete.
È quindi possibile che molte valutazioni dello stesso tipo contribuiscano indirettamente a modificare ciò che l’algoritmo considera di qualità, ma LinkedIn non ha reso pubblici i pesi assegnati ai diversi segnali né le soglie utilizzate dai classificatori.
Gli autori vengono avvisati
La novità più delicata riguarda gli utenti. LinkedIn sta cominciando a mostrare un messaggio nelle statistiche di un post quando questo riceve una quantità sufficiente di feedback che lo indica come possibile AI slop.
Tuttavia, non si sa quante segnalazioni siano necessarie per far comparire l’avviso, né è noto se l’autore può conoscere le ragioni per le quali il contenuto è stato associato all’uso delle IA o se può contestare la decisione.
Dire che un contenuto sembra essere scritto da un’IA non ha, in linea teorica almeno, alcun legame diretto con la sua utilità e la sua attendibilità, apre però un tema un po’ più sottile.
Il rischio di confondere uno stile con una macchina
Il problema riguarda soprattutto il modo in cui questi segnali verranno trasformati in classificazioni automatiche.
LinkedIn dichiara che la lingua di un post è uno degli elementi considerati dai sistemi che organizzano il feed. Dichiara inoltre di verificare regolarmente i propri algoritmi per individuare eventuali disparità ma, nel caso dei metodi di classificazione dell’AI slop, le informazioni interessanti tendono a latitare.
Non si sa se gli algoritmi hanno la medesima accuratezza in tutte le lingue, in tutti i settori professionali al cui proposito gli utenti scrivono né se intercettano particolari modalità di scrittura. Non è una distinzione di second’ordine, perché un professionista che scrive in un idioma diverso dalla propria lingua madre, potrebbe fare ricorso a traduttori o ad assistenti per il supporto della sintassi e della grammatica che, a differenza delle IA generative, non forniscono idee a chi vi ricorre.
Allo stesso modo, i linguaggi aziendali o professionali sono per loro natura standardizzati e in qualche modo farciti di termini ripetitivi. Stabilire, dove finisce la scrittura convenzionale e dove comincia ciò che viene ritenuto essere un contenuto artificiale di bassa qualità, è quindi tutt’altro che banale.
La questione, in definitiva, è quasi tutta qui. Non è soltanto quanto AI slop LinkedIn riuscirà a togliere dai feed, ma quanto accuratamente saprà distinguerlo da un testo legittimo che, per lingua, professione o semplice stile personale, somiglia a ciò che i suoi algoritmi hanno imparato a considerare come scritto da una macchina.
La posizione di LinkedIn
Abbiamo contattato LinkedIn per cercare di fugare i dubbi residui, le risposte poco aggiungono a quanto già scritto fin’ora. “È importante sottolineare – comunica LinkedIn – che nessun singolo feedback determina da solo il modo in cui un contenuto viene distribuito: prendiamo in considerazione un insieme di segnali e li valutiamo nel loro complesso. Come abbiamo condiviso a maggio, i primi risultati sono incoraggianti. Nelle fasi iniziali dei test, stiamo identificando correttamente i contenuti generici nel 94% dei casi”.
C’è però, tra le risposte, un approfondimento del quale gli utenti possono tenere conto. “Per chiunque condivida contenuti, stiamo iniziando a testare una funzionalità che segnala privatamente, all’interno della dashboard di analytics, quando gli utenti ritengono che un post possa risultare poco autentico o caratterizzato da un uso eccessivo dell’IA. Questo approccio si basa su due considerazioni. Innanzitutto, IA e contenuti di bassa qualità ‘slop’ non sono la stessa cosa: molte persone utilizzano l’IA per affinare le proprie idee e pensiamo che vogliano sapere quando il risultato rischia di apparire poco autentico. In secondo luogo, vogliamo che gli utenti ricevano feedback da persone reali su ciò che viene percepito come autentico, anziché affidarsi esclusivamente a un rilevatore di IA ed essere fraintesi. Man mano che inizieremo a introdurre questa funzionalità, continueremo a raccogliere feedback su come evolve questo lavoro”.
Anche riguardo i meccanismi usati da LinkedIn per intercettare l’uso delle IA sappiamo poco di più: “LinkedIn utilizza sistemi di classificazione per identificare contenuti di scarso valore, automatizzati o troppo generici. I nostri sistemi analizzano sia la sostanza dei contenuti sia alcuni elementi stilistici ricorrenti per individuare quelli generici. Più in generale, i nostri algoritmi sono da sempre progettati per dare priorità a contenuti rilevanti, autentici e basati sulla conoscenza, significativi per il percorso professionale e gli interessi di ciascun utente. Per maggiori informazioni sul funzionamento degli algoritmi del Feed di LinkedIn è possibile consultare la relativa documentazione”, conclude l’azienda.