L’IA generativa è ormai integrata nel flusso di lavoro quotidiano della ricerca scientifica. I ricercatori la usano per scansionare e riassumere la letteratura, generare idee, redigere risposte ai revisori paritari e perfezionare lo stile del testo scritto. Non si tratta più di una pratica marginale. La situazione solleva una domanda a cui la comunità scientifica non ha ancora risposto in modo chiaro: quando la produzione intellettuale di un ricercatore è prodotta in parte da un sistema di IA, che cosa significa realmente essere autori?
Robert Braun, ricercatore senior presso l’Institute for Advanced Studies di Vienna, sostiene su Nature che questa questione è più profonda di quanto possa sembrare. Non riguarda semplicemente il riconoscimento. Riguarda la responsabilità, la fiducia e l’intera infrastruttura attraverso cui la scienza viene convalidata.
Essere autori è sempre stato una costruzione sociale, non un diritto naturale
Uno dei punti più chiari nell’analisi di Braun è di natura storica. La paternità di un’opera scientifica non è mai stata una categoria fissa o ovvia. È stata costruita attraverso convenzioni, istituzioni e pratiche che si sono evolute nel tempo. L’autorità di Isaac Newton come studioso, per esempio, non poggiava solo sulle sue scoperte, ma sulla sua capacità di muoversi all’interno di istituzioni come la Royal Society e delle norme di pubblicazione della sua epoca. Le regole del riconoscimento accademico sono sempre state modellate dagli strumenti e dalle strutture sociali disponibili.
Questo aspetto è importante perché ridefinisce il dibattito attuale. L’arrivo dell’IA generativa non è la prima volta che la tecnologia sconvolge il modo in cui viene assegnata la paternità di un’opera. Ma potrebbe essere la più dirompente dal punto di vista strutturale, perché l’IA non rientra in nessuna categoria esistente di contributore.
Uno studente di dottorato o un assistente di ricerca che aiuta a scrivere un articolo può spiegare ciò che ha fatto, rispondere alle critiche, imparare dagli errori ed essere ritenuto responsabile degli sbagli. Un sistema di IA generativa non può fare nessuna di queste cose. Non può giustificare i suoi output, assumersi la responsabilità delle imprecisioni o essere sanzionato per cattiva condotta. Questa non è una piccola distinzione tecnica. È il motivo centrale per cui aggiungere semplicemente l’IA ai quadri di attribuzione esistenti non funziona.
Gli strumenti esistono. Le categorie no
La comunità della ricerca ha sviluppato tassonomie per rendere la paternità più trasparente. CRediT, ovvero la Contributor Roles Taxonomy, è ora utilizzata da diversi editori e scompone il lavoro accademico in ruoli specifici, andando oltre il segnale grossolano dell’ordine degli autori. Si tratta di un autentico miglioramento rispetto alle pratiche più vecchie.
Ma CRediT è stato progettato per contributori umani. Non prevede una categoria per la “sintesi della letteratura assistita da IA” o per la “generazione strutturale tramite IA”. Lo stesso articolo di Braun ne è un esempio lampante: rivela che ChatGPT di OpenAI è stato utilizzato per la generazione di idee, l’iterazione strutturale, la generazione di prosa, la sintesi, la condensazione e la revisione stilistica, e che Claude di Anthropic è stato usato per rivedere l’articolo. Si tratta di contributi sostanziali al testo finale. Nessuno dei quadri di attribuzione esistenti ha una collocazione chiara per essi.
Il problema si estende oltre la fase di scrittura. L’IA sta iniziando a influenzare la selezione dei revisori, l’interpretazione editoriale dei rapporti e il linguaggio delle decisioni editoriali. Questi sono i meccanismi attraverso cui un manoscritto diventa una ricerca riconosciuta. Se l’IA modella questi meccanismi senza alcuna rendicontazione formale, la trasparenza che l’attribuzione dovrebbe garantire diventa vuota.
C’è anche uno strato di lavoro invisibile che entra raramente nella conversazione. I sistemi di IA generativa utilizzati nella ricerca sono stati costruiti sull’etichettatura dei dati, sulla valutazione dei modelli, sul lavoro ingegneristico, sulla manutenzione delle piattaforme e sul vasto corpus di testi su cui i modelli sono stati addestrati. Nessuno di questi lavori compare nelle sezioni dei ringraziamenti. Le persone che lo hanno svolto non ricevono alcun riconoscimento.
Una crepa nella gerarchia che vale la pena esaminare
Ecco cosa sfugge alla maggior parte della copertura su questo argomento. L’arrivo dell’IA generativa nella scrittura accademica non crea solo un nuovo problema di attribuzione. Ne espone uno vecchio.
Il lavoro accademico è sempre stato organizzato in modo gerarchico. I ricercatori junior cercano la letteratura e raccolgono i dati. I ricercatori senior definiscono l’argomento concettuale e approvano il testo finale. La sezione dei ringraziamenti, che potrebbe sembrare una cortesia, è in realtà un’economia graduata: alcuni contributi diventano coautori, alcuni vengono declassati a “utili commenti” e altri scompaiono del tutto.
La tesi di Braun è che l’IA generativa crei l’opportunità di mettere in discussione questa economia piuttosto che estenderla semplicemente. Se la sintesi della letteratura assistita dall’IA è abbastanza significativa da richiedere una dichiarazione, perché lo stesso lavoro, quando svolto da un assistente di ricerca umano, storicamente non ha fatto guadagnare la qualifica di autore? La domanda non è retorica. Indica un’incongruenza strutturale che precede l’IA e che l’IA sta ora rendendo più difficile da ignorare.
Le decisioni che si stanno prendendo ora su come rendere conto dell’IA nell’editoria accademica plasmeranno il futuro della ricerca. Se tali decisioni saranno guidate principalmente dalla comodità o dai costi, il risultato saranno quadri che oscurano più di quanto rivelano.
In breve
L’IA generativa è già all’interno del processo di scrittura scientifica, gestendo attività che vanno dalla rassegna della letteratura alla revisione stilistica. Il problema è che i quadri di attribuzione esistenti sono stati creati per esseri umani che possono essere ritenuti responsabili, e l’IA non può esserlo. La soluzione non è semplicemente aggiungere una nuova casella alle tassonomie esistenti. Richiede un ripensamento più fondamentale di come vengono assegnati il credito e la responsabilità accademici, inclusi quelli per il lavoro umano che è stato a lungo reso invisibile dalle stesse gerarchie ora messe in discussione.
Basato su un articolo di Nature: Machine Learning.