Articolo

Niccolò Monti

La scienza automatica

Leggereste una ricerca scientifica scritta interamente da un modello di intelligenza artificiale? Cerchereste una seconda opinione umana, o vi affidereste alle conclusioni della macchina? Anche le scienze, come altri ambiti, iniziano ad essere terra ambita da chi sviluppa modelli di IA.

Attenzione, non si sta parlando dell’arrivo nelle scienze né del machine learning, né di approcci basati sull’analisi automatica di dati: entrambe le cose hanno costruito le premesse della situazione attuale, ma sono, allo stesso tempo, qualcos’altro. Il problema – ovvero, dice la Technology Review del MIT, uno dei trend principali nella ricerca sull’IA – riguarda l’uso dei chatbot nelle scienze e, togliendo aria alla fantascienza, la creazione di veri e propri “scienziati artificiali”.

Si tratta di un tema che non interessa solo una fetta ristretta di lavoratori della ricerca, ma chiunque operi in qualsiasi ambito a qualsiasi livello. Che cosa significa, quindi, se la scienza la scrive l’IA? In certi casi, significa affidare un ruolo di assistente a un modello linguistico (anche uno dei servizi che usiamo in situazioni più ordinarie), per fargli correggere la grammatica, fare una revisione di quello che si è scritto o aiutare a sviluppare un ragionamento, scrivere del codice, tradurre in inglese, e così via; ma significa anche confrontarsi con un proliferare di servizi di IA che promettono di accelerare il lavoro scientifico.

Aiutano a cercare sul web articoli, li riassumono, trovano articoli correlati e ne spiegano la rilevanza, analizzano chi cita un determinato articolo, mostrando in che percentuale viene accolto o criticato. Fanno questo e molto altro, garantendo di migliorare il lavoro scientifico, ma la promessa delle compagnie sviluppatrici di IA, in effetti, ha molto più spesso a che fare con una promessa economica che una promessa epistemica: risparmiare tempo.

C’è di certo che non mancano i prefissi, o i termini composti. Uno di questi è vibe, diffusosi soprattutto a partire dal “vibe coding”, che indica chi programma usando Claude, Gemini o servizi simili andando a sentimento, seguendo la vibe. Si è parlato anche di “vibe physics”: ciò vuol dire che può esistere qualcosa come la fisica teorica a sentimento?

Quando si parla però, ad esempio, di vibe coding non significa che chi programma tramite un chatbot non abbia un progetto in mente, un traguardo, ma che agisce in fede a un principio di incertezza, proporzionale a quanto del lavoro viene delegato. In altre parole, agisce fidandosi, o essendo ragionevolmente consapevole, dell’efficacia sia dei prompt (degli input di testo) sia della macchina che viene istruita.

In questo articolo parlo principalmente di chi lavora nella ricerca pubblica o privata – scientifica sia nel senso di ingegneria, fisica, medicina, sia nel senso di sociologia, linguistica, antropologia – ma non sono esclusi gli studenti, né altre parti del lavoro culturale, dagli uffici stampa ai giornalisti, ai content creator.

Tutti e tutte noi ancora dobbiamo scoprire con quali conseguenze ci affidiamo a un modello linguistico per svolgere dei calcoli, cercare un’informazione o farci spiegare qualcosa, ampliare una bibliografia, scrivere bozze preparatorie o porzioni intere di testo, creare file CSV o presentazioni PowerPoint, senza contare tutta la componente di produzione grafica o video. In generale, stiamo ancora scoprendo come cambia il modo in cui tentiamo di risolvere problemi. C’è chi la vede come un’opportunità, qualcosa da cui, volenti o no, there is no going back.

Così ha scritto, perentoriamente, Matthew Schwartz, docente di fisica ad Harvard, nel resoconto di un esperimento che ha condotto con l’aiuto di Claude Opus. Con una serie guidata di prompt e grazie alla supervisione esperta dei risultati a ogni passo, un modello linguistico ha redatto un valido contributo di teoria quantistica dei campi.

Ma più che l’esito, il punto di non ritorno riguarda il metodo. Questo cambia con l’uso di uno strumento che non esegue semplicemente operazioni in maniera deterministica, ma che sembra collaborare a risolvere il problema: calcola, dà feedback di quanto ha svolto, indica possibili punti ciechi, ipotizza passi ulteriori da compiere. Il fisico riceve l’aiuto del chatbot e si ritrova con un articolo a suo nome, per la cui correttezza resta lui l’unico responsabile. Difficile che fosse diversamente: senza scomodare le ricadute etiche, la scelta del problema a monte era andata su un problema “che ero sicuro di poter svolgere io stesso”, dice Schwartz. Il problema, inoltre, doveva essere di un livello tale per cui sarebbe stato affrontabile da uno studente al secondo anno di fisica – il quale sarebbe stato a sua volta istruito dal docente su come svolgerlo; ma appunto, in questa simulazione, al posto dello studente che si sta facendo le ossa, troviamo Claude.

Che si tratti o meno di un fatto irreversibile, la situazione non richiede solo di porre domande che alludono a prospettive opache, ancora senza risposta o imprevedibili (sempre Schwartz: “Come arriviamo da qui a una IA di livello PhD? E cosa dovrebbero fare adesso gli studenti? Non ho grandi risposte a queste domande”).

Al contrario, vanno già da ora accordate le nostre domande alla capacità di immaginare come potrà cambiare l’iter scientifico e, almeno per ipotesi, quali risposte porteranno a un ambiente di ricerca che sia stabile, gratificante, formativo a tutti i livelli di ruolo, che non baratti l’integrazione tra comunità e macchine con la scelta tra l’una e le altre, e che infine non rimandi a un momento futuro la decisione su cosa fare degli studenti.

Essere prudenti, o critici, rispetto al futuro dell’IA nelle scienze non significa essere retrogradi, né ostinatamente scettici. Si risparmia tempo, certo; si fa meno fatica, vero anche questo. Eppure, aleggia il dubbio che la riduzione di fatica, qui, rifletta piuttosto un alleggerimento di frustrazione. Se c’è chi prova entusiasmo per come l’aiuto di un modello linguistico come Claude riesca ad accelerare la ricerca, bisogna aspettarsi il legittimo controcanto di domande, augurandosi che possa essere talvolta la stessa persona entusiasta a porle.

Non tanto per sentirsi più responsabili, ma per far sì che la ricerca scientifica non si esaurisca in una sua accelerazione: risolvere problemi più velocemente, ridurre la fatica di dover fare qualcosa per potersi occupare di altro (occupazioni più importanti, creative, degne).

E ancora: far intercorrere meno tempo tra prova, errore e prova conseguente, passando dal trial-and-error al prompt-and-error, senza far andare di pari passo metodo ed epistemologia, la teoria necessaria a capire perché, in quali condizioni e con che effetto si sta procedendo conoscenza in una certa maniera piuttosto che un’altra Si accelera anche dal lato del prodotto finito, ambendo a pubblicare sempre più articoli in un minor tempo. Tutto ciò, questa somma di sveltimenti non comporta sempre condizioni adatte al confronto e alla verifica, né è certo che contribuirà a un buon processo scientifico.

A questo fanno eco le voci sia degli studiosi, sia dei giornalisti scientifici che hanno lamentato gli effetti più nocivi dell’IA nelle scienze (che si tratti di STEM, oppure di scienze umane e sociali), parlando di “degradazione epistemica”, “slop science”, e di inquinamento della ricerca o di inondazione, riferendosi all’incremento di articoli pubblicati, con minori garanzie sulla qualità, cui si va incontro: invece di trovare una soluzione al modello già incrinato del publish or perish, viene accelerato.

D’altro canto, slop è un termine da specificare meglio, perché non riguarda solo l’IA, ma tutto il rapporto tra produzione culturale e piattaforme. Non è slop (letteralmente, sbobba; più propriamente, sciatto) tutto quel che si fa con l’IA; invece, saranno sloppy alcuni processi da essa favoriti, ad esempio quando ci si preoccupa che faciliterà il plagio e le pubblicazioni scadenti. Parallelamente, l’uso di modelli linguistici avrà di sicuro i suoi benefici, tra i quali possiamo pensare all’aiuto che dà a chi non parla inglese come prima lingua: “Produrrà intuizioni e schifezze all’incirca in egual misura”, dice Jonathan Oppenheim, un altro fisico teorico.

Se una buona percentuale di persone nella ricerca universitaria – il 25,9%, riporta uno studio su un campione di 6000 individui in Germania da diversi ambiti di ricerca – afferma di usare quotidianamente strumenti di IA per testare ipotesi di lavoro, programmare, passare in rassegna lo stato dell’arte, preparare presentazioni, stesure di articoli, progetti in cerca di finanziamenti, o anche per divertimento (gli scenari d’uso più comuni, secondo lo studio, in crescita negli ultimi tre anni), dall’altra parte resta il dubbio sulle conseguenze collettive, al di là dei benefici individuali e della maggiore produttività percepita.

Una di queste conseguenze riguarda le scienze come processo formativo, e in parte si è visto: come integrare comunità (studenti, docenti e ricercatori) e tecnologie senza affidarsi a soluzioni rimandate o parziali? L’Associazione Americana dei Professori Universitari ha espresso dubbi simili in un rapporto su “Artificial Intelligence and Academic Professions”. Il sondaggio ha coinvolto 300 individui rappresentanti varie categorie di lavoro accademico, un campione stavolta non proprio sostanzioso. E però ne è emersa comunque un’immagine dettagliata: l’immagine di un corpo accademico che vuole più sicurezza sul lavoro e più coinvolgimento nel decidere quali strumenti di IA ha più senso usare, e che soprattutto, prima di adottare a tappeto queste ultime, chiede regolamentazione (policy) e accessibilità (literacy).

Altra conseguenza riguarda poi la presenza pubblica delle scienze, non soltanto come richiamo, ad esempio, a rifondare come si scrive di scienza oggi in Italia, quanto piuttosto perché la congiunzione tra IA e scienze riguarda meno cosa pensiamo della prima e, invece, più ciò che pensiamo delle seconde e del loro funzionamento, della loro posizione sociale. Perché, viene da chiedersi, si parla così tanto dei rischi di una slop science?

Qualcosa lo fa l’hype, come sempre; altro la preoccupazione che venga erosa ulteriormente la fiducia pubblica verso le scienze, verso chi chiede fiducia in quanto esperto, ascolto in quanto accademico e ricercatore. Una dinamica già contorta, quella degli esperti, che richiederebbe un trattamento a sé, ma che adesso si trova intersecata con un nuovo problema: “La ricerca sull’IA ha un problema di slop”, dice un articolo sul Guardian, per fare l’esempio di un ambito, la computer science, dove il numero ipertrofico di articoli pubblicati, spesso in pre-print (ovvero, prima di una revisione accurata, altra dinamica molto dibattuta e che in questo contesto  viene accelerata), sta annacquando l’affidabilità generale e rende complicato districarsi tra pubblicazioni valide e sciatte.

A ciò si aggiunge un altro livello: non viene ancora ripetuto a sufficienza che i sistemi di IA generativa sono addestrati su una base di dati vasta e in continuo aggiornamento; e tuttavia, all’interno di questa base possono rientrare articoli scientifici che sono stati ritrattati, ma che magari non vengono rimossi dai siti delle riviste, o altri fra quelli pubblicati senza sufficiente controllo. Queste macchine su cui facciamo affidamento rischiano di non avere un criterio autonomo e chiaro per distinguere la qualità dei loro materiali di training – e, d’altronde, neanche chi lavora nella ricerca è del tutto pronto. Un’ultima conseguenza ricade sulle nostre decisioni future:: che cosa vogliamo?

Anche se lo percepiamo come co-creatore, ogni strumento di IA fa parte di quella che è stata chiamata automazione della conoscenza, ovvero la progressiva, crescente delega a macchine di ogni lavoro cognitivo, culturale, del lavoro legato alla produzione scientifica. Un problema che non è nuovo, del quale si parla almeno dal 1964 in questi termini, e che però oggi si presenta con un volto non del tutto assimilabile a cos’è successo in passato, né con la fotografia, né con i computer, né con internet (dal quale comunque dipendono i servizi delle grandi società di IA, perché da lì proviene la gran parte dei dati su cui addestrare i modelli).

La filosofa della scienza Isabelle Stengers nel 1991 notava che il riconoscimento di un risultato come “scientifico” ha sempre a che fare con una questione di autorialità – e quindi di autorità. L’autorialità riguarda la capacità di associare il proprio nome, la propria persona (individuale o plurale), a un atto, alla creazione di qualcosa che verrà ricondotta (diciamo pure, ridotta) a un’origine autoriale. Da questa associazione deriva una responsabilità, ma anche un potere fiduciario: così confidiamo, crediamo, magari dubitiamo, sì, ma comunque prestiamo ascolto e fiducia, consolidati da un’autorità che non è singola, ma distribuita.

La scientificità risulta da decisioni e valutazioni collettive fatte nel tempo e che riguardano chiunque o qualunque cosa sia coinvolta in un esperimento. Negli anni in cui Stengers scriveva, si iniziava ad associare ai computer una specie di capacità autoriale, a sostenere che stessero cambiando come lavoriamo, come pensiamo e come riconosciamo l’autorità di chi li opera. Insomma, che i computer non sono neutrali, ad esempio nel formare e formattare i dati in una certa maniera, nel fornire un supporto generale alla ricerca.

E così come considerazioni simili sono estese ai motori di ricerca, a tutto internet, oggi esse riguardano i modelli di linguaggio e tutti gli altri servizi sviluppati sotto il nome di “IA generativa” (o “agenti conversazionali” – a sentimento).Si potrebbe dire però che ci siamo sempre adattati, che basta imparare come usarle al meglio, o che gli usi illeciti sono degli umani e non dell’IA. Vero, ma solo in parte.

Prendendo in giro gli attivisti per i diritti al possesso d’armi, che sostengono che siano le persone a uccidere e non le armi in sé, la comica Eddie Izzard ribatteva che “la pistola aiuta”. Togliendo le risate, possiamo adottare una logica simile con l’IA: non basta una literacy individuale (e anzi, da sola può essere dannosa), se manca la policy collettiva, se manca un principio comune per decidere quali tecnologie vogliamo.