Articolo

Alessio Giacometti

Scrivere al tempo dell’IA

Scrivere questo articolo ha richiesto un numero imprecisato di ore di lavoro. Non saprei nemmeno dire quante fonti ho consultato, di notte, mentre il bambino dormiva. Le intuizioni migliori sono emerse da un luogo della mente che non sempre mi è accessibile, non come vorrei. Per non dimenticarle, le ho subito fissate sulle note del telefono, che quando è stato il momento di cominciare a scrivere ho dovuto chiudere in un’altra stanza perché smettesse di tenermi in ostaggio. Chiunque scriva ha i propri rituali, i miei hanno a che fare con il senso di rapimento che viene con l’insonnia: quel misto di tormento ed esaltazione che è nell’esperienza comune di così tanti scrittori da farmi considerare la fatica un requisito necessario, sebbene non desiderabile, della scrittura. 

Kafka si imponeva di dormire al pomeriggio, rientrato dal suo impiego d’ufficio, per essere più lucido nelle stesure notturne. Simenon si rintanava per diversi giorni nella sua austera dépendance, dove rimaneva finché non entrava in quello stato di trance che era per lui l’état de roman. Online circola un video in cui anche Gerald Murnane descrive la propria liturgia: assolvere le incombenze della vita con la massima efficienza e sigillare le finestre dal mondo esterno, per varcare così la soglia di quell’altro mondo che è la mente dello scrittore quando entra in azione. Scrivere non è vitale, non è gioioso, costringe anche gli autori benestanti e affermati a forme più o meno severe di penitenza. Non esiste attività umana che più della scrittura ci ponga di fronte ai limiti del linguaggio, che poi sono i limiti del pensiero. Forse è per questo che l’intelligenza artificiale generativa disturba così tanto chi prova ancora a fare della scrittura un mestiere, oltre che una ragione di vita.

Tra coloro che non condividono l’idea di società, lavoro, arte e futuro che le Big AI Tech intendono realizzare, sta prendendo corpo un esercito di scrittori, giornalisti, traduttori, artisti e accademici che hanno da subito vissuto l’avvento dell’IA generativa con un moto di ammirazione e preoccupazione. Il motivo è evidente: la scrittura come professione è in crisi da tempo, e le ultime novità venute dal capitalismo tecnologico non hanno che accentuato il lento soffocamento del mestiere di scrivere. Una chatbot sempre pronta ad assistere chi scrive nella logorante ricerca della parola esatta può essere, a seconda di come la si pensi, un’opportunità o una minaccia. 

Gli scettici snobbano i testi prodotti da o con l’IA, giudicandoli sciatti e monotoni e standardizzati. Se alle volte ci suonano convincenti anziché dozzinali, è solo perché le nostre aspettative sulla scrittura si sono notevolmente abbassate. Gli entusiasti glorificano invece l’IA generativa ribadendo, qualora non ce ne fossimo resi conto, che i cosiddetti Large Language Models (LLM) hanno pochissimi anni di vita e di fatto sono ancora allo stato di prototipo. È come se giudicassimo l’avvenire della fotografia dai primi dagherrotipi, ha detto qualcuno. Quello che vediamo oggi non è che una pallida anticipazione di ciò che sarà.

Allo stato attuale le macchine pensanti hanno superato così nettamente il test di Turing da renderlo ormai un cliché. I LLM e la loro evoluzione in Agentic AI risolvono problemi matematici, formulano ipotesi e sviluppano ragionamenti, programmano, generano immagini e soprattutto scrivono, scrivono con una facilità e una sicurezza che ci scandalizza. Che lo si ammetta o no, di fronte all’interfaccia di una chatbot che risponde come un oracolo a qualsiasi nostra interrogazione proviamo quella che Günther Anders chiamava “vergogna prometeica”, il senso di inadeguatezza e soggezione che viene dal confronto con la superiorità performativa delle macchine. 

Durante l’esilio americano, Anders aveva trovato impiego in catena di montaggio, e in fabbrica aveva capito che Marx si sbagliava sul futuro del proletariato. L’operaio non sarebbe assurto a soggetto della storia, giacché era ormai un supporto delle macchine. Allora era l’operaio ad apparire antiquato, oggi tocca all’intellettuale: scrivere al tempo dei modelli linguistici è come fornire istruzioni a una macchina e sperare che quella obbedisca, per dare misteriosamente forma a qualcosa che già è (o dovrebbe essere) nella testa dello scrittore. I progressi dell’IA generativa sono perciò uno smacco alla vanità di artisti e autori, il cui lavoro non è più così speciale se può essere riprodotto speditamente da una macchina. L’effetto è profanatorio perché pensavamo che gli scrittori fossero esseri unici e inimitabili, un’élite di creature ipersensibili che la società si impegna a mantenere per comprendere più a fondo se stessa ed espandere la coscienza collettiva in territori ancora inesplorati.

C’è chi dissimula, chi ostenta sicurezza, ma la vergogna prometeica nei confronti dell’IA generativa è già nell’esperienza comune di molti scrittori e intellettuali. Ivan Carozzi l’ha definita complesso di neuro-inferiorità, “una peculiare forma di malinconia, che nasce dalla sensazione di avere ormai cervelli obsoleti, e di essere destinati a diventare più stupidi, meno svelti delle macchine”. Chi scrive per mestiere avverte sempre più distintamente la competizione con i modelli linguistici, lo svantaggio inaggirabile che ne deriva, la paura di non avere più fiducia in se stessi, di perdere il proprio posto nella storia e diventare ininfluenti. È anche il timore che deriva dal non sapere se si sta usando l’IA generativa troppo o troppo poco, di non capire se occorra rifiutare la tentazione della scrittura assistita o se resistere non serva a niente. È, soprattutto, l’aspettativa che sia proprio in capo agli scrittori e a loro soltanto il compito di difendere la preminenza dell’intelligenza umana sui surrogati artificiali. Anche mentre scrivo questo articolo sento nel mio piccolo di dovermi dimostrare superiore alle chatbot.

Chi critica la scrittura assistita viene spesso tacciato di tecnofobia, passatismo, misoneismo, e di applicare un doppio standard, ossia di giudicare in maniera più severa e intransigente l’IA rispetto a qualsiasi termine di paragone, in special modo l’intelligenza umana. La verità è che la tecnologia ha sempre cambiato la scrittura, e la scrittura stessa può essere considerata una sorta di “supertecnologia”. Prima che fosse inventata, la comunicazione richiedeva la compresenza di due parlanti, una bocca e un orecchio; dopo, ha potuto trascendere il tempo e lo spazio. Sembra un’ovvietà, ma è magia: accedere alla lingua attraverso gli occhi ha permesso agli esseri umani una smisurata accumulazione di sapere. Dalle tavolette di Tărtăria alla stele di Rosetta, dall’alfabeto protocananeo alla stampa di Gutenberg, dal quipu precolombiano fino all’odierno touchpad, la scrittura si trasforma da sempre su impulso del cambiamento tecnologico, che interviene alchemicamente sul modo in cui lo scrivente, il medium e la lingua entrano in relazione reciproca per produrre dei testi scritti. In quest’ottica, l’IA generativa non è che l’ultima evoluzione di una lunga, lunghissima storia.

È successo raramente che una tecnologia legata alla scrittura diventasse all’improvviso così concreta e accessibile. È accaduto invece spesso che le nuove tecnologie abbiano provocato reazioni che retrospettivamente si sono rivelate iperboliche, nel bene e nel male. Dalla stampa al word processing, il panico morale per i nuovi media è sempre diverso, sebbene alcuni tratti ricorrano sistematicamente: i timori per gli effetti negativi sullo sviluppo giovanile, l’uso dipendente, la corruzione morale, la strumentalizzazione politica, il senso di ineluttabilità e arrendevolezza sociale che è proprio di ogni determinismo tecnologico. Quella che osserviamo oggi non è la prima “guerra culturale” (né politica ed economica) che si scatena intorno alle macchine, e in questo senso l’IA sembra solo riaccendere vecchi conflitti.

Il dibattito intorno alla scrittura assistita è oggi quantomai polarizzato: c’è chi sostiene che umani e intelligenza artificiale lavorino meglio quando agiscono insieme, e chi invece è dell’idea che l’IA non sia davvero progettata per essere una protesi della cognizione, bensì per sostituire integralmente coloro che la stanno istruendo con il loro ingegno. Le visioni più apocalittiche sulla grande sostituzione dei lavori intellettuali alimentano un sentimento atmosferico che è stato chiamato “malessere dell’IA”, quel disagio diffuso verso una tecnologia che si espande senza controllo, viene imposta dall’alto a prescindere dalla nostra volontà, che è destinata a restare e alla quale non è possibile sottrarsi veramente. 

Stando alle previsioni degli economisti, è improbabile che l’IA crei disoccupazione di massa nel mondo della cultura: in passato non è mai accaduto che una nuova tecnologia si sia diffusa così rapidamente da lasciare senza occupazione un gran numero di persone per un lungo periodo. Alle volte l’automazione sostituisce il lavoro, altre lo affianca, altre ancora ne aumenta addirittura la domanda – come sta curiosamente accadendo con una categoria professionale finora poco ricercata: i filosofi. Molti dei lavori d’oggi scompariranno, ma le professioni evolvono in genere su scala generazionale. Per gli ottimisti avremo il tempo di adattarci, la qualità delle occupazioni e i salari saranno garantiti, e lavorare con le chatbot non ci renderà meno soddisfatti di quello che facciamo. I critici temono invece che l’IA non ci farà lavorare meno, né meglio, e che saremo noi a servirla, come per altro già avviene.

Ogni volta che una chatbot reagisce a un nostro prompt snocciolando con scioltezza un testo sullo schermo, la sua risposta non è che la sommatoria del lavoro di una moltitudine di esseri umani i quali, in condizioni di invisibilità e sfruttamento, hanno addestrato, addestrano e continueranno a addestrare gli algoritmi correggendone le distorsioni. Nella visione tecnoentusiasta l’IA riuscirà un giorno ad affrancarsi dal lavoro umano ripetitivo e squalificante da cui oggi dipende, mentre in quella tecnoscettica non c’è modo che si emancipi pienamente. I modelli si alimentano della conoscenza data, alla quale dovrà sempre essere integrato il nuovo sapere generato. A meno che i LLM non comincino a correggersi e addestrarsi da soli.

Le paure apocalittiche intorno all’IA generativa si alimentano delle aspettative esagerate, che a loro volta servono a far crescere la valutazione delle aziende di settore e a giustificare così gli investimenti crescenti per addestrare la prossima generazione di modelli. A detta dei critici, lo sviluppo dei LLM sta raggiungendo il plateau, gli aggiornamenti sono sempre più costosi, e i guadagni in performance marginali. Secondo John Lanchester e Frédéric Lordon, l’euforia degli ultimi tempi per l’IA mostra i caratteri tipici delle bolle finanziare: appare una nuova tecnologia, gli investitori provano ad approfittarne esasperandone i benefici, e nel settore si riversa così tanto denaro che diventa impossibile impiegarlo in modo adeguato. 

Oggi ci si aspetta che l’IA possa favorire un’esplosione diffusa di innovazioni tecnologiche e culturali, ma guardando alla storia della tecnologia è più probabile che l’intelligenza artificiale si rivelerà, a seconda delle attività in cui sarà impiegata, come una strana combinazione di utilità sorprendente e profonda inaffidabilità. Eppure, l’IA sembra costitutivamente diversa da tutte le tecnologie per la scrittura che l’hanno preceduta, e certo non si esagera a considerarla il motore a vapore di una nuova rivoluzione industriale. 

La società digitale genera un flusso incessante di dati, i dati sono una materia prima, e come ogni materia prima i dati hanno dentro un valore, che è l’informazione. Fino ad ora c’erano i dati, enormi quantità di dati (i big data), ma non esisteva la tecnologia per estrarne il valore. Tra gli osservatori c’è chi normalizza l’avvento dell’IA sostenendo che i modelli linguistici non sono altro che l’ultimo adattamento tecnologico sul fronte della scrittura. Dopotutto, utilizziamo da molti anni i traduttori e i correttori automatici, dei quali i modelli linguistici rappresentano la naturale evoluzione.  Farsi correggere le bozze da una chatbot non è diverso nella sostanza da farlo fare a un redattore. Con l’IA generativa si ha però la pretesa che avvenga il contrario: lei scrive e noi la correggiamo.

Sacralizzare la purezza della scrittura non assistita e la fatica del lavoro intellettuale può risultare ingenuo se si considera che l’umanità ha sempre ricercato metodi per scrivere in maniera più efficiente, comoda e produttiva. E tuttavia le innovazioni tecnologiche del passato erano inevitabilmente passive: nel rapporto tra scrivente, medium e lingua era il primo ad avere pieno controllo delle parole che apparivano sul foglio o sullo schermo. È un equilibrio sottile che ha attraversato i millenni e che l’IA generativa sembra per la prima volta poter ribaltare, al punto da rendere sorpassate le nozioni stesse di “scrittura” e “autore” per come le conosciamo.

Stando a chi la promuove, la percezione dominante della scrittura assistita risente ancora di valori romantici di intenzionalità, stile e autorialità non più applicabili ai testi prodotti con l’aiuto dell’IA. Le ricerche condotte ad oggi mostrano che, indipendentemente dalla qualità di un’opera, il giudizio nei suoi riguardi peggiora notevolmente se si viene a sapere che è stata realizzata con l’assistenza dei modelli linguistici. I casi di scrittori usciti allo scoperto loro malgrado – Nobel come Mo Yan e Olga Tokarczuk o personaggi controversi come Jamir Nazir – non hanno fatto che confermare lo stigma e la propensione a colpevolizzare chi ricorre alla scrittura assistita.

La censura della società letteraria è così forte che la ricezione di un’opera subito si corrompe al primo sospetto di IA, perciò chi la usa preferisce non confessarsi mentre chi non la usa tende a modificare il proprio stile per marcare lo scarto percepito con la scrittura assistita. Riconoscere i testi scritti con l’IA non sembra al momento possibile, vuoi perché i sistemi di identificazione non sono abbastanza affidabili, oppure perché i testi generati sono di fatto indistinguibili da quelli scritti senza assistenza. La conseguenza è che l’ethos oggi dominante incentiva l’opacità, premia chi tace e penalizza chi si dichiara. Per chi la difende, bannare l’IA significa allora escludere i testi scritti male, che sia stata impiegata o no. Coloro che la usano con competenza continueranno a farlo, solo non verranno scoperti.

Tutto il dibattito sulla scrittura assistita ruota attorno a una domanda banale e divisiva: conta davvero chi (o cosa) scrive i testi che leggiamo? Molti lettori si sentono ingannati se vengono a sapere che un testo è stato scritto dall’IA. È una sensazione difficile da spiegare, che diviene comprensibile solo se si considera la regola d’ingaggio costitutiva della lettura: un’interazione che si fonda su un patto, la fatica di leggere in cambio della fatica di scrivere. Da sempre leggere richiede meno tempo e sforzo che scrivere, mentre con la scrittura assistita non è più così, e il patto ha cominciato a rompersi. 

Il punto è proprio questo: molti lettori non sono interessati né disposti a dedicare ore di attenzione a un testo assemblato da una chatbot in pochi minuti. Forse perché la percezione comune è che usare l’IA per scrivere sia un po’ come imbrogliare, un segno della pigrizia di chi scrive e della sua attitudine a cercare soluzioni facili, a ottenere lo zelo di chi legge senza restituirne del proprio in maniera proporzionale. È lo stesso motivo per cui anche il ghostwriting gode di pessima fama, anche se i libri di politici, sportivi e divi scritti da altri suscitano una riprovazione decisamente più blanda rispetto a quelli che si scopre scritti con l’IA. Dopotutto, che differenza c’è se il fantasma della scrittura è un umano o una macchina?

Secondo Ted Chiang le paure per l’IA sono in realtà paure per il capitalismo e per la nostra incapacità di regolamentarlo, perché il capitalismo controlla la tecnologia e tutto lascia immaginare che alla lunga la voglia utilizzare contro di noi. A molti scrittori non piace l’idea di confidare le proprie debolezze a una chatbot che – difficile ignorarlo – diventerà il sistema di sorveglianza più pervasivo mai esistito, con accesso ai nostri pensieri più segreti. I motori di ricerca sanno cosa cerchiamo, i mercati online tracciano i nostri desideri, i social network ci conoscono per ciò che esprimiamo in pubblico. Con le chatbot è diverso: registrano i pensieri privati, e presto vorranno metterli a profitto.

Scrittori e artisti contestano alle aziende dell’IA la violazione del diritto d’autore: le loro opere sono state utilizzate senza credito e senza consenso per addestrare i LLM, che ora ne hanno appreso lo stile e pretendono di replicarlo in autonomia senza che il valore generato venga ridistribuito agli autori stessi. Di qui le cause legali e le class action intentate, per ora con scarso successo, contro le Big AI Tech. Ma per alcuni commentatori come il designer Ilan Manouach l’intero dibattito sul diritto d’autore violato dall’IA generativa e sui dovuti risarcimenti sarebbe viziato dalla domanda sbagliata, poiché “si limita a negoziare le condizioni del nostro sfruttamento”. La vera questione è che l’infrastruttura cognitiva dell’IA è stata addestrata su un bene pubblico – il sapere collettivo prodotto dall’umanità – ma è controllata da pochi (e malintenzionati) soggetti privati. Le controversie intorno alla proprietà intellettuale sono solo la manifestazione epidermica di quel fenomeno ben più infido e sotterraneo che è la privatizzazione del sapere. 

La resistenza nei confronti dell’IA generativa si esprime fondamentalmente in due modi: il rifiuto e la rivendicazione. Nel secondo caso scrittori e artisti non si oppongono all’IA in sé, ma ai meccanismi di profitto e potere che ne governano l’accesso. Da una parte il ban, dall’altra gli appelli per la riappropriazione dell’IA così da farne uno strumento open source, no-profit, al servizio del bene comune e dei fini sociali. La privatizzazione della conoscenza umana da parte dei modelli linguistici è la più immane e subdola enclosure di un bene pubblico mai avvenuta. Il fatto che gli oligarchi della tecnologia abbiano imprigionato il sapere collettivo in chatbot protette da proprietà intellettuale non suscita il biasimo che dovrebbe solo perché viviamo in un tempo di realismo capitalista. Eppure un’alternativa esiste.

Se l’IA generativa è stata resa possibile da decenni di ricerca pubblica, se è stata addestrata sui dati prodotti nei secoli dall’umanità, se la conoscenza di cui si alimenta è un bene comune, allora dovrebbe essere un patrimonio della collettività e non la proprietà privata dei soliti happy few. L’idea di realizzare un’infrastruttura pubblica dell’IA risale alla provocazione di Evgeny Morozov di socializzare i data center, e trova oggi nuovo slancio nelle proposte di istituire un CERN dell’IA, di tassare le macchine e di redistribuire la ricchezza che fluisce dai LLM. 

Secondo Manouach, “serve lo stesso tipo di trasformazione politica che ha convertito l’elettricità da monopolio privato a infrastruttura pubblica”, e finalmente comincia a circolare qualche idea concreta su come realizzarla. Bernie Sanders ha presentato un disegno di legge per l’istituzione di un fondo sovrano col fine di ridistribuire gli utili dell’IA. Il principio è semplice: quando una risorsa pubblica genera ricchezza, la collettività dovrebbe beneficiarne. L’inerzia della storia non sembra però tendere in questa direzione. 

Il fatto è che, come spesso accade con le nuove tecnologie, ci si aspetta che l’IA generativa venga utilizzata a fin di bene, senza conflitti o contestazioni. Ci si concentra perciò sulle sue potenzialità creative e si finisce per ignorare ingenuamente i modelli commerciali che ne determinano lo sviluppo. Come verrà utilizzata l’IA generativa? E chi sarà a deciderlo? Oggi i modelli linguistici di base sono gratuiti (con tariffe a consumo, i famigerati token) e quelli avanzati sono a pagamento, ma svilupparli drena enormi capitali, e per Ezra Klein l’era delle dimostrazioni libere e dei bilanci in perdita presto finirà perché le aziende dovranno cominciare a guadagnare, forse a spese degli utenti. 

Le chatbot non costano nulla o quasi perché il loro prezzo nascosto è il deskilling – più le usiamo e più ne diventiamo dipendenti. È vero, le macchine hanno sempre creato dipendenza, ma come ha fatto notare Andrea Colamedici la novità dei modelli linguistici è che creano dipendenza epistemica: pensiamo con loro, scriviamo con loro, poi qualcuno decide di metterli a pagamento o di limitarne l’accesso, e ci si ritrova incapaci di pensare e scrivere senza. Le evidenze sono contrastanti, ma è chiaro che se la dipendenza epistemica si rivela irreversibile e crea vulnerabilità, delegare attività cognitive all’IA può diventare controproducente.

Da sempre la diffusione delle nuove tecnologie contribuisce da un lato al deterioramento delle competenze esistenti, dall’altro alla nascita di nuove. La scrittura stessa rese obsoleta la mnemonica, le abilità orali si indebolirono ma alla lunga la ristrutturazione del pensiero che ne seguì portò più benefici che svantaggi, e soprattutto li portò per più persone. Secondo il filosofo Kwame Anthony Appiah, alcune perdite hanno un costo irrilevante, altre addirittura produttivo se portano al superamento di mansioni noiose e ci permettono di impiegare meglio il nostro tempo, mentre altre ancora hanno un costo sociale notevole: “Stravolgono non solo quello che le persone possono fare ma anche quello che sentono di essere”. 

Appiah lo chiama “deskilling costitutivo”, l’erosione di competenza che comporta anche uno smarrimento di identità. L’IA minaccia di togliere senso e dignità ai lavori intellettuali, spostando il baricentro della competenza dalla composizione alla supervisione proprio com’è avvenuto con molti lavori manuali dalla rivoluzione industriale in avanti. Alcuni scrittori hanno reagito a questo scivolamento di competenza con un fermo rifiuto, altri l’hanno invece considerato un’opportunità professionale per riposizionarsi come esperti di un uso consapevole dell’IA, un po’ com’era successo con i guru del digitale al tempo dei primi social media. 

Tra i più attivi promotori della scrittura assistita in Italia c’è Francesco D’Isa: dice che il linguaggio è perfettamente replicabile su base statistica, e che dunque né il corpo umano né la mente sono necessari alla produzione di linguaggio sensato. Molti dei limiti dell’IA generativa sono in realtà limiti dei suoi utilizzatori, ecco perché conoscerla permette di impiegarla meglio. I LLM si adattano alle abilità di chi li usa e in questo senso rendono le competenze umane non meno ma più importanti. Chi non conosce la letteratura o il mestiere di scrivere può fare solamente un uso superficiale dei modelli linguistici, che coincide con l’accontentarsi del primo risultato che quelli restituiscono. Al contrario, l’uso colto consisterebbe in una serrata interazione uomo-macchina in cui lo scrittore affina sempre di più le proprie istruzioni di modo da ridurre l’incertezza nel testo ottenuto dall’IA.

È questa la distinzione tra un approccio human in the loop, con l’autore umano che rimane coinvolto in modo attivo nella generazione, e un approccio human on the loop, quando invece gli “utonti” si limitano ad acquisire il lavoro svolto dalla macchina e magari a farlo passare per proprio. Scrivere al tempo dell’IA si ridurrebbe allora a utilizzare il proprio linguaggio in modo descrittivo per comunicare in maniera fluida con la macchina e far sì che questa generi dei testi di valore non perché qualcuno (o qualcosa) li ha prodotti, ma perché chi li legge li trova interessanti. Lo scrittore in carne e ossa rimarrebbe nella posizione di selezionare i risultati migliori, di editarli e curarli in una fusione di intelligenza umana e artificiale che non dovrebbe essere né stigmatizzata né fonte di imbarazzo per gli scrittori stessi.

In questo modo di vedere le cose, interagire al meglio con i modelli linguistici significa farne un uso cibernetico: non accontentarsi della prima risposta che quelli vomitano sullo schermo, bensì spremerli, assediarli, addomesticarli, farli ubbidire al pensiero, che rimane umano. È trattare le chatbot come sparring partner cognitivi, degli assistenti linguistici che stanno lì per allenarci ad affilare i nostri ragionamenti e non per pensare al posto nostro. La competenza emergente che identifica questa sorta di uso esperto dei LLM ha preso il nome di context o prompt engineering, e già esiste un fiorente mercato di corsi a pagamento per imparare a scrivere con l’IA.

Per i detrattori si tratta di una trappola per aspiranti scrittori: c’è una differenza irriducibile tra descrivere un gesto e compierlo, e dare istruzioni alle chatbot affinché producano un surrogato credibile di un testo non significa saper scrivere, bensì fingere di saperlo fare. Anche se l’IA accelera il lavoro umano, non sempre lo rende migliore, e a volte lo peggiora. Usarla per generare testi fa risparmiare tempo, fatica e denaro, ma come sempre l’efficienza ha un prezzo. Ad esempio, più si usa l’IA più c’è bisogno di verificare e correggere quel che argomenta – un effetto rimbalzo che già di per sé ridimensiona il guadagno di efficienza della scrittura assistita.

L’IA non elimina affatto il bisogno di competenza umana, semmai l’accentua. Quello che elimina è la fatica di generare idee, il cui effetto principale è di spostare il fulcro della competenza umana dallo sforzo creativo alla programmazione della macchina e alla validazione critica del suo output. Eppure, la competenza umana non si forma magicamente dal nulla. È il frutto di ciò che alcuni hanno chiamato “apprendimento attivo” o “fatica produttiva”, lo sforzo cognitivo che non ha nulla di speciale in sé, ma che serve a sviluppare una comprensione profonda e duratura di ciò che si fa. La scrittura non si insegna: per imparare a scrivere bene bisogna scrivere tanto, leggere chi scrive meglio di noi, poi scrivere e scrivere ancora. Le riviste servono anche a questo, sono i dojo della scrittura, le palestre in cui imparare l’arte ma soprattutto la disciplina che serve a praticarla. 

In fin dei conti l’IA ha imparato a scrivere come imparano gli scrittori umani, ossia leggendo e imitando i testi altrui. Il problema è che, per quanto ne sappiamo, i LLM sono stati addestrati con tutto ciò che si trova online, il buono e il marcio, il vero e il falso, e l’hanno assimilato bulimicamente in un sistema di pensiero capace di sostenere un ragionamento e il suo contrario. L’IA mente, e soprattutto mente sulle proprie bugie. Le allucinazioni che ha non sono semplicemente informazioni false o fuorvianti, ciò che le rende perniciose è che vengono fornite con convinzione dalle chatbot (o “cheatbot”). 

Il fatto che lo stesso Turing abbia chiamato il suo test “imitation game” non è casuale: non si è mai trattato di stabilire se le macchine posseggano o meno un’intelligenza simil-umana, ma se la sappiano imitare. Il test è basato sull’inganno (le macchine possono fingere di essere ciò che non sono?) e l’impostura ha successo quando l’imitazione dell’intelligenza umana suona attendibile. Apparire credibile ingannando è tuttavia il contrario di quel che dovrebbe fare la scrittura, ossia sembrare incredibile dicendo la verità. 

Tra gli entusiasti dell’IA generativa c’è anche Luciano Floridi, che alla nozione di scrittura assistita preferisce quella di distant writing: lo scrittore diventa designer narrativo di testi letterari che sono i LLM a eseguire a partire dai comandi che il primo fornisce loro. Se il distant reading sfrutta l’analisi computazionale per interpretare vasti corpora testuali, il distant writing la usa per generarne di nuovi. Floridi lo descrive al tempo stesso come una trasformazione in continuità con il passato – in settori come l’architettura, design ed esecuzione sono già da tempo separati – e come una rivoluzione gravida di conseguenze per la concezione dominante di autorialità, creatività, attribuzione e proprietà delle opere letterarie. 

Un punto cruciale è che per Floridi il distant writing non rende solo la scrittura più veloce ed efficiente, abbatte anche i limiti dello spazio narrativo. La scrittura tradizionale è infatti un’arte lineare che impone di scegliere una sola possibilità narrativa tra le infinite potenziali, perché percorrere più piste in serie sarebbe per lo scrittore umano un’impresa proibitiva. Con la scrittura assistita diventa invece praticabile esplorare più possibilità narrative in parallelo, scegliere la migliore o realizzare ramificazioni diegetiche che ne contemplino più d’una, in una sorta di “multiverso letterario”. Per il filosofo Carlo Cordasco, la stessa espansione del campo di esplorazione si applica anche alla scienza: se con l’assistenza dell’IA sondare ipotesi in parallelo diventa fattibile, allora le domande di ricerca peggiori possono essere scartate precocemente, e quelle che rimangono diventano necessariamente migliori.

Chi come Floridi propaganda le tecniche di scrittura assistita non sembra tuttavia rendersi conto che l’evoluzione dell’IA potrebbe essere così rapida da sopperire all’incompetenza dei suoi utilizzatori. È ciò che è accaduto con i computer: all’inizio occorreva saper programmare per poterli utilizzare, oggi anche i bambini sanno interagire con un touchscreen. Le interfacce dell’IA generativa già si basano sul linguaggio naturale, ma è probabile che evolveranno verso forme di utilizzo in cui essere degli esperti nel “programmare” le chatbot con dei comandi ben architettati diventerà sempre meno rilevante. Anche se l’ingegneria del prompt viene sbandierata quale nuova competenza creativa, per diffondersi l’IA dovrà adeguarsi agli usi dilettanteschi, che saranno dominanti. 

Chi difende la scrittura assistita rischia anche di esagerare la peculiarità della valutazione umana. Floridi dice che c’è un’asimmetria di fondo tra generare una soluzione e verificarla, che produrre un’opera non ha nitente di speciale, mentre saperla valutare sì. Eppure, l’esperienza sembra suggerirci il contrario: è più facile riconoscere un buon romanzo che scriverne uno da sé. L’IA ha imparato a scrivere testi, e sarebbe assurdo credere che presto non impari anche a valutarli. Automatizzata la scrittura, la prossima barriera da sfondare per i modelli linguistici sarà necessariamente quella della revisione: le macchine dovranno imparare a giudicare da sole il proprio output come farebbe un umano esperto. In futuro è anche possibile che i lettori disintermedino completamente gli scrittori chiedendo all’IA di generare un testo inedito quando e come vorranno, eppure i promotori della scrittura assistita non sembrano prendere sul serio un simile scenario in cui anche l’ingegneria del prompt diventerebbe un’abilità sorpassata o data per scontata. Perché mai leggere un libro o un articolo scritto da altri con l’assistenza dell’IA se i lettori possono generarlo da sé? 

Il rischio più immediato è però che, bypassando la fatica produttiva, l’IA possa intaccare le stesse competenze che sono necessarie a un suo uso colto e consapevole. In fondo, siamo la prima e ultima generazione ad approcciare i modelli linguistici con un sistema cognitivo sviluppato in loro assenza. D’ora in avanti, investire nella formazione della propria cultura apparirà sempre più irrazionale se l’incentivo maggiore sarà a utilizzare da subito l’IA per rimanere al passo con i tempi. Chiunque venga dopo di noi dovrà confrontarsi con questo paradosso – gli strumenti che lo faranno sembrare esperto sono gli stessi a rendere meno probabile che lo diventi davvero. Separando la generazione di testi dal lavoro cognitivo necessario a saperli assemblare, l’IA darà agli scriventi un’illusione di padronanza inedita nella storia umana.

Le chatbot danno l’impressione di poter essere utilizzate senza una competenza profonda di quello che si fa, ma in realtà serve essere degli esperti per notare gli errori e le pecche in un testo generato con l’assistenza dei modelli linguistici. Non si possono perdere competenze che non sono mai state acquisite, e non si può imparare a scrivere senza scrivere davvero. Come ha osservato Rebecca Solnit, “il prezzo da pagare quando smettiamo di fare certe cose è che perdiamo anche la capacità di farle”. A differenza delle macchine, la competenza umana si forma attraverso lo sforzo, che ci piaccia o meno, e nel momento in cui si rifiuta quello sforzo si sta anche un po’ rinunciando a imparare. Sembra che con la diffusione dell’IA in vari settori, dalla medicina alla programmazione, molte competenze umane di base per svolgere quelle attività si stiano già atrofizzando, e lo stesso potrebbe avvenire con la scrittura, la cui competenza di base è l’esercizio riflessivo e divagante del pensiero.

Il punto è che scrivere non è solamente produrre testi, un’attività valutabile in funzione del suo risultato: è parte di un processo trasformativo che contribuisce alla formazione del linguaggio, del pensiero, del sé, della visione del mondo e dell’etica personale. “Affidare il proprio lavoro creativo o intellettuale a un modello linguistico di grandi dimensioni”, aggiunge Solnit, “è forse l’esempio più estremo di come si vuole ottenere il prodotto finale saltando completamente il processo”. Ma il processo siamo noi, la nostra crescita intellettuale – scrivere serve a quello, mica a riempire di paccottiglia le librerie. La scrittura è una tecnologia per trasmettere il pensiero ed è anche una tecnologia per formarlo, per questo delegarla alle macchine suscita diffidenza e riserve. Il problema non è lo stile levigato e mediocre della scrittura assistita, è ciò che si perde quando si rinuncia allo sforzo di tradurre il pensiero in parole. 

Ne sa qualcosa lo scrittore Micah Nathan, che insegna da diversi anni scrittura creativa al MIT. Da quando i suoi studenti hanno iniziato a consegnare compiti palesemente assemblati con l’IA, la questione della scrittura assistita è diventata inaggirabile. La disponibilità all’uso delle chatbot rivela l’orientamento individuale verso la scrittura, perciò Nathan ha cominciato a incalzare i suoi studenti tastandone il desiderio: “Volete fare arte o semplicemente produrre un testo? Volete davvero imparare a scrivere o solo fingere di farlo?”. Sono domande che riflettono un preciso posizionamento pedagogico e morale: imparare a scrivere implica che il pensiero dell’autore sia lì, ben visibile sul foglio. 

Scrivere è una forma di meditazione, è un modo di capire davvero ciò che si pensa tentando di esprimerlo a parole. La sua utilità non risiede esclusivamente nel testo che si riesce a comporre, ma nelle trasformazioni mentali che avvengono durante la creazione. Non sarà un caso se chi ricorre alla scrittura assistita mostra un livello di connettività neurale inferiore a chi non lo fa. Il valore di un testo non dipende dalla fatica che è costato produrlo, anche se molti scrittori sarebbero pronti a sostenere il contrario. E ciononostante la fatica è necessaria alla formazione dell’autore.

Gli entusiasti dell’IA non sono d’accordo: se ci si sforza di pensare a fondo prima di digitare un prompt allora non c’è alcun rischio di thinkslop. Floridi ricorda che, per buona parte della storia della cultura, gli intellettuali hanno pensato senza bisogno di scrivere, un’attività che con snobismo demandavano agli scrivani cui dettavano le proprie meditazioni. La scrittura non coincide con il pensiero, è essa stessa una simulazione dell’intelletto, e smettere di praticarla non significa rinunciare a pensare come sostengono Solnit e gli altri nostalgici della scrittura non assistita. 

La nostalgia è un sentimento chiave nel dibattito sull’IA e la perdita di competenze. Il filosofo Joshua Habgood-Coote parla al riguardo di skill nostalgia e dice che può essere reazionaria o rivoluzionaria: è reazionaria quanto feticizza le abilità tradizionali per resistere al mutamento sociale e professa il ritorno a un passato considerato età dell’oro, è invece rivoluzionaria quando non cede all’idolatria del futuro e intende preservare la soddisfazione che ricaviamo da ciò che facciamo. Se molte persone cercano significato e complessità in passatempi che riproducono forme obsolete di lavoro qualificato, è perché consentono quel genere di coinvolgimento cognitivo ed emotivo che manca tragicamente in molte occupazioni ad alta automazione.

La fatica è necessaria alla formazione dell’autore, ma chi propugna la scrittura assistita dall’IA ne proclama la fine. Se a generare i testi non è più lo sforzo creativo di una mente umana ma l’addomesticamento di una chatbot, dove sta l’Io dell’autore? Nei circoli in cui si dibatte oggi di scrittura assistita sono tornati in auge La morte dell’autore (1967) di Roland Barthes e Cibernetica e fantasmi (1967) di Italo Calvino, un vecchio saggio proprio sul rapporto tra arte della narrazione e cervelli elettronici. Come Barthes, Calvino sostiene che quello dell’autorialità è solo un idolo della società letteraria e ne annuncia profeticamente la fine: “L’opera continuerà a nascere, a essere giudicata, a essere distrutta o continuamente rinnovata al contatto dell’occhio che legge; ciò che sparirà sarà la figura dell’autore, questo personaggio a cui si continuano ad attribuire funzioni che non gli competono”. Chissà cosa Calvino avrebbe pensato di sé e della propria identità di scrittore a leggere delle città invisibili riprodotte dall’IA.

Sin dal Rinascimento, il mondo dell’arte ha sviluppato una vera e propria ossessione per l’autorialità, al punto da fare dell’artista geniale e solitario un feticcio. Si tratta per molti aspetti di una fissazione anacronistica, perché da molto tempo l’arte come la scienza è sempre più il frutto di un lavoro collettivo. E tuttavia l’autore multiplo tende a non venire riconosciuto solo perché l’attribuzione di un artista a un’opera muove da sola cifre immense. La nozione romantica di originalità come creazione del nuovo dal nulla è stata confutata già negli anni Ottanta dagli approcci postmoderni e poststrutturalisti all’opera aperta, che in Italia hanno avuto come massimo esponente Umberto Eco. Per Eco il testo è sempre ipertesto: un mosaico di citazioni, una matassa di intuizioni rubate agli altri e rielaborate dall’autore, una ragnatela di rimandi al bacino di letture da cui ogni buon scrittore attinge il proprio immaginario narrativo.

Quando si tratta di opere dell’ingegno, nel giudizio comune imitare è un po’ come barare, e a usare la scrittura assistita c’è un rischio intrinseco di plagio, poiché allo stato attuale non è possibile sapere da quali fonti viene prelevato il contenuto generato dall’IA, e come. Ma la scrittura, anche nelle sue manifestazioni più alte, è sempre una forma più o meno evidente di plagio, dacché la lingua dello scrittore si alimenta dei libri che legge e la sua mente concresce su quelle altrui. Cent’anni di solitudine (1967) si apre con uno degli incipit più celebri e riusciti della storia della letteratura, che però non ha nulla di originale: Gabriel Garcia Marquez l’ha adattato da un passaggio molto meno noto di Pedro Páramo (1955), di Juan Rulfo. Questo non fa di Marquez un copione, al contrario ne rivela la caratura di scrittore vero, di autore capace di arredare il proprio spazio mentale con la biblioteca della vita.

La scrittura è per definizione un’arte derivativa, assimilazione e riadattamento di idee altrui per generarne di proprie e distintive. Anche l’intelligenza che esprimono le chatbot è di tipo ricombinatorio: scandaglia la cultura prodotta dagli esseri umani e la riassembla in nuovi mashup linguistici. Le idee che ha o può avere sono quelle che le abbiamo fornito noi, variazioni su un tema dato. Eppure, è lo stesso genere di patchwork cognitivo che fanno gli umani, costantemente, e lo chiamiamo pensiero, a volte anche pensiero creativo. La differenza è, forse, che l’intelligenza umana ricombina la cultura con un’intenzione, o meglio un’intenzionalità. E non importa se la coscienza umana viene addestrata su un corpus imperfetto di esperienze e letture, giacché è proprio questo a renderci imprevedibili. A partire da uno stesso stimolo, diamo risposte diverse poiché l’esperienza di ciascuno è unica e incommensurabile.

I LLM simulano la lingua umana organizzando l’ordine del discorso in base alla probabilità che una certa parola ha di seguirne un’altra. È un principio tanto semplice quanto efficace, che dà forma a ragionamenti plausibili perché la scrittura è anche un’arte sequenziale e ciò che viene dopo dipende direttamente da ciò che sta prima. La capacità di previsione è il punto di forza dei modelli linguistici computazionali, ciò che permette loro di produrre velocemente dei testi passabili a partire dalla scansione probabilistica di una lingua. Al contempo, è anche il loro vulnus: un testo che faccia un uso eccessivo di ragionamenti triti, frasi fatte e parole scontate denota quell’anti stile mediano che per i critici della scrittura assistita è la peggiore forma di stile. 

Per molti autori pensare che la scrittura possa basarsi su un uso probabilistico della lingua rappresenta un oltraggio alla sensibilità letteraria. Si potrebbe anche sostenere che uno scrittore sia tanto più capace quanto meno prevedibile è ciò che scrive e il modo in cui lo scrive. Agli scrittori veri si possono perdonare molti difetti, ma certo non il conformismo. In quel che leggiamo apprezziamo essere colti di sorpresa da ciò che non sappiamo oppure da ciò che già sappiamo ma che lo scrittore riesce a esprimere in modo inaspettato. A colpirci è la deviazione del pensiero e della lingua, che è esattamente il contrario del testo “ben fatto” cui aspirano i modelli linguistici, del quale si può fare un uso strumentale senza effetti estetici o sentimentali. Senza percepire quella sorta di “aura” che, secondo Walter Benjamin, ogni vera opera d’arte dovrebbe irradiare.

L’IA è progettata per dare risposte generiche, consensuali, riconducibili ai valori medi della distribuzione nel campo delle possibilità semantiche. In gergo tecnico, il risultato che restituisce è un testo che converge verso regioni ad alta probabilità dello spazio linguistico. La scrittura dovrebbe operare diversamente: implica il desiderio, l’intenzione, la scelta, l’esperimento, anche il rischio. Sono princìpi ideali che incoraggiano lo scrittore a rifuggire le consuetudini. La scrittura resiste da sempre ai sistemi rigidi e trova i suoi punti di rottura proprio nei casi anomali, nelle opere che non rientrano nelle mode e nelle categorie consolidate. Gli studi condotti finora mostrano invece che i LLM possono sì alzare il livello medio della creatività, ma non i picchi positivi, e con risultati più uniformi che tendono all’omologazione del pensiero.

In un ormai famoso articolo del 2021, i modelli linguistici sono stati definiti “pappagalli stocastici”: ripetono le parole che abbiamo insegnato loro, senza conoscerne il significato. Per i promotori dell’IA generativa si tratta di una metafora scorretta che oggi non tiene più, perché i modelli linguistici più aggiornati sono in grado di generalizzare al di là dei compiti per i quali sono stati addestrati. Per ora i prodotti delle chatbot rimangono viziati dalla nostra ossessione per l’imitazione perché siamo noi a chiedere loro di replicare ciò che già sappiamo. Ma presto i LLM cominceranno a manifestare creatività computazionale e a esprimere degli stili propri.

A detta di chi difende l’IA generativa sarebbe anche ingenuo sostenere che tutta la scrittura non assistita sia di valore, o anche solo decente. Le vetrine delle librerie traboccano di saggi e romanzi del tutto preteribili, che avrebbe tranquillamente potuto scrivere un’IA. Esistono scrittori umani che pubblicano a ciclo continuo, neanche fossero dei bot. Ma come fanno? Quando esprimono i motivi del loro disappunto, gli scrittori anti-IA non si rendono conto che le loro stesse critiche potrebbero essere rivolte a buona parte della letteratura umana non assistita: è prevedibile, ricombina idee già viste, manca di stile e creatività. È innegabile, interagendo di continuo con le macchine finiamo sempre più spesso per assomigliare a loro. Ma ciò non toglie che il calcolo statistico della sequenza di parole più probabile sia in assoluto il metodo meno indicato per dare vita a un testo che entri in sintonia con la coscienza di chi legge.

Nel saggio autobiografico On writing (2000), Stephen King dice che la scrittura è un incontro tra coscienze (“meeting of the minds”), quanto di più vicino esista alla telepatia. Non si tratta semplicemente di manipolare le parole e il loro significato, ma di provocare una reazione nella vita interiore dei lettori. In un articolo sulla scrittura assistita che ha suscitato un certo dibattito, Wu Ming dice qualcosa di simile affermando che per scrivere occorre un corpo: tanto quanto la mente, il corpo è esperienza, vita incarnata, la roccia su cui cresce il muschio della letteratura. L’IA è incorporea, del mondo ha un’esperienza non-viva, dunque la letteratura che produce è inumana. Viene detta “generativa”, ma in realtà non genera testi: semmai li produce, o ri-produce. Anche se è difficile da esprimere a parole, i lettori più sensibili avvertono chiaramente il senso di vuoto che emana da uno schermo su cui appaiono file e file di parole senza un cervello che le pensa.

Critici e fautori della scrittura assistita dissentono aspramente anche su questo punto: se la scrittura è l’incontro tra la coscienza di chi legge e quella di chi scrive, può essere mediata dalle macchine? Oggi le teorie postumane si sono aggiunte a quelle poststrutturaliste, e chi difende la scrittura assistita assicura che la creatività non emerge dal vuoto di una mente isolata, semmai è un fenomeno collettivo, interspecie e natural-artificiale che affiora dalla rete di relazioni e scambi tra entità umane e non. 

Elvia Wilk ritiene ad esempio che collaborare con una chatbot alla stesura di un testo sia come interagire con una coscienza non-umana, e se non ci accorgiamo del potenziale di creatività che sprigiona da questa relazione è solo per un bias antropocentrico (sebbene si potrebbe facilmente obiettare che i modelli linguistici sono un prodotto umano troppo umano). Martin Puchner parla invece di “Shared Language Model”: alle volte l’IA generativa usa la lingua in un modo simile al nostro e altre volte no, ma la cosa straordinaria è che intelligenza umana e artificiale riescono finalmente a capirsi, che per la prima volta esiste una lingua franca tra noi e le macchine.

Parlare di incontro tra coscienze diventa comprensibile solo se si assume una visione anti-utilitaristica della scrittura, mentre l’IA generativa tende a promuovere una concezione strumentale dei testi come cibo processato per la mente. Esistono forme di scrittura in cui il contenuto prevale sulla forma, ed è del tutto irrilevante sapere chi (o cosa) le ha scritte. Manuali d’uso, dizionari, report, articoli di cronaca, pubblicità, contenuti per feed. Non è così per la letteratura, per il giornalismo culturale, per una certa parte della scrittura scientifica (sicuramente nelle scienze umane e sociali), e in genere per tutte quelle forme di scrittura che aspirano a provocare nel lettore un sentimento, un orgasmo della mente. 

Qui si torna all’ars poetica di Orazio: scrivere è “miscuit utile dulci”, istruire e godere. Se il fine della scrittura è il sentimento (godere), e non solo l’informazione (istruire), allora gli aggettivi che usiamo per qualificare la scrittura assistita suonano già di per sé sospetti: una prosa chiara, coerente, rilevante rispetto al contesto, ben strutturata sul piano logico, accurata, scorrevole e comprensibile. Si torna anche alla concezione poetica di Fujiwara no Teika, letterato del Giappone medievale: va da sé che l’incontro armonico tra parole e sentimento sia l’ideale, ma se ciò non è possibile, è preferibile una poesia che usi “parole maldestre” a una del tutto priva di sentimento.

I promotori dell’IA generativa ripetono con sicumera che, se usata bene, questa migliorerà la qualità della scrittura, ma sembrano sottostimare l’effetto che avrà sulla quantità di testi in circolazione. Nella sua analisi sul distant writing, Floridi confonde ad esempio la democratizzazione della scrittura con l’AI slop, la proliferazione di contenuti scadenti che chiunque può generare dando istruzioni a una chatbot. Il numero di e-book, ricerche, articoli e contenuti in genere scritti con l’assistenza dell’IA e pubblicati negli ultimi anni è già cresciuto esponenzialmente, e anche se è difficile credere si tratti di contributi tutti meritevoli di attenzione, la vera questione è l’abnorme aumento di scala della produzione scritta.

La crescita vertiginosa dei testi prodotti sembra per ora manifestarsi soprattutto nella letteratura scientifica. Organization Science è stata tra le prime riviste a valutare l’impatto dell’IA sulla moltiplicazione di articoli scientifici: dal rilascio di ChatGPT nel 2022 il volume di manoscritti inviati alla rivista è cresciuto del 42%, i paper generati con il supporto dell’IA sono stati rifiutati più spesso per via di una qualità inferiore, e in generale anche il livello medio di scrittura è diminuito. L’IA generativa è piombata improvvisamente su un sistema della ricerca che già incentiva la quantità della produzione sulla qualità, e non come una soluzione, bensì come uno strumento che ne amplifica ulteriormente le distorsioni. La letteratura scientifica era già piagata dai meccanismi del publish or perish e dalla junkification della ricerca, ora si è aggiunto un nuovo problema: chiamiamolo fast writing. 

Ne è un esempio concreto il workflow che i ricercatori Per Engzell e Nathan Wilmers hanno sviluppato per generare articoli di scienza sociale a partire da un prompt iniziale somministrato a un LLM. I due hanno ribattezzato la loro creazione “paper factory”, e in una settimana hanno prodotto 34 articoli – più di quanti un ricercatore consumato riesca a pubblicare in decenni di carriera. Gli articoli non erano niente di che, ma avrebbero potuto essere tranquillamente mandati a riviste di settore per la revisione tra pari. Il vero problema non è che la paper factory sforni a ciclo continuo articoli competenti ma trascurabili – il genere di letteratura che il sistema dell’editoria scientifica già premia da tempo – ma che induca quella che gli stessi Engzell e Wilmers hanno definito “mediocrity at scale”: una valanga di articoli che non sono abbastanza sbagliati da essere scartati, ma nemmeno abbastanza interessanti da portare a qualcosa di nuovo.

L’aumento ipertrofico della produzione scritta che la paper factory rende possibile è qualcosa che i promotori della scrittura assistita tendono sorprendentemente a ignorare, considerando come problema non l’AI slop in sé ma il sistema già scricchiolante della peer review. Per i critici della scrittura assistita stiamo invece entrando nell’era della “slop science”: la produzione di output crescerà a scapito della comprensione, l’iperproduzione di testi inonderà le riviste inquinandole di articoli mediocri, gli editori proveranno ad arginare il problema ma il sistema stesso del peer review è destinato a crollare. 

Gli entusiasti sostengono che ciò avverrà solo se l’IA sarà usata male: chi imparerà a utilizzarla, vedrà aumentata la qualità della propria scrittura scientifica e l’asticella si alzerà così per tutti. I massimalisti credono addirittura che l’IA generativa sarà presto in grado di sostituire interamente gli scienziati umani con un sistema capace di elaborare ipotesi di ricerca, scrivere codice, condurre esperimenti, rappresentare graficamente e analizzare dati, redigere l’intero articolo scientifico ed effettuare la propria revisione tra pari. Macchine che scrivono testi che saranno letti e valutati da altre macchine.

Gli accademici che rifiutano di usare l’intelligenza artificiale in nome della “stupidità naturale” adducono diverse ragioni generali: dalla violazione del copyright alla mancanza di trasparenza nell’uso dei dati, fino all’impatto ambientale dell’IA e all’inaffidabilità dei contenuti generati. Ma esistono anche motivazioni più profonde che hanno a che fare con l’inaridirsi della competenza e la formazione dell’esperienza, che per chi fa ricerca è la possibilità di imparare dai propri errori. 

La sociologa Deborah Lupton è in prima fila tra gli “obiettori di coscienza” dell’IA generativa e sta scrivendo un libro sulle ragioni della sua astensione. A suo giudizio, l’uso dei modelli linguistici squalifica lo studio, l’educazione, la riflessione, la scrittura e la ricerca, con un netto peggioramento delle competenze cognitive di base. Di più: l’AI slop corrompe l’ecosistema informativo, l’industria dei modelli generativi ruba la proprietà intellettuale e i beni culturali collettivi, gli oligarchi dell’IA promuovono una cultura estrattivista nei confronti del lavoro umano e delle risorse ambientali. E ancora l’hype e la bolla, i bias discriminatori degli algoritmi, i consumi energetici dei data center, l’uso malizioso, repressivo, propagandistico o militare dei nuovi strumenti. Ovviamente c’è chi non è d’accordo e contesta ogni presa di posizione dogmatica contro l’impiego dell’IA nella ricerca.

Il dibattito corrente sembra scappare in tutte le direzioni e giova perciò riportarlo alla domanda fondamentale: la scrittura assistita farà davvero crescere qualitativamente la letteratura scientifica, o la farà solo proliferare? Secondo l’astrofisico Gianfranco Bertone, l’IA ha rotto definitivamente l’equilibrio tra produzione e consumo di articoli sul quale si reggeva, nonostante tutto, il sistema delle pubblicazioni scientifiche. Il costo e il tempo di produzione di un articolo sono crollati, leggerlo e valutarlo rimane invece la solita, lenta e dispendiosa attività umana di sempre. Se questa asimmetria si crea all’interno di una cultura che antepone la quantità della scrittura alla qualità, una cultura nella quale gli articoli non servono solo a comunicare la ricerca ma anche ad accumulare credenziali accademiche e far guadagnare gli editori, quel che accade è che la letteratura cresce più velocemente di quanto la comunità scientifica stessa la possa leggere, giudicare e integrare alla conoscenza acquisita. 

È dello stesso avviso Giorgios Kallis, teorico della decrescita: le riviste saranno travolte da articoli scadenti, il sistema di peer review diventerà impraticabile, l’AI pollution costerà negli anni un’inimmaginabile quantità di tempo ai ricercatori e agli studenti incappati in paper inutili che sarebbe stato meglio non pubblicare. Kallis pone una domanda che tocca un nervo scoperto: se esistono usi positivi e negativi dell’IA, perché non limitare, scoraggiare e addirittura sanzionare o proibire quelli negativi? La sovrapproduzione di testi manifesta un tasso di crescita insostenibile che si scontra con i limiti umani, perché non siamo in grado di leggere al ritmo con cui l’IA generativa può scrivere.

Che ne elevi la qualità o meno, quando l’IA moltiplica gli articoli pubblicati si crea per Bertone un “valore epistemico negativo”: il contributo conoscitivo delle nuove pubblicazioni non compensa lo sforzo di assimilazione richiesto alla comunità scientifica e non giustifica più il consumo di risorse scarse come il tempo e l’attenzione dei ricercatori. Il che non implica che si rinunci in toto all’uso dell’IA nelle attività di ricerca, poiché i benefici sono evidenti, ma occorre che il costo-attenzione degli articoli non superi a dismisura il loro valore epistemico. In un’economia delle pubblicazioni più lenta, responsabile e sostenibile, l’IA dovrebbe permettere ai ricercatori di scrivere meno, non di più. Dovrebbe rendere la scienza più libera di rischiare, digredire, comprendere in profondità e non solo produrre di più, o più in fretta. Con i dovuti distinguo, lo stesso discorso vale per la letteratura, il giornalismo culturale, anche per l’arte.

Pensare che digitare qualche comando in un generatore di testi sia una forma di creatività rivela un profondo malinteso su ciò che è la scrittura e su come andrebbe considerata. La scrittura rimane un mistero perché c’è qualcosa di magico, di religioso, in questo nostro sforzo di mettere in fila le parole per provocare uno zampillo di senso nella mente altrui. Ogni epoca elegge i propri miti, e la missione del dotto è quella di non credervi: la promessa tecnologica che viene dalla Silicon Valley è di rendere la scrittura praticabile senza notti insonni e tormenti interiori. Se siamo ancora persuasi che il valore di un’opera dell’intelletto stia in rapporto con le meningi affaticate che l’hanno prodotta, questo non vuol dire che debba essere così per sempre. Con i LLM possiamo generare opere di valore senza sforzo, e sarebbe stupito continuare a considerare gratificanti le attività intellettuali solo perché ci costano fatica. Eppure, sembra esserci un cortocircuito in questo modo di porre la questione.

Sommersi come siamo dal profluvio di contenuti irrilevanti spacciati per opere di cultura, ci vuole poco a diventare insensibili alle cose dell’arte. Trasformando chiunque in un creator di content, la scrittura assistita rischia di privilegiare la quantità dell’offerta culturale a scapito della qualità dell’esperienza. E i valori promossi dall’industria che sostiene l’IA (convenienza, efficienza, produttività, redditività, velocità) sembrano essere incompatibili con le virtù della scrittura (profondità, divagazione, imprevedibilità, lentezza, scomodità, rischiosità, intimità, autenticità). O almeno lo sono con un tipo di scrittura estenuante ma trasformativa che, per antitesi, possiamo chiamare slow writing. Praticarla non significa rifiutare i vantaggi della tecnologia, ma non adagiarsi sulle sue scorciatoie, e continuare a imparare.