Fermiamoci un attimo. Che cosa vogliamo che gli LLM facciano per noi e che cosa vogliamo che, invece, resti umano? Non sarebbe il caso di rispondere a questa domanda prima di sviluppare modelli sempre più avanzati (come fanno americani e cinesi) o di promulgare regole sempre più vincolanti (come fanno gli europei)? Senza una risposta rischiamo di fare entrambe le cose alla cieca: costruire macchine sempre più capaci senza sapere quali compiti finiranno per fare in equilibrio, oppure proteggerci dalla loro invadenza senza aver deciso prima che cosa, esattamente, valga la pena proteggere.
Partiamo dalla notizia del mese. Ad agosto è entrato in vigore l’articolo 50 dell’AI Act europeo e Anthropic ha risposto per prima: Claude ora incorpora un watermark invisibile in ogni testo. Non un’etichetta o un metadato che si cancellano con un copia e incolla, ma una firma nascosta nella scelta delle parole. Ogni volta che il modello deve scegliere tra due sinonimi, una chiave segreta fa preferire uno dei due con una certa probabilità. Su una frase non si vede niente. Su tre pagine, chi ha la chiave capisce se Claude ha agito pesantemente su quel testo o no. Google lo fa dal 2024. OpenAI, Meta, Microsoft e Mistral hanno firmato il codice di condotta della Commissione europea e si adegueranno presto. Per ora, manca solo Grok di Elon Musk.
Per carità: la tracciabilità è condivisibile in linea di principio. Ma il diavolo, al solito, sta nel meccanismo. E il meccanismo tradisce l’assenza della domanda. Il watermark coglie la scelta delle parole, non la costruzione delle idee. Non misura se un’AI ha pensato al posto nostro. Misura se un’AI ha scritto frasi nella stesura finale. Che è la cosa meno interessante da sapere, a meno che non stiamo parlando di un romanzo o una poesia. Vediamo tre conseguenze buffe di questa regola (europea ma con effetti globali).
Prima conseguenza: la regola si aggira facilmente. Basta far scrivere a Claude la struttura e l’argomento di un testo e poi chiedere a un modello che non firma di rifare la prosa. Grok, finché Musk non aderisce. Oppure un modello a pesi aperti fatto girare sul proprio computer: il marchio sparisce e non ne arriva un altro, perché sul proprio portatile la chiave segreta non c’è. Così il watermark non scova chi usa l’AI, ma chi la usa peggio.
Seconda conseguenza. Per gli utilizzatori meno sofisticati che non ricorrono al trucco di cui sopra, l’incentivo diventa perverso: passare ore a riscrivere a mano un testo generato dalla macchina, per non beccare lo stigma del testo sintetico. Un’attività con zero contenuto, che ruba tempo alla costruzione del ragionamento. Il watermark risponde alla domanda: Claude ha scelto quelle parole? Ma non risponde alla domanda che dovrebbe interessarci: chi ha avuto le idee che stanno dietro a quelle parole, un umano o una catena probabilistica? Una divisione del lavoro sensata dovrebbe lasciare all’umano le idee, la struttura e il giudizio, esternalizzando alla macchina prosa e grammatica.
C’è poi una terza questione, più di nicchia ma altrettanto istruttiva rispetto alla domanda. Assumiamo che qualcuno abbia costruito una “skill” di Claude allenata su tutti i suoi scritti, più istruzioni aggiuntive. Quando il modello scrive un testo usando la skill, chi lo ha prodotto? Il watermark dirà: Claude. Ma Claude sta imitando una voce costruita in anni di scrittura pre-LLM, senza la quale quel testo non ci sarebbe. Se il ragionamento viene da prompt successivi di un essere umano e la prosa imita la sua scrittura precedente, se l’umano corregge e approva il risultato: allora, dire “questo testo è di Claude” descrive male il processo intellettuale. E c’è un paradosso. Se Claude valorizza un’intuizione contenuta in un articolo scritto quando Claude non esisteva, chi sta usando chi? Alla fine della fiera, serve una nozione meno infantile di autorialità.
Torniamo, così, alla domanda di partenza: che cosa vogliamo esternalizzare e che cosa deve restare umano? O meglio: in quali attività l’umano è il valore e non l’ornamento?
In un podcast che ho ascoltato qualche giorno fa, una scrittrice freelance raccontava con orrore che i suoi amici seguono un monaco tibetano creato con l’AI. Concludendo: è pericoloso. Ma perché? Se dobbiamo passare sei mesi in ritiro, ci serve un maestro in carne e ossa: la relazione, la testimonianza, il fatto di esporsi davanti a qualcuno che ha attraversato una disciplina sono elementi costitutivi di ciò che cerchiamo. Se vogliamo un’introduzione al buddhismo, non è chiaro il valore aggiunto di un umano che la ripete per la millesima volta rispetto a un algoritmo che la ripete per la milionesima. Gli Stati Uniti sono pieni di predicatori televisivi che spillano soldi ai fedeli: veri, in carne e ossa, più pericolosi di un bot. Anche essere umani non significa essere innocui.
Per carità: i rischi dell’AI esistono, ma sono diversi dall’editto “non è una persona”. Il problema non è il silicio: sono la scala e gli incentivi dell’automazione. Ingegnerizzare persuasione e dipendenza su scala industriale. Non avere nessuno che risponda di ciò che viene detto. Concentrare il potere in chi controlla il sistema. Lì sta il rischio.
La scrittrice di cui sopra raccontava con disgusto le fabbriche di influencer artificiali. Anche qui, però: se il prodotto è un mix di attrattività, raccomandazioni commerciali e contenuti seriali, l’influencer AI rende solo evidente quanto fosse industrializzato quello umano. È buffo difendere Kardashian in carne e ossa come patrimoni dell’autenticità.
La scrittura è il terreno dove la domanda si fa seria. E conviene distinguere tra scrittura come opera e scrittura come interfaccia del pensiero. Nella prima, la forma è parte sostanziale del prodotto. Una poesia non è un’idea ricoperta di parole: le parole sono l’opera. Un grande romanzo non è un file di informazioni che potrebbe essere convertito senza perdite in un’altra forma. Se riscriviamo Proust “più chiaramente”, non abbiamo ottimizzato Proust. Abbiamo distrutto Proust. Un romanzo che deve accarezzare l’anima parola per parola ha bisogno di uno scrittore o di una scrittrice.
Ma una quota enorme della scrittura sociale non funziona così. Uno studio scientifico non vale perché la frase diciassette è stata cesellata dall’autore. Vale se pone una domanda nuova, trova dati buoni, costruisce un’identificazione credibile, scopre un risultato interessante e lo interpreta in modo intelligente. Un editoriale vale per quello che ha da dire. Una nota di policy per la proposta che contiene. Un post per l’argomento che mette in circolo. In questi casi la prosa è in parte un’interfaccia: una tecnologia di trasmissione del pensiero. E se una macchina usa bene quella tecnologia, non vedo perché dovremmo obbligare gli esseri umani a continuare a produrla artigianalmente. Sarebbe come pretendere che una scienziata disegni i grafici a mano nei suoi studi.
Nel mondo scientifico, poi, c’è un altro tema: l’uso dell’inglese. Per decenni l’accademia ha remunerato una caratteristica accidentale: essere madrelingua o aver passato molti anni in ambienti anglofoni. Se l’AI abbatte quella rendita, non impoverisce la scienza: separa il premio per il pensiero dal premio per la padronanza della lingua dominante. Vedremo meno diversità in superficie, perché tutti scriveranno un inglese standard. Ma ci sarà più diversità sulle idee, perché dietro quell’inglese ci saranno provenienze, culture e intuizioni che prima restavano fuori dalla porta. Mi sembra un buono scambio.
Il punto vale, tra parentesi, anche per noi italiani. Se un modello permette a uno straniero di dire una cosa intelligente nella nostra lingua, vuol dire che ha abbassato una barriera all’ingresso nel mercato delle idee. Vogliamo rialzarla, perché le idee espresse in italiano spettano solo agli italiani? Non mi sembra una grande idea.
C’è però un’obiezione seria a tutto il mio ragionamento. Scrivere non significa sempre prendere un pensiero già compiuto e trasformarlo in parole. A volte scopriamo ciò che pensiamo proprio mentre proviamo a scriverlo. Una frase che non funziona può rivelare che non funziona l’argomento. Due parole che sembravano sinonimi obbligano a vedere una definizione. La fatica di ordinare tre paragrafi è talvolta la fatica di ordinare idee. Se deleghiamo troppo presto quella fatica alla macchina, rischiamo di delegare non soltanto la prosa ma un pezzo di pensiero. Questo è il confine che vale la pena discutere. Non “AI oppure umano”, ma: dove avviene il lavoro cognitivo che vogliamo preservare?
Dovrebbe preoccuparci uno studioso che chiede a un LLM “dammi una nuova teoria della fecondità” e poi mette il proprio nome sul risultato. Non uno studioso ghanese che ha una teoria originale della fecondità e usa Claude per renderla fruibile sul New York Times. Ma – e qui sta il paradosso – con il watermark il primo la fa franca, mentre il secondo è additato al pubblico ludibrio per aver usato Claude pesantemente.
Mi viene, poi, un sospetto. Una parte della resistenza culturale all’uso di LLM nella scrittura nasce dal fatto che abbiamo attribuito molto prestigio ad attività che scopriamo essere facilmente standardizzabili. Scrivere in buona prosa, professionale o generalista, è stato a lungo un segno di competenza. Ma i segni devono adattarsi alla tecnologia. Saper fare una divisione a quattro cifre a mente, una volta, era un segno di competenza matematica. Oggi non più. La calcolatrice non ha abolito la matematica. Ha spostato verso l’alto ciò che chiediamo a chi fa matematica. Lo stesso vale per la scrittura. Se il tuo vantaggio comparato sta nella fluidità del tuo inglese accademico, hai un problema. Se consiste in qualcosa che nessun altro ha pensato prima di te, molto meno. Chi ha molte idee sarà felice di liberare tempo dalle virgole. Chi viveva soprattutto delle virgole, invece, addurrà ottime ragioni per dichiararle patrimonio dell’umanità.
Ciò non significa che dobbiamo consegnare tutto alle macchine. Al contrario. Dovremmo scegliere con molta più attenzione ciò che non vogliamo consegnare. La responsabilità. Il giudizio. L’esperienza vissuta. La scoperta scientifica. L’intuizione. La scelta di quali domande meritino di essere poste. Una voce letteraria, laddove la voce stessa è l’opera. E, soprattutto, il pensiero. Per il resto, parliamone. Ma senza sprecare troppo tempo a chiederci se una frase ha il watermark di qualche LLM. Rischieremmo di non avere altro tempo, altrimenti, per chiederci se dietro a quella frase c’è davvero un’idea.