Una misura pensata soprattutto per scuole e università, alle prese con compiti, saggi e verifiche scritti con l’intelligenza artificiale e poi consegnati come lavori propri. A spingere in questa direzione ci sono anche le nuove regole europee sulla trasparenza dell’AI. Il sistema, ha spiegato l’azienda, inserirà nel testo una sorta di impronta nascosta: impossibile da vedere a occhio nudo, ma riconoscibile con strumenti informatici.
Con la nuova funzione, Claude “intreccerà un watermark impercettibile direttamente nel testo”, ha fatto sapere Anthropic. Il segnale, secondo l’azienda, non dovrebbe cambiare né il significato né la qualità della risposta prodotta dal chatbot. In sostanza, un elaborato scritto con l’aiuto dell’AI potrà essere controllato e risultare compatibile con una produzione automatica.
La novità tocca da vicino il mondo della scuola. Negli ultimi anni strumenti come Claude e ChatGPT sono entrati nelle abitudini degli studenti: c’è chi li usa per riassumere testi, chi per preparare bozze, chi per completare interi elaborati. Secondo quanto riportato dal Telegraph, oltre nove studenti universitari su dieci avrebbero usato strumenti di AI generativa per attività legate alla valutazione. Un numero che, nelle aule, ha già cambiato molte cose.
Molti studenti dicono che l’AI aiuta a risparmiare tempo e a ottenere testi più ordinati. Scuole e atenei, però, segnalano un aumento dei casi disciplinari. Migliaia di ragazzi, in diversi Paesi, sono stati sanzionati per aver presentato come proprio un lavoro prodotto in tutto o in parte da un chatbot. È qui che entra in gioco il watermark: una traccia silenziosa, pensata per lasciare un segno.
Segnali nascosti nei testi AI, come funziona la nuova traccia
Anthropic non ha spiegato nei dettagli il funzionamento del nuovo sistema di watermarking testuale. Il principio usato dai ricercatori del settore, però, è noto. Quando genera una frase, il modello può scegliere tra parole diverse e favorirne alcune seguendo uno schema nascosto. Alla fine nasce una sequenza che un programma di controllo può riconoscere.
Un esempio semplice aiuta a capire. In una frase come “Bob è andato a vedere il suo…”, il modello potrebbe scegliere tra “avvocato” e “legale”. Una delle due parole, in quel punto, può adattarsi meglio al disegno del watermark. Su poche righe il segnale sarebbe debole. Su un testo lungo, invece, decine o centinaia di piccole scelte di parole possono formare un’impronta statistica.
Il punto, ha chiarito l’azienda, è che il sistema lavora su schemi di parole, non su singoli termini presi da soli. Questo dovrebbe rendere più difficile cancellare il segnale con una modifica minima, una sostituzione veloce o una rilettura superficiale. Anthropic ha avvertito che un testo potrà risultare ancora marcato come generato dall’AI anche se il chatbot è stato usato per accorciare, riscrivere o correggere un elaborato. Insomma, non basterà cambiare due frasi.
AI Act europeo, la norma che spinge Anthropic ad allargare il watermark
La decisione di Anthropic arriva dentro il quadro dell’AI Act europeo, che introduce obblighi di trasparenza per chi fornisce sistemi di intelligenza artificiale. Il codice di trasparenza legato alla norma è entrato in vigore la scorsa settimana e prevede che le aziende rendano riconoscibili i contenuti generati dall’AI: testi, immagini, video e file.
Secondo quanto comunicato, le società dovranno adottare sistemi di marcatura entro dicembre. OpenAI, sviluppatrice di ChatGPT, ha firmato il codice, ma non ha ancora chiarito nel dettaglio come intenda applicare il watermark ai testi. Google, invece, ha già presentato SynthID, un sistema per identificare i contenuti generati dall’intelligenza artificiale. Gli strumenti per rilevare i testi, però, non sono disponibili al pubblico.
Anthropic ha scelto di non fermarsi all’Europa. Il watermark sarà applicato a livello globale, sia nei nuovi sistemi di AI rilasciati da ora in poi sia, poco alla volta, in quelli già esistenti. L’azienda ha aggiunto che marcherà anche i file prodotti dal chatbot, così da indicare che sono stati creati con strumenti di intelligenza artificiale. Una scelta legata alle regole europee, certo, ma anche a un mercato che ormai non ha confini.
Scuole e università, controlli e prove orali contro chi aggira le regole
Nel mondo dell’istruzione la reazione è stata prudente, ma positiva. Pepe Di’Iasio, segretario generale dell’Association of School and College Leaders, ha detto che gli insegnanti “accoglieranno con favore tutto ciò che li aiuta a capire quando gli studenti usano l’AI e a garantire condizioni eque per tutti”. Poi ha aggiunto, con realismo, che alcuni proveranno comunque a trovare modi per aggirare i controlli.
La questione, infatti, non si risolve solo con la tecnologia. In Danimarca, il governo ha annunciato la scorsa settimana che gli studenti dovranno difendere oralmente i propri elaborati, proprio per contrastare l’uso improprio dell’AI nei compiti scolastici. Una verifica a voce, davanti al docente, può mostrare se lo studente conosce davvero ciò che ha consegnato. Un software, da solo, non sempre basta.
Per i dirigenti scolastici il rischio è doppio: da una parte l’ingiustizia verso chi lavora senza scorciatoie, dall’altra la perdita di apprendimento per chi delega tutto alla macchina. “L’uso improprio dell’AI non è solo scorretto verso gli altri”, ha spiegato Di’Iasio, “ma significa anche che gli studenti non stanno davvero imparando ciò che serve per capire la materia”. Il watermark di Claude, dunque, apre una nuova fase: più controlli, più trasparenza e, con ogni probabilità, nuove discussioni nei corridoi di scuole e università.
