Dall’ottobre scorso, la casa editrice americana Penguin Random House – una delle 5 più grandi case editrici degli Stati Uniti (le altre sono Hachette, HarperCollins, Macmillan e Simon & Schuster) – ha adottato nuove misure per proteggere i propri libri dallo sfruttamento indiscriminato. È una tutela per la casa editrice e per gli autori.
In ogni nuovo libro e nelle ristampe di titoli già pubblicati comparirà la clausola che vedete:
L’ultimo brano dice chiaramente che “Nessuna parte di questo libro può essere utilizzata o riprodotta in alcun modo allo scopo di addestrare tecnologie o sistemi di intelligenza artificiale”.
La Penguin si è unita con l’Association of American Publishers e con oltre 50.000 fra autori (uno dei quali è il Premio Nobel Kazuo Ishiguro e un altro è James Patterson), creativi (figura anche l’attore Kevin Bacon) e istituzioni culturali a livello mondiale (sono presenti, nostrane, ALAI Italia e Writers Guild Italia) in questa battaglia contro l’utilizzo improprio delle opere creative da parte di aziende proprietarie di modelli di intelligenza artificiale generativa.
Ho firmato anch’io, pur essendo uno sconosciuto qualunque.
L’intelligenza artificiale ha fame di testi
Nel mio articolo sul funzionamento della scrittura di un’IA ho spiegato che questi programmi generativi sono addestrati grazie a un enorme insieme di dati di testo.
Ma che cosa sono i dati di testo?
L’ho chiesto prima a Gemini, l’intelligenza artificiale generativa di Google, che ha risposto in maniera troppo generica (e preoccupante):
- Libri: Una vasta gamma di generi, dalla narrativa alla saggistica.
- Articoli: Notizie, articoli scientifici, blog e articoli di riviste.
- Pagine web: Contenuti di siti web di vario tipo.
- Conversazioni: Trascritti di dialoghi, chat, forum online.
- Codice sorgente: Per IA che devono comprendere o generare codice di programmazione.
- Testi specialistici: Documenti legali, medici, finanziari, a seconda dello scopo dell’IA.
Non è per nulla chiaro se venga chiesta un’autorizzazione a prelevare simili testi.
Ho posto la stessa domanda a ChatGPT:
- Libri (di pubblico dominio o con licenza)
- Wikipedia
- Pagine web (attraverso il web scraping)
- Conversazioni simulate o reali (con autorizzazione)
- Codice open source (come da GitHub)
- Articoli scientifici, enciclopedie, forum (tipo StackExchange)
La risposta è stata meno preoccupante. Il web scraping è la “raschiatura del deserto”, una vecchia tecnica che consiste nel prelevare testi da siti non più attivi tramite Archive.org e poi ripristinarli guadagnando i link in entrata dei vecchi siti.
Ho chiesto allora a Gemini se venga chiesta l’autorizzazione per usare quei testi. Ecco la risposta:
La questione se le IA debbano chiedere l’autorizzazione per usare testi di libri, articoli, pagine web, ecc. per il loro addestramento è uno dei dibattiti legali ed etici più complessi e accesi nel campo dell’intelligenza artificiale.
Un dibattito, capite?
Non sempre chiedono esplicitamente l’autorizzazione. Molti modelli di IA generativa (Large Language Models – LLM) sono stati addestrati su enormi quantità di dati raccolti dal web attraverso tecniche di “web scraping”. Spesso, questi dati includono contenuti protetti da copyright senza un’esplicita autorizzazione dei titolari dei diritti.
E la ciliegina sulla torta:
In conclusione, la situazione è fluida e soggetta a interpretazioni legali. Mentre alcuni dati vengono acquisiti legalmente tramite licenze o perché di pubblico dominio, una parte significativa dei dati di addestramento per le IA attuali è stata raccolta senza un’esplicita richiesta di permesso, portando a controversie e a un dibattito globale su come bilanciare l’innovazione dell’IA con i diritti d’autore.
Secondo ChatGPT, di OpenAI, l’autorizzazione serve per:
- Contenuti coperti da copyright senza licenza aperta
- Contenuti a pagamento o dietro paywall
- Contenuti privati o sensibili
A quanto pare oggi esistono oltre 2000 IA applicate alla scrittura. Siamo sicuri che tutte prelevino testi autorizzati?
Una questione di proprietà intellettuale
L’uso non autorizzato di testi e contenuti rappresenta una violazione dei diritti di riproduzione di un’opera. Quindi un danno per autori e case editrici.
Provate a immaginare una di questa aziende che prelevi l’intero testo di un saggio storico appena uscito per addestrare i suoi programmi di intelligenza artificiale generativa. Non rappresenta un danno per il saggista e la casa editrice?
Oggi prelevare un testo da un libro è semplicissimo. Il sito Archive usa Table Top Scribe, in pratica uno speciale scanner per digitalizzare i libri, sistema che usano anche le nostre biblioteche, figuratevi se non possano possederne uno le aziende di intelligenza artificiale.
Fonte: Archive.org
Noi poveri mortali dobbiamo accontentarci di scattare una foto alle pagine con il cellulare, passare la foto su un programma OCR (Optical Character Recognition), cioè il riconoscimento ottico dei caratteri, e il gioco è fatto.
È giusta la clausola contro l’IA nei libri?
Forse il mio titolo è un po’ improprio. Non si vuole andare contro l’intelligenza artificiale, ma contro l’abuso che se ne fa. Si vuole proteggere la proprietà intellettuale, il lavoro di autori e case editrici, di redattori, di giornalisti, di chiunque scriva per lavoro o per diletto.
Quindi sì, quella clausola introdotta dalla Penguin è giusta e spero che anche le case editrici italiane si attivino in tal senso.
Vuoi firmare anche tu?
Puoi farlo dal sito Statement on AI training, il cui motto recita:
L’uso non autorizzato di opere creative per la formazione dell’intelligenza artificiale generativa rappresenta una grave e ingiusta minaccia per i mezzi di sussistenza delle persone che creano tali opere e non deve essere consentito.
Scarica il post in PDF
Serena Bianca De Matteis
Da signora Nessuno ho comunque firmato. Sono fermamente convinta che, a meno che non si debbano programmare viaggi interstellari, creare farmaci salvavita, reti di trasporto complesse e cose del genere, l’IA sia più nociva che utile. L’intelligenza artificiale sta ulteriormente stupidificando il genere umano: ci sono ragazzini che chiedono a ChatGPT chi devono invitare alla festa di compleanno o come devono rispondere al messaggio della fidanzata. Non so se essere più disgustata o più preoccupata. Per quanto mi riguarda, continuerò a usare i miei due neuroni finché funzionano, e poi pazienza. Non mi ricordo di chi è questa citazione illuminante: “Non si può restare contemporanei per sempre”.
Daniele Imperi
Il verbo stupidificare è bellissimo e rende alla perfezione la situazione di oggi con l’IA. La gente ormai chiede di tutto a questi programmi generativi. Ma chiedere a ChatGPT chi invitare alla festa di compleanno o come rispondere al messaggio della fidanzata è senz’altro preoccupante, perché è segno di dipendenza fisiologica da quella tecnologia e soprattutto di rinuncia al proprio pensiero. A lungo andare l’uomo sarà sempre meno “essere pensante” e sempre più “essere delegante”.
Orsa
Non sapevo che Archive fosse una fonte accessibile alle AI. Comunque non capisco il perché tu ne faccia uso “chiedendo” loro cose o pareri: lo fai per studiare il nemico?
Daniele Imperi
Secondo me soltanto le IA che possono connettersi hanno accesso al sito Archive, ma trovo difficile che riescano a effettuare ricerche e leggere i testi.
Chiedo loro certe cose per verificare come rispondono, se mentono, e in teoria dovrebbero dire quali sono le loro fonti.
E sì, anche per studiare il nemico
Nadia Crucitti
Ho firmato. Adesso inoltrerò alla casa editrice, piccola ma interessante, che pubblicherà a breve un mio saggio ibrido, per far firmare tutti i componenti. Grazie
Daniele Imperi
Salve, Nadia, benvenuta nel blog. Ottima idea di inoltrare l’iniziativa alla casa editrice.
P. Nestore Falchieri
Premetto che io sono contrario al dare la tecnologia alle masse. Se un vantaggio può essere facilmente portato a un eccesso negativo, non tutti devono avere accesso a quel vantaggio.
Detto ciò, per spirito di discussione, prendo le difese dell’IA.
i) In un ripiano della mia libreria ci sono almeno due libri del genere “Cosa dire o scrivere in ogni occasione”. Veramente qualcuno ha pagato i diritti ai discendenti di Platone o di Goethe o di qualcuno piú moderno per l’utilizzo d’una singola frase?
ii) Se voi fate una citazione da Harry Potter, pagate i diritti alla Rowling?
iii) Il problema è soltanto che qualcuno guadagna dalla citazione senza pagare il “proprietario” della citazione?
iv) O il problema è che le IA sono molto efficienti mentre una persona che conosce a memoria un intero libro, Roberto Benigni, anche se guadagna, non crea molto danno? (A mio parere questo è il passaggio fondamentale per una miriade di ragionamenti riguardanti i diritti, o meglio, le pretese di oggi.)
La fonte allenatrice delle IA è ancora un problema quando le risposte che abbiamo ora sono formalmente gratuite? (punto iii)
Partendo dal presupposto che abbiamo sempre chiesto consigli, non è meglio che le IA abbiano ancora piú testi a disposizione in modo da fornire risposte piú corrette? Non credo che il vicino che mi consiglia d’abbracciare l’ulivo per curarlo dalla xylella sia un vantaggio rispetto alle IA.
Qual è la differenza fra cercare io un filmato su YouTube su come riparare un tubo a gomito e chiedere all’IA di trovarmi un filmato adatto? A parte il fatto che è poco probabile che io da solo trovi il filmato giusto al primo colpo? (O è proprio questa l’unica differenza?)
Esempio basato sulla pittura
Copisti, paesaggisti, caricaturisti dovrebbero essere illegali come le IA?
Secondo la legge «l’importante è che non ci sia lo scopo di lucro, nel senso che la copia [esatta] non può essere spacciata per l’originale» e «il falso d’autore non è reato quando viene riconosciuto come tale».
Anche la definizione di quota parte per ricadere nel caso di plagio è normata; e le citazioni, le parodie e altro simile sono concessi.
Il problema di ChapGPT non è quando fornisce risposte a domande, ma quando la domanda chiede di creare qualcosa?
E i pittori che danno un pennello a un elefante o a una scimmia e poi vendono le opere? O il pittore che colorava vermi e li lasciava correre sulla tela? O il pittore che lanciava secchi di vernice contro le tele bianche? Stanno commettendo tutti reato poiché non c’è perizia? (Secondo me sí.)
Mi fermo.
Daniele Imperi
Rispondo ai tuoi 4 punti e al resto.
1) Platone e Goethe sono morti da oltre 70 anni, quindi i diritti decadono e i loro scritti diventano di pubblico dominio.
2) Il diritto di citazione è lecito.
3) Idem come sopra.
4) Le IA sono veloci, non efficienti, è diverso.
Non è affatto meglio che le IA abbiano più testi a disposizione, proprio per una questione di diritti. Non puoi digitalizzare interi libri per scopi commerciali (le IA sono create in questo senso).
Per cercare qualcosa su Youtube o altrove non hai bisogno dell’IA.
I paragoni con la pittura non reggono.
P. Nestore Falchieri
Non esattamente.
1) Ho scelto apposta autori “vecchi” ma stranieri, poiché noi, italiani, non li citiamo in tedesco, ma citiamo la traduzione di qualcuno che è protetta dai diritti. Che poi è il motivo per cui una casa editrice ripubblica un autore straniere dopo qualche decennio in una nuova traduzione.
2) Ci sono stati film che hanno dovuto chiedere i diritti poiché in qualche passaggio si vedeva per alcuni secondi un altro film o serie.
Molte barzellette hanno un padre e noi le abbiamo sentite o lette e le abbiamo citate. E, poiché il nostro scopo è far ridere, siamo in concorrenza col proprietario.
3) Le IA citano piccoli brani o frasi da molti autori e, spesso, citano l’autore. Tutto regolare e non è plagio.
4) Parlo d’efficienza poiché io risparmio moltissimo tempo rispetto a fare le cose da me, appunto perché le IA sono incomparabilmente piú veloci di me.
Concordo che lo scopo delle IA è anche commerciale, ma, per l’uso nostro di ChapGPT e simili, è come se non fosse commerciale. Un’azienda che usasse un’IA per affari dovrebbe pagare e il proprietario delle IA dovrebbe pagare i diritti. Se un domani noi avessimo la pubblicità nelle risposte, il proprietario delle IA dovrebbe pagare i diritti.
Vero che non è necessaria per cercare in YouTube, ma posso farglielo fare ed è piú veloce di me. Qui non stiamo parlando di necessità, molte cose non sono necessarie.
Perché l’ignoranza generativa di un’IA non è paragonabile all’ignoranza generativa di un verme?
Daniele Imperi
1) Ma anche degli autori stranieri i diritti decadono dopo un certo tempo. In quasi tutti i paesi è 70 anni dopo la morte.
2) I diritti cinematografici funzionano in modo diverso. Il paragone con le barzellette non regge: avranno anche un padre, ma se non ne ha depositato i diritti non può far nulla. Alcune si trovano in libri di barzellette: ti pare che l’autore non immagini che poi qualcuno le va a raccontare?
3) In quel caso sì.
4) Non confondere la velocità con la qualità. Finora, in base alle mie prove e ricerche, le IA sono mediocri e inaffidabili.
L’uso non commerciale che ne facciamo non significa nulla: quelle IA sono comunque addestrate su dei testi. Se paghi, hai un servizio migliore, tutto qui. Ergo, appropriarsi di un libro per addestrare un’IA è illegale, perché comunque l’uso sarà commerciale.
Riguardo alle secchiate di vernice e ai vermi intinti nel colore, io quella roba non la considero arte, perché non lo è.
Roberto De Giuli
Temo sia inutile. Se una società fa comunque scansionare un testo dall’IA per addestrarla, commette un illecito ma non c’è modo di scoprirlo. Questo vale anche per le foto, i disegni e le illustrazioni.
Il problema è che non abbiamo una tecnologia per difenderci dalle scansioni delle IA: finché un contenuto appare a schermo o su carta sarà sempre possibile scansionarlo, spesso senza lasciare alcuna traccia. Abbiamo davvero un bel problema.
Daniele Imperi
Ciao Roberto, benvenuto nel blog. Per le immagini so che un’azienda di IA è stata denunciata per aver prodotto immagini sullo stile dello Studio Ghibli. Per i testi forse il problema è maggiore, ma un’IA potrebbe sfornare frasi intere prese da un libro e allora si potrebbe scoprire. Il guaio è che a scoprirlo dovrebbero essere i detentori dei diritti.