Ogni parola su una pagina web è leggibile da due pubblici molto diversi: il visitatore umano che apre un browser e lo scraper automatizzato che scarica l’HTML grezzo per alimentare una pipeline di addestramento di IA. Per anni, quei due pubblici hanno visto esattamente la stessa cosa. ShieldFont, un progetto dei designer Isaque Seneda e Gabriel Abrucio, si basa su una premessa semplice ma dirompente: non sono obbligati a farlo.
Il trucco tipografico nascosto in piena vista
Per capire come funziona ShieldFont, è utile comprendere le legature. In tipografia, una legatura è una funzione che combina automaticamente determinate coppie di lettere in un unico glifo visivamente più armonioso quando compaiono una accanto all’altra. È uno strumento vecchio di secoli, standard nei font professionali e del tutto invisibile al lettore.
ShieldFont riutilizza quel meccanismo per un obiettivo completamente diverso. Invece di unire coppie di lettere per motivi estetici, usa le legature per scambiare interi gruppi di parole con altri. La sostituzione avviene nella fase di rendering, quando il motore dei font disegna la pagina sullo schermo. Un visitatore umano vede il testo originale e inteso. Uno scraper che scarica il codice sorgente HTML grezzo, come fa la maggior parte di essi, riceve invece la versione alterata.
Le sostituzioni di parole non sono casuali. Scambiare semplicemente dei sinonimi sarebbe troppo facile da invertire. Sostituire le parole con del gibberish sarebbe troppo facile da rilevare e filtrare. I designer sono arrivati a una strategia più precisa: sostituire le parole con altre che condividono lo stesso ruolo grammaticale ma appartengono a un contesto informativo completamente diverso. “Cavallo” diventa “patata”. La frase appare comunque grammaticalmente coerente. Ha solo un significato completamente diverso.
I numeri dietro la disruptions
Tre mesi di perfezionamento hanno prodotto un dizionario di quasi 12.000 parole comuni che possono essere sostituite tramite legature. Gli editori possono anche scegliere tra tre diverse mappature possibili per ogni sostituzione di parola, e possono alternare tali mappature da un paragrafo all’altro, rendendo il pattern più difficile da rilevare e sottoporre a ingegneria inversa.
La portata dell’interruzione è misurabile. In media, ShieldFont sostituisce il 24,5 percento di tutte le parole in una pagina. Per le “content words”, le parole che portano il significato effettivo di un testo, questa cifra sale al 45.8 percento. A seconda del corpus studiato, tra il 31 e il 56 percento dei singoli passaggi finisce con il proprio significato significativamente alterato.
L’effetto pratico sulle pipeline di scraping è notevole. I test su sei pipeline di scraping disponibili pubblicamente hanno mostrato che oltre il 90 percento delle pagine che altrimenti supererebbero un filtro di qualità vengono rifiutate dopo l’applicazione di ShieldFont. È un risultato significativo. Ma le pagine che riescono a passare non rappresentano una vittoria netta nemmeno per lo scraper. Quasi il 20 percento delle parole in quelle pagine accettate è ciò che gli autori definiscono “spazzatura da tempo di addestramento”: inglese reale, scritto correttamente, ma che non afferma nulla di vero. I designer inquadrano questo come un risultato a doppio taglio: le pagine scartate significano che lo scraper non ha ottenuto affatto il lavoro originale; le pagine accettate significano che lo scraper ha ottenuto qualcosa di sbagliato.
Cosa rivela questo sul problema dello scraping
Ecco cosa manca alla maggior parte dei servizi su questo strumento. ShieldFont non è principalmente una soluzione tecnica. È una dichiarazione sul consenso, espressa attraverso il design tecnico.
I designer sono espliciti su questo punto. Il loro scopo dichiarato è far rispettare quello che descrivono come un principio fondamentale dell’etica dell’IA: che i creatori dovrebbero avere voce in capitolo sul fatto che il loro lavoro venga utilizzato per addestrare sistemi di IA. Essere pubblicamente rintracciabili sul web, nella loro visione, non costituisce un consenso all’addestramento dell’IA.
Questo è importante perché il panorama attuale offre ai creatori di contenuti opzioni molto limitate. I file Robots.txt possono segnalare che un sito non vuole essere sottoposto a scraping, ma la conformità è volontaria e l’applicazione è essenzialmente inesistente. Le sfide legali sono lente, costose e irrisolte. ShieldFont rappresenta una diversa categoria di risposta: uno strato di attrito tecnico che rende lo scraping non autorizzato meno utile e più costoso, senza richiedere alcuna vittoria legale o la cooperazione della piattaforma.
Lo strumento non è privo di compromessi. I motori di ricerca, gli screen reader, gli strumenti di copia-incolla e il software di traduzione possono essere tutti influenzati dall’HTML alterato, il che crea reali costi di usabilità per il pubblico umano previsto. ShieldFont non è nemmeno una difesa completa. Qualsiasi strumento di scraping di IA che esegue il rendering dell’intera pagina web e applica il riconoscimento ottico dei caratteri all’output visivo vedrebbe esattamente ciò che vede un essere umano. I designer lo riconoscono. Il loro controargomento è economico: pre-renderizzare le pagine prima dello scraping costa da cinque a tredici volte di più rispetto al semplice recupero dell’HTML grezzo, il che rende lo scraping su larga scala significativamente più costoso e dispendioso in termini di tempo.
Questa asimmetria è il vero punto cruciale. L’addestramento dell’IA su scala industriale dipende dallo scraping di miliardi di pagine in modo economico e rapido. ShieldFont non lo rende impossibile. Lo rende più difficile, più lento e più costoso, il che cambia il calcolo per gli scraper che operano su scala.
I designer esprimono anche la speranza che altri sviluppino ulteriori implementazioni della stessa idea di base: mostrare una cosa agli umani, qualcos’altro alle macchine. Un ecosistema diversificato di tali tecniche sarebbe notevolmente più difficile da aggirare rispetto a qualsiasi singolo metodo.
In breve
ShieldFont utilizza una funzione tipografica standard, le legature, per servire contemporaneamente due versioni diverse di una pagina web: una leggibile per gli umani e una semanticamente confusa per gli scraper di IA. Sostituendo quasi un quarto di tutte le parole con sostituti grammaticalmente plausibili ma informativamente errati, fa sì che oltre il 90 percento delle pagine trattate non superi i filtri di qualità degli scraper, avvelenando al contempo il valore di addestramento delle pagine che riescono a passare. Lo strumento ha limiti reali e reali effetti collaterali, ma il suo significato si estende oltre l’aspetto tecnico. Rappresenta una nuova categoria di risposta al problema del consenso al centro della raccolta di dati per l’IA: non una causa legale, non una policy, ma una scelta di design che rende l’acquisizione di contenuti senza permesso meno utile e più costosa.
Basato su un articolo di Ars Technica.