Post con tag #Watermarking
-
La norma, la filigrana e la penna
Dall'agosto 2026 il testo generato dai modelli di Anthropic porterà una filigrana statistica, in adeguamento all'articolo 50 dell'AI Act. Come si filigrana una sequenza di parole (logit, softmax, entropia: il segnale vive dove il modello è indeciso), che cosa dice davvero quel segnale e quanto regge: una parafrasi lo scioglie, un positivo si può fabbricare, i modelli aperti eseguiti in proprio non lo applicano; con una prova replicabile in locale, filigrana inserita, misurata e rimossa su un modello da mezzo miliardo di parametri. E la domanda a cui il watermark non risponde: un testo è sempre opera di sintesi di qualcuno, e ciò che lo rende affidabile è il processo, le fonti, la responsabilità di chi firma, non la penna con cui è scritto. La filigrana, e la norma che la richiede, aggiungono qualcosa all'affidabilità di un contenuto o rischiano di generare malintesi? La stessa norma, dove parla di responsabilità editoriale, suggerisce la risposta.