Post con tag #Interpretabilità
-
La stanza cinese si apre: intelligenza, comprensione e coscienza, fra il linguaggio e l'antropocentrismo
Intelligenza, comprensione e coscienza sono tre domande diverse, con tre standard di prova diversi: alla prima si risponde misurando il comportamento, alla seconda guardando dentro il sistema, alla terza oggi non si risponde, e si può dire con precisione perché. Il percorso va da Turing a Searle a Chalmers e arriva al punto nuovo: la stanza cinese è stata costruita davvero, è un modello linguistico (LLM), e gli strumenti dell'interpretabilità cominciano ad aprirla, trovando rappresentazioni del mondo costruite da solo testo e scritte in categorie che non sono le nostre. Il linguaggio attraversa l'intero quadro: descrive la realtà come la vede l'uomo, traduce i nostri sensi e la rappresentazione che l'evoluzione ci ha concesso; un sistema addestrato sul testo parte così da una descrizione antropocentrica del mondo (forse un passaggio intermedio, finché non esisteranno sensi diversi dai nostri) e dentro quella descrizione costruisce categorie che antropocentriche potrebbero non essere. In mezzo, una prova replicabile su un computer qualunque, con un modello da mezzo miliardo di parametri: il profilo frastagliato delle capacità, la sua spiegazione meccanica, la distanza fra la scala di difficoltà del sistema e la nostra.