“Parole Senza Senso”: I Modelli di Linguaggio Creano Veri Significati?

Nel dinamico campo dell’Intelligenza Artificiale, i modelli di linguaggio (LM) hanno ottenuto un ruolo da protagonisti, sollevando interrogativi che travalicano l’ambito tecnologico per approdare alla filosofia del linguaggio. Un recente articolo di Matthew Mandelkern e Tal Linzen, affiliati alla New York University, ha acceso il dibattito: le parole generate da questi LMs, macchine capaci di costruire sequenze di parole statisticamente coerenti, hanno davvero un riferimento al mondo reale o sono semplicemente un eco senza significato?

La questione è di grande rilevanza. Se le parole dei modelli linguistici non si riferiscono a nulla nel mondo esterno, allora i LMs potrebbero essere ridotti a non più di “pappagalli stocastici”, terminologia coniata da Bender et al. nel 2021 per descrivere sistemi che riproducono il linguaggio senza comprenderne il significato intrinseco. È un’ombra che si allunga sul potenziale di queste tecnologie di comprendere e interagire con il mondo in maniera genuinamente significativa.

Mandelkern e Linzen si avvalgono della tradizione esternalista in filosofia del linguaggio per affrontare questo scetticismo. Secondo questa scuola di pensiero, la referenzialità delle parole non è vincolata dalla necessità di avere credenze, esperienze o capacità specifiche riguardo a ciò che esse denotano. Il problema di fondo, quindi, è se i LMs, privi di una vera esperienza del mondo, possono generare stringhe di testo che siano realmente significative.

Gli autori stimolano una discussione cruciale che va ben oltre la semplice curiosità accademica: ha implicazioni dirette per il modo in cui progettiamo, utilizziamo e interpretiamo l’intelligenza artificiale nel linguaggio. Questo potrebbe significare che i LMs sono già sulla soglia per produrre non solo testi coerenti, ma anche testi con un significato genuinamente ancorato al mondo esterno. Siamo, forse, a un passo dall’affidare ai nostri modelli linguistici non solo la generazione di testo, ma anche la capacità di parlare di cose reali con un significato autentico?

Leggi l’articolo completo Do Language Models’ Words Refer? su ArXiv:

Do Language Models’ Words Refer?

What do language models (LMs) do with language? Everyone agrees that they can produce sequences of (mostly) coherent strings of English. But do those sentences mean something, or are LMs simply babbling in a convincing simulacrum of language use? Here we will address one aspect of this broad question: whether LMs’ words can refer, that is, achieve “word-to-world” connections. There is prima facie reason to think they do not since LMs do not interact with the world in the way that ordinary language users do. Drawing on insights from the externalist tradition in philosophy of language, we argue that those appearances are misleading: even if the inputs to an LM are simply strings of text, they are strings of text with natural histories, and that may suffice to put LMs’ words into referential contact with the external world.