MGE, la chiave per un allineamento morale efficace nei modelli linguistici
Un nuovo studio finanziato da OpenAI propone un approccio innovativo all’allineamento morale per i modelli linguistici LLM. L’allineamento morale, cruciale nell’era dell’IA, sta diventando un problema il cui peso aumenta sempre di più nel tempo. Il processo introdotto da quest’approccio innovativo si chiama MGE, “Moral Graph Elicitation” (Elicitazione del Grafo Morale), i cui risultati, secondo […]
LLM: dalla complessità alla semplicità nel recupero delle conoscenze
I modelli linguistici di grandi dimensioni utilizzano una tecnica sorprendentemente semplice per recuperare informazioni memorizzate e i ricercatori hanno scoperto un metodo per esplorare ciò che questi modelli sanno su nuovi argomenti. Questi modelli (come ChatGPT) sono complessi, ma l’uso di funzioni lineari per decodificare le informazioni suggerisce che ci sono meccanismi più semplici al […]
Le conversazioni sull’IA oscillano tra scoperte promettenti e preoccupazioni etiche
Un recente studio condotto dal Santa Fe Institute ha portato alla luce interessanti scoperte sull’IA basata su modelli linguistici. Questo studio ha evidenziato la complessità del flusso di informazioni durante le conversazioni umane e ha stabilito un parallelo con i modelli linguistici basati su reti neurali artificiali, come ChatGPT. Tuttavia, non tutti accolgono con favore […]
Pregiudizi razzisti e stereotipi linguistici occulti: il lato oscuro degli LLM
Una recente ricerca ha evidenziato come i grandi modelli linguistici come ChatGPT, non si limitano ad assorbire le opinioni razziste presenti nelle milioni di pagine web su cui sono addestrati, ma le riflettono anche. Nonostante gli sforzi svolti dagli sviluppatori per mitigare questa tendenza, i risultati indicano che i modelli, soprattutto quelli più grandi, tendono […]
