Stereotipi nei LLM: Il richiamo all’azione dell’UNESCO
Lo studio dell’UNESCO sui Large Language Models (LLM) ha rivelato evidenze allarmanti di stereotipi di genere regressivi, omofobia e stereotipi razziali. Le donne sono state spesso associate a ruoli domestici, mentre gli uomini a ruoli di business e carriera. Questo pregiudizio è presente in modelli come GPT-3.5, GPT-2 e Llama 2. Nonostante gli LLM open […]
Lotta contro l’automazione delle disuguaglianze: il ruolo dell’IA
L’intelligenza artificiale e i sistemi di decisione automatizzati (Adm) sono sistemi che spesso si basano su algoritmi opachi e possono influenzare decisioni in settori sensibili come la giustizia e la salute, con conseguenze potenzialmente disastrose a causa di pregiudizi e errori intrinseci. Gli algoritmi, addestrati su dati fallaci, possono perpetuare discriminazioni esistenti, creando ciò che […]
Pregiudizi razzisti e stereotipi linguistici occulti: il lato oscuro degli LLM
Una recente ricerca ha evidenziato come i grandi modelli linguistici come ChatGPT, non si limitano ad assorbire le opinioni razziste presenti nelle milioni di pagine web su cui sono addestrati, ma le riflettono anche. Nonostante gli sforzi svolti dagli sviluppatori per mitigare questa tendenza, i risultati indicano che i modelli, soprattutto quelli più grandi, tendono […]
Rappresentazioni “Razzialmente Diversificate”: Google Risponde.
Gemini, un’applicazione di intelligenza artificiale di Google, oltre alle numerose immagini ha generato non poche controversie, mostrando risultati “razzialmente diversificati” quando sono stati richiesti ritratti di figure storiche come i Padri Fondatori americani, i papi e persino i nazisti. Questa diversità ha portato anche figure influenti come Elon Musk a far parte delle loro critiche. […]
Chatbot avanzati perpetuano idee mediche razziste e già smentite
Un nuovo studio condotto dai ricercatori della Stanford School of Medicine ha rilevato che ChatGPT e GPT-4 di OpenAI, Bard di Google e Claude di Anthropic sembrano rafforzare false credenze a lungo sostenute sulle differenze biologiche tra bianchi e neri. Alimentati da modelli di intelligenza artificiale addestrati su moltissimi testi estratti da Internet, i chatbot […]
Algorithms of Oppression
How Search Engines Reinforce Racism di Safiya Umoja Noble Uno sguardo su come i pregiudizi negativi nei confronti delle donne nere siano incorporati negli algoritmi dei motori di ricerca. In Algorithms of Oppression, Safiya Umoja Noble sostiene che la combinazione di interessi privati nella promozione di alcuni siti, insieme allo status di monopolio di un […]
