Un nuovo studio condotto dai ricercatori della Stanford School of Medicine ha rilevato che ChatGPT e GPT-4 di OpenAI, Bard di Google e Claude di Anthropic sembrano rafforzare false credenze a lungo sostenute sulle differenze biologiche tra bianchi e neri.
Alimentati da modelli di intelligenza artificiale addestrati su moltissimi testi estratti da Internet, i chatbot come ChatGPT e Bard di Google hanno risposto alle domande dei ricercatori con una serie di idee sbagliate e di falsità sui pazienti neri, a volte includendo equazioni inventate e basate sull’etnia, secondo lo studio pubblicato venerdì sulla rivista accademica Digital Medicine.
Gli esperti temono che questi sistemi possano causare danni reali e amplificare forme di razzismo medico che persistono da generazioni, dato che un numero sempre maggiore di medici utilizza i chatbot per farsi aiutare in compiti quotidiani come inviare e-mail ai pazienti o rivolgersi alle assicurazioni sanitarie.
Foto di Sanket Mishra su Unsplash
