In vista delle elezioni presidenziali negli Stati Uniti nel 2024, la start-up di intelligenza artificiale Anthropic, sta testando una tecnologia chiamata Prompt Shield. Questa tecnologia, integrata nel suo chatbot GenAI chiamato Claude, mira a rilevare quando gli utenti chiedono informazioni su argomenti politici e li reindirizza a fonti di informazioni sul voto “autorevoli”. Prompt Shield si basa su una combinazione di modelli e regole di rilevamento dell’intelligenza artificiale, mostrando una finestra pop-up agli utenti negli Stati Uniti che chiedono informazioni sul voto ed offrendo loro di reindirizzarli a TurboVote, una risorsa dell’organizzazione non partigiana Democracy Works.
Anthropic riconosce le limitazioni di Claude nel fornire informazioni politiche ed elettorali in tempo reale, affermando che può generare fatti inesatti. La startup prevede di lanciare un intervento specifico per le elezioni con Prompt Shield nelle prossime settimane e intende monitorarne l’uso e le limitazioni. L’azienda ha consultato vari portatori di interessi, tra cui legislatori, altre aziende, società civile, organizzazioni non governative e consulenti specifici per le elezioni nello sviluppo di questa tecnologia.
L’azienda vieta inoltre l’uso dei suoi strumenti in campagne politiche e attività di lobbying, in linea con altre aziende di intelligenza artificiale che implementano politiche e tecnologie per prevenire interferenze nelle elezioni.
Anche OpenAI ha implementato un approccio simile con il suo ChatGPT, indirizzando gli utenti che pongono domande logistiche sul voto a un sito web non partigiano, CanIVote.org. Entrambe le politiche di Anthropic e OpenAI sono in linea con la mancanza di una regolamentazione completa dell’industria dell’intelligenza artificiale nel Congresso degli Stati Uniti, sebbene alcuni stati abbiano presentato leggi che affrontano i deepfake nelle campagne politiche. Piattaforme come Google e Meta hanno preso misure per regolamentare l’uso di GenAI nella pubblicità politica, vietando l’uso di tali strumenti nelle campagne sulle loro piattaforme.
Leggi qui l’intero articolo: Anthropic takes steps to prevent election misinformation
Foto di Element5 Digital su Unsplash
