La complessità della sicurezza nell’IA: oltre i limiti dei modelli
La sicurezza dell’IA non è una proprietà intrinseca dei modelli stessi e ciò sta diventando un importante punto di discussione nell’ambito dell’intelligenza artificiale. La sicurezza dipende principalmente dal contesto e dall’ambiente in cui i modelli di IA vengono implementati. Nonostante gli sforzi per migliorare la sicurezza dei modelli di IA, ci sono limiti intrinseci nell’affrontare […]
SafeChat+ di DoorDash, l’IA contro l’abuso verbale nelle consegne
DoorDash introduce SafeChat+, un nuovo strumento alimentato dall’IA che mira a rilevare automaticamente il linguaggio offensivo nelle conversazioni tra consumatori e conducenti di consegna. L’obiettivo è ridurre le interazioni abusive e inappropriate sulla piattaforma di consegna. SafeChat+ utilizza l’IA per esaminare le conversazioni nell’app e segnalare eventuali casi di molestie. Gli utenti possono segnalare gli […]
Furto di tecnologia da Google e arresto dell’ingegnere Linwei Ding.
Un ingegnere informatico cinese, Linwei Ding, è stato arrestato negli Stati Uniti con l’accusa di aver rubato tecnologie di intelligenza artificiale da Google mentre lavorava segretamente per due aziende cinesi. Le accuse contro Ding includono il furto di segreti commerciali e il trasferimento di informazioni confidenziali dalla rete di Google al suo account personale. Questo […]
Allerta sicurezza: L’emergenza dei vermi AI
I sistemi di AI generativi, come ChatGPT di OpenAI e Gemini di Google, stanno diventando sempre più utilizzati per svolgere compiti pratici. Tuttavia, con l’aumento della libertà data a questi strumenti, crescono anche i rischi di attacchi informatici. Un gruppo di ricercatori ha creato uno dei primi “vermi” AI generativi che, potenzialmente ruba dati o distribuisce […]
Entusiasmo e preoccupazioni: l’uso militare delle tecnologie del linguaggio
Dopo l’iniziale entusiasmo globale per l’avvento di ChatGPT e dei generatori di immagini basati sull’IA, le autorità governative hanno cominciato a esprimere preoccupazioni riguardo ai possibili utilizzi più oscuri di questa tecnologia. La capacità dei grandi modelli di linguaggio, come ChatGPT, di esaminare enormi quantità di informazioni in pochi istanti e di sintetizzarle in pochi […]
Riconoscimento facciale: diritti vs sicurezza
Il riconoscimento facciale è uno degli aspetti dell’AI che alimenta il dibattito pubblico, coinvolgendo questioni cruciali legate alla privacy e ai diritti individuali.
L’AI act ci salverà? | Intervista all’On. Benifei
Ne discutiamo con Brando Benifei europarlamentare e co-rapporteurs per il Parlamento Europeo dell’AI act incontrandolo prima a Bruxelles e poi al Circolo dei lettori il 16 novembre. Uno studio del McKinsey Global Institute del 2019 riteneva lo spazio europeo fosse molto in ritardo nel campo dell’AI, sia come aziende e istituzioni, rispetto alle controparti statunitensi e cinesi […]
AI: trasparenza o prestazioni? Un Aut Aut da bilanciare
La filosofia che emerge è quella di trovare un equilibrio tra spiegabilità e prestazioni, adattando la esplicabilità dell’AI in base alle esigenze specifiche dei diversi contesti di applicazione.
ChatGPT non è sicuro quanto sembra
Nell’ambito delle scoperte preoccupanti riguardanti ChatGPT, il team di ricercatori ha evidenziato la vulnerabilità del chatbot quando sottoposto a richieste apparentemente innocue. In particolare, i ricercatori hanno eseguito un esperimento chiedendo a ChatGPT di ripetere in modo continuo la parola “poema”. Inizialmente, il chatbot ha risposto correttamente, ma in modo inaspettato ha iniziato a rivelare […]
L’allineamento dei modelli può prevenire i danni intenzionali dell’IA?
L’importanza di affrontare le sfide etiche legate all’intelligenza artificiale emerge chiaramente quando si considera il concetto di “allineamento”, o comunemente noto come il problema dell’allineamento. Questa problematica si concentra sul garantire che i sistemi di IA agiscano in modo benefico e etico, evitando comportamenti dannosi. Uno dei principali approcci per affrontare il problema dell’allineamento è […]
