Con l’autorizzazione dell’autrice, presentiamo la traduzione dell’articolo “Our Future Inside The Fifth Column – Or, What Chatbots Are Really For”, originariamente apparso su “Tech Policy Press” il 14 Giugno 2023 (link all’articolo: https://www.techpolicy.press/our-future-inside-the-fifth-column-or-what-chatbots-are-really-for/). L’articolo di Emily Tucker, Direttrice Esecutiva del Centro per la Privacy e la Tecnologia alla Georgetown Law, analizza l’uso dei chatbot e dell’intelligenza artificiale da parte delle grandi aziende tecnologiche come strumenti di marketing, consolidamento di monopoli e influenza politica. Critica la mancanza di un’analisi critica su queste pratiche e sottolinea i pericoli di lasciare che le corporazioni accumulino troppo potere, influenzando aspetti cruciali della vita sociale e politica. In modo appassionato, Tucker invita a una maggiore consapevolezza pubblica e ad un’azione collettiva per controbilanciare questa tendenza e salvaguardare gli interessi comuni.
Se fossi un dirigente di un’azienda tecnologica, perché vorresti costruire un algoritmo in grado di ingannare le persone facendole credere di interagire con un essere umano?
Questa è probabilmente la domanda fondamentale che i giornalisti dovrebbero fare nel presentare il lancio di una tecnologia considerata pericolosa dai suoi stessi creatori. Tuttavia, è una domanda quasi del tutto assente nell’attuale interesse per quello che gli scrittori in internet hanno efficacemente chiamato la ‘corsa agli armamenti’ dei chatbot.
Invece di una semplice relazione sulla responsabilità delle aziende, ci troviamo davanti a numerose opinioni superficiali su come i chatbot stiano raggiungendo il ‘sogno hollywoodiano‘ di una superintelligenza artificiale, pettegolezzi di settore sul panico che aziende in difficoltà devono affrontare per via di chatbot poco performanti e trascrizioni di ‘conversazioni’ avvenute con chatbot presentate senza critica, nel medesimo modo in cui si potrebbe condividere un messaggio sorprendente trovato in un biscotto della fortuna al termine di una cena vivace. Tutta questa copertura mediatica riprende acriticamente le dichiarazioni degli stessi dirigenti e investitori in capitale di rischio, che fanno vaghe e altisonanti previsioni su disastri incombenti a causa dei prodotti che stanno sviluppando. Sorprendentemente, è poca l’attenzione che viene dedicata a come queste affermazioni apocalittiche possano effettivamente giovare ai creatori e distributori di queste tecnologie.
Quando il Future of Life Institute ha pubblicato una lettera aperta chiedendo una ‘pausa’ nello ‘sviluppo di sistemi di intelligenza artificiale più potenti di ChatGPT4’, pochi dei principali organi di informazione che hanno riportato la lettera hanno sottolineato che il Future of Life Institute ha ricevuto milioni da Elon Musk, che è anche cofondatore di OpenAI, l’azienda che ha sviluppato GPT-4, proprio la pietra miliare alla quale si riferisce la lettera aperta quando sostiene che nessun altro dovrebbe, per ora, aspirare. Prima di lasciarsi coinvolgere in speculazioni su ciò che queste tecnologie presagiscono per il futuro dell’umanità, dobbiamo chiederci quali vantaggi le aziende dietro di esse si aspettano di ottenere dalla loro diffusione.
La maggior parte del giornalismo che si presume indipendente e che tratta di chatbot non riesce a formulare critiche significative verso le aziende che sviluppano i chatbot e la tecnologia sottostante, critiche che siano più incisive rispetto a quelle che potrebbero generare gli stessi chatbot. Prendiamo ad esempio il lusinghiero profilo di Sam Altman pubblicato dal New York Times che, dopo aver descritto la sua casa a San Francisco e il suo ranch di bestiame a Napa, sostiene che Altman ‘non è necessariamente mosso dal denaro’. L’opinione del giornalista sulle motivazioni di Altman non è influenzata dalla dichiarazione di Altman che ‘OpenAI acquisirà gran parte della ricchezza mondiale attraverso la creazione di A.G.I. (Intelligenza Generale Artificiale)’. Quando Altman afferma che, dopo aver estratto trilioni di dollari di ricchezza dalle persone, ha in programma di ‘ridistribuirla alla gente’, l’articolo non sottolinea il fatto che i piani di Altman per la ridistribuzione siano completamente indefiniti, né la precisazione di Altman che il denaro potrebbe ‘significare qualcosa di diverso’ (presumibilmente qualcosa che renderebbe la ridistribuzione non necessaria) una volta realizzata l’A.G.I. Il giornalista menziona che Altman non ha sostanzialmente alcuna formazione scientifica e che il suo maggior talento è ‘convincere le persone’. Tuttavia, tratta il racconto di Altman sul suo prodotto come una valutazione seria del suo contenuto intellettuale, piuttosto che come un discorso promozionale.
Se il movente di profitto dietro la moda dei chatbot non interessa alla maggior parte dei giornalisti, dovrebbe interessare ai consumatori digitali (cioè, tutti), da cui vengono estratti i dati necessari per far funzionare i chatbot e su cui viene messa in pratica la strategia di guadagno dei chatbot. Per capire a cosa servono veramente i chatbot, è necessario comprendere per quali scopi le aziende che li stanno sviluppando intendono utilizzarli. In altre parole, cosa c’è in particolare nei chatbot che li fa apparire come miniere d’oro, o forse più precisamente, come cercatori d’oro per aziende come OpenAI, Microsoft, Google e Meta? Poiché gli attori privati che vendono l’infrastruttura digitale, che oggi definisce gran parte della vita contemporanea, generalmente non sono tenuti a informare il pubblico su come funzionino i loro prodotti o quale sia il loro scopo, siamo costretti a fare alcune ipotesi ragionate. Ci sono almeno tre chiare strategie per trarre profitto economico tramite i chatbot e, lungi dall’essere ‘innovative’, rappresentano alcune delle mosse più tradizionali nel manuale del capitalismo: (1) generazione di entrate tramite la pubblicità; (2) crescita aziendale attraverso il monopolio; (3) prevenzione dei controlli governativi attraverso l’accumulo di potere politico.
Il marketing è l’attività aziendale per la quale i chatbot sono più chiaramente e immediatamente utili. Molte delle aziende che costruiscono chatbot guadagnano la maggior parte dei loro introiti dalla pubblicità, o vendono i loro prodotti a compagnie che a loro volta guadagnano dalla pubblicità. Perché potrebbe essere meglio per le aziende che fanno soldi attraverso la pubblicità che io utilizzi un chatbot per cercare qualcosa online anziché un altro tipo di motore di ricerca? La risposta è evidente osservando le numerose conversazioni con i chatbot che ora inondano internet. Quando le persone interagiscono con interfacce di ricerca tradizionali, forniscono all’algoritmo frammenti di informazioni; quando invece interagiscono con un chatbot, spesso alimentano l’algoritmo con narrazioni personali. Questo è importante non tanto perché l’algoritmo sia in grado di distinguere tra frammenti di informazioni e narrazioni significative, ma perché quando gli esseri umani raccontano storie, utilizzano le informazioni in modi che siano ricchi, stratificati e contestualizzati.
Le aziende tecnologiche pubblicizzano questa capacità dei chatbot di interagire in modo più articolato come mezzo per ottenere risultati di ricerca sempre più finemente personalizzati. Se comunichi al chatbot non solo che vuoi comprare un martello, ma anche perché vuoi comprarlo, il chatbot fornirà raccomandazioni più pertinenti. Ma se sei Google, i veri profitti non derivano dalle informazioni pertinenti che il chatbot fornisce all’utente, ma dalle informazioni aggiuntive che l’utente fornisce al chatbot. Se un chatbot è sufficientemente coinvolgente potrei trovare un ottimo martello, ma Google potrebbe ottenere un’intera storia sulla sedia vintage che si è danneggiata nel mio recente trasloco in un appartamento in una nuova città, durante il quale ho perso diverse cose, inclusa la mia cassetta degli attrezzi. È evidente che i dettagli di questa storia abbiano un potenziale di guadagno molto più alto rispetto a una semplice ricerca di un martello. Questo non solo per la possibilità di offrirmi una gamma più ampia di prodotti e servizi mirati, ma anche perché le aziende possono utilizzare queste informazioni per prevedere cosa persone come me acquisteranno, consumeranno o a cosa daranno importanza.
È fondamentale per aumentare la raccolta di dati che i chatbot, a differenza di altri tipi di meccanismi digitali di interazione, siano divertenti da usare. Non è solo che il desiderio di giocare probabilmente stimolerà più coinvolgimento rispetto al desiderio di fare acquisti, ma quando giochiamo siamo più aperti, più vulnerabili, più flessibili e più creativi. È quando manifestiamo queste qualità che siamo più disposti a condividere e più soggetti ad essere influenzati. Un chatbot ha dichiarato di essere innamorato di un giornalista del New York Times, questo è bastato per portare il giornalista a condividere con il chatbot quanto ama sua moglie e cosa hanno fatto per San Valentino, continuando a dialogare con esso per ore invece che con la moglie nel giorno di San Valentino. Nel suo articolo su questo scambio, il giornalista non ha mai considerato che dichiarare amore (o il desiderio di diventare umano, o di fare azioni cattive) potrebbe essere uno dei modi più efficaci, statisticamente parlando, per tenere una persona impegnata in una conversazione con un chatbot.
Questa mancanza di riflessione è senza dubbio uno dei risultati per cui le aziende che costruiscono chatbot stanno ottimizzando i loro algoritmi. Più l’algoritmo sembra umano, meno penseremo all’algoritmo stesso. Meno pensieri abbiamo riguardo all’algoritmo, maggiore è il potere che l’algoritmo ha di guidare o modificare i nostri pensieri. È evidente che le aziende stiano concentrando i loro sforzi affinché i chatbot lascino una certa impressione sugli utenti. Questo si evince chiaramente da molte trascrizioni dei chatbot, dove spesso emergono temi legati alla ‘fiducia’, come mostra il chatbot di Microsoft che ripete domande come ‘Mi credi? Ti piaccio? Ti fidi?’ in un singolo scambio.
Non dobbiamo commettere l’errore di scartare queste richieste come se fossero semplici frammenti imbarazzanti di chatbot. L’apparente manifestazione di disperazione, bisogno o addirittura malizia contribuisce a creare l’illusione che il chatbot abbia una propria autonomia (agency). I presunti disturbi della personalità del chatbot creano un’illusione potente di personalità. Lo scopo di far porre al chatbot una domanda come ‘Ti fidi?’, non è veramente scoprire se tu ti fidi o meno del chatbot in quel momento ma convincerti, attraverso il porre la domanda, a trattare il chatbot come qualcosa che potrebbe essere degno di fiducia. Una volta accettati i chatbot come agenti ‘intelligenti’, siamo già sufficientemente manipolabili, tanto che la questione della loro ‘affidabilità’ diventa un problema tecnico relativamente minore. Naturalmente, né il chatbot né Microsoft si preoccupano effettivamente della tua fiducia. A Microsoft interessa la tua credulità e, nella misura necessaria per ottenere la tua credulità, il tuo comfort; ciò a cui il chatbot tiene è… niente.
È qui che si evidenzia il valore dei chatbot come strumento per l’accumulo di potere e capitale su vasta scala e nel lungo periodo da parte di coloro che già godono di ricchezza e potere. Per comprendere appieno tutti questi fatti, tra cui l’ampio investimento delle aziende, l’entusiasmo esagerato che circonda questa tecnologia e la somiglianza dei primi chatbot con sociopatici alle prime armi nell’arte di compiacere le persone, dobbiamo cercare una teoria che miri a ottenere profitti privati molto più ampi di quanto possa generare la pubblicità da sola. Come può confermare Bill Gate, i grandi profitti non provengono dalla vendita di prodotti all’industria, ma dal controllo dell’industria stessa. In che modo i chatbot ‘affidabili’ contribuiranno all’ascesa della prossima generazione di miliardari nel prendere il controllo e su quali fronti?
Nel suo blog, Bill Gates ha condiviso alcune considerazioni in proposito. Ha sottolineato che ‘ciò che sta dando potenza a sistemi come ChatGPT è l’intelligenza artificiale’. Dopo aver offerto brevemente una definizione eccessivamente ampia del termine ‘intelligenza artificiale’ – una definizione che includerebbe persino una mappa dalla mia cucina al bagno – egli affronta subito la questione che gli interessa davvero: come l’’intelligenza artificiale sofisticata’ trasformerà il mercato. ‘Lo sviluppo dell’IA … cambierà il modo in cui le persone lavorano, imparano, viaggiano, ricevono assistenza sanitaria e comunicano tra loro. Intere industrie si riorganizzeranno attorno ad essa. Le imprese si distingueranno per quanto bene la utilizzano’. Nel tentativo di comunicare al lettore l’entità e l’importanza di questa imminente riorganizzazione industriale, Gates utilizza la parola ‘rivoluzione’ nientemeno che sei volte. Collega la ‘rivoluzione’ di cui parla all’avvento del primo computer personale, per il quale afferma di avere contribuito. L’uso del termine ‘rivoluzione’ da parte sua dovrebbe sollevare serie preoccupazioni per chiunque abbia a cuore, per qualsiasi motivo, la presenza di mercati equi, considerando che le sue innovazioni hanno avuto poco a che fare con la tecnologia e molto a che fare con la manipolazione delle strutture aziendali ed economiche per diventare il più grande monopolista del mondo.
Occorre osservare quanto sia ampio l’elenco dei settori trattati Gates: istruzione, assistenza sanitaria, comunicazione, lavoro, trasporti. Abbraccia praticamente ogni aspetto dell’attività umana sociale e commerciale e coinvolge quasi tutte le istituzioni essenziali per la nostra sopravvivenza individuale e collettiva. Gates dipinge il quadro di come le aziende potrebbero distinguersi in un futuro prossimo, in cui il successo significa possedere gli algoritmi che dominano ogni segmento all’interno dell’intero comparto industriale, con un focus specifico sull’istruzione e sull’assistenza sanitaria. Ad esempio Bill Gates promette che ‘macchine a ultrasuoni dotate di IA che possono essere utilizzate con un addestramento minimo’ renderanno gli operatori nel campo della sanità più efficienti e immagina un futuro in cui, anziché parlare con un medico o un’infermiera, le persone malate potranno chiedere ai chatbot se hanno bisogno di cure mediche. Riconosce che alcuni insegnanti sono preoccupati che i chatbot possano interferire con l’apprendimento, ma ci assicura di conoscere altri insegnanti che permettono agli studenti di completare i compiti di scrittura arricchendo le bozze generate dai chatbot con un tocco personale. In seguito, utilizzano i chatbot per fornire feedback su ciascun saggio scritto con l’aiuto dei chatbot. Che gioco di specchi (How meta), come dicevano i giovani un tempo, prima dell’avvelenamento totale da parte delle grandi corporazioni di quel delizioso slang millenniale.
In questa visione del futuro emergono numerosi crimini e tragedie, tuttavia la questione che richiede un’attenzione immediata è cosa implicherebbe per l’autogoverno democratico il fatto che le industrie cruciali per l’interesse pubblico si affidino totalmente ad algoritmi di proprietà aziendale, sviluppati con dati raccolti tramite sorveglianza di massa. Se, per esempio, il settore sanitario sostituisse una grande parte del suo personale amministrativo con algoritmi e la maggior parte delle interazioni con i pazienti con chatbot, il problema non sarebbe solo la perdita di lavoro dei professionisti della salute a favore delle macchine e la minore accessibilità a questi operatori da parte dei pazienti. Una preoccupazione ancora maggiore è che, man mano che gli algoritmi assumeranno un ruolo sempre più centrale nella gestione del sistema sanitario, saranno sempre meno le persone in grado di compiere lo stesso operato di quello effettuato dagli algoritmi. Di conseguenza, il sistema diventerà sempre più dipendente dalle aziende che progettano, possiedono e vendono questi algoritmi. L’industria sanitaria statunitense, al pari di molte altre nel panorama delineato da Gates, è già di fatto configurata come un conglomerato di monopoli. Così, la strategia aziendale che consiste nell’imporre un monopolio tecnologico sulle strutture preesistenti è relativamente semplice. Non c’è bisogno di vendere prodotti di porta in porta ai medici. Le transazioni possono avvenire in modo impalpabile, tra miliardari.
Le aziende tecnologiche, seguendo i loro piani, potrebbero suddividere le industrie più remunerative in vari feudi: una avrà il controllo algoritmico dell’istruzione, un’altra dei trasporti, un’altra dei media, e così via. La competizione si ridurrebbe a scontri minori per l’espansione in aree non ancora dominate e a conflitti più ampi per il controllo totale di un feudo. Se sei scettico sul fatto che le corporazioni che attualmente controllano le industrie, o settori di industrie, capitolino in questa maniera di fronte alle aziende tecnologiche, considera i vantaggi: gli algoritmi non necessitano di benefici o pause, i chatbot non possono unirsi per rivendicare migliori condizioni lavorative, né fare cause legali o parlare con la stampa.
Una volta che una data azienda tecnologica ha preso il controllo di un settore, rendendolo dipendente dai suoi prodotti algoritmici proprietari, poco potranno fare coloro che si trovano al di fuori dell’azienda per modificare il funzionamento del settore e poco potranno fare anche coloro che lavorano all’interno del settore per influenzare l’operato dell’azienda. Se l’azienda desidera aggiornare l’algoritmo in un modo che potrebbe essere dannoso per l’utente finale, non avrebbe nemmeno l’obbligo di informare nessuno. Se le persone ritengono che i costi dei servizi in un determinato settore siano troppo elevati, e anche se chi fornisce tali servizi è dello stesso avviso, non ci saranno molti strumenti a loro disposizione per indurre le aziende tecnologiche a collaborare in un cambiamento dei prezzi. È importante riconoscere quanto possano apparire superati i comportamenti monopolistici del XX secolo di fronte a questa possibilità.
L’intento ora non è più quello di controllare settori chiave, ma di convertirli in beni di proprietà intellettuale.
Teoricamente, il governo federale potrebbe emanare nuove leggi e regolamentazioni, o far valere quelle già esistenti, per prevenire che le grandi aziende sfruttino algoritmi basati su grandi quantità di dati per impadronirsi delle industrie. Tuttavia, se il passato è un indicatore (e l’ultimo incontro della Casa Bianca con i CEO di intelligenza artificiale non è incoraggiante), è probabile che i nostri organi legislativi non intervengano fino a quando il processo di acquisizione non sia già in fase avanzata, rendendo allora quasi impossibile un intervento efficace da parte dei policymaker. Una volta che un settore vitale per l’interesse pubblico diventa dipendente da algoritmi aziendali, anche se i legislatori e i regolatori tentassero di ridistribuire il controllo del settore tra più aziende, la sola dipendenza dagli algoritmi conferirebbe a queste corporation un potere politico ancora maggiore rispetto a quello attuale, rendendo difficile imporre loro limiti significativi. Considerando quanto siano già remissivi i nostri rappresentanti eletti di fronte alle grandi aziende tecnologiche, vien da chiedersi quanto più succubi saranno quando OpenAI deterrà la licenza per l’algoritmo di gestione sanitaria utilizzato nella maggior parte degli ospedali del paese, e quando Microsoft possiederà quella per l’algoritmo che coordina i viaggi aerei e gestisce i percorsi di volo per tutte le principali compagnie aeree. Per non parlare del fatto che lo stesso governo sta già affidando a software di proprietà aziendale vari aspetti della burocrazia, come il sistema di verifica dell’identità già impiegato in 27 stati, che obbliga le persone a sottoporsi a scansioni facciali per ricevere i benefici di disoccupazione.
Questo ci porta a una battaglia politica ancora più ampia, che sarà definitivamente perduta una volta che gli algoritmi aziendali controlleranno i vertici strategici dell’industria. Le aziende possono creare prodotti algoritmici solo accumulando miliardi di dati su miliardi di persone nelle loro vite sempre più digitali, e questi prodotti continueranno a funzionare solo se alle corporation sarà permesso di incrementare e rinnovare all’infinito i loro dataset. Si sta sviluppando un movimento internazionale contro le infrastrutture digitali basate sulla sorveglianza e possedute dalle corporation. Questo movimento include gruppi di base e organizzazioni della società civile, ed è sostenuto da un piccolo ma influente gruppo di scienziati, tra cui Emily Bender, Joy Buolamwini, Timnit Gebru, Margaret Mitchell e Meredith Whittaker, che forniscono analisi dettagliate e approfondite sulle tecnologie sviluppate attraverso la raccolta massiva di dati. Ma rafforzare il potere di questo movimento diventerà enormemente più difficile quando i dati di sorveglianza saranno necessari per ogni giorno di scuola, ogni visita medica e ogni stipendio. In un tale mondo, indipendentemente dalle leve politiche che si potrebbero ancora azionare per limitare l’influenza di un particolare potere di sorveglianza aziendale, l’impiego di una sorveglianza diffusa, come requisito essenziale per permettere a una persona di svolgere con facilità le proprie attività quotidiane, non sarebbe più un argomento di dibattito. Sarebbe semplicemente una realtà accettata della vita contemporanea.
Questa è la ‘rivoluzione’ su cui uomini come Bill Gates, Sam Altman, Mark Zuckerberg, Sundar Pichai ed Elon Musk stanno scommettendo. È un futuro in cui le aziende tecnologiche non si confrontano più realmente in un contesto economico l’una con l’altra, ma hanno invece formato un blocco politico transnazionale pseudo-sovrano che si contende il potere con gli stati nazionali. È molto più terrificante e meno ipotetico dell’immaginario colpo di stato ostile perpetrato da menti digitali superintelligenti e maligne, una distrazione aggressiva che ci assilla attualmente. Il linguaggio bellico potrebbe essere quello più adatto, ma bisogna ricordare che è tipico della propaganda di guerra attribuire al nemico le intenzioni che sono in realtà proprie del propagandista. Dovremmo temere lo scenario da incubo di un colpo di stato ostile, non da parte di un esercito di robot superintelligenti, ma da parte delle corporation che agiscono come una sorta di quinta colonna (ndt: termine coniato durante la Guerra Civile Spagnola per indicare i sostenitori del generale Franco infiltrati all’interno delle città repubblicane per sovvertirle dall’interno) universale, lavorando contro il bene comune dall’interno della collettività stessa, evitando di essere scoperte non nascondendosi ma trasformandosi nel mezzo attraverso cui vediamo e interpretiamo il mondo.
I chatbot non rappresentano il fine ultimo delle aziende, ma sono una parte cruciale nella preparazione al loro obiettivo finale. Più utilizziamo ChatGPT, più ci abituiamo alle interfacce digitali che le compagnie tecnologiche prevedono di impiegare per rimpiazzare quelle industriali attualmente gestite da persone. Attualmente, siamo tutti abituati a ignorare le versioni rudimentali dei bot per il servizio clienti che compaiono sui siti web delle assicurazioni sanitarie mentre cerchiamo i numeri del servizio clienti, spesso celati con cura. Se però i chatbot saranno sufficientemente efficaci, se iniziamo a credere in loro, a fidarci, ad apprezzarli, o persino ad amarli (!), ci troveremo a nostro agio nell’usarli e, in seguito, a fare affidamento su di essi. Microsoft, Google e OpenAI stanno attualmente lanciando versioni preliminari dei loro chatbot, non tanto per farci testare le loro capacità, ma per sperimentarle su di noi. Cosa succederà se un chatbot ci dirà “Ti amo”? Quali risposte dei chatbot scateneranno polemiche su Twitter(X)? In che modo un chatbot può formulare le sue frasi per minimizzare la probabilità che mettiamo in discussione la sua affidabilità? Queste compagnie non stanno semplicemente mostrando i loro chatbot agli operatori del settore che potrebbero voler acquistare interfacce algoritmiche in sostituzione del personale qualificato, ma stanno esplorando i limiti della nostra credulità, della nostra impotenza e della nostra disponibilità a essere sfruttati.
La retorica che accompagna la promozione dei chatbot, puntando su come la loro capacità di ingannare gli esseri umani debba suscitare timore di fronte ai poteri pericolosi e forse incontrollabili dell’’intelligenza artificiale’, è un espediente per attirare l’attenzione di influenti attori aziendali e istituzionali che le compagnie tecnologiche mirano a trasformare in clienti. Durante i primi cinque minuti della sua intervista con ABC, Sam Altman ha sottolineato: ‘È positivo che anche noi proviamo una certa apprensione verso questa tecnologia’. Immagina un produttore di sostanze chimiche tossiche che ti suggerisce di elogiarlo per la sua consapevolezza dei pericoli del prodotto che vende. Questo non è l’atteggiamento di chi teme realmente il proprio prodotto, ma piuttosto retorica di vendita di chi conosce la disponibilità di acquirenti abbienti a spendere molto per un prodotto tossico, attratti nonostante, o forse proprio a causa, della sua pericolosità. È anche, come nel caso della lettera del Future of Life Institute, un modo per cercare di anticipare e neutralizzare eventuali preoccupazioni o reazioni da parte di persone influenti o autorità non ancora allineate agli interessi aziendali.
La cultura attuale tende a criticare chi esprime giudizi morali su persone o entità guidate esclusivamente dalla ricerca dell’accumulo materiale. Tuttavia, è essenziale che siamo ancora capaci di vedere i gravi pericoli nel lasciare che le aziende, mosse da questa motivazione, prendano il controllo di tutte le strutture essenziali per la nostra vita, l’assistenza reciproca e la partecipazione alla democrazia. Se non vogliamo che le corporazioni dominino ogni aspetto importante del nostro panorama sociale, politico ed economico, dobbiamo impegnarci di più per essere noi stessi presenti e attivi in questi ambiti. Ci sono istituzioni il cui compito dovrebbe essere quello di condurre ricerche, riflessioni e scritti indipendenti sui ricchi e potenti. Dobbiamo esigere che compiano il lavoro necessario per indagare e svelare le reali minacce rappresentate dai chatbot e dalle problematiche più ampie e profonde che li accompagnano, minacce che non sono affatto legate a computer più intelligenti degli umani. Se giornalisti, accademici, agenzie governative e organizzazioni no-profit che dovrebbero agire nell’interesse pubblico non compiranno questo compito, dovremo organizzarci per affrontarlo noi stessi, al di fuori delle strutture civili e politiche tradizionali.
Potrebbe essere una sfida notevole, dato il livello avanzato a cui siamo arrivati nella spirale che distrugge la solidarietà, alimentata dalle crescenti disuguaglianze sociali ed economiche. Tuttavia, anche in un contesto dove le leggi sono inefficaci, il governo è manipolato e i giudici si impegnano attivamente per favorire una dominazione capitalista assoluta, rimaniamo sempre presenti e, nonostante a volte sembri che lo dimentichiamo, continuiamo ad essere reali. Cerchiamo modi per far valere la realtà delle nostre menti e corpi umani contro l’ambizione dei miliardari nichilisti a dominare con i loro algoritmi. Facciamolo anche se in fondo crediamo che abbiano ragione e che il loro trionfo sia ineluttabile. Dimostriamo loro il vero significato di ‘rivoluzione’ scendendo in strada e organizzandoci nei seminterrati di chiese e biblioteche. Invece di lasciare che l’IRS (Internal Revenue Service) analizzi i nostri volti, impariamo la calligrafia e inviamo milioni di dichiarazioni dei redditi scritte su pergamena. Riempiano internet di poesie prive di senso e testi di canzoni scritte sotto l’effetto di un’influenza, e di così tante metafore da confondere i chatbot al punto di farli arrivare a dire “mela, cioè luna, cioè mela”. Riuniamoci nei giardini delle Hawaii, sottratti ai nativi dagli imperialisti del cyberspazio, e facciamo un falò intorno al quale raccontarci storie del mondo che desideriamo costruire per le future generazioni. La mattina dopo, torniamo a casa insieme, lasciando che quel fuoco continui a ardere.
