Immagina, se puoi, un tuo alter-ego high-tech inserito da qualche parte nel dedalo labirintico dei server della Silicon Valley.
Come una bambola vodoo in forma di ologramma, i nostri profili social sono sapientemente manipolati delle grandi corporation: Facebook, Instagram, Google, Twitter, Tik Tok e molti altri. E’ quanto ci viene raccontato in “The Social Dilemma”, un docu-film diretto da Jeff Orlowski appena uscito su Netflix.
Estraendo una versione interattiva delle nostre azioni per mezzo di calcoli algoritmici, i social costruiscono versioni predittive per ogni utente e cercano di attirare la loro attenzione in modi che non hanno nessun precedente storico.
The Social Dilemma inizia con una frase di Sofocle “ Niente di vasto entra nel mondo dei mortali senza una maledizione” per poi citare, nel mezzo del film – e per calarci anche noi direttamente in medias res – una battuta ironica del guru della visualizzazione dei dati Edward Tufte “Ci sono solo due settori che chiamano i propri clienti user: le droghe illegali e i software”.
1.1 Tra fiction e documentario
The Social Dilemma tesse una trama che si pone a metà tra fiction e documentario. La rappresentazione della storia di una famiglia media americana – alle prese con il ruolo della tecnologia dentro alle mura domestiche – fa da contraltare a numerose interviste di giovani e smart people della Silicon Valley:Justin Rosenstein, co-inventore del bottone like di Facebook; Tim Kendall, ex presidente di Pinterest; Tristan Harris, ex- esperto di etica del design di Google, conosciuto per aver messo in discussione le tendenze di dipendenza della tecnologia degli smartphone; Jaron Lanier, padre della virtual reality e, allo stesso tempo, noto esponente cyber-pessimista e autore di numerosi saggi.
La famiglia americana rappresentata nel film di Orlowsky è composta da una giovanissima teen-ager, la sorella minore, intrappolata nel meccanismo di approvazione social tramite i like e i commenti, proprio come accade alla maggior parte dei suoi coetanei in tutto il mondo. C’è poiBen, il fratello, la cui riproduzione in formula di alter-ego-vodoo-ologramma viene utilizzata da Orlowski come escamotage narrativo surreale per farci capire come, dietro agli schermi, ci siano abili registi che tirano le fila delle nostre decisioni e giostrano sapientemente le nostre emozioni reali. Proprio come se fossimo delle marionette high-tech. C’è poi la sorella maggiore dei tre: una “apocalittica” digitale, diremmo noi prendendo a prestito da Umberto Eco questa definizione.
I due genitori sono, infine, la rappresentazione di quella che è la reazione media di ogni genitore di fronte all’utilizzo dello smarthphone da parte dei figli, con una continua alternanza tra proibizione totalitaria e mediazione a premi: “Ti compro un nuovo smarthphone se riesci a stare una settimana senza utilizzarlo.”
The Social Dilemma accenna inoltre alla recente interazione traumatica tra le nostre vite e il diffondersi del Covid-19 in una densa atmosfera fatta di fake news, complotti e paura.
1.2 Se il prodotto è gratis, il prodotto sei tu
“Questo è l’inizio di un decennio di film sulla tecnologia e le sue conseguenze” ha dichiarato Orlowski in un’intervista “Come è possibile far vedere alla gente qualcosa che è letteralmente impossibile vedere? Non puoi vedere cosa sta succedendo sui server, giusto? Non puoi nemmeno vedere i server. Ma come sono progettati gli algoritmi e cosa stanno facendo per controllare 3 miliardi di persone?” Il numero non è distante dalla realtà: secondo Statista, una società tedesca di monitoraggio di dati, nel mondo esistono attualmente 3, 5 miliardi di user.
Il neuro-capitalismo o capitalismo della sorveglianza – così come viene definito da Shoshanna Zubof autrice di“ The Age of Surveillance Capitalism – trae il proprio profitto dal monitoraggio degli user da parte delle grandi corporation tecnologiche il cui modello imprenditoriale consiste nell’assicurarsi che gli inserzionisti abbiano più successo possibile. Si tratta di un nuovo tipo di mercato che commercia non prodotti o idee ma proiezioni sugli esseri umani. Come dice Justin Rosenstein in The Social Dilemma: “ In internet ci sono tutti questi servizi che noi crediamo gratuiti ma non lo sono, vengono pagati dagli inserzionisti. Perché gli inserzionisti pagano queste aziende? Li pagano perché ci facciano vendere la loro pubblicità. Siamo noi il prodotto. Comprano la nostra attenzione.”
2 La tracciabilità online
Nei primi 50 anni della Silicon Valley si progettavano prodotti hardware e software che poi venivano venduti ai clienti. Negli ultimi 10 anni invece le società della Silicon Valley hanno cominciato a vendere direttamente i loro utenti. “Visto che non paghiamo per i prodotti che usiamo sono gli inserzionisti che pagano per i prodotti che usiamo. Gli inserzionisti sono i clienti. In vendita ci siamo noi. Se il prodotto non lo paghi, vuol dire che il prodotto sei tu.” E’ quanto riferisce Roger McNamee – Early Investor Ventur Capitalist di Facebook.
Le scottanti questioni circa la quantità di informazioni private che gli user sono disposti a cedere senza nessuna sicurezza sulla privacy, così come il preoccupante furto di “data” su larga scala da parte delle big corporation, sono argomenti che fanno parte del dibattito collettivo da diversi anni ma, quello che ci viene sbattuto in faccia nel documentario di Orlowsy, non è ciò che conosciamo già. Il problema non è infatti solo il furto di dati ma come questi dati vengono utilizzati. Tutti i nostri click, tutti i Mi piace, tutti i video che abbiamo guardato, vengono registrati per costruire un modello sempre più accurato di predizione delle nostre azioni. Si tratta di un processo basato su calcoli algoritmici la cui funzione è quella di predire quali video guarderemo dopo, quali emozioni stiamo provando e cosa faremo. E, come se non bastasse, questi illuminati progettisti di software ex dipendenti di Facebook e Instagram, questi esperti di marketing e di Virtual Reality, proprio loro, che hanno dato vita alla potente testa di Medusa per il controllo dei nostri profili, confessano anche che è possibile influenzare i comportamenti di milioni di persone, senza innescare minimamente la consapevolezza degli utenti.
Come dichiara Jeff Seibert, Former Executive di Twitter : “Voglio che le persone capiscano che tutto quello che fanno on-line viene tracciato, viene osservato, viene valutato. Ogni azione viene attentamente monitorata e registrata. Quale immagine ti sei fermato ad osservare e per quanto tempo, sì anche per quanto tempo l’hai guardata. Sanno quando le persone sono sole o depresse, quando stanno cercando le foto dei loro ex fidanzati, sanno che cosa fai a notte fonda, sanno tutto. Se sei introverso o estroverso o di che genere di nevrosi soffri, che personalità hai.”
2.1 Filter Bubble
Si tratta naturalmente di informazioni poco incoraggianti soprattutto se sommate al disvelamento, sempre nel corso della trama, del processo di “informazione personalizzata” che, fino a qualche anno fa era conosciuto come Filter Bubble ovvero: i motori di ricerca fonriscono risposte diverse ad utenti diversi, anche se la domanda è la stessa.
Perché? Perché il motore di ricerca e gli algoritmi di suggerimento dei diversi canali, come per esempio You Tube o Google, lavorano secondo modelli algoritmici sincronizzati fornendo ad ogni utente informazioni cucite sulla base delle sue preferenze, dei suoi like, delle sue precedenti ricerche e, con ottime probabilità, sulla base delle parole utilizzate nella messaggistica privata delle chat.
Perchè? Perchè, come gli esperti di marketing sanno bene, è molto più facile vendere esperienze, prodotti ed informazioni personalizzate ad personam, piuttosto che vendere a tutti, tutti i prodotti indistintamente.
Sono le bolle dei filtri: tante “realtà” personalizzate quante sono le persone che fanno una domanda al motore di ricerca.
Sandy Parakilas, Former Operation Manager di Facebook, dichiara: “Tutti questi dati che rilasciamo in continuazione vengono inseriti in questi sistemi di calcolo che non prevedono alcuna supervisione umana e stanno facendo previsioni sempre più accurate su quello che faremo e su chi siamo.”
2.2 I precedenti: Black Mirror
Black Mirror – popolare serie televisiva britannica trasmessa per la prima volta nel 2011 – è lo specchio della rappresentazione del dark side della tecnologia, portata alle sue estreme conseguenze. E’ una serie che intreccia elementi reali di avanzamento tecnologico con parossismi del suo utilizzo unpolitcally correct in un futuro neanche troppo distante.
Ci sono tutte le conseguenze dell’utilizzo dei new media, in Black Mirror, e lo spettatore è costretto a specchiarcisi, rimanendo incollato allo schermo grazie ad un sapiente utilizzo delle leve che muovono le paure ataviche e moderne dell’essere umano: il timore di essere controllato e spiato, la paura della manipolazione da parte della classe politica ed economica, la ricerca della perfezione in una spietata competizione per la vittoria del più forte, del più bello e del più “social” capace di attirare migliaia di like e di follower. Se Black Mirror presenta aspetti paradossali e, spesso, inseriti in una trama narrativa che sfiora la science-fiction, The Social Dilemma è invece uno specchio reale del processo di manipolazione attuale delle nostre vite attraverso i social media.
Un processo che non è di là da venire ma che è già in atto. Come ci spiega magistralmente Jaron Lanier in The Social Dilemma: “E’ il graduale e impercettibile cambiamento del tuo comportamento e della tua percezione ad essere il prodotto. E’ questo il prodotto. E’ l’unico prodotto possibile. E’ l’unica cosa che può generare profitti. Cambiare quello che fai, il modo in cui pensi, la persona che sei. E’ un cambiamento graduale, è lieve. Loro possono andare da qualcuno e dire: Hey dammi 10 milioni di dollari e io risucirò ad indirizzare l’1% del mondo nella direzione che vuoi tu.”
Tra distopie filmiche e rappresentazioni parossistiche della cosiddetta realtà aumentata, viene da chiedersi quanto siamo distanti, oggi, da una concretizzazione delle paure di controllo delle nostre vite non solo nel virtuale ma anche nel mondo reale.
L’era post-Covid, se mai ci arriveremo, ci avrà almeno insegnato che il futuro, quello distopico – che prima guardavamo solo nei film e nelle serie tv – quel futuro indesiderabile, non è di là da venire ma è adesso.
3 Growth hacking
Come si può utilizzare tutto ciò che sappiamo sulla psicologia della persuasione e applicarlo alla tecnologia? “La tecnologia persuasiva è un design applicato all’estremo per mezzo del quale vogliamo modificare il comportamento delle persone per farle restare incollate allo schermo. In psicologia si chiama Rinforzo Intermittente Positivo.” E’ quanto ci rivela Tristan Harris: ex esperto di Etica del Design di Google, Co-Founder del Center For Human Technology. “ Non sai quando ti comparirà o se ti comparirà, è come il funzionamento delle slot machine: non basta che usi il prodotto consapevolmente. Bisogna scavare più a fondo nel tuo tronco cerebrale e innestare un’abitudine inconscia in modo che tu sia programmato ad un livello più profondo senza che te ne accorga.” Si tratta di una sofisticata tecnica di progettazione che fa capo ad una vera e propria disciplina chiamata Growth hacking (Hackeraggio delle Crescita). Squadre di ingegneri hanno il compito di hackerare la psicologia delle persone per fare in modo di ottenere più coinvolgimento, più click, più attenzione. “Come se stimolassimo le cellule nervose di un ragno per vedere quante zampe muove” continua Harris “ E’ una specie di esperimento carcerario in cui spingiamo le persone in questo flusso di dati e raccogliamo soldi proprio grazie ai dati di tutte le attività degli utenti e non se ne accorgono.”
Le variazioni della manipolazione possono dipendere dagli strumenti cognitivi che una persona possiede: il livello di istruzione conta, la capacità di esercitare un pensiero critico conta, il grado di autoconsapevolezza conta eppure fino ad un certo punto. Indistintamente infatti, gli individui si trovano ad oggi a dover fronteggiare lo schizofrenico Giano Bifronte rappresentato dall’interazione con uno o più social network. Anche chi ammette con convinzione di non esserne dipendente, sotto sotto lo è. Non c’è scampo per nessuno. Il vero divario, semmai, risiede nei danni che questo processo provoca nella costruzione della propria identità: ecco perché i minorenni ne sono maggiormente condizionati e manipolati.
Partiamo dall’inizio, dal punto in cui tutto prende una forma.
3.1 La narrazione di sé nell’epoca dei social network
La necessità di ogni individuo di costruire una narrazione di sè ha origini lontane. Il bisogno di fornire una consequenzialità e un ordine cronologico ai fatti della nostra vita è, in buona parte, ciò che costituisce la nostra identità. E’ lo stesso processo che permette di dare un senso alla nostra vita sia esso individuale, storico o collettivo.
Nel momento in cui la narrazione della nostra vita prende le forme di una finzione messa in bella posta su uno schermo, una messinscena quotidiana da condividere e mostrare, l’individuo entra in un processo di rappresentazione della propria vita fatto di una doppiezza che confonde i limiti tra ciò che è reale e ciò che non lo è.
Le foto condivise su Instagram in spiagge da sogno, le pose da top model ritoccate con i filtri, la condivisione del pensierino del giorno in cerca di approvazione o per scatenare gli haters, sono tutti elementi che distraggono prepotentemente una persona dalla realtà della propria vita, per farlo entrare in una dimensione fittizia alla ricerca del consenso e della visibilità a tutti i costi. La capacità narrativa di un sé autentico viene meno e così l’uomo, da essere pensante, si trasforma, proprio come vuole farci intendere Corlowsky, in una marionetta.
Molte di queste aziende, come ci viene raccontato in The Social Dilemma, hanno tre obiettivi principali. Il primo è il coinvolgimento dell’utente: per far incrementare l’utilizzo dei social e attirare in maniera crescente la sua attenzione. Il secondo è la crescita per fare in modo che dopo aver catturato l’attenzione in via crescente, ogni utente porti altri amici. Infine c’è l’obiettivo degli inserzionisti per assicurarsi che, mentre accade tutto questo, si stiano ricavando più soldi possibili. Tutte queste operazioni sono assicurate da algoritmi il cui compito è capire cosa mostrare all’utente per fare in modo che i numeri continuino ad aumentare e avere una predittività del comportamento umano.
4 La predittività del comportamento umano
La mancanza di un principio di realtà in favore di quello che potremmo chiamare principio di doppiezza – con tutti i suoi annessi sistemi di dipendenza dall’approvazione, dalle visualizzazioni e dal consenso, è proprio ciò che conduce le grandi corporations ad avere una visione chiara dei nostri comportamenti futuri.
Come sottolinea Jaron Lanier “Abbiamo creato un mondo in cui la connessione on line è diventata fondamentale soprattutto per le generazioni più giovani. Tuttavia in questo mondo ogni volta che due persone si connettono, l’unico modo per finanziare il tutto è attraverso una terza persona che furtivamente paga per manipolarle. Quindi abbiamo creato un’intera generazione globale di persone cresciute in un contesto in cui il significato stesso della parola “comunicazione”, della parola “cultura” è connesso all’idea di manipolazione. Abbiamo messo l’inganno e la furtività al centro di tutto ciò che facciamo.”
Ecco perché il modello social network costituisce il perfetto piano d’azione per la previsione non solo dei nostri spostamenti e azioni nello spazio – quali luoghi visitiamo e con chi – ma anche delle nostre azioni future.
Essere in grado di prevedere le nostre azioni significa naturalmente poter vendere più esperienze e beni materiali o immateriali, senza che vi sia alcuna regolamentazione etica o inerente il lauto profitto che sostiene diabolicamente tutto il meccanismo.
Facciamo, ora, un salto indietro nella storia.
4.1 L’uomo a una “doppia” dimensione
Siamo nel 1964. Herbert Marcuse, filosofo e intellettuale tedesco, pubblica un libro che verrà presto riconosciuto come motore di propulsione e propagazione intellettuale del movimento del ’68. Stiamo parlando di “One Dimensional Man”: l’uomo a una dimensione.
Marcuse fornisce una minuziosa analisi avanguardistica nella quale la società industriale avanzata – quella che noi oggi chiamiamo “capitalismo della sorveglianza” – ha integrato gli individui in un sistema di consumo attraverso i mass media, la pubblicità, la gestione del lavoro e l’assenza di un pensiero critico. E’ l’uomo a una dimensione: plagiato da un sistema di falsi bisogni, fiaccato sotto il giogo del consumismo e intrappolato dentro al condizionamento mediatico. Dopo Marcuse, ne seguirono degli altri.
Pasolini, per citarne un altro, nel corso della sua intera letteratura – costituita da produzioni filmiche, romanzi, articoli di giornale, saggi e poesie – sottolinea e approfondisce il concetto di omologazione, mettendo in guardia l’essere umano dalla sua possibilità di diventare uno come molti, un clone. Ce ne furono degli altri. Umberto Eco, sempre nel 1964, pubblica il saggio “Apocalittici e Integrati” analizzando il tema della cultura di massa e il suo rapporto con i mezzi di comunicazione di massa. Guy Debord, infine, con la Società dello Spettacolo, nel 1967 intuisce che: “Tutta la vita delle società nelle quali predominano le condizioni moderne di produzione si presenta come un’immensa accumulazione di spettacoli.”.
Dove sono, oggi, i Marcuse, dove i Pasolini, dove i Debord?
Come è possibile che gli intellettuali, dinnanzi ad un mondo tanto social, fatto di una “doppia” dimensione omologata e spettacolarizzata all’ennesima potenza, non abbiano voce in capitolo? Come è possibile che non esista un dibattito corposo, ma solamente marginale su tutto questo?
La soluzione, come tutte le soluzioni di contraddizioni apparenti, consiste nell’uscire dal piano dell’opposizione e nel cambiare la natura della domanda, passando ad un contesto più ampio:come agiscono i meccanismi di dipendenza dei social sui nostri circuiti neuronali?
5 ll cervello e la produzione di dopamina
Chamath Palihapitiya, Former VP della crescita di Facebook, dichiara che il vero intento della crescita è quello di capire dal punto di vista psicologico come manipolare l’utente il più velocemente possibile per restituigli un po’ di dopamina.
La dopamina, infatti, è la molecola che regola le sensazioni di piacere, motivazioni e dipendenza. Le conseguenze dell’utilizzo dei social a livello neuronale sono un campo di ricerca che è ancora poco conosciuto nonostante sia uno dei suoi motori trainanti. Gli studi dimostrano che le scansioni cerebrali di persone incapaci di controllare il tempo trascorso sui social presentano danni cerebrali nelle stesse aree colpite da chi fa abuso di sostanze stupefacenti. Il processo di base che consente ai social media di fare soldi e contemporaneamente danneggiare la società è la modificazione del comportamento, proprio come accade per il tossicodipendente che perde gradualmente il contatto con il mondo reale e le persone reali. Ciò che agli inizi era pubblicità, si è gradualmente trasformato in quelli che Jaron Lanier chiama “imperi di modificazione comportamentale a noleggio”.
La ricerca scientifica ha inoltre confermato che i danni al cervello tra coloro che sono dipendenti da sostanze e dai social media sono simili. Entrambi presentano una degradazione di una”materia bianca” nelle regioni che controllano le emozioni, l’attenzione e i processi decisionali. E’ dunque scientificamente comprovato che l’appagamento immediato dei social, proprio come quello di una droga, fa in modo che il cervello sviluppi una forte dipendenza dalla produzione di dopamina.
5.1 Fermati-a-pensare
I social media hanno iniziato a scavare sempre più in profondità nella corteccia prefrontale prendendo il controllo dell’autostima e dell’identità soprattutto dei teen-agers. La corteccia prefrontale è quella regione del cervello situata immediatamente sotto alla nostra fronte, il cui compito precipuo, tra le altre funzioni, è quello di mettere in atto il: fermati-a-pensare, la pausa di riflessione.
“Costruiamo le nostre vite intorno a questa percezione di perfezione percepita” dice Chamath Palihapitiya “perché veniamo ricompensati tramite questi segnali a breve termine, cuori, like, pollici in su e li confondiamo con il valore e la verità. In realtà si tratta di una popolarità finta, fragile e a breve termine e che, ammettiamolo, ci lascia un senso di vuoto ancora più grande perché ci forza in questo circolo vizioso che ci porta a pensare, ora cosa devo fare? Perché ne voglio ancora! Pensate tutto questo applicato a 2 miliardi di persone e poi pensate a come reagiscono le persone alla percezione che gli altri hanno di loro: ve lo dico io siamo messi male, molto male.”
Le statistiche inoltre dimostrano che tra il 2011 e il 2013 c’è stato un enorme aumento della depressione e dell’ansia tra gli utenti dei social network. I suicidi delle teen-agers sono aumentati del 70% mentre, quelli delle preadolscenti, sono aumentati del 151%. Sono tutti dati riconducibili all’utilizzo dei social media.
5.2 Dio Algortimo
Dal 1990 ad oggi la capacità di elaborazione dati – computer processing power – è aumentata di un trilione di volte: questo significa che l’intelligenza artificiale è in grado di prendere decisioni sempre più veloci, senza tuttavia essere dotata dell’oggettività che da sempre contraddistingue il vero dal falso.
Ecco perché i manipolatori elettorali possono utilizzare con facilità i social network per diffondere fake news e influenzare le elezioni in una formula che è del tutto legale. L’assenza di legiferazione in merito ai social network – e al ruolo degli inserzionisti al loro interno – viene indicata in The Social Dilemma come una delle principali cause di manipolazione. Il digitale diviene così un vero e proprio Eden delle società il cui principale obiettivo non è tanto la manipolazione in sè quanto la manipolazione in funzione del profitto. Gli algoritmi possono essere definiti come opinioni in forma di codice e sono privi, come abbiamo detto, di una capacità di calcolo oggettivo. Il loro processo di apprendimento automatico ciò che li rende ogni giorno più simili a un dio.
“Ci aspettiamo tutti il momento in cui la tecnologia sovrasterà la conoscenza e la forza umana” avverte infine Tristan Harris “ma c’è un momento che arriva molto prima, un momento in cui la tecnologia ha superato e sovrastato le debolezze umane. Il superamento di questo punto è alla radice della dipendenza, della polarizzazione, della radicalizzazione politica e sociale: questo vuol dire sopraffare la natura umana.”
Non ci resta altro da fare, come suggerisce Jaron Lanier, che cancellare i nostri social network, fare un lungo respiro e andare a vedere cosa succede in giro: chissà mai che riusciremo ad incontrare ancora una volta, per la strada, la cara vecchia realtà.