Un algoritmo è il procedimento dettagliato attraverso il quale risolviamo un problema, attraverso azioni elementari. La traduzione di un algoritmo – in un linguaggio comprensibile per un computer – crea un programma.
Gli algoritmi sembrano una cosa buona. Come le automobili. Poi arriva chi ti spiega che le auto inquinano o causano molte morti. Allora capisci che non sono una cosa buona in assoluto, ma dipende – come tutto – da come le usiamo. Noi usiamo algoritmi di continuo.
In molti stanno lavorando per perfezionare un’idea di Negroponte, (Being Digital, libro vecchio, ma vale la pena): il “Daily me”. Un quotidiano virtuale che ci fornisce solo le notizie che più ci interessano o riguardano, sulla base dei nostri interessi. Il “Daily me” nasce dall’esigenza di selezionare, all’interno di un flusso enorme di informazioni a cui siamo esposti, solo le più rilevanti (per noi). Nella nostra vita privata il più grande “Daily me” del mondo è Facebook. Dove algoritmi ordinano e scelgono quando e cosa mostrarci, sulla base delle nostre “preferenze”.
E qui, su “preferenze” il tema diventa interessante.
Quello che preferiamo, Facebook non sempre ce lo chiede, molto spesso lo “assume” sulla base dei nostri comportamenti. Per due motivi: darci un’esperienza soddisfacente mentre navighiamo i contenuti (accompagnandoci a vedere quello che più ci interessa) e profilarci per vendere meglio la pubblicità. Si saranno accorti che vendere la pubblicità solo sulle “dichiarazioni” degli utenti era poco performante. Sia perché le informazioni di questo tipo sono limitate, sia perché sono spesso imprecise. Alcuni miei amici, nelle loro bio riferiscono di lavorare in posti improbabili e spesso di vivere dove – forse – non sono mai stati. Meglio, di gran lunga, usare i dati di georeferenziazione per capire dove si trova realmente una persona!
Cosa sa Facebook di voi lo potete capire facilmente acquistando della pubblicità per una vostra pagina. La pubblicità segmenta per comportamento, interessi, orientamento sessuale e politico, se avete fatto di recente un viaggio o se lo state programmando, da quanto tempo avete una relazione, se avete cambiato di recente lavoro, dove siete fisicamente…
Per questo cresce il valore di Facebook. Gli investitori spostano risorse dalla pubblicità su carta a quella su questo sistema (scavalcando anche il pur potente Google). La capacità di segmentare il target a cui rivolgere il messaggio è senza precedenti nella storia dell’umanità.
Secondo il principio del “Daily me” ci vengono proposte le informazioni sulla base delle nostre preferenze. Tutto questo comporta almeno due ordini di problemi di cui dobbiamo occuparci.
Il primo è relativo alla nostra rappresentazione del “mondo che ci circonda” che viene alterata. Certo, i più “costruttivisti” di voi mi diranno che l’idea di mondo essendo un’idea (appunto, costruita) è comunque imperfetta e alterata dall’osservatore (che siamo noi). Ma qui siamo davanti a un problema più grande. Pensate d’iniziare a mettere “like” a contenuti contro l’immigrazione (dico “pensate”, perché do per scontato che chi legge i miei post una cosa del genere non la farebbe). Facebook ve ne presenterà sempre di più e più like metterete più la vostra rappresentazione sull’immigrazione come fenomeno negativo sarà rinforzata. Facebook si basa su un modello edonistico in cui vogliamo sempre di più quello che ci piace. Mi pongo alcune domande: Il “Daily me” che ne viene fuori non rischia di essere solo il peggior fishwrap? Aiuta lo sviluppo sano e naturale di un essere umano? Rappresenta il modello giusto a cui vogliamo esporre i nostri figli? Stare sempre circondati da quello che dicono quelli che la pensano come noi è costruttivo per la nostra capacità di interazione con gli altri?
In secondo luogo. Da vecchio psicometrista (uno psicometrista è un tizio che progetta e costruisce test psicologici) rilevo un problema etico e deontologico. Mi hanno sempre insegnato a distinguere tra variabili psicologiche latenti ed evidenti. Le variabili latenti sono quelle a cui non posso accedere da solo. Ad esempio la mia personalità, oppure i miei interessi professionali. Per farlo ho bisogno di un test e di un supporto psicologico. Le variabili evidenti sono quelle di cui ho piena coscienza e non mi serve un test per scoprirlo (ad esempio, se mi piace la frutta). Raccogliere le variabili latenti è un gioco pericoloso che richiede l’autorizzazione da parte della persona coinvolta. Secondo questo semplice principio: “io non voglio che qualcuno sappia quello che io potrei non sapere” o più semplicemente perché sono le informazioni più profonde su di noi. Se Facebook avesse un algoritmo capace di capire la mia struttura di personalità, i miei valori, l’eventuale presenza di disturbi psicologici (anche lievi) questo mi andrebbe assolutamente comunicato e potrebbe essere usato solo a seguito di una mia formale ed esplicita autorizzazione. Basterebbe sapere che esiste una correlazione tra il numero di like e qualche disturbo di personalità per avere in modo semplice questa informazione.
La politica, quella vera e seria, deve occuparsi di questi temi. Sia perché entrambi i problemi fanno riferimento alla costruzione del consenso elettorale e aprono a scenari nuovi, ma – sopratutto – perché possono facilmente ledere il benessere psicologico delle persone. Non vorrei che mia figlia, un giorno, si ritrovasse prigioniera di questi algoritmi.
Purtroppo, non ho una soluzione, ma credo che un dibattito su questi temi possa aiutare la riflessione e la proposta politica.