Una ricerca italiana mostra che gli algoritmi di raccomandazione non solo influenzano le nostre scelte quotidiane, ma finiscono per cambiare la geografia urbana. Tutto dipende da come li programmiamo
Certo, è comodo. Non si discute.
Quando il tempo stringe e non sappiamo dove andare a mangiare o cerchiamo un albergo al volo, sappiamo a chi rivolgerci, certi di avere la risposta più veloce e precisa.
Lo stesso vale quando vogliamo organizzare un weekend o una vacanza.
Gli algoritmi che possono aiutarci sono molti e sono diventati per la maggior parte di noi una seconda bussola.
Quel che non pensiamo è che, nel momento in cui ci affidiamo ai consigli che ci arrivano da Google Maps, Yelp o TripAdvisor, affidiamo loro non solo il potere di guidarci ma, nel tempo, anche di cambiare i nostri quartieri e le nostre città.
Come?
Ha cercato di scoprirlo un team di ricercatori italiani dell’Istituto di scienza e tecnologie dell’informazione ‘A. Faedo’ (Cnr-Isti), insieme al Cnr-Icar di Palermo e alla Scuola Normale Superiore di Pisa che, attraverso un particolare simulatore, ha monitoralo il ciclo di feedback esistente tra algoritmo, persone e dati urbani.
Lo studio, pubblicato sulla rivista Machine Learning, rappresenta un nuovo approccio alla questione arrivando a risultati che possono far capire come stiamo rimodellando la geografia urbana e i flussi delle persone.
Mica cosa da poco: potrebbero orientare amministrazioni pubbliche e urbanisti, aiutandoli a prevedere e governare gli impatti delle tecnologie digitali sulla vita urbana.
Il circolo vizioso
Da quando abbiamo iniziato a seguire consigli digitali per scegliere ristoranti, bar o parchi, non siamo più soli nelle nostre decisioni.
C’è l’intelligenza artificiale con noi.
Ma lo scambio è reciproco.
Se è vero infatti che l’algoritmo “consiglia”, è anche vero che le persone decidono e che, sulla base delle loro decisioni, i dati vengono aggiornati e l’algoritmo si riaddestra, influenzando a sua volta le scelte future.
Facciamo insomma parte di un circolo vizioso che in gergo si chiama feedback loop e che mette insieme “recommender systems”, algoritmi che ci suggeriscono i “posti migliori” da raggiungere, e scelte individuali.
La strana parabola sociale
Più decisioni individuali, si sa, formano decisioni collettive.
E il paradosso osservato dal simulatore attivato dai ricercatori evidenzia quella che viene definita una “parabola sociale”: tutti esploriamo ma tutti finiamo negli stessi posti di moda.
O quanto meno in quelli maggiormente suggeriti.
Questo nonostante gli algoritmi ci spingano a scoprire più luoghi diversi.
Anche in questo caso, la conseguenza non è banale perché, di fatto, va ad aumentare le disuguaglianze tra i quartieri concentrando i flussi su alcune aree e tagliandone completamente fuori altre.
L’impatto sulle città
I ricercatori sottolineano dunque che l’IA sta ridisegnando ogni angolo delle nostre città.
Ma anche che c’è un margine d’intervento umano affatto trascurabile, perché il paradosso dipende dal tipo di algoritmo che l’uomo addestra.
In sostanza, concludono, se “i sistemi basati su modelli di deep learning producono l’effetto più forte, aumentando molto la diversità individuale ma anche la concentrazione collettiva, metodi più semplici come ItemKNN tendono a ridurre sia la diversità individuale sia quella collettiva”.
Insomma, si può migliorare, tenendo conto del fatto che “un algoritmo che ottimizza solo il singolo potrebbe non essere sano per il tessuto sociale complessivo”.
Consuelo Terrin
