La dittatura degli algoritmi genera caos. Con poca empatia, l’AI diventa ostile

Questa è la prima puntata del 2025 della rubrica mensile Insights - Il punto di Pierangelo Soldavini, un'analisi a firma del noto giornalista italiano esperto di economia e innovazione. 

***

Un anno fa avevo espresso grande ammirazione per il Wrapped di Spotify, non tanto per il servizio in sé quanto per il messaggio che lanciava ai suoi utenti. La sintesi annuale delle preferenze musicali di ciascuno era una modalità per ricordare quanto ascoltato e vissuto nell’ultimo anno, ma soprattutto implicava un’attenzione spasmodica per il singolo. In chiusura di anno Spotify coccola i suoi abbonati, lasciando intendere che ciascuno di loro è importante con i propri gusti e le proprie esigenze da rispettare a da esaudire. Ogni utente emerge così dalla massa essendo trattato come persona, non come uno dei tanti abbonati che sborsano qualche euro al mese per avere tutta la musica desiderata. Insomma, il Wrapped annuale si trasforma in un messaggio di cura e di rispetto lanciato a ogni singolo utente, rinforzato nel corso dell’ultimo anno dal servizio che offre anche la suddivisione degli ascolti per orari della giornata e giorni della settimana. È sottinteso che questo tipo di offerta sarebbe impossibile senza l’intelligenza artificiale e la sua sconfinata potenza nel gestire e integrare dati di ogni tipo, sulla base dei criteri voluti.  Ma quest’anno il servizio è stato accolto con grandi critiche: il New York Times lo ha definito “piatto”, sui social il giudizio più elegante è stato “deludente”. Ma cos’è successo? Nel corso dell’anno Spotify ha messo mano a un’ondata di licenziamenti in chiave di riorganizzazione e riordino dei conti, con tagli anche nella divisione hi-tech. L’effetto non voluto è che, alla fine, gli algoritmi sono finiti un po’ fuori controllo e hanno deciso per altri: sono state così abbandonate alcune funzionalità a favore di altre di cui gli utenti non sentivano l’esigenza. Sono stati, per esempio, creati podcast sulle abitudini di ascolto Paese per Paese e una playlist elaborata da una intelligenza artificiale nel ruolo di Dj, servizi scarsamente apprezzati. Nel complesso gli utenti hanno denunciato una certa freddezza e una scarsa comprensibilità del prodotto finale. Aver lasciato campo libero agli algoritmi ha creato categorie musicali bizzarre che debordano dai confini delle tipologie tradizionali, con l’intento di stupire e definire con maggior precisione i gusti, ma generando solo sconcerto e confusione. Con il risultato finale di rendere complicata la fruizione di un prodotto che faceva di semplicità e immediatezza la propria forza.

In otto anni di presentazione di questa sintesi annuale, la piattaforma musicale era riuscita a trasformare il Wrapped in una potente modalità di pubblicità pressoché gratuita e di marketing individuale. Quest’anno l’effetto non è stato così positivo, anzi ci sono stati utenti che hanno dichiarato la loro intenzione di abbandonare Spotify a favore di altri concorrenti. L’accoglienza tiepida nei confronti di questo tipo di prodotti di fine anno ha coinvolto anche altri player tecnologici. Forse è vero che ormai un po’ tutti noi risultiamo piuttosto allergici al controllo pervasivo sui nostri comportamenti da parte delle piattaforme online. Ma forse il dominio degli algoritmi finisce per espandere funzionalità ridondanti a scapito della creatività e della sua capacità di stupire le persone ogni volta. Tanto più se, come nel caso specifico, è frutto di taglio di risorse per migliorare la redditività.

Sempre quest’anno e sempre in ambito musicale si è verificato un episodio che si inserisce nella stessa linea. Quando nel pieno dell’estate i fratelli Galllagher hanno annunciato quello che sembrava impossibile – ossia un nuovo tour degli Oasis tra Regno Unito e Irlanda – tra i fan si è scatenata la corsa all’accaparramento dei biglietti per i 17 concerti straordinari. Con il risultato che sulla piattaforma di Ticketmaster alcuni biglietti sono più che raddoppiati da 170 sterline a più di 350 fino a superare quota 400. Oscillazioni talmente eccessive e repentine che hanno riprodotto un effetto bagarinaggio già sull’offerta primaria, lasciando increduli i fan accorsi sui siti a procacciarsi i posti per i concerti. Anche in questo caso l’effetto è stato quello di indurre molti a rinunciare a rinunciare a un’occasione più unica che rara e molti biglietti sono stati annullati, come ha riportato il Guardian. Per sfruttare al massimo l’effetto sorpresa della reunion degli Oasis gli organizzatori hanno utilizzato il sistema del “dynamic pricing”, oggi molto utilizzato negli Stati Uniti, ma relativamente nuovo in Europa. Vi fanno ricorso in maniera surrettizia compagnie aeree e hotel per gestire i prezzi di voli e camere. Anche in questo caso entrano in gioco gli algoritmi che determinano la variazione dei prezzi in diretta sulla base della richiesta, sul modello della classica legge della domanda e dell’offerta: se c’è tanta richiesta, i prezzi vengono aggiornati in diretta, in caso contrario possono anche scendere per stimolare la richiesta.

Il dynamic pricing è uno strumento del tutto legale e utile per adeguare i prezzi al mercato, ma se le persone colgono che diventi una modalità per trasformare la loro passione in ricchi profitti, la tecnologia può diventare un boomerang che induce all’abbandono. Negli Usa un gruppo di fan ha fatto causa a Ticketmaster per la gestione dei biglietti dei concerti di Taylor Swift, mentre dopo la vicenda degli Oasis la Commissione europea ha aperto un’inchiesta sulla modalità dinamica di pricing. Questi effetti perversi degli algoritmi rappresentano una lezione per tutte le aziende. Tanto più in un mondo digitale, dove non ci si vede in faccia e non si stringono le mani, il rapporto con il cliente è una relazione basata sulla fiducia e sul rispetto. La tecnologia offre modalità infinite per affinare e curare quella relazione con il cliente, tagliando il servizio su misura, ampliando l’offerta e i punti di contatto, servendo le sue esigenze più recondite. Senza però mai tradire la fiducia e il rispetto che merita ogni persona.