Mia moglie maltratta i robot. E ha le sue buone ragioni

Mia moglie ha sviluppato negli anni una competenza molto particolare: riesce a farsi passare un operatore in carne e ossa dai servizi clienti delle grandi aziende. Sembra una cosa banale. Non lo è affatto. Sta diventando un’impresa.

Chiunque abbia avuto un problema con la fibra, il telefono, una piattaforma digitale o un servizio in abbonamento sa di cosa parlo. Prima di arrivare a qualcuno che possa effettivamente aiutarti devi attraversare una successione di risponditori automatici, menu, domande, risposte preconfezionate e conversazioni che sembrano intelligenti ma non portano da nessuna parte.

Nel frattempo scopri che chi gestisce la rete non è responsabile del servizio, chi vende il servizio non controlla la rete e chi incassa il tuo abbonamento non può intervenire sul problema. Tutti hanno una procedura da rispettare. Nessuno sembra avere la responsabilità di risolverti il problema.

Mia moglie, però, non si arrende. Insiste, ripete, contesta, ricomincia. Se necessario per venti minuti. E, quando capisce che il sistema cerca soltanto di liberarsi di lei, diventa progressivamente più aggressiva.

La cosa incredibile è che spesso funziona. A un certo punto la macchina cede il passo a un essere umano. E il problema, finalmente, trova qualcuno che possa affrontarlo. Qualche giorno fa mi ha confidato, divertita: «Se qualcuno mi vedesse quando mi arrabbio con questi risponditori automatici direbbe che sono pazza. Ma io so benissimo quello che sto facendo. E infatti ci riesco».

Ci ho ripensato leggendo oggi sul Guardian che Anthropic, una delle principali aziende di intelligenza artificiale, ha introdotto nelle proprie regole un divieto di comportamenti ripetutamente crudeli o abusivi verso i suoi modelli. La motivazione è sorprendente: non sappiamo ancora se un’intelligenza artificiale possa avere una qualche forma di coscienza o di benessere da proteggere. Nel dubbio, meglio qualche precauzione.

Naturalmente la norma non riguarda le normali proteste dei clienti e non si applica ai comuni risponditori automatici. Ma la coincidenza è troppo gustosa per lasciarla passare.

Da una parte abbiamo costruito sistemi che possono costringere un consumatore a supplicare, insistere e persino urlare per ottenere un servizio che ha già pagato. Dall’altra cominciamo a preoccuparci che gli esseri umani possano essere troppo crudeli con le macchine.

Nel frattempo le aziende celebrano i risparmi ottenuti automatizzando l’assistenza. Meno operatori, meno chiamate, meno costi. Peccato che quei costi non siano sempre scomparsi. Spesso sono semplicemente passati al cliente, sotto forma di tempo perduto, frustrazione e lavoro gratuito. Ventimila clienti che perdono venti minuti ciascuno rappresentano oltre seimila ore di vita. Ore che non compaiono nel bilancio di nessuna azienda.

Non so se le macchine di domani potranno soffrire. So che i consumatori di oggi possono farlo, e che qualche volta una parte della loro sofferenza è progettata dentro i sistemi che dovrebbero servirli.

Quanto a mia moglie, credo abbia capito una cosa fondamentale: non bisogna confondere una procedura con un diritto, né una risposta automatica con una soluzione. La sua aggressività non è

una virtù e non sappiamo neppure se sia quella, anziché la semplice perseveranza, a far cedere il sistema. Ma la sua determinazione è una forma di intelligenza pratica. Il paradosso è che, per arrivare a parlare civilmente con una persona, qualche volta deve prima litigare con una macchina.

E allora forse, prima di preoccuparci di quanto siamo crudeli con l’intelligenza artificiale, dovremmo porci una domanda più semplice.

Perché abbiamo costruito macchine che, per ottenere ciò a cui abbiamo diritto, ci costringono a diventare peggiori?