Orari di lavoro
Lunedi - Venerdi: 7.30 - 19.30
Sabato: 8 - 16
Z Side · Reality Glitch
A cura di Zoom Out Lab
Questo articolo fa parte di Z Side, il blog editoriale di Zoom Out Lab dedicato a osservare il digitale senza filtri, attraverso eventi reali, fenomeni tecnologici e distorsioni del mondo digitale contemporaneo.
Il paradosso: non è più supporto, è governance
C’è un equivoco comodo, molto aziendale, che gira da un paio d’anni: “il chatbot è solo un assistente”.
No. Nel mondo reale, quando un sistema parla a nome tuo sta esercitando autorità. E quando quella risposta viene presa come ufficiale dal cliente, dal supporto umano, dalla policy interna l’assistenza smette di essere “aiuto” e diventa governo: decide cosa è vero, cosa è valido, cosa è concesso.
Il punto non è che i chatbot sbagliano. Quello lo sanno anche i sassi. Il punto è che l’errore non resta un errore: si trasforma in regola de facto, perché nessuno vuole (o riesce) a contraddirlo in tempo utile.
E qui nasce il Reality Glitch: non stiamo guardando “una tecnologia imperfetta”. Stiamo guardando un sistema che produce decisioni senza decisore.
“Non volevo decidere” è una scusa che non funziona
Le aziende amano la frase: “Il bot non prende decisioni, fornisce informazioni.”
Suona bene finché non succede l’inevitabile: il bot fornisce un’informazione falsa, e quella falsità genera un’azione. A quel punto “era solo informazione” diventa una difesa comica, come dire “non era una multa, era un foglietto”.
La dinamica è semplice: una risposta testuale ha due proprietà sociali potentissime:
- sembra competente (linguaggio fluido, tono sicuro);
- sembra ufficiale (arriva dentro un canale istituzionale: sito, chat, app).
Il cliente non sta leggendo un esperimento di NLP. Sta leggendo “l’azienda”.
Tre casi reali che smontano il mito
Il chatbot che inventa una policy e l’azienda paga
Nel caso Moffatt v. Air Canada, un cliente ha ricevuto dal chatbot informazioni errate su una tariffa e ha agito di conseguenza. Il tribunale non ha accettato la scappatoia “non è colpa nostra, è colpa del bot”: ha ritenuto la compagnia responsabile per ciò che il chatbot comunicava.
Questo caso è importante per un motivo brutale: mette nero su bianco che la voce automatizzata è ancora voce aziendale. Se la fai parlare, te ne prendi la responsabilità. Fine della poesia.
Il chatbot pubblico che consiglia cose illegali
Nel 2024 New York City ha difeso un chatbot pensato per aiutare imprenditori, nonostante il sistema desse consigli che portavano a violare leggi locali (esempio: suggerimenti errati sul “cashless” ignorando norme cittadine). Anche qui, l’aspetto Reality Glitch non è l’errore: è che un canale ufficiale produce “verità” sbagliate con la tranquillità di un comunicato.
Quando l’AI “riduce i costi” e poi ti presenta il conto
Il caso Klarna è interessante perché mostra l’altra faccia: non la singola risposta sbagliata, ma l’effetto sistemico. Dopo una spinta forte verso automazione e AI, l’azienda ha dovuto riportare persone in customer support perché la qualità dell’esperienza stava peggiorando. Non è un fallimento dell’AI: è il costo reale di trattare l’assistenza come un problema di volume invece che di fiducia.
Perché l’errore diventa policy
Qui sta la parte che vale più di qualsiasi “hot take”.
Un chatbot basato su modelli linguistici produce testo plausibile. Ma plausibile non significa vero. Il punto è che il contesto dell’assistenza clienti trasforma il plausibile in vincolante, perché:
- Ambiguità: la risposta sembra un regolamento, anche quando è una congettura ben scritta.
- Incentivi: l’azienda spinge per deflettere ticket e ridurre tempi; la precisione diventa una metrica “secondaria” finché non esplode.
- Opacità: quando non sai chi ha deciso, non sai nemmeno a chi contestare. E se non puoi contestare, quella risposta diventa la policy.
In pratica: l’errore diventa policy perché il sistema è progettato per far scorrere tutto in avanti, non per fermarsi a verificare.
E non serve che l’azienda sia in mala fede. Basta che sia… un’azienda: ottimizza, accelera, automatizza. Poi si stupisce quando la realtà presenta la fattura.
Il punto non è la tecnologia: è il design del potere
Se un chatbot gestisce rimborsi, penali, blocchi account, o semplicemente orienta decisioni che “pesano”, allora non è più una UI simpatica. È un pezzo di governance.
Qui la domanda non è “quanto è intelligente il modello?”, ma:
- c’è un’escalation rapida a un umano con potere decisionale?
- esiste tracciabilità delle risposte (versione modello, prompt, contesto, log)?
- c’è un modo chiaro per contestare e correggere?
Senza queste cose, l’assistenza AI non è “innovazione”: è delega di autorità a un sistema che, per definizione, può inventare con grande sicurezza.
Ed è un tema che le istituzioni stanno iniziando a trattare come problema di tutela del consumatore, proprio perché i chatbot sono ormai interfacce di persuasione e decisione, non semplici FAQ animate.
La lezione Reality Glitch
La distorsione qui è sottile e velenosa: l’automazione non toglie potere, lo nasconde.
Quando automatizzi la voce del brand, automatizzi anche la colpa.
E se non progetti bene responsabilità, escalation e contestazione, il tuo chatbot farà quello che fanno tutti i sistemi senza freni: produrrà risposte. Poi la realtà clienti, tribunali, reputazione deciderà quanto ti è costato lasciarlo parlare.
