Orari di lavoro
Lunedi - Venerdi: 7.30 - 19.30
Sabato: 8 - 16
Z Side · Reality Glitch
A cura di Zoom Out Lab
Questo articolo fa parte di Z Side, il blog editoriale di Zoom Out Lab dedicato a osservare il digitale senza filtri, attraverso eventi reali, fenomeni tecnologici e distorsioni del mondo digitale contemporaneo.
Il nuovo ambulatorio è uno store
Il 2026 sta normalizzando una scena che, fino a poco fa, sembrava fantascienza economica: apri un app store, scarichi un’app “AI Doctor”, fai una domanda, ottieni una risposta con tono sicuro e struttura ordinata e la parte più inquietante è che sembra medicina anche quando non lo è.
In un’inchiesta, Reuters ha documentato come app e bot medici basati su AI stiano entrando nelle tasche delle persone con promesse aggressive (“instant risk assessment”, “accurate come un professionista”) e, in vari casi, con consigli inaccurati o potenzialmente rischiosi.
Reality Glitch, qui, non è “l’app sbaglia”. È più sottile: la distribuzione della fiducia ha cambiato canale. Prima l’autorità clinica era un luogo, una relazione, un’istituzione. Ora è un’icona con stelline e una schermata pulita.
Il trucco del disclaimer: “non diagnostico” ma sembra diagnosi
La mossa retorica che tiene in piedi metà di questo mercato è sempre la stessa: “questa app non fornisce diagnosi”. Un disclaimer, spesso lungo e legale, che vive in fondo alla pagina o dietro un tap.
Ma l’esperienza utente fa l’opposto: ti dà un output con linguaggio medico, livelli di rischio, raccomandazioni e un tono da referto. Reuters descrive anche come alcuni sviluppatori posizionino questi strumenti come “informativi” per ridurre l’esposizione regolatoria, pur vendendo implicitamente un’idea: puoi sostituire parte del giudizio clinico con una risposta automatica.
Il glitch è qui: nel digitale, la forma pesa quanto il contenuto. Se l’interfaccia assomiglia a un consulto, l’utente la tratta come un consulto, indipendentemente dalla clausola “non medico”.
Dove si rompe la catena: app store, marketing, regolazione
La situazione diventa più interessante quando guardi la filiera: store → claim marketing → uso reale → danno potenziale.
Reuters riporta che, dopo domande dell’agenzia, Apple App Store ha rimosso almeno un’app e che le linee guida per sviluppatori richiedono di dichiarare chiaramente dati/metodologia a supporto delle affermazioni di accuratezza per le app mediche.
Non è solo “colpa delle piattaforme”, però. È una zona grigia utile a tutti:
- allo store, perché ospita innovazione senza assumersi tutto il rischio ex ante;
- allo sviluppatore, perché vende “vicino alla diagnosi” senza dire “diagnosi”;
- all’utente, perché compra una scorciatoia emotiva: una risposta rapida, anche se fragile.
Wellness vs medicale: il confine che conviene a tutti
Il confine tra “benessere” e “medicale” non è solo semantica: è regolazione, responsabilità, evidenza.
La U.S. Food and Drug Administration negli ultimi mesi ha chiarito ambiti e criteri su software di supporto decisionale clinico (CDS) e cosa rientra o no nella sua supervisione, distinguendo tra strumenti per professionisti e funzioni rivolte a pazienti/caregiver.
In parallelo, la FDA ha pubblicato una draft guidance specifica per funzioni software AI-enabled in ambito medical device (lifecycle management e raccomandazioni per le submissions).
Traduzione: i regolatori stanno costruendo il recinto. Ma il mercato corre nello spazio tra le assi del recinto, soprattutto quando l’app riesce a posizionarsi come “wellness” anche se l’utente la usa come “triage medico”.
Il danno vero: la fiducia come dispositivo medico
Il rischio più grande non è l’errore singolo (che esisterà sempre). È l’effetto sistemico: spostare decisioni sanitarie verso strumenti non verificati come tali, perché l’output è convincente.
Reuters descrive casi in cui le app possono allarmare inutilmente o, peggio, rassicurare a torto e in entrambi i casi spingere comportamenti che ritardano la consulenza reale o la rendono più confusa.
E qui arriva la lezione Reality Glitch: quando l’AI entra in medicina via app store, la fiducia diventa un dispositivo medico non certificato. La UI (interfaccia) prende il posto dell’evidenza.
Quando l’accuratezza è una UI
La distorsione contemporanea è che abbiamo iniziato a valutare l’affidabilità come valutiamo un prodotto digitale: scorrevolezza, chiarezza, tono. E l’AI è bravissima proprio in questo: presentare l’incertezza come frase ben scritta.
Il punto non è demonizzare le app. Il punto è riconoscere il nuovo problema: la diagnosi può essere simulata come esperienza, anche quando non è supportata come atto clinico.
E in un mondo dove la realtà è sempre più mediata da interfacce, il vero rischio non è “l’AI sbaglia”. È che noi impariamo a fidarci del modo in cui parla.
