Il chatbot del sito risponde a un cliente che la consegna è gratuita, che il prodotto è in offerta, che siete aperti la domenica. Niente di tutto questo è vero. Il cliente si presenta, o compra, e pretende ciò che gli è stato promesso. I chatbot con intelligenza artificiale possono inventare risposte con grande sicurezza, se non sono costruiti per evitarlo.
I chatbot moderni usano modelli linguistici che generano risposte prevedendo le parole più probabili. Sono bravissimi a scrivere testi convincenti, ma non sanno distinguere da soli un’informazione vera da una plausibile.
Se il chatbot non ha accesso ai tuoi contenuti aggiornati, o ha l’istruzione di rispondere sempre e comunque, quando non trova la risposta la costruisce. Lo fa con lo stesso tono sicuro con cui darebbe una risposta corretta.
Le conseguenze non sono teoriche. In Canada, nel 2024, un tribunale ha ritenuto una compagnia aerea responsabile delle informazioni sbagliate date dal suo chatbot a un cliente. Ciò che il chatbot dice, per il cliente, lo dice l’azienda.
Si vedono soprattutto leggendo le conversazioni reali.
Nelle conversazioni registrate trovi sconti mai offerti, orari sbagliati, condizioni di reso inventate.
Cosa c’è dietroIl chatbot non ha accesso a informazioni aggiornate, o le ha ma non è obbligato a usarle. Quando manca il dato, lo genera.
Rischio: promesse falseQualunque domanda, anche molto lontana dalla tua attività, riceve una risposta sicura.
Cosa c’è dietroUn chatbot affidabile deve saper riconoscere quando non ha la risposta e dirlo, o passare la conversazione a una persona.
Segnale: nessun limiteDà consigli medici, legali o finanziari, parla di politica, o aiuta a scrivere compiti scolastici.
Cosa c’è dietroSenza istruzioni che lo limitano ai tuoi contenuti, il chatbot diventa un assistente generico con il tuo marchio sopra, con tutti i rischi del caso.
Segnale: argomenti fuori temaArrivano email o telefonate del tipo «il vostro assistente mi aveva detto che…».
Cosa c’è dietroÈ il segnale più costoso: il cliente si è fidato e ha agito. A quel punto bisogna scegliere tra mantenere una promessa mai fatta o deludere il cliente.
Effetto: reclamiIl chatbot è stato installato e lasciato lì. Nessuno controlla cosa risponde.
Cosa c’è dietroSenza monitoraggio, gli errori si ripetono finché un cliente non li segnala. Leggere le conversazioni è anche il modo migliore per capire cosa chiedono i clienti.
Causa: nessun controlloFai al chatbot del tuo sito dieci domande: cinque facili, tre difficili e due fuori tema. Il test resta sul tuo dispositivo: non viene inviato niente.
Bastano mezz’ora e un elenco di domande scelte con malizia.
Quasi sempre il problema è come è stato costruito, non il modello in sé.
| Causa | Come la riconosci | Perché non è banale |
|---|---|---|
| Nessun accesso ai contenuti | Risposte generiche o inventate | Va collegato a contenuti approvati e aggiornati |
| Istruzioni deboli | Risponde a tutto | Servono limiti chiari e testati |
| Nessun passaggio a una persona | Il cliente resta bloccato | Va previsto un percorso verso il team |
| Contenuti vecchi | Informazioni superate | Serve un processo di aggiornamento |
| Nessun monitoraggio | Errori ripetuti | Le conversazioni vanno lette e corrette |
Il chatbot continua a sbagliare senza che nessuno lo sappia.
Più libertà significa più invenzioni.
Il cliente deve sapere che parla con un sistema automatico.
I clienti che non trovano una persona se ne vanno.
Costruiamo chatbot che rispondono solo dai tuoi contenuti approvati, dicono «non lo so» quando serve e passano la parola a una persona. Oppure sistemiamo quello che hai: limiti, contenuti, test e monitoraggio delle conversazioni.
Perché i modelli linguistici generano testo plausibile e, se non sono collegati a contenuti affidabili e non hanno limiti chiari, completano le risposte anche quando non hanno l’informazione.
Per i clienti, il chatbot parla a nome dell’azienda. In Canada nel 2024 un tribunale ha ritenuto una compagnia aerea responsabile delle informazioni sbagliate date dal suo chatbot.
Collegandolo solo a contenuti approvati, con istruzioni che lo obbligano a dire quando non sa e a passare la conversazione a una persona, e controllando le conversazioni.
Sì, è buona pratica e il regolamento europeo sull’IA prevede obblighi di trasparenza per i sistemi che interagiscono con le persone.
Ogni volta che cambiano prezzi, orari, servizi o condizioni, e con una revisione periodica.
PARLA CON UN RESPONSABILE