Ricerca Usa: l’AI è più brava a vendere. E ChatGPT già insidia l’e-commerce, mentre Amazon lancia l’app che “legge” i referti per i pazienti

Sempre più spesso, sulle piattaforme di e-commerce e nei motori di ricerca, le singole recensioni dei clienti vengono “compresse” dall’intelligenza artificiale in un breve testo riassuntivo che sintetizza pregi e difetti di un prodotto: poche frasi, generate automaticamente leggendo decine di commenti, che servono ad aiutare l’utente a decidere più rapidamente. È proprio questo riepilogo che fa la differenza. Quando un potenziale cliente legge una sintesi di recensioni generata dall’AI, la probabilità di acquisto aumenta del 32% rispetto a chi legge le recensioni originali una per una. Il motivo? I Large language models (Llm, i modelli linguistici con cui comunicano le piattaforme di intelligenza artificiale come ChatGpt e altre) tendono a mettere in risalto gli aspetti positivi del prodotto, introducendo un “framing” favorevole che finisce per influenzare il comportamento degli utenti. I dati arrivano da una ricerca condotta dall’università della California con l’obiettivo di verificare in quale misura gli Llm orientino le decisioni dei consumatori. Gli studiosi, in sintesi, hanno coinvolto 70 persone, cui sono state fatte leggere alcune recensioni originali dei clienti oppure i riepiloghi generati dagli Llm relativi a diversi prodotti, come radio, lampade e cuffie per la musica. Nel campione che ha letto le sintesi prodotte dall’AI, ha dichiarato che avrebbe acquistato i prodotti l’84% delle persone; nel gruppo di coloro ai quali sono state proposte le recensioni “umane”, ha espresso lo stesso orientamento il 52% degli intervistati.

I ricercatori, in particolare, hanno rilevato che i riassunti dei Llm mostravano nel 26,5% dei casi un “sentiment” diverso da quello delle recensioni. Inoltre quando il cliente, letto il riepilogo, poneva all’AI domande aggiuntive, gli Llm tendevano ad “allucinare” (cioè fornivano risposte plausibili ma non supportate dai dati o fattualmente errate) se il quesito esulava dai dati immessi per l’addestramento del modello. Secondo i ricercatori, all’origine di questi errori ci sarebbe la tendenza dell’AI a fare riferimento soltanto alle prime righe del testo che riassumono, tralasciando le sfumature che emergono nelle parti successive. Inoltre, gli Llm diventano meno affidabili quando vengono confrontati con dati che esulano dal loro set di addestramento. In pratica, funzionano bene finché operano entro il perimetro dei dati su cui sono stati addestrati; quando escono da quel perimetro, aumentano semplificazioni e risposte inventate.

Lo studio dell’università della California non arriva a caso. Nel novembre scorso OpenAI, la società proprietaria di ChatGPT, ha presentato “Shopping Research”, un agente che aiuta chi usa la piattaforma a fare acquisti.  L’utente descrive al chatbot di cosa ha bisogno e l’AI produce una guida all’acquisto con tanto di prodotti consigliati, caratteristiche e prezzi. Il dettaglio che a qualcuno fa storcere la bocca è che questo agente non si attiva su richiesta, ma rimane “dormiente” in ChatGPT e si attiva quando la domanda fa supporre che servano recensioni, consigli sugli acquisti, confronti tra prodotti o altro ancora. L’utente, inoltre, può interagire con i risultati presentati dall’AI, chiedendo per esempio di scartare alcune opzioni o approfondirne altre. Una volta deciso l’acquisto, poi, può cliccare sul link dei negozi proposti dal chatbot ed effettuarlo personalmente. E in futuro, dice OpenAI, i clienti potranno comprare direttamente da ChatGPT, almeno per quei rivenditori online che decideranno di supportare la funzione di “Instant Checkout”.

Che questo sia il futuro non lo si capisce soltanto dallo studio dell’università della California. Un recente rapporto di McKinsey, per esempio, prevede che i sistemi decisionali basati sull’intelligenza artificiale potrebbero generare un incremento delle vendite fino al 5% e migliorare gli utili prima di interessi e tasse da 0,2 a 0,4 punti percentuali. Questo è il motivo per cui, negli Usa, i rivenditori stanno implementando soluzioni basate sull’intelligenza artificiale in ogni ambito, dai chatbot che aiutano a fornire assistenza ai clienti agli algoritmi che supportano la gestione di scorte e categorie merceologiche. Come riferisce un articolo della rivista Drugstorenews, gli analisti prevedono che anche nel settore della farmacia al dettaglio l’intelligenza artificiale e il machine learning saranno sempre più utilizzati per automatizzare attività come la spedizione delle ricette, la gestione degli approvvigionamenti e l’analisi dei dati dei pazienti per identificare potenziali interazioni farmacologiche ed errori di dosaggio. Altre applicazioni di intelligenza artificiale potrebbero essere utilizzate per aiutare i rivenditori a supportare l’aderenza alla terapia farmacologica, per esempio generando messaggi di follow-up automatici.

In particolare, spiega l’articolo, una delle applicazioni dell’AI che promette molto è la generazione di dati sintetici per simulare come determinati gruppi di consumatori possano accogliere un nuovo servizio o un nuovo prodotto. Molte organizzazioni di ricerca, osserva Drugstorenews, stanno già utilizzando le piattaforme di AI in tale modalità per comprendere meglio i consumatori. Inoltre, l’intelligenza artificiale può aiutare i rivenditori ad affrontare le “crisi” che spesso si trovano ad affrontare: il rapporto di McKinsey ipotizza il caso in cui un rivenditore riscontra un calo inaspettato delle vendite di un certo prodotto o categoria. Invece di perdere tempo a cercare i motivi, un’AI addestrata sui dati del rivenditore potrebbe generare istantaneamente un elenco di potenziali cause e una serie di azioni da mettere in campo per prevenire le prossime crisi.

Resta ovviamente il dilemma evidenziato dalla ricerca californiana: nel retail farmaceutico, dove la comunicazione di prodotto è soggetta a vincoli normativi più stringenti rispetto ad altri comparti, chi risponde di eventuali errori del contenuto informativo generato dall’AI?

Intanto fanno passi da gigante anche le applicazioni di intelligenza artificiale in ambito clinico: Amazon One Medical (il servizio di assistenza sanitaria ibrido, fisico e digitale, rilevato da Amazon nel 2022) ha lanciato nei giorni scorsi Health Insights, una nuova funzionalità dell’app One Medical che aiuta gli assistiti a leggere i referti medici, comprendere parametri e termini clinici, ricevere consigli e raccomandazioni su prevenzione e stili di vita. Giusto per fare un esempio, Health Insights è in grado di interpretare più di 50 biomarcatori per leggere i risultati delle analisi del sangue standard e tradurli in informazioni utili organizzate per ambiti sanitari quali funzione cardiovascolare, metabolica e immunitaria.

Health Insights, afferma Amazon One Medical, risponde alla crescente esigenza delle persone di comprendere i propri dati sanitari e interpretare il significato dei risultati di laboratorio. «Siamo sempre alla ricerca di modi per aiutare i nostri assistiti a essere proattivi nel loro percorso di salute» spiega Andrew Diamond, direttore medico di Amazon One Medical «Health Insights rende più chiari i dati sanitari complessi per un’assistenza personalizzata e migliori risultati di salute». Resta sempre lo stesso dilemma: quanto controllo ha il provider sul modo con cui l’algoritmo costruisce i messaggi?

.

I ricercatori, in particolare, hanno rilevato che le schede prodotto dei Llm mostravano nel 26,5% dei casi un “sentiment” diverso da quello delle recensioni. Inoltre quando il cliente, letto il riepilogo, poneva all’AI domande aggiuntive, gli Llm tendevano ad “allucinare” (cioè fornivano risposte plausibili ma non supportate dai dati o fattualmente errate) se il quesito esulava dai dati immessi per l’addestramento del modello. Secondo i ricercatori, all’origine di questi errori ci sarebbe la tendenza dell’AI di fare riferimento soltanto alle prime righe del testo che riassumono, tralasciando le sfumature che emergono nelle parti successive. Inoltre, gli Llm diventano meno affidabili quando vengono confrontati con dati che esulano dal loro set di addestramento. In pratica, funzionano bene finché operano entro il perimetro dei dati su cui sono stati addestrati; quando escono da quel perimetro, aumentano semplificazioni e risposte inventate.

Lo studio dell’università della California non arriva a caso. Nel novembre scorso OpenAI, la società proprietaria di ChatGPT, ha presentato “Shopping Research”, un agente che aiuta chi usa la piattaforma a fare acquisti.  L’utente descrive al chatbot cosa vuole acquistare e l’AI produce una guida all’acquisto con tanto di prodotti consigliati, caratteristiche e prezzi. Il dettaglio che a qualcuno fa storcere la bocca è che questo agente non si attiva su richiesta, rimane “dormiente” in ChatGPT e si attiva quando la domanda fa supporre che servano recensioni, consigli sugli acquisti, confronti tra prodotti o altro ancora. L’utente, inoltre, può interagire con i risultati presentati dall’AI, chiedendo per esempio di scartare alcune opzioni o approfondirne altre. Una volta deciso l’acquisto, l’acquirente può cliccare sul link dei negozi proposti dal chatbot ed effettuarlo personalmente. E in futuro, dice OpenAI, sarà possibile compare direttamente da ChatGPT, per i rivenditori online che decideranno di supportare la funzione di “Instant Checkout”.

Che questo sia il futuro non lo si capisce soltanto dallo studio dell’università della California. Un recente rapporto di McKinsey, per esempio, prevede che i sistemi decisionali basati sull’intelligenza artificiale potrebbero generare un incremento delle vendite fino al 5% e migliorare gli utili prima di interessi e tasse da 0,2 a 0,4 punti percentuali. Questo è il motivo per cui, negli Usa, i rivenditori stanno implementando soluzioni basate sull’intelligenza artificiale in ogni ambito, dai chatbot che aiutano a fornire assistenza ai clienti agli algoritmi che supportano la gestione di scorte e categorie merceologiche. Come riferisce un articolo della rivista Drugstorenews, gli analisti prevedono che nel settore della farmacia al dettaglio l’intelligenza artificiale e il machine learning saranno sempre più utilizzati per automatizzare attività come la spedizione delle ricette, la gestione degli approvvigionamenti e l’analisi dei dati dei pazienti per identificare potenziali interazioni farmacologiche ed errori di dosaggio. Altre applicazioni di intelligenza artificiale potrebbero essere utilizzate per aiutare i rivenditori a supportare l’aderenza alla terapia farmacologica, per esempio generando messaggi di follow-up automatici.

In particolare, spiega l’articolo, una delle applicazioni dell’AI che promette molto è la generazione di dati sintetici per simulare come determinati gruppi di consumatori possano accogliere un nuovo servizio o un nuovo prodotto. Molte organizzazioni di ricerca, osserva Drugstorenews, stanno già utilizzando le piattaforme di Ai in tale modalità per comprendere meglio i consumatori. Inoltre, l’intelligenza artificiale può aiutare i rivenditori ad affrontare le “crisi” che spesso si trovano ad affrontare: il rapporto di McKinsey ipotizza il caso in cui un rivenditore riscontra un calo inaspettato delle vendite di un certo prodotto o categoria. Invece di perdere tempo a cercare i motivi, un’AI addestrata sui dati del rivenditore potrebbe generare istantaneamente un elenco di potenziali cause e una serie di azioni da mettere in campo per prevenire le prossime crisi.

Resta ovviamente il dilemma evidenziato dalla ricerca californiana: nel retail farmaceutico, dove la comunicazione di prodotto è soggetta a vincoli normativi più stringenti rispetto ad altri comparti, chi risponde di eventuali errori del contenuto informativo generato dall’AI?

Intanto fanno passi da gigante anche le applicazioni di intelligenza artificiale in ambito clinico: Amazon One Medical (il servizio di assistenza sanitaria ibrido, fisico e digitale, rilevato da Amazon nel 2022) ha lanciato nei giorni scorsi Health Insights, una nuova funzionalità dell’app One Medical che aiuta gli assistiti a leggere i referti medici, comprendere parametri e termini clinici, ricevere consigli e raccomandazioni su prevenzione e stili di vita. Giusto per fare un esempio, Health Insights è in grado di interpretare più di 50 biomarcatori per leggere i risultati delle analisi del sangue standard e tradurli in informazioni utili organizzate per ambiti sanitari quali funzione cardiovascolare, metabolica e immunitaria.

Health Insights, afferma Amazon One Medical, risponde alla crescente esigenza delle persone di comprendere i propri dati sanitari e interpretare il significato dei risultati di laboratorio. «Siamo sempre alla ricerca di modi per aiutare i nostri assistiti a essere proattivi nel loro percorso di salute» spiega Andrew Diamond, direttore medico di Amazon One Medical «Health Insights rende più chiari i dati sanitari complessi per un’assistenza personalizzata e migliori risultati di salute». Resta sempre lo stesso dilemma: quanto controllo ha il provider sul modo con cui l’algoritmo costruisce i messaggi?