Intelligenza Artificiale

Una panoramica su ChatGPT, i modelli linguistici di grandi dimensioni e l'IA generativa

Ben Rigby, Talkdesk

By Ben Rigby

0 minuti di lettura

Chatgpt Virtiual Agents

Che cosa significa questo minestrone di parole per il contact center?

ChatGPT has been in the press like an exploding ball of confetti. Tech companies talk about how it’s going to transform software. Gaming companies predict that it will add a dynamic, human-like speaking capability to its characters. Teachers are trying to reimagine education now that plagiarism has become undetectable overnight. Microsoft’s Bing suddenly seems like a contender to Google with its integrated ChatGPT functionality. And virtual agents for customer service and conversational analytics are about to take a huge leap forward.

The news cycle has been so fast, it’s been hard to keep up with all the terminology. Depending on which article you read, you might see the terms ChatGPT, GPT, GPT-3, GPT-4, large language models (LLM), or generative AI all used interchangeably. And you wouldn’t be blamed for feeling confused about them all. In this post, I’ll provide a primer on ChatGPT, large language models, and generative AI, and discuss how these revolutionary technologies are positively impacting the contact center.



Modelli linguistici di grandi dimensioni.

Quindi, di cosa si parla quando si afferma che ChatGPT trasformerà il settore dei contact center (o qualsiasi altro settore)? Ci si riferisce al tipo di modello di intelligenza artificiale che sta alla base di ChatGPT. Questo tipo di modello è chiamato modello linguistico di grandi dimensioni o LLM (Large Language Model). È grande perché esegue un numero enorme di calcoli per ogni previsione formulata. Inoltre, questi modelli vengono addestrati su una quantità altrettanto enorme di dati, praticamente su tutto ciò che è stato scritto su Internet. 

È un modello linguistico perché si concentra sulla previsione di sequenze di parole. Ciò significa che quando gli viene sottoposta una richiesta o prompt, il modello è in grado di prevedere ciò che viene dopo. Quindi, se dovesse sottoposto il prompt "Quarantaquattro gatti, in fila per ____'" il modello è in grado di prevedere che la parola successiva è "sei". 

Tuttavia, quest'ultima generazione di modelli linguistici di grandi dimensioni è in grado di prevedere molto più di una sola parola. Quando viene sottoposto un prompt del tipo "L'impatto dei sistemi IVR sulla qualità del servizio clienti è stato...", un LLM può prevedere o completare alcuni paragrafi di testo molto pertinenti che descrivono l'impatto storico dei sistemi IVR sul servizio clienti. Per questo motivo, questi modelli vengono anche chiamati modelli di completamento di testo. Alla luce di tutti i dati che il modello ha "letto" in precedenza, è in grado di completare la frase, il paragrafo o il testo logico successivo con una qualità simile a quella umana.

I modelli LLM non funzionano con immagini, non eseguono analisi statistiche, non eseguono calcoli e non verificano i fatti. Tali modelli operano solo nel campo del linguaggio, ovvero, della parola scritta. Per qualsiasi settore che si occupa principalmente di linguaggio, come il contact center, concentrarsi solo sul linguaggio è già molto! Il contact center aiuta le persone a risolvere i problemi attraverso il linguaggio verbale o scritto. Il linguaggio è al centro di ciò che fa il contact center ed è per questo che l'impatto degli LLM sul servizio clienti è così significativo.



GPT.

Tutti noi conosciamo il significato di chat. Ma cosa significa GPT? GPT è l'acronimo di Generative Pre-trained Transformer. Descrive una famiglia di LLM costruiti in un modo particolare. Ogni generazione di questi modelli ha un numero crescente di "parametri", che possono essere considerati come i neuroni di un cervello. GPT-1 ha 117 milioni di parametri, GPT-3 ha 175 miliardi di parametri e GPT-4 ne avrà molti di più.

Ad oggi, l'aggiunta di più parametri ha portato a modelli più performanti. Se hai già usato ChatGP, basato su GPT-3, sa che i testi elaborati sono molto buoni. In particolare, è stata l'ultima iterazione dei modelli GPT, denominata GPT 3.5 DaVinci, a varcare il confine tra l'interessante e il sorprendente. 

Sebbene ChatGPT non sia disponibile al di fuori dell'interfaccia di chat sul sito web di OpenAI, molti di questi modelli GPT sono disponibili presso OpenAI tramite API a pagamento. Grazie alla sua stretta relazione con Microsoft, queste API sono disponibili anche a pagamento tramite Microsoft Azure. Si tratta di una novità importante per i contact center, perché Azure aggiunge fattori di sicurezza, affidabilità, conformità e privacy dei dati che i contact center richiedono.

However, there are many other GPT and LLM models available from other vendors, also on an open-source basis. Google, for example, introduced its LLM, called Bard, and announced a $300m investment in Anthropic—a startup that builds LLMs. Another popular open-source LLM is called Bloom. In other words, there are a wide variety of options for building GPT software with LLMs. OpenAI is not the only game in town.



ChatGPT.

Sentirai quindi spesso usare e abusare del nome ChatGPT. ChatGPT è un'applicazione di chat in grado di tenere una conversazione simile a quella umana su quasi tutti gli argomenti. ChatGPT è stato costruito da una startup a scopo di lucro chiamata OpenAI, che ha ricevuto un investimento significativo da Microsoft, Al momento, ChatGPT utilizza una versione non divulgata di GPT creata da OpenAI, che è stata ulteriormente ottimizzata per funzionare bene nelle conversazioni tipo chat. 

Questa applicazione ha suscitato l'entusiasmo della stampa, per due motivi:

  1. Ha qualcosa di magico.
  2. È accessibile a tutti.

Ha qualcosa di magico perché sembra umana. Basta fare una domanda sul caffè espresso per ottenere una risposta colloquiale, come se la risposta venisse da un barista. Si fa una domanda sull'epilessia e si riceve una risposta che potrebbe provenire da un medico ricercatore. Inoltre, rispetto alle esperienze di molte persone con i chatbot che sembrano per lo più dire: "Mi dispiace, non ho capito", questa esperienza sembra alchimia.

In secondo luogo, è accessibile alla gente comune. Sebbene questo tipo di funzionalità fosse disponibile in passato solo per ricercatori e data scientist, ChatGPT è la prima applicazione disponibile e comprensibile per il grande pubblico. Che si tratti di un bambino di 10 anni che fa i compiti o di un ingegnere in cerca di consigli di programmazione, ChatGPT è accessibile e facile da usare.

Chatgpt And The Future Customer Service

Webinar

ChatGPT e il futuro del Servizio Clienti

Scopri in questo webinar gratuito come ChatGPT cambierà radicalmente la tua concezione del servizio clienti.

IA Generativa.

Questo ci porta al concetto finale, quello dell'Intelligenza Artificiale Generativa. L'IA generativa è un termine generico che si riferisce a tutti i modelli di IA che generano un risultato nuovo sulla base di una domanda o richiesta comunemente chiamata prompt. Questa più ampia definizione comprende modelli che producono linguaggio, immagini visive e audio.

You may have heard about Dall-e, another product of OpenAI, which can produce beautiful images when given a prompt. Or Jukebox, which generates music as raw audio. These generative AI models don’t necessarily use LLMs, but some do incorporate LLMs in an effort to understand the meaning of a prompt. 

Per il contact center, i modelli audio e visivi sono al momento meno interessanti. Detto questo, i modelli che producono risultati audio raggiungeranno sicuramente il loro successo nei prossimi anni, con un impatto rivoluzionario sulla conversazione vocale. I modelli di generazione vocale utilizzano un piccolo campione di conversazione vocale registrata e creano una voce simulata che può essere utilizzata dai sistemi software a livello di programmazione. Questo potrebbe essere un cambiamento per i contact center.



Come ChatGPT, IA generativa e LLM stanno rivoluzionando le operazioni dei contact center.

While these technologies are new and we’re still learning more about their effects and ethical implications, it’s clear that they have demonstrably positive impacts on contact center operations. Here are just a few of the exciting new ways that contact centers can use Generative AI, ChatGPT, and LLMs to reduce after-call work (ACW) for agents, improve knowledge base management, and optimize contact center agent performance.



1. Riduce l'attività post chiamata degli agenti.

Gli agenti sono motivati a terminare la loro attività post chiamata (ACW) il prima possibile, in modo da poter occuparsi dell'interazione successiva in attesa. Parte dell'attività post chiamata consiste nel fornire un riepilogo dopo l'interazione, in modo che l'agente successivo sia preparato per una conversazione di follow-up con un determinato cliente; tuttavia, scrivere questi riepiloghi manualmente richiede molto tempo. ChatGPT può essere utilizzato per generare riepiloghi automatici dopo la chiamata, che includono l'intento, l'esito, la disposizione del cliente e i passi successivi consigliati. 

With Automatic Summary from Talkdesk, it’s easier for contact center agents to quickly send accurate after-call summaries, so they can help the next customer waiting faster. This feature is currently available for customers using Talkdesk Agent Assist™.



2. Aiuta gli agenti a rispondere più velocemente alle richieste dei clienti.

GPT LLMs can be a powerful AI assistant for agents when they are engaging with a customer. The agent can be 100 percent focused on the needs of the customer, while the GPT-powered assistant automatically retrieves the right information from the knowledge base and provides scripts to improve the outcome. These LLMs can also compile information from customer interactions, employee training manuals, and company documents and store them in the knowledge base so other employees and customers can access. This allows agents to resolve customer inquiries faster, resulting in higher first-contact resolution rates and better customer service. See how ChatGPT will positively impact customer service in our free webinar, “ChatGPT and the Future of Customer Service”.



3. Migliora la comprensione del sentiment dei clienti.

Traditional technologies in contact centers are unable to analyze unstructured data such as call transcripts, making it difficult to extract insights from every customer interaction. GPT LLMs, however, are able to process and analyze large amounts of call transcripts, chat logs, and social media interactions. They can also be used to analyze data from multiple sources and identify new patterns and trends in customer sentiment. Contact center managers can then analyze this data to develop ways to improve customer interactions and improve contact center KPIs.



Scopri gli insight degli esperti sul ruolo di ChatGPT nel contact center.

While ChatGPT is the term that has dominated the news, it’s been used along with these other terms in a confusing word soup. Hopefully, all the terms in that soup are making more sense now. The important takeaway for anyone who works in the contact center is that LLMs have become very good at predicting words, sentences, and paragraphs. And since much of what we do in the contact center is to give reasonable language-based responses to customers, the LLM impact means that automated systems have achieved a quality that is comparable to a human in many cases.

We’re at the beginning of a massive shift in how brands will deliver customer service, and the LLMs behind ChatGPT and other generative AI systems are going to drastically impact contact center operations. Download our free EBook, “ChatGPT and the Contact Center of the Future” to see how contact centers are leveraging generative AI to reduce cost-per-contact, improve first contact resolution rates, and increase agent productivity.

ChatGPT e il contact center del futuro

Ebook

ChatGPT e il contact center del futuro

Scopri come questa nuova ed entusiasmante tecnologia trasformerà ogni cosa, dall'IA conversazionale al ruolo dell'agente del contact center.

CONDIVIDERE

Ben Rigby, Talkdesk

Ben Rigby

SVP, Global Head of Product & Engineering, Growth presso Talkdesk,unicorno nel settore dei software as a service (CCaaS). In precedenza, ha diretto la divisione di IA presso Directly: Automazione del servizio clienti con agenti virtuali basati sull'IA; CEO di Sparked.com: Uso di modelli di machine learning per prevedere l'abbandono, la ritenzione e il LTV; Software engineer presso The Main Quad: acquisito da Student Advantage; Engineering lead per il sito web consumer di The North Face per cinque anni; CTO presso una startup SaaS con clienti tra cui Sam Adams, Hyundai, Old Navy, IBM, The Sierra Club e Scion.