Introducción al ChatGPT, grandes modelos de lenguaje e IA generativa

Ben Rigby, Talkdesk

By Ben Rigby

0 min de lectura

Chatgpt Virtiual Agents

¿Qué significa esta "sopa de letras" para el centro de contacto?

ChatGPT has been in the press like an exploding ball of confetti. Tech companies talk about how it’s going to transform software. Gaming companies predict that it will add a dynamic, human-like speaking capability to its characters. Teachers are trying to reimagine education now that plagiarism has become undetectable overnight. Microsoft’s Bing suddenly seems like a contender to Google with its integrated ChatGPT functionality. And virtual agents for customer service and conversational analytics are about to take a huge leap forward.

The news cycle has been so fast, it’s been hard to keep up with all the terminology. Depending on which article you read, you might see the terms ChatGPT, GPT, GPT-3, GPT-4, large language models (LLM), or generative AI all used interchangeably. And you wouldn’t be blamed for feeling confused about them all. In this post, I’ll provide a primer on ChatGPT, large language models, and generative AI, and discuss how these revolutionary technologies are positively impacting the contact center.



Grandes modelos de lenguaje.

Entonces, ¿de qué habla la gente cuando dice que ChatGPT transformará el sector de los centros de contacto (o cualquier otro)? Están hablando del tipo de modelo de IA que sustenta al ChatGPT. Este tipo de modelo se denomina "gran modelo de lenguaje" o LLM. Es grande porque efectúa una enorme cantidad de cálculos por cada predicción que realiza. Estos modelos también se entrenan con una cantidad igualmente enorme de datos, como casi todo lo escrito y digitalizado, es decir, todo Internet. 

Es un modelo de lenguaje porque su enfoque es predecir secuencias de palabras. Esto significa es que cuando se le da una indicación, el modelo puede predecir qué viene después. Por lo tanto, si le diera la indicación "Rema rema rema su ____", el modelo puede predecir que la siguiente palabra es "barco". 

Sin embargo, esta última generación de grandes modelos de lenguaje puede predecir mucho más que una sola palabra. Cuando se le da una indicación como "el impacto de los IVR (sistemas de respuesta de voz interactiva) en la calidad del servicio de atención al cliente ha sido...", un LLM puede predecir o completar algunos párrafos de texto muy razonables que describan el impacto histórico de los sistemas IVR en el servicio de atención al cliente. Por esta razón, estos modelos también se denominan modelos de finalización de texto. A partir de todos los datos que el modelo ha "leído" previamente, puede completar la siguiente frase lógica, párrafo o ensayo con una calidad similar a la humana.

Los LLM no trabajan con imágenes, no hacen análisis estadísticos, no hacen cálculos y no verifican hechos. Simplemente operan en el ámbito del lenguaje—la palabra escrita. Pero para cualquier sector que se ocupe principalmente del lenguaje—como el centro de contacto—el mero hecho de enfocarse en el lenguaje ¡ya es mucho! El centro de contacto ayuda a las personas a resolver problemas a través del lenguaje hablado o escrito. El lenguaje es el núcleo de la actividad del centro de contacto y por eso es tan profundo el impacto de los LLM en el servicio de atención al cliente.



GPT.

Todos sabemos qué significa "chat". ¿Pero qué es GPT? GPT significa Transformador Preentrenado Generativo. Describe una familia de LLM que se han construido de una manera determinada. Cada generación de estos modelos tiene un número cada vez mayor de “parámetros”, que se pueden considerar como las neuronas en el cerebro. GPT-1 tiene 117 millones de parámetros, GPT-3 tiene 175 mil millones de parámetros y GPT-4 tendrá muchos más parámetros.

Hasta la fecha, añadir más parámetros ha dado como resultado modelos más capaces. Si ha estado utilizando ChatGPT, con GPT-3 "bajo el capó", sabe que las terminaciones de texto son muy buenas. En concreto, la última versión de los modelos GPT, conocida como GPT 3.5 DaVinci, fue la que cruzó el abismo que separa lo interesante de lo increíble; . 

Si bien ChatGPT no está disponible fuera de la interfaz de chat en el sitio web de OpenAI, muchos de estos modelos GPT están disponibles en OpenAI a través de las API de pago. Debido a la estrecha relación de OpenAI con Microsoft, estas API también están disponibles para su utilización mediante pago a través de Microsoft Azure. Este hecho es significativo para los centros de contacto porque Azure añade los tipos de factores de seguridad, confiabilidad, cumplimiento y privacidad de datos que requieren los centros de contacto.

However, there are many other GPT and LLM models available from other vendors, also on an open-source basis. Google, for example, introduced its LLM, called Bard, and announced a $300m investment in Anthropic—a startup that builds LLMs. Another popular open-source LLM is called Bloom. In other words, there are a wide variety of options for building GPT software with LLMs. OpenAI is not the only game in town.



ChatGPT.

Verá que el término ChatGPT es el que más de utiliza y se utiliza incorrectamente. ChatGPT es una aplicación de chat que puede mantener una conversación similar a la humana sobre casi cualquier tema. Fue creado por una startup con fines de lucro llamada OpenAI, que contó con una inversión significativa de Microsoft. Por el momento, ChatGPT utiliza una versión no revelada de GPT creada por OpenAI, que se ha ajustado aún más para que funcione bien en conversaciones tipo chat. 

Es esta aplicación la que ha generado una oleada de noticias y entusiasmo, por dos razones:

  1. Parece magia.
  2. Es accesible para todos.

Parece magia porque parece humano. Usted hace una pregunta sobre el café expreso y recibe una respuesta conversacional como si se tratara de un camarero. Hace una pregunta sobre la epilepsia y recibe una  respuesta que podría ser propia de un investigador médico. Y cuando se compara con las experiencias que muchas personas tienen con los chatbots, que en su mayoría parecen limitarse a decir "lo siento, no entendí eso", esta experiencia sí que parece alquimia.

En segundo lugar, es accesible para todo el mundo. Aunque este tipo de capacidad puede haber estado disponible en el pasado solo para investigadores y científicos de datos, ChatGPT es la primera aplicación disponible y comprensible para el público en general. Tanto si se trata de un niño de 10 años que se pone a investigar para hacer los deberes o de un ingeniero que busca consejos sobre codificación, ChatGPT es accesible y fácil de usar.

Chatgpt And The Future Customer Service

SEMINARIO WEB

ChatGPT y el Futuro del Servicio de Atención al Cliente

Descubra cómo ChatGPT cambiará radicalmente nuestra comprensión del servicio de atención al cliente en este seminario web gratuito.

IA generativa.

Eso nos lleva a un último término, la IA generativa. La IA generativa es un término genérico que se refiere a cualquiera de los modelos de IA que generan resultado novedoso basado en una entrada, a menudo denominada "indicación". Este término más amplio abarca modelos que producen lenguaje, imágenes visuales y audio.

You may have heard about Dall-e, another product of OpenAI, which can produce beautiful images when given a prompt. Or Jukebox, which generates music as raw audio. These generative AI models don’t necessarily use LLMs, but some do incorporate LLMs in an effort to understand the meaning of a prompt. 

Para el centro de contacto, los modelos visuales y de audio son menos interesantes en este momento. Dicho esto, los modelos que producen salidas de audio seguramente avanzarán en los próximos años y tendrán un impacto transformador en las conversaciones de voz. Los modelos de generación de voz toman una pequeña muestra de una conversación de voz grabada y crean una voz simulada que los sistemas de software pueden utilizar mediante programación. Esto podría cambiar las reglas del juego para los centros de contacto.



Cómo ChatGPT, la IA generativa y los LLM están revolucionando las operaciones de los centros de contacto.

While these technologies are new and we’re still learning more about their effects and ethical implications, it’s clear that they have demonstrably positive impacts on contact center operations. Here are just a few of the exciting new ways that contact centers can use Generative AI, ChatGPT, and LLMs to reduce after-call work (ACW) for agents, improve knowledge base management, and optimize contact center agent performance.



1. Reduce el trabajo de los agentes después de la llamada.

Los agentes están motivados para terminar su trabajo después de la llamada (ACW) lo antes posible para poder atender la siguiente interacción en cola. Parte del ACW consiste en proporcionar un resumen posterior a la interacción para que el siguiente agente esté preparado para una conversación de seguimiento con ese cliente, pero escribir estos resúmenes manualmente lleva mucho tiempo. Se puede utilizar ChatGPT para generar resúmenes automáticos después de la llamada que incluyan la intención, el resultado, la disposición del cliente y los siguientes pasos recomendados. 

With Automatic Summary from Talkdesk, it’s easier for contact center agents to quickly send accurate after-call summaries, so they can help the next customer waiting faster. This feature is currently available for customers using Talkdesk Agent Assist™.



2. Ayuda a los agentes a responder más rápidamente a las consultas de los clientes.

GPT LLMs can be a powerful AI assistant for agents when they are engaging with a customer. The agent can be 100 percent focused on the needs of the customer, while the GPT-powered assistant automatically retrieves the right information from the knowledge base and provides scripts to improve the outcome. These LLMs can also compile information from customer interactions, employee training manuals, and company documents and store them in the knowledge base so other employees and customers can access. This allows agents to resolve customer inquiries faster, resulting in higher first-contact resolution rates and better customer service. See how ChatGPT will positively impact customer service in our free webinar, “ChatGPT and the Future of Customer Service”.



3. Mejora la comprensión del sentimiento del cliente.

Traditional technologies in contact centers are unable to analyze unstructured data such as call transcripts, making it difficult to extract insights from every customer interaction. GPT LLMs, however, are able to process and analyze large amounts of call transcripts, chat logs, and social media interactions. They can also be used to analyze data from multiple sources and identify new patterns and trends in customer sentiment. Contact center managers can then analyze this data to develop ways to improve customer interactions and improve contact center KPIs.



Obtenga información de expertos sobre el papel de ChatGPT en el centro de contacto.

While ChatGPT is the term that has dominated the news, it’s been used along with these other terms in a confusing word soup. Hopefully, all the terms in that soup are making more sense now. The important takeaway for anyone who works in the contact center is that LLMs have become very good at predicting words, sentences, and paragraphs. And since much of what we do in the contact center is to give reasonable language-based responses to customers, the LLM impact means that automated systems have achieved a quality that is comparable to a human in many cases.

We’re at the beginning of a massive shift in how brands will deliver customer service, and the LLMs behind ChatGPT and other generative AI systems are going to drastically impact contact center operations. Download our free EBook, “ChatGPT and the Contact Center of the Future” to see how contact centers are leveraging generative AI to reduce cost-per-contact, improve first contact resolution rates, and increase agent productivity.

ChatGPT y el centro de contacto del futuro

LIBRO ELECTRÓNICO

ChatGPT y el centro de contacto del futuro

Descubra cómo esta nueva y apasionante tecnología lo cambiará todo, desde la IA conversacional hasta el rol del agente del centro de contacto.

COMPARTA

Ben Rigby, Talkdesk

Ben Rigby

SVP, Global Head of Product & Engineering, Growth en Talkdesk, unicornio de software para centro de contacto como servicio (CCaaS). Previamente lideró la IA en Directly: automatización del servicio de atención al cliente con agentes virtuales impulsados por IA; CEO de Sparked.com: uso de modelos de aprendizaje automático para predecir la rotación, la retención y el LTV; Ingeniero de software en The Main Quad: adquirido por Student Advantage; Ingeniero jefe del sitio web para el consumidor The North Face durante cinco años; CTO en una startup de SaaS con clientes como Sam Adams, Hyundai, Old Navy, IBM, The Sierra Club y Scion.