Introducción al ChatGPT, grandes modelos de lenguaje e IA generativa

¿Qué significa esta "sopa de letras" para el centro de contacto?

ChatGPT has been in the press like an exploding ball of confetti. Tech companies talk about how it’s going to transform software. Gaming companies predict that it will add a dynamic, human-like speaking capability to its characters. Teachers are trying to reimagine education now that plagiarism has become undetectable overnight. Microsoft’s Bing suddenly seems like a contender to Google with its integrated ChatGPT functionality. And virtual agents for customer service and conversational analytics are about to take a huge leap forward.

The news cycle has been so fast, it’s been hard to keep up with all the terminology. Depending on which article you read, you might see the terms ChatGPT, GPT, GPT-3, GPT-4, large language models (LLM), or generative AI all used interchangeably. And you wouldn’t be blamed for feeling confused about them all. In this post, I’ll provide a primer on ChatGPT, large language models, and generative AI, and discuss how these revolutionary technologies are positively impacting the contact center.

Grandes modelos de lenguaje.

Entonces, ¿de qué habla la gente cuando dice que ChatGPT transformará el sector de los centros de contacto (o cualquier otro)? Están hablando del tipo de modelo de IA que sustenta al ChatGPT. Este tipo de modelo se denomina "gran modelo de lenguaje" o LLM. Es grande porque efectúa una enorme cantidad de cálculos por cada predicción que realiza. Estos modelos también se entrenan con una cantidad igualmente enorme de datos, como casi todo lo escrito y digitalizado, es decir, todo Internet. 

Es un modelo de lenguaje porque su enfoque es predecir secuencias de palabras. Esto significa es que cuando se le da una indicación, el modelo puede predecir qué viene después. Por lo tanto, si le diera la indicación "Rema rema rema su ____", el modelo puede predecir que la siguiente palabra es "barco". 

Sin embargo, esta última generación de grandes modelos de lenguaje puede predecir mucho más que una sola palabra. Cuando se le da una indicación como "el impacto de los IVR (sistemas de respuesta de voz interactiva) en la calidad del servicio de atención al cliente ha sido...", un LLM puede predecir o completar algunos párrafos de texto muy razonables que describan el impacto histórico de los sistemas IVR en el servicio de atención al cliente. Por esta razón, estos modelos también se denominan modelos de finalización de texto. A partir de todos los datos que el modelo ha "leído" previamente, puede completar la siguiente frase lógica, párrafo o ensayo con una calidad similar a la humana.

Los LLM no trabajan con imágenes, no hacen análisis estadísticos, no hacen cálculos y no verifican hechos. Simplemente operan en el ámbito del lenguaje—la palabra escrita. Pero para cualquier sector que se ocupe principalmente del lenguaje—como el centro de contacto—el mero hecho de enfocarse en el lenguaje ¡ya es mucho! El centro de contacto ayuda a las personas a resolver problemas a través del lenguaje hablado o escrito. El lenguaje es el núcleo de la actividad del centro de contacto y por eso es tan profundo el impacto de los LLM en el servicio de atención al cliente.

GPT.

Todos sabemos qué significa "chat". ¿Pero qué es GPT? GPT significa Transformador Preentrenado Generativo. Describe una familia de LLM que se han construido de una manera determinada. Cada generación de estos modelos tiene un número cada vez mayor de “parámetros”, que se pueden considerar como las neuronas en el cerebro. GPT-1 tiene 117 millones de parámetros, GPT-3 tiene 175 mil millones de parámetros y GPT-4 tendrá muchos más parámetros.

Hasta la fecha, añadir más parámetros ha dado como resultado modelos más capaces. Si ha estado utilizando ChatGPT, con GPT-3 "bajo el capó", sabe que las terminaciones de texto son muy buenas. En concreto, la última versión de los modelos GPT, conocida como GPT 3.5 DaVinci, fue la que cruzó el abismo que separa lo interesante de lo increíble; . 

Si bien ChatGPT no está disponible fuera de la interfaz de chat en el sitio web de OpenAI, muchos de estos modelos GPT están disponibles en OpenAI a través de las API de pago. Debido a la estrecha relación de OpenAI con Microsoft, estas API también están disponibles para su utilización mediante pago a través de Microsoft Azure. Este hecho es significativo para los centros de contacto porque Azure añade los tipos de factores de seguridad, confiabilidad, cumplimiento y privacidad de datos que requieren los centros de contacto.

However, there are many other GPT and LLM models available from other vendors, also on an open-source basis. Google, for example, introduced its LLM, called Bard, and announced a $300m investment in Anthropic—a startup that builds LLMs. Another popular open-source LLM is called Bloom. In other words, there are a wide variety of options for building GPT software with LLMs. OpenAI is not the only game in town.

ChatGPT.

Verá que el término ChatGPT es el que más de utiliza y se utiliza incorrectamente. ChatGPT es una aplicación de chat que puede mantener una conversación similar a la humana sobre casi cualquier tema. Fue creado por una startup con fines de lucro llamada OpenAI, que contó con una inversión significativa de Microsoft. Por el momento, ChatGPT utiliza una versión no revelada de GPT creada por OpenAI, que se ha ajustado aún más para que funcione bien en conversaciones tipo chat. 

Es esta aplicación la que ha generado una oleada de noticias y entusiasmo, por dos razones:

1. Parece magia.
2. Es accesible para todos.

Parece magia porque parece humano. Usted hace una pregunta sobre el café expreso y recibe una respuesta conversacional como si se tratara de un camarero. Hace una pregunta sobre la epilepsia y recibe una  respuesta que podría ser propia de un investigador médico. Y cuando se compara con las experiencias que muchas personas tienen con los chatbots, que en su mayoría parecen limitarse a decir "lo siento, no entendí eso", esta experiencia sí que parece alquimia.

En segundo lugar, es accesible para todo el mundo. Aunque este tipo de capacidad puede haber estado disponible en el pasado solo para investigadores y científicos de datos, ChatGPT es la primera aplicación disponible y comprensible para el público en general. Tanto si se trata de un niño de 10 años que se pone a investigar para hacer los deberes o de un ingeniero que busca consejos sobre codificación, ChatGPT es accesible y fácil de usar.