Uma cartilha sobre ChatGPT, grandes modelos de linguagem e IA generativa

Ben Rigby, Talkdesk

By Ben Rigby

0 minutos de leitura

Chatgpt Virtiual Agents

O que significa esta sopa de letrinhas para o contact center?

ChatGPT has been in the press like an exploding ball of confetti. Tech companies talk about how it’s going to transform software. Gaming companies predict that it will add a dynamic, human-like speaking capability to its characters. Teachers are trying to reimagine education now that plagiarism has become undetectable overnight. Microsoft’s Bing suddenly seems like a contender to Google with its integrated ChatGPT functionality. And virtual agents for customer service and conversational analytics are about to take a huge leap forward.

The news cycle has been so fast, it’s been hard to keep up with all the terminology. Depending on which article you read, you might see the terms ChatGPT, GPT, GPT-3, GPT-4, large language models (LLM), or generative AI all used interchangeably. And you wouldn’t be blamed for feeling confused about them all. In this post, I’ll provide a primer on ChatGPT, large language models, and generative AI, and discuss how these revolutionary technologies are positively impacting the contact center.



Grandes modelos de linguagem.

Então, do que as pessoas estão falando quando dizem que o ChatGPT vai transformar o setor de contact center (ou qualquer outro)?Eles dizem sobre o tipo de modelo de IA que sustenta o ChatGPT.Esse tipo de modelo é chamado de modelo grande de linguagem ou LLM.É grande porque faz um grande número de cálculos para cada previsão que faz.Esses modelos também são treinados em uma quantidade igualmente grande de dados, como quase todas as palavras escritas digitalizadas, como toda a Internet. 

É um modelo de linguagem porque seu foco é prever sequências de palavras. O que isso significa é que, quando recebe um prompt, o modelo pode prever o que vem a seguir. Portanto, se você fornecer o prompt "Cai, cai, ____", o modelo pode prever que a próxima palavra é "balão". 

Esta última coleção de grandes modelos de linguagem pode prever, no entanto, muito mais que uma palavra.Quando é apresentado um prompt como, "O impacto das IVRs na qualidade do atendimento ao cliente tem sido..." um LLM pode prever ou completar alguns parágrafos de texto muito razoável descrevendo o impacto histórico das IVRs no atendimento ao cliente.Por esse motivo, esses modelos também são chamados de modelos de completar texto.Considerando todos os dados que o modelo "leu" anteriormente, ele pode completar a próxima frase lógica, parágrafo, ou ensaio com uma qualidade humana.

Os LLMs não trabalham com imagens, não fazem análises estatísticas, não fazem cálculos e não verificam fatos.Eles apenas operam no domínio da linguagem—a palavra escrita.Mas para qualquer setor que lida principalmente com a linguagem, como o contact center—focar apenas na linguagem, já é muito! O contact center ajuda as pessoas a resolver problemas por meio de linguagem falada ou digitada.A linguagem está no centro do que o contact center faz e é por isso que o impacto dos LLMs no atendimento ao cliente é tão profundo.



GPT.

Todos nós sabemos o que significa chat.Mas o que é GPT?GPT significa "Generative Pre-trained Transformer" (Transformador Generativo Pré-treinamento).Descreve uma família de LLMs que foram construídos de uma maneira particular.Cada geração desses modelos tem um número crescente de “parâmetros”, que você pode imaginar como neurônios no cérebro.O GPT-1 tem 117 milhões de parâmetros, o GPT-3 tem 175 bilhões de parâmetros e o GPT-4 terá muito mais parâmetros.

Até o momento, a adição de mais parâmetros resultou em modelos mais capazes.Se você já jogou com o ChatGPT, que usa GPT-3 nos bastidores, sabe que as conclusões do texto são muito boas. Em particular, foi a última iteração dos modelos GPT, conhecida como GPT 3.5 DaVinci, que cruzou o abismo do interessante para o incrível. 

Embora o ChatGPT não esteja disponível fora da interface de chat no site da OpenAI, muitos desses modelos GPT estão disponíveis na OpenAI por meio de APIs pagas.Devido ao relacionamento cordial da OpenAI com a Microsoft, essas APIs também estão disponíveis para uso pago através do Microsoft Azure.Esse fato é significativo para os contact centers porque o Azure acrescenta os tipos de segurança, confiabilidade, conformidade e fatores de privacidade de dados que os contact centers exigem.

However, there are many other GPT and LLM models available from other vendors, also on an open-source basis. Google, for example, introduced its LLM, called Bard, and announced a $300m investment in Anthropic—a startup that builds LLMs. Another popular open-source LLM is called Bloom. In other words, there are a wide variety of options for building GPT software with LLMs. OpenAI is not the only game in town.



ChatGPT.

ChatGPT é o termo que você verá mais frequentemente usado e mal utilizado. ChatGPT é um aplicativo de bate-papo que pode manter uma conversa humana sobre quase qualquer assunto. Foi construído por uma startup com fins lucrativos chamada OpenAI, que recebeu um investimento significativo da Microsoft. No momento, o ChatGPT utiliza uma versão não divulgada do GPT criada pela OpenAI, que foi aprimorada para ter um bom desempenho em conversas do tipo bate-papo. 

É este aplicativo que gerou a agitação da imprensa e entusiasmo, por dois motivos:

  1. Parece mágica.
  2. É acessível a todos.

Parece mágica porque parece humano.Você faz uma pergunta sobre o café espresso e recebe uma resposta de conversação como se fosse de um barista.Você faz uma pergunta sobre epilepsia e recebe  uma resposta que poderia vir de um pesquisador médico.E quando comparada às experiências de muitas pessoas com chatbots que parecem dizer principalmente: “Desculpe, não entendi”, essa experiência parece uma alquimia.

Além disso, é acessível às pessoas comuns. Embora esse tipo de recurso pudesse estar disponível apenas para pesquisadores e cientistas de dados no passado, o ChatGPT é o primeiro aplicativo disponível e compreensível para o público em geral.Não importa se você é uma criança de 10 anos pesquisando uma tarefa de casa ou um engenheiro procurando conselhos sobre codificação, o ChatGPT é acessível e fácil de usar.

Chatgpt And The Future Customer Service

WEBINAR

ChatGPT e o futuro do atendimento ao cliente

Saiba como o ChatGPT mudará fundamentalmente nossa compreensão do atendimento ao cliente neste webinar gratuito.

IA Generativa.

Isso nos leva ao nosso termo final, a IA generativa. IA generativa é um termo abrangente, que se refere a qualquer um dos modelos de IA que geram uma nova saída com base em uma entrada, geralmente chamada de prompt. Este termo mais amplo abrange modelos que produzem linguagem, imagens visuais e áudio.

You may have heard about Dall-e, another product of OpenAI, which can produce beautiful images when given a prompt. Or Jukebox, which generates music as raw audio. These generative AI models don’t necessarily use LLMs, but some do incorporate LLMs in an effort to understand the meaning of a prompt. 

Para o contact center, os modelos audiovisuais são menos interessantes no momento.Dito isto, os modelos que produzem saídas de áudio certamente atingirão o seu ritmo nos próximos anos, o que terá um impacto transformador na conversação por voz.Os modelos de geração de voz pegam uma pequena amostra de uma conversa de voz gravada e criam uma voz simulada que pode ser usada por sistemas de software de forma programática.Isso pode ser um grande diferencial para os contact centers.



Como o ChatGPT, a IA generativa e os LLMs estão revolucionando as operações do contact center.

While these technologies are new and we’re still learning more about their effects and ethical implications, it’s clear that they have demonstrably positive impacts on contact center operations. Here are just a few of the exciting new ways that contact centers can use Generative AI, ChatGPT, and LLMs to reduce after-call work (ACW) for agents, improve knowledge base management, and optimize contact center agent performance.



1. Reduz o trabalho pós-chamada dos agentes.

Os agentes são motivados a terminar seu trabalho pós-chamada (ACW) o mais rápido possível para que possam atender à próxima interação na fila.Parte do ACW envolve fornecer um resumo pós-interação para que o próximo agente esteja preparado para uma conversa de acompanhamento com o cliente, mas escrever esses resumos manualmente consome muito tempo.O ChatGPT pode ser usado para gerar resumos automáticos após a chamada, que incluem a intenção, o resultado, a disposição do cliente e as próximas etapas recomendadas. 

With Automatic Summary from Talkdesk, it’s easier for contact center agents to quickly send accurate after-call summaries, so they can help the next customer waiting faster. This feature is currently available for customers using Talkdesk Agent Assist™.



2. Ajuda os agentes a responder às perguntas dos clientes com mais rapidez.

GPT LLMs can be a powerful AI assistant for agents when they are engaging with a customer. The agent can be 100 percent focused on the needs of the customer, while the GPT-powered assistant automatically retrieves the right information from the knowledge base and provides scripts to improve the outcome. These LLMs can also compile information from customer interactions, employee training manuals, and company documents and store them in the knowledge base so other employees and customers can access. This allows agents to resolve customer inquiries faster, resulting in higher first-contact resolution rates and better customer service. See how ChatGPT will positively impact customer service in our free webinar, “ChatGPT and the Future of Customer Service”.



3. Melhora a compreensão do sentimento do cliente.

Traditional technologies in contact centers are unable to analyze unstructured data such as call transcripts, making it difficult to extract insights from every customer interaction. GPT LLMs, however, are able to process and analyze large amounts of call transcripts, chat logs, and social media interactions. They can also be used to analyze data from multiple sources and identify new patterns and trends in customer sentiment. Contact center managers can then analyze this data to develop ways to improve customer interactions and improve contact center KPIs.



Obtenha informações de especialistas sobre a função do ChatGPT no contact center.

While ChatGPT is the term that has dominated the news, it’s been used along with these other terms in a confusing word soup. Hopefully, all the terms in that soup are making more sense now. The important takeaway for anyone who works in the contact center is that LLMs have become very good at predicting words, sentences, and paragraphs. And since much of what we do in the contact center is to give reasonable language-based responses to customers, the LLM impact means that automated systems have achieved a quality that is comparable to a human in many cases.

We’re at the beginning of a massive shift in how brands will deliver customer service, and the LLMs behind ChatGPT and other generative AI systems are going to drastically impact contact center operations. Download our free EBook, “ChatGPT and the Contact Center of the Future” to see how contact centers are leveraging generative AI to reduce cost-per-contact, improve first contact resolution rates, and increase agent productivity.

ChatGPT e o contact center do futuro

E-BOOK

ChatGPT e o contact center do futuro

Descubra como essa nova e empolgante tecnologia mudará tudo, desde a IA de conversação até a função do agente do contact center.

COMPARTILHAR

Ben Rigby, Talkdesk

Ben Rigby

SVP, Global Head of Product & Engineering, Growth da Talkdesk, um contact center software as a service (CCaaS) unicórnio. Anteriormente, liderou a IA na Directly: automatização do atendimento ao cliente com agentes virtuais com tecnologia de IA; CEO da Sparked.com: uso de modelos de aprendizagem automática para prever a rotatividade, a retenção e LTV; engenheiro de software da The Main Quad: adquirida pela Student Advantage; chefe de Engenharia de website para os consumidores da The North Face durante cinco anos; CTO na startup SaaS com clientes que incluem Sam Adams, Hyundai, Old Navy, IBM, The Sierra Club e Scion.