Uma introdução ao ChatGPT, aos grandes modelos de linguagem e à IA generativa

O que significa este palavreada para o contact center?

ChatGPT has been in the press like an exploding ball of confetti. Tech companies talk about how it’s going to transform software. Gaming companies predict that it will add a dynamic, human-like speaking capability to its characters. Teachers are trying to reimagine education now that plagiarism has become undetectable overnight. Microsoft’s Bing suddenly seems like a contender to Google with its integrated ChatGPT functionality. And virtual agents for customer service and conversational analytics are about to take a huge leap forward.

The news cycle has been so fast, it’s been hard to keep up with all the terminology. Depending on which article you read, you might see the terms ChatGPT, GPT, GPT-3, GPT-4, large language models (LLM), or generative AI all used interchangeably. And you wouldn’t be blamed for feeling confused about them all. In this post, I’ll provide a primer on ChatGPT, large language models, and generative AI, and discuss how these revolutionary technologies are positively impacting the contact center.

Grandes modelos de linguagem.

Então, de que é que as pessoas falam quando dizem que o ChatGPT vai transformar o setor dos centros de contacto (ou qualquer outro)? Estão a falar do tipo de modelo de IA que suporta o ChatGPT. Este tipo de modelo é chamado de grande modelo de linguagem ou LLM. É grande porque executa um número maciço de cálculos para cada previsão que faz. Estes modelos também são treinados numa quantidade de dados igualmente maciça, como quase toda a palavra escrita digitalizada, tal como toda a Internet. 

É um modelo de linguagem, porque o foco é prever sequências de palavras. O que isto significa é que, quando recebe um pedido, o modelo pode prever o que vem a seguir. Então, se digitar “Sobe, sobe, balão ____”, o modelo pode prever que a próxima palavra é “sobe”. 

No entanto, estes últimos grandes modelos de linguagem podem prever muito mais do que uma palavra. Quando recebe um pedido como “O impacto das IVR na qualidade do serviço de apoio ao cliente foi...”, um LLM pode prever ou completar alguns parágrafos de texto muito razoável que descreve o impacto histórico das IVR no serviço de apoio ao cliente. Por esta razão, estes modelos também são chamados de "modelos de conclusão do texto". Tendo em conta todos os dados que o modelo “leu” anteriormente, pode completar de forma lógica a próxima frase, parágrafo ou ensaio com uma qualidade de nível humano.

Os LLM não funcionam com imagens, não fazem análise estatística, não fazem cálculos e não verificam factos. Apenas operam no domínio da linguagem — a palavra escrita. Mas para qualquer setor que lide principalmente com a linguagem — como o contact center — só concentrar-se na linguagem é muito! O contact center ajuda as pessoas a resolver problemas através da linguagem falada ou digitada. A linguagem está no centro do que o contact center faz e é por isso que o impacto dos LLM no serviço de apoio ao cliente é tão profundo.

GPT.

Todos sabemos o que significa "chat". Mas o que é "GPT"? "GPT" significa "Generative Pre-trained Transformer" (Transformador Pré-treinado Gerador de Conversas). Descreve uma família de LLM que foram construídos de uma forma específica. Cada geração destes modelos tem um número crescente de “parâmetros”, nos quais pode pensar como neurónios no cérebro. O GPT-1 tem 117 milhões de parâmetros, o GPT-3 tem 175 mil milhões de parâmetros e o GPT-4 terá muitos mais parâmetros.

Até agora, adicionar mais parâmetros resultou em modelos mais capazes. Se experimentou o ChatGPT, que usa o GPT-3, sabe que as conclusões do texto sugeridas são muito boas. Em particular, foi a última iteração de modelos GPT, denominados GPT 3.5 DaVinci, que transpôs o fosso de interessante para incrível. 

Embora o ChatGPT não esteja disponível fora da interface de conversa no Website da OpenAI, muitos destes modelos de GPT estão disponíveis na OpenAI através de API pagas. Graças à relação próxima da OpenAI com a Microsoft, estas API também estão disponíveis para uso pago através do Azure da Microsoft. Este facto é significativo para os centros de contacto, porque o Azure adiciona os tipos de fatores de segurança, fiabilidade, conformidade e privacidade de dados que os centros de contacto exigem.

However, there are many other GPT and LLM models available from other vendors, also on an open-source basis. Google, for example, introduced its LLM, called Bard, and announced a $300m investment in Anthropic—a startup that builds LLMs. Another popular open-source LLM is called Bloom. In other words, there are a wide variety of options for building GPT software with LLMs. OpenAI is not the only game in town.

ChatGPT.

ChatGPT é o termo que verá ser utilizado com mais frequência, e mal utilizado. O ChatGPT é uma aplicação de conversa que pode manter uma conversa de nível humano sobre quase qualquer tema. Foi criado por uma startup com fins lucrativos chamada OpenAI, que recebeu um investimento significativo da Microsoft. Neste momento, o ChatGPT utiliza uma versão não divulgada do GPT criado pela OpenAI, que tem sido mais aperfeiçoado para ter um bom desempenho em conversas do tipo chat. 

É esta aplicação que gerou agitação e emoção na imprensa, por duas razões:

1. Parece magia.
2. É acessível a todos.

Parece magia porque parece humana. Faça uma pergunta sobre o café expresso e tem uma resposta conversacional como se fosse um barista. Faça uma pergunta sobre epilepsia e tem uma resposta conversacional como se fosse um investigador médico.E quando comparado com a experiência de muitas pessoas com chatbots que parecem principalmente dizer: “Desculpe, não percebi”, esta experiência parece alquimia.

Segundo, é acessível ao cidadão comum. Embora este tipo de capacidade possa ter estado disponível apenas para investigadores e cientistas de dados no passado, o ChatGPT é a primeira aplicação que está disponível e é compreensível para o público em geral. Quer seja um miúdo de 10 anos a pesquisar para os trabalhos de casa ou um engenheiro que procura aconselhamento sobre codificação, o ChatGPT é acessível e fácil de usar.