Uma introdução ao ChatGPT, aos grandes modelos de linguagem e à IA generativa

O que significa este palavreada para o contact center?

O ChatGPT tem estado na imprensa como uma bola explosiva de confetes. As empresas tecnológicas falam sobre como vai transformar o software. As empresas de jogos preveem que vai adicionar às suas personagens uma capacidade de falar dinâmica, de nível humano. Os professores estão a tentar reinventar a educação agora que o plágio se tornou indetetável de um dia para o outro. O Bing da Microsoft parece de repente um concorrente da Google com a sua funcionalidade ChatGPT integrada. E os agentes virtuais do serviço de apoio ao cliente e análise de conversa estão prestes a dar um enorme salto em frente.

O ciclo das notícias tem sido tão rápido que tem sido difícil acompanhar toda a terminologia. Dependendo de que artigo leu, pode ver os termos ChatGPT, GPT, GPT-3, GPT-4, grandes modelos de linguagem (LLM), ou IA generativa, todos usados de forma intermutável. E ninguém o recriminaria por se sentir confuso sobre todos eles. Nesta publicação, vou fazer uma introdução ao ChatGPT, aos grandes modelos de linguagem e à IA generativa, e analisarei como estas tecnologias revolucionárias estão a ter um impacto positivo no contact center.

Grandes modelos de linguagem.

Então, do que é que as pessoas falam quando dizem que o ChatGPT vai transformar o setor dos contact centers (ou qualquer outro)? Estão a falar do tipo de modelo de IA que suporta o ChatGPT. Este tipo de modelo denomina-se um grande modelo de linguagem ou LLM. É grande porque executa um número maciço de cálculos para cada previsão que faz. Estes modelos também são treinados numa quantidade de dados igualmente maciça, como quase toda a palavra escrita digitalizada, tal como toda a Internet. 

É um modelo de linguagem, porque o foco é prever sequências de palavras. O que isto significa é que, quando recebe um pedido, o modelo pode prever o que vem a seguir. Então, se digitar “Sobe, sobe, balão ____”, o modelo pode prever que a próxima palavra é “sobe”. 

No entanto, estes últimos grandes modelos de linguagem podem prever muito mais do que uma palavra. Quando recebe um pedido como “O impacto das IVR na qualidade do serviço de apoio ao cliente foi...”, um LLM pode prever ou completar alguns parágrafos de texto muito razoável que descreve o impacto histórico das IVR no serviço de apoio ao cliente. Por esta razão, estes modelos também são chamados de "modelos de conclusão do texto". Tendo em conta todos os dados que o modelo “leu” anteriormente, pode completar de forma lógica a próxima frase, parágrafo ou ensaio com uma qualidade de nível humano.

Os LLM não funcionam com imagens, não fazem análise estatística, não fazem cálculos e não verificam factos. Apenas operam no domínio da linguagem — a palavra escrita. Mas para qualquer setor que lide principalmente com a linguagem — como o contact center — só concentrar-se na linguagem é muito!O contact center ajuda as pessoas a resolver problemas através da linguagem falada ou digitada. A linguagem está no centro do que o contact center faz e é por isso que o impacto dos LLM no serviço de apoio ao cliente é tão profundo.

GPT.

Todos sabemos o que significa "chat". Mas o que é "GPT"? "GPT" significa "Generative Pre-trained Transformer" (Transformador Pré-treinado Gerador de Conversas). Descreve uma família de LLM que foram construídos de uma forma específica. Cada geração destes modelos tem um número crescente de “parâmetros”, nos quais pode pensar como neurónios no cérebro. O GPT-1 tem 117 milhões de parâmetros, o GPT-3 tem 175 mil milhões de parâmetros e o GPT-4 terá muitos mais parâmetros.

Até agora, adicionar mais parâmetros resultou em modelos mais capazes. Se experimentou o ChatGPT, que usa o GPT-3, sabe que as conclusões do texto sugeridas são muito boas. Em particular, foi a última iteração de modelos GPT, denominados GPT 3.5 DaVinci, que transpôs o fosso de interessante para incrível. 

Embora o ChatGPT não esteja disponível fora da interface de conversa no Website da OpenAI, muitos destes modelos de GPT estão disponíveis na OpenAI através de API pagas. Graças à relação próxima da OpenAI com a Microsoft, estas API também estão disponíveis para uso pago através do Azure da Microsoft. Este facto é significativo para os contact centers, porque o Azure adiciona os tipos de fatores de segurança, fiabilidade, conformidade e privacidade de dados que os contact centers exigem.

No entanto, existem muitos outros modelos GPT e LLM disponíveis de outros fornecedores, também numa base de código aberto. A Google, por exemplo, apresentou o seu LLM, chamado Bard, e anunciou um investimento de 300 milhões de dólares na Anthropic — uma startup que cria os LLM. Outro LLM de código aberto popular é o Bloom. Resumindo, há uma grande variedade de opções para construir software de GPT com os LLM. A OpenAI não é o único player em jogo.

ChatGPT.

ChatGPT é o termo que verá ser utilizado com mais frequência, e mal utilizado. O ChatGPT é uma aplicação de conversa que pode manter uma conversa de nível humano sobre quase qualquer tema. Foi criado por uma startup com fins lucrativos chamada OpenAI, que recebeu um investimento significativo da Microsoft. Neste momento, o ChatGPT utiliza uma versão não divulgada do GPT criado pela OpenAI, que tem sido mais aperfeiçoado para ter um bom desempenho em conversas do tipo chat. 

É esta aplicação que gerou agitação e emoção na imprensa, por duas razões:

1. Parece magia.
2. É acessível a todos.

Parece magia porque parece humana. Faça uma pergunta sobre o café expresso e tem uma resposta conversacional como se fosse um barista. Faça uma pergunta sobre epilepsia e tem uma resposta conversacional como se fosse um investigador médico.E quando comparado com a experiência de muitas pessoas com chatbots que parecem principalmente dizer: “Desculpe, não percebi”, esta experiência parece alquimia.

Segundo, é acessível ao cidadão comum. Embora este tipo de capacidade possa ter estado disponível apenas para investigadores e cientistas de dados no passado, o ChatGPT é a primeira aplicação que está disponível e é compreensível para o público em geral. Quer seja um miúdo de 10 anos a pesquisar para os trabalhos de casa ou um engenheiro que procura aconselhamento sobre codificação, o ChatGPT é acessível e fácil de usar.