OpenAI GPT
Este componente permite que seu chatbot conecte-se à nuvem da Azure e utilize o serviço de GPT da OpenAI. Através deste componente, é possível criar chatbots utilizando tudo o que o GPT é capaz de fazer, mas de forma simples e prática, permitindo que você utilize todo o poder dos modelos generativos em IA em seu chatbot.
Desafios dos Modelos Generativos em Chatbots
Antes de apresentarmos o componente propriamente dito, ensinando como configurá-lo no Serprobots, cabem algumas reflexões sobre o uso do GPT em seu chatbot. É importante que uma avaliação criteriosa seja realizada antes de criar um chatbot usando o GPT, considerando alguns pontos que abordaremos nos próximos parágrafos.
IMPORTANTE
Não deixe de ler essa seção. Leia com bastante atenção, pois é importante entender o impacto do uso do GPT em seu chatbot.
Em primeiro lugar, lembre-se que as respostas dos modelos generativos são geradas de forma automática, sem sua interferência, portanto, não é possível modificar diretamente o conteúdo do texto gerado. Este fato apresenta-se como um desafio para o trabalho do curador, que deve ficar atento ao contexto/conteúdo que será usado para gerar os textos e não na forma como as respostas serão dadas.
Modelos generativos, como o GPT, utilizam uma enorme base de conhecimento para realizar seu treinamento e, de certa forma, eles são capazes de responder sobre praticamente qualquer assunto. É importante avaliar se isso é adequado ou não para seu chatbot, pois os usuários poderão realizar perguntas sobre qualquer tema. Neste contexto, indicamos fortemente a delimitação do escopo das respostas do GPT, evitando que seu chatbot responda sobre assuntos totalmente alheios ao principal objetivo ao qual ele foi criado. Nas próximas seções, apresentaremos como realizar essa delimitação do escopo.
Serprobots e GPT
Dado todo o contexto apontado na seção anterior, cabe destacar que o Serprobots trabalha para que o GPT seja usado em seu chatbot da melhor forma possível. A própria plataforma assume a tarefa de delimitar o contexto do seu chatbot, evitando que ele fuja do escopo ao qual ele foi projetado.
Para alcançar este objetivo, a plataforma utiliza-se de técnicas de Engenharia de Prompt, através do qual o contexto é delimitado e perguntas fora do contexto não levam seu chatbot a responder sobre temas externos a ele. É através desta técnica que também é possível evitar que o GPT seja "enganado" pelo usuário, levando-o a dar respostas com conteúdo falso.
Solicitando sua instância do GPT na nuvem da Azure
Inicialmente, é necessário que você solicite à equipe do Serprobots as suas credenciais de acesso à nuvem da Azure. Nossa equipe é a responsável, inicialmente, por essa tarefa, entretanto, em versões futuras da plataforma, esta tarefa será realizada de forma automática para você.
Para realizar essa solicitação, acesse nosso Git de Demandas e preencha uma Issue usando o template Demandar Projeto GPT. Preencha todas as informações solicitadas e os dados necessários para o preenchimento do componente no Serprobots serão enviados por e-mail (serão enviados dados sensíveis).
Configuração do Componente
Em primeiro lugar, você deve configurar seu chatbot através da interface do Gerenciador e adicionar o componente GPT a um dos seus fluxos, clicando em Adicionar um componente ao fluxo, conforme a imagem a seguir.
Em seguida, você deve informar as credenciais de acesso à nuvem da Azure, o que pode ser realizado tanto através do Gerenciador, como através da Curadoria. A imagem abaixo apresenta a tela do Gerenciador.Lembre-se, esses dados foram enviados para você logo após a abertura e atendimento da issue criada na seção anterior.
Caso você esteja utilizando a Curadoria, esta tarefa é realizada de forma similar, conforme a imagem abaixo.
Bases de Conhecimento
Uma vez que você já tem as credenciais configuradas, precisa apenas informar quais são as bases de conhecimento que deseja associar ao GPT. Você terá à sua disposição todas as bases de conhecimento já cadastradas e poderá associar quantas desejar, conforme exibido na imagem abaixo.
Caso você esteja utilizando a Curadoria, a tela muda um pouco, conforme pode ser visto na imagem abaixo.
