Ir para o conteúdo

Biblioteca ChatCompletion

Foi criada uma biblioteca que facilita a conexão aos serviços de LLM do Serpro e também da Microsoft. O objetivo é evitar redundância de código. O plugin do Serprobots para o Kestra já utiliza esta biblioteca, entretanto, o serviço de inferência não o utiliza ainda (motivo: este serviço será descontinuado).

Trata-se de uma biblioteca escrita em Kotlin, bastante simples e objetiva. Motivo de sua criação: existem diversas bibliotecas disponíveis, entretanto, muitas foram descontinuadas. Quando esta biblioteca foi escrita, a SDK da Azure ainda era versão beta. Caso tenham uma versão estável, avaliar a migração para esta SDK. Outro detalhe, a conexão ao Serpro LLM requer a obtenção de um Access Token do Plin, algo que já está implementado nesta biblioteca.

O único "problema", no momento, é que esta biblioteca precisa ser referenciada localmente no build.gradle do plugin do Kestra. Assim, a cada nova versão da biblioteca, é necessário copiar o .JAR gerado para o diretório /lib do projeto do Plugin Serprobots do Kestra.