Este é o aplicativo Linux chamado FastChat cuja versão mais recente pode ser baixada como Releasev0.2.30.zip. Ele pode ser executado online no provedor de hospedagem gratuito OnWorks para estações de trabalho.
Baixe e execute online este aplicativo chamado FastChat com OnWorks gratuitamente.
Siga estas instruções para executar este aplicativo:
- 1. Baixe este aplicativo em seu PC.
- 2. Entre em nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que você deseja.
- 3. Carregue este aplicativo em tal gerenciador de arquivos.
- 4. Inicie o emulador OnWorks Linux online ou Windows online ou emulador MACOS online a partir deste site.
- 5. No sistema operacional OnWorks Linux que você acabou de iniciar, acesse nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que deseja.
- 6. Baixe o aplicativo, instale-o e execute-o.
SCREENSHOTS
Ad
Bate-papo rápido
DESCRIÇÃO
O FastChat é uma plataforma aberta para treinamento, atendimento e avaliação de grandes chatbots baseados em modelo de linguagem. Se você não tiver memória suficiente, poderá ativar a compactação de 8 bits adicionando --load-8bit aos comandos acima. Isso pode reduzir o uso de memória em cerca de metade com qualidade de modelo ligeiramente degradada. É compatível com CPU, GPU e back-end de metal. O Vicuna-13B com compactação de 8 bits pode ser executado em uma única GPU NVIDIA 3090/4080/T4/V100 (16 GB). Além disso, você pode adicionar --cpu-offloading aos comandos acima para descarregar pesos que não cabem em sua GPU na memória da CPU. Isso requer a ativação da compactação de 8 bits e a instalação do pacote bitsandbytes, disponível apenas em sistemas operacionais linux.
Recursos
- Os pesos, código de treinamento e código de avaliação para modelos de última geração
- Um sistema de serviço multimodelo distribuído com IU da Web e APIs RESTful compatíveis com OpenAI
- Para treinar, atender e avaliar grandes modelos de linguagem
- Reduzir o requisito de RAM da CPU para conversão de peso
- Inferência com interface de linha de comando
- Vários modelos suportados
Linguagem de Programação
Python
Categorias
Este é um aplicativo que também pode ser obtido em https://sourceforge.net/projects/fastchat.mirror/. Ele foi hospedado em OnWorks para ser executado online da maneira mais fácil a partir de um de nossos Sistemas Operativos gratuitos.
