Questa è l'app Windows denominata LLamaSharp la cui ultima versione può essere scaricata come v0.5.1-GGUF,grammarandsemantic-kernelintegration.zip. Può essere eseguito online nel provider di hosting gratuito OnWorks per workstation.
Scarica ed esegui online gratuitamente questa app denominata LLamaSharp con OnWorks.
Segui queste istruzioni per eseguire questa app:
- 1. Scaricata questa applicazione sul tuo PC.
- 2. Entra nel nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 3. Carica questa applicazione in tale file manager.
- 4. Avvia qualsiasi emulatore online OS OnWorks da questo sito Web, ma migliore emulatore online Windows.
- 5. Dal sistema operativo OnWorks Windows che hai appena avviato, vai al nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 6. Scarica l'applicazione e installala.
- 7. Scarica Wine dai repository software delle tue distribuzioni Linux. Una volta installato, puoi quindi fare doppio clic sull'app per eseguirli con Wine. Puoi anche provare PlayOnLinux, un'interfaccia fantasiosa su Wine che ti aiuterà a installare programmi e giochi Windows popolari.
Wine è un modo per eseguire il software Windows su Linux, ma senza Windows richiesto. Wine è un livello di compatibilità Windows open source in grado di eseguire programmi Windows direttamente su qualsiasi desktop Linux. Essenzialmente, Wine sta cercando di re-implementare abbastanza Windows da zero in modo che possa eseguire tutte quelle applicazioni Windows senza effettivamente bisogno di Windows.
IMMAGINI
Ad
LLamaSharp
DESCRIZIONE
L'associazione C#/.NET di llama.cpp. Fornisce API per dedurre i modelli LLaMa e distribuirli nell'ambiente locale. Funziona sia su Windows, Linux e MAC senza la necessità di compilare da soli llama.cpp. Le sue prestazioni sono vicine a llama.cpp. Inoltre, fornisce integrazioni con altri progetti come BotSharp per fornire applicazioni e interfaccia utente di livello superiore.
Caratteristiche
- Inferenza del modello e sessione di chat
- LLamaSharp fornisce due modi per eseguire l'inferenza: LLamaExecutor e ChatSession
- Con LLamaSharp non è necessario compilare un progetto C++ ed eseguire script per quantizzare il modello, ma basta eseguirlo in C#
- Forniamo l'integrazione di ASP.NET core
- Generazione, tokenizzazione e detokenizzazione degli incorporamenti
- Inferenza del modello LLaMa
Linguaggio di programmazione
C#
Categorie
Questa è un'applicazione che può anche essere recuperata da https://sourceforge.net/projects/llamasharp.mirror/. È stato ospitato su OnWorks per poter essere eseguito online in modo più semplice da uno dei nostri sistemi operativi gratuiti.
