Il s'agit de l'application Windows nommée rwkv.cpp dont la dernière version peut être téléchargée sous le nom rwkv-master-39ed572-bin-win-avx512-x64.zip. Il peut être exécuté en ligne chez le fournisseur d'hébergement gratuit OnWorks pour les postes de travail.
Téléchargez et exécutez gratuitement en ligne cette application nommée rwkv.cpp avec OnWorks.
Suivez ces instructions pour exécuter cette application :
- 1. Téléchargé cette application sur votre PC.
- 2. Entrez dans notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous voulez.
- 3. Téléchargez cette application dans ce gestionnaire de fichiers.
- 4. Démarrez n'importe quel émulateur en ligne OS OnWorks à partir de ce site Web, mais un meilleur émulateur en ligne Windows.
- 5. Depuis le système d'exploitation OnWorks Windows que vous venez de démarrer, accédez à notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous souhaitez.
- 6. Téléchargez l'application et installez-la.
- 7. Téléchargez Wine depuis les dépôts de logiciels de vos distributions Linux. Une fois installé, vous pouvez ensuite double-cliquer sur l'application pour les exécuter avec Wine. Vous pouvez également essayer PlayOnLinux, une interface sophistiquée sur Wine qui vous aidera à installer des programmes et des jeux Windows populaires.
Wine est un moyen d'exécuter un logiciel Windows sur Linux, mais sans Windows requis. Wine est une couche de compatibilité Windows open source qui peut exécuter des programmes Windows directement sur n'importe quel bureau Linux. Essentiellement, Wine essaie de ré-implémenter suffisamment de Windows à partir de zéro pour qu'il puisse exécuter toutes ces applications Windows sans avoir réellement besoin de Windows.
CAPTURES D'ÉCRAN
Ad
rwkv.cpp
DESCRIPTION
Outre le FP32 habituel, il prend en charge l'inférence FP16, quantifiée INT4, INT5 et INT8. Ce projet est axé sur le CPU, mais cuBLAS est également pris en charge. RWKV est une nouvelle architecture de modèle de langage à grande échelle, le plus grand modèle de la famille ayant 14 B de paramètres. Contrairement à Transformer avec attention O(n^2), RWKV ne nécessite que l'état de l'étape précédente pour calculer les logits. Cela rend RWKV très convivial pour le processeur sur de grandes longueurs de contexte.
Caractéristiques
- Windows/Linux/MacOS
- Construisez vous-même la bibliothèque
- Obtenez un modèle RWKV
- Exigences : Python 3.x avec PyTorch et tokenizers
- ggml se déplace rapidement et peut parfois rompre la compatibilité avec les anciens formats de fichiers
- Exigences : Python 3.x avec PyTorch
Langage de programmation
C + +
Catégories
Il s'agit d'une application qui peut également être récupérée sur https://sourceforge.net/projects/rwkv-cpp.mirror/. Il a été hébergé dans OnWorks afin de pouvoir être exécuté en ligne de la manière la plus simple possible à partir de l'un de nos systèmes d'exploitation gratuits.
