Il s'agit de l'application Linux nommée PEFT dont la dernière version peut être téléchargée sous GPTQQuantization, Low-levelAPI.zip. Il peut être exécuté en ligne chez le fournisseur d'hébergement gratuit OnWorks pour les postes de travail.
Téléchargez et exécutez en ligne gratuitement cette application nommée PEFT avec OnWorks.
Suivez ces instructions pour exécuter cette application :
- 1. Téléchargé cette application sur votre PC.
- 2. Entrez dans notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous voulez.
- 3. Téléchargez cette application dans ce gestionnaire de fichiers.
- 4. Démarrez l'émulateur en ligne OnWorks Linux ou Windows en ligne ou l'émulateur en ligne MACOS à partir de ce site Web.
- 5. Depuis le système d'exploitation OnWorks Linux que vous venez de démarrer, accédez à notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous souhaitez.
- 6. Téléchargez l'application, installez-la et exécutez-la.
CAPTURES D'ÉCRAN
Ad
PEFT
DESCRIPTION
Les méthodes PEFT (Parameter-Efficient Fine-Tuning) permettent une adaptation efficace des modèles de langage pré-entraînés (PLM) à diverses applications en aval sans ajuster tous les paramètres du modèle. Le réglage fin des PLM à grande échelle est souvent d'un coût prohibitif. À cet égard, les méthodes PEFT n'ajustent qu'un petit nombre de paramètres (supplémentaires) du modèle, ce qui réduit considérablement les coûts de calcul et de stockage. Les techniques PEFT de pointe récentes atteignent des performances comparables à celles d'un réglage fin complet.
Caractéristiques
- Accélérez pour les modèles à grande échelle en tirant parti de DeepSpeed et de Big Model Inference
- Obtenez des performances comparables à un réglage fin complet en adaptant les LLM aux tâches en aval à l'aide de matériel grand public
- Mémoire GPU requise pour adapter les LLM sur l'ensemble de données à quelques prises de vue
- Réglage efficace des paramètres des modèles de diffusion
- Mémoire GPU requise par différents paramètres
- Réglage efficace des paramètres des LLM pour les composants RLHF tels que Ranker et Policy
Langage de programmation
Python
Catégories
Il s'agit d'une application qui peut également être récupérée sur https://sourceforge.net/projects/peft.mirror/. Il a été hébergé dans OnWorks afin d'être exécuté en ligne de la manière la plus simple à partir de l'un de nos systèmes d'exploitation gratuits.
