Il s'agit de l'application Windows nommée Kaleidoscope-SDK dont la dernière version peut être téléchargée sous le nom de kaleidoscope-sdkv0.8.0.zip. Il peut être exécuté en ligne dans le fournisseur d'hébergement gratuit OnWorks pour les postes de travail.
Téléchargez et exécutez gratuitement en ligne cette application nommée Kaleidoscope-SDK avec OnWorks.
Suivez ces instructions pour exécuter cette application :
- 1. Téléchargé cette application sur votre PC.
- 2. Entrez dans notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous voulez.
- 3. Téléchargez cette application dans ce gestionnaire de fichiers.
- 4. Démarrez n'importe quel émulateur en ligne OS OnWorks à partir de ce site Web, mais un meilleur émulateur en ligne Windows.
- 5. Depuis le système d'exploitation OnWorks Windows que vous venez de démarrer, accédez à notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous souhaitez.
- 6. Téléchargez l'application et installez-la.
- 7. Téléchargez Wine depuis les dépôts de logiciels de vos distributions Linux. Une fois installé, vous pouvez ensuite double-cliquer sur l'application pour les exécuter avec Wine. Vous pouvez également essayer PlayOnLinux, une interface sophistiquée sur Wine qui vous aidera à installer des programmes et des jeux Windows populaires.
Wine est un moyen d'exécuter un logiciel Windows sur Linux, mais sans Windows requis. Wine est une couche de compatibilité Windows open source qui peut exécuter des programmes Windows directement sur n'importe quel bureau Linux. Essentiellement, Wine essaie de ré-implémenter suffisamment de Windows à partir de zéro pour qu'il puisse exécuter toutes ces applications Windows sans avoir réellement besoin de Windows.
CAPTURES D'ÉCRAN
Ad
Kaléidoscope-SDK
DESCRIPTION
kaléidoscope-sdk est un module Python utilisé pour interagir avec de grands modèles de langage hébergés via le service Kaléidoscope disponible sur : https://github.com/VectorInstitute/kaleidoscope. Il fournit une interface simple pour lancer des LLM sur un cluster HPC, leur demandant d'effectuer des fonctionnalités de base telles que la génération de texte, mais également de récupérer des informations intermédiaires à l'intérieur du modèle, telles que les probabilités de journalisation et les activations. Les utilisateurs doivent s'authentifier à l'aide de leurs informations d'identification de cluster Vector Institute. Cela peut être fait de manière interactive en instanciant un objet client. Cela générera un jeton d'authentification qui sera utilisé pour toutes les requêtes ultérieures. Le jeton expirera après 30 jours, après quoi l'utilisateur sera invité à se ré-authentifier.
Caractéristiques
- Affiche une liste de tous les LLM actifs instanciés par le service de modèle
- Charge un LLM via le service de modèle
- Renvoie une génération de texte LLM basée sur une entrée rapide
- Renvoie tous les noms de modules dans le réseau neuronal LLM
- Récupère toutes les activations pour un ensemble de modules
- Nécessite la version Python >= 3.8
Langage de programmation
Python
Catégories
Il s'agit d'une application qui peut également être récupérée sur https://sourceforge.net/projects/kaleidoscope-sdk.mirror/. Il a été hébergé dans OnWorks afin d'être exécuté en ligne de la manière la plus simple à partir de l'un de nos systèmes d'exploitation gratuits.
