Il s'agit de l'application Linux nommée Colossal-AI dont la dernière version peut être téléchargée en tant que Versionv0.3.3ReleaseToday!.zip. Il peut être exécuté en ligne dans le fournisseur d'hébergement gratuit OnWorks pour les postes de travail.
Téléchargez et exécutez en ligne gratuitement cette application nommée Colossal-AI avec OnWorks.
Suivez ces instructions pour exécuter cette application :
- 1. Téléchargé cette application sur votre PC.
- 2. Entrez dans notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous voulez.
- 3. Téléchargez cette application dans ce gestionnaire de fichiers.
- 4. Démarrez l'émulateur en ligne OnWorks Linux ou Windows en ligne ou l'émulateur en ligne MACOS à partir de ce site Web.
- 5. Depuis le système d'exploitation OnWorks Linux que vous venez de démarrer, accédez à notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous souhaitez.
- 6. Téléchargez l'application, installez-la et exécutez-la.
CAPTURES D'ÉCRAN:
Colossal-IA
DESCRIPTION:
L'architecture Transformer a amélioré les performances des modèles d'apprentissage en profondeur dans des domaines tels que la vision par ordinateur et le traitement du langage naturel. De meilleures performances s'accompagnent de tailles de modèles plus grandes. Cela impose des défis au mur de mémoire du matériel actuel de l'accélérateur tel que le GPU. Il n'est jamais idéal d'entraîner de grands modèles tels que Vision Transformer, BERT et GPT sur un seul GPU ou une seule machine. Il existe une demande urgente pour former des modèles dans un environnement distribué. Cependant, la formation distribuée, en particulier le parallélisme des modèles, nécessite souvent une expertise dans le domaine des systèmes informatiques et de l'architecture. La mise en œuvre de solutions de formation distribuées complexes pour leurs modèles reste un défi pour les chercheurs en IA. Colossal-AI fournit une collection de composants parallèles pour vous. Notre objectif est de vous aider à écrire vos modèles d'apprentissage en profondeur distribués, tout comme vous écrivez votre modèle sur votre ordinateur portable.
Caractéristiques
- Gestion de la mémoire hétérogène
- Taille de modèle 24x plus grande sur le même matériel
- Tirer de DockerHub
- Construisez par vous-même
- Stratégies de parallélisme
- Parallélisme basé sur le fichier de configuration
Langage de programmation
Python
Catégories
Il s'agit d'une application qui peut également être récupérée sur https://sourceforge.net/projects/colossal-ai.mirror/. Il a été hébergé dans OnWorks afin d'être exécuté en ligne de la manière la plus simple à partir de l'un de nos systèmes d'exploitation gratuits.