Questa è l'app Linux denominata Colossal-AI la cui ultima versione può essere scaricata come Versionv0.3.3ReleaseToday!.zip. Può essere eseguito online nel provider di hosting gratuito OnWorks per workstation.
Scarica ed esegui online questa app chiamata Colossal-AI con OnWorks gratuitamente.
Segui queste istruzioni per eseguire questa app:
- 1. Scaricata questa applicazione sul tuo PC.
- 2. Entra nel nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 3. Carica questa applicazione in tale file manager.
- 4. Avviare l'emulatore online OnWorks Linux o Windows online o l'emulatore online MACOS da questo sito Web.
- 5. Dal sistema operativo OnWorks Linux che hai appena avviato, vai al nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 6. Scarica l'applicazione, installala ed eseguila.
IMMAGINI
Ad
Colossale-AI
DESCRIZIONE
L'architettura Transformer ha migliorato le prestazioni dei modelli di deep learning in domini come Computer Vision e Natural Language Processing. Insieme a prestazioni migliori arrivano modelli di dimensioni maggiori. Ciò impone sfide al muro di memoria dell'attuale hardware dell'acceleratore come la GPU. Non è mai l'ideale addestrare modelli di grandi dimensioni come Vision Transformer, BERT e GPT su una singola GPU o una singola macchina. C'è un'urgente richiesta di addestrare i modelli in un ambiente distribuito. Tuttavia, la formazione distribuita, in particolare il parallelismo dei modelli, richiede spesso competenze di dominio nei sistemi e nell'architettura dei computer. Per i ricercatori di intelligenza artificiale rimane una sfida implementare complesse soluzioni di addestramento distribuito per i loro modelli. Colossal-AI fornisce una raccolta di componenti paralleli per te. Miriamo a supportarti nella scrittura dei tuoi modelli di deep learning distribuiti proprio come scrivi il tuo modello sul tuo laptop.
Caratteristiche
- Gestione eterogenea della memoria
- Modello 24 volte più grande sullo stesso hardware
- Estrai da DockerHub
- Costruisci da solo
- Strategie di parallelismo
- Parallelismo basato sul file di configurazione
Linguaggio di programmazione
Python
Categorie
Questa è un'applicazione che può anche essere recuperata da https://sourceforge.net/projects/colossal-ai.mirror/. È stato ospitato in OnWorks per poter essere eseguito online nel modo più semplice da uno dei nostri Sistemi Operativi gratuiti.
