Scarica Mosec per Linux

Questa è l'app Linux denominata Mosec la cui ultima versione può essere scaricata come 0.8.1sourcecode.zip. Può essere eseguito online nel provider di hosting gratuito OnWorks per workstation.

 
 

Scarica ed esegui online gratuitamente questa app denominata Mosec con OnWorks.

Segui queste istruzioni per eseguire questa app:

- 1. Scaricata questa applicazione sul tuo PC.

- 2. Entra nel nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.

- 3. Carica questa applicazione in tale file manager.

- 4. Avviare l'emulatore online OnWorks Linux o Windows online o l'emulatore online MACOS da questo sito Web.

- 5. Dal sistema operativo OnWorks Linux che hai appena avviato, vai al nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.

- 6. Scarica l'applicazione, installala ed eseguila.

IMMAGINI:


Mosè


DESCRIZIONE:

Mosec è un framework di model-serving flessibile e ad alte prestazioni per la creazione di backend e microservizi abilitati per modelli ML. Colma il divario tra i modelli di machine learning appena formati e l'efficiente API del servizio online.



Caratteristiche

  • Coordinamento del livello Web e delle attività realizzato con Rust, che offre velocità incredibile oltre a un utilizzo efficiente della CPU alimentato da I/O asincrono
  • Interfaccia utente esclusivamente in Python, grazie alla quale gli utenti possono servire i propri modelli in modo indipendente dal framework ML utilizzando lo stesso codice utilizzato per i test offline
  • Aggrega le richieste di diversi utenti per l'inferenza in batch e distribuisci nuovamente i risultati
  • Genera più processi per fasi in pipeline per gestire carichi di lavoro misti CPU/GPU/IO
  • Progettato per essere eseguito nel cloud, con il riscaldamento del modello, lo spegnimento graduale e le metriche di monitoraggio Prometheus, facilmente gestibili da Kubernetes o da qualsiasi sistema di orchestrazione dei container
  • Concentrandosi sulla parte di servizio online, gli utenti possono prestare attenzione all'ottimizzazione del modello e alla logica aziendale


Linguaggio di programmazione

Python


Categorie

Modelli linguistici di grandi dimensioni (LLM)

Questa è un'applicazione che può essere recuperata anche da https://sourceforge.net/projects/mosec.mirror/. È stato ospitato su OnWorks per poter essere eseguito online in modo più semplice da uno dei nostri sistemi operativi gratuiti.



Gli ultimi programmi online per Linux e Windows


Categorie per scaricare software e programmi per Windows e Linux