Esta es la aplicación de Linux llamada Kaleidoscope-SDK cuya última versión se puede descargar como kaleidoscope-sdkv0.8.0.zip. Se puede ejecutar en línea en el proveedor de alojamiento gratuito OnWorks para estaciones de trabajo.
Descargue y ejecute en línea esta aplicación llamada Kaleidoscope-SDK con OnWorks de forma gratuita.
Siga estas instrucciones para ejecutar esta aplicación:
- 1. Descargue esta aplicación en su PC.
- 2. Ingrese en nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 3. Cargue esta aplicación en dicho administrador de archivos.
- 4. Inicie el emulador en línea OnWorks Linux o Windows en línea o el emulador en línea MACOS desde este sitio web.
- 5. Desde el SO OnWorks Linux que acaba de iniciar, vaya a nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 6. Descarga la aplicación, instálala y ejecútala.
CAPTURAS DE PANTALLA:
Caleidoscopio-SDK
DESCRIPCIÓN:
kaleidoscope-sdk es un módulo de Python que se utiliza para interactuar con modelos de lenguaje grandes alojados a través del servicio Kaleidoscope disponible en: https://github.com/VectorInstitute/kaleidoscope. Proporciona una interfaz simple para iniciar LLM en un clúster de HPC, pidiéndoles que realicen funciones básicas como la generación de texto, pero también que recuperen información intermedia desde el interior del modelo, como probabilidades de registro y activaciones. Los usuarios deben autenticarse con sus credenciales de clúster de Vector Institute. Esto se puede hacer de forma interactiva instanciando un objeto de cliente. Esto generará un token de autenticación que se utilizará para todas las solicitudes posteriores. El token caducará después de 30 días, momento en el que se le pedirá al usuario que se vuelva a autenticar.
Caracteristicas
- Muestra una lista de todos los LLM activos instanciados por el servicio modelo
- Carga un LLM a través del servicio modelo
- Devuelve una generación de texto LLM basada en la entrada de solicitud
- Devuelve todos los nombres de los módulos en la red neuronal LLM
- Recupera todas las activaciones para un conjunto de módulos.
- Requiere la versión de Python >= 3.8
Lenguaje de programación
Python
Categorías
Esta es una aplicación que también se puede obtener desde https://sourceforge.net/projects/kaleidoscope-sdk.mirror/. Ha sido alojado en OnWorks para poder ejecutarse online de la forma más sencilla desde uno de nuestros Sistemas Operativos gratuitos.