Esta es la aplicación de Linux llamada PEFT cuya última versión se puede descargar como GPTQQuantization,Low-levelAPI.zip. Se puede ejecutar en línea en el proveedor de alojamiento gratuito OnWorks para estaciones de trabajo.
Descargue y ejecute en línea esta aplicación llamada PEFT con OnWorks de forma gratuita.
Siga estas instrucciones para ejecutar esta aplicación:
- 1. Descargue esta aplicación en su PC.
- 2. Ingrese en nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 3. Cargue esta aplicación en dicho administrador de archivos.
- 4. Inicie el emulador en línea OnWorks Linux o Windows en línea o el emulador en línea MACOS desde este sitio web.
- 5. Desde el SO OnWorks Linux que acaba de iniciar, vaya a nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 6. Descarga la aplicación, instálala y ejecútala.
SCREENSHOTS
Ad
PEFT
DESCRIPCIÓN
Los métodos de ajuste fino de parámetros eficientes (PEFT) permiten una adaptación eficiente de modelos de lenguaje previamente entrenados (PLM) a diversas aplicaciones posteriores sin necesidad de ajustar todos los parámetros del modelo. El ajuste fino de los PLM a gran escala suele ser prohibitivamente costoso. En este sentido, los métodos PEFT solo ajustan una pequeña cantidad de parámetros (adicionales) del modelo, lo que reduce en gran medida los costos computacionales y de almacenamiento. Las recientes técnicas PEFT de última generación logran un rendimiento comparable al del ajuste completo.
Caracteristicas
- Acelere para modelos a gran escala aprovechando DeepSpeed y Big Model Inference
- Obtenga un rendimiento comparable al de un ajuste completo adaptando los LLM a tareas posteriores utilizando hardware de consumo
- Memoria GPU necesaria para adaptar LLM en el conjunto de datos de pocas tomas
- Ajuste eficiente de parámetros de modelos de difusión
- Memoria GPU requerida por diferentes configuraciones
- Ajuste eficiente de parámetros de LLM para componentes de RLHF como Ranker y Policy
Lenguaje de programación
Python
Categorías
Esta es una aplicación que también se puede obtener de https://sourceforge.net/projects/peft.mirror/. Ha sido alojado en OnWorks para poder ejecutarlo online de la forma más sencilla desde uno de nuestros Sistemas Operativos gratuitos.
