To jest aplikacja dla systemu Linux o nazwie PEFT, której najnowszą wersję można pobrać jako GPTQQuantization, Low-levelAPI.zip. Można go uruchomić online w bezpłatnym dostawcy hostingu OnWorks dla stacji roboczych.
Pobierz i uruchom online tę aplikację o nazwie PEFT z OnWorks za darmo.
Postępuj zgodnie z tymi instrukcjami, aby uruchomić tę aplikację:
- 1. Pobrałem tę aplikację na swój komputer.
- 2. Wpisz w naszym menedżerze plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 3. Prześlij tę aplikację w takim menedżerze plików.
- 4. Uruchom emulator online OnWorks Linux lub Windows online lub emulator online MACOS z tej witryny.
- 5. W systemie operacyjnym OnWorks Linux, który właśnie uruchomiłeś, przejdź do naszego menedżera plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 6. Pobierz aplikację, zainstaluj ją i uruchom.
ZRZUTY EKRANU
Ad
PEFT
OPIS
Metody dostrajania efektywnego pod kątem parametrów (PEFT) umożliwiają efektywną adaptację wstępnie wyszkolonych modeli językowych (PLM) do różnych dalszych aplikacji bez konieczności dostrajania wszystkich parametrów modelu. Dostrajanie wielkoskalowych systemów PLM jest często zbyt kosztowne. Pod tym względem metody PEFT dostrajają jedynie niewielką liczbę (dodatkowych) parametrów modelu, znacznie zmniejszając w ten sposób koszty obliczeń i przechowywania. Najnowsze, najnowocześniejsze techniki PEFT zapewniają wydajność porównywalną z wydajnością pełnego dostrajania.
Zakładka Charakterystyka
- Przyspieszenie w przypadku dużych modeli, wykorzystując technologię DeepSpeed i Big Model Inference
- Uzyskaj wydajność porównywalną do pełnego dostrojenia, dostosowując LLM do dalszych zadań przy użyciu sprzętu konsumenckiego
- Pamięć GPU wymagana do dostosowania LLM w zestawie danych składającym się z kilku zdjęć
- Efektywne dostrajanie parametrów modeli dyfuzyjnych
- Pamięć GPU wymagana przez różne ustawienia
- Efektywne dostrajanie parametrów LLM dla komponentów RLHF, takich jak Ranker i Policy
Język programowania
Python
Kategorie
Jest to aplikacja, którą można również pobrać ze strony https://sourceforge.net/projects/peft.mirror/. Został on hostowany w OnWorks, aby można go było uruchomić online w najprostszy sposób z jednego z naszych bezpłatnych systemów operacyjnych.
