Name: Windows용 PEFT 다운로드
Brand: OnWorks
SKU: a9ae215ca932aa80385e71c68b3ee7eb
Availability: OnlineOnly
Rating: 4.10 (1807 reviews)

이것은 최신 릴리스를 GPTQQuantization,Low-levelAPI.zip으로 다운로드할 수 있는 PEFT라는 Windows 앱입니다. 워크스테이션용 무료 호스팅 제공업체인 OnWorks에서 온라인으로 실행할 수 있습니다.

OnWorks가 포함된 PEFT라는 앱을 무료로 온라인으로 다운로드하여 실행하세요.

이 앱을 실행하려면 다음 지침을 따르세요.

- 1. 이 애플리케이션을 PC에 다운로드했습니다.

- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.

- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.

- 4. 이 웹사이트에서 모든 OS OnWorks 온라인 에뮬레이터를 시작하지만 더 나은 Windows 온라인 에뮬레이터를 시작합니다.

- 5. 방금 시작한 OnWorks Windows OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.

- 6. 애플리케이션을 다운로드하여 설치합니다.

- 7. Linux 배포 소프트웨어 저장소에서 Wine을 다운로드합니다. 설치가 완료되면 앱을 두 번 클릭하여 Wine과 함께 실행할 수 있습니다. 인기 있는 Windows 프로그램 및 게임을 설치하는 데 도움이 되는 Wine을 통한 멋진 인터페이스인 PlayOnLinux를 사용해 볼 수도 있습니다.

Wine은 Linux에서 Windows 소프트웨어를 실행하는 방법이지만 Windows가 필요하지 않습니다. Wine은 모든 Linux 데스크탑에서 직접 Windows 프로그램을 실행할 수 있는 오픈 소스 Windows 호환성 계층입니다. 본질적으로 Wine은 Windows가 필요하지 않고 모든 Windows 응용 프로그램을 실행할 수 있도록 Windows를 처음부터 충분히 다시 구현하려고 합니다.

App 다운로드 우분투에서 실행 페도라에서 실행 Windows Sim에서 실행 MACOS Sim에서 실행

스크린 샷

PEFT

기술

PEFT(매개변수 효율적인 미세 조정) 방법을 사용하면 모델의 모든 매개변수를 미세 조정하지 않고도 사전 훈련된 PLM(언어 모델)을 다양한 다운스트림 애플리케이션에 효율적으로 적용할 수 있습니다. 대규모 PLM을 미세 조정하는 데는 비용이 엄청나게 많이 드는 경우가 많습니다. 이와 관련하여 PEFT 방법은 소수의 (추가) 모델 매개변수만 미세 조정하므로 계산 및 저장 비용이 크게 절감됩니다. 최신 최첨단 PEFT 기술은 전체 미세 조정에 필적하는 성능을 달성합니다.

기능

DeepSpeed 및 빅 모델 추론을 활용하여 대규모 모델 가속화
소비자 하드웨어를 사용하여 LLM을 다운스트림 작업에 적용하여 전체 미세 조정에 필적하는 성능을 얻습니다.
몇 장의 데이터 세트에서 LLM을 적용하는 데 필요한 GPU 메모리
확산 모델의 매개변수 효율적인 조정
다양한 설정에 필요한 GPU 메모리
Ranker 및 Policy와 같은 RLHF 구성 요소에 대한 LLM의 매개변수 효율적인 조정

프로그래밍 언어

Python

카테고리

대형 언어 모델(LLM)

이는 https://sourceforge.net/projects/peft.mirror/에서도 가져올 수 있는 애플리케이션입니다. 무료 운영 시스템 중 하나에서 가장 쉬운 방법으로 온라인으로 실행하기 위해 OnWorks에서 호스팅되었습니다.