これは PEFT という名前の Linux アプリで、最新リリースは GPTQQuantization,Low-levelAPI.zip としてダウンロードできます。 ワークステーション用の無料ホスティング プロバイダー OnWorks でオンラインで実行できます。
PEFT with OnWorks という名前のこのアプリをオンラインで無料でダウンロードして実行します。
このアプリを実行するには、次の手順に従ってください。
-1。このアプリケーションをPCにダウンロードしました。
--2。ファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXに必要なユーザー名を入力します。
-3。このアプリケーションをそのようなファイルマネージャにアップロードします。
-4。このWebサイトからOnWorksLinuxオンラインまたはWindowsオンラインエミュレーターまたはMACOSオンラインエミュレーターを起動します。
-5。起動したばかりのOnWorksLinux OSから、必要なユーザー名でファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXにアクセスします。
-6。アプリケーションをダウンロードし、インストールして実行します。
スクリーンショットは
Ad
PEFT
DESCRIPTION
パラメーター効率の良い微調整 (PEFT) メソッドを使用すると、すべてのモデルのパラメーターを微調整することなく、事前トレーニングされた言語モデル (PLM) をさまざまな下流アプリケーションに効率的に適応させることができます。 大規模な PLM の微調整には、法外なコストがかかることがよくあります。 この点において、PEFT メソッドは少数の (追加の) モデル パラメーターのみを微調整するため、計算コストとストレージ コストが大幅に削減されます。 最近の最先端の PEFT 技術は、完全な微調整に匹敵するパフォーマンスを実現します。
特徴
- DeepSpeed とビッグ モデル推論を活用して大規模モデルを高速化
- 民生用ハードウェアを使用して LLM をダウンストリーム タスクに適応させることで、完全な微調整と同等のパフォーマンスを実現します
- 数ショット データセットに LLM を適応させるために必要な GPU メモリ
- 拡散モデルのパラメータの効率的な調整
- さまざまな設定に必要な GPU メモリ
- ランカーやポリシーなどの RLHF コンポーネントの LLM のパラメータ効率的なチューニング
プログラミング言語
Python
カテゴリー
これは、https://sourceforge.net/projects/peft.mirror/ から取得できるアプリケーションです。 無料のオペレーティング システムの XNUMX つから最も簡単な方法でオンラインで実行できるように、OnWorks でホストされています。
