これは Text Generation Web UI という名前の Linux アプリで、最新リリースは snapshot-2023-10-15sourcecode.zip としてダウンロードできます。 ワークステーション用の無料ホスティング プロバイダー OnWorks でオンラインで実行できます。
Text Generation Web UI with OnWorks という名前のこのアプリをオンラインで無料でダウンロードして実行します。
このアプリを実行するには、次の手順に従ってください。
-1。このアプリケーションをPCにダウンロードしました。
--2。ファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXに必要なユーザー名を入力します。
-3。このアプリケーションをそのようなファイルマネージャにアップロードします。
-4。このWebサイトからOnWorksLinuxオンラインまたはWindowsオンラインエミュレーターまたはMACOSオンラインエミュレーターを起動します。
-5。起動したばかりのOnWorksLinux OSから、必要なユーザー名でファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXにアクセスします。
-6。アプリケーションをダウンロードし、インストールして実行します。
スクリーンショットは
Ad
テキスト生成 Web UI
DESCRIPTION
LLaMA、llama.cpp、GPT-J、Pythia、OPT、GALACTICA などの大規模言語モデルを実行するための gradio Web UI。 モデルを切り替えるためのドロップダウン メニュー。 OpenAI のプレイグラウンドに似たノートブック モード。 会話やロールプレイングのためのチャット モード。 Alpaca および Open Assistant フォーマットと互換性のある命令モード。 GPT-4chan 用の優れた HTML 出力。 GALACTICA のマークダウン出力 (LaTeX レンダリングを含む)。 カスタムチャットキャラクター。 高度なチャット機能 (画像の送信、TTS による音声応答の取得)。 非常に効率的なテキストストリーミング。 パラメータプリセット、8ビットモード。 レイヤーは GPU、CPU、ディスクに分割されます。 CPU モード、FlexGen、DeepSpeed ZeRO-3、ストリーミングありおよびストリーミングなしの API。 4 ビット GPTQ を含む LLaMA モデル。 RWKV モデル、LoRA (ロードとトレーニング)、ソフトプロンプト、および拡張機能。
特徴
- モデルを切り替えるためのドロップダウン メニュー
- OpenAIのプレイグラウンドに似たノートブックモード
- 会話やロールプレイングのためのチャットモード
- Alpaca および Open Assistant フォーマットと互換性のある命令モード
- GPT-4chan 用の優れた HTML 出力
- GALACTICA のマークダウン出力 (LaTeX レンダリングを含む)
- 高度なチャット機能 (画像の送信、TTS による音声応答の取得)
- GPU、CPU、ディスクにまたがるレイヤーの分割
プログラミング言語
Python
カテゴリー
これは、https://sourceforge.net/projects/text-generation-web-ui.mirror/ から取得できるアプリケーションです。 無料のオペレーティング システムの XNUMX つから最も簡単な方法でオンラインで実行できるように、OnWorks でホストされています。
