นี่คือแอป Linux ชื่อ LiteLLM ซึ่งสามารถดาวน์โหลดรุ่นล่าสุดได้เป็น v0.11.1sourcecode.zip สามารถทำงานออนไลน์ได้ใน OnWorks ผู้ให้บริการโฮสติ้งฟรีสำหรับเวิร์กสเตชัน
ดาวน์โหลดและเรียกใช้แอป LiteLLM พร้อม OnWorks ออนไลน์ได้ฟรี
ทำตามคำแนะนำเหล่านี้เพื่อเรียกใช้แอปนี้:
- 1. ดาวน์โหลดแอปพลิเคชั่นนี้ในพีซีของคุณ
- 2. เข้าไปที่ file manager https://www.onworks.net/myfiles.php?username=XXXXX ด้วยชื่อผู้ใช้ที่คุณต้องการ
- 3. อัปโหลดแอปพลิเคชันนี้ในตัวจัดการไฟล์ดังกล่าว
- 4. เริ่มโปรแกรมจำลองออนไลน์ของ OnWorks Linux หรือ Windows ออนไลน์ หรือโปรแกรมจำลองออนไลน์ MACOS จากเว็บไซต์นี้
- 5. จาก OnWorks Linux OS คุณเพิ่งเริ่มต้น ไปที่ตัวจัดการไฟล์ของเรา https://www.onworks.net/myfiles.php?username=XXXXX พร้อมชื่อผู้ใช้ที่คุณต้องการ
- 6. ดาวน์โหลดแอปพลิเคชั่น ติดตั้ง และเรียกใช้
ภาพหน้าจอ
Ad
LiteLLM
DESCRIPTION
เรียก LLM API ทั้งหมดโดยใช้รูปแบบ OpenAI [Anthropic, Huggingface, Cohere, Azure OpenAI ฯลฯ] liteLLM รองรับการสตรีมการตอบสนองของโมเดลกลับ ส่งผ่าน stream=True เพื่อรับตัววนซ้ำการสตรีมในการตอบสนอง รองรับการสตรีมสำหรับรุ่น OpenAI, Azure, Anthropic และ Huggingface
คุณสมบัติ
- การแปลอินพุตเป็นความสมบูรณ์ของผู้ให้บริการและการฝังจุดสิ้นสุด
- รับประกันผลลัพธ์ที่สม่ำเสมอ การตอบกลับข้อความจะพร้อมใช้งานเสมอ
- การแมปข้อยกเว้น
- ข้อยกเว้นทั่วไประหว่างผู้ให้บริการจะถูกแมปกับประเภทข้อยกเว้น OpenAI
- ไคลเอ็นต์ LiteLLM - การดีบัก & คลิก 1 ครั้งเพิ่ม LLM ใหม่
- liteLLM รองรับการสตรีมการตอบสนองของโมเดลกลับ
ภาษาโปรแกรม
หลาม
หมวดหมู่
นี่คือแอปพลิเคชันที่สามารถดึงข้อมูลจากhttps://sourceforge.net/projects/litellm.mirror/ มีการโฮสต์ไว้ใน OnWorks เพื่อใช้งานออนไลน์ด้วยวิธีที่ง่ายที่สุดจากหนึ่งในระบบปฏิบัติการฟรีของเรา
