Bu, son sürümü v0.3.1.zip olarak indirilebilen Aviary adlı Linux uygulamasıdır. İş istasyonları için ücretsiz barındırma sağlayıcısı OnWorks'te çevrimiçi olarak çalıştırılabilir.
Aviary adlı bu uygulamayı OnWorks ile ücretsiz olarak indirin ve çevrimiçi çalıştırın.
Bu uygulamayı çalıştırmak için şu talimatları izleyin:
- 1. Bu uygulamayı PC'nize indirdiniz.
- 2. Dosya yöneticimize https://www.onworks.net/myfiles.php?username=XXXXX istediğiniz kullanıcı adını girin.
- 3. Bu uygulamayı böyle bir dosya yöneticisine yükleyin.
- 4. Bu web sitesinden OnWorks Linux çevrimiçi veya Windows çevrimiçi öykünücüsünü veya MACOS çevrimiçi öykünücüsünü başlatın.
- 5. Yeni başladığınız OnWorks Linux işletim sisteminden, istediğiniz kullanıcı adıyla https://www.onworks.net/myfiles.php?username=XXXXX dosya yöneticimize gidin.
- 6. Uygulamayı indirin, kurun ve çalıştırın.
EKRAN
Ad
kuşhane
TANIM
Aviary, çeşitli açık kaynaklı LLM'lerin dağıtımını ve yönetimini kolaylaştıran bir LLM hizmet çözümüdür. Kutudan çıktığı gibi çalışan varsayılanlarla, önceden yapılandırılmış açık kaynak LLM'lerden oluşan kapsamlı bir paket sağlar. Hugging Face Hub'da barındırılan veya yerel diskte sunulan Transformer modellerini destekler. Aviary, Ray ve Ray Serve sayesinde otomatik ölçeklendirme ve çok düğümlü dağıtımlar için yerel desteğe sahiptir. Aviary, talebe yanıt olarak sıfıra kadar ölçeklenebiliyor ve yeni model kopyaları (her biri birden fazla GPU çalışanından oluşan) oluşturabiliyor. Ray, orkestrasyon ve kaynak yönetiminin otomatik olarak yapılmasını sağlar. Aviary, bulutta veya şirket içinde dağıtılan yüzlerce kopyayı ve yüzlerce düğümden oluşan kümeleri destekleyebilir.
Özellikler
- Çoklu GPU ve çok düğümlü model dağıtımlarını tam olarak destekler
- Geçişi ve çapraz testi kolaylaştırmak için OpenAI'lere benzer bir REST API sağlamak
- Sürekli gruplama, niceleme ve akış gibi yüksek performanslı özellikler sunar
- Çoğu durumda yeni LLM'lerin dakikalar içinde eklenmesini basitleştirmek
- Birden fazla LLM'nin tek bir birleşik çerçeve içerisinde konuşlandırılmasını basitleştirme
- Kutudan çıktığı gibi çalışan varsayılanlarla, önceden yapılandırılmış açık kaynak LLM'lerden oluşan kapsamlı bir paket sağlama
Programlama dili
Python
Kategoriler
Bu, https://sourceforge.net/projects/aviary.mirror/ adresinden de alınabilecek bir uygulamadır. Ücretsiz İşletim Sistemlerimizden birinden çevrimiçi olarak en kolay şekilde çalıştırılabilmesi için OnWorks'te barındırılmıştır.
