이것은 최신 릴리스를 v0.3.1.zip으로 다운로드할 수 있는 Aviary라는 Windows 앱입니다. 워크스테이션용 무료 호스팅 제공업체인 OnWorks에서 온라인으로 실행할 수 있습니다.
OnWorks가 포함된 Aviary라는 앱을 무료로 온라인으로 다운로드하여 실행해 보세요.
이 앱을 실행하려면 다음 지침을 따르세요.
- 1. 이 애플리케이션을 PC에 다운로드했습니다.
- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.
- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.
- 4. 이 웹사이트에서 모든 OS OnWorks 온라인 에뮬레이터를 시작하지만 더 나은 Windows 온라인 에뮬레이터를 시작합니다.
- 5. 방금 시작한 OnWorks Windows OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.
- 6. 애플리케이션을 다운로드하여 설치합니다.
- 7. Linux 배포 소프트웨어 저장소에서 Wine을 다운로드합니다. 설치가 완료되면 앱을 두 번 클릭하여 Wine과 함께 실행할 수 있습니다. 인기 있는 Windows 프로그램 및 게임을 설치하는 데 도움이 되는 Wine을 통한 멋진 인터페이스인 PlayOnLinux를 사용해 볼 수도 있습니다.
Wine은 Linux에서 Windows 소프트웨어를 실행하는 방법이지만 Windows가 필요하지 않습니다. Wine은 모든 Linux 데스크탑에서 직접 Windows 프로그램을 실행할 수 있는 오픈 소스 Windows 호환성 계층입니다. 본질적으로 Wine은 Windows가 필요하지 않고 모든 Windows 응용 프로그램을 실행할 수 있도록 Windows를 처음부터 충분히 다시 구현하려고 합니다.
스크린 샷
Ad
새장
기술
Aviary는 다양한 오픈 소스 LLM을 쉽게 배포하고 관리할 수 있는 LLM 서비스 솔루션입니다. 즉시 사용할 수 있는 기본값과 함께 사전 구성된 오픈 소스 LLM의 광범위한 제품군을 제공합니다. Hugging Face Hub에서 호스팅되거나 로컬 디스크에 있는 Transformer 모델을 지원합니다. Aviary는 Ray 및 Ray Serve 덕분에 자동 크기 조정 및 다중 노드 배포를 기본적으로 지원합니다. Aviary는 수요에 따라 XNUMX으로 확장하고 새로운 모델 복제본(각각 여러 GPU 작업자로 구성됨)을 생성할 수 있습니다. Ray는 오케스트레이션 및 리소스 관리가 자동으로 처리되도록 보장합니다. Aviary는 클라우드나 온프레미스에 배포된 수백 개의 복제본과 수백 개의 노드로 구성된 클러스터를 지원할 수 있습니다.
기능
- 다중 GPU 및 다중 노드 모델 배포를 완벽하게 지원
- OpenAI와 유사한 REST API를 제공하여 쉽게 마이그레이션하고 교차 테스트할 수 있도록 합니다.
- 지속적인 일괄 처리, 양자화, 스트리밍과 같은 고성능 기능 제공
- 대부분의 경우 몇 분 안에 새로운 LLM 추가를 단순화합니다.
- 단일 통합 프레임워크 내에서 여러 LLM 배포 단순화
- 즉시 사용할 수 있는 기본값과 함께 사전 구성된 오픈 소스 LLM의 광범위한 제품군 제공
프로그래밍 언어
Python
카테고리
이는 https://sourceforge.net/projects/aviary.mirror/에서도 가져올 수 있는 애플리케이션입니다. 무료 운영 시스템 중 하나에서 가장 쉬운 방법으로 온라인으로 실행하기 위해 OnWorks에서 호스팅되었습니다.
