Это приложение для Linux под названием Kaleidoscope-SDK, последнюю версию которого можно загрузить как kaleidoscope-sdkv0.8.0.zip. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Загрузите и запустите онлайн это приложение под названием Kaleidoscope-SDK с OnWorks бесплатно.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите онлайн-эмулятор OnWorks Linux или Windows или онлайн-эмулятор MACOS с этого веб-сайта.
- 5. В только что запущенной ОС OnWorks Linux перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение, установите его и запустите.
СКРИНШОТЫ
Ad
Калейдоскоп-SDK
ОПИСАНИЕ
kaleidoscope-sdk — это модуль Python, используемый для взаимодействия с большими языковыми моделями, размещенными через службу Kaleidoscope, доступную по адресу: https://github.com/VectorInstitute/kaleidoscope. Он предоставляет простой интерфейс для запуска LLM в кластере высокопроизводительных вычислений, предлагая им выполнять базовые функции, такие как генерация текста, а также извлекать из модели промежуточную информацию, такую как вероятности журналов и активаций. Пользователи должны пройти аутентификацию, используя свои учетные данные кластера Vector Institute. Это можно сделать в интерактивном режиме, создав экземпляр клиентского объекта. Это создаст токен аутентификации, который будет использоваться для всех последующих запросов. Срок действия токена истекает через 30 дней, после чего пользователю будет предложено повторно пройти аутентификацию.
Особенности
- Показывает список всех активных LLM, созданных службой модели.
- Загружает LLM через службу модели
- Возвращает генерацию текста LLM на основе подсказки ввода
- Возвращает имена всех модулей в нейронной сети LLM.
- Получает все активации для набора модулей
- Требуется версия Python >= 3.8
Язык программирования
Питон
Категории
Это приложение также можно загрузить с https://sourceforge.net/projects/kaleidoscope-sdk.mirror/. Он был размещен в OnWorks, чтобы его можно было легко запускать в Интернете с помощью одной из наших бесплатных операционных систем.
