Это приложение для Windows под названием rwkv.cpp, последнюю версию которого можно загрузить как rwkv-master-39ed572-bin-win-avx512-x64.zip. Его можно запустить онлайн в бесплатном хостинг-провайдере OnWorks для рабочих станций.
Загрузите и запустите онлайн это приложение под названием rwkv.cpp с помощью OnWorks бесплатно.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите любой онлайн-эмулятор OS OnWorks с этого сайта, но лучше онлайн-эмулятор Windows.
- 5. В только что запущенной ОС Windows OnWorks перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение и установите его.
- 7. Загрузите Wine из репозиториев программного обеспечения вашего дистрибутива Linux. После установки вы можете дважды щелкнуть приложение, чтобы запустить его с помощью Wine. Вы также можете попробовать PlayOnLinux, необычный интерфейс поверх Wine, который поможет вам установить популярные программы и игры для Windows.
Wine - это способ запустить программное обеспечение Windows в Linux, но без Windows. Wine - это уровень совместимости с Windows с открытым исходным кодом, который может запускать программы Windows непосредственно на любом рабочем столе Linux. По сути, Wine пытается заново реализовать Windows с нуля, чтобы можно было запускать все эти Windows-приложения, фактически не нуждаясь в Windows.
СКРИНШОТЫ
Ad
rwkv.cpp
ОПИСАНИЕ
Помимо обычного FP32, он поддерживает FP16, квантованный вывод INT4, INT5 и INT8. Этот проект ориентирован на процессор, но также поддерживается cuBLAS. RWKV — это новая архитектура большой языковой модели, самая большая модель в семействе имеет 14B параметров. В отличие от Transformer с вниманием O(n^2), RWKV для вычисления логитов требуется только состояние из предыдущего шага. Это делает RWKV очень дружественным к процессору при большой длине контекста.
Особенности
- Windows/Линукс/МакОС
- Создайте библиотеку сами
- Получите модель RWKV
- Требования: Python 3.x с PyTorch и токенизаторами.
- ggml движется быстро и иногда может нарушать совместимость со старыми форматами файлов.
- Требования: Python 3.x с PyTorch.
Язык программирования
C + +
Категории
Это приложение также можно загрузить с https://sourceforge.net/projects/rwkv-cpp.mirror/. Он размещен в OnWorks, чтобы его можно было проще запускать онлайн из одной из наших бесплатных операционных систем.
