ນີ້ແມ່ນແອັບ Linux ທີ່ມີຊື່ວ່າ rwkv.cpp ເຊິ່ງລຸ້ນຫຼ້າສຸດສາມາດດາວໂຫຼດໄດ້ໃນນາມ rwkv-master-d6c691e-bin-win-avx512-x64.zip. ມັນສາມາດດໍາເນີນການອອນໄລນ໌ຢູ່ໃນ OnWorks ຜູ້ໃຫ້ບໍລິການໂຮດຕິ້ງຟຣີສໍາລັບບ່ອນເຮັດວຽກ.
ດາວນ໌ໂຫລດແລະດໍາເນີນການອອນໄລນ໌ app ນີ້ມີຊື່ rwkv.cpp ກັບ OnWorks ໄດ້ຟຣີ.
ປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານີ້ເພື່ອດໍາເນີນການ app ນີ້:
- 1. ດາວໂຫຼດຄໍາຮ້ອງສະຫມັກນີ້ໃນ PC ຂອງທ່ານ.
- 2. ໃສ່ໃນຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 3. ອັບໂຫລດແອັບພລິເຄຊັນນີ້ຢູ່ໃນຕົວຈັດການໄຟລ໌ດັ່ງກ່າວ.
- 4. ເລີ່ມ OnWorks Linux ອອນລາຍ ຫຼື Windows online emulator ຫຼື MACOS online emulator ຈາກເວັບໄຊທ໌ນີ້.
- 5. ຈາກ OnWorks Linux OS ທີ່ເຈົ້າຫາກໍ່ເລີ່ມຕົ້ນ, ໄປທີ່ຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 6. ດາວນ໌ໂຫລດຄໍາຮ້ອງສະຫມັກ, ຕິດຕັ້ງມັນແລະດໍາເນີນການ.
ໜ້າ ຈໍ
Ad
rwkv.cpp
ລາຍລະອຽດ
ນອກຈາກ FP32 ປົກກະຕິ, ມັນສະຫນັບສະຫນູນ FP16, quantized INT4, INT5 ແລະ INT8 inference. ໂຄງການນີ້ແມ່ນສຸມໃສ່ CPU, ແຕ່ cuBLAS ຍັງສະຫນັບສະຫນູນ. RWKV ແມ່ນສະຖາປັດຕະຍະກໍາແບບຈໍາລອງພາສາທີ່ມີຂະຫນາດໃຫຍ່, ຮູບແບບທີ່ໃຫຍ່ທີ່ສຸດໃນຄອບຄົວມີຕົວກໍານົດການ 14B. ກົງກັນຂ້າມກັບ Transformer ດ້ວຍການໃສ່ໃຈ O(n^2), RWKV ຕ້ອງການພຽງແຕ່ສະຖານະຈາກຂັ້ນຕອນທີ່ຜ່ານມາເພື່ອຄິດໄລ່ logits. ນີ້ເຮັດໃຫ້ RWKV ເປັນມິດກັບ CPU ຫຼາຍໃນຄວາມຍາວຂອງບໍລິບົດຂະຫນາດໃຫຍ່.
ຄຸນລັກສະນະ
- Windows / Linux / MacOS
- ສ້າງຫໍສະຫມຸດດ້ວຍຕົວທ່ານເອງ
- ເອົາແບບຈໍາລອງ RWKV
- ຄວາມຕ້ອງການ: Python 3.x ກັບ PyTorch ແລະ tokenizers
- ggml ເຄື່ອນທີ່ໄວ, ແລະບາງຄັ້ງສາມາດທໍາລາຍຄວາມເຂົ້າກັນໄດ້ກັບຮູບແບບໄຟລ໌ເກົ່າ
- ຄວາມຕ້ອງການ: Python 3.x ກັບ PyTorch
ພາສາການຂຽນໂປຣແກຣມ
C ++
ປະເພດ
ນີ້ແມ່ນແອັບພລິເຄຊັນທີ່ຍັງສາມາດເອົາມາຈາກ https://sourceforge.net/projects/rwkv-cpp.mirror/. ມັນໄດ້ຖືກຈັດຢູ່ໃນ OnWorks ເພື່ອໃຫ້ດໍາເນີນການອອນໄລນ໌ດ້ວຍວິທີທີ່ງ່າຍທີ່ສຸດຈາກຫນຶ່ງໃນລະບົບປະຕິບັດງານຟຣີຂອງພວກເຮົາ.
