ນີ້ແມ່ນແອັບ Linux ທີ່ມີຊື່ວ່າ PEFT ເຊິ່ງລຸ້ນຫຼ້າສຸດສາມາດດາວໂຫຼດໄດ້ເປັນ GPTQQuantization,Low-levelAPI.zip. ມັນສາມາດດໍາເນີນການອອນໄລນ໌ຢູ່ໃນຜູ້ໃຫ້ບໍລິການໂຮດຕິ້ງຟຣີ OnWorks ສໍາລັບສະຖານີບ່ອນເຮັດວຽກ.
ດາວນ໌ໂຫລດແລະດໍາເນີນການອອນໄລນ໌ app ນີ້ມີຊື່ PEFT ກັບ OnWorks ໄດ້ຟຣີ.
ປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານີ້ເພື່ອດໍາເນີນການ app ນີ້:
- 1. ດາວໂຫຼດຄໍາຮ້ອງສະຫມັກນີ້ໃນ PC ຂອງທ່ານ.
- 2. ໃສ່ໃນຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 3. ອັບໂຫລດແອັບພລິເຄຊັນນີ້ຢູ່ໃນຕົວຈັດການໄຟລ໌ດັ່ງກ່າວ.
- 4. ເລີ່ມ OnWorks Linux ອອນລາຍ ຫຼື Windows online emulator ຫຼື MACOS online emulator ຈາກເວັບໄຊທ໌ນີ້.
- 5. ຈາກ OnWorks Linux OS ທີ່ເຈົ້າຫາກໍ່ເລີ່ມຕົ້ນ, ໄປທີ່ຕົວຈັດການໄຟລ໌ຂອງພວກເຮົາ https://www.onworks.net/myfiles.php?username=XXXXX ດ້ວຍຊື່ຜູ້ໃຊ້ທີ່ທ່ານຕ້ອງການ.
- 6. ດາວນ໌ໂຫລດຄໍາຮ້ອງສະຫມັກ, ຕິດຕັ້ງມັນແລະດໍາເນີນການ.
ໜ້າ ຈໍ
Ad
PEFT
ລາຍລະອຽດ
ວິທີການປັບຄ່າພາລາມິເຕີທີ່ມີປະສິດທິພາບ (PEFT) ຊ່ວຍໃຫ້ການປັບຕົວແບບພາສາທີ່ຜ່ານການຝຶກອົບຮົມ (PLMs) ທີ່ມີປະສິດທິພາບໃຫ້ກັບແອັບພລິເຄຊັນລຸ່ມນໍ້າຕ່າງໆ ໂດຍບໍ່ມີການປັບຄ່າຕົວກໍານົດການທັງໝົດຂອງຕົວແບບ. ການປັບປຸງ PLMs ຂະຫນາດໃຫຍ່ແມ່ນມັກຈະມີຄ່າໃຊ້ຈ່າຍທີ່ຫ້າມ. ໃນເລື່ອງນີ້, ວິທີການ PEFT ພຽງແຕ່ປັບຕົວກໍານົດການແບບຈໍາລອງຈໍານວນຫນ້ອຍ (ພິເສດ), ດັ່ງນັ້ນການຫຼຸດລົງຢ່າງຫຼວງຫຼາຍຂອງຄ່າໃຊ້ຈ່າຍໃນຄອມພິວເຕີ້ແລະການເກັບຮັກສາ. ເຕັກນິກ PEFT ທີ່ທັນສະໄໝຫຼ້າສຸດບັນລຸປະສິດທິພາບທຽບເທົ່າກັບການປັບລະອຽດເຕັມຮູບແບບ.
ຄຸນລັກສະນະ
- ເລັ່ງສໍາລັບຕົວແບບຂະຫນາດໃຫຍ່ທີ່ນໍາໃຊ້ DeepSpeed ແລະ Big Model Inference
- ໄດ້ຮັບປະສິດທິພາບທີ່ສົມທຽບກັບການປັບລະອຽດເຕັມຮູບແບບໂດຍການປັບຕົວ LLMs ກັບວຽກງານລຸ່ມນ້ໍາໂດຍໃຊ້ຮາດແວຜູ້ບໍລິໂພກ
- ຫນ່ວຍຄວາມຈໍາ GPU ຕ້ອງການສໍາລັບການປັບຕົວ LLMs ໃນຊຸດຂໍ້ມູນຈໍານວນຫນ້ອຍໆ
- ພາລາມິເຕີປະສິດທິພາບ Tuning ຂອງແບບຈໍາລອງການແຜ່ກະຈາຍ
- ຫນ່ວຍຄວາມຈໍາ GPU ຕ້ອງການໂດຍການຕັ້ງຄ່າທີ່ແຕກຕ່າງກັນ
- Parameter Efficient Tuning ຂອງ LLMs ສໍາລັບອົງປະກອບ RLHF ເຊັ່ນ Ranker ແລະນະໂຍບາຍ
ພາສາການຂຽນໂປຣແກຣມ
Python
ປະເພດ
ນີ້ແມ່ນແອັບພລິເຄຊັນທີ່ຍັງສາມາດເອົາມາຈາກ https://sourceforge.net/projects/peft.mirror/. ມັນໄດ້ຖືກຈັດຢູ່ໃນ OnWorks ເພື່ອໃຫ້ດໍາເນີນການອອນໄລນ໌ດ້ວຍວິທີທີ່ງ່າຍທີ່ສຸດຈາກຫນຶ່ງໃນລະບົບປະຕິບັດງານຟຣີຂອງພວກເຮົາ.
