این برنامه ویندوز به نام PEFT است که آخرین نسخه آن را می توان با نام GPTQQuantization,Low-levelAPI.zip دانلود کرد. می توان آن را به صورت آنلاین در ارائه دهنده میزبانی رایگان OnWorks برای ایستگاه های کاری اجرا کرد.
این برنامه با نام PEFT را با OnWorks به صورت آنلاین دانلود و اجرا کنید.
برای اجرای این برنامه این دستورالعمل ها را دنبال کنید:
- 1. این برنامه را در رایانه شخصی خود دانلود کنید.
- 2. در فایل منیجر ما https://www.onworks.net/myfiles.php?username=XXXXX نام کاربری مورد نظر خود را وارد کنید.
- 3. این برنامه را در چنین فایل منیجر آپلود کنید.
- 4. هر شبیه ساز آنلاین OS OnWorks را از این وب سایت راه اندازی کنید، اما شبیه ساز آنلاین ویندوز بهتر است.
- 5. از OnWorks Windows OS که به تازگی راه اندازی کرده اید، به مدیر فایل ما https://www.onworks.net/myfiles.php?username=XXXXX با نام کاربری که می خواهید بروید.
- 6. برنامه را دانلود و نصب کنید.
- 7. Wine را از مخازن نرم افزار توزیع لینوکس خود دانلود کنید. پس از نصب، می توانید روی برنامه دوبار کلیک کنید تا آنها را با Wine اجرا کنید. همچنین می توانید PlayOnLinux را امتحان کنید، یک رابط کاربری فانتزی بر روی Wine که به شما کمک می کند برنامه ها و بازی های محبوب ویندوز را نصب کنید.
Wine راهی برای اجرای نرم افزار ویندوز بر روی لینوکس است، اما بدون نیاز به ویندوز. Wine یک لایه سازگار با ویندوز منبع باز است که می تواند برنامه های ویندوز را مستقیماً بر روی هر دسکتاپ لینوکس اجرا کند. اساساً، Wine در تلاش است تا به اندازه کافی از ویندوز را از ابتدا مجدداً پیاده سازی کند تا بتواند همه آن برنامه های ویندوز را بدون نیاز به ویندوز اجرا کند.
عکس ها
Ad
PEFT
شرح
روشهای تنظیم دقیق کارآمد پارامتر (PEFT) تطبیق کارآمد مدلهای زبان از پیش آموزشدیده (PLM) را با برنامههای مختلف پایین دستی بدون تنظیم دقیق تمام پارامترهای مدل، امکانپذیر میسازد. تنظیم دقیق PLM های مقیاس بزرگ اغلب بسیار پرهزینه است. در این راستا، روشهای PEFT تنها تعداد کمی از پارامترهای مدل (اضافی) را به دقت تنظیم میکنند و در نتیجه هزینههای محاسباتی و ذخیرهسازی را تا حد زیادی کاهش میدهند. تکنیکهای جدید PEFT به عملکردی قابل مقایسه با تنظیم دقیق کامل دست مییابند.
امکانات
- برای مدلهای مقیاس بزرگ با استفاده از DeepSpeed و Big Model Inference شتاب دهید
- با تطبیق LLMها با وظایف پایین دستی با استفاده از سخت افزار مصرف کننده، عملکرد قابل مقایسه با تنظیم دقیق کامل را دریافت کنید
- حافظه GPU برای تطبیق LLMها روی مجموعه داده چند شات مورد نیاز است
- تنظیم کارآمد پارامتر مدل های انتشار
- حافظه GPU توسط تنظیمات مختلف مورد نیاز است
- تنظیم کارآمد پارامترهای LLM برای اجزای RLHF مانند Ranker و Policy
زبان برنامه نویسی
پــایتــون
دسته بندی ها
این برنامه ای است که می تواند از https://sourceforge.net/projects/peft.mirror/ نیز دریافت شود. در OnWorks میزبانی شده است تا به آسانی از یکی از سیستم عامل های رایگان ما به صورت آنلاین اجرا شود.