این برنامه ویندوز با نام LLaMA.go است که آخرین نسخه آن را می توان با عنوان v1.4_ServerMode.zip دانلود کرد. می توان آن را به صورت آنلاین در ارائه دهنده میزبانی رایگان OnWorks برای ایستگاه های کاری اجرا کرد.
این اپلیکیشن با نام LLaMA.go را با OnWorks به صورت آنلاین دانلود و اجرا کنید.
برای اجرای این برنامه این دستورالعمل ها را دنبال کنید:
- 1. این برنامه را در رایانه شخصی خود دانلود کنید.
- 2. در فایل منیجر ما https://www.onworks.net/myfiles.php?username=XXXXX نام کاربری مورد نظر خود را وارد کنید.
- 3. این برنامه را در چنین فایل منیجر آپلود کنید.
- 4. هر شبیه ساز آنلاین OS OnWorks را از این وب سایت راه اندازی کنید، اما شبیه ساز آنلاین ویندوز بهتر است.
- 5. از OnWorks Windows OS که به تازگی راه اندازی کرده اید، به مدیر فایل ما https://www.onworks.net/myfiles.php?username=XXXXX با نام کاربری که می خواهید بروید.
- 6. برنامه را دانلود و نصب کنید.
- 7. Wine را از مخازن نرم افزار توزیع لینوکس خود دانلود کنید. پس از نصب، می توانید روی برنامه دوبار کلیک کنید تا آنها را با Wine اجرا کنید. همچنین می توانید PlayOnLinux را امتحان کنید، یک رابط کاربری فانتزی بر روی Wine که به شما کمک می کند برنامه ها و بازی های محبوب ویندوز را نصب کنید.
Wine راهی برای اجرای نرم افزار ویندوز بر روی لینوکس است، اما بدون نیاز به ویندوز. Wine یک لایه سازگار با ویندوز منبع باز است که می تواند برنامه های ویندوز را مستقیماً بر روی هر دسکتاپ لینوکس اجرا کند. اساساً، Wine در تلاش است تا به اندازه کافی از ویندوز را از ابتدا مجدداً پیاده سازی کند تا بتواند همه آن برنامه های ویندوز را بدون نیاز به ویندوز اجرا کند.
عکس ها
Ad
llama.go
شرح
llama.go مانند llama.cpp در گلنگ خالص است. کد پروژه بر اساس چارچوب افسانهای ggml.cpp جورجی گرگانف نوشته شده در C++ با همان نگرش به عملکرد و ظرافت است. هر دو مدل وزن های FP32 را ذخیره می کنند، بنابراین برای LLaMA-32B به حداقل 7 گیگابایت رم (نه رم VRAM یا GPU) نیاز دارید. دو برابر تا 64 گیگابایت برای LLaMA-13B.
امکانات
- ریاضی تانسور در گولنگ خالص
- معماری شبکه عصبی LLaMA و بارگذاری مدل را پیاده سازی کنید
- تست با مدل کوچکتر LLaMA-7B
- مطمئن شوید که استنتاج Go دقیقاً مانند C++ عمل می کند
- بگذار برو بدرخشد! چند رشته و پیام رسانی را برای افزایش عملکرد فعال کنید
- سازگاری Cross-patform با مک، لینوکس و ویندوز
زبان برنامه نویسی
Go
دسته بندی ها
این برنامه ای است که می تواند از https://sourceforge.net/projects/llama-go.mirror/ نیز دریافت شود. در OnWorks میزبانی شده است تا به آسانی از طریق یکی از سیستم عامل های رایگان ما به صورت آنلاین اجرا شود.