Dit is de Windows-app met de naam rwkv.cpp waarvan de nieuwste release kan worden gedownload als rwkv-master-39ed572-bin-win-avx512-x64.zip. Het kan online worden uitgevoerd in de gratis hostingprovider OnWorks voor werkstations.
Download en voer deze app met de naam RWKV.CPP gratis online uit met OnWorks.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start een OS OnWorks online emulator vanaf deze website, maar een betere Windows online emulator.
- 5. Ga vanuit het OnWorks Windows-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie en installeer deze.
- 7. Download Wine van de softwarebronnen voor Linux-distributies. Eenmaal geïnstalleerd, kunt u vervolgens dubbelklikken op de app om ze met Wine uit te voeren. Je kunt ook PlayOnLinux proberen, een mooie interface via Wine waarmee je populaire Windows-programma's en -games kunt installeren.
Wine is een manier om Windows-software op Linux uit te voeren, maar zonder dat Windows vereist is. Wine is een open-source Windows-compatibiliteitslaag die Windows-programma's rechtstreeks op elke Linux-desktop kan uitvoeren. In wezen probeert Wine genoeg van Windows opnieuw te implementeren, zodat het al die Windows-applicaties kan draaien zonder Windows echt nodig te hebben.
SCREENSHOTS
Ad
rwkv.cpp
PRODUCTBESCHRIJVING
Naast de gebruikelijke FP32 ondersteunt het FP16, gekwantiseerde INT4-, INT5- en INT8-inferentie. Dit project is gericht op CPU, maar cuBLAS wordt ook ondersteund. RWKV is een nieuwe modelarchitectuur voor grote talen, waarbij het grootste model in de familie 14B-parameters heeft. In tegenstelling tot Transformer met O(n^2) aandacht, heeft RWKV alleen de status uit de vorige stap nodig om logits te berekenen. Dit maakt RWKV zeer CPU-vriendelijk op grote contextlengtes.
Kenmerken
- Windows/Linux/MacOS
- Bouw zelf de bibliotheek
- Koop een RWKV-model
- Vereisten: Python 3.x met PyTorch en tokenizers
- ggml werkt snel en kan af en toe de compatibiliteit met oudere bestandsformaten verbreken
- Vereisten: Python 3.x met PyTorch
Programmeertaal
C + +
Categorieën
Dit is een applicatie die ook kan worden opgehaald van https://sourceforge.net/projects/rwkv-cpp.mirror/. Het is gehost in OnWorks zodat het op de eenvoudigste manier online kan worden uitgevoerd vanaf een van onze gratis besturingssystemen.
