വിൻഡോസിനായുള്ള CPT ​​ഡൗൺലോഡ്

ഇതാണ് CPT എന്ന് പേരിട്ടിരിക്കുന്ന വിൻഡോസ് ആപ്പ്, ഇതിന്റെ ഏറ്റവും പുതിയ പതിപ്പ് Version2.0.zip ആയി ഡൗൺലോഡ് ചെയ്യാം. വർക്ക്സ്റ്റേഷനുകൾക്കായുള്ള സൗജന്യ ഹോസ്റ്റിംഗ് ദാതാവായ OnWorks-ൽ ഇത് ഓൺലൈനായി പ്രവർത്തിപ്പിക്കാം.

സ്ക്രീൻഷോട്ടുകൾ

സിപിടി

വിവരണം

ചൈനീസ് ഭാഷാ ധാരണയ്ക്കും ജനറേഷനുമുള്ള ഒരു പ്രീ-ട്രെയിൻഡ് അൺബാലൻസ്ഡ് ട്രാൻസ്ഫോർമർ. പരിശീലന ഡാറ്റയിൽ നിന്ന് നിർമ്മിച്ച 51271 വലുപ്പമുള്ള പഴയ BERT പദാവലി ഞങ്ങൾ മാറ്റിസ്ഥാപിക്കുന്നു, അതിൽ ഞങ്ങൾ 1) നഷ്‌ടമായ 6800+ ചൈനീസ് പ്രതീകങ്ങൾ ചേർക്കുന്നു (അവയിൽ മിക്കതും പരമ്പരാഗത ചൈനീസ് പ്രതീകങ്ങളാണ്); 2) അനാവശ്യ ടോക്കണുകൾ നീക്കം ചെയ്യുക (ഉദാ: ## പ്രിഫിക്സുള്ള ചൈനീസ് പ്രതീക ടോക്കണുകൾ); 3) OOV കുറയ്ക്കാൻ ചില ഇംഗ്ലീഷ് ടോക്കണുകൾ ചേർക്കുക.
പൊസിഷൻ എംബെഡിംഗുകൾ ഞങ്ങൾ max_position_embeddings 512-ൽ നിന്ന് 1024-ലേക്ക് നീട്ടുന്നു. പദാവലി വിന്യാസത്തോടുകൂടിയ ചെക്ക്‌പോസ്റ്റുകളുടെ പഴയ പതിപ്പ് ഉപയോഗിച്ച് ഞങ്ങൾ മോഡലുകളുടെ പുതിയ പതിപ്പ് ആരംഭിക്കുന്നു. പഴയ ചെക്ക്‌പോസ്റ്റുകളിൽ കാണുന്ന ടോക്കൺ എംബെഡിംഗുകൾ പകർത്തിയതാണ്. കൂടാതെ പുതുതായി ചേർത്ത മറ്റ് പാരാമീറ്ററുകൾ ക്രമരഹിതമായി ആരംഭിക്കുന്നു. ബാച്ച് വലുപ്പം 50, പരമാവധി-സെക്-ലെംഗ്ത്ത് 2048, പീക്ക് ലേണിംഗ് നിരക്ക് 1024e-2, വാംഅപ്പ് റേഷ്യോ 5 എന്നിവയുള്ള പുതിയ CPT, ചൈനീസ് BART 0.1K ഘട്ടങ്ങൾ ഞങ്ങൾ കൂടുതൽ പരിശീലിപ്പിക്കുന്നു. എൻ‌എൽ‌യു, എൻ‌എൽ‌ജി ടാസ്‌ക്കുകൾ ഏകീകരിക്കാൻ ലക്ഷ്യമിട്ട്, ഞങ്ങൾ ഒരു നോവൽ ചൈനീസ് പ്രീ-ട്രെയിൻഡ് അൺ-ബാലൻസ്ഡ് ട്രാൻസ്‌ഫോർമർ (സി‌പി‌ടി) നിർദ്ദേശിക്കുന്നു.

സവിശേഷതകൾ

• ഈ ശേഖരത്തിൽ സി‌പി‌ടിക്കുള്ള കോഡും ചെക്ക്‌പോസ്റ്റുകളും അടങ്ങിയിരിക്കുന്നു
• ചൈനീസ് ഭാഷാ ധാരണയ്ക്കും ജനറേഷനും ഒരു പ്രീ-ട്രെയിൻഡ് അൺബാലൻസ്ഡ് ട്രാൻസ്ഫോർമർ
• പൂർണ്ണമായി ബന്ധിപ്പിച്ചിട്ടുള്ള സ്വയം ശ്രദ്ധയുള്ള ട്രാൻസ്ഫോർമർ എൻകോഡർ, ഭാഷാ ധാരണയ്ക്കും ജനറേഷനും പൊതുവായ സെമാന്റിക് പ്രാതിനിധ്യം പകർത്താൻ രൂപകൽപ്പന ചെയ്തിട്ടുള്ളതാണ്
• ജനറേഷൻ ഡീകോഡർ (ജി-ഡിസംബർ)
• NLU ടാസ്‌ക്കുകൾക്കായി രൂപകൽപ്പന ചെയ്‌തിരിക്കുന്ന പൂർണ്ണമായി ബന്ധിപ്പിച്ചിരിക്കുന്ന സ്വയം ശ്രദ്ധയുള്ള ആഴമില്ലാത്ത ട്രാൻസ്‌ഫോർമർ എൻകോഡർ. U-Dec-ന്റെ ഇൻപുട്ട് S-Enc-ന്റെ ഔട്ട്പുട്ടാണ്.
• G-Dec ക്രോസ്-അറ്റൻഷനോടെ S-Enc-ന്റെ ഔട്ട്പുട്ട് ഉപയോഗപ്പെടുത്തുന്നു

പ്രോഗ്രാമിംഗ് ഭാഷ

പൈത്തൺ

Categories

ഇത് https://sourceforge.net/projects/cpt.mirror/ എന്നതിൽ നിന്നും ലഭിക്കാവുന്ന ഒരു ആപ്ലിക്കേഷനാണ്. ഞങ്ങളുടെ സൗജന്യ ഓപ്പറേറ്റീവ് സിസ്റ്റങ്ങളിലൊന്നിൽ നിന്ന് ഏറ്റവും എളുപ്പമുള്ള രീതിയിൽ ഓൺലൈനിൽ പ്രവർത്തിപ്പിക്കുന്നതിനായി ഇത് OnWorks-ൽ ഹോസ്റ്റ് ചെയ്‌തിരിക്കുന്നു.