ബൈറ്റ്-പെയർ എൻകോഡിംഗിനുള്ളിൽ (BPE): LLM-കൾ എങ്ങനെയാണ് ക്യാരക്ടറുകളെ സബ്വേർഡ് ടോക്കണുകളായി സെഗ്മെന്റ് ചെയ്യുന്നത്
OpenAI-യുടെ GPT-5, GPT-4.1 സീരീസ്, Anthropic-ന്റെ Claude 4.6, Google-ന്റെ Gemini 3.1, 2.5, xAI-യുടെ Grok 4, Meta-യുടെ Llama 4, DeepSeek V3/R1 എന്നിവ ഉൾപ്പെടെയുള്ള ആധുനിക ട്രാൻസ്ഫോർമർ ആർക്കിടെക്ചറുകൾ, ബൈറ്റ്-പെയർ എൻകോഡിംഗ് (BPE), സെന്റൻസ് പീസ് തുടങ്ങിയ ഡിറ്റർമിനിസ്റ്റിക് സബ്വേർഡ് ടോക്കണൈസേഷൻ അൽഗോരിതങ്ങൾ വഴിയാണ് വാചകം പ്രോസസ്സ് ചെയ്യുന്നത്. എല്ലാ ഭാഷയിലെയും എല്ലാ വാക്കിന്റെയും അനന്തമായ നിഘണ്ടു സൂക്ഷിക്കുന്നതിന് പകരം, BPE വ്യക്തിഗത UTF-8 ബൈറ്റുകളിൽ ആരംഭിച്ച് ഏറ്റവും പതിവായി വരുന്ന അടുത്തുള്ള ക്യാരക്ടർ ജോഡികളെ ആവർത്തിച്ച് സബ്വേർഡ് ടോക്കണുകളായി ലയിപ്പിക്കുന്നു.
തൽഫലമായി, ` intelligence` പോലെയുള്ള മുൻനിര സ്പേസ് ഉള്ള ഒരു സാധാരണ ഇംഗ്ലീഷ് വാക്ക് ഒരൊറ്റ ഇന്റിജർ ടോക്കൺ ID ആയി എൻകോഡ് ചെയ്യപ്പെടുന്നു, അതേസമയം പരിചയമില്ലാത്ത ഒരു കോമ്പൗണ്ട് പദം, ഒരു ഹെക്സാഡെസിമൽ ഹാഷ് അല്ലെങ്കിൽ കനത്ത ഇൻഡെന്റ് ചെയ്ത പൈത്തൺ ബ്ലോക്ക് ഡൗസൺ കണക്കിന് വ്യക്തിഗത ടോക്കണുകളായി തകരുന്നു. Multinook-ന്റെ വിഷ്വൽ ടോക്കണൈസർ നിങ്ങളുടെ ബ്രൗസർ RAM-നുള്ളിൽ തത്സമയം ഈ സബ്വേർഡ് അതിരുകൾ പുനർനിർമ്മിക്കുന്നു.

