Byte-Pair Encoding (BPE) ඇතුළත: LLM මඟින් අක්ෂර උපවචන ටෝකන් වලට බෙදන්නේ කෙසේද
OpenAI හි GPT-5 සහ GPT-4.1 මාලාව, Anthropic හි Claude 4.6, Google හි Gemini 3.1 සහ 2.5, xAI හි Grok 4, Meta හි Llama 4, සහ DeepSeek V3/R1 ඇතුළු නවීන ට්රාන්ස්ෆෝමර් ආකෘති Byte-Pair Encoding (BPE) සහ SentencePiece වැනි නිර්ණායක උපවචන ටෝකනකරණ ඇල්ගොරිතම හරහා පෙළ සකසයි. සෑම භාෂාවකම ඇති සෑම වචනයකම අනන්ත ශබ්දකෝෂයක් පවත්වාගෙන යාමට වඩා, BPE තනි UTF-8 බයිට් වලින් ආරම්භ වන අතර නිතර ආසන්නම අක්ෂර යුගල පුනරාවර්තන ලෙස උපවචන ටෝකන් වලට ඒකාබද්ධ කරයි.
ප්රතිඵලයක් වශයෙන්, ` intelligence` වැනි ප්රමුඛ අවකාශයක් සහිත පොදු ඉංග්රීසි වචනයක් තනි පූර්ණ සංඛ්යා ටෝකන් හැඳුනුම්පතක් ලෙස කේතනය කරනු ලබන අතර, හුරුපුරුදු නොවන සංයුක්ත පදයකි, ෂඩාස්ර හැෂයකි, හෝ දැඩි ලෙස ඉන්ඩෙන්ට් කරන ලද Python බ්ලොක් එකක් ටෝකන් දහස් ගණනකට බිඳ වැටේ. Multinook හි දෘශ්ය ටෝකනයිසර් ඔබේ බ්රව්සරයේ RAM තුළ තත්ය කාලීනව මෙම උපවචන සීමාවන් නැවත සකස් කරයි.

