Ndani ya Byte-Pair Encoding (BPE): Jinsi LLM Hugawanya Herufi katika Tokeni za Maneno Madogo
Mifumo ya kisasa ya 'transformer'—ikiwa ni pamoja na mfululizo wa GPT-5 na GPT-4.1 wa OpenAI, Claude 4.6 ya Anthropic, Gemini 3.1 na 2.5 ya Google, Grok 4 ya xAI, Llama 4 ya Meta, na DeepSeek V3/R1—huchakata maandishi kupitia algoriti thabiti za ugawaji wa tokeni za maneno madogo kama vile Byte-Pair Encoding (BPE) na SentencePiece. Badala ya kudumisha kamusi isiyo na kikomo ya kila neno katika kila lugha, BPE huanza na byte binafsi za UTF-8 na kuunganisha mara kwa mara jozi za herufi zilizo karibu zaidi kuwa tokeni za maneno madogo.
Kama matokeo, neno la kawaida la Kiingereza lenye nafasi mbele kama vile ` intelligence` limewekwa kama kitambulisho kimoja cha namba kamili cha tokeni, wakati neno geni la kiwanja, hashi ya hexadecimal, au kizuizi cha Python kilichowekwa ndani sana kinavunjwa kuwa tokeni nyingi binafsi. Kigeuzi cha tokeni za kuona cha Multinook hurejesha mipaka hii ya maneno madogo kwa wakati halisi ndani ya RAM ya kivinjari chako.

