Sa Loob ng Byte-Pair Encoding (BPE): Paano Sinasala ng mga LLM ang mga Character sa Subword Tokens
Ang mga modernong transformer architecture—kabilang ang serye ng GPT-5 at GPT-4.1 ng OpenAI, Claude 4.6 ng Anthropic, Gemini 3.1 at 2.5 ng Google, Grok 4 ng xAI, Llama 4 ng Meta, at DeepSeek V3/R1—ay nagpoproseso ng text sa pamamagitan ng mga deterministikong subword tokenization algorithm tulad ng Byte-Pair Encoding (BPE) at SentencePiece. Sa halip na magpanatili ng walang katapusang diksyunaryo ng bawat salita sa bawat wika, nagsisimula ang BPE sa mga indibidwal na UTF-8 byte at paulit-ulit na pinagsasama ang mga pinakamadalas na magkatabing pares ng character sa mga subword token.
Bilang resulta, ang isang karaniwang salitang Ingles na may nangungunang espasyo tulad ng ` intelligence` ay naka-encode bilang isang solong integer token ID, samantalang ang isang hindi pamilyar na tambalang termino, isang hexadecimal hash, o isang mabigat na naka-indent na bloke ng Python ay nahahati sa dose-dosenang mga indibidwal na token. Ang visual tokenizer ng Multinook ay muling binubuo ang mga subword boundary na ito sa totoong oras sa loob ng RAM ng iyong browser.

