Žvilgsnis į baitų porų kodavimą (BPE): kaip LLM segmentuoja simbolius į subžodžių žetonus
Šiuolaikinės transformerių architektūros, įskaitant „OpenAI“ GPT-5 ir GPT-4.1 serijas, „Anthropic“ Claude 4.6, „Google“ Gemini 3.1 ir 2.5, „xAI“ Grok 4, „Meta“ Llama 4 ir DeepSeek V3/R1, apdoroja tekstą naudodami deterministinius subžodžių tokenizavimo algoritmus, tokius kaip baitų porų kodavimas (BPE) ir „SentencePiece“. Vietoj to, kad palaikytų begalinį kiekvieno žodžio kiekvienoje kalboje žodyną, BPE prasideda nuo atskirų UTF-8 baitų ir pakartotinai sujungia dažniausiai greta esančias simbolių poras į subžodžių žetonus.
Dėl to dažnas angliškas žodas su priekiniu tarpu, pavyzdžiui, ` intelligence`, yra užkoduojamas kaip vienas sveikojo skaičiaus žetono ID, o nepažįstamas sudėtinis terminas, šešioliktainis maišos kodas arba giliai įtrauktas Python blokas yra suskaidomas į dešimtis atskirų žetonų. „Multinook“ vizualinis žetonų kūrėjas realiuoju laiku atkuria šias subžodžių ribas jūsų naršyklės RAM.

