Byte-Pair Encoding (BPE) ішінде: LLM символдарды ішкі сөз токендеріне қалай бөледі
Заманауи трансформер сәулеттері — соның ішінде OpenAI компаниясының GPT-5 және GPT-4.1 сериялары, Anthropic компаниясының Claude 4.6, Google компаниясының Gemini 3.1 және 2.5, xAI компаниясының Grok 4, Meta компаниясының Llama 4 және DeepSeek V3/R1 — мәтінді Byte-Pair Encoding (BPE) және SentencePiece сияқты детерминирленген ішкі сөз токендеу алгоритмдері арқылы өңдейді. Әр тілдегі әрбір сөздің шексіз сөздігін сақтаудың орнына, BPE жеке UTF-8 байттарынан басталады және ең жиі қатарласқан символдар жұптарын ішкі сөз токендеріне бірнеше рет біріктіреді.
Нәтижесінде, ` intelligence` сияқты алдында бос орыны бар жиі қолданылатын ағылшын сөзі бір бүтін сан токен идентификаторы ретінде кодталады, ал таныс емес күрделі термин, онaltıлық (hexadecimal) хэш немесе қалың шегінісі бар Python блогы ондаған жеке токендерге бөлшектенеді. Multinook визуалды токендеушісі бұл ішкі сөз шекараларын браузердің RAM жадында нақты уақыт режимінде қалпына келтіреді.

