Byte-Pair Encoding (BPE) உள்ளே: LLM-கள் எழுத்துகளை எவ்வாறு சப்வேர்ட் டோக்கன்களாகப் பிரிக்கின்றன
OpenAI-ன் GPT-5 மற்றும் GPT-4.1 தொடர், Anthropic-ன் Claude 4.6, Google-ன் Gemini 3.1 மற்றும் 2.5, xAI-ன் Grok 4, Meta-ன் Llama 4 மற்றும் DeepSeek V3/R1 உள்ளிட்ட நவீன டிரான்ஸ்பார்மர் கட்டமைப்புகள், Byte-Pair Encoding (BPE) மற்றும் SentencePiece போன்ற உறுதியான சப்வேர்ட் டோக்கனைசேஷன் வழிமுறைகள் மூலம் உரையைச் செயலாக்குகின்றன. ஒவ்வொரு மொழியிலும் உள்ள ஒவ்வொரு சொல்லின் முடிவிலா அகராதியைப் பராமரிப்பதற்குப் பதிலாக, BPE தனிப்பட்ட UTF-8 பைட்டுகளுடன் தொடங்கி, மிகவும் அடிக்கடி அருகிலுள்ள எழுத்து ஜோடிகளை சப்வேர்ட் டோக்கன்களாக iteratively இணைக்கிறது.
இதன் விளைவாக, முன்னணி இடைவெளியைக் கொண்ட ஒரு பொதுவான ஆங்கில சொல்லான ` intelligence` ஒற்றை முழு எண் டோக்கன் ஐடியாக குறியிடப்படுகிறது, அதேசமயத்தில் நன்கு பரிச்சயமில்லாத கூட்டுச் சொல், ஹெக்சா டெசிமல் ஹேஷ் அல்லது அதிகளவில் உள்தள்ளப்பட்ட Python பிளாக் டஜன் கணக்கான தனிப்பட்ட டோக்கன்களாக உடைகிறது. Multinook-ன் காட்சி டோக்கனைசர் உங்கள் உலாவி RAM-க்குள் இந்த சப்வேர்ட் எல்லைகளை உண்மையான நேரத்தில் புனரமைக்கிறது.

