Context Window – Pamäť AI vysvetlená
Keď vedieš dlhú konverzáciu s ChatGPT a AI začne “zabúdať” čo si povedal na začiatku – narazil si na context window. Čo to je a ako s tým pracovať?
Čo je Context Window
Context window je množstvo textu (tokenov), ktoré AI dokáže naraz spracovať. Je to ako “pracovná pamäť” – všetko čo do nej vložíš, AI vidí a používa.
Porovnanie:
- GPT-4o: 128 000 tokenov (~96 000 slov)
- Claude 3.5 Sonnet: 200 000 tokenov (~150 000 slov)
- GPT-3.5: 16 000 tokenov (~12 000 slov)
Čo sa ráta do context window
- System prompt – inštrukcie pre AI
- Tvoje správy – všetky tvoje otázky
- AI odpovede – všetko čo AI napísalo
- Nahraté dokumenty – PDF, texty
- Konverzačná história – predošlé správy
Prečo na tom záleží
Dlhé konverzácie
Pri dlhých chatoch sa context zaplní. AI začne “zabúdať” staršie správy.
Veľké dokumenty
100-stranový PDF môže zabrať veľkú časť window.
Komplexné úlohy
Projekty s veľa kontextom vyžadujú väčší window.
Ako zistiť že si na limite
Znaky plného context window:
- AI zabúda čo si povedal skôr
- Opakuje sa alebo si protirečí
- Žiada informácie, ktoré si už dal
- Chyba “context length exceeded”
Ako efektívne pracovať s context window
1. Sumarizuj priebežne
Zhrň doterajšiu diskusiu do 3 bodov,
aby sme mohli pokračovať.2. Začni novú konverzáciu
Pre novú úlohu začni čistý chat s potrebným kontextom.
3. Prioritizuj informácie
Dávaj len relevantné info, nie “nice to have”.
4. Použi Projects (Claude)
Projects majú oddelený kontext od znalostí.
5. Rozdeľ veľké dokumenty
Namiesto 100 strán nahraj len relevantné časti.
Context window vs dlhodobá pamäť
| Aspekt | Context Window | Memory (ChatGPT) |
|---|---|---|
| Trvanie | Len aktuálny chat | Medzi chatmi |
| Kapacita | 128K-200K tokenov | Limitovaná |
| Presnosť | Vysoká | Zhrnutá |
| Kontrola | Plná | Čiastočná |
ChatGPT Memory je odlišná funkcia – ukladá dlhodobé fakty, nie celé konverzácie.
Budúcnosť
- Väčšie windows – Google Gemini má až 1M tokenov
- Efektívnejšia kompresia – viac info v menšom priestore
- RAG systémy – externá pamäť na dokumenty
Praktický tip
Pre dlhé projekty:
- Začni s jasným kontextom
- Každých 10-15 správ zhrň progres
- Keď sa blížiš k limitu, začni nový chat so zhrnutím
- Dôležité info drž v externom dokumente
Záver
Context window je technický limit, ktorý ovplyvňuje tvoju prácu s AI. Pochopenie ako funguje ti pomôže využiť AI efektívnejšie a vyhnúť sa frustrácii pri dlhých projektoch.