Svaki puta kada dulje chatate s ChatGPT-om ili Claudeom čini vam se da on postaje sve „gluplji“, a odgovori sve besmisleniji? Kada se to dogodi nemojte se svađati s chatom ili ga vrijeđati (🤣), već osvijestite da postoji nešto što se zove CONTEXT WINDOW, da su te pojave normalne i da ih je moguće s nekoliko trikova u nastavku maksimalno izbjeći 💡
Što se šalje sa svakom porukom?
Svaki put kada pošaljete poruku, alat (ChatGPT, Claude...) modelu između ostalog pošalje:
- System prompt (nevidljive upute proizvođača)
- Custom instructions ili upute projekta, ako ste ih postavili
- Priložene dokumente
- Cijeli dosadašnji razgovor
- Vaš zadnji prompt
Dakle sa svakom porukom sve se šalje iznova, što znači da model prima sve više teksta, a context window predstavlja maksimalna količina teksta koju može primiti odjednom. Kad razgovor postane dulji, najstarije poruke ispadaju pa odgovori mogu izgledati kao da je vaš AI tool malo senilan 🤷♀️
Kako izbjeći opadanje kvalitete odgovora?
- Koristi jedan chat za jednu temu
- Ako je chat već predug napravi prompt „Napravi sažetak dosadašnjeg razgovora u upute i zaključke“, kopirajte sažetak i otvorite novi chat s tim sažetkom na početku razgovora
- Bitne upute ponovite kad razgovor postane dug ili ih stavite u custom instructions/projekt pa se automatski dodaju u svaki kontekst
- Više konteksta nije bolje ❗️ Relevantan kontekst je bolje. Ugovor od 40 stranica zbog pitanja oko jednog članka aktivno šteti odgovoru
- Sredina konteksta je slaba točka → najbitnije stavite na početak ili kraj. Kad prilažete dulji materijal, ključnu uputu napišite NAKON dokumenta, ne prije.
Samo minuta posla i dobit ćete bitno kvalitetnije ishode u vašem korištenju AI toolova 🤗