Context Compaction: Umetnost povzemanja 3-urnega kodiranja za vaš LLM
· 5 min branja

Vaš AI par programer ima omejitev 200K žetonov. Po 3 urah ste na 150K. Kaj storite?
AI-native development and intelligent systems
Prikaži vse oznake
Vaš AI par programer ima omejitev 200K žetonov. Po 3 urah ste na 150K. Kaj storite?
Vsakič, ko odobrite ali zavrnete AI-jevo akcijo, se uči. Po 5 odobritvah se ta akcija zgodi samodejno.

Vector search najde podoben tekst. Agentic search najde relevantni kontekst. Razlika je v razmišljanju.

Vsi gradijo RAG sisteme z vektorskimi DB. Mi smo našemu AI dali strukturiran pomnilniški sistem, ki dejansko razume kontekst.