Okno kontekstowe LLM mierzy pojemność. Nie mierzy uwagi.
Okno kontekstowe określa ile tokenów model przyjmie, nie jak je przetworzy. Uwaga modelu ma kształt litery U - środek kontekstu dostaje jej systematycznie najmniej.
AI LLM Kontekst
Czytaj więcej