Curs gratuit de AI · 71 de lecții
Lecția 32 – Fereastra de context
Ai o conversație lungă cu un asistent AI. Ai încărcat documente și ați schimbat multe mesaje. La un moment dat, un detaliu pe care i l-ai spus la început nu mai apare în răspunsuri. Pe ecran e tot acolo, îl găsești dacă urci în conversație. Atunci de ce răspunde AI-ul ca și cum detaliul n-ar fi existat?
Ce înveți în lecția 32
- Ce e fereastra de context: tot ce primește modelul pentru un răspuns, de la instrucțiuni la fragmente de documente
- De ce conversația pe care o vezi pe ecran și ce primește efectiv modelul pot fi diferite
- Ce e un token și cum estimezi rapid, după numărul de cuvinte, cât loc ocupă un text
- Ce face aplicația când textul nu mai încape: refuză, lasă o parte pe dinafară, rezumă sau aduce doar fragmente
- Cum completezi o cerere de o propoziție ca să știe AI-ul cui scrie, ce are de comunicat și pe ce ton
- Ce informații merită să-i dai AI-ului odată cu cererea: obiectiv, public, date, limite, exemple, criterii
- Cât material poți da la un proiect complex: câteva pagini, un tabel sau mai multe fișiere
Interesant
Modelul lucrează cu numere. Înainte ca textul să ajungă la model, un program numit tokenizer îl taie în bucăți și dă fiecăreia un număr. O majusculă sau un spațiu pot schimba felul în care e tăiat același cuvânt.
În practică
Ia o cerere pe care i-o trimiți des AI-ului și citește-o cu ochii unui coleg nou, care nu știe nimic despre proiect. Unde el ar avea întrebări, scrie răspunsul direct în mesaj: cine e clientul, ce ai promis, cum arată un rezultat bun în echipa ta. Așa, AI-ul ghicește mai puțin.
Pentru fiecare răspuns, aplicația pregătește o tablă nouă, iar modelul lucrează cu ce găsește scris pe ea. Când scrii acolo cine e clientul, ce urmărești, ce limite ai și cum vrei să arate rezultatul, îi rămâne mai puțin de ghicit.
Pentru cine e: Cine lucrează cu AI-ul în conversații lungi sau pe documente și vrea să înțeleagă ce vede de fapt modelul când răspunde.
Vreau lecțiile complete în PDF prin email
Pe scurt
Ce este fereastra de context?
E spațiul limitat în care aplicația pune informațiile trimise modelului pentru un răspuns. Acolo pot ajunge instrucțiunile sistemului, mesajul tău, mesaje mai vechi, fragmente din documente și rezultatele unei căutări. Modelul lucrează cu ce primește în acest spațiu. La următorul mesaj, aplicația pregătește din nou contextul.
De ce uită AI-ul ce i-am spus la începutul unei conversații lungi?
Pentru că aplicația nu trimite neapărat modelului toată conversația de pe ecran, iar fereastra de context are loc limitat. Când se umple, aplicația poate scoate mesajele vechi sau le poate rezuma, iar unele detalii se pierd. Chiar și într-un context mare, modelul poate rata uneori un detaliu. Dacă o informație contează, spune-o din nou, clar.
Ajută dacă îi scriu AI-ului un mesaj mai lung, cu mai multe detalii?
Da, când detaliile sunt relevante pentru sarcină. Dacă îi spui obiectivul, publicul, datele, limitele și cum vrei să arate rezultatul, modelul trebuie să presupună mai puțin și are mai multe șanse să-ți dea un răspuns util. Pentru o sarcină simplă, mesajul poate rămâne scurt. La un proiect complex, poți da câteva pagini, un tabel sau mai multe fișiere.
Primești lecțiile pe email, câte una pe săptămână
Lecția 1 vine imediat. Gratuit, mereu. O citești și decizi tu dacă merită să continui.
Inginer. Lucrez de peste 20 de ani în tehnologii emergente și AI. Construiesc sisteme cu modele de limbaj pentru firme și explic AI-ul pe românește: la conferințe, la TV, în workshopuri și în cursul ăsta.