Curs gratuit de AI · 71 de lecții
Lecția 35 – Context și RAG: lacul cu pești
Îl întrebi pe ChatGPT care e capitala Franței și primești răspunsul pe loc. În același chat îi dai procedura internă de concediu și întrebi câte zile poate cere un coleg. Răspunsul vine la fel de repede și sună la fel de convingător. Numai că informația a ajuns la model pe alt drum. De unde știi că răspunsul e luat chiar din procedura ta?
Ce înveți în lecția 35
- Pe ce se bazează ChatGPT când răspunde: pe ce a învățat la antrenare și pe ce primește în conversație
- Ce e RAG și cum poate un asistent intern să răspundă din manualele și regulamentele firmei
- Trei drumuri prin care ajunge informația nouă la model: o scrii tu, sistemul o caută în documente sau o aduce o unealtă
- Ce detalii adaugi la întrebare ca răspunsul să se potrivească situației tale
- De ce câteva documente bine alese pot ajuta mai mult decât un dosar întreg pus în conversație
- Cum ceri trimiteri la pasajele din document, ca să știi exact unde să te uiți
- Patru moduri de a-i da modelului context: spui situația, dai materiale, îl lași să te întrebe, lucrezi pas cu pas
Unelte folosite în lecție: ChatGPT.
Interesant
Când nu știi ce context lipsește, poți inversa rolurile: modelul întreabă, tu răspunzi. Îi ceri să-ți pună întrebări până poate descrie rezultatul dorit. Pe măsură ce răspunzi, îți clarifici și cererea, și propriile decizii.
În practică
Mâine, la prima cerere mai mare, începe cu situația: ce faci, ce rezultat vrei, ce restricții ai. Pune în conversație materialul de lucru, de exemplu mesajul clientului, și cere-i modelului să spună ce a înțeles și ce informație lipsește. Așa, răspunsul pornește de la situația ta, iar modelul are mai puține lucruri de ghicit.
ChatGPT seamănă mai mult cu un bucătar decât cu o bază de date: gătește pe loc, din ce a învățat. Rețeta casei, adică procedura firmei tale, o știe doar dacă i-o pui pe masă.
Pentru cine e: Cine încarcă documente în ChatGPT sau lucrează cu un asistent intern care „caută în manual” și vrea răspunsuri luate din propriile documente.
Vreau lecțiile complete în PDF prin email
Pe scurt
Ce este RAG?
RAG vine de la Retrieval-Augmented Generation. Înainte ca modelul să scrie răspunsul, sistemul caută într-o colecție de documente, alege fragmentele pe care le consideră relevante și le pune în context. Apoi modelul răspunde folosind aceste fragmente și ce a învățat la antrenare. Așa poate un asistent intern să răspundă din manualele, procedurile sau regulamentele firmei.
Poate ChatGPT să răspundă din documentele firmei mele?
Da, dacă îi dai acces la ele. Poți pune un fragment în conversație, poți încărca un fișier sau poți folosi un asistent conectat la documentele firmei, care caută singur pasajele relevante. Dacă îi ceri să indice secțiunea folosită, știi exact unde să te uiți. Când răspunsul îți trebuie pentru o decizie importantă, de exemplu despre o sumă, un termen sau o clauză, deschide pasajul și citește-l.
De ce îmi dă ChatGPT răspunsuri generice?
Adesea, pentru că întrebarea nu spune care e situația, iar modelul alege o continuare plauzibilă. Spune ce faci, ce rezultat vrei, ce ai încercat și ce restricții ai. Un brief, un text vechi sau un tabel îl ajută pe model și mai mult. Cu cât are mai puține lucruri de ghicit, cu atât răspunsul se potrivește mai bine situației tale.
Primești lecțiile pe email, câte una pe săptămână
Lecția 1 vine imediat. Gratuit, mereu. O citești și decizi tu dacă merită să continui.
Inginer. Lucrez de peste 20 de ani în tehnologii emergente și AI. Construiesc sisteme cu modele de limbaj pentru firme și explic AI-ul pe românește: la conferințe, la TV, în workshopuri și în cursul ăsta.