Curs gratuit de AI · 71 de lecții
Lecția 18 – Halucinațiile AI: de ce apar și cum le recunoști
Primești un răspuns formulat impecabil: „Studiul Meridiane 2024 arată că 37% dintre echipele hibride pierd cel puțin o zi pe lună din cauza comunicării.” Are nume, an și procent. Arată ca un rezultat de cercetare. Cauți studiul. Nu apare nicăieri. Dacă ai fi pus deja cifra într-un raport, acum ar circula sub semnătura ta.
Ce înveți în lecția 18
- Ce învață un model din foarte multe texte: gramatică, legături între idei, forma unui text și multe lucruri despre cum funcționează lumea
- Cele patru feluri în care poate greși AI-ul: surse inventate, fapte inventate, citate atribuite greșit și concluzii pe care sursa nu le susține
- De ce modelul poate ghici greșit tocmai detaliile rare, ca un an sau un procent
- Cum îi dai modelului sursa și contextul potrivit, ca să aibă mai puțin de ghicit
- Cum îi spui modelului că are voie să răspundă „nu am destule date” sau să ceară clarificări
- Un prompt prin care modelul îți arată separat ce scrie în sursă, ce deduce el și ce nu poate confirma
- Cum afli la ce pas a greșit un răspuns dat după o căutare pe web și ce schimbi ca să-l repari
Interesant
Două modele cu rezultate apropiate în teste pot da răspunsuri false în proporții foarte diferite. Contează cum au fost antrenate și evaluate. Unele spun mai des „nu știu”: greșesc mai rar, dar răspund la mai puține întrebări.
În practică
Când îți trebuie o informație exactă dintr-un document, atașezi fișierul și scrii: „Folosește numai documentul atașat. Arată pasajul din care iei răspunsul. Dacă informația nu apare, spune că nu o poți confirma.” Modelul are mai puțin de ghicit, iar tu știi exact unde să te uiți.
Modelul a învățat harta limbajului și te poate duce până în cartierul potrivit. Numărul casei nu e mereu pe hartă. Când îi dai o sursă sau îl lași să caute, are o adresă mai precisă.
Pentru cine e: Cine folosește răspunsurile AI pentru cifre, surse și citate pe care le pune mai departe în prezentări, rapoarte sau articole.
Vreau lecțiile complete în PDF prin email
Pe scurt
Ce este o halucinație AI?
O informație falsă, spusă la fel de sigur ca restul răspunsului: un studiu care nu există, o cifră fără sursă sau un citat pus pe seama altcuiva. Nu sare mereu în ochi. Uneori e doar inițiala greșită a autorului într-o referință reală. Un asistent conectat la internet poate spune și că a deschis un link, deși n-a făcut-o.
De ce inventează un model AI informații?
Pentru că la fiecare pas modelul estimează ce bucată de text se potrivește cel mai bine cu ce e deja scris. Același mecanism îi dă fluența și o mare parte din cunoștințe. Forma unei biografii apare de nenumărate ori în datele de antrenare, dar anul nașterii unei persoane puțin cunoscute apare rar. Pentru un astfel de detaliu, modelul poate completa cu ceva plauzibil, dar greșit.
Pot face AI-ul să inventeze mai puțin?
Da. Îi dai sursa sau documentul și scrii exact ce cauți. Adaugi că are voie să răspundă că nu are destule date sau să ceară clarificări. Cu sursa în față, modelul are mai puțin de ghicit. Dacă asistentul poate căuta pe web, îl poți lăsa să caute înainte să scrie răspunsul. Pentru o decizie importantă, deschizi și pasajul citat.
Primești lecțiile pe email, câte una pe săptămână
Lecția 1 vine imediat. Gratuit, mereu. O citești și decizi tu dacă merită să continui.
Inginer. Lucrez de peste 20 de ani în tehnologii emergente și AI. Construiesc sisteme cu modele de limbaj pentru firme și explic AI-ul pe românește: la conferințe, la TV, în workshopuri și în cursul ăsta.