Modelele de inteligenta artificiala generativa, precum ChatGPT sau Perplexity, au devenit rapid instrumente folosite de milioane de persoane din intreaga lume pentru documentare, invatare si chiar luarea unor decizii practice.
Cu toate acestea, sursele pe care aceste sisteme le utilizeaza ridica mari semne de intrebare privind acuratetea si fiabilitatea raspunsurilor oferite. O analiza publicata in vara anului 2025 de platforma Visual Capitalist, citata de Risco.ro, scoate la iveala o dependenta masiva a acestor modele de continutul generat de utilizatori pe forumuri, retele sociale si site-uri deschise, unde verificarea informatiilor este adesea superficiala sau chiar absenta.
Sursele dominante folosite de chatboti
Conform datelor prezentate, modelele lingvistice mari (LLM – large language models) isi extrag informatiile in principal din platforme precum Reddit, Wikipedia, YouTube sau Google. Reddit ocupa prima pozitie, fiind mentionat in aproximativ 40% dintre referinte, urmat de Wikipedia cu 26%. La randul lor, YouTube si Google sunt surse frecvent utilizate, cu peste 23% din citari fiecare.
Lista este completata de alte platforme de continut generat de utilizatori, printre care Yelp, Facebook, Amazon, Tripadvisor, dar si resurse colaborative precum Mapbox si OpenStreetMap. Mai rar, dar totusi prezente, apar nume precum eBay, LinkedIn, Quora sau Pinterest. Aceasta distributie arata clar ca modelele de inteligenta artificiala se bazeaza pe un tip de cunoastere care nu trece prin filtre editoriale riguroase si nu beneficiaza de un control al calitatii comparabil cu publicatiile academice sau cu sursele oficiale.
Riscurile utilizarii informatiilor neverificate
Dependenta excesiva de astfel de surse ridica trei mari riscuri pentru utilizatorii care trateaza raspunsurile chatbotilor ca fiind certe.
Primul este dezinformarea. Continutul preluat de pe forumuri sau retele sociale poate contine opinii personale, zvonuri sau interpretari eronate. In lipsa unei verificari independente, inteligenta artificiala poate reproduce aceste informatii ca fiind valide, amplificand astfel inexactitatile.
Al doilea risc consta in efectul de camera de ecou. Atunci cand anumite subiecte devin populare pe internet, chiar daca nu sunt confirmate de experti, ele pot fi preluate repetitiv de modelele de AI, ceea ce le confera o aparenta legitimitate. Astfel, narativele cele mai vizibile devin dominante, iar informatiile corecte, dar mai putin raspandite, raman in plan secund.
Al treilea risc este legat de lipsa autoritatii sursei. In domenii sensibile precum sanatatea, dreptul sau finantele, recomandarile trebuie sa vina din partea unor institutii recunoscute sau a unor profesionisti calificati. Continutul generat de utilizatori nu are aceasta garantie, ceea ce face ca utilizarea sa in luarea unor decizii critice sa fie extrem de problematica.
Exemple din practica si impactul asupra profesionistilor
In ultimii ani, au existat cazuri documentate in care utilizatorii au primit recomandari medicale eronate de la sisteme de inteligenta artificiala. De asemenea, in domeniul juridic, interpretarile oferite de chatboti s-au dovedit incomplete sau inexacte, ceea ce poate conduce la consecinte grave pentru cei care le iau in considerare fara consultarea unui specialist.
In mediul economic, situatia nu este diferita. O informatie incorecta legata de reglementari fiscale sau de tendinte de piata poate afecta direct strategiile unei companii sau investitiile personale. Profesionistii din aceste domenii au nevoie de date verificate si validate, nu de opinii extrase din discutii anonime.
O provocare pentru utilizatori si pentru dezvoltatori
Analiza realizata de Visual Capitalist, bazata pe peste 150.000 de citari din raspunsurile chatbotilor, scoate la iveala o problema structurala: modelele actuale de AI nu disting intotdeauna intre surse oficiale si continutul generat de comunitati online. Acest lucru se traduce printr-o responsabilitate suplimentara pentru utilizatori, care trebuie sa trateze informatiile primite cu spirit critic si sa le verifice prin surse de incredere.
In acelasi timp, presiunea se transfera si asupra dezvoltatorilor de tehnologie. Integrarea unor filtre mai riguroase, prioritizarea surselor institutionale si crearea unor mecanisme de transparenta cu privire la originea informatiilor ar putea contribui la reducerea acestor riscuri.
Inteligenta artificiala ramane un instrument puternic, dar lipsa unei garantii privind fiabilitatea surselor o face insuficienta atunci cand este folosita pentru decizii majore. Tocmai de aceea, specialistii subliniaza importanta verificarii independente si a pastrarii unui rol central al expertizei umane in procesul de informare si luare a deciziilor.