Inteligjenca Artificiale po bëhet gjithnjë e më e aftë të tingëllojë bindëse. Por pikërisht këtu nis problemi: sa më të qeta, të rrjedhshme dhe profesionale bëhen përgjigjet e saj, aq më e vështirë bëhet për përdoruesin të kuptojë kur ato janë të gabuara.

Një analizë e publikuar nga Axios ngre një shqetësim të rëndësishëm mbi evolucionin e sistemeve të AI-së. Sfida nuk është më vetëm te “halucinacionet” e dukshme, pra gabimet flagrante që dallohen lehtë. Sot, rreziku më i madh qëndron te përgjigjet që duken të sakta, të mbështetura në një gjuhë të sigurt, me citime të mundshme dhe me strukturë profesionale, por që në thelb mund të jenë të pasakta ose të paplota.

Kjo e bën Inteligjencën Artificiale një mjet të fuqishëm, por edhe të rrezikshëm kur përdoret pa verifikim. Në fusha si kërkimi akademik, mjekësia, gazetaria apo vendimmarrja profesionale, një përgjigje që “tingëllon mirë” nuk mjafton. Saktësia mbetet thelbësore.

Ekspertët theksojnë se modelet aktuale nuk duhet të trajtohen si motorë të së vërtetës, por si sisteme që prodhojnë përgjigje të mundshme. Ato janë ndërtuar për të krijuar rrjedhshmëri, qartësi dhe përvojë të mirë përdoruesi, por jo domosdoshmërisht për të garantuar të vërtetën absolute.

Profesori Dan Klein nga UC Berkeley paralajmëron se optimizimi për shpejtësi, lehtësi dhe kënaqësi të përdoruesit mund të vijë në kurriz të saktësisë faktike. Me fjalë të tjera, AI mund të jetë shumë e mirë për të dhënë një përgjigje të besueshme, por jo gjithmonë një përgjigje të vërtetë.

Studimet në fushën e mjekësisë e bëjnë këtë shqetësim edhe më konkret. Mjetet e AI-së për përgatitjen e shënimeve klinike mund të ndihmojnë si draft fillestar, por shpesh lënë jashtë detaje të rëndësishme, si kohëzgjatja e simptomave apo elemente kyçe të diagnozës. Një studim i Universitetit Yale mbi studentët e vitit të parë të mjekësisë tregoi se përdorimi i AI-së nuk e përkeqësoi domosdoshmërisht cilësinë e shënimeve, por vetë modelet prodhuan herë pas here mungesa dhe pasaktësi që nuk mund të neglizhohen.

Problemi bëhet edhe më serioz nga mënyra se si njerëzit po ndërveprojnë me këto sisteme. Sa më shumë që AI kursen kohë, aq më shumë përdoruesit priren të mos verifikojnë rezultatet. Kjo krijon një varësi të heshtur ndaj përgjigjeve të saj dhe rrit mundësinë që gabimet të kalojnë pa u vënë re.

Kompanitë e teknologjisë po punojnë për të përmirësuar saktësinë përmes teknikave si “retrieval-augmented generation”, që lidh modelet me burime të jashtme informacioni. Megjithatë, ekspertët paralajmërojnë se ende nuk ekziston një garanci e plotë për rezultate të sakta, të plota dhe të besueshme.

Sfida nuk është vetëm teknologjike. Është edhe kulturore. Duhet të mësojmë të bashkëjetojmë me një teknologji që mund të na ndihmojë të mendojmë më shpejt, por jo domosdoshmërisht më saktë. Inteligjenca Artificiale mund të jetë një asistente e vlefshme, por nuk duhet të kthehet në autoritetin final të së vërtetës.