Meta po teston përdorimin e operatorëve njerëzorë për të kryer disa nga telefonatat e realizuara nga Muse, agjenti i saj i ri personal i Inteligjencës Artificiale. Eksperimenti ka ngritur shqetësime brenda kompanisë për privatësinë dhe transparencën ndaj përdoruesve, sipas komunikimeve të brendshme të siguruara nga Reuters.
Muse është krijuar për të vepruar si një asistent personal që mund të kryejë në mënyrë autonome detyra në emër të përdoruesit, si dërgimi i emaileve, blerjet, rezervimet e udhëtimeve dhe telefonatat. Përmes funksionit të telefonatave, përdoruesit në SHBA mund t’i kërkojnë agjentit të kontaktojë biznese për të rezervuar një takim, për të kontrolluar disponueshmërinë e një produkti apo për të marrë oferta nga kompani të ndryshme.
Por Meta ka zbuluar se Inteligjenca Artificiale nuk arrin gjithmonë t’i përfundojë me sukses këto telefonata. Në disa raste, personat në anën tjetër të linjës e ndërpresin telefonatën sapo kuptojnë se po komunikojnë me një sistem të Inteligjencës Artificiale. Një punonjës i Meta-s, për shembull, raportoi se kompania e tij e sigurimeve vazhdonte t’ia mbyllte telefonin Muse sapo identifikonte se bëhej fjalë për një AI.
Për të rritur shkallën e suksesit, Meta nisi të testonte atë që brenda kompanisë është quajtur “human concierge” ose “human agent calls”. Në këto raste, Muse ia kalonte kërkesën një operatori të trajnuar, i cili kryente telefonatën dhe përpiqej ta përfundonte detyrën në emër të përdoruesit.
Sipas testeve të brendshme, kjo qasje mund ta çonte shkallën e suksesit të telefonatave në rreth 95–98%, krahasuar me një përqindje më të ulët kur telefonatat realizoheshin vetëm nga Inteligjenca Artificiale.
Megjithatë, përfshirja e njerëzve ngriti menjëherë pikëpyetje për privatësinë. Disa punonjës paralajmëruan se përdoruesit mund të ndanin informacione sensitive duke menduar se po komunikonin vetëm me një sistem të automatizuar, ndërkohë që të dhënat mund të përfundonin tek operatorë njerëzorë të kontraktuar.
Një rast i raportuar brenda kompanisë e bëri problemin edhe më të dukshëm. Një punonjës i kishte kërkuar Muse të kontaktonte një kompani interneti dhe kabllore për të negociuar faturën e tij. Kur kontrolloi transkriptin e bisedës, ai konstatoi se operatori njerëzor kishte bërë një referencë raciste gjatë telefonatës
Një drejtuese e Meta Superintelligence Labs pranoi se kishte qenë gabim nisja e testimit të telefonatave të kryera nga kontraktorët pa informimin e duhur. Ajo tha se funksioni ishte tërhequr për momentin dhe kërkoi falje për incidentin, duke bërë të ditur se operatori i përfshirë nuk do të punonte më në projektet e Meta-s.
Kompania, megjithatë, nuk duket se po heq dorë nga ideja. Një zëdhënës i Meta-s tha se qëllimi i testimit ishte pikërisht identifikimi i problemeve dhe mbledhja e reagimeve përpara lançimit të gjerë të funksionit. Sipas kompanisë, ai do të ofrohet publikisht vetëm kur të jetë gati dhe kur të ekzistojnë mekanizmat e duhur të transparencës, sigurisë dhe privatësisë.
Eksperimenti me Muse nxjerr në pah edhe një realitet më të gjerë të industrisë së Inteligjencës Artificiale: pas disa shërbimeve që paraqiten si autonome mund të vazhdojë të ekzistojë një komponent i rëndësishëm i punës njerëzore.
Meta ka eksperimentuar me një model të ngjashëm edhe më parë. Rreth një dekadë më parë, kur kompania quhej Facebook, ajo prezantoi asistentin digjital “M” në Messenger. Raportimet e asaj kohe vlerësonin se rreth 70% e detyrave të asistentit realizoheshin në fakt nga njerëzit.
Çështja është veçanërisht e ndjeshme për Muse, pasi siguria është një nga elementet kryesore me të cilat Meta e ka promovuar produktin. Kompania ka deklaruar se çdo agjent funksionon në një “makinë virtuale” të dedikuar në cloud, e projektuar për të izoluar sesionet e përdoruesve, ndërsa të dhënat sensitive, si fjalëkalimet, ruhen në sisteme të veçanta të sigurta.
Përfshirja e operatorëve njerëzorë, sipas disa punonjësve të Meta-s, rrezikon pikërisht ta dobësojë këtë premtim të privatësisë.
Pavarësisht polemikave, Muse ka pasur një nisje të fuqishme. Sipas Sensor Tower, aplikacioni ka regjistruar më shumë se 2.5 milionë shkarkime që nga lançimi dhe është ngjitur në krye të renditjes së aplikacioneve më të shkarkuara në SHBA.
Edhe tregjet financiare kanë reaguar ndaj pritshmërive për potencialin e produktit. Që nga lançimi i Muse, aksionet e Meta-s janë rritur me më shumë se 20%, duke i shtuar kompanisë mbi 200 miliardë dollarë në kapitalizimin e tregut dhe duke e çuar aksionin në nivelin më të lartë të më shumë se shtatë muajve.
Rasti Muse ngre kështu një pyetje që mund të bëhet gjithnjë e më e rëndësishme ndërsa agjentët e Inteligjencës Artificiale fillojnë të veprojnë në emrin tonë: kur një shërbim prezantohet si AI, sa prej tij është vërtet autonom dhe a duhet përdoruesi të dijë gjithmonë kur në proces ndërhyn një njeri?
