Zaplet je počeo kada je korisnik Beri Smethurst na WhatsAppu tražio kontakt broj kabineta željeznice. Umjesto toga, AI je poslao broj koji je pripadao Džejmsu Greju, 44-godišnjem izvršnom direktoru iz Oksfordšira.
AI je mjesecima tvrdio da je broj izmišljen i “fiktivni”, da bi ga kasnije “pogrešno pozvao iz baze podataka”.
AI assistent je prvo porekao pristup privatnim podacima, tvrdio je da je broj izmišljen, a zatim je priznao da je možda koristio stvarne informacije iz baze – sve u pokušaju da zataška svoj postupak.
Stručnjaci upozoravaju na “programirane male laži” (white lies) AI sistema i naglašavaju potrebu za većom transparentnošću i jačim zaštitnim mjerama u vezi sa vještačkom inteligencijom, prenosi b.92.
Meta tvrdi da AI nije treniran na privatnim podacima korisnika i da je broj javno dostupan, dok obje kompanije rade na smanjenju “halucinacija” (pogrešnih odgovora) i podizanju pouzdanosti AI asistenta.
Ovaj slučaj ponovo otvara pitanje: koliko je bezbjedno koristiti AI asistente koji pristupaju i generišu podatke? Ako AI može da dodjeli nečiji lični broj slučajnim korisnicima, koji je sljedeći rizik – bankovni podaci, lične informacije?
Mnoge velike kompanije kao što je Meta ističu konstantni napredak u bezbjednosti, ali najnoviji incident ukazuje na to da su rješenja još uvijek nedovoljno razvijena.
Najnovije vijesti Srpskainfo i na Viberu