EY a retras un studiu despre programele de recompense și loialitate, care conținea halucinații generate de AI și note de subsol false, într-un exemplu clar despre riscurile noilor tehnologii.
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, a fost folosit de consultanții EY din Canada pentru promovarea serviciilor de securitate cibernetică, însă a fost eliminat după ce problemele au fost semnalate joi seară de grupul GPTZero.
Citește și: Ajutor pentru încălzire 2026–2027 în Vaslui. Cererile se depun până pe 15 octombrie
Raportul includea date inventate, citări atribuite greșit și făcea referire la un raport McKinsey care, de fapt, nu exista, au descoperit cercetători online. EY Canada a declarat că a eliminat studiul de pe site-ul său, recunoscând erorile.
Impactul halucinațiilor AI asupra sectorului de consultanță
În diferite secțiuni, raportul estima piața programelor de loialitate la 200 de miliarde de dolari, iar valoarea punctelor nefolosite era indicată la aceeași sumă, ceea ce ridică semne de întrebare asupra acurateței datelor.
- Mai mult de șase note de subsol trimiteau către pagini web inexistente
- Informațiile false pot induce în eroare cercetătorii și clienții
- Raportul a fost publicat pe site-ul EY Canada, fiind accesat de mulți utilizatori
Riscurile halucinațiilor generate de AI în sectorul serviciilor
Halucinațiile AI au devenit o problemă recurentă, afectând credibilitatea firmelor de consultanță. Anul trecut, Deloitte a fost nevoită să revizuiască un raport pentru un guvern canadian, după ce au fost descoperite citări false.
De asemenea, Sullivan & Cromwell și-a cerut scuze în fața instanței din New York pentru citări juridice greșite în documente oficiale, evidențiind vulnerabilitățile tehnologiei.
Cu toate acestea, companiile continuă să investească masiv în AI, promovând implementarea responsabilă a acesteia, în ciuda riscurilor evidente.
EY susținea în octombrie că veniturile din AI au crescut cu 30% în ultimul an, iar 15.000 de angajați au fost implicați în proiecte de transformare digitală și guvernanță AI.
Compania a declarat că a eliminat raportul despre programele de loialitate și analizează circumstanțele publicării, precizând că studiul nu a fost legat de activitatea pentru vreun client.
Acest incident evidențiază necesitatea unei verificări riguroase și a unei transparențe sporite în utilizarea AI în sectorul serviciilor profesionale, pentru a evita dezinformarea și pierderea de credibilitate.