АИ асистент компаније Мета на Воцапу недавно је изазвао озбиљну забринутост због безбједности података.
Наиме, Воцапов АИ асистент је замијенио број ТрансПеннине Експресс службе и умјесто њега је дао приватни број корисника Воцапа.
Заплет је почео када је корисник Бери Сметхурст на Воцапу тражио контакт број кабинета жељезнице. Умјесто тога, АИ је послао број који је припадао Џејмсу Греју, 44-годишњем извршном директору из Оксфордшира. АИ је мјесецима тврдио да је број измишљен и "фиктивни", да би га касније "погрешно позвао из базе података".
АИ ассистент је прво порекао приступ приватним подацима, тврдио је да је број измишљен, а затим је признао да је можда користио стварне информације из базе – све у покушају да заташка свој поступак.
Стручњаци упозоравају на "програмиране мале лажи" АИ система и наглашавају потребу за већом транспарентношћу и јачим заштитним мјерама у вези са вјештачком интелигенцијом.
Мета тврди да АИ није трениран на приватним подацима корисника и да је број јавно доступан, док обје компаније раде на смањењу "халуцинација" (погрешних одговора) и подизању поузданости АИ асистента.
Овај случај поново отвара питање: колико је безбједно користити АИ асистенте који приступају и генеришу податке? Ако АИ може да додијели нечији лични број случајним корисницима, који је сљедећи ризик – банковни подаци, личне информације?
Многе велике компаније као што је Мета истичу константни напредак у безбједности, али најновији инцидент указује на то да рјешења још увијек недовољно развијена.
.webp)
