Алат је направљен како би се спријечио један од највећих проблема креатора садржаја и умјетника у вези са тренирањем АИ-ја.
Тренирање вјештачке интелигенције и даље је у некој врсти сиве зоне, па су неки алгоритми тренирани на садржају који је заштићен ауторским правима. Бројни умјетници и музичари позивају на хитну регулативу како би се таквој пракси стало на крај, јер не желе да се њихова дела искоришћавају за тренирање АИ у платформама попут "DALL-E", Stable Diffusiona и Midjourneyja. Против таквих компанија које развијају АИ платформе за претварање текстуалних упита у слике већ је подигнуто више тужби због коришћења података заштићеног ауторским правима па ће бити занимљиво видјети њихов исход.
Професор са Универзитета у Чикагу Бен Жао пронашао је потенцијално рјешење за овај проблем. У сарадњи с колегама направио је посебан алат назван "Nightshade" који, како су то коментарисали медији, може "да отрује" податке за тренирање АИ.
"Nightshade" би чак могао и да уништи будуће моделе поменутих АИ платформи за стварање слика на основу текстуалног упита, објаснили су на "The Vergey". Наиме овај алат мења дигиталне слике, односно пикселе у оквиру њих тако да та промјена није видљива људском оку, док оне изгледају другачије АИ моделима – нпр. неку обичну слику они могу да препознају као кубистичку апстракцију тако да не могу да имитирају оригиналну слику.
Зато би АИ модел на одређени текстуални упит могао да да потпуну другачију слику у односу на жеље корисника? У једном случају, АИ генеративни модели на које је примијењен овај алат приказали су слике мачака, иако је текстуални упит био везан за пса. Умјерен број таквих напада употребом "Nightshadea", сматра Жао, може да дестабилизује опште функције у генеративном моделу претварања текстуалног упита у слику, тако да АИ платформе више не би могле да стварају смислене слике засноване на жељама корисника.
Жао и екипа која је створила "Nightshade" кажу како би креатори садржаја требали да користе ову "отровну пилулу" као посљедњу линију одбране против оних који без дозволе користе њихов садржај за тренирање АИ. Такође, верује да ће и компаније које тренирају своје моделе на садржају заштићеном ауторским правима променити своје навике и да такав садржај више неће искоришћавати за своје АИ моделе.
