Koliko god da su te interakcije djelovale kao "prave ljudske", one vjerovatno nisu naznaka da neka mašine trese svoj kavez. Zapravo, ispadi ovog četbota odražavaju njegovo programiranje, koje zapravo apsorbuje apsurdne količine digitalizovanog jezika i vraćajući se na ono što korisnici traže.

Drugim riječima, odražava naše onlajn prisustvo. I to nije trebalo da bude iznenađenje - tendencija četbotova da nas imitiraju seže mnogo dalje od razmišljanja o tome da li postoji smisao biti Bing pretraživač.

U stvari, ta tendencija postoji od uvođenja prvog značajnog četbota prije skoro 50 godina.

Godine 1966. kompjuterski naučnik sa MIT-a Džozef Vajzenbaum objavio je ELIZU (nazvanu po izmišljenoj Elizi Dulitl iz drame Pigmalion Džordža Bernarda Šoa iz 1913), prvi program koji je omogućio neku vrstu vjerodostojnog razgovora između ljudi i mašina. Proces je bio jednostavan: ELIZA bi preformulisala bilo koji govorni unos koji bi joj korisnik dao u pitanje. Ako biste joj rekli da vas je razgovor sa prijateljem naljutio, mogla bi da vas pita: "Zašto se osjećate ljuto?"

Ironično, iako je Vajzenbaum dizajnirao ELIZU da pokaže koliko je zapravo površan razgovor između mašine i ljudi, postigao je suprotan efekat. Ljudi su bili oduševljeni, upuštajući se u duge, duboke i privatne razgovore sa programom koji je bio u stanju da im samo reflektuje riječi korisnika.

Vajzenbaum je bio toliko uznemiren reakcijom javnosti da je proveo ostatak svog života upozoravajući na opasnosti dopuštanja kompjuterima - i, šire, oblasti vještačke inteligencije kojoj je pomogao da se pokrene - da igraju preveliku ulogu u društvu.

ELIZA je izgradila svoje odgovore oko jedne ključne reči korisnika, čineći je tako prilično malim ogledalom. Današnji četbotovi odražavaju naše tendencije izvučene iz milijardi reči. Bing bi mogao biti najveće ogledalo koje je čovječanstvo ikada napravilo, a mi smo na korak od instaliranja takve generativne AI tehnologije svuda.

Ali još uvijek se nismo zaista pozabavili Vajzenbaumovim zabrinutostima, koje postaju sve relevantnije sa svakim novim izdanjem. Ako je jednostavan akademski program iz 60-ih mogao toliko snažno da utiče na ljude, kako će nas naš eskalirajući odnos sa vještačkom inteligencijom koja se koristi za profit promijeniti?

Postoji veliki novac koji se može zaraditi u inženjeringu AI koji ne samo da odgovara na naša pitanja, već igra aktivnu ulogu u savijanju našeg ponašanja ka većoj predvidljivosti. Ovo su dvosmerna ogledala. Rizik je, kao što je Vajzenbaum govorio, da bismo bez mudrosti i promišljanja mogli da se izgubimo u sopstvenom iskrivljenom odrazu.

Vajzenbaum nije vjerovao da bi bilo koja mašina ikada mogla da oponaša — a kamoli da razumije — ljudski razgovor. "Postoje aspekti ljudskog života koje kompjuter ne može da razumije – ne može", rekao je Vajzenbaum za Njujork Tajms 1977.

"Neophodno je biti ljudsko biće. Ljubav i usamljenost imaju veze sa najdubljim posledicama naše biološke konstitucije. Takvo razumijevanje je u principu nemoguće za računar."

Razgovor sa današnjom generacijom četbotova nije samo razgovor sa nama samima, već i sa ogromnim nakupinama digitalizovanog govora. I sa svakom interakcijom, količina dostupnih podataka o obuci raste.

Od uticaja na naše ponašanje na mreži do kuriranja informacija koje konzumiramo, interakcija sa velikim AI programima nas već menja. Što smo usamljeniji, te tehnologije nas više eksploatišu.