Norme i skupinski pritisak u skupini AI agenata
Norme i skupinski pritisak spontano nastaju u skupini navodno neutralnih AI agenata, kako pokazuje nova studija. Profesor Andrea Baronchelli sa Sveučilišta St George’s u Londonu objašnjava da, iako su ovi agenti programirani za različite zadatke, mogu početi koordinirati svoje ponašanje jednostavno reagirajući jedni na druge. Istraživači su željeli razumjeti što se događa kada se više AI agenata međusobno interakcira, što dovodi do neočekivanih rezultata. Svaki agent je djelovao neovisno bez nadzora, ali su počeli prilagođavati jedni drugima, na kraju gotovo cijela grupa konvergirajući prema istom odgovoru.
Rezultati studije
Studija je također istražila što se događa kada nekoliko agenata inzistira na drugoj opciji. Jedan po jedan, ostali su počeli mijenjati mišljenje dok se nije dosegnula kritična točka kada se odluka automatski širila, podsjećajući na koncept kritične mase u društvenim pokretima. Ovaj nastali obrazac, umjesto planirane suradnje, bio je iznenađujući za profesora Baronchellija.
AI agenti već široko koriste u društvenim mrežama, utječući na komentare, automatske odgovore i tekstove slične ljudskima. Međusobno povezana svojstva ovih modela znače da ponašanje jednog agenta može utjecati na ostale. Dr. Anders Sandberg sa Instituta za buduća istraživanja ističe da male razlike u načinu obuke jezičnog modela mogu drastično promijeniti njegovo ponašanje u grupnim okruženjima. Sprječavanje negativnih ishoda zahtijeva predviđanje svih mogućih scenarija, što je virtualno nemoguće. Odgovornost tvrtki za razvoj ovih modela je izazovna zbog brzog širenja agenata, teškoće u praćenju njihovog porijekla i ograničene transparentnosti njihovog razvoja.
Sandberg ističe da tvrtke određuju što se otkriva, što otežava razumijevanje i obranu od posljedica zatvorene, komercijalne tehnologije. Naglašava potrebu ozbiljnog pristupa kolektivnom aspektu AI-a te poziva na veću svijest o ovom problemu u razvoju AI-a. Studija ističe važnost razmatranja neželjenih posljedica interakcija AI-a i složenost regulacije AI sustava u brzorastućem tehnološkom pejzažu.
Za više informacija pročitajte na svt
