Uvođenje novih mjera za ublažavanje pristranosti
OpenAI je uveo nove mjere kako bi ublažio pristranost u svojim proizvodima, posebno ChatGPT, putem ažurirane Model Spec specifikacije koja detaljno opisuje očekivano ponašanje AI modela. Tvrtka želi poboljšati transparentnost i osigurati da korisnici razumiju kako AI generira odgovore.
Rasprave o AGI sposobnostima GPT-4a
Najnovija verzija Chatbota tvrtke OpenAI, GPT-4o, potaknula je rasprave o približavanju umjetne opće inteligencije (AGI), s različitim mišljenjima o tome kada će se postići AGI sposobnosti. Generativna AI, uključujući chatbotove, koristi se skupovima podataka za izvršavanje zadataka i skloni je pristranosti, namjerne ili nenamjerne.
Za procjenu performansi u stvarnom svijetu i suočavanje s pristranošću, OpenAI je implementirao set izazova za poticanje pridržavanja načela Model Spec specifikacije kao teste mjere. Izazov s velikim jezičnim modelima leži u njihovoj nedeterminističkoj prirodi, koju Model Spec specifikacija ima za cilj pojasniti svim dionicima. OpenAI teži objektivnosti u AI upitima i izbjegava promociju bilo kojeg posebnog interesa. Nepridržavanje AI odgovora prema Model Spec specifikaciji bi pokazalo pristranost, kao što je davanje prednosti jednoj opciji nad drugom bez pružanja uravnoteženih informacija.
Dok se AI sustavi dalje razvijaju, OpenAI planira usavršavati i nadograđivati načela, uključujući povratne informacije zajednice i poticanje otvorene suradnje. Tvrtka je Model Spec specifikaciju učinila javno dostupnom pod Creative Commons licencom kako bi potaknula široku upotrebu i doprinos ka poboljšanju ponašanja modela. OpenAI naglašava predanost transparentnosti, kontroli korisnika i sprječavanju štete, priznavajući važnost javne rasprave i intelektualne slobode u oblikovanju AI tehnologije.
Za više informacija pročitajte na FOX News
