Istraživačka neprofitna kompanija OpenAI iz San Francisca je izjavila kako ima opak računalni sustav za generiranje teksta. Tzv. GPT-2, koji se “ponaša poput kameleona” predstavit će zasad samo u nepotpunoj verziji. Tvrde da su “zabrinuti zbog moguće zlouporabe te tehnologije”.
Razlog uznemirenosti je u tome što je računalni program, koji proizvodi odlomke teksta temeljem onoga što sam pročita, pomalo predobar u tome što radi.
Naime, ozloglašeni sustav je sposoban osmišljavati “sintetički tekst izvrsne kvalitete”. Njega bi, navodno, pojedinci mogli rabiti za kreiranje lažnih vijesti, oponašanje ljudi ili za prijevare i zlostavljanja na društvenim medijima, prenosi geek.hr.
Programu GPT-2 je dan generator teksta s bazom podataka od 8 milijuna web stranica da ih apsorbira. Nakon pregleda je famozna AI mogla predstaviti nasumičan, ali uvjerljiv tekst. Teme su bile o slavnim osobama, klimatskim promjenama, nekom ratu ili o prozi.
Dok neki drže kako je strah od prevelikih sposobnosti GPT-2 neutemeljen i kako se zapravo radi o samopromociji kompanije, OpenAI inzistira kako je razlog za zabrinutost opravdan.
Smatraju kako kombinacija takvog programa koji stvara kvalitetne tekstove s programom koji generira slike nepostojećih osoba, može stvoriti pomutnju i pravu jednu pojavu lažnih vijesti na društvenim mrežama.
S njima se baš i ne slaže računalni znanstvenik Christopher Manning sa Sveučilišta Stanford. On vjeruje kako se radi o određenom pretjerivanju. To je zato što na tržištu postoji već mnoštvo sličnih jezičnih programa slabije kvalitete koji su svima javno dostupni. Program kompanije OpenAI je za njega naprosto bolja verzija drugih generatora teksta te vjeruje kako prostora za strah ne treba biti.
| Vaše ime | |
| Komentar | |
