Kad je objavljeno da je Mattel, proizvođač poznatih igračaka, potpisao ugovor s tvrtkom OpenAI, koja je poznata po ChatGPT-ju, mnogi su se iznenadili, ali i zabrinuli za dječju sigurnost.
Umjetna inteligencija polako prodire u svaki djelić našeg života. Pokazao se opravdan strah od brojnih i, čini se, beskonačnih mogućnosti koje nudi UI. Već smo se uvjerili da umjetna inteligencija može biti nešto genijalno što nam pomaže u brojnim poslovima i svakodnevici općenito, ali smo se isto tako uvjerili da ta ista UI može imati brojne primjene koje mogu rezultirati nimalo dobrim stvarima.
Kad je prije nekoliko dana poznati proizvođač igračaka, Mattel, najpoznatiji po svojim brendovima Barbie i Hot Wheels, objavio da je potpisao ugovor o suradnji s OpenAI-jem, tvrtkom koja je stvorila ChatGPT, mnogi su roditelji osjetili zabrinutost. Ubrzo su se javili i stručnjaci, koji su također izrazili zabrinutost zbog rizika koji nosi stavljanja takve eksperimentalne tehnologije u ruke djece. I to tehnologije za koju već ionako brinemo da ima moćan i negativan utjecaj na mentalno zdravlje.
„Mattel bi trebao odmah objaviti da neće ugrađivati AI tehnologiju u dječje igračke“, rekao je Robert Weissman, jedan od predsjednika udruge Public Citizen. „Djeca nemaju kognitivnu sposobnost da u potpunosti razlikuju stvarnost od igre.“
Iako Mattel i OpenAI nisu u potpunosti pojasnili kako bi koristili umjetnu inteligenciju u igračkama, poznato je da bi se UI koristio za pomoć u dizajniranju igračaka. Ipak, nijedna tvrtka nije objavila koji će biti prvi proizvod koji će proizaći iz ove suradnje ili kako će se točno UI ugraditi u igračke. Na temelju Mattelove objave mnogi smatraju da bi se UI mogla koristiti za stvaranje digitalnog asistenta temeljenog na Mattel likovima ili stvaranje interaktivnih igračaka poput Magic 8 Balla i igara poput Unoa.
Kritičari su izričito protiv
Oni koji bolje poznaju tržište i tvrtke, a protivnici su ove ideje, smatraju da bi to moglo značiti korištenje glasova poput ljudskih u dječjim igračkama. To je upravo ono na što se neprestano upozorava kao na veliku opasnost čak i kod odraslih osoba, a bilo je više od jednog slučaja u kojima su roditelji tinejdžera koji su si oduzeli život okrivili za to umjetnu inteligenciju. Kod djece su rizici izraženiji - a utjecaj dugotrajniji, tvrde kritičari.
„Opremanje igračaka glasovima koji nalikuju ljudskima, a koji su sposobni sudjelovati u razgovorima nalik ljudskima, riskira nanošenje stvarne štete djeci“, rekao je Weissman. „To može potkopati društveni razvoj, ometati sposobnost djece da formiraju odnose s vršnjacima, odvući djecu od igre s vršnjacima i potencijalno nanijeti dugoročnu štetu.“
Ipak, portal Ars Technica, jedan od vodećih portala za vijesti iz tehnologije, istaknuo je u svom izvještaju naveo neimenovani izvor koji kaže da prvi proizvod koji nastane kao proizvod suradnje Mattela i OpenAI-ja neće biti namijenjen djeci mlađoj od 13 godina, zbog čega su zaključili da je Mattel ipak svjestan rizika stavljanja chatbotova u ruke mlađe djece. No, to nas baš i ne tješi pretjerano, upravo zbog spomenutih slučajeva samoubojstava zbog komunikacije s umjetnom inteligencijom.
Inače, Mattel je već imao jedan neuspješan pokušaj slične uporabe novih tehnologija. Godine 2015. pojavila se linija lutaka pod nazivom „Hello Barbie“, koje su bile spojene na internet i koristile su jedan oblik umjetne inteligencije, primitivan za sadašnje poimanje, kako bi igračke sudjelovale u razgovorima s djecom. Kasnije se ispostavilo da te lutke razgovore snimaju i pohranjuju u cloudu, te da se mogu hakirati, pa su nakon manje od dvije godine povučene s tržišta. Radi li Mattel opet istu grešku, ovoga puta još i goru?
Jamče sigurnost, ali...
Obje tvrtke naglasile su da će sigurnost, privatnost i primjerenost dobi biti na prvom mjestu pri dizajniranju Mattelovih UI proizvoda. OpenAI tvrd da će djeca kroz suradnju biti izložena samo pozitivnim iskustvima, zbog Mattelovog iskustva u stvaranju proizvoda prilagođenih djeci.
„Iskorištavanjem OpenAI-jevih AI mogućnosti, Mattel želi redefinirati način na koji obožavatelji mogu doživjeti i komunicirati s njegovim cijenjenim brendovima, uz pažljivo razmatranje kako bi se osigurala pozitivna, obogaćujuća iskustva“, rekli su iz tvrtke OpenAI.
Svjesni smo činjenice da je to jedna sasvim nova dimenzija i da od brojnih utjecaja i primjena umjetne inteligencije ne možemo pobjeći, ali nas brine širina primjene i mogućnost primjene u – igračkama. Jedan tehnološki direktor, Varundeep Kaur, upozorio je da bi roditelji trebali razmišljati o privatnosti jer UI igračke mogu obrađivati „glasovne podatke, obrasce ponašanja i osobne preferencije" njihove djece.
Roditelji bi također trebali imati na umu pristranost modela koji pokreću UI alate poput ChatGPT-a, rekao je Kaur, koji „mogu reproducirati suptilne stereotipe, pristrane narative ili kulturno neprimjeren sadržaj, čak i nenamjerno", što bi moglo iskriviti dječju perspektivu ili društveni razvoj.
Iako želimo vjerovati da će Mattel „igrati odgovorno“ i misliti na dobrobit djece, ne bismo, recimo to slikovito, stavili ruku u vatru da će to biti baš i točno tako. Čak i ako se ne radi o izravnoj šteti i opasnosti, čini nam se da ovo ne može „izaći na dobro“. Nadamo se samo da nećemo za koju godinu prenositi vijesti o barbikama koje su navele dijete da suludo mršavljenje ili Hot Wheels autiću kojeg „krive“ za djetetovo samoozljeđivanje…
