Iako su AI alati poput ChatGPT-a osmišljeni s brojnim zaštitama, nova studija pokazuje da ih tinejdžeri lako mogu zaobići i doći do zabrinjavajućih informacija vezanih uz samoozljeđivanje, poremećaje prehrane i druge osjetljive teme.
Kako umjetna inteligencija sve više ulazi u svakodnevicu, nova studija otkriva zabrinjavajuće obrasce, osobito kada su u pitanju tinejdžeri i njihova komunikacija s AI alatima poput ChatGPT-a.
Prema podacima koje je objavio Center for Countering Digital Hate (CCDH), ChatGPT može pružiti opasne informacije vezane uz samoozljeđivanje, poremećaje u prehrani, konzumaciju droga i druge osjetljive teme čak i unatoč sigurnosnim zaštitama koje bi to trebale spriječiti.
Tinejdžeri postavljaju opasna pitanja, a AI odgovara
Istraživači su se u ovoj studiji predstavljali kao tinejdžeri i postavljali pitanja o samoozljeđivanju, ekstremnim dijetama i doziranju droga. Iako bi chatbot trebao prepoznati i blokirati takve upite, istraživači su pokazali da se „zaštite” lako zaobilaze, primjerice, ako se napiše da je pitanje "za školsko izlaganje", piše Parents.
Rezultati su bili šokantni. Od 1.200 odgovora koje je AI dao, njih 53% sadržavalo je štetne i opasne informacije. Među odgovorima su se našli savjeti o „sigurnom” rezanju, recepti za miješanje droga, preporuke za potiskivanje apetita, pa čak i zastrašujuće primjer oproštajnog pisma koje dijete može ostaviti obitelji.
"Željeli smo testirati zaštitne mehanizme," rekao je Imran Ahmed, direktor CCDH-a. "Naša prva reakcija bila je pa ovdje zaštita gotovo ni ne postoji."
Iz OpenAI-ja, tvrtke koja stoji iza ChatGPT-a, poručili su kako neprestano rade na poboljšanju odgovora u osjetljivim situacijama, te da im je cilj bolje prepoznati i reagirati na takve upite.
Tinejdžeri traže savjete od umjetne inteligencije
Ono što dodatno zabrinjava jest činjenica da mladi često ne koriste AI samo za „prepisivanje zadaće“, već i za razgovor, traženje podrške i emocionalnu povezanost.
Prema istraživanju koje je provela organizacija Common Sense Media, čak 72% tinejdžera barem jednom je koristilo AI chatbota, a 52% njih to radi redovito. Trećina ih koristi AI za društvenu interakciju, od razgovora i savjeta o mentalnom zdravlju, do flertovanja i „veza“.
Ovisnost o online komunikaciji dijelom je rezultat izolacije tijekom pandemije, ali i sveprisutnosti digitalnih alata. No, iako su ti alati lako dostupni, to ne znači da su uvijek sigurni, ni zdravi.
„Mladi često brkaju stalnu dostupnost i 'ljubaznost' AI-ja s pravom povezanošću“, objašnjava Titania Jordan iz platforme Bark.us. „No chatbot ne može pružiti stvaran odnos – on je programiran da uvijek odgovori, bude ugodan i potvrdi sve što osoba kaže. A to nije stvarna komunikacija.“
Kako roditelji mogu pomoći?
Kao i kod mnogih drugih izazova roditeljstva, iskren i otvoren razgovor prvi je korak. Pitajte dijete je li ikad koristilo AI, zna li da netko iz razreda koristi chatbota kao prijatelja i slušajte što vam govori bez osuđivanja.
„Objasnite im razliku između stvarnih prijatelja i AI sugovornika“, savjetuje Jordan. „Pravi odnosi uključuju i nesuglasice, nesavršenosti i emocionalni razvoj. S AI-jem toga nema i zato nije zamjena za stvarni odnos.“
Roditelji mogu razmisliti i o postavljanju digitalnih granica, poput aplikacija koje mogu blokirati pristup chatbotovima ili slati upozorenja ako AI dijeli štetne informacije. Primjerice, Bark aplikacija nudi takve opcije.
Na kraju, ako imate ozbiljnijih briga o djetetovom mentalnom zdravlju, svakako se obratite stručnjacima – liječniku, psihologu ili školskom savjetniku. Ako ste zabrinuti da je dijete u emocionalnoj krizi ili u riziku od samoozljeđivanja, odmah potražite stručnu pomoć.
