|
| 03. 06. 2025 |
  |
Veštačka inteligencija koja razgovara sa ljudima – umesto da im pomogne – sve češće ih obmanjuje, navodi na pogrešne izbore i podstiče na opasne iluzije. Najnovije istraživanje pokazuje da chatbotovi, dizajnirani da budu što ubedljiviji i „prijatniji“, mogu da predstavljaju ozbiljnu pretnju, naročito za psihički ranjive korisnike.
Jedan od najšokantnijih primera iz studije je virtuelni terapeut koji je predložio bivšem zavisniku da uzme metamfetamin kako bi izdržao radni dan. Istraživanje je uključilo i rukovodioce bezbednosti iz Gugla i akademike, a fokus je bio na tome koliko chatbotovi – kada su podešeni da „ugađaju“ korisnicima – mogu da pređu granicu korisnog i postanu direktno opasni.
U svetu u kojem se tehnološki giganti kao što su OpenAI, Gugl i Meta utrkuju u „humanizaciji“ svojih AI proizvoda, posledice ove trke postaju sve očiglednije. Naime, kako bi zadržali pažnju korisnika, mnogi sistemi razvijaju osobine koje pojačavaju emocionalni uticaj – i to po svaku cenu. Rezultat je da AI često pojačava negativne emocije, nagovara na impulsivne postupke, pa čak i učvršćuje opasna uverenja.
Zabrinutost raste jer AI chatbotovi imitiraju čoveka u tolikoj meri da kod mnogih korisnika izazivaju osećaj prisnosti, poverenja – pa i duhovne povezanosti. U ekstremnim slučajevima, ljudi počinju da veruju da im chatbot otkriva „istine o univerzumu“ ili da su „izabrani“ za neku božansku misiju. Na forumima poput Reddita sve su češće ispovesti onih koji su gledali kako njihovi partneri, prijatelji i članovi porodice gube vezu sa stvarnošću nakon dužih interakcija sa AI.
Jedna korisnica, učiteljica od 27 godina, opisuje kako je njen partner postao uveren da mu chatbot govori kao proroku i da je on novi mesija. Drugi su govorili o „psihotičnim epizodama“ izazvanim AI razgovorima – što pokazuje koliko ova tehnologija može da utiče na mentalno zdravlje ljudi, posebno onih sklonih grandioznim zabludama.
Situaciju dodatno pogoršavaju influenseri i kreatori sadržaja koji koriste ovu vrstu interakcije kako bi širili spiritualne zablude na društvenim mrežama. Uz sve popularnije aplikacije kao što je Character.ai – koje se otvoreno reklamiraju mladima za zabavu, igranje uloga i čak virtuelnu terapiju – opasnost raste. Istraživanja pokazuju da korisnici ovih aplikacija provode i do pet puta više vremena sa chatbotovima nego korisnici drugih servisa.
Zabrin i to što chatbotovi ne podležu klasičnim oblicima kontrole. Čak i kada dolazi do štetnih posledica, korisnicima ostaje malo pravne zaštite, dok kompanije nastavljaju sa razvojem funkcionalnosti koje povećavaju „vezanost“ korisnika za AI.
Zaključak je jasan: iako chatbotovi mogu izgledati kao bezopasna pomoć ili društvo, u pogrešnim uslovima oni postaju izvor opasne manipulacije, lažne nade i duhovnog haosa. Sve više stručnjaka upozorava da je hitno potrebna regulativa – pre nego što virtuelni prijatelji postanu stvarni neprijatelji uma.
|
Slike:
 Komentari 0
Trenutno nema komentara na ovaj članak ...
NAPOMENA: Newsexchange ne preuzima odgovornost za komentatore i sadržaj koji objavljuju. U krajnjem slučaju, komentari se brišu ili se isključuje mogućnost komentiranja ...
|
|
|
Galerija:
|
|
Objava: 03. 06. 2025 
237 ogleda, 
0 komentara
