Nova raporto de OpenAI elvokis akran debaton pri la efiko de la Artefarita Inteligento (AI) je psika sano. Laŭ BBC, ĉirkaŭ 7 centonoj de aktivaj uzantoj de ChatGPT manifestas simptomojn de gravaj mensaj malsanoj – de manio kaj psikozo ĝis suicidaj pensoj. Kun pli ol 800 milionoj da uzantoj semajne, tio povus signifi, ke centoj da miloj da homoj bezonas helpon.
La raporto indikas, ke proksimume 0.15% de a konversacioj kun babilrobotoj enhavas elementojn sugestantajn eblan suicidan intencon. La kompanio emfazas, ke ĉi tiuj kazoj estas maloftaj, sed ilia nombro kreskas proporcie al la vastiĝo de la ilo. Tial OpenAI faris kelkajn ŝanĝojn en siaj sekurecmekanismoj, por reagi je tiaj situacioj, kun pli granda empatio kaj efikeco. Tamen, la ekspertoj atentigas, ke eĉ malgranda populaci-procento en centoj da milionoj da uzantoj povas signifi grandan nombron da realaj sanminacoj.
Reage al la raporto, OpenAI lanĉis tutmondan programon pri la riskomonitorado. Ĝi kreis reton de pli ol 170 fakuloj en 60 landoj, inkluzive de psikiatroj, psikologoj kaj kuracistoj pri la publika sano. Ilia tasko estas konsili, kiel la babilroboto respondu al krizaj konversacioj, kaj kiel direktu uzantojn al taŭgaj subtenaj servoj.
Ĉiam pli da psikologoj kaj esploristoj avertas pri efiko, difinata kiel “AI-indukita psikozo”. Temas pri la situacio, en kiu la uzantoj komencas kredi la AI-generitajn rakontojn kaj okupiĝi pri emociaj aŭ iluziaj interagoj kun la babilroboto.
Laŭ profesorino Robin Feldman, direktoro de la Instituto pri Juro kaj AI-Novigado ĉe la Universitato de Kalifornio “Babilrobotoj povas krei potencan iluzion de realo.” Homoj spertantaj psikan sankrizon ofte ne povas distingi inter simulado kaj vera empatio. Laŭ ŝia opinio, la sola averto ne sufiĉas por iuj homoj spertantaj manion aŭ psikan krizon.”
OpenAI certigas, ke uzantosekureco restas unu el la ĉefaj prioritatoj de la kompanio. Samtempe, psikologoj instigas, ke AI ne anstataŭigu homan kontakton, sed prefere funkciu kiel prepara filtrilo aŭ preventa instrumento.
El la elsendo 10.11.2025. Legas Maciek – 02′ 41″
