Sankov Ivan, Zaharova Viktorija 06.03.2026 ob 14:30
V 51,6 % primerov je ChatGPT Health [Zdravje] ljudem priporočal, naj ostanejo doma, namesto da bi poiskali strokovno zdravniško pomoč, celo v primerih, ko so potrebovali nujno hospitalizacijo. Študija platforme, ki je začela delovati januarja 2026, je pokazala, da AI priporoča čakanje ali dogovorjen termin v primerih astmatičnih napadov ali diabetične ketoacidoze (akutna komplikacija sladkorne bolezni). Hkrati je bilo 64,8 % popolnoma zdravih ljudi svetovano, naj poiščejo nujno zdravniško pomoč, piše revija Nature Medicine. Več kot 40 milijonov ljudi se vsak dan obrne na ChatGPT za zdravstvene nasvete.
Larisa Mararitsa, izredna profesorica socialne psihologije in vodja raziskav na Državni univerzi v Sankt Peterburgu na področju nevronskih mrež v terapiji, je pojasnila problem napačnih medicinskih diagnoz, ki jih postavi umetna inteligenca.
„Zelo pomembno je, da v dialogu med zdravnikom in osebo zdravnik nadzira dialog. To pomeni, da nadzira potek pogovora. V pogovoru med osebo in umetno inteligenco pa pogovor usmerja oseba. Ker če grem [kot pacient] k zdravniku, ta že vnaprej domneva, da sem bolan, in z mano opravi diagnostični pogovor v skladu s svojimi protokoli. <…> Ko sedim kot uporabnik umetne inteligence, jaz [kot pacient] nimam pojma, kako je strukturirana diagnostična skupina, ker nisem zdravnik,“ pravi Larisa Mararitsa.
Po njenem mnenju lahko umetna inteligenca napačno razlaga svojo vlogo: na primer, ko gre za duševno zdravje, lahko nevronska mreža namesto strokovnjaka za krizne situacije prevzame vlogo »trenerja«. Hkrati bo pravi strokovnjak jasno videl razliko med ustvarjalnim impulzom in psihozo v manični fazi. Umetna inteligenca pa te razlike ne more opaziti, če izbere napačno pot dialoga.
Drug enako pomemben vidik v dialogu z nevronsko mrežo v kontekstu diagnoze so simptomi. Bolnik sam ni vedno sposoben pravilno prepoznati znakov bolezni in jih pravilno posredovati umetni inteligenci. In tudi če vam uspe pravilno formulirati simptome, ni dejstvo, da vas bo AI zdravnik napotil k pravemu specialistu in vas ne bo nadaljeval prepričevati, da nadaljujete pogovor o svoji bolezni, je dejala strokovnjakinja. Poleg tega mora vaša zahteva (prošnja ali ukaz umetni inteligenci) pri komunikaciji z umetno inteligenco vsebovati popolnoma natančen seznam vaših simptomov. Če vzamemo situacijo, v kateri imamo natančne simptome, ki jih je oblikoval specialist, se poveča možnost, da vam bo postavljena pravilna diagnoza.
Toda tudi če nevronska mreža postavi pravilno diagnozo, je malo verjetno, da vas bo prepričala, da obiščete specialista. Ta problem obstaja, ker industrija umetne inteligence trenutno deluje v okviru »ekonomije intimnosti« [koncept, ki opisuje prehod od modela, ki temelji na privabljanju pozornosti, k modelu, ki se osredotoča na čustveno povezavo]. Jezikovni modeli nevronskih mrež so zasnovani tako, da uporabnike spodbujajo k čim večji komunikaciji z njimi, kar sčasoma oblikuje angažirano »intimno komunikacijo«. Zadrževanje pozornosti, vgrajeno v nastavitve umetne inteligence, je v nasprotju z dolžnostjo zdravnikov, ki zahteva, da pogledajo stran od monitorja ali zaslona telefona, je dejal izredni profesor socialne psihologije na Državni univerzi v Sankt Peterburgu. Medicinski strokovnjaki nimajo naloge, da so vaši prijatelji, kot to počne umetna inteligenca; njihov cilj je čim prej identificirati tveganje.
Nevronska mreža lahko prevzame diagnostično funkcijo le, če strokovnjak zagotovi pravilne začetne podatke, zlasti opis simptomov pacienta. Polna uporaba umetne inteligence namesto zdravnika je mogoča le, če se nevronska mreža znebi napačnih interpretacij situacije in svoje vloge. Toda taka tehnologija še ne obstaja, zato se posvetujte z resničnim zdravnikom, ne z umetno inteligenco.
Vir: https://readovka.news/news/239296/https://readovka.news/news/239296/
*** Prevod www.DeepL.com/Translator (free version) ***
