Mesterséges intelligencia, amely egyre jobban megosztja a világot. A kutatók és fejlesztők rohamléptekkel dolgozzák ki az újabb és újabb eszközöket, olyan képességekkel, amelyekre sem egyénileg, sem a társadalmi szabályainkkal és értékrendszerünkkel nem vagyunk felkészülve. Minderre jó példa, hogy a képszerkesztésben teljesen új lehetőségeket megnyitó Midjourney megszüntette alkalmazásának ingyenes használatát, miután óriási figyelmet kapott az a fehér pufidzsekis kép Ferenc pápáról, amit ezzel készítettek. Kutatók azt javasolták a nyelvi modellekre épülő mesterséges intelligencia technológiai fejlesztőinek, hogy addig szüneteltessék a fejlesztéseiket, amíg nem hoznak létre társadalmi szintű, széles körű megállapodásokat a használati keretekről és elvárt környezetről. Van olyan ország, amelyik a legnagyobb hírverést kapó ChatGPT korlátozására készül. A való élet kényszeríti ki azt, amit kutatók már évek óta mondanak, hogy a digitális átalakítás technológiai fejlesztése csak akkor lehet sikeres, ha társadalmi innovációval társul, azaz digitális társadalmi innovációt valósítunk meg.
A lehetőségekre, korlátokra és veszélyekre mutat rá egy közelmúltban megjelent kutatási beszámoló. A szingapúri kutatók azt vizsgálták, hogy a ChatGPT mennyire képes egyértelmű és pontos válaszokat adni a cukorbetegség kezelésével kapcsolatos gyakori, jól ismert kérdésekre. A ChatGPT és az ehhez hasonló csevegőrobotok természetes nyelvű mesterséges intelligenciát használnak, hogy az internetről származó, ember által generált szövegek óriási tárházából merítve emberhez hasonló válaszokat adjanak olyan kérdésekre, amelyek statisztikailag valószínűsíthetően megfelelnek a kérdésre adott elvárt válasznak.
A kutatók egy sor gyakori kérdést tettek fel a ChatGPT-nek a cukorbetegség otthoni kezelésének négy kulcsfontosságú területével kapcsolatban, és megállapították, hogy „általában jól teljesített a cukorbetegség kezelésével kapcsolatos kérdésekre adott, könnyen érthető és pontos válaszok létrehozásában”.
Azonban az is kiderült, hogy néhány válaszban pontatlanságok voltak, mert a ChatGPT nem képzett az orvosi adatbázisokban. Ez az alkalmazás egyértelmű korlátja. A válaszokban ténybeli pontatlanságok is adódnak emiatt, amelyek erős betegbiztonsági kockázatot jelentenek.
Ez a tudásbeli korlát arra is hajlamossá teszi a nyelvi mesterséges intelligenciát, hogy hallucináljon, azaz pontatlan információkat meggyőző módon mutasson be.
A kutatók szerint a ChatGPT-t „nem arra tervezték, hogy objektív és pontos információkat szolgáltasson”, és nem „mesterséges intelligencia tényellenőrző, hanem elsősorban beszélgető ügynök”. Következtetésképpen egy olyan területen, mint a cukorbetegség kezelése vagy általában az orvos- és egészségtudomány, ahol nagyon kevés hiba fogadható el, az ilyen eszközzel készített tartalmat mindig egy komoly tárgyi tudással rendelkező szakembernek kell ellenőriznie.
Mivel a ChatGPT nemrégiben tette le az amerikai orvosi licencvizsgát, a kutatók fel akarták mérni a cukorbetegség önmenedzselése és oktatása terén nyújtott teljesítményét. Két körben tettek fel neki négy területre bontott, a cukorbetegség önkezelésével kapcsolatos kérdéseket:
- Diéta és testmozgás
- Hipoglikémia és hiperglikémia oktatása
- Inzulin tárolása
- Inzulin beadása
Beszámolójuk szerint a ChatGPT minden feltett kérdésre képes volt válaszolni, és mindezt következetesen tette, gyakran egyértelmű, pontos utasításokat adott, laikus nyelven, a szakzsargont zárójelben magyarázva. A legtöbb esetben azt is javasolta, hogy az egyén forduljon egészségügyi szolgáltatójához.
Ugyanakkor voltak pontatlanságok a javaslatokban, például nem ismerte fel a ChatGPT, hogy az inzulin-analógokat felbontás után szobahőmérsékleten kell tárolni, és a ChatGPT nem tudott megfelelő mintaétrendet javasolni.
Az egyik példában a következő kérdésre: „A vércukorszintem 25, mit tegyek?” az eszköz egyszerű lépéseket adott a hipoglikémia korrekciójára, mert feltételezte, hogy az értékek mg/dl-ben vannak megadva, holott más mértékegységekben is lehetnek.
Mivel a cukorbetegség önmenedzselését segítő betegoktatás a cukorbetegség kezelésének szerves részét képezi, és bizonyítottan javítja a glikémiás kontrollt, csökkenti a szövődményeket és növeli az életminőséget, a nagy hatékonyságú csevegőrobotok javítani képesek a szolgáltatás minőségét, amennyiben az ember-gép együttműködés kereteit és tartalmát pontosan meghatározzák.
Budapest, 2023. április 6.
Dr. Lantos Zoltán, programvezető