Ön is egyből a Google keresőt csapta fel, amikor bizonytalan eredetű fájdalmat érzett a csípőjében? Vagy piros foltok jelentek meg a gyermekén? Nincs egyedül. A Google-ben végzett keresések jelentős része egészségügyi témájú, így az amerikai IT óriás erre a területre is ráállította a Google a mesterséges intelligenciával működő keresőfunkcióját, az AI Overviews-t.
A vállalat szerint a Gemini modell és egy átdolgozott minőség-alapú rangsorolási rendszer lehetővé teszi, hogy a funkció megbízható egészségügyi információkat nyújtson több ezer témában – számolt be az újításról a Futurism amerikai szaklap.
A bejelentés azonban sok szakértőt aggodalommal tölt el. Nem véletlenül: az AI Overviews korábban számos alkalommal is pontatlan, sőt veszélyes tanácsokat adott; egyebek mellett azt javasolta, hogy a pizzára ragasztót tegyünk, vagy hogy a kis elefántok elférnek egy ember tenyerében. Egy tanulmány szerint a Gemini chatbot az alapvető kérdések 60 százalékára téves választ adott.
Az, hogy most ez a rendszer egészségügyi tanácsadó szerepet kapott, ami sokak szerint komoly etikai és biztonsági kérdéseket vet fel.
Az AI Overviews célja, hogy a keresőbe beírt kérdésekre gyors, összefoglaló választ adjon az interneten fellelhető tartalmak alapján – még mielőtt a felhasználó rákattintana bármelyik linkre. A rendszer mesterséges intelligenciát használ, és mostantól egészségügyi kérdésekben is „segítséget” nyújt: betegségek tünetei, kezelési lehetőségek, életmódbeli tanácsok és otthoni praktikák is megjelennek a válaszok között.
Korábbi hibák alapján sok szakértő szkeptikus. Az MI rendszerek – még a legjobbak is – tévedhetnek, pontatlanul értelmezhetnek információt, vagy túláltalánosító válaszokat adhatnak. Ez különösen veszélyes lehet, ha valaki ezek alapján diagnózist állít fel magának, vagy orvosi tanácsot követ anélkül, hogy szakemberrel konzultálna.
A Google elismeri, hogy „nem minden keresési kérdésre áll rendelkezésre megfelelő minőségű tartalom”, ami növeli a hibalehetőségek számát.
A cég szerint az egészségügyi válaszokat engedéllyel rendelkező orvosszakértők is átvizsgálták, a funkció pedig szigorú tesztelésen esett át. A hivatalos kommunikáció hangsúlyozza, hogy az AI Overviews csak hiteles egészségügyi oldalakból merít, és mindig megjeleníti az eredeti forrásokat is.
Nem szabad elfelejteni, hogy a Google korábban saját egészségügyi részleget működtetett, ahol több száz szakember dolgozott – egészen 2021-ig, amikor a divíziót bezárták. Ez is hozzájárul ahhoz a kételyhez, hogy a mostani egészségügyi irányváltás mennyire megalapozott. Bár a Google hivatalosan közölte, hogy a funkció mobilon már elérhető az Egyesült Államokban, több újságíró – köztük a Futurism szerzője – azonban nem tudta ezt aktiválni sem a mobilalkalmazásban, sem a böngészőn keresztül.
Az AI Overviews egészségügyi célú alkalmazása jelentős lépés, de korántsem kockázatmentes. A mesterséges intelligencia képes összefoglalni nagy mennyiségű információt, de nem helyettesítheti az orvosi diagnózist. A korábbi hibák, téves válaszok és a bizonytalan adatforrások miatt a felhasználóknak különösen óvatosnak kell lenniük.
A technológia fejlődik – de az emberi élet túl értékes ahhoz, hogy egy algoritmus alapján hozzunk egészségügyi döntéseket – hívják fel a figyelmet Futurism által megkérdezett szakértők.