17.05.2023 Скопје
Светската здравствена организација (СЗО) повика на претпазливост при користење на големи јазични модели на алатки (LLM) генерирани од вештачка интелигенција (АИ) за заштита и промовирање на човековата благосостојба, безбедноста и автономијата на луѓето и за зачувување на јавното здравје.
„LLM вклучуваат некои од најбрзо растечките платформи како што се ChatGPT, Bard, Bert и многу други кои имитираат разбирање, обработка и производство на човечка комуникација“, истакна СЗО.
Нивната метеорска јавна дифузија и растечката експериментална употреба за цели поврзани со здравјето генерира значителна возбуда околу потенцијалот за поддршка на здравствените потреби на луѓето.
Императив е внимателно да се испитаат ризиците кога се користат LLM за да се подобри пристапот до здравствени информации, како алатка за поддршка на одлуки, или дури и да се зајакне дијагностички капацитет во услови со недоволно ресурси за да се заштити здравјето на луѓето и да се намали нееднаквоста, велат од агенцијата на ОН.
Додека СЗО е ентузијастичка за соодветната употреба на технологии, вклучително и LLM, за поддршка на здравствените работници, пациентите, истражувачите и научниците, постои загриженост дека претпазливоста што вообичаено би се применувала за која било нова технологија не се применува доследно со LLM.
Ова вклучува широко распространето почитување на клучните вредности на транспарентност, вклученост, јавен ангажман, стручен надзор и ригорозна евалуација.
Наглото усвојување на непроверени системи може да доведе до грешки од здравствените работници, да предизвика штета на пациентите, да ја намали довербата во вештачката интелигенција и со тоа да ги поткопа (или одложи) потенцијалните долгорочни придобивки и употреба на таквите технологии ширум светот.
Загриженоста што бара ригорозен надзор потребен за технологиите да се користат на безбедни, ефективни и етички начини вклучуваат:
– Податоците што се користат за обука на вештачката интелигенција може да бидат пристрасни, да генерираат погрешни или неточни информации што може да претставуваат ризик за здравјето, правичноста и инклузивноста;
– LLM генерираат одговори кои можат да изгледаат авторитативни и веродостојни за крајниот корисник; сепак, овие одговори може да бидат целосно неточни или да содржат сериозни грешки, особено за одговорите поврзани со здравјето;
– LLM може да бидат обучени за податоци за кои можеби претходно не била дадена согласност за таква употреба, а LLMs може да не ги штитат чувствителните податоци (вклучувајќи здравствени податоци) што корисникот ги дава на апликацијата за да генерира одговор;
– LLM може да се злоупотребуваат за да се генерираат и да се шират многу убедливи дезинформации во форма на текст, аудио или видео содржина што е тешко за јавноста да се разликува од веродостојните здравствени содржини;
– Покрај тоа што е посветена на искористување на новите технологии, вклучувајќи вештачка интелигенција и дигитално здравје за подобрување на здравјето на луѓето, СЗО препорачува креаторите на политиките да обезбедат безбедност и заштита на пациентите додека технолошките фирми работат на комерцијализација на LLM.
СЗО предлага да се решат овие грижи и да се измерат јасните докази за користа пред нивната широка употреба во рутинската здравствена заштита и медицината – без разлика дали од поединци, даватели на нега или администратори на здравствениот систем и креатори на политики.
СЗО ја повтори важноста од примена на етичките принципи и соодветно управување, како што е наведено во упатствата на СЗО за етиката и управувањето со вештачката интелигенција за здравје, при дизајнирање, развивање и примена на вештачка интелигенција за здравје.
6-те основни принципи идентификувани од СЗО се: (1) заштита на автономијата; (2) промовирање на човековата благосостојба, човековата безбедност и јавниот интерес; (3) обезбеди транспарентност, објаснување и разбирливост; (4) поттикнување на одговорност и отчетност; (5) обезбедува инклузивност и правичност; (6) промовираат вештачка интелигенција која е одговорна и одржлива.
Подготвено од А.Ѓ.
About Author
