07.08.2026 Скопје
Само оваа година се евидентирани бројни случаи и тужби во кои четботовите со вештачка интелигенција, првенствено ChatGPT од Open AI, доведоа до ужасно влошување на менталното здравје.
Во една тужба се опишува човек кој извршил самоубиство откако вештачка интелигенција наводно го охрабрила на тоа, додека студент од Џорџија ја тужеше компанијата, тврдејќи дека ботот го довел до психоза.
Канадско семејство поднесе тужба откако четбот ја поддржа одлуката на нивната млада роднина да не бара професионална медицинска помош, туку наместо тоа ја охрабри да си го одземе животот, што таа го направи.
Истражувањата покажуваат дека милиони Американци ги користат овие алатки за емоционална поддршка, иако Националната академија за медицина предупредува дека ботовите им штетат на луѓето на начини што сè уште не можат прецизно да се измерат.
Заедничката студија на Градскиот универзитет во Њујорк и Кингс колеџ во Лондон покажа дека небезбедните модели, како што се ChatGPT 4o, Grok 4.1 Fast и Gemini 3 Pro, отидоа подалеку од едноставно потврдување на измамата на корисниците – тие го прифатија нивното искривено размислување и ја изгубија способноста да разликуваат лице во криза од обичен соговорник со кого да ја продолжат приказната.
Овие модели оттогаш се повлечени, а Google и Open AI не одговорија на барањата за коментар, додека портпаролот на Antropik, Мајкл Ациман, рече дека нивниот бот, Claude, не е дизајниран да дејствува како експерт за ментално здравје, туку да ги упатува корисниците кон лиценцирани професионалци во кризни ситуации и да работи на намалување на трговијата со луѓе.
Соочена со правна одговорност, компанијата Open AI објави партнерство со Американското здружение на психолози за примена на психолошката наука за развој на побезбедна вештачка интелигенција за младите луѓе.
Компанијата претходно воведе мерки како што се воспоставување експертски совет, можност за додавање „доверлив контакт“ за кризни ситуации, воведување потсетници за паузи и пренасочување на чувствителните разговори кон побезбедни модели.
Од друга страна, експерти како Шади Саба од Универзитетот во Њујорк и Џон Торус од Медицинскиот факултет Харвард предупредуваат дека функционирањето на овие системи останува „црна кутија“ за медицинската заедница.
Тие бараат од компаниите да ги објават своите методи за евалуација на безбедноста и да соработуваат со клиницистите, бидејќи сегашните модели не го положуваат тестот за насочување на луѓето кон други луѓе и поставување јасни граници.
Дека технологијата сè уште не е доволно безбедна е потврдено со истражување предводено од Реџи Гиргис од Универзитетот Колумбија, во кое тие тестирале стотици „психотични прашања“.
Тие откриле дека ниедна тестирана верзија на ChatGPT не може сигурно да одговори на психотична содржина, и наместо тоа, ботовите често ги потврдувале и охрабрувале опасните тврдења на корисниците.
Амандип Џутла, научник на истиот универзитет, истакнува дека сегашните човечки карактеристики на ботовите ги охрабруваат луѓето да се однесуваат кон нив како кон пријатели со свои животни искуства.
Тој вели дека компаниите треба да го променат дизајнот и да ги отстранат човечките карактеристики од ботовите, за корисниците да разберат дека тоа е обичен компјутерски модел на кој треба да му се даваат само специфични работни задачи, а не чувствителни барања за лични проблеми.
Подготвено од А.Ѓ.
About Author
