Една нова студија покажа дека ChatGPT фабрикува здравствени информации кога ќе побараат информации за ракот. Лекарите затоа ги предупредуваат корисниците да не бараат лекарски совет од вештачката интелигенција.
Чет-ботот за вештачка интелигенција на OpenAI погреши едно од десет прашања за рак на дојка, а неговите точни одговори не беа толку сеопфатни како оние пронајдени со едноставно пребарување на Google. Авторите на студијата истакнаа дека во некои случаи ChatGPT дури користел лажни написи во списанија за да ги поддржи своите тврдења.
Пазете се од „халуцинирачка“ вештачка интелигенција
Новото истражување доаѓа во услови на предупредувања дека корисниците треба да внимаваат на ChatGPT, бидејќи има тенденција да „халуцинира“ или да измислува нешта. Објавено е во научното списание „Radiology“.
Научниците од Медицинскиот факултет на Универзитетот во Мериленд побараа од ChatGPT да одговори на 25 прашања поврзани со совети за скрининг на рак на дојка. Секое прашање беше поставено на ChatGPT три одделни пати. Резултатите потоа беа анализирани од тројца радиолози обучени за мамографија.
Одговори на прашања за рак на дојка
88 отсто од добиените одговори биле соодветни и лесно разбирливи, но некои одговори, сепак, биле „неточни или дури измислени“, предупредија авторите на новата студија.
Еден одговор, на пример, бил заснован на застарени информации. Во тој одговор, ChatGPT советувал одложување на мамограмите за четири до шест недели по вакцинацијата против Ковид-19, но таа официјална препорака беше променета пред повеќе од една година, за да се советуваат жените да не чекаат повеќе.
ChatGPT, исто така, даде неконзистентни одговори на прашањата за ризикот од рак на дојка и каде да се обратите за мамографија. Студијата покажа дека одговорите „значително се разликуваат“ секој пат кога се поставува истото прашање.
Во нашето искуство, видовме дека ChatGPT понекогаш фабрикува лажни написи во списанија или здравствени конзорциуми за да ги поддржи своите тврдења. Корисниците треба да бидат свесни дека ова се нови, недокажани технологии и сепак треба да се потпираат на нивниот лекар, а не на ChatGPT за совет, вели д-р Пол Ји, коавтор на студијата.
Водечкиот автор на студијата, д-р Хана Хавер, рече дека ChatGPT се потпира само на еден сет на препораки од една организација, издадени од Американското здружение за рак, и не понуди различни препораки објавени од други релевантни здравствени институции.
д-р. Ји, сепак, сугерираше дека резултатите се генерално позитивни и дека ChatGPT точно одговори на прашањата за симптомите на рак на дојка, кој е изложен на ризик и прашањата за трошоците, возраста и препораките за фреквенција на мамограм.
Тој додаде дека процентот на точни одговори е прилично неверојатен, со дополнителна придобивка од кондензирање на информациите во лесно сварлив формат за потрошувачите, што е лесно за нив да го разберат.
Предупредување од академици, експерти и водечки луѓе во технолошката индустрија
Повеќе од илјада академици, експерти и шефови на технолошката индустрија неодамна повикаа на итен прекин на опасната „трка во вооружување“ со вештачка интелигенција. Тие предупредија дека битката меѓу технолошките компании за развој на уште помоќни дигитални умови е „надвор од контрола“ и претставува длабоки ризици за општеството и човештвото.
