Световната здравна организация предупреди, че въвеждането на медицински технологии, базирани на изкуствен интелект, може да бъде опасно за хората в страните с ниски доходи. СЗО изрази загриженост, че технологичните компании могат да произвеждат опасни и неефективни медицински инструменти в стремежа си да бъдат първи в надпреварата за ИИ. Освен това най-големите компании изтласкват както университетите, така и правителствата в областта на изследванията на ИИ. В доклада се подчертава необходимостта от обучение по етика за разработчиците и задължителна независима проверка на мултимодалните модели след излизането им на пазара.
СЗО публикува доклад, в който се дават нови препоръки относно големите мултимодални модели (LMM). Според организацията важно е използването на технологиите да не се ръководи само от технологични компании и компании от богати държави. Ако моделите не са обучени върху данни от хора в условия на ограничени ресурси, тези групи от населението може да бъдат зле обслужвани от алгоритмите.
Организацията публикува първите си препоръки за използването на изкуствен интелект в здравеопазването през 2021 г. След по-малко от три години обаче тя беше принудена да ги актуализира поради нарастващата мощ и достъпност на LMM. Тези модели, наричани още генеративен изкуствен интелект, обработват и създават текст, видео и изображения. LMM бяха възприети много по-бързо от което и да е друго потребителско приложение в историята и здравеопазването не остана по-назад. Моделите могат да генерират клинични записи, да попълват формуляри и да помагат на лекарите да диагностицират и лекуват пациентите. Няколко компании и доставчици на здравни услуги разработват специфични ИИ инструменти за сферата на медицината.
Съществува риск компаниите, в стремежа си да бъдат първите, които ще пуснат приложения, да предоставят несигурни и неефективни инструменти. Това би могло да доведе до цикъл на дезинформация, при който LMM, обучени на неточна или невярна информация, замърсяват публичните източници на информация, като например интернет.
СЗО предупреждава, че използването на тези мощни инструменти не трябва да се оставя единствено на преценката на технологичните компании. Правителствата на всички държави трябва съвместно да ръководят усилията за ефективно регулиране на разработването и използването на технологиите за изкуствен интелект. Гражданското общество и хората, получаващи здравни грижи, трябва да допринасят за всички етапи на разработване и прилагане на LMM, включително за техния надзор и регулиране.
В своя доклад СЗО предупреждава за възможността за „индустриално завладяване“ на разработването на LMM, като се имат предвид високите разходи за обучение, внедряване и поддържане на тези програми. Вече има сериозни доказателства, че големите компании изместват както университетите, така и правителствата в областта на изследванията на ИИ, като безпрецедентен брой учени и преподаватели напускат академичните среди в полза на индустрията.
В насоките се препоръчва независими трети страни да провеждат и публикуват задължителни одити след пускането в експлоатация на LMM, които се внедряват в голям мащаб. Тези одити следва да оценяват доколко инструментът защитава както данните, така и правата на човека. Разработчиците, които създават мощни мултимодални модели за здравеопазването и научните изследвания, следва да получат обучение по етика, сравнимо с това на медицинския персонал. Отбелязва се също така, че правителствата могат да изискват от разработчиците да регистрират алгоритмите на ранен етап, за да се насърчи публикуването на отрицателни резултати и да се предотвратят пристрастията и шумотевицата в публикациите.
Източник: Kaldata
Leave a Reply