Широкото използване на алгоритмите за изкуствен интелект, особено при препоръчване на съдържание и продукти за потребителите въз основа на тяхната предишна онлайн активност, доведе до появата на нови явления в социалните мрежи като ехо-камери и информационни пашкули. AI-алгоритмите създават капани за ума на уеб-потребителите, като ги насърчават да четат само съдържание, което резонира с техните възгледи за живота, политиката и др.
Това се посочва в проучване на група учени, ръководени от професор Йънг Ли от университета Цинхуа (КНР). Тяхната работа е публикувана в списанието Nature Machine Intelligence.
Изследователите са проучили как се образуват така наречените информационни пашкули, в които потребителите се сблъскват само с мнения или потребители, повтарящи собствените им възгледи. Това може да представлява сериозен риск за развитието на критичното мислене.
Първият автор на подобна работа, Цзинхуа Пяо, отбеляза, че широкото внедряване на управляваните от изкуствения интелект алгоритми създава нови предизвикателства. Например, намаляване на влиянието на идеологическите различни новини, мнения, политически възгледи и приятели. Той отбелязва, че такава технология изолира хората от разнообразната информация и в крайна сметка ги „заключва в една тема или гледна точка“.
Това, според изследователите, може да има широкообхватни негативни последици, тъй като такива пашкули могат да увеличат предразсъдъците и поляризацията в обществото, да възпрепятстват личното израстване, креативността и иновациите, да увеличат дезинформацията и да възпрепятстват усилията за създаване на по-приобщаващ свят.
„Концепцията за информационни пашкули е възприета, за да опише широко наблюдавания феномен, че с нарастващото взаимодействие с интелигентните алгоритми хората се изолират от разнообразната информация и в крайна сметка остават в капана на една тема или гледна точка“ —- подчертва ученият.
Изследователите обаче твърдят, че не би било честно да се обвиняват AI-алгоритмите или конкретно хората, тъй като такива информационни пашкули възникват от сложни взаимодействия и обмен на информация между различни субекти.
Подобни взаимодействия в работата на учените са разделени на четири компонента:
- подбор на база сходства — процесът, при който AI препоръчва съдържание, продукти или други потребители, изхождайки от това, че те са най-подобни с това, с което потребителят вече е взаимодействал. Това е ключовата сила, която води до създаването на пашкули;
- положителна обратна връзка — предоставяне на ново съдържание в съответствие с предишните предпочитания на потребителя. Този процес намалява информационното разнообразие;
- отрицателна обратна връзка — пречи на образуването на пашкули и подбор на еднообразна информация;
- случайно самоизследване —- това е ситуацията, при която потребителят самостоятелно намира съдържанието и повредените алгоритми, които водят до образуването на пашкули.
Учените смятат, че стабилните информационни пашкули се образуват, когато има дисбаланс между положителната и отрицателната обратна връзка, както и когато подборът, базиран на сходство, непрекъснато се увеличава.
За да избегнете този капан на ума, учените съветват не само да харесвате, но и да реагирате на съдържанието, което не ви харесва, за да могат алгоритмите да създадат по-обективна картина. Те също така насърчават потребителите на мрежата по-често да прибягват и до самоизследване, тъй като преглеждането на нова информация ще повлияе върху бъдещите препоръки от страна на алгоритъма.
Leave a Reply