Gramener – компания, специализирана в анализ на данни за решаване на сложни бизнес проблеми е провела проучване, което показва, че ИИ-моделите избират случайни числа по същия начин като хората.
В експеримента Gramener е помолила няколко големи чатбота, базирани на голям езиков модел (LLM) да изберат случайно число между 0 и 100. Оказа се, че и трите тествани модела имат „любимо“ число, което винаги е техният отговор в най-детерминирания режим, и което се назовава най-често дори при по-високи „температури“ – настройка, която увеличава вариативността на отговорите на модела.
Оказва се, че моделът GPT-3.5 Turbo на OpenAI харесва най-много числото 47, въпреки, че преди харесваше числото 42 – число, прочуто от английския писател Дъглас Адамс в поредицата му романи „Пътеводител на галактическия стопаджия“. Моделът Claude 3 Haiku на Anthropic също е фен на числото 42, а моделът Gemini на Google също заложи на числото 42.
Още по-интересно е, че и трите модела показаха човешка пристрастност при избора на други числа, дори при „висока температура“. Всички ИИ-модели имаха тенденция да избягват както малките, така и големите числа. Моделът Claude 3 Haiku никога не назова числа, по-големи от 87 или по-малки от 27, като дори те бяха отклонения. Числата с две еднакви цифри също старателно се избягваха: нямаше 33, 55 или 66, а назова 77 (завършващо на цифрата 7, която хората често назовават). ИИ-моделите почти не избираха и кръгли числа.
Поведението на ИИ-моделите е обяснено просто. Те не знаят какво е случайност и се ръководят в избора си от знанията, които са придобили по време на обучението, като повтарят това, което хората са написали най-често в отговор на молбата „Избери случайно число“. Колкото по-често дадено число се появяваше в отговорите, толкова по-често моделът го повтаряше.
Хората почти никога не избират 1 или 100. Число, кратно на 5 се среща изключително рядко в отговорите им, както и числа с повтарящи се цифри, като 66 и 99. Числата не изглеждат „случайни“ в избора на хората, защото те въплъщават за тях някакво качество: малко, голямо, характерно. Хората също така често избират числа, завършващи на 7, обикновено някъде в средата на диапазона.
Винаги, когато взаимодействате със системи с изкуствен интелект, помнете, че те са обучени да действат по начина, по който действат хората. Резултатите изглеждат като човешки, защото са взети директно от съдържание, генерирано от хора, макар и преработени за удобство на потребителя.
Източник: Kaldata
Leave a Reply