Китайската компания 01.ai разработи конкурентния AI-модел Yi-Lightning, за който се твърди, че има подобни възможности на GPT-4. Но изненадващо, той е изисквал само 2000 графични процесора (GPU) и струва само $3 милиона, докато OpenAI похарчи около $100 милиона, за да обучи своя модел, съобщава Tom’s Hardware.
Постижението на 01.ai е особено забележително предвид ограничения достъп на китайските компании до усъвършенстваните графични процесори на Nvidia. Основателят и главен изпълнителен директор на компанията Кай-Фу Лий посочва, че въпреки че китайските компании практически нямат достъп до графичните процесори на Nvidia, поради американските разпоредби, ИИ-моделът на Yi-Lightning се класира на шесто място в класацията на моделите за производителност, според версията LMSIS на Калифорнийския университет в Бъркли.
„Приятелите ми в Силициевата долина са шокирани не само от представянето ни, но и от факта, че обучихме модел само за 3 милиона долара“ — каза Кай-Фу Лий. „Говори се, че приблизително 1 милиард долара вече са инвестирани в обучението на GPT-5.“ Той също така добави, че поради санкциите на САЩ компаниите в Китай са принудени да търсят по-ефективни и рентабилни решения, което 01.ai успя да постигне чрез оптимизиране на ресурсите и инженерни идеи, като същевременно получи резултати, подобни на GPT-4 при значително по-ниски разходи.
Вместо да увеличава изчислителната мощност, както правят конкурентите, компанията се фокусира върху оптимизирането на алгоритмите и намаляването на тесните места при обработката. „Когато имаме само 2000 графични процесора, трябва да разберем как да ги използваме [ефективно]“ — каза Лий.
В резултат на това изходните разходи на модела бяха само 10 цента на милион токени, което е приблизително 30 пъти по-малко от подобните модели. „Превърнахме изчислителния проблем в проблем с паметта, като изградихме кеш на много нива, създадохме специален механизъм за изводи и т.н.“ — сподели подробностите Лий.
Въпреки твърденията за ниската цена на обучението на модела Yi-Lightning, остават въпросите относно вида и броя на използваните графични процесори. Ръководителят на 01.ai твърди, че компанията разполага с достатъчно ресурси, за да изпълни плановете си за година и половина, но просто изчисление показва, че 2000 съвременни Nvidia H100 графични процесора на текущата цена от $30 000 за единица биха стрували $6 милиона, което е удвояване на посочените разходи. Това несъответствие поражда въпроси и изисква допълнителни пояснения. Постижението на компанията обаче вече привлече вниманието на световната общност и показа, че иновациите в областта на AI могат да се раждат дори и в условия на ограничени изчислителни ресурси.
Спомнете си, че според проучване ChatGPT-4o може да се използва за офлайн гласови финансови измами. Чрез тях могат да бъдат компрометирани банкови преводи, кражба на подаръчни карти, крипто трансфери и кражба на идентификационни данни за социалните медии или Gmail.
Източник: Kaldata
Leave a Reply