TECHitMedia.NET

Бъди в крак с технологиите!

Китайците обучиха аналог на GPT-4 само с 2000 чипа и е 33 пъти по-евтин от OpenAI

Сподели с приятели.

Китайската компания 01.ai разработи конкурентния AI-модел Yi-Lightning, за който се твърди, че има подобни възможности на GPT-4. Но изненадващо, той е изисквал само 2000 графични процесора (GPU) и струва само $3 милиона, докато OpenAI похарчи около $100 милиона, за да обучи своя модел, съобщава Tom’s Hardware.

Постижението на 01.ai е особено забележително предвид ограничения достъп на китайските компании до усъвършенстваните графични процесори на Nvidia. Основателят и главен изпълнителен директор на компанията Кай-Фу Лий посочва, че въпреки че китайските компании практически нямат достъп до графичните процесори на Nvidia, поради американските разпоредби, ИИ-моделът на Yi-Lightning се класира на шесто място в класацията на моделите за производителност, според версията LMSIS на Калифорнийския университет в Бъркли.

Приятелите ми в Силициевата долина са шокирани не само от представянето ни, но и от факта, че обучихме модел само за 3 милиона долара“ — каза Кай-Фу Лий. „Говори се, че приблизително 1 милиард долара вече са инвестирани в обучението на GPT-5.“ Той също така добави, че поради санкциите на САЩ компаниите в Китай са принудени да търсят по-ефективни и рентабилни решения, което 01.ai успя да постигне чрез оптимизиране на ресурсите и инженерни идеи, като същевременно получи резултати, подобни на GPT-4 при значително по-ниски разходи.

Вместо да увеличава изчислителната мощност, както правят конкурентите, компанията се фокусира върху оптимизирането на алгоритмите и намаляването на тесните места при обработката. „Когато имаме само 2000 графични процесора, трябва да разберем как да ги използваме [ефективно]“  — каза Лий.

В резултат на това изходните разходи на модела бяха само 10 цента на милион токени, което е приблизително 30 пъти по-малко от подобните модели. „Превърнахме изчислителния проблем в проблем с паметта, като изградихме кеш на много нива, създадохме специален механизъм за изводи и т.н.“ — сподели подробностите Лий.

Въпреки твърденията за ниската цена на обучението на модела Yi-Lightning, остават въпросите относно вида и броя на използваните графични процесори. Ръководителят на 01.ai твърди, че компанията разполага с достатъчно ресурси, за да изпълни плановете си за година и половина, но просто изчисление показва, че 2000 съвременни Nvidia H100 графични процесора на текущата цена от $30 000 за единица биха стрували $6 милиона, което е удвояване на посочените разходи. Това несъответствие поражда въпроси и изисква допълнителни пояснения. Постижението на компанията обаче вече привлече вниманието на световната общност и показа, че иновациите в областта на AI могат да се раждат дори и в условия на ограничени изчислителни ресурси.

Спомнете си, че според проучване ChatGPT-4o може да се използва за офлайн гласови финансови измами. Чрез тях могат да бъдат компрометирани банкови преводи, кражба на подаръчни карти, крипто трансфери и кражба на идентификационни данни за социалните медии или Gmail.

Източник: Kaldata

Leave a Reply

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *