Джефри Хинтън, един от тримата легендарни компютърни учени, станали известни като „кръстници на AI“ отново предупреждава, че бързо развиващата се и слабо регулирана индустрия на изкуствения интелект представлява заплаха за човечеството. Хинтън заяви, че хората не разбират какво предстои, и че има 10 до 20 % вероятност AI в крайна сметка да отнеме контрола на хората.
По време на интервю по-рано този месец, което беше излъчено по американския телевизионен канал CBS, Хинтън, който миналата година съвместно спечели Нобелова награда за физика отправи предупреждение за посоката, в която се движи развитието на AI.
„Най-добрият начин да го разберем емоционално е, че ние сме като някой, който има това наистина сладко тигърче. Освен ако не можете да бъдете много сигурни, че то няма да иска да ви убие, когато порасне, трябва да се притеснявате. Хората все още не са го разбрали, не са разбрали какво предстои.“предупреди той
Именно идеите на Хинтън създават техническите основи, които направиха възможни широкомащабните AI модели, които захранват услуги като ChatGPT.
Въпреки приноса си към технологията, Хинтън отдавна предупреждава за това, което може да се случи, ако развитието на изкуствения интелект продължи с бързи темпове и без предпазни мерки. Той напусна Google през 2023 година, за да може да говори за опасностите от ИИ, без това да се отрази на компанията, в която работи.
„Вижте как беше преди 5 години и как е сега. Вземете разликата и я разпространете напред. Това е страшно.“казва Хинтън за състоянието на AI по онова време
Професорът също така повтори опасенията си, че изкуственият интелект може да доведе до изчезване на планетата, особено след като технологията все повече се използва във военните оръжия и превозните средства. Хинтън заяви, че рискът е технологичните компании да се откажат от безопасността в полза на това да изпреварят конкурентите си на пазара и да постигнат технологични постижения.
„Аз съм в неудачното положение да се съглася с Илън Мъск по този въпрос, а именно, че има 10 до 20 процента шанс тези неща да завладеят света, но това е само едно смело предположение.“казва Хинтън
Макар че в наши дни прекарва повече време в борба с изкуствения интелект в съдилищата и популяризира собствения си чатбот Grok, Мъск често говореше за екзистенциалната заплаха, която представлява изкуственият интелект.
Хинтън отново изрази опасенията си относно компаниите за изкуствен интелект, които дават приоритет на печалбите пред безопасността.
„Ако погледнете какво правят големите компании в момента, те лобират за намаляване на регулациите за ИИ. В момента няма почти никаква регулация, но те искат да има още по-малко.“каза той
Хинтън смята, че компаниите трябва да отделят много повече от наличната си изчислителна мощност, около 1/3 за изследвания в областта на безопасността, а не толкова малка част, каквато се отделя в момента.
Хинтън също така е особено разочарован от Google за това, че не е спазила думата си да не позволява използването на своя изкуствен интелект за военни цели. Компанията направи промени в политиката си за AI по-рано тази година, с което отвори вратите за използване на технологиите си във военни оръжия.
Кръстникът на AI, разбира се, не е противник на технологията. Подобно на Бил Гейтс, той вярва, че AI може да промени образованието, медицината, науката и потенциално да реши проблема с изменението на климата.
Професор Ян Лекун, друг от тримата кръстници на AI е по-малко притеснен от бързото развитие на технологията. През 2023 година той заяви, че предполагаемата заплаха за човечеството е „абсурдно нелепа“.
Източник: Kaldata
Leave a Reply