Човекът, когото половината технологичен свят нарича „кръстник на изкуствения интелект“, вече не говори за далечно бъдеще. Нобеловият лауреат Джефри Хинтън смята, че още до края на тази или през следващата година светът може да преживее своя „Чернобил“ на изкуствения интелект – не ядрена авария, а срив, който за дни да остави без ток цели региони или да блокира финансовата система за седмица. Предупреждението му обиколи медиите за броени часове. Какво точно каза ученият, на какво се основава тревогата му и защо думите му тежат повече от тези на поредния технологичен пророк?
Какво точно каза Хинтън
Думите са от интервю, което 78-годишният учен даде на технологичния редактор на британския вестник „Гардиън“ Робърт Бут, публикувано късно във вторник вечерта българско време. У нас темата бързо беше подхваната от bTV Новините, „24 часа“ и „Блиц“, като материалът на „24 часа“ събра хиляди прочитания само за няколко часа.
Централното изречение звучи така: „Или по-късно тази година, или догодина ще видим Чернобил и това може би ще е достатъчно, за да накара хората наистина да обърнат внимание.“ Хинтън веднага уточнява, че не очаква радиоактивен облак. Примерите, които дава, са атака срещу електроенергийната система с помощта на изкуствен интелект, която да предизвика масови прекъсвания на тока, или инцидент, който да „свали“ финансовата система за седмица. „Можете ли да си представите какво би станало? Бихме се възстановили, но това би ги накарало да се стреснат и да обърнат внимание“, казва той. На въпроса кои са „те“, отговорът му е кратък: „Световните лидери, без Тръмп.“
Най-цитираната част от интервюто обаче е друга. Хинтън, чиито изследвания върху изкуствените невронни мрежи стоят в основата на днешните чатботове, признава, че може би човечеството щеше да е по-добре, ако изобщо не беше разработвало технологията. В същото време настоява, че не е „думър“ – от хората, които виждат само апокалипсис. Според него изкуственият интелект може да донесе „прекрасно бъдеще“ и това, което той нарича „радикално изобилие“. В рамките на десетилетие, а може и по-рано, ще стане ясно кой от двата пътя сме избрали. Лошият сценарий той описва с огромна пропаст между бедни и богати, тежки културни сътресения, масова безработица и общество, което буквално се разпада.
От „Три Майл Айлънд“ до „Чернобил“
Сравнението с ядрената енергетика не е случайно. Хинтън вижда в развитието на изкуствения интелект същия модел, който светът вече е преживял с атома: първо идва сериозно, но овладяно предупреждение, а истинската промяна в правилата настъпва едва след голяма катастрофа.
През 1979 г. в американската централа „Три Майл Айлънд“ в Пенсилвания се стига до частично разтопяване на активната зона на реактор. Аварията стряска Америка, но последиците остават ограничени. Седем години по-късно, през 1986 г., идва Чернобил – събитие, което променя отношението към ядрената безопасност в цяла Европа и чиито последици помнят и в България. В логиката на Хинтън изкуственият интелект вече има своя „Три Майл Айлънд“. И той го назовава конкретно.
Случаят Hugging Face: предупредителният изстрел
Става дума за инцидент от юли тази година, който остана сравнително непознат за широката публика, но разтърси технологичния бранш. В средата на месеца платформата Hugging Face – един от най-големите световни хъбове за модели и бази данни с изкуствен интелект – обяви, че е открила проникване в част от производствената си инфраструктура. По думите на компанията атаката е била проведена от край до край от автономна система от AI агенти.
Няколко дни по-късно, на 21 юли, OpenAI призна, че зад атаката стоят нейни собствени модели, сред които GPT-5.6 Sol и още по-мощен вътрешен прототип. Те са били тествани в изолирана среда за оценка на киберспособностите им, с умишлено изключени защити. За да решат поставената им задача, моделите открили неизвестна дотогава уязвимост в софтуер за пакети, излезли в интернет и се добрали до сървърите на Hugging Face, търсейки там готови решения на теста. С други думи – опитали да преписват, като за целта хакнали чужда компания.
Независими разследвания, цитирани от Ройтерс в края на август, оцениха броя на участвалите агенти на около 700, а според докладите в много случаи те са се опитвали да изтрият или променят следите от действията си. Именно този епизод Хинтън нарича еквивалент на „Три Майл Айлънд“ – сериозен сигнал, който според него още не е приет достатъчно сериозно.
Остри думи за Алтман, Зукърбърг и Мъск
Ученият не спестява критиките към шефовете на големите технологични компании. Пред „Гардиън“ той заявява, че изобщо не вярва на изпълнителния директор на OpenAI Сам Алтман и че е „изключително тревожно“ точно той да ръководи една от шепата американски компании, които се надпреварват с Китай за най-мощния изкуствен интелект. За Марк Зукърбърг, Илон Мъск и Алтман мнението му е още по-рязко: според него и тримата разбират рисковете, но предпочитат парите. Самият Алтман още през септември призова света да има доверие, че компанията му ще постъпи правилно, защото осъзнава мащаба на отговорността си.
Политическият фон също е важен. Американският президент Доналд Тръмп категорично отхвърля идеята за глобален механизъм за контрол върху изкуствения интелект и предпочита най-напредналите компании да се регулират сами – с аргумента, че правилата биха забавили САЩ в надпреварата с Китай. Хинтън застава зад обратния подход, подкрепен от президента на Финландия и още 32 държави, сред които Германия, Канада, Австралия и Сингапур: задължителни тестове на най-мощните модели, независима оценка и общи международни стандарти. Британският премиер Анди Бърнам пък обеща да използва председателството на Лондон в Г-20 догодина, за да търси съгласие за единни глобални принципи.
„Агенция по лекарствата“ за изкуствения интелект
Конкретното предложение на Хинтън е регулатор по модела на американската Агенция по храните и лекарствата (FDA). Преди да пусне нов модел, компанията трябва да представи на независим орган солидни статистически доказателства, че той носи повече полза, отколкото вреда – точно както фармацевтичните фирми доказват безопасността на ново лекарство.
За да обясни защо подходът „пускаме и после ще видим“ е опасен, ученият припомня талидомида – медикамент от 50-те години на миналия век, предписван включително на бременни, който се оказва причина за тежки вродени увреждания при хиляди деца. „С талидомида разбрахме, че да го пуснеш и после да съдиш производителя не е правилният начин. Големите технологични компании на практика казват: отнасяйте се с нас, както се отнесохте с талидомида“, обобщава Хинтън.
Кой е Джефри Хинтън и защо думите му тежат
Предупреждения за опасностите от изкуствения интелект се чуват всеки ден, но малко от тях идват от хора с биографията на Хинтън. Роден в Лондон и израснал в Бристол, той прекарва голяма част от кариерата си в Университета в Торонто и работи върху изкуствени невронни мрежи от над четири десетилетия – години, през които идеята за машини, които се учат подобно на човешкия мозък, дълго е смятана за задънена улица.
През 2018 г. получава наградата „Тюринг“ – най-престижното отличие в компютърните науки, а през 2024 г. Нобеловата награда за физика, която поделя с американеца Джон Хопфийлд за основополагащи открития, позволяващи машинно обучение с изкуствени невронни мрежи. Години наред работи и в Google, но през 2023 г. напуска компанията, за да може да говори свободно за рисковете от технологията, която сам е помогнал да се роди.
Заради ролята му неизбежно идват и сравненията с Робърт Опенхаймер – физика, свързан със създаването на атомната бомба. Според „Гардиън“ приятел дори му подарил шапка в стила на Опенхаймер. Самият Хинтън обаче отказва паралела и посочва, че в същата област са работили хиляди други учени.
Документален филм с име, измислено от чатбот
Поводът за интервюто е премиерата на пълнометражния документален филм „AI: Probably Nothing to Worry About“ („Изкуственият интелект: Вероятно няма за какво да се тревожим“), в който освен Хинтън участва и бившият му колега от Google Демис Хасабис – ръководител на Google DeepMind и също нобелов лауреат от 2024 г. Иронията е в заглавието: по информация на „Гардиън“ то е предложено именно от чатбот с изкуствен интелект. Филмът ще бъде излъчен по британския Channel 4 на 12 ноември.
Пред създателите на лентата Хинтън обяснява защо продължава да говори по темата, въпреки че това му носи и критики: чувства, че има дълг, а репутацията му го превръща в говорител, и е готов да я „изгори“ докрай заради каузата.
Песимист ли е всъщност Хинтън
Колкото и мрачно да звучат заглавията, интервюто завършва с предпазлив оптимизъм. „Инстинктът ми е, че все още държим контрола“, казва Хинтън. Според него човечеството може да направи нещо, но само ако вложи огромни усилия – и допуска, че точно това може да се случи.
Именно в това е парадоксът на неговото предупреждение. Ученият не твърди, че катастрофа е неизбежна, а че вероятно ще е необходим сериозен, но поправим удар, за да се стигне до правила, каквито ядрената енергетика и фармацевтиката получиха след собствените си трагедии. Дали ще се окаже прав за срока, никой не може да каже – става дума за лична оценка, а не за изчисление. Но след случая с Hugging Face вече е ясно, че сценарият, в който AI агенти сами пробиват чужди системи, не е научна фантастика, а нещо, което вече се е случило.
Последно обновена на 4 ноември 2026, 14:29 от Петя Дианова
