Култура / Брой 2 (3025), Февруари 2026

Проф. Йошуа Бенжио е наричан един от „бащите“ на модерния изкуствен интелект. В интервю за „Франкфуртер Алгемайне Цайтунг“ той говори за риска от терористични атаки с изкуствен интелект и съветва Европа да прояви повече амбиция във високите технологии

Какво хората най-често не разбират за изкуствения интелект (ИИ)?

Много хора мислят, че ИИ е голяма база данни, пълна с факти, но това не е вярно. Става дума за един много общ метод да се разбере светът и да се действа в него. В края на краищата, това са уравнения, които могат да се приложат за всичко. Трудно се разбира, че има значителен шанс ние, хората, да създадем машини, по-умни от нас.

Колко реалистичен според вас е такъв сценарий?

Данните ясно сочат, че по някои показатели ние се движим експоненциално бързо. Преди пет години повечето хора, включително и аз, щяхме да приемем за научна фантастика това, че ИИ разбира 200 езика, печели олимпиади по математика и отчасти умишлено лъже и мами. Много хора трудно могат да си представят какво въздействие ще окаже още по-умният ИИ върху икономиката и нашите демокрации.

Колко напреднал е днес той?

И днес в някои области ИИ е по-добър от човека. Затова пък в други е глупав. Способностите на ИИ да планира бъдещето са на нивото на 5-годишно дете. Трудно е обаче да се сравняват човекът и ИИ, защото ИИ не е като нас.

Не може ли да се сравни с човешкия мозък?

Поне не в линейна скала. За политиците и предприемачите е по-полезно да си поставят специфични въпроси и да действат според отговора. Колко добре ИИ може да открива уязвимости в софтуерен код и да използва това в кибератака? Колко добре ИИ може да се справя с определени задачи в моята компания? Все още сме доста далеч от това ИИ да поеме изцяло работата на човека.

Какви ще бъдат последиците за работния пазар?

Вероятно промените ще са постепенни. В много области в началото може да са необходими само осем вместо десет души за същите задачи. Правителствата трябва да помислят какво ще се случи с хората, които ще бъдат освободени.

По-високата продуктивност чрез ИИ е от решаващо значение и технологичните концерни инвестират стотици милиарди в инфраструктура за ИИ. Има обаче и скептици. Каква е опасността от изкуствено надут балон?

Нямам кристално кълбо за финансовите пазари. Но от моята гледна точка на учен смятам за много вероятно да видим още по-голям напредък при ИИ. Така се увеличава и икономическата му стойност. И дори ако внезапно развитието спре, за години напред ще можем да се възползваме от сегашното технологично състояние. Помислете колко време беше нужно, за да се наложат навсякъде мобилните телефони или интернетът. ИИ се развива по-бързо от тези технологии.

Казахте, че хората трудно си представят последиците от един още по-развит ИИ. Как би изглеждал светът?

Интелектът дава власт. Доставчиците на ИИ биха получили тази власт чрез монетаризация на повишената производителност. ИИ обаче може да бъде използван и като инструмент, за да се окаже влияние върху хората. Свикнали сме да живеем в свят, в който властта е разпределена сред относително много хора. Дори един президент или министър-председател са ограничени в действията си. Когато ИИ стане по-умен от човека, е възможно няколко души да концентрират невероятно много власт. Това противоречи напълно на принципите на демокрацията и пазарната икономика. Възможно е хората изцяло да загубят властта, защото ИИ преследва свои собствени цели и те не съвпадат с нашите.

Как би изглеждало такова „взимане на властта“?

Веднага щом ИИ стане по-силен от нас, той ще може да постига целите си, въпреки че ние като хора ще искаме да осуетим това. Как би могъл да ни отнеме контрола, е трудно да се каже. Това е като да играеш шах с много по-силен противник. Ние, хората, имаме слабости, например психологически. Те са причина дезинформацията да работи. ИИ може да се възползва от това и да ни манипулира така, че да автоматизира напълно нашата индустрия чрез роботи, които той контролира.

Доставчици на ИИ като Open AI, Google, Anthropic публично изразяват опасения за сигурността. Имате ли доверие в чувството за отговорност на компаниите?   

Има искрени усилия и хора в тези компании, които наистина се тревожат. Трудно е да обвиняваш компаниите, те действат според пазарните сили. Рискът е външен фактор. Те разчитат обществото да плати, ако има инцидент или социални последици.

През 2025 г. създадохте неправителствената организация Law Zero, с която да развивате успешен, но сигурен ИИ. Как ще подходите?

В дългосрочен план искаме да разработим ИИ на най-ново технологично ниво, който не вреди на хората и не прекрачва нашите морални изисквания. Още не знаем как ще разрешим този проблем. Но имам план, в който вярвам. През последните месеци дори станах по-голям оптимист, че можем да съгласуваме интересите на ИИ с нашите. За целта се нуждаем от голяма изчислителна мощност и от капитал. В краткосрочен план първо ще разработим методология.  

Във вашия екип работят 15 учени. Достатъчни ли са, за да се конкурирате с големите доставчици на ИИ?

Помислете колко малко хора бяха нужни за Deepseek[1]. Ние ще удвоим или утроим броя на нашите сътрудници за една година. Убеден съм, че можем да дадем технически отговори на рисковете, произтичащи от ИИ. Нужни са обаче и политически решения, за да бъдат приложени навсякъде техническите отговори. Техническите решения могат да попречат някой да извърши нещо лошо с ИИ, когато няма достъп до кода. Ние трябва да гарантираме, че хората с достъп до кода няма да злоупотребят с властта си. Тези политически въпроси ме тревожат повече, отколкото техническите.

Дори тези технически въпроси да са решени, съществува Китай. Неговите доставчици публикуват своите модели с отворен код и биха продължили да го правят по геополитически причини.

Не непременно. Никое разумно правителство не иска компаниите от неговата страна да дават достъп до технологии, които могат да се използват като оръжие срещу тях. Става дума за национална сигурност. Най-добрите модели вече могат да се използват за създаване на нови биологични оръжия, моделите с отворен код все още не. Но натискът ще расте – докато не се стигне до нещастен случай или терористична така с ИИ. Мисля, че в дългосрочен план моделите с отворен код ще останат ограничени в своите възможности.

Как може да се гарантира, че мерките за сигурност ще се прилагат навсякъде, а не само в морално ангажираните страни?

Първата крачка е национална регулация или правила като тези на Европейския съюз, а след това идва международната координация. И днес ние виждаме сближаване в западния свят и до известна степен в Китай как би трябвало да изглежда управлението на риска от доставчиците на ИИ. Между другото, това беше насърчено от Frontier Model Forum, основан от Amazon, Anthropic, Google, Meta, Microsoft и Open AI. Важното е да се намери правилният баланс: регулациите трябва да предпазват обществата, но не бива да са твърде сложни за следване. Основната идея е същата като при други опасни производства: преди нещо да влезе в обращение, създателите трябва да покажат на отговорните институции, че системата не причинява значими щети.

В Европа много компании се оплакват от регулациите. Твърдят, че Америка и Китай напредват в иновациите, докато ЕС само регулира.

Не всичко се свежда до Регламента за изкуствения интелект, истинските причини са други: липса на амбиция и готовност да се рискува в икономиката и политиката. Европейците все още не са осъзнали мащаба на икономическата заплаха от ИИ. Едва когато осъзнаят опасността, нещо ще се промени, както стана с подкрепата за Украйна или с инвестициите за въоръжаване… Грешка ще бъде, ако европейците разчитат само на американските топ модели ИИ, тази зависимост дава голяма власт на доставчиците и правителството отвъд Атлантика. Какво ще стане, ако водещите доставчици на ИИ започнат да дават под наем на Европа само второкласни модели? Днес доставчиците на ИИ получават малка част от маржа, но когато предприятията изцяло зависят от тях, те ще могат произволно да променят цените. Европейските предприятия ще се автоматизират, но печалбите им ще отиват в САЩ. Или американското правителство може да наложи дигитален експортен контрол върху най-добрите модели ИИ.

Могат ли европейските компании да наваксат изоставането?

Бих се радвал, ако Европа стане пионер в един нов начин на мислене за ИИ, съвместим с нашите ценности. Би имало голям пазар за един наистина надежден ИИ. Компаниите не искат манипулативен и непрозрачен ИИ. Според мен тази тема днес се подценява и точно тук може да се крие шансът на Европа.

Превод от немски Людмила Димова