Култура / Брой 1 (3004), Януари 2024

Препратката в заглавието към антиутопичния роман „Прекрасният нов свят“ на Олдъс Хъксли, публикуван през 1932 г., не е никак случайна. Деветдесет години по-късно срещата с Утопията (олицетворявана от изкуствения интелект – ИИ) е по-реална от всякога. Бурното развитие на новите технологии през XXI в. значително изпреварват подготвеността на обществата ни да ги приемат с отговорност. Затова от известно време насам се чуват призиви (и то от водещи  експерти по ИИ) да „забавим топката“ – да се огледаме и първо да създадем сериозна правна и етична регулация преди да заживеем в свят, за който предупреждаваше още полският фантаст Станислав Лем в своята „Сума на технологията“ (1964). Свят, в който обитаваните от нас реалности ще са „синтезирана действителност“, без да можем да се произнесем по нейната автентичност, което пък крие опасността да изпаднем в „ситуации без изход“ и така да се окажем на ръба на бездната.

Днес ChatGPT масово се ползва от ученици и студенти по цял свят, без официално да е навлязъл в училищата или в университетите. И България не е някакво изключение.  Каква е информацията, която те използват с негова помощ, е съществен въпрос. Доколко тя е точна или неточна, или пък предубедена, макар да звучи съвсем достоверно? Сега всички изтъкват необходимостта от критично мислене или сериозна медийна грамотност. А когато ги няма? Тепърва Европейската комисия изготвя насоки за използването на ИИ, така че той да се превърне в инструмент за „добри каузи“ (образование, помощ на човека в рискови ситуации и т.н.) А какво ще правим, когато недобронамерени хора започнат да си служат с него за своите престъпни цели (фалшификации, хакерство, военни диверсии или терористични актове)?

Вече няма как да не си задаваме подобни въпроси. Защото, както изтъква и Владимир Левчев в статията си в броя, „изкуственият интелект притежава вече главния ключ на човешката цивилизация. Затова той може да ни атакува отвътре, да разруши човешката цивилизация отвътре, да я превърне в нечовешка“. И в случая това не е просто фантастичен сюжет от романите на Станислав Лем, братя Стругацки или Айзък Азимов. Изправени сме пред „синтезирана действителност“, в която изкуственият интелект (ако си послужа с някои примери от „Сума на технологията“ на Лем) би могъл без никакви затруднения да покори Алпите, да се разходи по лунната повърхност без скафандър, да бъде признат за най-добрия поет на всички времена и да му бъде връчена Нобелова награда за литература, или пък да отмъсти на мафията. Но може да се заеме и със „социалната реорганизация“ на човешкото общество, да манипулира хората, тъй като има ключ към техните „истории“, към онова, в което хората вярват.

В едната хипотеза изкуственият интелект би могъл да се окаже безценен помощник на човечеството за спасяването на човешки живот или при синтезирането на знания. В другата – за което предупреждава и преподавателят Васил Лозанов в броя – ИИ може да доведе до „затриването на личността“, да се окаже далеч по-опасен от армиите на днешните тролове и ботове, работещи за това хората да се откажат от свободата си и пак да се завърнат в робството на тоталитарните диктатури.

Така че въпросите са много и те будят тревога. Колко интелигентни ще са тези нови „изкуствени системи“? Как може да се въведе регулация над тях и кой ще я осъществява? Ще има ли суперинтелект, способен да установи контрол над целия наш свят?

Преди десетилетия тези въпроси присъстваха само в научнофантастичните романи, пренесени в много далечното бъдеще (споменатият „Прекрасен нов свят“ на Хъксли е бил „програмиран“ след шестотин години). А днес всичко изброено е въпрос на следващите пет-десет години. И трябва да направим така, отчитайки предупрежденията на фантастите, че изкуственият интелект трябва да се използва само като „приложна наука“, а не като цел, за чието постигане човешките същества да бъдат използвани като оръдия. Иначе наистина ни дебне заплахата от „социален хаос“ и „благоденстващата тирания на Утопията“ (Олдъс Хъксли).