Култура / Брой 5 (2978), Май 2021

През февруари миналата година Даниел Келман, автор на романа „Измерването на света“ и на пиесата „Духове в Принстън“, е поканен от австрийското представителство в Силициевата долина. Идеята е той да стане първият в света писател, създал разказ заедно с изкуствен интелект на име CTRL. Наблюденията му, които публикуваме със съкращения, са от „Зюддойче Цайтунг“.
 

Господин Келман, как работихте с CTRL?

Бързо ми стана ясно, че разказът няма да се получи. Всъщност още първия следобед. Отговорите на алгоритъма ме озадачиха, но те не биха могли да доведат до наративен текст, който да бъде публикуван.

Защо не се получава?

Причината е в начина, по който работят предикативните алгоритми, т.е. алгоритмите, чиито предвиждания са базирани на вероятностни изчисления. От колосално количество текстове те извеждат свои собствени текстове. При това работят от текстови фрагмент към текстови фрагмент с т.нар. токъни. Следователно винаги поставят вероятния най-близък фрагмент. Ала разказването функционира другояче.

Не може ли алгоритъмът да заблуди разказването?

Наративната фикция се подхранва от това, че на заден план в езика протича драматургично планиране. Знаем прочутото изречение на Чехов, че ако в първо действие на сцената виси пушка, то тя непременно трябва да гръмне в последното. Ако не гръмне, това също има значение. Зрителят очаква нещо да се случи с пушката. Дали се случва или не, с това усещане се работи. Алгоритъмът обаче не знае нищо за очакванията, които събужда една пушка. Затова не може да им реагира.

Не може ли компютърът да бъде научен, че ако има пушка, тя трябва да гръмне?

Може би трябва да се работи със сложна система от опорни думи и да се създаде един вид драматургичен алгоритъм. Той би могъл да изгради конвенционални скелети на действието. От своя страна, той трябва да се комбинира с езиков алгоритъм. Дали нещо такова е реалистично, не зная, не съм програмист. Във всеки случай най-големият проблем, който CTRL имаше като автор, беше наративната консистенция. Включително и защото не можеше да менажира информация.

Какво имате предвид?

При разказването е безусловно необходимо в началото разказвачът да знае повече за героите, действието, задния план и да взема решения какво да ми позволи да науча. Ако например в разказа двама души вървят през гората, разказвачът има цял куп информация, която аз нямам. Затова внимателно слушам. Що за гора е това? Крие ли опасности за двамата герои? Разказвачът знае това. CTRL обаче няма никаква запазена информация.

Какви текстови форми изпробвахте със CTRL?

Щом стана ясно, че разказът не върви, пробвахме диалози. И поезия. Беше по-добре. Наистина от импресията може да се изведе стихотворение ред по ред, тук не става дума толкова за мениджмънт на информацията. Диалозите понякога учудват. Започнах един диалог, в който се карат мъж на име Джак и жена на име Мери. И внезапно се казва: Джак напусна съпругата си. Аз не бях написал, че те са семейство. В такива моменти започваш да вярваш, че CTRL нещо разбира. Ала разбирането тук не играе роля. Определени езикови образци на съпружеската караница се появяват също толкова често в драматическите текстове, така че алгоритъмът може да ги изтегли от наличните данни.

А при поезията?

Най-добре функционира нещо като неодадаистична поезия. Или средна по качество лирика. Понякога дори римите се удават на CTRL. Големите стихотворения ще са най-странни и трудни, тях никой алгоритъм не ги може.

Трябва ли да променим нашите критерии какво е творчество? На „Документа“ в Касел преди осем години се спореше дали животните или камъните могат да бъдат креативни по свой начин, защото имат какво да споделят.

Тук много бързо стигаме до Станислав Лем, който е написал няколко романа по въпроса за съвсем различното съзнание. В мисловния експеримент „Соларис“ една покрита в океан планета има съзнание, само че толкова различно, че с него контакт не е възможен. Можем да кажем, че животните могат да бъдат креативни и алгоритмите също. Ала това ще бъде съвсем друга креативност. И се съмнявам, че ние можем да възприемем нейните резултати. Затова този мисловен експеримент ще бъде безсмислен, защото не може да доведе до някаква форма на проверка.

От човешката гледна точка.

Да, разбира се, но ние нямаме друга. Впрочем аз съвсем не отхвърлям трансхуманистичното бъдеще като немислимо. Идеята, че базиран на литий интелект би могъл да е следващото стъпало в еволюцията, не е немислима. Само че това ще продължи много, много дълго, а подобни изкуствени интелекти не е задължително да са съзнателни. В забележителното си съчинение „Какво е да си прилеп“ Томас Найджъл изяснява, че съзнанието на един прилеп е недостъпно за нас. Ако не можем да се поставим на мястото на един прилеп, как бихме могли да се поставим на мястото на машините? Та един прилеп ни е далеч, далеч по-близък.

Неврологът и компютърен изследовател Кенихиро Моги казва, че машините никога няма да развият съзнание, защото не могат да притежават квалии, тези субективни усещания, които създават човешкото съзнание.

Контрааргументът, който също ми изглежда основателен – и с това донякъде си противореча – откриваме при философа Дейвид Чалмърс[1] и привържениците на интегрираната информационна теория като Джулио Тонони[2]. Те твърдят, че съзнание възниква във всяка система, която преработва информация, като един вид страничен ефект.

Не попадаме ли обаче в същия дебат като този за креативността на животните и камъните?

Наистина в основополагащата книга на Дейвид Чалмърс „Съзнателният ум“ пише, че и на един термостат може да му се припише искрица съзнание. Защото термостатът преработва информация на едно елементарно равнище. И при алгоритмите, когато станат още по-ефективни и могат да преработват още повече информация, биха могли да се развият известни функции на съзнанието като страничен ефект.

Това не е ли просто въпрос на дефиниция?

Философ като Даниъл Денет[3], който смята, че изобщо не съществуват квалии, би отговорил с „да“. Квалиите са вътрешни съдържания на съзнанието – червенината на червеното, интензивността на топлината, пълното дълбоко звучене на един тон. Аз много ценя Денет, но разсъжденията му ми изглеждат нелепи. Как може това, в което сме най-сигурни, да е заблуда, кой се заблуждава и как? Не се ли нуждаем от съзнание, за да можем изобщо да се заблуждаваме?

Не се ли съдържа и в термостата проста форма на квалии? Нали той усеща температура.

Шопенхауер пише за това какво е да си камък. Това е онзи хубав поетичен възглед, наречен панпсихизъм, който междувременно и Дейвид Чалмърс застъпва с известна скептична предпазливост. Съзнанието като базисен аспект на физическата действителност – чак до пясъка и камъните или може би до молекулите, кой знае? В литературен план всичко това много ми харесва, но мисля, че е чиста спекулация. Ако панпсихизмът има право, вече няма да е голям философски въпрос дали алгоритмите могат да постигнат съзнание. В такъв случай всеки калкулатор отдавна би трябвало да има съзнание.

Успяхте ли да забележите при CTRL някаква искра на съзнание?

Не. Доколкото субективното чувство има значение – ала според Алън Тюринг[4] точно това е критерият – никога не усетих присъствие срещу мен, винаги имах усещане за машина.

Казахте, че в нито един момент не сте се натъкнали на креативност при машината.

Защото в процеса на преработване на действителността от езиковия интелект и емоционалното съзнание метафората е връхната точка, отлята в езикова форма. Субект, който може да създава метафори, би трябвало да притежава съзнание.

Бихте ли дали пример?

При Пруст или Набоков примерите са на всяка страница. Когато при Набоков се казва: Insomnia, your stare is dull and ashen, едва ли може по-добре да се опише безсънието. Тъпият, пепеляв поглед на безсънието. В този стих е събрано много. Дългите години безсъние на автора. И този смайващ езиков преход – безсънието се е втренчило в теб. Компютърът би казал: „Каква глупост, безсънието не се втренчва, то не е човек“. Ала човекът читател веднага разбира образа на сивите мъртви очи, сиви като пепел, мъртви като пожарище. Създаването на метафори оперира съзнателно с нелогичността. Трябва наистина да сме прочели и преживели известни неща, за да можем да разберем толкова силни метафори. Тук се натрупват психология, култура, езиков опит и оригиналност. Не бих твърдял, че това не може да се програмира. Ала мисля, че за един алгоритъм, който извежда най-вероятния езиков фрагмент от текстовия корпус, подобно творчество е невъзможно.

Превод от немски Людмила Димова