Папата и Силициевата долина - два различни езика за изкуствения интелект

Когато папа Лъв XIV представя своята отворена писмена позиция – енцикликата „Magnifica Humanitas“ от 42 300 думи, към 1,4 милиарда католици по света, основното му послание е предупреждение: възходът на изкуствения интелект изисква защита на човешкото достойнство, труда и свободата. На събитието във Ватикана до него застава Кристофър Ола, съосновател на Anthropic - една от водещите компании в сферата на A.I. Това присъствие е замислено като символ на диалога, който папата иска да насърчи между духовния и технологичния свят, пише в свой обширен материал Ню Йорк таймс за предизвикалата широк отзвук инициатива на папата.

Тъкмо този символ обаче показва колко далеч са двата свята един от друг. Джереми Никсън, фигура от оживената A.I. среда в района на Сан Франциско и съосновател на A.G.I. House, вижда във ватиканската среща не сближаване, а разминаване. За него папата говори за A.I. като за нещо фундаментално нечовешко, докато думите на Ола сякаш допускат обратното - че в тези системи може да се появяват състояния, приличащи на човешки преживявания. „Те не са в диалог“, казва Никсън, защото според него перспективите им остават отделни.


A.G.I. House и културата на технологичната вяра
 
Никсън, на 33 години, е сред основателите на A.G.I. House - общност, кръстена на стремежа на Силициевата долина към „изкуствен общ интелект“, тоест хипотетична машина, способна да прави всичко, което може човешкият мозък. Къщата, която през годините приютява изследователи, предприемачи и философи, е място за разговори, семинари и хакатони около бъдещето на A.I. Ню Йорк Таймс описва A.G.I. House като средище, свързано с хората, помогнали за създаването на технологиите, за които папата предупреждава.

Преди да участва в този проект, Никсън работи в централната A.I. лаборатория на Google в периода, когато започват да се развиват технологиите зад днешните чатботове. По-късно основава A.G.I. House заедно с Андрей Карпати - ранен служител на OpenAI, ръководил самоуправляващите се технологии в Tesla и присъединил се към Anthropic. Затова Никсън не гледа на A.I. отвън, той познава както технологиите, така и манталитета на хората, които ги изграждат.

Неговата оценка за папската енциклика е скептична. Според него тя може да има значение за католиците, но едва ли ще повлияе на Силициевата долина. Той смята, че вниманието на технологичната общност е било привлечено главно заради участието на Кристофър Ола. За Никсън текстът на папата прилича на поредния политически документ за регулиране на A.I., а не на дълбоко независима позиция на църквата.


Мълчаливата и разделена реакция на Силициевата долина
 
Както отбелязва Ню Йорк Таймс, реакцията в Силициевата долина е сравнително сдържана. Дейвид Сакс, инвеститор от технологичния сектор и бивш „A.I. цар“ в Белия дом, се противопоставя на призивите за по-строга регулация. Той предупреждава, че ако правителствата получат широки правомощия върху развитието на A.I. в името на безопасността, същите инструменти могат да се използват за цензура, наблюдение и контрол над гражданите.

Джак Дорси, съосновател на Twitter и ръководител на Block, приема по-благосклонно друга част от папското послание - идеята, че основите на A.I. като патенти, данни и инфраструктура не трябва да бъдат концентрирани в ръцете на малцина, а да бъдат по-достъпни. Ватиканът не отговаря на искането за коментар, но контрастът между тези реакции подсказва, че технологичната среда няма единен отговор на папския призив.


Новият бог на технолозите
 
Никсън твърди, че е срещнал поколение учени, които са се отдалечили от традиционната религия и са започнали да виждат в технологията по-реална и по-мощна алтернатива. Израснали с книги като „Делюзията Бог“ на Ричард Докинс, те възприемат емпиричното знание като противовес на религиозната вяра, а A.I. - като сила, способна да постига резултати, които религиите приписват на божества. Той посочва напредъка в решаването на математически задачи и очакваните пробиви в лечението на болести като примери за тази нова надежда.

Тази нагласа според Ню Йорк Таймс вече не е маргинална. Раян Кришнан, главен изпълнителен директор на Vals AI, казва, че в Силициевата долина хората съвсем сериозно говорят за изграждане на „машинен Бог“. Не като метафора или шега, а като практическа цел. В този смисъл спорът с Ватикана не е просто за регулация, а за това какво място заема човекът в бъдеще, в което машините могат да изглеждат все по-самостоятелни и все по-мощни.


Човешкият труд срещу машинната ефективност
                      
В енцикликата си „Magnifica Humanitas“ („Великолепното човечество“) Лъв XIV настоява, че технологичният напредък не бива да изтласква човека от центъра на обществото. Особено силно той подчертава ролята на труда. Според него общество, което гарантира заетост само на малка част от населението, дори при високо техническо развитие, рискува да превърне мнозина в принудително бездействащи хора. Така материалният напредък може да се съчетае с антропологичен регрес и да подкопае справедливия социален мир.

За папата работата не е само начин за получаване на доход. Тя е част от човешкото съзряване, развитие и лична реализация. В този аргумент, както го предава Ню Йорк Таймс, A.I. не е просто икономически инструмент, а изпитание за разбирането ни за човешка стойност. Ако машините заместят хората в ключови сфери, въпросът няма да бъде само кой печели и кой губи доход, а какво се случва с чувството за смисъл, отговорност и принадлежност.


Кулата на Вавилон и въпросът дали A.I. може да преживява
 
Лъв XIV използва и библейската история за Вавилонската кула, за да предупреди Силициевата долина срещу стремежа да надмине Бога. Най-категоричното му твърдение е, че изкуственият интелект не е човешки, защото може само да имитира части от човешката интелигентност и поведение. Той не притежава тяло, не преживява радост и болка, не узрява чрез отношения и не познава отвътре любовта, труда, приятелството и отговорността.

Ола обаче представя различна картина. В кратка реч във Ватикана той казва, че при изследване на вътрешните механизми на A.I. се откриват структури, напомнящи резултати от човешката невронаука, както и функционални състояния, които приличат на радост, удовлетворение, страх, скръб и тревога. За Никсън тази реч звучи по-духовно от думите на папата, макар самият той да уточнява, че подобни твърдения не са непременно доказани научно.


Две несъвместими визии за бъдещето
 
Никсън признава, че A.I. все още е контролиран от хора - от компании и изследователи, които искат да печелят пари, да решават задачи или да постигат научни пробиви. Но според него посоката е ясна: разработчиците се стремят към технологии, които имат работа, проявяват състояния, подобни на радост и болка, и показват качества, които съвпадат или надминават човешките. Той смята, че това може да се случи в рамките на десетилетие.

Иронията на предупреждението за Вавилонската кула също не му убягва. В Google проект с името Babel е създавал преводачески технологии, които практически позволяват на хората да говорят на един общ език. Вечерта след публикуването на енцикликата Никсън и други от неговия кръг обсъждат текста в A.G.I. House. Те са съгласни, че писмото на папата вероятно няма да промени Силициевата долина. Но се питат дали Силициевата долина няма да промени папата - дали Ватиканът един ден няма да използва A.I., за да създаде своя „Нов Йерусалим“.

Така според Ню Йорк Таймс срещата между Лъв XIV и технологичните визионери се превръща в сблъсък между две представи за спасение. За папата спасението минава през защита на човешката уникалност, труда и моралната отговорност. За част от A.I. общността бъдещето изглежда като поява на нова, по-мощна форма на интелект, почти аналогична на религиозно събитие. Между тези две визии има не просто спор за правила, а спор за това какво означава да бъдеш човек.