AI ще ни накара да се замислим какво ни прави хора

Текстът е публикуван в бр. 3 (55) на сп. Business Global

Проф. Вечев, какви са основните пробиви, които очаквате в областта на изкуствения интелект (AI) през следващите 10 години?

Едно от фундаменталните предизвикателства днес е нуждата от голям обем данни, върху които да се обучи изкуственият интелект. Очаквам идните години да се разработят AI модели, които изискват много по-малко данни, и съответно много по-малко изчислителни ресурси и разходи. Това ще изискваПроф. МАРТИН ВЕЧЕВ е основен идеолог и двигател на създаването на Института за компютърни науки, изкуствен интелект и технологии (INSAIT) към Софийския университет „Св. Климент Охридски“. Той е  един от водещите учени в света на компютърните науки и изкуствения интелект. Носител е на множество международни награди, включително на наградата „Джон Атанасов“ за постижения в областта на компютърните и информационните технологии (2009). Предприемач и съосновател на три успешни дълбокотехнологични (deep-tech) стартъпа, известни в международен мащаб.
♦♦♦
Институтът за компютърни науки, изкуствен интелект и технологии (INSAIT) е създаден през 2022 г.  като специално звено към Софийския университет „Св. Климент Охридски“. Неговото създаване е в партньорство с два от водещите технологични университета в света - Федералния технологичен институт в Цюрих (ETH Zurich) и Политехническия университет в Лозана (EPFL) чрез международно споразумение, ратифицирано от Народното събрание. Световноизвестни учени от САЩ, Израел и Швейцария ръководят и съветват центъра според най-добрите практики.
Мисията на INSAIT е да превърне България в световна дестинация за изследвания и иновации, както и в център на нова екосистема с пряко въздействие върху развитието на страната.  съвсем нови методи за обучение на AI, тоест повече топ изследвания и иновации в сферата – нещо, което прави INSAIT в България.

Възможно ли е да достигнем ниво на изкуствен интелект, който самостоятелно да генерира научни открития и иновации?

Да. Това вече се случва в определени научни сфери. Например Нобеловата награда по химия за 2024 г. се присъди именно за постижение, създадено с изкуствен интелект. То беше в сферата на откриването на нови лекарства. Това ще се случва все повече. Скоро няма да има (която и да е) сфера, ще има  AI + X.

Какви са основните научни и етични предизвикателства пред разработката на т.нар. изкуствен общ интелект (General AI), който ще е неразличим от човешкия интелект и дори ще го превъзхожда?

Както вече споменах, обучението с малък обем данни, много пъти по-малък от това, което се изисква днес. Тоест идеята е да се достигне до минимален обем, подобен на този, който се използва от хората, за да научават нови концепции. Едно дете няма нужда да види 10 000 снимки на слон, за да се научи, че това е слон.

Друго важно направление е създаването на AI модели, върху които могат да се доказват критични свойства, например сигурност, справедливост и т.н., тъй като в момента това е много трудно да се постигне. В резултат AI моделите са изключително неустойчиви – понякога работят добре, друг път не.

Как ще се промени ролята на човека в икономиката и индустрията, когато AI започне да изпълнява все по-комплексни творчески и интелектуални задачи?

Промените ще са фундаментални и трайни. За добро или лошо, няма да има сфера, която да не бъде засегната от AI. Хората ще трябва да се научат да работят с този инструмент, да го управляват и да го използват пълноценно. В някакъв смисъл изкуственият интелект ще ни накара да се замислим и да разберем, поне донякъде, какво всъщност е това, което ни прави хора, тъй като той все повече ще може да ни имитира и да наподобява човек, когато някой си пише или си говори с него. Това е нормално, тъй като той се учи от данни, продуцирани от хора.

Виждате ли риск от цифров елитаризъм, при който само големите технологични корпорации ще контролират достъпа до най-напредналите AI системи? Или обратното – AI ще става все по-демократизиран?

Мисля, че AI ще става все по-отворен, както се случи и с отворения софтуер през последните 40, а и повече години. Поради тази причина е изключително важно всяка държава да има експертизата да доизгражда, променя, доразвива и комбинира тези системи, приложения и техники за изкуствен интелект, за да може самата тя да решава сложни задачи. Тоест тя трябва да бъде автономна от гледна точка на AI. Тук е ясно, че и ролята на INSAIT за България ще става все по-фундаментално важна, бих казал, от стратегическо значение. Без места като INSAIT де факто държавата остава сляпа и зависима от трети страни, които ще ни казват кое е правилно и кое не – нещо, което е добре да избегнем.

Как можем да предотвратим неконтролираното разпространение на мощни AI технологии, които могат да бъдат използвани за злонамерени цели?

Трудно е да се спре, поне от това, което наблюдаваме до момента в технологиите, не само в изкуствения интелект. Ако дадена технология върши работа, то хората ще намерят начин да я използват за всякакви цели. Най-добрата защита за дадена държава или организация е да има на разположение сериозни институции (както е INSAIT) физически намясто, за да може своевременно да се реагира на опасности, генерирани от AI, като например атаки върху критична инфраструктура и т.н.

Как виждате ролята на INSAIT в европейската стратегия за изкуствен интелект през следващите 10 години?

INSAIT е вече добре известен в Европа и по света като място, където се правят топ изследвания и се измислят нови технологии. Всъщност е невероятно колко много хора от всякакви места по света вече знаят за INSAIT. Политици, предприемачи, учени и много други от различни държави често ни пишат и искат среща, за да разберат защо INSAIT е толкова успешен и как това е станало именно в България. Смятам, че INSAIT вече е поставил България на световната технологична карта и чрез него България става една от държавите лидери не само в Европа, но и в света.

Какви са основните изследователски направления, в които INSAIT ще бъде лидер в рамките на европейската AI екосистема?

Специално в AI, INSAIT работи по създаването на специализирани GPT-тип модели, както например е BgGPT (https://bggpt.ai), който създадохме за България, а сега правим такива топ практични модели и за други държави. Това позиционира България като технологичен лидер – не само потребител на технологии, а място, където се измислят тези модерни технологии. Други AI направления включват AI за роботика, AI за земно наблюдение, обработка на естествен език, машинно обучение, сигурност на AI и много други подсфери.

Важно е да се знае, че INSAIT не работи само по AI, тъй като напредъкът в технологиите включва и други стратегически сфери. Например работим в сферата на информационната сигурност, на квантовите изчисления, на алгоритмите и т.н.

INSAIT и „София Тех Парк“ ще създават една от шестте нови „AI фабрики“ в ЕС – какво означава този проект за България?

Този проект е отличен пример какво може да се случи в България, когато институциите си партнират и работят съвместно за бъдещето на страната. В случая това са INSAIT и „София Тех Парк“, и по-точно екипът, който поддържа и развива суперкомпютъра Discoverer. Този проект е признание за България и позиционира държавата ни като един от сериозните играчи в AI в Европа. Фабриката сама по себе си означава, че INSAIT, но и българските компании и бизнеси ще имат достъп до изчислителна мощ намясто в София, която е нужна за съвременното ползване, внедряване и надграждане на изкуствения интелект.

Какви са амбициите на INSAIT за следващите 10 – 20 години – може ли институтът да стане водеща европейска AI институция, с постижения, сравними тези на OpenAI или Google DeepMind?

Целта на INSAIT никога не е била да бъде водеща европейска институция. Тя винаги е била той да бъде един от най-добрите институти в света в изкуствения интелект, информатиката и технологиите като цяло. INSAIT е държавен институт, подобен на много от топ университетите на Запад като ETH Zurich и EPFL в Швейцария, Оксфорд и Кеймбридж в Англия, и други такива в САЩ, Китай и Израел. Така че е по-правилно той да се сравнява с тези институции, а не с компании.

В сферите, в които работи, INSAIT вече е един от най-реномираните институти в света. Затова и много хора от цял свят искат да дойдат и да работят в INSAIT в София. Например днес при нас работят хора от 23 националности. Ето един интересен факт за реномето на INSAIT – само преди седмица един от най-сериозните учени в Станфорд в сферата на криптографията ми разказа как проф. Робърт Тарджан, легенда в информатиката (с Тюринг награда, еквивалент на Нобел за информатика) разказва навсякъде из топ университетите на САЩ колко специално място е INSAIT. Същото важи и за изпълнителните директори на най-известните технологични компании в света, те също говорят за INSAIT. Истината е проста и тя е, че INSAIT е невероятен за България, и тя не трябва да го изпуска, а да инвестира максимални усилия и ресурси в него. INSAIT е като златната пръчица – до каквото и да се докосне, той го прави да е по-добро.

Как виждате ролята на INSAIT в развитието на AI стартъпи в България и създаването на иновационна екосистема?

Жизненоважна. Ако България иска един ден да има технологична екосистема като Швейцария, САЩ, Израел, Китай и други, то няма друг начин освен чрез мощни инвестиции в INSAIT, т.е. в институции, където се правят топ изследвания от много силни учени и студенти от цял свят. Без изключение всички сериозни технологични екосистеми са центрирани около такива институции, тъй като оттам идват талантите, които после създават стартъпите и заради които компании като OpenAI, Google и други отварят офиси. Изграждането на сериозни екосистеми е сложен процес и INSAIT е първата важна стъпка за това. Институтът открива безпрецедентни възможности за България. Разбира се, в този контекст INSAIT вече създаде няколко стартъпа, естествен страничен ефект за този тип институти. Очаквам повече такива идните години.