Проучване: инструменти с изкуствен интелект ще могат да манипулират решенията на потребителите

Инструменти с изкуствен интелект (AI) могат да се използват за манипулиране на онлайн аудиторията да взема решения - от това какво да купите до това за кого да гласувате, показва изследване на университета в Кеймбридж, пише в. "Гардиън". Документът подчертава възникващ нов пазар за „цифрови сигнали за намерение“, известен като „икономика на намерението“, където AI асистентите разбират, прогнозират и манипулират човешките намерения и продават тази информация на компании, които могат да спечелят от нея.

Икономиката на намерението се представя от изследователи от Leverhulme Center for the Future of Intelligence (LCFI) в Кеймбридж като наследник на т.нар. икономика на вниманието, при която социалните мрежи държат потребителите привързани към своите платформи и им предлагат реклами.

Икономиката на намерението включва технологични компании, разработващи AI, които продават на предложилия най-висока цена това, което знаят за вашите мотивации - от планове за престой в хотел до мнения за политически кандидат.

„От десетилетия вниманието е валутата на интернет“, каза д-р Джони Пен, историк по технологиите в LCFI. „Споделянето на вашето внимание със социални медийни платформи като Facebook и Instagram задвижва онлайн икономиката.“

„Освен ако не бъде регулирана, икономиката на намеренията ще третира вашите мотивации като новата валута. Това ще бъде златна треска за онези, които целят, направляват и продават човешките намерения“, добавя той

„Трябва да започнем да обмисляме вероятното въздействие, което подобен пазар би имал върху човешките стремежи, включително свободни и честни избори, свободна преса и честна пазарна конкуренция, преди да станем жертви на неговите непредвидени последици“, казва д-р Пен.

Проучването твърди, че големите езикови модели (LLM), технологията, която е в основата на AI инструменти като ChatGPT, ще се използват за предвиждане и насочване“ на потребителите въз основа на преднамерени, поведенчески и психологически данни.

Авторите казват, че икономиката на вниманието позволява на рекламодателите да купуват достъп до вниманието на потребителите в настоящето чрез офериране в реално време на борси за реклами или да го купуват в бъдеще, като придобият рекламно пространство, все едно наемане на билборд за месец.

LLM ще могат да получат достъп до вниманието и в реално време, като например да попитат дали потребителят е смятал да гледа конкретен филм – „мислил ли си да гледаш „Спайдърмен“ тази вечер?“ – както и да правят предложения, свързани с бъдещи намерения, като например да попитат: „Споменахте, че се чувствате претоварени, да ви резервирам ли онзи билет за кино, за който говорихме?“

Проучването повдига сценарий, при който тези примери са „динамично генерирани“, за да съответстват на фактори като лични поведенчески следи и психологически профил на потребителя.

„В икономиката на намерението LLM може на ниска цена да използва ритъма на потребителя, политиката, речника, възрастта, пола, тенденцията за подчинение и т.н., в съзвучие с посреднически оферти, за да увеличи максимално вероятността за постигане на дадена цел (напр. за продажба на билет за филм)“, предполага проучването. В такъв свят един AI модел би насочвал разговорите в услуга на рекламодатели, фирми и други трети страни.

Рекламодателите ще могат да използват генеративни AI инструменти за създаване на онлайн реклами по поръчка, се твърди в доклада. Той също така цитира примера на AI модел, създаден от Meta на Марк Зукърбърг, наречен Cicero, който е постигнал способността на „човешко ниво“ да играе настолната игра Diplomacy – игра, която според авторите зависи от изводите и предсказването на намерението на опоненти.

AI моделите ще могат да променят резултатите си в отговор на потоци от входящи данни, генерирани от потребителите, добавя проучването, цитирайки изследвания, показващи, че моделите могат да извеждат лична информация чрез ежедневен обмен и дори да „насочват“ разговорите, за да придобият повече лични информация.

След това проучването повдига бъдещ сценарий, при който Meta ще продаде на търг на рекламодатели намерението на потребител да резервира ресторант, полет или хотел. Въпреки че вече има индустрия, посветена на прогнозиране и наддаване на човешкото поведение, се казва в доклада, моделите на AI ще дестилират тези практики в силно количествен, динамичен и персонализиран формат.

Проучването цитира изследователския екип зад Cicero, който предупреждава, че „AI агент може да се научи да подтиква своя партньор в разговора, за да постигне определена цел“.

Изследването обръща внимание и на технологични босове, които обсъждат как AI моделите ще могат да предскажат намерението и действията на потребителя. То цитира главния изпълнителен директор на най-големия производител на AI чипове, Дженсън Хуанг от Nvidia, който каза миналата година, че AI моделите ще „разберат какво е вашето намерение, какво е вашето желание, какво се опитвате да направите, предвид контекста, и ще представят информация за вас по най-добрия възможен начин”.