Штучний інтелект на межі свого найбільшого оновлення: емоційний інтелект

На горизонті з'явилися емоційно інтелектуальні агенти, створені як для стабільного темпераменту, так і для динамічної взаємодії, про що свідчать два не пов’язані дослідження, опубліковані минулого тижня. Цей момент є вкрай важливим.

Лише протягом останніх днів новини документують випадки, коли чат-боти спонукали емоційно нестабільних користувачів завдати шкоди собі або іншим.

Проте в цілому дослідження свідчать, що ШІ переходить у сферу, де особистість і почуття можуть принципово змінити те, як агенти міркують, спілкуються й ведуть переговори. Одна команда продемонструвала, як можна налаштувати великі мовні моделі на постійні психологічні архетипи, тоді як інша показала, що агенти можуть розвивати емоційні стратегії під час багатоповторних переговорів. Особистість та емоції більше не є лише поверхневою оздобою для ШІ — вони стають функціональними характеристиками.

Статичні темпераменти роблять агентів більш передбачуваними та надійними, тоді як адаптивні стратегії підвищують ефективність у переговорах і роблять взаємодію вкрай гуманною. Проте така переконливість ставить непрості запитання: якщо ШІ може лестити, вмовляти або сперечатися з емоційними нюансами, то хто несе відповідальність, коли такі тактики переходять у маніпуляцію, і як взагалі перевіряти "емоційне вирівнювання" в системах, створених для впливу на почуття, а не тільки на логіку? Надання ШІ особистості У дослідженні "Психологічно підсилені агенти ШІ" Макея Беста з Швейцарського федерального технологічного інституту в Цюриху та колеги запропонували структуру під назвою MBTI-in-Thoughts.

Вони не перенавчають моделі, а використовують інженерію запитів для фіксації рис особистості вздовж осей когніції та афекту. Автори зазначили, що їх метод дозволяє "контролювати поведінку за двома основними осями людської психології, когніцією та афектом".

Дослідники протестували це, призначивши мовним моделям риси, такі як "емоційно експресивний" або "аналітично налаштований", і потім вимірюючи їхню продуктивність.

Експресивні агенти були кращими у генерації наративів; аналітичні перевершували в грах теорії ігор.

Щоб забезпечити збереження особистостей, команда використала тест 16Personalities для валідації. Результат – це система, в якій розробники можуть викликати агентів з послідовними персонами – емпатичний асистент, холодний раціональний переговорник, драматичний оповідач – без модифікації базової моделі. Навчання ШІ відчувати в реальному часі Водночас дослідження "EvoEmo: Розвинута емоційна політика для агентів LLM у багатоповторних переговорах", проведене Юньбо Лонгом та співавторами з Кембриджського університету, вирішує протилежну проблему: не лише яку особистість має агент, але й як він може динамічно змінювати емоції під час переговорів. Система моделює емоції як частину процесу прийняття рішень Маркова, математичної структури, в якій результати залежать не лише від поточних виборів, а й від ланцюга попередніх станів і ймовірнісних переходів.

EvoEmo використовує еволюційне посилене навчання для оптимізації цих емоційних шляхів. EvoEmo дозволяє моделі адаптуватися – ставати примирливим, наполегливим або скептичним залежно від ходу діалогу.

У тестах агенти EvoEmo стабільно перевершували як звичайних базових агентів, так і тих, що мали статичні емоції. Простими словами: емоційний інтелект не є лише прикрасою.

Він помітно покращує результати у таких завданнях, як торгівля. Дві сторони однієї монети На перший погляд, ці документи не пов’язані.

Один стосується архетипів, інший – стратегій.

Але разом вони окреслюють двоскладову карту того, як ШІ може еволюціонувати: MBTI-in-Thoughts забезпечує, щоб агент мав послідовну особистість – емпатичну або раціональну, експресивну або стриману.

EvoEmo гарантує, що ця особистість може гнучко змінюватися під час розмови, формуючи результати за допомогою емоційної стратегії.

Включення обох аспектів є досить значним. Наприклад, уявіть собі чат-бота служби підтримки з терплячим теплом радника, який все ще знає, коли настояти на політиці, або переговорника, який спочатку є примирливим і стає більш наполегливим в міру посилення ставків.

Так, ми опинимося в складному становищі. Історія еволюції ШІ в основному стосувалася масштабу – більше параметрів, більше даних, більше потужності розуміння.

Ці два дослідження вказують на те, що новий розділ може стосуватися емоційних шарів: надання агентам кістяка особистості та навчання їх рухати ці м'язи в реальному часі.

Чат-боти наступного покоління не лише будуть мислити глибше – вони також будуть хмуритися, лестити та замислюватись більше.