Искусственный интеллект на пороге своего самого крупного обновления: эмоциональный интеллект

На горизонте появились эмоционально интеллектуальные агенты, созданные как для стабильного темперамента, так и для динамичного взаимодействия, о чем свидетельствуют два несвязанных исследования, опубликованные на прошлой неделе. Этот момент крайне важен.

Лишь в последние дни новости фиксируют случаи, когда чат-боты подталкивали эмоционально нестабильных пользователей причинять вред себе или другим.

Однако в целом исследования свидетельствуют, что ИИ переходит в сферу, где личность и чувства могут принципиально изменить то, как агенты размышляют, общаются и ведут переговоры. Одна команда продемонстрировала, как можно настроить большие языковые модели на постоянные психологические архетипы, в то время как другая показала, что агенты могут развивать эмоциональные стратегии во время многократных переговоров. Личность и эмоции больше не являются лишь поверхностным украшением для ИИ — они становятся функциональными характеристиками.

Статические темпераменты делают агентов более предсказуемыми и надежными, тогда как адаптивные стратегии повышают эффективность в переговорах и делают взаимодействие крайне гуманным. Однако такая убедительность ставит непростые вопросы: если ИИ может льстить, уговаривать или спорить с эмоциональными нюансами, то кто несет ответственность, когда такие тактики переходят вManipulation, и как вообще проверять "эмоциональное выравнивание" в системах, созданных для влияния на чувства, а не только на логику? Предоставление ИИ личности В исследовании "Психологически усиленные агенты ИИ" Макая Беста из Швейцарского федерального технологического института в Цюрихе и коллеги предложили структуру под названием MBTI-in-Thoughts.

Они не перенастраивают модели, а используют инженерия запросов для фиксации черт личности вдоль осей когниции и аффекта. Авторы отметили, что их метод позволяет "контролировать поведение по двум основным осям человеческой психологии, когниции и аффекту".

Исследователи протестировали это, назначив языковым моделям черты, такие как "эмоционально экспрессивный" или "аналитически настроенный", а затем измеряя их производительность.

Экспрессивные агенты были лучше в генерации нарративов; аналитические превосходили в играх теории игр.

Чтобы обеспечить сохранение личностей, команда использовала тест 16Personalities для валидации. Результат — это система, в которой разработчики могут вызывать агентов с последовательными персонами — эмпатический ассистент, холодный рациональный переговорщик, драматический рассказчик — без модификации базовой модели. Обучение ИИ чувствовать в реальном времени В то же время исследование "EvoEmo: Развинутая эмоциональная политика для агентов LLM в многократных переговорах", проведенное Юньбо Лонгом и соавторами из Кембриджского университета, решает противоположную проблему: не только какую личность имеет агент, но и как он может динамически изменять эмоции во время переговоров. Система моделирует эмоции как часть процесса принятия решений Маркова, математической структуры, в которой результаты зависят не только от текущих выборов, но и от цепочки предыдущих состояний и вероятностных переходов.

EvoEmo использует эволюционно усиленное обучение для оптимизации этих эмоциональных путей. EvoEmo позволяет модели адаптироваться — становиться примирительным, настойчивым или скептическим в зависимости от хода диалога.

В тестах агенты EvoEmo стабильно превосходили как обычных базовых агентов, так и тех, что имели статические эмоции. Простыми словами: эмоциональный интеллект не является лишь украшением.

Он заметно улучшает результаты в таких задачах, как торговля. Две стороны одной монеты На первый взгляд, эти документы не связаны.

Один относится к архетипам, другой — к стратегиям.

Но вместе они очерчивают двусоставную карту того, как ИИ может эволюционировать: MBTI-in-Thoughts обеспечивает, чтобы агент имел последовательную личность — эмпатичную или рациональную, экспрессивную или сдержанную.

EvoEmo гарантирует, что эта личность может гибко изменяться во время разговора, формируя результаты с помощью эмоциональной стратегии.

Включение обоих аспектов является достаточно значительным. Например, представьте себе чат-бота службы поддержки с терпеливым теплом консультанта, который все еще знает, когда настаивать на политике, или переговорщика, который сначала является примирительным и становится более настойчивым по мере повышения ставок.

Так, мы окажемся в сложном положении. История эволюции ИИ в основном касалась масштаба — больше параметров, больше данных, больше мощности понимания.

Эти два исследования указывают на то, что новый раздел может касаться эмоциональных слоев: предоставление агентам каркаса личности и обучение их двигать эти мышцы в реальном времени.

Чат-боты следующего поколения не только будут мыслить глубже — они также будут хмуриться, льстить и размышлять больше.