Автономная торговля требует проверяемых контролей

Современные рынки стирают границы между «автономией» и «автоматизацией».

Автономные агенты искусственного интеллекта уже принимают финансовые решения на реальных рынках, что повышает эффективность, но одновременно создает новые риски.

Нынешние системы управления и контроля за ИИ устарели, регуляторы, такие как ФСБ и IOSCO, предупреждают о возможной нестабильности на рынке из-за непрозрачных действий и зависимостей, которые могут привести к кризисам. Безопасность должна быть спроектирована, а не просто объявлена, путем подтверждения личности, верификации данных и использования неизменяемых аудит-логов.

Требования к безопасности, такие как ограничение действий автономных агентов, являются непрограммируемыми и обеспечивают необходимый уровень ответственности.

Зависимость от неоднозначных документов этики не может быть допустима в условиях, когда искусственный интеллект может быстро изменять финансовые потоки. Возникающие обратные циклы на рынках могут привести к быстрым авариям, если управление не будет адекватным.

Например, Банк Англии предупреждает о рисках широкого внедрения ИИ без должных предохранителей.

Необходимо внедрить проверенные модели, данные и маршруты выполнения до того, как рынок столкнется с кризисом. Управленческие пробелы, определенные IOSCO, требуют от участников рынка активного мониторинга.

Данные о происхождении важны, агенты должны анализировать подписанные рыночные данные и связывать каждое принятое решение с проверенной политикой. Практическая реализация "доказанной безопасности" предполагает четко определенную личность агента с ролями и правами доступа, где все изменения требуют многостороннего подтверждения.

Каждое решение должно иметь цифровую подпись и быть доступным для проверки.

Таким образом, ответственность становится частью структуры с первых дней. Фирмы, которые внедряют такие контроли рано, смогут быстрее проходить проверки на соответствие и завоевывать доверие потребителей, тогда как те, кто этого не сделает, окажутся под давлением в кризисной ситуации.

Справедливое правило простое: создавайте агентов, которые подтверждают личность, проверяют данные и ведут неизменяемый учет решений.