Автономна торгівля вимагає перевірених контролів

Сучасні ринки стирають межі між «автономією» та «автоматизацією».

Автономні агенти штучного інтелекту вже здійснюють фінансові рішення в реальних ринках, що підвищує ефективність, але водночас створює нові ризики.

Нинішні системи управління та контролю за ШІ застарілі, регулятори, такі як ФСБ і IOSCO, попереджають про можливу нестабільність на ринку через непрозорі дії та залежності, які можуть призвести до криз.

Безпека повинна бути спроєктована, а не просто оголошена, шляхом підтвердження особистості, верифікації даних та використання незмінних аудит-логів.

Вимоги щодо безпеки, такі як обмеження дій автономних агентів, є непрограмованими і забезпечують необхідний рівень відповідальності.

Залежність від неоднозначних документів етики не може бути допустимою в умовах, коли штучний інтелект може швидко змінювати фінансові потоки. Виникаючі відгукові цикли в ринках можуть призвести до швидких аварій, якщо управління не буде адекватним.

Наприклад, Банк Англії попереджає про ризики широкого впровадження ШІ без належних запобіжників.

Необхідно впровадити перевірені моделі, дані та маршрути виконання до того, як ринок зіткнеться з кризою. Управлінські прогалини, визначені IOSCO, вимагають від ринкових учасників активного моніторингу.

Дані про походження є важливими, агенти повинні аналізувати підписані ринкові дані та зв'язувати щораз прийняті рішення з перевіреною політикою.

Практична реалізація "доведеної безпеки" передбачає чітко визначену особистість агента з ролями та правами доступу, де всі зміни вимагають багатостороннього підтвердження.

Кожне рішення повинно мати цифровий підпис та бути доступним для перевірки.

Таким чином, відповідальність стає частиною структури з перших днів. Фірми, які впроваджують такі контролі рано, зможуть швидше проходити перевірки на відповідність і довіряти споживачам, тоді як ті, хто цього не зробить, опиняться під тиском у кризовій ситуації.

Справедливе правило просте: створюйте агентів, які підтверджують особу, перевіряють дані та ведуть незмінний облік рішень.