Штучний інтелект руйнує інтернет. Математика

Нещодавно штучно згенерований контент сприймався лише як розвага, але тепер ситуація змінилася.

Конфлікт в Ірані продемонстрував, що синтетичні відео, такі як фейкові кадри затриманих американських солдатів і іранських винищувачів, стають вірусними, з'єднуючи сотні мільйонів глядачів ще до того, як їх можна перевірити.

Ми живемо в кризі довіри, що виходить за межі видимого. Попри спроби створити краще програмне забезпечення для виявлення фейкових зображень, ці зусилля не виправдовують себе, оскільки зловмисники завжди мають перевагу.

Сьогодні штучний інтелект діє автономно: він робить покупки, публікує контент, веде переговори, взаємодіючи з людьми, часто без їх відома.

Підсумки таких дій можуть бути катастрофічними, призводячи до великих фінансових втрат. В інтернеті, де чинники довіри стали об'єктами сумнівів, важливо замінити віру на гарантії.

Необхідно впроваджувати технології, які підтверджують, хто і що діє в системах.

Наприклад, криптографія нульового знання дозволяє перевіряти ідентичність без розкриття конфіденційних даних. Це питання вже не тільки захисту споживачів, а й національної безпеки, оскільки іноземні суперники можуть маніпулювати громадянами, використовуючи автономні системи.

Політика повинна відповідати цьому виклику: Конгрес США має вимагати, щоб високоефективні агенти штучного інтелекту, що взаємодіють з фінансами або неповнолітніми, мали криптографічні підтвердження, які можуть перевірити будь-яка сторона без розкриття приватної інформації.

Технічні основи цього вже закладаються, тому важливо, щоб підходи до захисту були пріоритетними.