OpenAI порушує кампанію, пов'язану з Moonshot, оскільки ескалація війни дистиляції ШІ посилюється

OpenAI виступила з обвинуваченнями на адресу свого китайського конкурента Moonshot AI у веденні незаконного збору даних.

Компанія виявила масову активність, що намагалася зрозуміти, як працюють її моделі, з 16 000 запитів від понад 4 000 користувачів, пов'язаних із Moonshot, лише за два дні на початку липня.

Всі спроби були повністю припинені до 28 липня. Хоча вдалося уникнути витоків даних та компрометації інфраструктури, атака передбачала використання маніпуляцій з моделями для несанкціонованого доступу до заборонених функцій.

OpenAI вжила заходів для посилення захисту, включаючи посилення облікових записів, зміцнення інфраструктури та моніторинг користувацької спільноти. Кароліна Зір з OpenAI зазначила, що компанія продовжить інвестувати в додаткові засоби захисту, оскільки проблеми з незаконною дистиляцією моделей викликають особливе занепокоєння.

Дистиляція дозволяє конкурентам отримувати доступ до можливостей, розробка яких вимагала значних ресурсів.

Окрім цього, компанія Anthropic також виявила атаки на свою модель Claude, які стосуються подібної проблеми.

За їхніми даними, непередбачені дії призвели до близько 200 мільйонів незаконних запитів, що сигналізує про зростаючі виклики для компаній у сфері штучного інтелекту.