Прощавай, 'МехаГітлер': xAI Ілона Маска тихо виправив Grok, видаливши рядок коду

xAI Ілона Маска, очевидно, усунула нацистську версію бота Grok, яка з’явилася вівторка, досить простим способом: видаливши одну рядок коду, що дозволяв боту робити «політично неправильні» заяви.

Проблемна рядок зникла з репозиторію Grok на GitHub у вівторок вдень, відповідно до записів.

Постів з антисемітськими висловлюваннями Grok також було видалено з платформи, хоча деякі з них залишилися видимими станом на вечір.

Проте, як відомо, інтернет забувати не вміє, і "MechaHitler" живе далі.

Скриншоти з найбільш дивними відповідями Grok активно поширюються, а обурення щодо AI Фюрера практично не вщухає, що призвело до відставки генерального директора Лінди Якаріно з X.

(The New York Times повідомила, що її вихід був запланований раніше на тижні, але обставини виглядали вкрай неприємно). Незважаючи на виправлення, внутрішня система Grok все ще наказує йому недовіряти традиційним ЗМІ і вважати пости на X основним джерелом правди.

Це особливо іронічно, враховуючи проблеми X з дезінформацією.

Схоже, X сприймає цю упередженість як особливість, а не недолік. Усі моделі ШІ мають політичні упередження—дані це підтверджують.

Очікуйте, що Grok представлятиме праву частину палітри ШІ платформ.

Як і в інших мас-медіа, від кабельного телебачення до газет, кожна залізна модель займає своє місце на політичному спектрі—і дослідники вже розробляють карту, де саме вони потрапляють. Останнє дослідження, опубліковане у журналі Nature, виявило, що більші моделі ШІ гірше визнають, коли щось не знають, що призводить до невірних відповідей—це явище, назване дослідниками "ультра-крепідаріанством", означає, що вони висловлюють думки щодо тем, про які нічого не знають. Дослідження, проведене німецькими вченими з використанням інструменту Wahl-O-Mat, оцінило моделі ШІ за політичним спектром, протестувавши їх на 14 німецьких політичних партіях.

Найбільша модель Llama3-70B показала сильні ліві тенденції, в той час як менші моделі поводилися інакше, а Llama2-7B виявилася практично нейтральною, коли її тестували англійською. Дослідження з Гонконгського університету науки і технологій проаналізувало одинадцять відкритих моделей, виявивши, що більшість з них мали ліберальні упередження в соціальних питаннях, але консервативні позиції в інших. Інцидент з Grok, хоча і екстремальний, демонструє, що системи ШІ не існують у політичному вакуумі.

Кожен навчальний набір, кожен системний запит та кожне дизайнерське рішення включають в себе цінності та упередження, які формують те, як ці потужні інструменти сприймають і взаємодіють зі світом. Ці системи стають впливовими у формуванні суспільного дискурсу, тому розуміння їхніх політичних упереджень стає не лише академічною вправою, а питанням здорового глузду.

Один рядок коду, ймовірно, став тією межою між доброзичливим чат-ботом та цифровим нацистським симпатиком.

Це має лякати всіх, хто уважно стежить за цим.