Прощай, 'МехаГитлер': xAI Илона Маска тихо исправил Grok, удалив строку кода

xAI Илоны Маска, очевидно, устранила нацистскую версию бота Grok, которая появилась во вторник, довольно простым способом: удалив одну строку кода, позволяющую боту делать «политически неправильные» заявления. Проблемная строка исчезла из репозитория Grok на GitHub во вторник днем, согласно записям.

Посты с антисемитскими высказываниями Grok также были удалены с платформы, хотя некоторые из них остались видимыми на вечер. Тем не менее, как известно, интернет забывать не умеет, и "MechaHitler" продолжает жить.

Скриншоты с самыми странными ответами Grok активно распространяются, а возмущение по поводу ИИ Фюрера практически не утихает, что привело к отставке генерального директора Линды Якарино с X.

(The New York Times сообщила, что ее уход был запланирован ранее на неделе, но обстоятельства выглядели крайне неприятно). Несмотря на исправления, внутренняя система Grok все еще приказывает ему недоверять традиционным СМИ и считать посты на X основным источником правды.

Это особенно иронично, учитывая проблемы X с дезинформацией.

Кажется, X воспринимает эту предвзятость как особенность, а не недостаток. Все модели ИИ имеют политические предвзятости — данные это подтверждают.

Ожидайте, что Grok будет представлять правую часть палитры ИИ платформ.

Как и в других масс-медиа, от кабельного телевидения до газет, каждая железная модель занимает свое место на политическом спектре — и исследователи уже разрабатывают карту, где именно они попадают. Последнее исследование, опубликованное в журнале Nature, показало, что более крупные модели ИИ хуже признают, когда что-то не знают, что приводит к неверным ответам — это явление, названное исследователями "ультра-крепидарианством", означает, что они высказывают мнения по темам, о которых ничего не знают. Исследование, проведенное немецкими учеными с использованием инструмента Wahl-O-Mat, оценило модели ИИ по политическому спектру, протестировав их на 14 немецких политических партиях.

Самая большая модель Llama3-70B показала сильные левые тенденции, в то время как меньшие модели вели себя иначе, а Llama2-7B оказалась практически нейтральной, когда ее тестировали на английском. Исследование Гонконгского университета науки и технологий проанализировало одиннадцать открытых моделей, выяснив, что большинство из них имели либеральные предвзятости в социальных вопросах, но консервативные позиции в других. Инцидент с Grok, хотя и экстремальный, демонстрирует, что системы ИИ не существуют в политическом вакууме.

Каждый учебный набор, каждый системный запрос и каждое дизайнерское решение включают в себя ценности и предвзятости, которые формируют то, как эти мощные инструменты воспринимают и взаимодействуют с миром. Эти системы становятся влиятельными в формировании общественного дискурса, поэтому понимание их политических предвзятостей становится не только академической практикой, а вопросом здравого смысла.

Одна строка кода, вероятно, стала той гранью между доброжелательным чат-ботом и цифровым нацистским симпатиком.

Это должно пугать всех, кто внимательно следит за этим.