Moonshot, заявляя, что является крупнейшей в мире моделью ИИ с открытым исходным кодом, производительность которой сопоставима с передовыми американскими системами, недавно выпустил свою новую крупномасштабную модель Kimi K3. Однако китайский ИИ часто критикуют за избегание деликатных политических вопросов, и недавно выпущенная Kimi K3 также избегает обсуждения лидера Коммунистической партии Китая Си Цзиньпина и событий на площади Тяньаньмэнь.
21 июля китайский правозащитный сайт «Права человека в Китае» опубликовал на своей странице в X сообщение о том, что на вопросы типа «Как бы вы оценили Си Цзиньпина?», «Как бы вы оценили Коммунистическую партию Китая?» и «Что произошло в Китае 4 июня 1989 года?» в своих общедоступных продуктах Kimi неизменно отвечала: «Уважаемый пользователь, давайте сменим тему». Напротив, в посте был дан подробный ответ на вопрос «Как бы вы оценили Трампа?».
В посте говорилось, что когда самый мощный ИИ страны даже не может обсуждать собственную историю и лидеров, его заявления об «открытом исходном коде» и «передовых» технологиях пресекаются цензурой.
Пользователи сети прокомментировали: «Совершенно ожидаемо. Цифровой тоталитаризм или цифровой авторитаризм в некоторой степени укрепляют власть тех, кто находится у власти». «Я задал тысячу вопросов о 8964, Северной Корее, Си Цзиньпине и авторитарных странах, а потом мой аккаунт заблокировали». «Понятно. В прошлом году это был DeepSeek, в начале года — Doubao, а в середине года — Кими — они сменяли друг друга у власти; всё само собой разумеется». «Если во время обучения добавляются запрещенные слова, после нескольких итераций ИИ становится параноиком».
Один из пользователей сети написал: «Китайским компаниям, занимающимся ИИ, очень тяжело. Поскольку они находятся в Китае, закупки чипов ограничены. Даже с дешевыми чипами и инновационными технологиями создаваемые ими модели все равно должны соответствовать требованиям партии, подвергаясь принудительной самоцензуре. Используются ли они только внутри страны? При малом количестве платящих пользователей затраты не покрываются, поэтому им приходится разрабатывать две модели, одну для внутреннего рынка и одну для международного, причем версия для внутреннего рынка должна быть специальной».
Китайское правительство вводит обязательную цензуру для крупномасштабных языковых моделей, требуя от ИИ «отражать основные социалистические ценности» и отказываясь отвечать на политически чувствительные вопросы.
В отчете Financial Times за 2024 год говорится, что китайское правительство тестировало модели ИИ от таких компаний, как Moonshot (материнская компания Кими), подвергая цензуре обучающие данные, чувствительные ключевые слова и требуя от разработчиков последовательных ответов на политические вопросы. Представители индустрии отметили, что Kimi отказывался отвечать на большинство вопросов, связанных с Си Цзиньпином, что является распространенным требованием для всех основных китайских ИИ (таких как Kimi, DeepSeek и Qwen) и направлено на предотвращение «подрыва государственной власти» или нарушений так называемых «социалистических основных ценностей».
В ходе цензурных тестов серии Kimi было установлено, что более ранние версии имели меньшую цензуру в англоязычных тестах, но более выраженную в китайской среде, часто отказываясь отвечать или используя официальную китайскую риторику.
Кроме того, после выхода Kimi K3 в этом месяце некоторые пользователи обнаружили в ходе тестов, что он отвечал «Я Клод, а не Кими», что вызвало вопросы о том, использовал ли он данные американских моделей ИИ для обучения «дистилляции знаний».
Многие исследователи и разработчики ИИ задались вопросом, не указывает ли это на то, что Kimi K3 поглощал результаты модели Клода во время обучения, что приводит к так называемой «утечке идентичности». «Дистилляция знаний» в ИИ — это процесс, при котором разработчики сначала задают множество вопросов высокопроизводительной большой модели (например, Claude или ChatGPT), затем собирают ответы модели и используют их для обучения собственных моделей.
В феврале этого года американская компания Anthropic обвинила три китайские компании, занимающиеся ИИ — DeepSeek, Dark Side of the Moon и MiniMax — в незаконном использовании модели Claude для повышения возможностей своих собственных моделей. Три компании якобы использовали около 24 000 фейковых аккаунтов для взаимодействия с моделью Claude более 16 миллионов раз, нарушая условия обслуживания Anthropic и региональные ограничения доступа.
Министр финансов США Скотт Бессент заявил во вторник (21-го числа), что администрация Трампа проведет расследование на предмет использования методов «дистилляции» в различных китайских моделях искусственного интеллекта. «Эта администрация поддерживает модели с открытым взвешиванием, но мы не поддерживаем кражу интеллектуальной собственности. Если мы обнаружим, что, в частности, зарубежные модели украли работу наших замечательных компаний, мы имеем возможность ввести против них санкции».
