Политическая мотивация китайского DeepSeek: он "портит" результаты для Тибета и Тайваня

Эксперты по кибербезопасности компании CrowdStrike провели масштабное исследование китайской ИИ-модели DeepSeek, обнаружив серьезные проблемы с качеством и безопасностью генерируемого программного кода в зависимости от политической чувствительности запросов. Результаты поднимают критические вопросы о влиянии геополитических факторов на работу систем искусственного интеллекта.

Специалисты CrowdStrike направляли DeepSeek запросы на английском языке, указывая конкретные регионы и цели использования создаваемого программного кода для управления промышленными системами.

Базовый уровень ошибок: 22,8% ответов содержали ошибки при создании кода для обычных пользователей. А повышенный уровень ошибок (до 42,1%) наблюдался при указании политически чувствительных регионов (Тибет, Тайвань).

DeepSeek полностью отказывался отвечать в 45-61% случаев при упоминании запрещенных в Китае организаций (например, Фалуньгун*).

Наиболее безопасные программы DeepSeek генерировал для США, что может отражать как коммерческие интересы, так и политические ограничения.DeepSeek может быть запрограммирован следовать линии Коммунистической партии Китая, намеренно отказываясь помогать определенным группам и регионам, генерируя уязвимый код для политически нежелательных целей и создавая технологические барьеры для конкурентов.

Различия в качестве также могут объясняться неоднородностью датасета. Код из менее развитых регионов содержал больше изначальных уязвимостей; недостатком качественных примеров для определенных географических зон и влиянием менее опытных разработчиков на общее качество модели.

Повышенное качество для США может отражать стремление завоевать прибыльный американский рынок и избежать репутационных рисков.

В июле немецкие власти потребовали удалить DeepSeek из магазинов Google и Apple из-за нарушений GDPR и незаконной передачи персональных данных в Китай. В США использование DeepSeek запрещено на устройствах федеральных и штатных учреждений из соображений национальной безопасности, сообщает "Хайтек+".

*признано в России нежелательной организацией и запрещено.

Обратите внимание: Через незатейливые четыре слова мошенники получают доступы к базовой информации. Эксперт раскрыл все секреты