автор: Эдуардо Баптиста
Резюме
- Китайские военные исследователи адаптируют американские модели, свидетельствуют документы
- Дистилляция проводится для создания более компактных и защищенных версий модели
- Дистилляция стала камнем преткновения в отношениях между США и Китаем на фоне обострения конкуренции в сфере ИИ
- Дистилляция не может заменить масштабные вычисления, необходимые для разработки передового ИИ с нуля
ПЕКИН, 31 июля (Reuters). Согласно обзору более 80 китайских научных статей и патентов, проведённому агентством Reuters, китайские военные исследователи использовали результаты работы ведущих американских моделей искусственного интеллекта, разработанных компаниями OpenAI и Anthropic, для обучения отечественных систем искусственного интеллекта с целью укрепления оборонного потенциала Китая. Ранее не публиковавшиеся данные дают редкую возможность взглянуть на то, как военные и связанные с безопасностью структуры в Китае используют передовые американские модели искусственного интеллекта для разработки собственных специализированных систем, несмотря на попытки Вашингтона ограничить доступ Пекина к передовым чипам и другим стратегическим технологиям.
Документы свидетельствуют о широком использовании метода, известного как «дистилляция модели,» при котором результаты работы мощной системы искусственного интеллекта используются для обучения более компактных специализированных моделей, которые можно развернуть локально, не прибегая к огромным вычислительным мощностям, необходимым для создания передовых систем искусственного интеллекта с нуля. Обзор Reuters, в который вошли исследования, собранные вашингтонским Джеймстаунским фондом и предоставленные исключительно информационному агентству, показал, что дистилляция широко используется исследователями, связанными с Народно-освободительной армией Китая и другими военными структурами. Документы свидетельствуют о том, что китайские оборонные ведомства рассматривают ведущие американские модели искусственного интеллекта как источник технических знаний и способ сократить отставание от американских конкурентов. Спор разгорелся вокруг несанкционированного извлечения данных, а не самой дистилляции, которая широко используется в отрасли. Этот вопрос стал одной из главных точек разногласий в преддверии американо-китайских переговоров по вопросам управления и безопасности искусственного интеллекта. Официальные лица США обвинили некоторые китайские организации в использовании дистилляции для извлечения возможностей из американских моделей искусственного интеллекта, что потенциально подрывает экспортный контроль и нарушает права на интеллектуальную собственность. Китай отверг эти обвинения, заявив, что Вашингтон стремится к «гегемонии» в сфере ИИ, и при этом утверждая, что американские компании прибегают к аналогичным практикам. Китайские разработчики также опровергли заявления о том, что их достижения в области ИИ основаны на зарубежных моделях. На прошлой неделе стартап Moonshot, занимающийся разработкой ИИ, опроверг обвинения администрации Трампа в том, что его модель Kimi K3 была создана с помощью дистилляции, заявив, что в основе модели лежат собственные инновации. Санни Чунг, сотрудник Джеймстаунского фонда, проанализировавший более 60 статей, рассказал, что китайские военные ученые систематически фиксируют этапы логического вывода западных моделей, чтобы адаптировать их для наблюдения, кибервойн и принятия тактических решений. «Одно дело — научить модель давать правильный ответ, но гораздо сложнее научить ее логике, лежащей в основе этого ответа, — сказал Чунг.— Эти статьи показывают, что китайские исследователи, связанные с военными, пытаются перенести эту дорогостоящую, запатентованную логику из западных моделей в более компактные системы, которые они могут контролировать и использовать локально». Агентство Reuters проверило научную литературу и выявило еще два десятка тематических исследований, связанных с военными. В одной из статей, опубликованных в прошлом году исследователями из 96941-го подразделения Народно-освободительной армии Китая, занимающегося военной разведкой и кибервойнами в Пекине, описывается использование GPT-3.5 от OpenAI для обработки конфиденциальных военных исходных кодов. По словам исследователей, сторонние модели не подходят для работы с секретной информацией. Чтобы преодолеть это ограничение, они использовали GPT-3.5 для обобщения программного кода и обучили «местную модель» на основе этих обобщений, чтобы она работала исключительно в китайских военных сетях. Белый дом, Пентагон, Министерство иностранных дел Китая, Народно-освободительная армия Китая и OpenAI не ответили на запросы о комментарии.
ШИРОКОЕ ПРИМЕНЕНИЕ — ОТ МОНИТОРИНГА ДО ИСПОЛЬЗОВАНИЯ В ВОЕННЫХ ЦЕЛЯХ.
Китайские исследователи использовали дистилляцию для самых разных целей — от мониторинга контента до применения в военных целях, как показали обзоры статей, подготовленные Reuters и Jamestown. В Северном университете Китая, который тесно связан с оборонной промышленностью страны, исследователи использовали Claude 3 Haiku от Anthropic для создания синтетических обучающих данных для модели классификации текста, предназначенной для мониторинга социальных сетей и модерации контента. В Anthropic заявили, что не предоставляют коммерческий доступ к Claude в Китае или компаниям, подконтрольным Пекину, и используют системы мониторинга для выявления нарушений. Компания добавила, что дистиллированные модели могут лишиться защитных механизмов исходных систем, что потенциально может привести к передаче конфиденциальных возможностей моделям, не подконтрольным компании.В статье 2024 года, опубликованной Национальным университетом оборонных технологий Народно-освободительной армии Китая, описывается использование дистилляции для сжатия модели обработки изображений для использования на беспилотных летательных аппаратах. Это позволяет дронам анализировать видео в реальном времени и принимать решения о навигации и целеуказании в режиме реального времени даже при отсутствии связи. Аналогичным образом исследователи из Китайской академии военных наук использовали дистилляцию для запуска модели распознавания целей на тактическом оборудовании во время имитации морских операций с участием дронов, кораблей и беспилотных подводных лодок. Об этом говорится в исследовании, опубликованном ранее в этом году.
ПРЕИМУЩЕСТВА И ОГРАНИЧЕНИЯ
Китай активно внедряет дистилляцию, стремясь конкурировать с США в области передовых технологий искусственного интеллекта, несмотря на ограничения в доступе к передовым вычислительным ресурсам из-за экспортного контроля Вашингтона в отношении высокопроизводительных чипов.
Центральные и местные органы власти продвигают «облегчение моделей» и периферийные вычисления, направляя субсидии и финансирование исследований на технологии, которые позволяют использовать модели ИИ на дронах, спутниках и других устройствах с ограниченной вычислительной мощностью. Однако эксперты предупреждают, что дистилляция имеет существенные ограничения. По мере того как китайские модели ИИ сокращают отставание от своих американских аналогов, военные исследователи также рассматривают дистилляцию как потенциальную угрозу безопасности.
В январе исследователи из Инженерного университета армии США опубликовали статью об угрозе «дистилляции без данных» — методе обратного проектирования возможностей модели без прямого доступа к ее основным параметрам. Чтобы устранить эту уязвимость, они предложили защитные механизмы, призванные скрыть скрытую логическую информацию, содержащуюся в общедоступных результатах работы модели. Дистиллированные модели также наследуют лишь отдельные возможности и не могут в полной мере воспроизвести широкий спектр интеллектуальных функций передовых систем. Тревор Коверко, соучредитель компании Sapien, занимающейся обработкой данных в области искусственного интеллекта, сказал, что дистиллированные модели остаются менее способными, чем их модели-учителя.
«Лучше всего это понимать как передачу выбранных возможностей в более дешевую локально контролируемую систему, а не достижение независимости от frontier AI».
Репортаж Эдуардо Баптисты; Редактирование Миен Ким и Шри Наваратнам
Наши стандарты: Принципы доверия Thomson Reuters.