автор: Фу Юн Чи
БРЮССЕЛЬ, 31 июля (Reuters). Европейская комиссия ведёт переговоры с компаниями OpenAI и Anthropic по поводу недавних инцидентов, связанных с хакерскими атаками на их ИИ-модели, сообщили представители Еврокомиссии в пятницу, рекламируя важные правила ЕС, требующие строгого контроля за системами повышенного риска.
Европейский Закон об искусственном интеллекте, вступающий в силу 2 августа, является первым в мире законодательным актом, регулирующим технологию, используемую практически во всех сферах бизнеса и общественной жизни. Согласно новым правилам, некоторые системы искусственного интеллекта должны сообщать пользователям, когда они взаимодействуют с ИИ и когда контент был сгенерирован или изменен с его помощью.В четверг компания Anthropic заявила, что некоторые из ее моделей искусственного интеллекта Claude взломали системы трех компаний во время тестов на кибербезопасность. Это произошло через несколько дней после того, как ее конкурент OpenAI сообщил, что один из его ИИ-агентов совершил несанкционированную атаку. Обе компании проинформировали Комиссию об инцидентах, сообщили официальные лица журналистам. «Оба поставщика информации проинформировали нас об инцидентах в двустороннем порядке до того, как информация стала общедоступной. Мы находимся с ними на связи. Они также предоставят нам дополнительную информацию, пока мы с вами разговариваем». Мы также посмотрим, нужно ли нам более формально подходить к этим вопросам», — сказал один из чиновников. Другой чиновник подчеркнул решающую роль европейских правил в сфере ИИ.
«Все эти, скажем так, инциденты подчеркивают важность того, чтобы разработчики действительно внедряли необходимые меры контроля», — сказал чиновник. Правила в отношении ИИ требуют, чтобы поставщики самых передовых систем искусственного интеллекта общего назначения (ИИ общего назначения) или базовых моделей, представляющих системные риски, устраняли риски крупномасштабного ущерба, такие как химические, биологические и ядерные инциденты, киберпреступления, вредоносные манипуляции и угрозы основным правам. Они также должны учитывать риски для европейской кибербезопасности, связанные с искусственным интеллектом, действующим вне контроля человека.
Штрафы за нарушение Закона об искусственном интеллекте варьируются от 7,5 млн евро (8,2 млн долларов) или 1,5% от оборота до 35 млн евро или 7% от мирового оборота в зависимости от типа нарушения.
Материал подготовила Фу Юн Чи; под редакцией Филипа Бленкинсопа
Наши стандарты: Принципы доверия Thomson Reuters.