За последние несколько лет искусственный интеллект (ИИ) превратился из абстрактной идеи в часть повседневной жизни. Технологии ИИ, включая чат-боты, умные колонки и виртуальные помощники, настолько прочно вошли в нашу жизнь, что большинство из нас едва ли помнит жизнь до них. Внедрение искусственного интеллекта продолжает набирать обороты. Недавнее исследование «Доверие, отношение и использование искусственного интеллекта: глобальное исследование 2025» 1, проведенное Мельбурнским университетом совместно с KPMG , показало, что более 70% организаций планируют внедрить ИИ в течение следующих двух лет. Организации используют возможности ИИ для улучшения прогнозов на основе данных, оптимизации продуктов и услуг, масштабирования инноваций и повышения производительности. От диагностики заболеваний до выявления мошенничества и проверки резюме — ИИ меняет некоторые из важнейших отраслей, включая здравоохранение, страхование и государственные услуги.
Перспективы ИИ очевидны: он обеспечивает более разумное принятие решений, более высокую эффективность и более низкие затраты. Однако преимущества не лишены рисков. При отсутствии ответственного внедрения ИИ может скопировать системное неравенство в системы, усугубляя неблагоприятное положение наиболее уязвимых слоёв общества. Подкрепление развития ИИ усовершенствованными принципами проектирования и управления, направленными на обеспечение социальной справедливости, теперь должно стать императивом как для государственных, так и для частных учреждений.
Препятствия к справедливости в сфере ИИ
Дилемма ИИ, с которой мы сталкиваемся сегодня, заключается не в том, хорош ли ИИ или плох, а в том, как его разработать и управлять им для достижения более справедливых результатов. Хотя большинство организаций быстро внедряют ИИ, пожалуй, меньшее число из них задумываются о справедливости его применения, несмотря на растущие опасения.
Большинство систем ИИ построены на исторических данных, а это значит, что те же общественные модели и факторы, которые формировали прошлое, формируют и будущее. Это может усугубить неравенство в отношении уязвимых групп населения из-за распространённого применения ИИ, например, в системе здравоохранения, стремящейся сократить пробелы в диагностике; страховой компании, автоматизирующей обработку претензий; государственному учреждению, нанимающему персонал для работы на передовой; или финансовому учреждению, работающему над улучшением доступа к кредитам для новых клиентов. По мере распространения ИИ в различных отраслях, устранение его предвзятости становится всё более важным.
Опрос 2 показывает, что трое из пяти опрошенных по-прежнему с опаской относятся к доверию к ИИ. Хотя ИИ может уравнять шансы благодаря своим возможностям, его внедрение без учёта принципов справедливости и равноправия может подорвать доверие к ИИ. В таких секторах, как страхование и здравоохранение, где доверие клиентов имеет решающее значение, продуманная структура и эффективное управление, позволяющее контролировать предвзятость ИИ, могут привести к тому, что организация будет восприниматься либо как инновационная, либо как использующая несовершенные системы, что может поставить под угрозу её репутацию.
Справедливость в ИИ не может и не возникнет сама собой. Она будет существовать только в результате осознанного выбора, принимаемого на протяжении всего жизненного цикла ИИ. Это включает в себя формулировку задач, обучение алгоритмов и моделей, а также мониторинг результатов для их корректировки с течением времени — всё это под контролем человека.
Если вопрос социальной справедливости в сфере ИИ не будет целенаправленно решён, существующее разделение в обществе будет лишь усугубляться. Это означает, что высокая скорость и охват ИИ, часто считающиеся его главными преимуществами, становятся серьёзным препятствием.
Предвзятость ИИ
Как ИИ отражает и усиливает неравенство, уже существующее в наших системах? Корень проблемы кроется в том, как модели ИИ обучаются, в основном на исторических моделях и косвенных данных, а не на нейтральных и независимых истинах и данных. Поскольку эти модели часто включают в себя глубоко укоренившиеся социальные и институциональные различия, модели могут неосознанно их воспроизводить. Эти системы ИИ не вредоносны; они просто воспроизводят то, чему научились.
Отчет «Доверие; отношение и использование искусственного интеллекта» 3 показывает, что меньше всего люди доверяют коммерческим организациям и правительствам при разработке, использовании и управлении ИИ.
Исследование KPMG «Доверие к ИИ» выявило низкий уровень доверия общественности к коммерческим организациям (и правительствам) при разработке и использовании ИИ. И это не без оснований:
- В здравоохранении диагностические модели, обученные в первую очередь на наборах данных белых пациентов-мужчин, дают менее точные результаты для женщин и цветных людей, что приводит к ошибочным диагнозам и запоздалому лечению.
- В страховании инструменты искусственного интеллекта, используемые для оценки претензий или расчета страховых премий, сопоставляют почтовые индексы с профилями риска, затрагивающими людей из малообеспеченных или расово-дискриминированных сообществ, даже если их личное поведение свидетельствует об обратном.
- В государственных учреждениях искусственный интеллект используется для оптимизации процесса принятия решений, от проверки кандидатов на работу до определения приоритетности социальных льгот. Однако, когда местоположение, образование или опыт работы используются в качестве показателей эффективности, результат может быть предвзятым. Модели подбора персонала могут снижать приоритет кандидатов из определённых районов, непреднамеренно исключая те самые сообщества, которым призвано служить государственное учреждение.
- В сфере финансовых услуг, где выявление мошенничества и кредитный скоринг на основе искусственного интеллекта стали стандартом, возникает непреднамеренный вред. Транзакции новых иммигрантов или лиц с ограниченной кредитной историей могут быть помечены как высокорисковые не из-за поведения, а из-за отсутствия достоверных исторических данных и «распознаваемых» закономерностей. Одобрение кредитов задерживалось или отклонялось без чётких объяснений, что подрывало доверие к тем самым системам, которые призваны поддерживать всех клиентов.
Проблема справедливости ИИ усложняется тем, что логика принятия решений часто непрозрачна, а предубеждения зачастую «вплетены» в процесс принятия решений. Когда модель ИИ выдаёт результат, например, отказ в ипотеке, назначение меньшей страховой выплаты или рекомендация меньшего количества медицинских вмешательств, за этим может не быть чёткого, понятного человеку объяснения. Из-за отсутствия прозрачности становится сложнее вмешаться, оспорить решения или даже распознать, что что-то пошло не так. Без продуманного проектирования и эффективного управления эти модели могут под видом объективности усугублять социальное неравенство. Если справедливость не заложена на этапе проектирования, в постановку задач, отбор данных и обучение моделей, даже созданные с благими намерениями системы могут давать искаженные или несбалансированные результаты. Поскольку системы искусственного интеллекта все чаще принимают решения о том, кто получает работу, кому ставится диагноз рака, кому предоставляется доступ к ипотеке и кому предоставляется надлежащая помощь в конце жизни, проблема справедливости в отношении искусственного интеллекта становится все более актуальной.
Начать с начала
Справедливость в ИИ — это не просто написание лучшего кода, а внедрение мер безопасности в процесс планирования, разработки и использования систем. Задача не только в том, как создать более интеллектуальные системы, но и в том, как создать системы, которые будут справедливы с самого начала. Первый шаг в проектировании ИИ с учётом принципов справедливости начинается задолго до его внедрения. Он начинается за столом стратегического планирования, с вопросов о цели и людях.
Справедливость должна быть заложена в основу проектирования систем с самого начала. Это включает в себя формулировку задач, выбор данных и обучение моделей. Организациям необходим чёткий контроль над своими моделями ИИ: они должны понимать, кто несёт ответственность в случае их неэффективности, и, что самое главное, когда требуется вмешательство человека. Многие организации сейчас внедряют решения для удовлетворения этой потребности, включая фреймворки справедливости, протоколы тестирования на предвзятость и инструменты интерпретируемости, чтобы усилить контроль над системами ИИ, превращая их в более прозрачные, подотчетные и справедливые системы.
Доверие придет
Исследование 4 показывает, что большинство людей будут более охотно доверять системе ИИ при наличии механизмов обеспечения безопасности. Ключевым фактором в создании более ответственного ИИ является никогда не отрицать наличие предвзятости. В этом случае система ИИ может быть создана, протестирована и развернута с более строгими этическими проверками и контролем со стороны человека. Таким образом, ИИ будет развиваться, становясь более независимым и справедливым.
Успех определяется не только техническими мерами сдержек и противовесов, постоянным отслеживанием и тестированием. Это также вопрос лидерства, принятия осознанных решений, гарантирующих, что при разработке систем первостепенное значение имеет справедливость. Модели также должны разрабатываться более разнообразными командами и предполагать более кросс-функциональное мышление: от специалистов по анализу данных и руководителей отделов комплаенса до HR-директоров и защитников интересов сообщества. Чем более инклюзивным и совместным будет вклад, тем больше возможностей у ИИ уменьшить социальные проблемы, а не усугубить их.
Сохраняя человечность
Всё чаще нормативные акты, регулирующие ИИ, включают положения, направленные на выявление и снижение предвзятости в системах ИИ. Например, Закон № 5 Европейского союза об ИИ предписывает оценку рисков, управление данными, выявление предвзятости и оценку соответствия для систем ИИ с высоким уровнем риска, в то время как в США действуют существующие законы, включая Закон о Федеральной торговой комиссии и Закон о добросовестной кредитной отчётности . Действительно, исследование KPMG «Доверие к ИИ» показывает, что большинство людей (более 70%) ожидают, что ИИ будет регулироваться для обеспечения справедливости, прозрачности и отсутствия дискриминации по отношению к определённым группам. Обеспечение справедливости по мере масштабирования ИИ — это не только усиление регуляторного контроля, но и сохранение вовлеченности людей, которые его создают и используют. Человеческие суждения, контроль и принятие решений приобретают ещё большую важность в мире, где всё зависит от ИИ. ИИ может взять на себя многие функции, которые раньше выполняли люди, но он не должен самостоятельно решать, кто получит работу, ипотеку и уход, или кто выиграет от его повышения эффективности. Для поддержки организаций в создании систем ИИ, способствующих справедливости и снижению вреда, решающее значение имеют несколько принципов проектирования и управления:
Внедрение управления на ранних этапах. Снижение предвзятости на каждом этапе. Обеспечить прозрачность и объяснимость. Целесообразно вовлекать заинтересованные стороны. Повышение квалификации рабочей силы. Внедрить механизмы обеспечения безопасности. Внедрение управления на ранних этапах. Создайте структуры надзора, которые разъясняют обязанности, соответствуют этическим стандартам и позволяют оперативно корректировать курс.
Заключение
В конечном счете, истинный потенциал ИИ заключается в том, насколько хорошо его интеллект и эффективность сбалансированы со справедливостью и ответственностью — особенно для тех, на кого больше всего влияют результаты его работы. Эта уверенность будет исходить из того, как регулируются, проектируются и управляются системы ИИ, а также из способности людей понимать их и вмешиваться, чтобы устранять присущие им предубеждения.
Внедрение принципов справедливости на каждом этапе разработки ИИ, в определение задач, выбор данных и обучение моделей — сложнейшая задача. Однако, поскольку ИИ всё больше влияет на доступ к рабочим местам, финансовым услугам, здравоохранению и другим сферам, появляются и новые возможности. Обучение ИИ принципам справедливости может стать огромным шагом вперёд на пути к социальной справедливости и равноправию.
Как KPMG может помочь
Единой дорожной карты развития ИИ не существует, но существуют эффективные подходы. Концепция Trusted AI от KPMG помогает организациям в ответственном проектировании, развертывании и мониторинге систем ИИ. Она делает акцент на справедливости, прозрачности и подотчётности — не как на второстепенных, а как на основных принципах проектирования. При соблюдении правильных границ ИИ не просто повышает эффективность и результативность. Он активно способствует принятию более справедливых и ответственных решений.
Сноски
1 Гиллеспи, Н., Локки, С., Уорд, Т., Макдейд, А. и Хассед, Г. (2025). Доверие, отношение и использование искусственного интеллекта: глобальное исследование 2025. Мельбурнский университет и KPMG. DOI 10.26188/28822919
2 Гиллеспи, Н., Локки, С., Уорд, Т., Макдейд, А. и Хассед, Г. (2025). Доверие, отношение и использование искусственного интеллекта: глобальное исследование 2025. Мельбурнский университет и KPMG. DOI 10.26188/28822919
3 Гиллеспи, Н., Локки, С., Уорд, Т., Макдейд, А. и Хассед, Г. (2025). Доверие, отношение и использование искусственного интеллекта: глобальное исследование 2025. Мельбурнский университет и KPMG. DOI 10.26188/28822919
4 Гиллеспи, Н., Локки, С., Уорд, Т., Макдейд, А. и Хассед, Г. (2025). Доверие, отношение и использование искусственного интеллекта: глобальное исследование 2025. Мельбурнский университет и KPMG. DOI 10.26188/28822919
5. Европейская комиссия «Закон об искусственном интеллекте вступает в силу» 1 августа 2024 г.