Автоматизация и новые технологии могут повысить эффективность, но также могут увеличить нагрузку на ИТ. Тщательное планирование, тестирование и фреймворки необходимы, чтобы избежать возникновения новых проблем с безопасностью, говорят участники дискуссии на HIMSS25.
ЛАС-ВЕГАС – Применение регламентированных подходов к внедрению систем, использующих искусственный интеллект, может повысить доверие внутри организаций, но это может означать, что доказательство концепции займет больше времени.
«Искусственный интеллект может повысить эффективность работы служб безопасности, «где машинное обучение и технологии могут работать быстрее», — заявила Анахи Сантьяго, директор по информационной безопасности ChristianaCare, в понедельник на Форуме по кибербезопасности в здравоохранении HIMSS25. Однако, по ее словам, он «изобилует ложноположительными результатами», которые могут подорвать доверие, и на это уходит много времени.
«Вместо того чтобы экономить время наших команд, используя автоматизацию для освобождения их от определенных задач, мы добавили им больше работы, поскольку им приходится выяснять, что является ложным срабатыванием, что фактическим и как настроить инструменты для выполнения поставленной задачи».
Заглядывая в горизонт инноваций, можно сказать, что следующая волна инструментов — от агентного ИИ до общего искусственного интеллекта — потребует от организаций здравоохранения создания системы управления и структуры для внедрения. Однако вопросы относительно сегодняшнего использования ИИ и полученных результатов остаются.
«Мы объединяем ИИ с автоматизацией для решения таких задач, как обнаружение угроз, обнаружение аномалий, реагирование на инциденты для упреждающего устранения последствий и управления уязвимостями», — сказала Бриджит Карлин, магистр делового администрирования, бывший старший вице-президент по ИТ в Kaiser Permanente.
«Мы использовали его довольно эффективно в течение последних нескольких лет. Но мы еще далеки от общего искусственного интеллекта, AGI, которого мы ждем и которого с нетерпением ждем с точки зрения реального наличия когнитивных способностей человека или имитации когнитивных способностей человека», — сказала она. Говоря о внедрении ИИ, Карлин, который сейчас является консультантом, отметил, что разработчики и инженеры не всегда получают те результаты, к которым они стремились. Кроме того, как большие, так и малые среды, как правило, завалены различными устаревшими приложениями. «Некоторые данные будут предоставлены вашими поставщиками SaaS, некоторые будут работать в облаке, некоторые — локально», — сказала она.
«При добавлении новых средств автоматизации и искусственного интеллекта убедитесь, что вы действуете методично, проводите правильное тестирование и анализ», — добавил Майк Нельсон, вице-президент по цифровому доверию в компании-поставщике криптографии Digicert.
Карлин сказал, что необходимо создать структуру, которая начинается с прозрачности источника данных и четких указаний того, как входные данные приводят к проверяемым результатам, — процесс оценки режима технологии, включая ИИ. Нельсон посоветовал организациям здравоохранения при отсутствии рамок установить барьеры для обеспечения доверия.
«Я думаю, что в этой спешке, когда все хотят перейти на ИИ, многие спешат к нему, не имея полной информации и не имея представления о последствиях», — сказал он. Проверка концепции и тестирование готовых инструментов перед их запуском в производство — это серьезная задача для ИТ-отдела Сантьяго.
«Мы действительно стараемся анализировать наши инструменты, чтобы гарантировать, что обещания, которые они хотят предоставить, действительно будут реализованы», — сказала она. Еще одной проблемой, связанной с приобретенными инструментами, является то, как поставщики используют данные ChristianaCare, а также то, какие ограничения они стремятся установить, оговариваются в их контрактах. «Мы все чаще видим, что наши третьи стороны хотят использовать [данные] для разработки продуктов и других целей, которые не всегда соответствуют нашим представлениям о комфорте», — сказал Сантьяго.
«По-настоящему организованный и строго следование определенным рамкам помогло нам по-настоящему отделить плохое от хорошего». «В условиях, когда кибербезопасность затрагивает все организации, сотрудничество сейчас гораздо важнее, чем когда-либо», — сказал Аттила Хертеленди, доцент кафедры программ MBA для руководителей и здравоохранения в Международном университете Флориды, модератор дискуссии. «Когда мы говорим о внедрении ИИ, это также идет рука об руку с управлением изменениями», — отметил он. «Управление — это основа стратегии кибербезопасности. Это непрерывный процесс обучения», — сказал Карлин.
Хертеленди добавил, что людям нужны подсказки, к которым они могут быстро обратиться. Помимо обсуждения вопросов ИИ, он попросил Нельсона завершить сессию обсуждением того, насколько участники должны быть обеспокоены будущим квантовых вычислений. Нельсон ясно дал понять, что сейчас самое время начать подготовку, поскольку организациям потребуются годы, чтобы перейти на квантово-устойчивые алгоритмы , а квантовые вычисления, по оценкам, станут более широкодоступными в 2030-х годах.
«Квантовая технология уничтожит сегодняшнюю безопасность», — сказал он. «Это немалая задача». По его словам, миграция может занять годы, а критически важные отрасли рекомендуется обновить к 2029 году. По его словам, это призыв к действию , поскольку криптография глубоко встроена во все системы, и у большинства организаций 40% сертификатов неуправляемы. По его словам, путешествие начинается с открытия, и организациям рекомендуется разработать план действий, чтобы понять, какие системы наиболее уязвимы. «Простых кнопок не существует», — сказал Нельсон.
Андреа Фокс — старший редактор Healthcare IT News.
Электронная почта: afox@himss.org
Healthcare IT News — издание HIMSS Media.