Министерство здравоохранения и социальных служб США (HHS) в четверг представило стратегию по расширению использования искусственного интеллекта, развивая энтузиазм администрации Трампа к стремительно развивающимся технологиям, но задавая вопросы о том, как будет защищаться медицинская информация.
В HHS назвали этот план «первым шагом», который в основном направлен на повышение эффективности работы и координацию внедрения ИИ в различных подразделениях. Однако в 20-страничном документе также намечены более масштабные планы по продвижению инноваций в области ИИ, в том числе в анализе данных о состоянии здоровья пациентов и разработке новых лекарств.
«Слишком долго наше ведомство было погружено в бюрократию и рутинную работу», – написал заместитель министра Джим О’Нил во вступлении к стратегии. – «Пора разрушить эти барьеры на пути прогресса и объединить усилия для того, чтобы с помощью технологий сделать Америку вновь здоровой».
Новая стратегия подчеркивает, как руководство администрации Трампа поддерживает инновации в сфере ИИ, призывая сотрудников федеральных ведомств использовать чат-боты и ассистентов на базе ИИ в ежедневной работе. Несмотря на то, что при администрации Джо Байдена технологии генеративного ИИ совершили значительный скачок, и он выпустил указ, направленный на формирование правил их использования, с приходом Дональда Трампа этот указ был отменён, и его администрация стремится снять ограничения на использование ИИ в федеральном правительстве.
Эксперты отмечают, что готовность администрации к модернизации государственных операций сопряжена как с возможностями, так и с рисками. Некоторые из них считают, что внедрение ИИ в HHS требует строгих стандартов из-за работы с конфиденциальными данными и ставят под вопрос их соблюдение под руководством министра здравоохранения Роберта Ф. Кеннеди-младшего. Некоторые сторонники движения Кеннеди «Сделаем Америку вновь здоровой» также выражают опасения по поводу предоставления технологическим компаниям доступа к личной информации граждан.
Стратегия поощряет использование ИИ по всему ведомству
В новом плане HHS говорится о формировании культуры «сначала попробуй», чтобы помочь сотрудникам стать более продуктивными и компетентными с помощью ИИ. Ранее в этом году ведомство предоставило каждому сотруднику возможность использовать популярную модель ИИ ChatGPT.
В документе выделены пять ключевых направлений стратегии внедрения ИИ: создание системы управления рисками, разработка набора инструментов на базе ИИ для использования в ведомстве, повышение квалификации сотрудников для эффективного применения ИИ, финансирование программ для выработки стандартов использования ИИ в научных исследованиях и разработках, а также интеграция ИИ в задачи общественного здравоохранения и ухода за пациентами.
В стратегии отмечается, что подразделения HHS уже работают над использованием ИИ для персонализированной и контекстно-зависимой медицинской поддержки пациентов за счёт безопасного доступа к их медицинским записям и их интерпретации в реальном времени. Некоторые сторонники движения Кеннеди «Сделаем Америку вновь здоровой» выражают обеспокоенность тем, что ИИ‑инструменты будут использоваться для анализа медицинских данных, и заявляют, что им некомфортно, когда министерство здравоохранения сотрудничает с крупными технологиями в вопросах доступа к личной информации граждан.
Ранее HHS подвергалось критике за нарушение юридических границ при передаче персональных медицинских данных получателей Medicaid в распоряжение Службы иммиграции и таможенного контроля.
Эксперты задаются вопросом, как ведомство обеспечит защиту чувствительных медицинских данных
Орен Этциони, эксперт по искусственному интеллекту и основатель некоммерческой организации по борьбе с политическими дипфейками, отметил, что стремление HHS использовать ИИ в здравоохранении заслуживает одобрения, однако предупредил, что скорость не должна идти в ущерб безопасности.
«Стратегия HHS ставит амбициозные цели — централизованная инфраструктура данных, быстрое внедрение инструментов ИИ и кадры, использующие возможности ИИ. Но амбиции сопряжены с рисками, когда речь идет о самых чувствительных данных американцев — информации об их здоровье», — подчеркнул он.
По словам Этциони, акценты стратегии на «высокие научные стандарты», оценку рисков и прозрачность разработки ИИ — положительный знак. Однако он выразил сомнение, что ведомство сможет поддерживать такие стандарты под руководством Кеннеди, который, по его мнению, часто пренебрегал научной строгостью.
Даррел Уэст, старший научный сотрудник Центра инноваций и технологий Института Брукингса, обратил внимание, что в документе обещается укрепить управление рисками, однако не приводится подробностей, как это будет реализовано.
«Остаётся много вопросов о том, как будет обращаться с конфиденциальной медицинской информацией и как будут делиться данные», — подчеркнул он. — «Для индивидуальных записей существуют чёткие меры безопасности, но гораздо меньше защиты предусмотрено для агрегированных данных, которые анализируются с помощью ИИ. Я бы хотел понять, как ведомство планирует сбалансировать использование медицинской информации для совершенствования работы с мерами по защите личной информации граждан».
Тем не менее, добавил Уэст, если все сделать грамотно, «это может стать преобразующим примером модернизированного ведомства, работающего на качественно новом уровне».
В стратегии указано, что в 2024 финансовом году в HHS было 271 активное или запланированное внедрение искусственного интеллекта; ожидается, что в 2025 году это число увеличится на 70%.
Источник: AP