В НИУ ВШЭ разработан инструмент для контроля ИИ-технологий в медицине
Группа исследователей из Центра искусственного интеллекта НИУ ВШЭ разработала индекс для определения уровня этичности систем искусственного интеллекта (ИИ) в медицине. Инструмент предназначен для минимизации потенциальных рисков, обеспечения безопасной разработки и внедрения ИИ-технологий в медицинскую практику.
Стремительный рост использования ИИ-технологий в различных сферах жизни, в том числе медицине, сопровождается появлением новых рисков, связанных не только с информационной безопасностью, экономическими или социальными вопросами, но и с этическими проблемами. Действующие стандарты и имеющаяся на данный момент регуляторика недостаточно учитывают именно этические аспекты, поэтому возникла необходимость в создании специализированного инструмента для соответствующей оценки ИИ-систем.
Команда проекта «Этическая экспертиза в сфере ИИ» Центра ИИ НИУ ВШЭ провела комплексную работу, состоящую из двух этапов: теоретического и практического. Сначала исследователи на основе анализа большого количества как отечественных, так и международных документов выделили и дали определение ключевых принципов профессиональной медицинской этики. Это автономия, благодеяние, справедливость, ненанесение вреда и забота. После этого было проведено качественное полевое исследование среди врачей и разработчиков ИИ, позволившее конкретизировать эти принципы и дополнить их новыми принципами, используя методику глубинного полуструктурированного интервью.
В результате исследования был создан чат-бот «Индекс этичности систем искусственного интеллекта в медицине», который в режиме 24/7 позволяет проводить процедуру самооценки и получать мгновенную обратную связь от разработчиков индекса. Методика оценки представляет собой тест с вопросами закрытого типа, призванными оценить уровень осведомленности как разработчиков медицинского ИИ, так и самих эксплуатантов ИИ-системы о возможных этических рисках, связанных с разработкой, внедрением и использованием ИИ-систем в медицинских целях.
Новая методика уже апробирована и получила признание ряда ведущих IT-компаний, таких как MeDiCase и Globus IT, специализирующихся на разработке ИИ-решений для медицины. Кроме того, ее одобрила Комиссия по реализации Кодекса этики в сфере искусственного интеллекта и Московское городское научное общество терапевтов.
Анастасия Углева
«Разработка данного индекса стала важным шагом на пути обеспечения этичного использования ИИ в медицине. Мы надеемся, что наша разработка будет небесполезной для медицинского сообщества, обеспокоенного, как показывают наши исследования, возможными негативными именно этическими последствиями широкого внедрения ИИ в медицинскую практику», — подчеркивает руководитель проекта, профессор, заместитель директора Центра трансфера и управления социально-экономической информацией НИУ ВШЭ Анастасия Углева.
Ожидается, что индекс будет востребован этическими комиссиями, судебно-медицинским экспертным сообществом и другими организациями, ответственными за оценку и сертификацию ИИ. Он также будет способствовать переходу от принципа единоличной ответственности медицинского работника к модели распределенной ответственности всех участников процесса. Внедрение этого индекса поможет сделать использование ИИ более безопасным и соответствующим высоким этическим стандартам.
Методические рекомендации «Индекс этичности систем искусственного интеллекта в медицине» зарегистрированы в НИУ ВШЭ в качестве результата интеллектуальной деятельности (РИД) №8.0176-2023.
Вам также может быть интересно:
Экономисты ВШЭ выяснили, что ИИ слишком хорошо думает о людях
Ученые из НИУ ВШЭ выяснили, что современные ИИ-модели, включая ChatGPT и Claude, в играх на стратегическое мышление вроде «конкурса красоты» Кейнса переоценивают уровень рациональности своих оппонентов, будь то студенты-первокурсники или опытные ученые. Модели стараются предсказать поведение людей, но в итоге играют «слишком умно» и проигрывают, потому что приписывают людям больше логики, чем те демонстрируют на деле. Исследование опубликовано в Journal of Economic Behavior & Organization.
Вышка Онлайн представила документальный фильм о влиянии ИИ на нашу жизнь
27 ноября на всех онлайн-площадках Вышки Онлайн состоялась премьера документального фильма «После промпта» от онлайн-кампуса НИУ ВШЭ. Его авторы исследуют, как искусственный интеллект меняет работу, карьерные траектории и профессиональное развитие специалистов. Это первый видеопроект, полностью реализованный командой онлайн-кампуса НИУ ВШЭ совместно с приглашенным режиссером Ольгой Науменко.
Технологический прорыв: исследования Института ИИ и цифровых наук отмечены на AI Journey 2025
Ученые Института искусственного интеллекта и цифровых наук факультета компьютерных наук ВШЭ в рамках Международной конференции AI Journey 2025 представили передовые ИИ-исследования с высоким уровнем научной новизны и практической применимости. Научное решение заведующего Научно-учебной лабораторией матричных и тензорных методов в машинном обучении Максима Рахубы получило премию «Лидеры ИИ — 2025». Заведующий Центром глубинного обучения и байесовских методов Айбек Аланов — среди финалистов премии.
«ИИ позволяет людям без опыта разработки прототипировать решения, упрощающие их деятельность»
28 октября завершилось обучение в рамках третьего потока программы «Искусственный интеллект в социальной сфере». Слушатели представили и защитили свои проекты. В рамках освоенного курса преподаватели помогли им найти перспективные области применения ИИ для эффективной работы в социальной сфере и обучили практическому применению инструментов ИИ.
«Искусственный интеллект» — лидер по итогам приема на онлайн-программы НИУ ВШЭ
Онлайн-магистратура «Искусственный интеллект» факультета компьютерных наук НИУ ВШЭ показала рекордные результаты. В этом году на нее подали документы 987 абитуриентов — это абсолютный максимум среди всех магистерских программ Вышки. К обучению приступил 351 первокурсник, что обеспечило программе лидирующую позицию по общему объему приема среди онлайн-магистратур университета.
«Fall into ML прочно утвердилась в календаре знаковых событий российской ИИ-сцены»
24–25 октября в Центре культур НИУ ВШЭ Институт искусственного интеллекта и цифровых наук факультета компьютерных наук организует четвертую ежегодную конференцию Fall into ML 2025. Мероприятие традиционно поддерживает генеральный партнер — Сбербанк. В фокусе — прорывные исследования и будущее фундаментального ИИ.
Стартует новый норматив технологической грамотности ТехноГТО «Искусственный интеллект»
Открыт новый норматив технологической грамотности ТехноГТО по направлению «Искусственный интеллект», разработанный совместно с Академией искусственного интеллекта для школьников Благотворительного фонда Сбербанка «Вклад в будущее». Проект ТехноГТО является частью Национальной технологической олимпиады (НТО) и реализуется Кружковым движением НТИ совместно с президентской платформой «Россия — страна возможностей» и Движением Первых при поддержке НИУ ВШЭ и Росмолодежи.
Критика речистого разума: искусственный интеллект в восприятии математиков
Математики Вышки считают, что не стоит опасаться потери работы из-за массового использования ИИ, и одновременно предостерегают от некритического восприятия работ и проектов, подготовленных с его применением. При этом ИИ может быть полезным инструментом в исследованиях, создавая модели и обрабатывая большие массивы информации.
Стартовала регистрация школьников на Всероссийскую олимпиаду по ИИ
Открылась регистрация на пятый сезон Всероссийской олимпиады по искусственному интеллекту. В этом году организаторы ожидают увеличения числа участников — соревнование получило международный статус, и теперь принять участие могут школьники 8–11-х классов не только из России, но и из других стран. Олимпиаде присвоен II уровень в перечне РСОШ — ее призеры и победители получат льготы при поступлении в вуз.
В НИУ ВШЭ обсудили глобальные тренды ИИ на международной форсайт-сессии
В Высшей школе экономики прошла международная форсайт-сессия по искусственному интеллекту (ИИ). Российские и иностранные ученые обсудили тренды и вызовы, которые возникают в связи с быстрым развитием ИИ.