Учёные MIT предлагают сделать ИИ в медицине более «скромным»
ИИ в медицине: необходимость «скромности»
Искусственный интеллект обладает большим потенциалом в помощи врачам с диагностикой пациентов и подбором индивидуального лечения. Однако международная группа учёных под руководством Массачусетского технологического института (MIT) предупреждает: нынешние системы ИИ рискуют направлять врачей по неверному пути, поскольку могут с излишней уверенностью принимать ошибочные решения.
Исследователи предлагают решение — программировать системы ИИ так, чтобы они были более «скромными». Такие системы будут сигнализировать, когда не уверены в своих диагнозах или рекомендациях, и побуждать пользователей собирать дополнительную информацию в случае неопределённости диагноза.
«Сейчас мы используем ИИ как оракула, но можем использовать его как наставника. Мы могли бы использовать ИИ как настоящего второго пилота. Это не только расширит наши возможности по поиску информации, но и усилит нашу способность соединять разрозненные факты», — говорит Лео Энтони Чели, старший научный сотрудник Института медицинской инженерии и науки MIT, врач медицинского центра Beth Israel Deaconess и доцент Гарвардской медицинской школы.
Чели и его коллеги разработали концепцию, которая, по их словам, может помочь разработчикам ИИ создавать системы, демонстрирующие любознательность и скромность. Такой подход позволит врачам и системам ИИ работать в партнёрстве и поможет не допустить чрезмерного влияния ИИ на решения врачей.
Как работает новая концепция
Чтобы создать такую систему, консорциум разработал концепцию, включающую несколько вычислительных модулей, которые можно внедрить в существующие системы ИИ. Первый из этих модулей требует от модели ИИ оценивать собственную уверенность при постановке диагностических прогнозов.
Разработанный членами консорциума Джананом Арсланом и Куртом Бенке из Мельбурнского университета Epistemic Virtue Score действует как проверка самосознания, гарантируя, что уверенность системы адекватно учитывает неопределённость и сложность каждого клинического сценария.
Обладая таким самосознанием, модель может адаптировать свой ответ к ситуации. Если система обнаруживает, что её уверенность превышает то, что подтверждается имеющимися доказательствами, она может приостановиться и отметить несоответствие, запросив конкретные анализы или анамнез, которые устранят неопределённость, либо порекомендовав консультацию специалиста.
«Это похоже на второго пилота, который скажет вам, что нужно привлечь свежий взгляд, чтобы лучше понять этого сложного пациента», — поясняет Чели.
Борьба с предвзятостью и расширение инклюзивности ИИ
Многие модели ИИ, такие как база данных Medical Information Mart for Intensive Care (MIMIC), обучаются на общедоступных данных из США, что может приводить к предвзятости и исключению иных точек зрения. Учёные подчёркивают важность привлечения разнообразных взглядов для преодоления потенциальных предубеждений.
Ещё одна проблема существующих диагностических систем ИИ заключается в том, что они обычно обучаются на электронных медицинских записях, которые изначально не предназначались для этой цели. Это означает, что в данных отсутствует значительный объём контекста, полезного для постановки диагнозов и рекомендаций по лечению. Кроме того, многие пациенты не попадают в эти наборы данных из‑за отсутствия доступа к медицинским услугам — например, люди, живущие в сельской местности.
На семинарах по работе с данными, проводимых MIT Critical Data, группы специалистов по обработке данных, медицинских работников, социологов, пациентов и других лиц совместно работают над созданием новых систем ИИ. Перед началом работы всех просят задуматься, отражают ли используемые ими данные все факторы, которые они стремятся предсказать, чтобы случайно не заложить в свои модели существующие структурные неравенства.
Исследование финансировалось Бостонско‑Корейским инновационным исследовательским проектом через Корейский институт развития медицинской промышленности.