Почему алгоритмы ИИ перенимают предвзятость пациентов при оценке врачей

Когда отзыв — не про врача, а про нас

Мы все хотя бы раз выбирали врача по отзывам: открывали платформу, читали десятки комментариев, искали того самого — внимательного, компетентного, «своего». И почти всегда задавались вопросом: а можно ли доверять этим оценкам? Исследование, о котором рассказал Vademecum, показывает, что проблема глубже, чем кажется на первый взгляд — и касается уже не только людей, но и алгоритмов.

Что обнаружили исследователи

Учёные проанализировали отзывы пациентов с четырёх крупных американских платформ — Healthgrades, Vitals, RateMDs и Yelp. Исходный массив составил 8,69 миллиона отзывов о более чем 587 тысячах врачей. В итоговую выборку вошли специалисты, у которых было от пяти до ста отзывов, — то есть те, о ком накоплен достаточно устойчивое впечатление.

На основании текстов алгоритм искусственного интеллекта оценивал десять характеристик врачей. Пять из них были связаны с личностными качествами — по модели «Большой пятерки» (открытость, добросовестность, экстраверсия, доброжелательность, эмоциональная стабильность), а пять — с тем, как пациенты воспринимают врача: качество общения, клиническая компетентность, внимание к потребностям и результатам лечения, а также признаки доверия.

Авторы подчёркивают важную оговорку: речь идёт не о реальных чертах характера или объективном качестве работы врача, а исключительно о том, каким специалист предстаёт в глазах пациентов. И вот эта разница — между реальностью и восприятием — оказалась наполнена устойчивыми предубеждениями.

Гендерный перекос и «неправильные» специальности

Мужчины-врачи получили более высокие оценки по всем десяти параметрам. Наибольший разрыв между мужчинами и женщинами обнаружился в воспринимаемой клинической компетентности, внимании к результатам лечения, эмоциональной стабильности и уровне доверия. Это не значит, что женщины-врачи действительно менее компетентны — это значит, что пациенты склонны описывать их иначе.

Заметные различия нашлись и между специальностями. Хирургические направления оказались в числе лидеров по большинству характеристик: диагностические радиологи — по воспринимаемой компетентности и добросовестности, хирурги — по качеству общения и удовлетворённости пациентов. А вот врачи экстренной медицины и психиатры получили более низкие оценки сразу по нескольким параметрам. Исследователи связывают это с условиями работы: экстренная помощь предполагает короткие и стрессовые контакты, а на восприятие психиатров может влиять сложность заболеваний и стигматизация.

Почему это важно для тех, кто выбирает врача сегодня

Главный вывод исследования обращён в будущее — и оно уже наступает. Пациенты всё чаще используют языковые модели и ИИ-сервисы, чтобы найти врача, обобщить отзывы, получить «готовое» мнение. Но если алгоритм обучался на отзывах, которые сами по себе содержат гендерные и профессиональные стереотипы, он будет эти стереотипы воспроизводить и усиливать. Врач может получить менее благоприятную характеристику не потому, что работает плохо, а потому, что пациенты по-разному оценивают женщин и мужчин или представителей разных специальностей.

Авторы исследования считают преждевременным использовать ИИ-профили врачей при найме, аттестации, оценке эффективности или страховании. И это, пожалуй, самое важное для нас как для пациентов: пока алгоритмы не научились отличать объективное качество от субъективного восприятия, полагаться на них как на единственный ориентир рискованно.

Что это значит на практике

Отзывы остаются ценным источником — но как один из многих. Если вы выбираете врача и видите, что ИИ-сервис или агрегатор выдаёт вам «профиль» специалиста на основе отзывов, стоит помнить: за этой красивой цифирью может стоять не реальная картина, а отражение наших коллективных предубеждений. Внимательность к деталям отзывов, личная консультация, рекомендации знакомых и проверка квалификации через официальные источники — по-прежнему надёжнее, чем алгоритм, который учится на том, как мы чувствуем, а не на том, что врач реально умеет.