Американські науковці показали, що штучний інтелект здатний на основі самих рентгенівських знімків грудної клітки не лише діагностувати захворювання, але й визначати расу пацієнта. При цьому він орієнтується на ознаки, поки що невідомі лікарям, визначаючи расу навіть на сильно деградованих зображеннях, йдеться у статті журналу The Lancet Digital Health.
yumiyum / Getty Images
Алгоритми штучного інтелекту (ШІ) продемонстрували себе як новітній потужний інструмент у медичній діагностиці. Маючи здатність обробляти одночасно величезні обсяги даних, вони швидко можуть вказати на відмінності між записами здорових людей та хворих. Ми вже писали, що штучний інтелект із високою точністю відрізнив меланому від звичайних родимок, помітив рак простати на КТ-сканах, визначив суїцидальні нахили за опитуванням та виявив ранню стадію хвороби Альцгеймера за зображеннями МРТ.
Будучи побудованим за принципом роботи людського розуму, штучний інтелект, схоже, піддається тому ж ризику упередженості. Недавні дослідження показали, що він помітно частіше ставить хибний діагноз жінкам та людям негроїдної раси, у порівнянні з чоловіками та білими, оцінюючи при цьому лише рентген грудної клітки. Але людям не відомі такі відмінності, на основі яких лікарі могли б визначити расу за рентгеном. Тож у новій роботі дослідники Університету Еморі з колегами вирішили самостійно з'ясувати, чи справді бачить ШІ на знімках расові відмінності або ж це результат упередженого відбору даних.
Вчені надали ШІ 1,2 мільйона різної якості рентгенологічних зображень грудної клітки, що належали більш ніж 200 тисячам людей різного віку, статі та самоідентифікованої раси (чорні, білі, азійці та невідомої раси). І алгоритм справді зміг визначити расу із високою точністю, яка перевищувала 90 відсотків, незалежно від віку та статі пацієнтів. Яким чином це йому вдається, достеменно невідомо. Він не покладався на діагноз, індекс маси тіла чи щільність кісток, і все ще успішно визначав расу, коли йому показували дуже поганої якості знімки без явних анатомічних особливостей, в яких лікарі навіть не розпізнали рентген, чи лише невеличкий фрагмент зображення з легенею чи без.
Автори наголошують, що саме по собі вміння ШІ визначати расу не є значущим, однак воно викликає занепокоєння із соціальної точки зору в контексті дискримінації та упередження. Якщо ШІ точно визначає расу пацієнта і схильний упереджено його діагностувати, то збільшується ризик хибних медичних висновків. Це вказує на потребу ретельнішої перевірки ефективності діагностичних алгоритмів на представниках різних раси, віку й статі.