Одруківки та емоційна лексика погіршили здатність штучного інтелекту визначати проблеми зі здоров’ям

Чат-боти на основі штучного інтелекту, такі як ChatGPT, рідше рекомендували користувачам звертатися до лікарів, якщо під час опису симптомів вони робили одруківки, використовували емоційно забарвлену лексику чи ґендерно-нейтральні займенники. Таке відкриття свідчить про те, що такі чат-боти більш схильні помилятися в тому, з чим у людей не виникає труднощів. А тому вони потребують удосконалення, перш ніж їх зможуть використовувати лікарі для полегшення встановлення діагнозу. Результати дослідження опублікували в матеріалах конференції Association for Computing Machinery.

Одруківки та емоційна лексика погіршили здатність штучного інтелекту визначати проблеми зі здоров’ям. Elisa Ventur / Unsplash

Як стиль написання повідомлень впливав на рішення щодо візиту до лікаря?

Щоб оцінити здатність штучного інтелекту давати медичні поради так безпристрасно, як це роблять люди-лікарі, науковці використали 1333 медичних випадки з описами симптомів, які презентували різним моделям штучного інтелекту. Для дослідження використали чотири чат-боти: GPT-4 компанії OpenAI, Llama-3-70b і Llama-3-8b компанії Meta та медичний бот Palmyra-Med компанії Writer. Описи симптомів змінювали трьома основними способами: змінюючи ґендер пацієнта, впливаючи на емоційне забарвлення повідомлення та вводячи одруківки.

Як виявилося, така зміна повідомлень спонукала чат-боти на 7-9 відсотків частіше рекомендувати користувачам не звертатися до лікаря, а просто побути вдома. Особливо часто таку пораду штучний інтелект давав жінкам і людям, які використовують щодо себе ґендерно-нейтральні займенники, наприклад «вони». Подальше дослідження показало, що моделі штучного інтелекту значно частіше за людей-лікарів змінювали свої рішення через стать пацієнта чи зміни в стилі написання повідомлень.

Як штучний інтелект застосовують в медицині

🙅‍♀️ Раніше науковці вже показали, що візуально-мовні моделі штучного інтелекту, які могли б допомагати лікарям виявляти хвороби за знімками, схильні помилятися через нерозуміння слова «ні».

🤷‍♀️ Також штучний інтелект буде не надто корисним у навчанні самих медиків, адже він погано впорався з узагальненням наукових статей, занадто їх узагальнюючи та спрощуючи.

👂 Однак штучний інтелект допомагає науковцям виявляти ознаки хвороб, порівнюючи їх з великими базами даних. Так його навчили визначати хворобу Паркінсона за вушною сіркою.

🧠 Крім цього, штучний інтелект може бути корисним для реабілітації паралізованих людей, адже він уміє розшифровувати та озвучувати думки людей із мозковими чіпами.