Чат-боти на основі штучного інтелекту, такі як ChatGPT, рідше рекомендували користувачам звертатися до лікарів, якщо під час опису симптомів вони робили одруківки, використовували емоційно забарвлену лексику чи ґендерно-нейтральні займенники. Таке відкриття свідчить про те, що такі чат-боти більш схильні помилятися в тому, з чим у людей не виникає труднощів. А тому вони потребують удосконалення, перш ніж їх зможуть використовувати лікарі для полегшення встановлення діагнозу. Результати дослідження опублікували в матеріалах конференції Association for Computing Machinery.
Як стиль написання повідомлень впливав на рішення щодо візиту до лікаря?
Щоб оцінити здатність штучного інтелекту давати медичні поради так безпристрасно, як це роблять люди-лікарі, науковці використали 1333 медичних випадки з описами симптомів, які презентували різним моделям штучного інтелекту. Для дослідження використали чотири чат-боти: GPT-4 компанії OpenAI, Llama-3-70b і Llama-3-8b компанії Meta та медичний бот Palmyra-Med компанії Writer. Описи симптомів змінювали трьома основними способами: змінюючи ґендер пацієнта, впливаючи на емоційне забарвлення повідомлення та вводячи одруківки.
Як виявилося, така зміна повідомлень спонукала чат-боти на 7-9 відсотків частіше рекомендувати користувачам не звертатися до лікаря, а просто побути вдома. Особливо часто таку пораду штучний інтелект давав жінкам і людям, які використовують щодо себе ґендерно-нейтральні займенники, наприклад «вони». Подальше дослідження показало, що моделі штучного інтелекту значно частіше за людей-лікарів змінювали свої рішення через стать пацієнта чи зміни в стилі написання повідомлень.
Як штучний інтелект застосовують в медицині
🙅♀️ Раніше науковці вже показали, що візуально-мовні моделі штучного інтелекту, які могли б допомагати лікарям виявляти хвороби за знімками, схильні помилятися через нерозуміння слова «ні».
🤷♀️ Також штучний інтелект буде не надто корисним у навчанні самих медиків, адже він погано впорався з узагальненням наукових статей, занадто їх узагальнюючи та спрощуючи.
👂 Однак штучний інтелект допомагає науковцям виявляти ознаки хвороб, порівнюючи їх з великими базами даних. Так його навчили визначати хворобу Паркінсона за вушною сіркою.
🧠 Крім цього, штучний інтелект може бути корисним для реабілітації паралізованих людей, адже він уміє розшифровувати та озвучувати думки людей із мозковими чіпами.