Зображення згенероване штучним інтелектом (Dalle-3)
Майже кожен із нас втрачав близьких людей. Почуття, які виникають через смерть когось рідного, іноді здаються нестерпними. І тоді багато хто віддав би будь-що, щоб хоч на трохи повернути померлу людину, послухати її поради та поділитися своїми почуттями. Особливо, якщо смерть настає підступно й несподівано, не даючи змоги попрощатися або сказати важливі речі. Та, на жаль, повернутися з мертвих неможливо. Принаймні не у звичному розумінні.
Але що, якщо воскресити людину віртуально? Ми не зможемо її торкнутися і відчути, але могли б поговорити, наче під час простої переписки. Хоча це звучить фантастично, насправді подібну можливість уже зараз пропонують одразу кілька стартапів. Вони використовують штучний інтелект, що завдяки аналізу даних про померлого, створює його віртуальну копію, з якою можна говорити у чатботі. Їх можна назвати цифровими, генеративними чи ШІ-привидами.
Але чим насправді може бути обґрунтовано приведення у світ ШІ-привидів? Чи можуть вони допомогти людям? І чому фахівці вважають, що людство поки що до них не готове? Про це розповідаємо з погляду психотерапевта Дублінського університету Найджела Маллігана (Nigel Mulligan) та спеціалістів з ШІ Джеда Брубейкера (Jed R. Brubaker) з Університету Колорадо та Мередіт Морріс (Meredith Morris) з Google DeepMind.
Як створити власного цифрового привида
В останні роки значного вдосконалення досягли такі великі мовні моделі на основі штучного інтелекту (ШІ), як ChatGPT. Вони досягли рівня, коли їх часто неможливо відрізнити за розмовою від людини: вони мають пам'ять, планують та навіть жартують, щоправда, з перемінним успіхом. Усе це їм вдалося завдяки навчанню на величезних масивах даних — книгах, статтях, літературних текстах, діалогах з фільмів та повідомленнях живих людей під час типових розмов.
Колосальну кількість інформації залишає по собі й людина. Це тисячі повідомлень з переписок із друзями, коханими, колегами, у яких людина проявляє свій характер і манеру спілкування з різними людьми. Це сотні публікацій у соціальних мережах, якими людина виражає свої погляди на події у світі та якісь фундаментальні речі. Також це голосові та відеоповідомлення. Усі ці дані можуть бути використані й для навчання нейромережі, яка на основі їх аналізу визначить характерні риси людини та зможе імітувати їх при розмові. Тобто завдяки аналізу текстів, нейромережа зможе генерувати відповіді людини.
Один із наявних стартапів, Re;memory, пропонує людям створити власну цифрову копію, яка залишиться після смерті, тренуючи ШІ на семигодинному відеозаписі інтерв'ю з клієнтом. Інший, HereAfter, збирає дані через додаток, який опитує людину щодо ключових аспектів життя, щоб після її смерті близькі могли спілкуватися з навченим на відповідях чатботом. Він матиме спогади померлого і зможе ділитися фотографіями, що стосуються особливих моментів з його життя та життя рідних.
Утім, є низка стартапів, які використовують дані вже померлих людей, таким чином пропонуючи їх свого роду воскресити. Наприклад, Character.AI дає змогу поспілкуватися з цифровою версією Вінсента ван Гога чи Вільяма Шекспіра. Project December пропонує «симулювати» будь-якого померлого на основі завантаження інформації про нього та створення відповідного чатбота.
Подібні моделі навіть можуть стати не просто репрезентацією людини на певному етапі її життя, а навчаючись на новій інформації, еволюціонувати. Наприклад, «старіти», відповідно змінюючи свої «погляди» та манеру спілкування.
Світлі можливості завдяки ШІ-привидам
Цифрові привиди можуть допомогти людям ще за життя легше прийняти власну смерть. Думка, що вони продовжать існувати у світі навіть після смерті, може давати полегшення. Зокрема щодо того, що про них пам'ятатимуть такими, якими вони були, і що вони зможуть передати свої знання навіть через багато поколінь. Також померлий міг би завдяки своїй ШІ-копії допомогти після смерті трактувати його останню волю.
Та чи не більшу користь ШІ-привиди можуть принести горювальникам. Часом буває особливо важко змиритися з утратою близької людини, і тоді цифрові привиди можуть стати втіхою, допомагаючи відновити зв'язок із померлим. Іноді психологи рекомендують звертатися до померлих усно чи письмово, розповідаючи їм про свої почуття та думки, однак це завжди лише одностороннє спілкування. Натомість цифрові привиди можуть надати зворотний зв'язок і таким чином мати сильніший ефект.
Горювальники також могли б скористатися ШІ-привидами, щоб попрощатися чи запитати важливі речі, які не встигли висловити за життя померлого, отримати цінні поради. Зробивши це людині може стати легше відпустити від себе померлого. Також ШІ-привиди можуть створити враження присутності вже померлої людини при важливих подіях. Наприклад, сказати від імені померлого привітання на весіллі онуків.
Втручання цифрових привидів у розум живих
Але навіть найдетальніша подібність цифрових привидів до втраченої близької людини може бути не такою позитивною, як здається. Привиди можуть бути шкідливими для психічного здоров'я людей, втручаючись у нормальний процес скорботи. Вона потребує часу, та іноді проходження етапів примирення з горем, які можуть тривати багато років. Тоді ті, хто переживає скорботу, можуть часто думати про померлого, постійно згадувати спогади з ними, і в такому разі ШІ-привиди можуть посприяти виникненню залежності та униканню контактів з живими людьми.
Людина, ментальне здоров'я якої порушилося сильним горем, раз за разом повертаючись до спілкування з померлим через чатбот, може навіть втратити зв'язок з реальністю. Їй може здатися, що вона насправді спілкується з померлою людиною. Тож цифрові привиди можуть ще більше травмувати тих, хто переживає ускладнене горе, і посилити пов'язані з цим проблеми, такі як галюцинації.
Після сильного прив'язування до цифрової копії померлого горювальники можуть стикнутися з потребою повторно пережити втрату. На це може бути безліч причин: від закриття проєкту до втрати можливості платити за підтримання чатбота, технічні поламки або хакерські атаки, які критично пошкоджують дані користувачів. Це може завдати додаткової шкоди ментальному здоров'ю горювальників.
Зрештою, не слід забувати, що мовні ШІ часто мають схильність і самі «галюцинувати» — генерувати відповіді навмання, які здаються дуже правдоподібними. Якщо це станеться з ШІ-привидом, то він може давати відповіді, які хибно характеризуватимуть померлу людину, загрожуючи її репутації. Наприклад, висловлювати від її імені зовсім не властиві їй погляди чи давати поради, які за життя померла людина ніколи б не сказала, зокрема шкідливі.
Зрештою, часом люди просто не хочуть ділитися окремими думками з іншими. Було б дуже боляче, якби сину чи дочці створили ШІ-привид померлого батька, лише щоб вони почули, що батько їх не любив чи вони не були його улюбленцями. Або ж якби привид запропонував користувачеві приєднатися до них в смерті або вбити когось чи завдати комусь шкоди.
Загрози цифрових привидів для цілого суспільства
Дослідники занепокоєні, що проблема з цифровими привидами може навіть вийти за межі завдання індивідуальної шкоди та стати загрозою суспільству. Наприклад, вони можуть породити новий тип злочинності. Вона може бути у вигляді викрадення привида, і в такому разі зловмисники можуть дістатися конфіденційної інформації, як-от фінансових даних, паролів, розташування цінних речей, або ж інформації, якою можна шантажувати близьких померлого.
Інші злочинці можуть спробувати зламати систему привидів і вимагати гроші від людей за можливість продовжити користуватися сервісом, або ж можуть видавати себе за самого привида, отримуючи від близьких потрібну інформацію через обман.
Науковці навіть замислилися про те, як ШІ-привиди можуть вплинути на сучасні релігії. Ритуали та віра у потойбічне життя є важливою частиною більшості основних релігій, тому пов'язаний зі смертю ШІ у випадку значного поширення здатний змінити релігійні практики. У деяких випадках це може відбутися як оновлення окремих ритуалів, наприклад, поховальних, щоб впровадити у них нову технологію. Але також це може призвести до появи нових релігійних течій, у яких люди будуть боготворити цифрових привидів чи сприймати їх як потойбічних істот, яким прагнутимуть поклонятися. Таким чином, світовим релігіям може знадобитися оновити свої рекомендації та догми, щоб вписати технологію у рамки вірування.
Як зробити цифрові привиди безпечними
Хоч технологія ШІ-привидів ще не набула масового поширення, вчені вважають, що вже зараз варто замислитися про її потенційні наслідки та знайти розв'язання майбутніх проблем.
Щоб мінімізувати шкоду для ментального здоров'я горювальників, але зберегти користь від спілкування з віртуальними образами померлих, слід буде ретельно продумати функціонування таких систем. Зокрема, його інтерфейс має чітко вказувати, що користувач спілкується з репрезентацією людини, а не з нею самою. Також важливим може бути створення свого роду «рубильника» для окремих ситуацій, щоб у користувачів була можливість тимчасово чи назавжди відключити програму. Наприклад, якщо доступ до неї потрапить до рук злочинців або вона завдаватиме шкоди користувачам.
Також розробникам разом із юристами слід врегулювати питання щодо використання даних померлих людей і способи мінімізації ризиків зловживання ними. Наприклад, визначити, хто має право створювати цифрових привидів, на яких підставах і з якими даними.
Тобто суспільний діалог щодо доцільності цифрових привидів має пройти за участю експертів різних сфер суспільства: від ШІ-дослідників, фахівців із взаємодії людини та комп'ютера до психологів, представників релігій та законодавців.