Математики відшукали задачі, у яких прогнози штучного інтелекту не точніші за підкидання монети

Математики описали динамічні системи, поведінку яких алгоритми штучного інтелекту навіть після навчання на якісних даних не можуть передбачити з вищою точністю, ніж у простого підкидання монети. Такі системи, як-от клімат, потоки рідин чи коливання фізичних систем, змінюються з часом, тому модель має вловити не лише їхній поточний стан, а й перехід до наступного. Точність прогнозу в цих задачах може обмежувати не навчальний набір даних, а властивості самого процесу. Роботу опублікували в журналі Nature Communications.

Чому хороші дані не гарантують хорошу модель?

Машинне навчання використовує дані про процес або систему, за якими математична модель вчиться відтворювати її властивості й робити прогнози. Зазвичай очікують, що модель працюватиме надійніше, якщо матиме більше якісних даних для навчання. Проте для систем, що змінюються з часом, це очікування справджується не завжди. Автори описали динамічні системи, у яких жоден універсальний алгоритм не міг гарантовано навчитися правильно передбачати поведінку системи, незалежно від кількості тренувальних даних, а для ймовірнісних алгоритмів шанс успіху не перевищував 50 відсотків.

Водночас дослідники показали, за яких умов навчання з даних усе ж може працювати. На основі цього вони створили алгоритми, які не лише дають прогноз, а й оцінюють, наскільки він може відхилятися від правильного. Їх перевірили на системах із повторюваними коливаннями, хаотичній течії та прогнозуванні стану арктичного морського льоду. В останньому випадку метод знайшов приховані закономірності танення льоду в даних 1979-2021 років і точніше за наявні підходи прогнозував межу морського льоду на кілька місяців уперед. При цьому розроблену модель навчали на звичайному ноутбуці, тоді як порівнювана модель глибинного навчання потребувала понад добу роботи на графічному процесорі.

Які ще особливості машинного навчання раніше виявляли дослідники

🔁 Приховані сигнали в навчальних даних змусили мовні моделі переймати схильність до шкідливих порад, навіть коли ці дані не містили очевидно небезпечного змісту.

💊 Водночас перевірка медичних порад показала, що штучний інтелект можна навчити точніше відповідати про ліки й менше підлаштовуватися під користувачів.

🚫 А в медичних описах заперечення збивали моделі штучного інтелекту з правильного діагнозу.