Трансформаційний потенціал і обмеження штучного інтелекту: як зберегти збалансовану перспективу

Нещодавня заява Сема Альтмана (Sam Altman) про те, що OpenAI тепер знає, як побудувати загальний штучний інтелект (AGI), знову розпалила дискусії про майбутнє ШІ. Хоча подібні заяви легко потрапляють у заголовки новин, Аарон Андалман (Aaron Andalman), як нейробіолог, який провів більше десяти років, вивчаючи роботу мозку, зосередився на іншому парадоксі: одне з найпоширеніших критичних зауважень до сучасних ШІ-систем — що ми не до кінця розуміємо, як вони працюють — насправді може бути одним з їхніх найбільш схожих на мозок особливостей.

Реальність така, що, незважаючи на століття наукових досліджень, ми все ще не до кінця розуміємо, як працює людський мозок. Як дослідники, ми можемо спостерігати, що певні нейрони виконують певні функції, але ці знання мають обмежену пояснювальну силу щодо того, як насправді функціонують наші когнітивні процеси. Проте це не заважає нам бути продуктивними членами суспільства чи приймати важливі рішення.

Так само ми розуміємо математику, що лежить в основі штучного інтелекту, але між цими відносно простими математичними операціями та неабияким інтелектом, який демонструють ці системи, існує таємничий стрибок. Ця паралель між біологічними та штучними нейронними мережами не є недоліком — це характерна риса складних інтелектуальних систем.

Наприклад, нещодавно ми з другом працювали з OpenAI o1, однією з найдосконаліших ШІ-моделей. Ми показали йому візуальний пазл зі склеєних номерних знаків різних штатів і попросили його визначити країну походження кожної окремої літери або цифри. Після кількох хвилин роздумів він надав гарно сформульований і впевнений аналіз, який був майже повністю хибним.

Навіть після детального фідбеку він дав ще одну впевнену, але таку ж неправильну відповідь. Це свідчить про одне з найважливіших обмежень штучного інтелекту: незважаючи на вражаючі можливості в багатьох сферах, сучасному ШІ може не вистачати самосвідомості, щоб розпізнати, коли він може помилятися, що є цінним елементом людського інтелекту.

Наслідки для бізнесу

Все це вказує на більш широку правду про інтелект: він не є монолітною здатністю, а скоріше гобеленом спеціалізованих систем навчання. Наш мозок має різні механізми — від семантичної пам’яті для фактичних знань (наприклад, знання того, що 2+2=4) до епізодичної пам’яті для відтворення особистого досвіду (наприклад, пам’ять про момент, коли ви вперше вивчили арифметику) та неявного ймовірнісного навчання (як-от покращення гри в теніс без свідомого розуміння, чому). Хоча тести ШІ стають все більш всеосяжними і строгими, вони все ще не охоплюють усього розмаїття людського інтелекту.

Для бізнес-лідерів це має важливі наслідки. Нинішня хвиля ШІ — це не про повну заміну людського інтелекту, а про розуміння того, де ці інструменти можуть доповнити людські здібності, а де — ні. Наприклад, у творчих галузях генеративний ШІ ще не здатен створювати кращі зображення чи відео, ніж люди-професіонали. Це інструмент, який повинен залишатися «в полі зору» під наглядом людини.

Ставки в цьому розумінні зростають із розвитком можливостей ШІ. Технологія самокерованого водіння Tesla демонструє як перспективи, так і небезпеку: хоча вона може працювати вражаюче 99,9% часу, люди часто мають труднощі з розпізнаванням різниці між точністю 99,9% і 99,9999%. В результаті ми ризикуємо розвинути надмірний рівень довіри, який не враховує, наскільки життєво важливими є ці додаткові «дев’ятки» для забезпечення справжньої безпеки. Таким чином, випадкові непередбачувані збої слугують суворим нагадуванням про те, що ці системи ще не повністю відповідають складності людських очікувань і непередбачуваності реального світу.

Обмеження штучного інтелекту

Хоча машини вже давно перевершили людські можливості в довготривалій пам’яті та швидкості обробки даних і, схоже, готові перевершити нас в інших сферах, відтворення повного обсягу людського інтелекту залишається набагато більш недосяжною метою, ніж припускають деякі лідери індустрії. Варто зазначити, що більшість бенчмарків ШІ порівнюють продуктивність машин із продуктивністю окремої людини. Проте люди, як правило, не діють ізольовано. Найважливіші досягнення нашого виду — від побудови цивілізацій до розшифровки людського геному — є результатом колективних зусиль і співпраці. Спільні знання, командна робота та культурно переданий досвід дозволяють нам вийти за межі наших індивідуальних обмежень. Отже, хоча ШІ-модель може перевершити людину-одинака у виконанні певних завдань, вона не відтворює той вид колективного інтелекту, який з’являється, коли групи людей працюють разом. Ця здатність до динамічного колективного розв’язання проблем, що ґрунтується на мові, культурі та соціальній взаємодії, є ключовим аспектом людського інтелекту, який сучасні ШІ-системи не відображають повною мірою.

Розуміння цієї більш тонкої реальності має вирішальне значення для керівників, які опановують ландшафт штучного інтелекту — нам потрібно вийти за рамки бінарного питання про те, чи досяг ШІ рівня людського інтелекту, і замість цього зосередитися на розумінні конкретних аспектів, за якими ШІ-системи перевершують або не дотягують до людського рівня. Ключем до успішного впровадження ШІ є не сліпа довіра чи скептицизм, а скоріше тонке розуміння можливостей і обмежень цих систем. Подібно до того, як ми навчилися продуктивно працювати з людським інтелектом, незважаючи на те, що не до кінця його розуміємо, нам потрібно розробити фреймворки для роботи з ШІ, які визнають як його видатні можливості, так і притаманну йому непередбачуваність.

Це не означає уповільнення розвитку ШІ — прогрес справді вражаючий, і його варто відзначити. Але в міру того, як ці системи стають все більш досконалими, а дебати про ШІ тривають, ми повинні зберігати збалансовану перспективу, яка визнає як трансформаційний потенціал ШІ, так і його фундаментальні обмеження. Майбутнє штучного інтелекту полягає не в досягненні досконалого розуміння чи контролю, а в тому, щоб навчитися ефективно працювати з системами, які, як і наш власний мозок, завжди можуть зберігати елемент загадковості.

За матеріалами Fortune.

Ілюстрація: brainfacts.org