Сингулярність: чи перевершить штучний інтелект людський?

Штучний інтелект (ШІ) змінить світ, але навколо нього все ще багато хайпу та галасу. Розуміння того, що є фактом, що вигадкою, а що маркетинговим ходом, є дуже важливим, якщо ви хочете скористатися перевагами ШІ. Бернард Марр (Bernard Marr), футуролог, консультант зі стратегії та технологій, розмірковує про сингулярність — чи зможе ШІ перевершити людський інтелект.

Одне з тверджень, яке лунає все частіше, полягає в тому, що машинний інтелект в якийсь момент — можливо, невдовзі — перевершить людський інтелект.

Це явище відоме як «сингулярність» і важливе з багатьох причин, головна з яких полягає в тому, що воно ознаменує перший момент в історії людства, коли ми будемо ділити планету з істотами, розумнішими за нас.

Але чи справді це може статися? Чи це просто концепція, створена технологами та футурологами, щоб продати нам бачення майбутнього, на якому вони в кінцевому підсумку зароблять багато грошей? Давайте розберемося.

Що таке сингулярність і як далеко вона від нас?

Концепція сингулярності була популяризована письменником-фантастом Вернором Вінгом (Vernor Vinge) у 1990-х. Вона ґрунтується на ідеї, що як тільки машини зможуть навчатися самостійно, вони неминуче, в якийсь момент, перевершать людей у всіх аспектах, за якими ми можемо оцінювати їхній інтелект.

Існує багато граней того, що ми називаємо «інтелектом». Дві з них — це пам’ять і здатність до обчислень, і машини вже давно випередили нас в обох цих сферах. Тепер, із появою нових форм ШІ, вони стають креативними, комунікативними, здатними до просунутих мовних навичок, і навіть до міркувань, вирішення проблем та емоційного інтелекту.

Прихильники теорії сингулярності зазначають, що машинний інтелект має потенціал для експоненціального зростання. Коли ШІ стане розумнішим, він зможе створювати ще розумніші ШІ самостійно, без нашої участі.

Вони також вказують на те, що це може мати дуже непередбачувані наслідки. Чи можемо ми довіряти йому в тому, що він завжди дбатиме про наші інтереси? Чи не розвинеться у нього почуття переваги або самозбереження, яке зробить його небезпечним для нас? Багато дуже розумних людей вважають, що це реальна небезпека.

З іншого боку, більш оптимістична точка зору полягає в тому, що це може відкрити еру безпрецедентного технологічного прогресу, коли надрозумні комп’ютери знайдуть рішення для кожної проблеми, з якою стикається світ — від екологічної кризи до лікування раку. Дехто вважає, що це може зробити нас безсмертними.

Сингулярність може настати не завтра, але вона може бути не такою вже й віддаленою у часі. Відомий футуролог Рей Курцвейл (Ray Kurzweil) прогнозує, що вона може настати між 2029 і 2045 роками, виходячи з нинішніх темпів прогресу в дослідженнях штучного інтелекту і враховуючи такі концепції, як закон Мура.

Інші, зокрема Родні Брукс (Rodney Brooks), засновник iRobot і колишній керівник відділення комп’ютерних наук і ШІ в Массачусетському технологічному інституті, вважають це малоймовірним. Їхній аргумент полягає в тому, що до комп’ютерних потужностей, необхідних для реалізації надлюдського інтернету, ще століття.

А дехто, наприклад, психолог Стів Пінкер (Steve Pinker), сумнівається, що це коли-небудь станеться, стверджуючи: той факт, що ми можемо уявити, що це станеться, не є доказом того, що це коли-небудь стане можливим або стане реальністю.

Остання миля?

З огляду на нещодавні досягнення в галузі штучного інтелекту, зокрема появу таких інструментів генеративного ШІ, як ChatGPT і Dall-E 2, багатьом із нас може здатися, що ми зовсім недалекі від сингулярності.

Але навіть якщо це і так, все ще існує кілька дуже складних перешкод, які необхідно подолати, перш ніж вона стане реальністю.

Дійсно, сучасні системи мають можливості, які ще кілька десятиліть тому могли існувати лише в науковій фантастиці. Наприклад, брати участь у розмовах, писати вірші, перевершувати людей у складних іграх, таких як Го, і точно описувати те, що вони здатні «бачити» завдяки комп’ютерному зору.

Але сьогоднішній ШІ все ще залишається «вузьким» — зазвичай він призначений для виконання однієї конкретної задачі або набору задач. Важливою віхою на шляху до надлюдського інтелекту стане розробка загального штучного інтелекту (AGI), який здатен взяти те, що він дізнається про одне завдання, і застосувати це для того, щоб навчитися виконувати багато різних завдань, так само, як це робимо ми.

Також залишаються технічні виклики. Для навчання алгоритмів ML, здатних «мислити» так само широко, як і людина, знадобляться обчислювальні ресурси, що значно перевищують ті, які доступні сьогодні. Крім того, люди набагато ефективніші, коли йдеться про обробку даних. Машини потребують величезних обсягів інформації, щоб навчитися навіть відносно простим завданням, тоді як ми можемо зрозуміти основи багатьох завдань, просто спостерігаючи за їх виконанням один-два рази, завдяки нашій здатності мислити «в цілому» і застосовувати метод мислення, який ми називаємо «здоровим глуздом». Це походить від неявних знань, які ми маємо про світ і про те, як він працює.

Звичайно, не варто думати, що ці перешкоди останньої милі якимось чином нездоланні, особливо з огляду на те, що було досягнуто до цього часу. Але далеко не факт, що вони будуть подолані найближчим часом.

Тож, чи варто нам готуватися до сингулярності?

Хоча часові рамки можуть бути невизначеними, здається цілком розумним, що ми маємо готуватися, зважаючи на потенційно сейсмічні наслідки.

Одним із найбільш очевидних запобіжників є вжиття заходів, які б гарантували, що ШІ завжди діятиме відповідно до людських цінностей. Для цього необхідно переконатися, що він розуміє такі поняття, як повага до недоторканності життя, свобода, толерантність і різноманітність. Обмеження здатності ШІ завдавати шкоди через упередженість, неетичне ухвалення рішень або нестримну спекуляцію з боку бізнесу чи урядів, які його застосовують, є важливим кроком.

Водночас слід вжити заходів для пом’якшення суспільної шкоди, яка може бути завдана через такі фактори, як втрата робочих місць через ШІ. Це може включати заохочення компаній, які замінюють людський персонал машинами, інвестувати в перекваліфікацію та перепідготовку працівників для виконання альтернативних ролей, а також вивчення економічної політики, наприклад, універсального базового доходу.

Хоча ще далеко не ясно, коли настане сингулярність, і чи настане вона взагалі, проте ставки досить високі, щоб ми розглядали її як цілком реальну можливість. Уважно стежачи за ризиками і забезпечуючи безпеку, прозорість і підзвітність в стратегіях впровадження штучного інтелекту, ми маємо найкращі шанси забезпечити розвиток ШІ таким чином, щоб він приносив людству користь, а не шкоду.

Ілюстрація: curiousmatrix.com