Як «зламати код» програмістів

У час, коли штучний інтелект фактично починає керувати значною частиною нашого життя, ми як суспільство мусимо впевнитися, що творці алгоритмів усвідомлюють, що ненавмисно вони можуть створити те, що аж ніяк не служитиме на благо людей.

Як показує публіцист Клайв Томпсон (Clive Thompson) у своїй книзі «Coders: The Making of a New Tribe and the Remaking of the World» («"Кодери": становлення нового племені та перезавантаження світу»)¹, ті, хто мають неабиякий вплив на різні аспекти нашого буття, не обов’язково належать до типу людей, які замислюються над негативними наслідками своїх дій.

Однією із характерних ознак двох останніх десятиріч є поява колишніх програмістів на найвищих корпоративних посадах. Ці індивіди впливають на політику, економіку та чималу частину нашого повсякденного життя. І хоча у Кремнієвій долині чимало людей, які щиро вірять у свою причетність до творення кращого майбутнього, де свобода та повсюдна з’єднаність будуть нормою, важливо усвідомлювати, що технологія і особливо інтернет є «палицею з двома кінцями».

У книзі наводяться слова Мачея Цегловскі (Maciej Cegłowcki), програміста та спікера, відомого критикою на адресу технологічного світу, який, характеризуючи своїх колег «по цеху», сказав, що «успіх у штучно створеному світі програмування сприяє надмірній самовпевненості». А фахівець у сфері комп’ютерних наук Джозеф Вайзенбаум (Joseph Weizenbaum) зауважив у 1976-му році, що «здивується, якщо застереження лорда Актона про те, що влада псує, не матеріалізується в середовищі, де всесилля є легкодосяжним».

Ось що розповів Томпсону один програміст із Noisebridge про свої дитячі враження:

Проте ця книга не випад проти світу програмістів. Навпаки, автор виявляє неабияку симпатію до своїх колег, описуючи деталі їхньої подеколи виснажливої і зовсім не «гламурної» праці, що мало відповідає картинці, яку десятиріччями представляють нам кіно- та телережисери. «Поняття не маю, як ви напишете цю книгу, адже програмування — це найнудніша у світі річ», — сказав Томпсону один із «кодерів».

Напевно, найважливішим є те, що книга допомагає глибше зрозуміти середовище «кодерів». У першу чергу, це світ, в якому домінує безкомпромісна ефективність. І це, за словами автора, відповідає головній «фішці» капіталізму — «зробити щось дещо ефективнішим, ніж раніше — і підвищити за рахунок цього прибутки».

Сама природа діяльності «кодерів» є такою, що найважливішими, здебільшого, є суто практичні речі (чи дозволяють ці рядки програми виконувати завдання, які вони покликані виконувати?) І ще, це досить гомогенний світ, населений переважно молодими людьми, в основному чоловіками — представниками білої раси і азійцями. (У книзі зазначається, що в 1983-му частка жінок серед провідних програмістів складала 35%, а до 2010-го зменшилася до 17%.) Така однорідність зумовлює вибори, які робить група, визначаючи тип інновацій, котрі в ній генеруються.

Томпсон пише, що проблемою є не лише те, що багато ідей стартапів націлені на розв’язання проблем одиноких молодих людей, яким потрібно, аби хтось їх нагодував чи поприбирав за ними. Дуже часто «кодери» мають вкрай наївні погляди на динаміку соціальної взаємодії (або, можливо, вони її просто ігнорують); не кажучи вже про те, що мало хто з них усвідомлює, як влада, котру має людина, впливає на її поведінку. Звісно, можна бути переконаним у тому, що з’єднувати людей — це дуже добре, але такі компанії, як Facebook, ігнорують небезпеки з’єднаності (лавини негативного зворотного зв’язку, зловживання довірою, можливість використання мереж у зловмисних цілях тощо). Якщо врахувати, що «підігрування» темним сторонам людської природи, може бути напрочуд дієвим способом стимулювати трафік, не важко зрозуміти, чому ці компанії «не помічають» проявів негідної поведінки.

У середньому кожний американець щодня витрачає 35 хвилин на стрічку новин Facebook. Алгоритм, що її формує, покликаний дати саме те, що подобається конкретному користувачу.

Якщо найпотужніші технологічні компанії серйозно налаштовані на зміни, то найпростіше — це розпочати з урізноманітнення складу персоналу, — зауважує Томпсон. Програмування як фах може сприяти формуванню дещо вузького бачення, обмеженого погляду на те, як функціонує світ і що в ньому є найбільш значущим. Тому Кремнієвій долині потрібен ширший діапазон точок зору, на основі яких приймаються рішення стосовно того, що потрібно створювати, і, не менш важливо, чого не слід робити. Оскільки уряд не здійснює жодних дієвих кроків, компанії мусять осмислювати ці питання набагато глибше, ніж будь-коли раніше. Повсюдність і впливовість соціальних мереж та пришестя машинного навчання означають: ставки стають неймовірно високими. Провідні технологічні компанії мають величезну владу. Настав час виявити таку ж відповідальність.

За матеріалами strategy+business.

¹ Книга увійшла до переліку «Найкращі бізнес-книги 2019-го року», категорія «Технології та інновації», за версією strategy+business.