- Срд, 24/01/2024 - 16:21
Дорогі брати й сестри!
Розвиток систем так званого «штучного інтелекту», над яким я вже розмірковував у своєму нещодавньому Посланні з нагоди Всесвітнього дня миру, радикально змінює також інформацію та комунікацію, а через них – деякі підвалини громадського співіснування. Ця зміна торкається кожного, а не лише професіоналів. Прискорене поширення чудових винаходів, функціонування і потенціал яких для більшості з нас незбагненні, викликає захоплення, яке коливається між ентузіазмом і дезорієнтацією, і неминуче ставить перед нами фундаментальні запитання: чим тоді є людина, в чому її особливість і яким буде майбутнє цього нашого виду, що зветься homo sapiens, в епоху штучного інтелекту? Як ми можемо залишатися людьми в повній мірі і спрямувати на добро поточні культурні зміни?
Починаючи із серця
Перш за все, варто очистити ґрунт від катастрофічних трактувань та їхніх паралізуючих наслідків. Вже століття тому, розмірковуючи про технології та людство, Романо Ґвардіні закликав нас не ціпеніти перед «новим», намагаючись «зберегти прекрасний світ, приречений на зникнення». Водночас він пророчо перестерігав: «Ми постійно перебуваємо в процесі становлення. Ми повинні входити в цей процес, кожен на своєму місці, чесно приймаючи його, але залишаючись чутливими, з незіпсованим серцем, до всього, що в ньому є деструктивного та нелюдського». І підсумовував: «Це правда, що йдеться про проблеми технічного, наукового, політичного характеру; але їх не можна вирішити, якщо відправною точкою не буде наша природа. Повинен сформуватись новий тип людини, наділений глибшою духовністю, новою свободою і внутрішньою сутністю»[1].
У цій епосі, якій загрожує ризик бути багатою на технології та бідною на людяність, наші роздуми не можуть починатися інакше, як від людського серця[2]. Лише оснастивши себе духовним поглядом, лише відновивши мудрість серця, ми можемо прочитати та інтерпретувати новизну нашого часу і наново відкривати шлях до цілком людської комунікації. Серце, яке в біблійному розумінні є осередком свободи і найважливіших життєвих рішень, є символом цілісності, єдності, але воно також виражає почуття, прагнення, мрії і, перш за все, є внутрішнім місцем зустрічі з Богом. Отже, мудрість серця – це та чеснота, яка дозволяє нам сплести воєдино ціле і частини, рішення та їхні наслідки, нашу благородність і слабкість, минуле і майбутнє, «я» і «ми».
Ця мудрість серця дає знайти себе тим, хто її шукає, і дає побачити себе тим, хто її любить; вона випереджає тих, хто її бажає, і вирушає на пошуки тих, хто її гідний (пор. Муд 6,12-16). Вона перебуває з тими, хто приймає поради (пор. Пр 13,10), з тими, чиї серця слухняні, хто слухає (пор. 1 Цар 3,9). Вона є даром Святого Духа, який дає можливість бачити речі Божими очима, розуміти зв'язки, ситуації, події та відкривати їхній сенс. Без цієї мудрості життя стає прісним, бо саме мудрість (sapientia), латинський корінь якої пов'язує її зі смаком (sapor), надає життю «смаку».
Можливості та небезпеки
Ми не можемо очікувати цієї мудрості від машин. Хоча термін «штучний інтелект» витіснив більш правильний термін, що використовується в науковій літературі, – «машинне навчання», саме ж використання слова «інтелект» є недоречним. Машини, безумовно, мають незрівнянно більшу, ніж людина, здатність зберігати дані і співвідносити їх між собою, але тлумачити їхній сенс – завдання людини і тільки людини. Тому не йдеться про те, щоб вимагати від машин схожості з людьми. Йдеться радше про те, щоб пробудити людину від гіпнозу, в який вона впадає через манію всемогутності, вважаючи себе абсолютно автономним і самореферентним суб'єктом, відокремленим від будь-яких соціальних зв’язків, який забуває про те, що є створеним.
Насправді, людина завжди відчуває, що не є достатньою для себе, і намагається подолати свою вразливість, використовуючи будь-які засоби. Починаючи з найдавніших доісторичних артефактів, які використовувалися як продовження рук, через засоби комунікації, що використовувалися як продовження мови, ми сьогодні дійшли до найвитонченіших машин, які діють як допоміжні засоби для мислення. Кожна з цих дійсностей, однак, може бути забруднена споконвічною спокусою ставати як Бог без Бога (пор. Бут 3), тобто прагнути підкорити власною силою те, що натомість потрібно радше приймати як Божий дар і переживати у взаєминах з іншими.
Залежно від спрямування серця, будь-що в руках людини стає можливістю або небезпекою. Саме її тіло, створене для того, щоб бути місцем спілкування і сопричастя, може стати засобом агресії. Так само кожне технічне продовження людини може бути інструментом люблячого служіння або ворожого домінування. Системи штучного інтелекту можуть сприяти процесу звільнення від невігластва і полегшити обмін інформацією між різними народами і поколіннями. Вони можуть, наприклад, зробити доступним і зрозумілим величезне багатство знань, записаних у минулих епохах, або дозволити людям спілкуватися невідомими їм мовами. Але водночас вони можуть бути інструментами «когнітивного забруднення», спотворення реальності за допомогою частково або повністю неправдивих наративів, у які вірять і які поширюють, ніби вони правдиві. Достатньо згадати проблему дезінформації, з якою ми маємо справу вже багато років у формі fake news[3], і яка сьогодні використовує deep fake, тобто створення і поширення зображень, які здаються цілком правдоподібними, але є фальшивими (мені також доводилося ставати суб’єктом цього), або аудіоповідомлення, які використовують голос людини, говорячи те, чого вона ніколи не говорила. Моделювання, яке лежить в основі цих програм, може бути корисним у деяких специфічних сферах, але воно стає збоченням там, де спотворює стосунки з іншими людьми та дійсністю.
На прикладі першої хвилі штучного інтелекту, тобто хвилі соціальних мереж, ми вже зрозуміли його амбівалентність, торкнувшись як його можливостей, так і ризиків та патологій. Другий рівень, тобто, рівень генеративного штучного інтелекту, знаменує собою безперечний якісний стрибок. Тому треба мати можливість розуміти, осмислювати і регулювати інструменти, які в неправильних руках можуть запустити негативні сценарії. Як і будь-що інше, створене розумом та руками людини, алгоритми не є нейтральними. Тому необхідно діяти превентивно, пропонуючи моделі етичного регулювання для обмеження шкідливих і дискримінаційних, соціально несправедливих наслідків систем штучного інтелекту та для протидії їх використанню з метою обмеження плюралізму, для поляризації громадської думки або конструювання єдиного мислення. Тому я поновлюю своє звернення, закликаючи «Спільноту націй разом працювати над прийняттям зобов'язуючого міжнародного договору, який би регулював розвиток і використання штучного інтелекту в його різноманітних формах»[4]. Однак, як і в кожній іншій сфері людської діяльності, самого регулювання недостатньо.
Зростати в людяності
Ми покликані зростати разом як людство в людяності. Перед нами стоїть завдання зробити якісний стрибок, щоб відповідати складному, багатоетнічному, плюралістичному, багаторелігійному та багатокультурному суспільству. Ми повинні ставити собі питання про теоретичний розвиток і практичне використання цих нових інструментів комунікації та пізнання. Великі можливості для добра супроводжує загроза, що все перетвориться в абстрактний обрахунок, применшуючи людину до даних, думку – до схеми, досвід – до випадку, добро – до прибутку, й у першу чергу, що все зведеться до заперечення унікальності кожної людини та її історії, розчиняючи конкретність реальності в низці статистичних даних.
Цифрова революція може зробити нас вільнішими, але не тоді, коли вона ув'язнює нас у моделях, відомих сьогодні як echo chamber. У таких випадках замість збільшення плюралізму інформації, ми ризикуємо загубитися в анонімному болоті, потураючи інтересам ринку чи влади. Неприпустимо, щоб використання штучного інтелекту призводило до анонімного мислення, до нагромадження неперевірених даних, до колективної редакційної відмови від відповідальності. Насправді, представлення реальності у формі big data, яким би функціональним це не було для машинного управління, означає суттєву втрату правди про стан речей, що ускладнює міжособистісну комунікацію і ризикує завдати шкоди самій нашій людськості. Інформація не може бути відокремлена від життєвих стосунків: вона включає в себе тіло, перебування в дійсності; вона вимагає співвіднесення не лише даних, але й досвіду; вона вимагає обличчя, погляду, співчуття, а не тільки обміну.
Маю на увазі репортажі про війни та «паралельну війну», яка ведеться за допомогою дезінформаційних кампаній. І думаю про те, скільки репортерів отримують поранення або гинуть на місцях, щоб ми могли побачити те, що бачили їхні очі. Бо тільки доторкнувшись до страждань дітей, жінок і чоловіків, ми можемо зрозуміти абсурдність воєн.
Застосування штучного інтелекту зможе зробити позитивний внесок у сферу комунікації, якщо не скасує роль журналістики в цій галузі, а навпаки, доповнить її; якщо підвищить професіоналізм комунікації, зробивши кожного комунікатора відповідальним; якщо поверне кожній людині роль суб'єкта комунікації, здатного до критичного мислення.
Запитання для сьогоднішнього і завтрашнього дня
Отож, спонтанно виникають деякі запитання: як захистити професійність і гідність працівників у галузі комунікації та інформації, разом із гідністю користувачів в усьому світі? Як забезпечити інтероперабельність платформ? Як зробити так, щоб компанії, які розробляють цифрові платформи, брали на себе відповідальність за те, що вони поширюють і з чого отримують прибуток, так як це відбувається з традиційними медіа-видавцями? Як зробити більш прозорими критерії, що лежать в основі алгоритмів індексації та деіндексації, а також пошукових систем, спроможних підносити або викреслювати людей і думки, історії та культури? Як гарантувати прозорість інформаційних процесів? Як зробити авторство творів очевидним, а джерела – доступними для відстеження, щоб запобігти завісі анонімності? Як зробити так, щоб було видно, чи якесь зображення або відео відображає подію, а чи симулює її? Як запобігти зведенню джерел до єдиного мислення, опрацьованого алгоритмами? І як, натомість, розвивати середовище, яке зберігає плюралізм і відображає складність дійсності? Як зробити цей потужний, витратний і надзвичайно енергоємний інструмент екологічно сталим? Як ми можемо зробити його доступним також для країн, що розвиваються?
З відповідей на ці та інші запитання зможемо зрозуміти, чи штучний інтелект врешті-решт призведе до створення нових каст, заснованих на інформаційному домінуванні, породжуючи нові форми експлуатації та нерівності; а чи, навпаки, принесе більше рівності, сприяючи поширенню правильної інформації та більшому усвідомленню перехідної епохи, яку ми переживаємо, сприяючи слуханню численних потреб людей і народів за допомогою артикульованої та плюралістичної інформаційної системи. З одного боку вимальовується привид нового рабства, з іншого – здобуття свободи; з одного боку – можливість того, що деякі обумовлюватимуть мислення всіх, з іншого – можливість того, що всі братимуть участь у формуванні мислення.
Відповідь ще не написана, вона залежить від нас. Це людина повинна вирішити, чи стане поживою для алгоритмів, а чи підтримувати свободу свого серця, без якого неможливо зростати в мудрості. Ця мудрість дозріває, коли цінуємо час і приймаємо вразливість. Вона зростає в союзі між поколіннями, між тими, хто зберігає пам'ять про минуле, і тими, хто має бачення майбутнього. Тільки разом зростає здатність до розпізнання, пильності, бачення речей у їхньому звершенні. Щоб не загубити свою людяність, шукаймо Мудрості, яка є понад усе (пор. Сир 1,4), що, проходячи через чисті серця, готує Божих друзів і пророків (пор. Муд 7,27): вона допоможе нам узгодити також і системи штучного інтелекту з повністю людяною комунікацією.
Рим, базиліка святого Івана на Латерані, 24 січня 2024.
Франциск
__________________________________
Lettere dal lago di Como, Brescia 2022, 95-97.
У послідовності з посланнями на попередні Всесвітні дні суспільної комунікації, присвяченими зустрічі людей там, де вони перебувають (2021), слуханню вухом серця (2022) та промовлянню серцем (2023).
Пор. “Правда визволить вас” (Ів 8,32). Fake news і журналістика миру. Послання на LII Всесвітній день суспільних комунікацій, 2018.
Послання на LVII Всесвітній день миру, 1 січня 2024, 8.
