Папа Франциск: Штучний інтелект між «новим рабством» і свободою

0
36

Опубліковане послання з нагоди 58-го Всесвітнього дня комунікації: заклик до етичного розвитку штучного інтелекту та важливість людського фактору.

Між тим, щоб бути їжею для алгоритмів, і тим, щоб живити серце свободою — ось де, за словами Папи Франциска, коливається сьогодні людина перед обличчям нової хвилі генеративного штучного інтелекту, яка сповнена можливостей, але також і ризиків. Виклики штучного інтелекту Папа окреслює у своєму Посланні з нагоди Всесвітнього дня комунікації, темою якого є «Штучний інтелект і мудрість серця: задля повністю людської комунікації». Папа Франциск засуджує: «Неприпустимо, щоб використання штучного інтелекту призводило до анонімного мислення, до нагромадження несертифікованих даних, до колективної редакційної безвідповідальності». Про це пише пресслужба Секретаріату Синоду Єпископів УГКЦ.

Це вже друге послання цього року, присвячене штучному інтелекту, після послання з нагоди Всесвітнього дня миру, і це тема, над якою Святий Престол роздумує вже деякий час. У посланні — цей день відзначатиметься 12 травня 2024 року — ми знаходимо багато тем, які розвинулися в останні роки: ризик фейкових новин і паралельних інформаційних війн; необхідність етичної основи для використання алгоритмів; потреба в регулюванні, що спонукало Святий Престол закликати до створення Всесвітнього органу зі штучного інтелекту у зверненні до Організації Об’єднаних Націй.

Мудрість серця

Штучний інтелект — це «зміна, яка стосується кожного, а не лише професіоналів», і її не слід сприймати з «катастрофічним прочитанням». Навпаки, Папа Франциск сподівається, що «в цю епоху, яка ризикує бути багатою на технології та бідною на людяність», ми повинні починати саме з людини, яка покликана озброїтися «духовним поглядом» та «мудрістю серця», де серце розуміється «біблійно як місце свободи та найважливіших життєвих рішень, воно є символом цілісності, єдності, але також викликає прихильність, бажання, мрії, а передусім є внутрішнім місцем зустрічі з Богом».

Мудрості серця не можна очікувати від машин, зазначає Папа Франциск, вказуючи також на те, що сьогодні ми говоримо про штучний інтелект, але в науковій літературі правильніше вживати термін «машинне навчання».

І це тому, що «машини, безумовно, володіють незмірно більшою, ніж людина, здатністю зберігати дані та співвідносити їх між собою, але розшифровувати їхнє значення належить людині і тільки людині».

Інструмент люблячого служіння, а не ворожого панування

Машини не покликані «виглядати як люди». Навпаки, ми повинні «пробудити людину від гіпнозу, в який вона впадає через манію всемогутності, вважаючи себе абсолютно автономним і самодостатнім суб’єктом, відокремленим від усіх соціальних зв’язків і забуваючи про свою творчу сутність».

Адже це правда, що «людина завжди відчувала себе недостатньою для самої себе і прагне подолати власну вразливість будь-якими засобами», але це не повинно заражати її «споконвічною спокусою стати подібною до Бога без Бога».

Папа підкреслює, що «кожне технічне продовження людини може бути інструментом люблячого служіння або ворожого панування», вони можуть звільняти від невігластва та обмінюватися інформацією, але водночас можуть бути «знаряддям когнітивного забруднення, що змінює реальність, через частково або повністю фальшиві наративи, в які вірять та поширюють їх так, наче вони є правдивими».

На другому плані залишається тема fake news, і навіть deep fake, який оперує симуляцією, що «може бути корисною в деяких конкретних сферах, але стає збоченою там, де вона спотворює стосунки з іншими людьми та реальність».

Якісний стрибок штучного інтелекту

Папа пригадує першу хвилю штучного інтелекту, яку спричинили соціальні мережі, вказує на «якісний стрибок», який відбувся з другим рівнем генеративного штучного інтелекту», та підкреслює, що «важливо, отже, вміти розуміти, осмислювати та регулювати інструменти, які в поганих руках можуть відкрити негативні сценарії».

Алгоритми «не є нейтральними», необхідно «діяти превентивно, пропонуючи моделі етичного регулювання, щоб зупинити шкідливі і дискримінаційні, соціально несправедливі наслідки систем штучного інтелекту і протидіяти їх використанню для зменшення плюралізму, поляризації громадської думки або конструювання єдиної думки».

Однак регулювання недостатньо. Якісний стрибок належить людині, і необхідно «дорівнятися до складного, багатоетнічного, плюралістичного, багаторелігійного та багатокультурного суспільства», враховуючи, що «великі можливості для добра супроводжуються ризиком того, що все стає абстрактним розрахунком, який зводить людину до даних, думку до схеми, досвід до випадку, добро до прибутку, і, перш за все, що в кінцевому підсумку ми заперечуємо унікальність кожної людини та її історії, розчиняючи конкретність реальності в ряді статистичних даних».

Папа Франциск підкреслює, що «цифрова революція може зробити нас вільнішими, але, звичайно, не тоді, коли вона ув’язнює нас у моделях, відомих сьогодні як echo chamber», які несуть з собою ризик «загубитися в анонімному болоті, потураючи інтересам ринку або влади».

Інформація неможлива без живої комунікації

Папа засуджує: «Неприпустимо, щоб використання штучного інтелекту призводило до анонімного мислення, до нагромадження неперевірених даних, до колективного редакційного божевілля. Відображення реальності у великих даних, яким би функціональним воно не було для управління машинами, насправді означає суттєву втрату істинного стану речей, що перешкоджає міжособистісному спілкуванню і ризикує завдати шкоди самій нашій людяності».

Інформацію, — йдеться далі в посланні, — «не можна відокремити від екзистенційних стосунків», адже існує потреба в «обличчі, погляді, співчутті», а також в тому, щоб ділитися нею. Папа Франциск нагадує про «паралельну війну» дезінформаційних кампаній, згадує про репортерів, які гинуть на полі бою, щоб «дозволити нам побачити те, що бачили їхні очі», і знову наголошує, що «використання штучного інтелекту зможе зробити позитивний внесок у сфері комунікації, якщо не анулює роль журналістики, а навпаки, доповнить її; якщо підвищить професіоналізм комунікації, роблячи кожного комунікатора відповідальним; якщо поверне кожній людині роль суб’єкта, здатного до критичного сприйняття, самого спілкування».

Залишаються фундаментальні питання, які стосуються захисту працівників сфери комунікації та інформації, але також і неанонімності творів та прозорості інформаційних процесів, аж до необхідної прозорості «в основі індексації та деіндексації алгоритмів і пошукових систем, здатних звеличувати або скасовувати людей та думки, історії та культури».

Між «новим рабством» та свободою

Папа зазначає, що відповіді на ці запитання дадуть зрозуміти, «чи штучний інтелект, врешті-решт, створить нові касти, засновані на інформаційному домінуванні, породжуючи нові форми експлуатації та нерівності, чи, навпаки, принесе більше рівності, сприяючи поширенню правдивої інформації та глибшому усвідомленню перебігу епохи, яку переживаємо, віддаючи перевагу вислуховуванню численних потреб людей і народів у зрозумілій та плюралістичній інформаційній системі».

Він коливається між «примарою нового рабства» або «завоюванням свободи», між «можливістю кількох обумовлювати мислення всіх» і можливістю «всіх брати участь у виробленні думки».

Папа Франциск підсумовує: «Відповідь не написана, вона залежить від нас самих. Людина сама вирішує, чи стати їжею для алгоритмів, чи живити власне серце свободою, без якої вона не зростає в мудрості».

Мудрості, яка «дозріває, цінуючи час і приймаючи вразливості. Вона зростає в союзі між поколіннями, між тими, хто пам’ятає минуле, і тими, хто бачить майбутнє. Тільки разом зростає здатність розрізняти, бути пильними, бачити речі в їхньому виконанні».