Лев XIV закликав надати ООН більше повноважень через штучний інтелект
Головне протиріччя " Magnifica Humanitas " полягає в тому, що вона засуджує централізовану технологічну владу і "вавилонські" глобальні системи, водночас вимагаючи створення наднаціональних управлінських структур для регулювання штучного інтелекту в усьому світі.
В енцикліці "Вавилон" стає символом цивілізації, побудованої на централізованій владі, одноманітності та людській самодостатності.
§5 попереджає, що приватні, часто транснаціональні актори володіють "ресурсами і можливостями, що перевершують ресурси і можливості багатьох урядів", що дає їм "вражаючу владу над усім людством".
Однак запропонованим рішенням є посилення міжнародної координації та глобального управління ШІ.
Енцикліка закликає до "міжнародного порядку" (§33), "всесвітнього братерства" (§44) і глобальних моральних принципів для управління ШІ.
§64 закликає до "більш ефективних форм співпраці та міжнародних інституцій, здатних захистити глобальне спільне благо".
§72 вимагає створення наднаціональних інституцій, здатних гарантувати справедливі правила управління даними, цифровими середовищами та прийняття алгоритмічних рішень у всьому світі.
Найважливіше те, що §226 фактично закликає до посилення Організації Об'єднаних Націй з повноваженнями над глобальними цифровими системами, універсальними стандартами ШІ і транснаціональними механізмами правозастосування.
Суперечність очевидна. Енцикліка побоюється концентрації технологічної влади і цифрових олігархій, але при цьому неодноразово вимагає глобального регулювання і багатостороннього управління - без серйозного розгляду питання про те, хто керує правителями.
Інші суперечності в енцикліці
- ШІ є нейтральним - ШІ не є нейтральним
У §9 про ШІ сказано: "Якщо розглядати його абстрактно, він сам по собі не є ні вирішенням проблем людства, ні злом".
Проте §104 стверджує: "Ми не можемо вважати ШІ морально нейтральним".
- Церква не володіє істиною - але детально прописує
У §25 сказано, що Церква не претендує на монополію на істину. Але далі йдуть десятки конкретних політичних приписів і моральних суджень. Одним із прикладів є §107, який стверджує, що "необхідна більш активна політична участь, яка здатна уповільнити події".
- Справедливу війну подолано - але критерії справедливої війни залишаються
§ 192 закликає до "подолання теорії "справедливої війни", яка занадто часто використовується для виправдання будь-якого виду війни".
Проте § 199 зберігає класичні принципи справедливої війни, такі як пропорційність, захист цивільного населення, підзвітність і відмінності між комбатантами і некомбатантами у війні зі штучним інтелектом.
Переклад зі штучним інтелектом