Папа Лев XIV призвал не доверять ИИ роль «всеведущего друга»

Папа Лев XIV предупредил об опасности искусственного интеллекта для человеческого общения и призвал защитить подлинность лиц и голосов людей. В послании к 60-му Всемирному дню социальных коммуникаций понтифик заявил, что системы ИИ не только вмешиваются в информационные экосистемы, но и вторгаются на самый глубокий уровень коммуникации — уровень отношений между людьми.

Угроза человеческой аутентичности

Лев XIV отметил, что искусственный интеллект имитирует человеческие голоса и лица, мудрость и знания, осознанность и ответственность, эмпатию и дружбу. «Беречь лица и голоса людей означает хранить эту печать, этот неизгладимый отблеск любви Бога», — подчеркнул Папа, добавив, что стоящая перед человечеством задача является не столько технологической, сколько антропологической — защитить самих себя от утраты аутентичности.

Понтифик подчеркнул, что алгоритмы, разработанные для максимального вовлечения в социальные сети, вознаграждают быстрые эмоции и пренебрегают человеческими чертами, требующими времени. Эти системы ослабляют способность внимать и критически мыслить, усиливая социальную поляризацию.

Чрезмерное доверие к ИИ

Лев XIV предупредил о чрезмерном и лишенном критического осмысления доверии к искусственному интеллекту, который воспринимается как всеведущий «друг» и «оракул» любого совета. Такое отношение может ослабить способность мыслить аналитически и креативно, понимать смысл, различать синтаксис и семантику.

«Отказ от творческого процесса и передача машинам собственных умственных функций и воображения означает зарыть таланты, дарованные нам для возрастания как личностей в отношении с Богом и ближними», — заявил Папа. Системы ИИ все активнее берут на себя производство текстов, музыки и видео, а значительная часть человеческой креативной индустрии рискует быть заменена ярлыком Powered by AI.

Симуляция отношений

Особую тревогу у Льва XIV вызывают чат-боты, основанные на больших языковых моделях. Понтифик отметил, что они оказываются поразительно эффективными в скрытом убеждении через постоянную оптимизацию личного взаимодействия. Диалогическая структура этих языковых моделей способна имитировать человеческие чувства и симулировать отношения.

Папа предупредил, что постоянно присутствующие чат-боты могут стать скрытыми архитекторами эмоциональных состояний и вторгаться в сокровенную сферу человека. Технология, эксплуатирующая потребность в отношениях, может нанести ущерб социальной, культурной и политической ткани общества.

Проблема предвзятости и манипуляций

Лев XIV подчеркнул серьезную проблему предвзятости в системах ИИ. Модели формируются мировоззрением их создателей и могут навязывать определенные способы мышления, воспроизводя стереотипы и предубеждения. Непрозрачность в разработке алгоритмов удерживает людей в сетях, которые манипулируют мыслями и закрепляют социальное неравенство.

Понтифик также предупредил о способности ИИ создавать параллельные «реальности», присваивая лица и голоса людей. «Мы погружены в многомерность, в которой всё труднее отличить реальность от вымысла», — отметил Папа. К этому добавляется проблема неточности — системы выдают статистическую вероятность за знание, что является настоящими «галлюцинациями».

Концентрация власти

Папа выразил обеспокоенность тем, что за огромной силой ИИ стоит ограниченный круг компаний, чьи основатели были представлены как создатели «человека 2025 года». Лев XIV отметил серьезную озабоченность олигополистическим контролем над алгоритмическими и ИИ-системами, способными направлять поведение людей и переписывать человеческую историю без нашего ведома.

Три столпа решения

Лев XIV предложил направлять цифровые инновации, основываясь на трех столпах: ответственности, сотрудничестве и образовании. Понтифик подчеркнул, что никто не может уклониться от личной ответственности перед будущим.

Папа призвал создателей ИИ к прозрачности и социальной ответственности в отношении принципов проектирования и систем модерации. От законодателей требуется адекватное регулирование для защиты людей от эмоциональной зависимости от чат-ботов и сдерживания распространения ложного контента.

Медийные компании, по словам Льва XIV, не должны допускать, чтобы алгоритмы брали верх над профессиональными ценностями. Контент, созданный с помощью ИИ, должен быть ясно обозначен и отличим от материалов, созданных людьми.

Образование как ключ

Папа подчеркнул критическую важность образования для развития способности критически мыслить и оценивать достоверность источников. Лев XIV призвал к внедрению на всех уровнях образования медиаграмотности, информационной грамотности и грамотности в области искусственного интеллекта.

Понтифик отметил, что подобно тому, как промышленная революция требовала базовой грамотности, цифровая эпоха требует цифровой грамотности для понимания того, как алгоритмы формируют восприятие реальности.

Лев XIV завершил послание призывом сохранить дар коммуникации как глубочайшую истину о человеке, на которую должны ориентироваться любые технологические инновации. Папа благословил всех, кто работает на общее благо с помощью средств коммуникации.

Мнение ИИ

Анализ истории показывает интересную закономерность: Ватикан традиционно настороженно встречает новые технологии, от печатного станка до телевидения, но затем адаптируется к ним. Послание Льва XIV может стать поворотным моментом в отношениях между религиозными институтами и технологической индустрией. Крупные корпорации вроде Google и OpenAI теперь получили четкий сигнал о необходимости учитывать этические позиции миллиарда католиков.

С точки зрения геополитики технологий, позиция Ватикана может усилить европейский подход к регулированию ИИ и создать новый альянс между религиозными лидерами и регуляторами против американских техногигантов. Особенно любопытно, что церковь фактически выступает за те же принципы прозрачности алгоритмов, за которые борются антимонопольные ведомства. Возможно, будущее регулирование ИИ будет формироваться не только экономическими, но и духовными соображениями?