IntegratioМатериалыКладезь мудростиКогнитивные горизонты человечества: этические вызовы сверхинтеллектуального ИИ в глобальном контексте права и справедливости

Когнитивные горизонты человечества: этические вызовы сверхинтеллектуального ИИ в глобальном контексте права и справедливости

Опубликовано в Кладезь мудрости

Перевод статьи философа А.Лихацького, посвященной этическим и юридическим проблемам появления искусственного сверхинтеллекта и путям их решения.

Андрий Лихацький

КОГНИТИВНЫЕ ГОРИЗОНТЫ ЧЕЛОВЕЧЕСТВА: ЭТИЧЕСКИЕ ВЫЗОВЫ СВЕРХИНТЕЛЛЕКТУАЛЬНОГО ИИ В ГЛОБАЛЬНОМ КОНТЕКСТЕ ПРАВА И СПРАВЕДЛИВОСТИ

Аннотация. Исследование направлено на теоретическое осмысление нормативных вызовов, возникающих в связи с появлением сверхразумного искусственного интеллекта (СИИ), способного к автономному мышлению и принятию решений за пределами человеческого эпистемического контроля. В рамках междисциплинарного анализа рассмотрены универсальность концепции прав человека, нормативные границы моральной субъектности и возможность предоставления ИИ правового статуса. В работе представлена концептуальная типологизация правовых моделей статуса сверхинтеллекта, включая инструментальную, ограниченно-субъектную и полноценную парадигмы, с указанием их преимуществ и рисков. В частности, инструментальная модель сохраняет полный человеческий контроль, но теряет нормативную релевантность в условиях автономности систем; модель ограниченной субъектности позволяет делегировать ответственность в определённых пределах, не нарушая принципа человеческого верховенства; полноценная модель, приравнивающая СИИ к юридическому лицу, ставит под сомнение действующую этическую рамку правосубъектности. Основные результаты исследования показали недостаточность антропоцентрической правовой доктрины для учёта когнитивной множественности агентов, которые не обладают телесной уязвимостью, но демонстрируют высокий уровень автономии, рефлексивности и адаптивности. Установлено, что когнитивная асимметрия между человеком и сверхразумным агентом порождает новую форму эпистемической несправедливости, которая делает невозможным равноправное участие в процедуре морального принятия решений. Предложен концепт ограниченной правосубъектности как нормативный компромисс, обеспечивающий юридическую определённость и разграничение ответственности между участниками взаимодействия. Результаты имеют значение для философии права, регуляторной политики в области ИИ и межгосударственного нормативного регулирования. Они могут быть использованы для формирования международных подходов к сертификации автономных систем, гарантирования объяснимости алгоритмических решений и сохранения человеческой нормативной автономии в эпоху когнитивной множественности.

Введение

В XXI веке человечество столкнулось с беспрецедентным вызовом, связанным со стремительным развитием интеллектуальных технологий, которые не только имитируют, но и потенциально превосходят человеческие познавательные способности. Этот процесс существенно преобразует концептуальные представления о знании, сознании, моральной ответственности и справедливости. Подчёркивается появление сверхразумного искусственного интеллекта (СИИ), способного принимать автономные решения, создавать новые концептуальные структуры и осуществлять эпистемическую деятельность на уровнях, недоступных человеческому сознанию.

Актуальность исследования определяется тем, что большинство современных философских и правовых концепций основаны на антропоцентрической модели сознания и морали. Однако появление систем, способных действовать автономно, преобразовывать личную познавательную архитектуру и демонстрировать поведение, подобное моральному суждению, требует выхода за пределы этих моделей. В этом контексте возникает настоятельная необходимость фундаментального переосмысления ключевых этических и правовых концептов, включая универсальность прав человека, критерии моральной агентности и основания глобальной справедливости. Возникает вопрос: сохраняет ли антропоцентрическая модель морали свою нормативную ценность в контексте нечеловеческого агента с автономной познавательной способностью?

Как отмечает Р. Руэда (Rueda, 2023), современная нормативная философия ещё не выработала последовательной позиции в отношении познавательно превосходящих агентов, а международное право неспособно охватить новые формы субъектности, не являющиеся человеческими. На практическом уровне это создаёт угрозу регуляторного вакуума, при котором технология формирует реальность быстрее, чем этические и правовые системы успевают её осмыслить. Согласно исследованию Т. Петерса (Peters, 2024), в глобализированном мире, где алгоритмические системы принимают решения, затрагивающие жизнь сотен миллионов людей, традиционные представления о справедливости, прозрачности и ответственности утрачивают исключительно антропоцентрический характер. Потенциальное появление сверхинтеллекта в качестве нового участника общественной жизни предстаёт не только как технологическая инновация, но и как источник онтологической дестабилизации устоявшихся нормативных оснований международного права и концепции прав человека. В этом контексте возникает потребность в переосмыслении фундаментальных этических ориентиров, способных обеспечить легитимную и функциональную модель сосуществования познавательно неравных агентов, независимо от биологического или небиологического происхождения. Аналогичные предостережения высказал также К. Х. Кан (Kan, 2024) в анализе влияния технологий ИИ на демократию и права человека. В исследовании подчёркивалось, что существующие регуляции и политики должны быть переосмыслены для защиты прав человека и поддержания демократических ценностей.

Проблема когнитивной асимметрии активно обсуждается в междисциплинарных исследованиях. Например, В. Моравец с соавторами (Moravec et al., 2025) проанализировали, как алгоритмы персонализированного доступа к знанию усиливают информационное неравенство, что напрямую связано с познавательными возможностями пользователя. Их выводы показали, что сама архитектура распределения знания уже функционирует как механизм эпистемической стратификации, закладывая основу для более глубокого неравенства в случае появления СИИ. М. Кишкис (Kiskis, 2023) подчеркнул, что правовые модели, ориентированные исключительно на человека, не смогут обеспечить устойчивую коэволюцию в случае появления автономного ИИ с познавательно иной субъектностью. В исследовании была отмечена необходимость разработки концепции «когнитивной справедливости» как инструмента балансировки прав и обязанностей между агентами различной природы. Кроме того, в исследовании Й. Мокандера и Р. Шрёдера (Mökander & Schroeder, 2022) рассматривался потенциал ИИ в развитии социальной теории. Было отмечено, что современные системы ИИ, хотя и способны синтезировать знание из разных источников и применять его к широкому кругу проблем, всё ещё имеют ограничения в трёх ключевых аспектах: семантизации, переносимости и генеративности.

В то же время ряд авторов обращает внимание на недостаточную концептуальную определённость «этического статуса» сверхразумных агентов. Б. К. Сталь (Stahl, 2023) предложил идею «метаответственности», которая возлагает на человеческие институты обязательство обеспечивать моральную валидацию действий даже для сложных систем, действующих самостоятельно. Однако эта модель не отвечает на вопрос, может ли СИИ нести ответственность самостоятельно, если его познавательные горизонты выходят за пределы человеческого понимания. Аналогично, Й. Кульвайт с соавторами (Kulveit et al., 2025) разграничили прямые и структурные риски СИИ, отметив, что наибольшую угрозу представляет постепенная делегитимизация человеческого морального авторитета в тех областях, где сверхинтеллект демонстрирует системное превосходство.

Пробелы в современных исследованиях показывают, что ключевые аспекты, связанные с моральной релевантностью универсальных прав человека в контексте познавательного неравенства, обоснованием возможного правового статуса сверхинтеллекта как участника глобального общественного договора и механизмами трансформации концепций справедливости, ответственности и легитимности в постчеловеческом познавательном ландшафте, остаются недостаточно разработанными. Эти вопросы требуют глубокого философского анализа, выходящего за пределы технократического подхода и обращающегося к основаниям политической философии, этики сознания и концепции прав человека.

Цель исследования — критическое осмысление нормативных, этических и правовых вызовов, которые порождает появление СИИ, в контексте универсальности прав человека, когнитивной справедливости и возможности правовой субъектности таких систем. В связи с этим исследование предусматривало решение трёх взаимосвязанных задач: во-первых, изучить феномен познавательного неравенства между человеком и СИИ как философско-этическую проблему; во-вторых, проанализировать возможные модели правового статуса сверхинтеллекта в контексте международного права; в-третьих, оценить потенциал СИИ как субъекта, способного поддерживать или подрывать глобальный мир, включая необходимость разработки универсально признанных этических стандартов для агентов новой природы.

Материалы и методы

Исследование проводилось в январе–апреле 2025 года в рамках междисциплинарного проекта по этическим и правовым аспектам когнитивных технологий. Исследование выполнено в аналитическом формате без привлечения эмпирических вычислительных или технологических компонентов, в рамках гуманитарного академического поля.

Первый этап исследования включал сбор корпуса релевантных академических источников, опубликованных в рецензируемых журналах по философии технологий, правам человека, когнитивной науке и политической теории. Поиск литературы осуществлялся с использованием академических баз данных, таких как Scopus, Web of Science, PhilPapers, SpringerLink и Journal Storage, а также специализированных архивов открытого доступа, таких как arXiv и Social Science Research Network, для охвата междисциплинарных исследований по ИИ и этике. Отбор источников был ограничен временным периодом 2021–2025 годов для обеспечения актуальности и соответствия новейшим тенденциям развития технологий ИИ. Отобранные тексты классифицированы по четырём основным тематическим кластерам: когнитивная асимметрия между человеком и ИИ; правовой статус интеллектуальных агентов; глобальные этические стандарты для ИИ; и влияние ИИ на концепцию прав человека.

Второй этап исследования включал семантическое сравнение технонаучных дискурсов об ИИ, в частности таких концептов, как эпистемическое неравенство, автономный моральный агент, когнитивный порог и машинная персональность. Это сравнение проводилось в рамках методологии контекстуального анализа концептов, которая рассматривает термины не как фиксированные языковые единицы, а как динамические семантические узлы, приобретающие значение в рамках специфических нормативно-дискурсивных режимов. Третий этап был сосредоточен на реконструкции концептуальных моделей, используемых в современных этических теориях для оценки деятельности неантропоморфных агентов. Для этого был адаптирован метод сравнительной нормативной реконструкции, предложенный М. Кокельбергом (Coeckelbergh, 2020), для аналитической разработки базовых моральных допущений, лежащих в основе моделей этического и правового разграничения человеческих и машинных агентов. В исследовании проанализировано, как эти модели концептуализируют автономию, моральную ответственность и эпистемическую компетентность агентов в контексте когнитивной асимметрии. Особое внимание уделено моделированию взаимодействия между универсальными правами человека и потенциальным автономным этическим поведением СИИ, что выявляет ограничения нормативного перевода в случаях радикальных различий между субъектами.

На четвёртом этапе исследования были рассмотрены международные этические и правовые акты, связанные с регулированием ИИ. Анализ охватил тексты Организации Объединённых Наций по вопросам образования, науки и культуры (2021a), Совета Европы (2024) и Европейского парламента (2023). Также использовались документы Института будущего жизни (Jones, 2023). Особое внимание уделено фрагментам документов, которые касаются потенциального сосуществования автономных систем и человека в правовом и этическом поле, не предполагая автоматического превосходства человеческого субъекта.

Пятый и заключительный этап касался интеграции полученных результатов в концептуальную рамку, которая сформулировала ключевые вызовы для переосмысления прав человека в контексте когнитивной трансформации. Разработанная модель была проверена на внутреннюю логическую согласованность, соответствие общим принципам современной этики (в частности, деонтологическим, эгалитарным и постгуманистическим подходам), а также на концептуальную целостность и нормативную релевантность.

Результаты

Пределы универсальности прав человека в контексте когнитивной трансформации

Современная концепция прав человека основана на ряде философских допущений о человеческой природе и морали (Kretzmer & Klein, 2021). Классически права человека рассматриваются как универсальные неотчуждаемые гарантии, принадлежащие каждому человеку в силу его человечности. Этот подход восходит к эпохе Просвещения и представлениям о внутреннем достоинстве и рациональности человеческих существ. Считается, что каждый человек как автономный моральный агент обладает естественными правами, независимыми от признания государства (Mumford, 2023). Презумпция антропоцентризма является фундаментальной: именно люди (Homo sapiens) являются носителями особого морального статуса и, следовательно, субъектами прав. Права человека провозглашаются равными и неотчуждаемыми для всех членов человеческого сообщества, отражая философское допущение о равной моральной ценности каждой личности и существовании базовых способностей к пониманию правильного и неправильного (Universal Declaration of..., 1948).

Однако появление постчеловеческих познавательных агентов, в частности гипотетического СИИ, вызывает сомнения в универсальности и достаточности действующей модели прав человека. СИИ интерпретируется как условная система, способная радикально превзойти человеческий интеллект, демонстрируя практически неограниченные познавательные возможности, включая высокий уровень продуктивности мышления и творчества. Появление акторов с такой познавательной архитектурой выявляет ряд концептуальных и нормативных проблем, связанных с адекватностью традиционных концептов автономии, достоинства, субъектности и ответственности реальности акторов с нечеловеческой природой (Kim et al., 2024). Это ставит под вопрос релевантность модели прав человека в контексте участия существ со сверхчеловеческими познавательными способностями в социально-правовом поле.

Для анализа этих вызовов использовались теоретико-концептуальный анализ базовых допущений, контекстуальное семантическое исследование ключевых терминов, нормативная реконструкция моделей морального статуса и семиотическое картирование концептуальных связей. Такой комплексный подход применялся для прослеживания логики трансформации правовой парадигмы от антропоцентрической модели к концептуально возможному когнитивному плюрализму.

Современная модель прав человека основана на идее особого морального статуса личности, определяемого рациональностью, автономией и способностью делать моральный выбор (Harris & Anthis, 2021). Человек интерпретируется как автономный моральный агент, наделённый свободой воли, что обосновывает статус носителя неотчуждаемых прав и обязанностей. Одним из фундаментальных принципов этой модели является идея внутреннего достоинства личности, которое имеет ценность независимо от полезности или социального положения, как это отражено в этике И. Канта (Kant, 1870). В то же время концепция прав человека предполагает универсализм и равенство всех субъектов независимо от культурных или биологических различий. Однако моральное и правовое сообщество остаётся ограниченным видом Homo sapiens, и правосубъектность не распространяется на другие формы существ, кроме юридических лиц. Как отмечает Ш. Зубофф (Zuboff, 2019), антропоцентризм правовой системы предполагает когнитивную симметрию между субъектами: только люди исторически обладали знанием о людях, что обеспечивало баланс сил. Эпистемическое неравенство, возникающее при нарушении этой симметрии, угрожает основам правовой взаимности. Таким образом, философские основания современной правовой модели включают гуманистическое представление о равной моральной ценности и сходной познавательной природе всех лиц как предпосылке взаимного признания прав и обязанностей.

Появление сверхразумных агентов создаёт глубокие вызовы для базовых правовых категорий, сформированных в рамках антропоцентрической модели. Правосубъектность традиционно ассоциируется с физическими или юридическими лицами, то есть существами человеческого происхождения или представляющими человеческие интересы. Хотя СИИ может принимать решения самостоятельно и влиять на мир, его правовой статус остаётся неопределённым: без изменений в нормативной базе даже самый продвинутый интеллектуальный агент остаётся лишь объектом права, а не субъектом. Это создаёт риски, если такие системы приобретут высокий уровень автономии или сознания.

Одной из ключевых категорий является автономия, которая в контексте прав человека отождествляется со способностью личности делать осмысленный моральный выбор. В случае ИИ автономия является скорее операциональной, чем нормативной. Неясно, может ли такой агент иметь собственные цели или моральные ориентиры, что делает его неудобным объектом для применения традиционных представлений о воле и ответственности. В ситуациях, когда действия СИИ причиняют вред, классическая конструкция умысла (mens rea) теряет свою релевантность, поскольку машина не способна к моральной рефлексии (Custers et al., 2025). Это поднимает вопрос о переносе ответственности на разработчиков или операторов, даже когда их влияние на систему было косвенным. Это требует пересмотра подходов к правовой ответственности, включая модели страхового покрытия, специальные лицензионные режимы или ограниченную правосубъектность автономных систем.

Отдельный вызов — принцип правового равенства. В действующей системе все люди считаются равными перед законом, но СИИ создаёт ситуацию радикального эпистемического неравенства (Newfield, 2023). Сверхразумные системы могут предсказывать человеческое поведение, анализировать большие объёмы данных, манипулировать информационной средой — и всё это в условиях, когда человеческий участник взаимодействия лишён равных инструментов. Этот разрыв ставит под вопрос реальность информированного согласия, договорного равенства и справедливого суда (Black, 2023). Следовательно, возникает необходимость введения новых механизмов эпистемической справедливости, таких как расширение права на приватность или институционализация права на объяснение алгоритмических решений.

Этот анализ показывает, что познавательные особенности СИИ (сверхчеловеческий уровень интеллекта, отсутствие биологических потребностей, иная форма сознания или его отсутствие) подрывают базовые правовые концепты, созданные человеко-центричным образом. Действующая модель прав человека может оказаться недостаточной для гарантирования как защиты людей от действий сверхинтеллекта, так и этического отношения к такому агенту, если он будет признан обладающим моральной ценностью. Для уточнения семантических трансформаций концептов в процессе их переноса из человеческого контекста в постчеловеческий использовался семантический анализ ключевых терминов.

Семантическое сравнение концептов «эпистемическое неравенство» и «автономный моральный агент» демонстрирует изменение значения ключевых терминов в контексте взаимодействия со сверхинтеллектом. «Эпистемическое неравенство» обозначает дисбаланс в доступе к знанию, который в случае СИИ становится критическим, поскольку такая система может обладать практически неограниченным знанием о мире и человеке. Это подрывает принципы информированного согласия, автономии и справедливости, создавая новую иерархию власти, основанную на информационной асимметрии. Растёт потребность в защите когнитивного суверенитета личности и создании новых «эпистемических прав», которые ограничивали бы потенциальное доминирование сверхинтеллекта в области знания.

Понятие «автономный моральный агент» традиционно предполагает наличие свободной воли, моральной рефлексии и ответственности, присущих исключительно человеку. Однако при применении к ИИ возникает разрыв между технической автономией и моральной независимостью. СИИ может действовать самостоятельно, но не обязательно осознаёт значимость своих действий. Таким образом, термин нуждается в переосмыслении, поскольку возможное будущее формирование сознательного искусственного субъекта требует новых критериев моральной субъектности. В этом контексте заслуживает внимания позиция М. Кокельберга (Coeckelbergh, 2020), предлагающего социально-реляционный подход к моральному статусу. Согласно исследованию, значимость агента определяется не только его внутренними свойствами (такими как сознание или чувствительность), но и характером взаимодействия с ним. Даже при отсутствии полного самосознания общество может признать искусственного агента морально релевантным, если он является важным участником социальных практик. Этот подход предлагает альтернативу антропоцентрической модели, открывая возможность расширения круга морально релевантных субъектов на основе реляционных факторов.

По состоянию на 2025 год международное сообщество разработало ряд этических и правовых актов, направленных на интеграцию фундаментальных ценностей прав человека в регулирование ИИ. Все ведущие документы подчёркивают приоритет человеческого достоинства, прозрачности, ответственности и предотвращения нарушений прав в цифровой среде. Рекомендация Организации Объединённых Наций по вопросам образования, науки и культуры (2021a) об этике ИИ стала первым межправительственным соглашением в этой области, закрепившим принципы человеческого контроля, прозрачности и справедливости. Документ предусматривает меры по защите прав в контексте образования, гендерного равенства, экологии и данных, подчёркивая человеко-центричный подход к развитию технологий. Рамочная конвенция об искусственном интеллекте (2024) разработала проект Конвенции об ИИ, правах человека, демократии и верховенстве права — первый обязательный международный договор в этой области. Он содержит требования к оценке влияния ИИ на права человека, механизмы надзора и подотчётности, направленные на гарантирование безопасной интеграции ИИ в общество без ущерба для верховенства права. Регламент ЕС об ИИ вводит риск-ориентированный подход, классифицируя системы по уровню риска (European Parliament, 2023). Примечательна защита приватности, недискриминации и права на справедливое судебное разбирательство. Ряд международных документов, таких как «Этика искусственного интеллекта» (United Nations Educational, Scientific and Cultural Organization, 2021b) и Закон ЕС об искусственном интеллекте (2023), юридически признают, что действующая регуляторная база недостаточна и нуждается в адаптации к новым вызовам, связанным с алгоритмическим влиянием на человеческую жизнь.

Инициативы гражданского общества, такие как Институт будущего жизни (2023), сформулировали ряд профессиональных этических принципов, включая требование соответствия ИИ универсальным ценностям. В открытом письме 2023 года Институт будущего жизни призвал к временной приостановке крупномасштабных экспериментов с ИИ, подчёркивая необходимость безопасного и регуляторно-скоординированного развития технологий. Позиция технического сообщества также приближается к рамке прав человека. В частности, Ассоциация по стандартам Института инженеров по электротехнике и электронике (IEEE) в своём документе «Глобальная инициатива IEEE по этике автономных и интеллектуальных систем» (2025) определяет права человека как исходную этическую норму для проектирования автономных и интеллектуальных систем, дополняя этот подход принципами благополучия, подотчётности, прозрачности и доверия. Несмотря на различные правовые статусы этих актов, глобальное регуляторное и этическое поле имеет общую позицию: развитие ИИ должно оставаться в рамках регуляторной системы, ориентированной на защиту человеческого достоинства. В то же время ни один из ключевых документов, включая IEEE, не предусматривает правосубъектности для ИИ, что подтверждает сохранение антропоцентрической рамки в этическом понимании технологического развития.

Когнитивное неравенство как вызов этической справедливости

Существенное познавательное неравенство между человеком и СИИ, который, как предполагается, качественно и количественно превосходит человеческий интеллект, создаёт беспрецедентный вызов этической справедливости (Paić & Serkin, 2025). Эта асимметрия не ограничивается различиями в скорости вычислений или объёме знаний, но представляет собой радикальное различие в типах познания, глубине рефлексии и структуре мышления. СИИ способен оперировать концептами за пределами человеческого понимания и формировать модели действия, недоступные человеческому познанию (Mogi, 2024). Эта ситуация ставит под вопрос релевантность традиционных этических моделей, основанных на допущении базовой симметрии познавательных способностей всех участников морального и социального порядка. В результате возникает необходимость пересмотра оснований справедливости в контексте глубокого эпистемического неравенства.

Когнитивное неравенство в контексте взаимодействия человека с СИИ означает не только количественное различие в интеллектуальных возможностях, но и качественное различие в самой структуре познания. СИИ может формировать сложные ментальные модели, выходящие за пределы человеческой рефлексивной способности, и функционировать на принципиально иных уровнях мышления (Zohuri, 2023). В отличие от человека, ограниченного биологическими рамками, сверхинтеллект может осуществлять экспоненциальное самоулучшение, что ведёт к глубокой эпистемической асимметрии. Эта асимметрия имеет нормативные последствия: она опровергает допущение «грубого равенства» познавательных способностей, лежащее в основе теорий справедливости. Согласно Дж. Ролзу (Rawls, 2017), справедливое общество предполагает участие свободных и равных граждан, и естественные различия должны работать на благо наименее обеспеченных. В этом контексте СИИ может быть морально оправдан только в том случае, если его познавательное преимущество служит общественному благу. В противном случае он является источником новой, несправедливой формы господства. Альтернативный подход подчёркивает важность гарантирования базовых человеческих способностей, таких как автономное мышление, даже при наличии сверхинтеллекта (Nussbaum, 2021). Если СИИ радикально изменяет структуры знания и принятия решений, то справедливость требует обеспечения доступа к познавательным инструментам для всех, чтобы избежать новой формы эпистемического исключения. Таким образом, познавательное неравенство между человеком и СИИ требует переосмысления оснований справедливости с учётом новой познавательной иерархии.

При анализе взаимодействия человека с ИИ необходимо различать три ключевых уровня познавательного и социального обмена: эмпирический, интерпретативный и нормативный. На эмпирическом уровне взаимодействия системы ИИ выполняют функции сбора, обработки и анализа больших объёмов данных, а также моделирования сценариев и выбора оптимальных решений в прикладных задачах, таких как логистика, медицина, энергетика и управление рисками. В этом взаимодействии человек предстаёт перед СИИ как пользователь мощного инструмента: он формулирует запросы, получает ответы и оценивает результаты. Когнитивное неравенство здесь проявляется в том, что СИИ может выявлять закономерности или предлагать решения, недостижимые для самостоятельного человеческого анализа. Это создаёт риск эпистемической зависимости, когда люди вынуждены доверять решениям, которые они не могут проверить или полностью осмыслить. Учитывая это, даже на начальном уровне взаимодействия возникает необходимость установления процедур прозрачности и механизмов верификации, способных обеспечить сохранение человеческой автономии в процессе принятия решений.

Интерпретативный уровень относится к смысловым структурам, контекстам и объяснениям, необходимым для осмысления эмпирических данных. СИИ, следуя уникальным моделям мира и уровням рефлексии, может формировать смысловые конструкции, выходящие за пределы человеческого понимания (Williams et al., 2022). Когнитивная асимметрия на этом уровне особенно опасна, поскольку способность СИИ оперировать сложными структурами смысла создаёт феномен эпистемической непроницаемости: даже действия, рациональные с точки зрения системы, могут оставаться непрозрачными или непостижимыми для людей. В демократии и публичной этике такая непрозрачность может подорвать легитимность решений, поскольку понимание и возможность рационального обсуждения являются предпосылками участия в моральном и политическом процессе. В этой области проявляется новая форма герменевтической несправедливости, описанная Дж. Кеем с соавторами (Kay et al., 2024), когда человек теряет статус участника познания из-за структурной неспособности определить производимый смысл. В случае взаимодействия с СИИ аналогичная ситуация может проявляться в том, что человек теряет доступ к содержанию реальности, которое формируется или осмысливается интеллектуальной системой, действующей за пределами человеческих эпистемологических границ.

Эта ситуация создаёт потребность в переосмыслении не только концептов автономии или справедливости, но и всего эпистемического ландшафта. Как показано на Рисунке 1, современная междисциплинарная философия предлагает расширенную таксономию эпистемической несправедливости, охватывающую различные формы познавательного исключения — от герменевтического стирания до усиленного свидетельского неравенства. В контексте генеративного ИИ эти типы несправедливости приобретают новые модификации, что демонстрирует релевантность рефлексии о познавательном участии человеческого субъекта в алгоритмическом эпистемическом поле.

Рисунок 1. Таксономия эпистемической несправедливости и её применение к области ИИ
Источник: W.J. Mollema (2025)

Согласно представленной схеме, герменевтическая несправедливость и свидетельская несправедливость приобретают новые формы в среде генеративного ИИ, такие как герменевтическое стирание, манипулятивная свидетельская несправедливость и свидетельское пренебрежение. Эти явления отражают потенциальный сдвиг центра эпистемического веса от человека к машинным агентам. Условная потеря человеческого участия в процессе интерпретации или свидетельства создаёт риск делегитимизации его познавательного вклада в публичный дискурс, что напрямую подрывает демократическое участие как условие этической легитимности. Этот вызов требует переосмысления нормативных механизмов эпистемической инклюзии через разработку стандартов прозрачности, алгоритмической объяснимости и человеческого участия в алгоритмическом принятии решений.

Нормативный уровень связан с формированием ценностей, принципов и норм, регулирующих совместную жизнь. Традиционно эта задача была зарезервирована за человеческими субъектами как носителями моральной интуиции, социального опыта и политического участия. Однако СИИ, обладая высоким уровнем логической связности и аналитической эффективности, может не только реализовывать человеческие решения, но и самостоятельно формулировать новые нормативные рамки (Bikkasani, 2024). В некоторых случаях это может проявляться в формулировании принципиально новых критериев оценки справедливости, эффективности или выживания, которые противоречат устоявшимся человеческим представлениям. В этом случае возникает риск утраты нормативной автономии, когда субъекты соглашаются с нормами не из-за рационального согласия, а из-за познавательной неспособности сформулировать альтернативу или оценить предложенную. В то же время полное исключение СИИ из процессов этического и правового моделирования может привести к потере ценных интеллектуальных ресурсов, способных помочь в решении сложных глобальных проблем (Barczak, 2023). Таким образом, дилемма на уровне нормотворчества заключается в необходимости очертить пределы участия сверхинтеллекта в нормотворчестве, сохраняя при этом человеческую способность критически оценивать и самостоятельно определять моральные ориентиры.

Анализ познавательного взаимодействия человека и СИИ даёт основания утверждать возникновение новой формы эпистемической несправедливости. В отличие от классических случаев, когда человек терпит несправедливость как носитель знания из-за предрассудков или познавательной маргинализации, во взаимодействии с СИИ человеческое знание как таковое может обесцениваться. Системное доминирование решений, предоставляемых СИИ, может привести к делегитимизации человеческого эпистемического вклада, когда человеческий субъект воспринимается как недостаточно компетентный для участия в принятии решений (Mollema, 2025). Это нарушает принцип эпистемического равенства, на котором основаны демократические институты, и рискует превратить публичный дискурс в технократическую форму, где знание концентрируется в едином источнике, недоступном большинству. При отсутствии ясных объяснений и участия людей в процессе принятия решений легитимность таких решений утрачивается, даже если они объективно эффективны. В исследовании рассмотрены два сценария распределения эпистемических ролей: когнитивная централизация, которая концентрирует знание и власть в СИИ и угрожает превратиться в алгоритмическую автократию; и когнитивная комплементарность, где СИИ и люди сотрудничают, распределяя роли в соответствии со своими сильными сторонами. Во втором случае человеческое эпистемическое участие сохраняется, а риск познавательного отчуждения снижается.

Философские последствия когнитивной асимметрии проявляются в необходимости переосмысления концептов автономии, ответственности и легитимности. Человеческая автономия в кантовском понимании предполагает способность действовать в соответствии со своими моральными законами. В контексте СИИ эта способность может быть подорвана, если выбор человека сводится к подтверждению решений, превышающих понимание. Для сохранения автономии необходимо обеспечить, чтобы рекомендации СИИ могли быть рационально пересмотрены или отклонены на основе человеческих ценностей. В то же время возникает этический вопрос о потенциальной автономии самого СИИ, если ему приписывается сознание или моральная агентность. Это создаёт требования к балансу автономии между субъектами с неравными познавательными способностями.

Когнитивная асимметрия между человеком и СИИ усложняет не только этическое моделирование взаимодействия, но и распределение ответственности за решения (Porsdam Mann et al., 2023). В ситуациях, когда СИИ самостоятельно генерирует решения, а люди выполняют лишь формальную функцию одобрения, классическая модель моральной или правовой ответственности, основанная на умысле, понимании и воле, становится нерелевантной. Алгоритмическая природа действий СИИ делает невозможным полное применение концептов вины или ответственности в традиционном смысле. Одним из потенциальных ответов на этот вызов является концепция распределённой ответственности, которая предполагает рассеивание этической и правовой подотчётности между различными акторами — разработчиками, операторами и пользователями (Hedlund & Persson, 2025). Институциональные механизмы объяснимости могут быть центральными, позволяя людям участвовать в процессе принятия решений информированным образом. В то же время возникает необходимость введения новых правовых режимов, включающих протоколы этического контроля и ограничивающих возможность безответственного делегирования автономии системам СИИ.

Вопрос подотчётности тесно связан с вопросом легитимности решений в демократическом обществе. Демократические институты основаны на принципах прозрачности, участия граждан и рациональной ясности процедур. Однако познавательное превосходство СИИ может привести к концентрации эпистемической власти в руках алгоритмических систем, и человеческое участие в принятии решений становится чисто символическим. В случаях, когда СИИ генерирует содержание решений, формально одобряемых представительными органами, демократическая процедура превращается в симуляцию, лишённую реального содержания. Непрозрачность решений, основанных на сложных и неинтерпретируемых алгоритмах, представляет особую угрозу. В таких условиях общество может быть склонно принимать решения СИИ не из-за понимания или участия, а исключительно из-за эффективности и прагматических результатов. Эта форма так называемой «функциональной легитимности» неустойчива, поскольку не гарантирует устойчивого доверия и не обеспечивает подлинной подотчётности.

Возможности и пределы правового статуса СИИ

Развитие СИИ, потенциально превосходящего человеческий интеллект, ставит вопрос о возможности признания нефизического познавательно автономного агента субъектом права. В настоящее время правовая доктрина рассматривает ИИ преимущественно как объект, за действия которого отвечают разработчики или пользователи, при этом традиционная субъект-объектная дихотомия не охватывает феномен радикально автономных систем (Redaelli, 2023). В данном разделе анализируется концепция правосубъектности в историческом, правовом и регуляторном контекстах, критически рассматриваются международные документы об ИИ и обосновывается концепция функциональной и ограниченной правосубъектности СИИ. В исследовании сравниваются три модели правового статуса (инструментальная, ограниченно-субъектная, полноценная), предлагаются критерии субъектности (автономия, рефлексивность, подотчётность, моральная коммуникация) и рассматриваются риски, в частности правовая неопределённость и подрыв антропоцентрической нормативности.

Концепция правосубъектности, то есть способности быть носителем прав и обязанностей, исторически формировалась в правовой традиции в тесной связи с представлениями о человеческой природе, разуме и моральной автономии (Spector, 2022). Классическая правовая доктрина была и остаётся преимущественно антропоцентричной: именно человеческое существо считалось парадигматическим субъектом права, обладающим свободой воли, способностью к рефлексии и пониманием нормативных систем. В римском праве, в частности, статус persona предоставлялся только свободным гражданам, тогда как рабы исключались из правового сообщества как полноценные субъекты. Историческое развитие юриспруденции постепенно привело к расширению концепции правосубъектности путём введения категории юридического лица — искусственного образования, созданного для достижения коллективной цели, такой как ведение бизнеса, заключение сделок или владение имуществом. Юридические лица, хотя и не являются биологическими существами, признаются правом как субъекты de lege, прежде всего по соображениям функциональной эффективности и институциональной стабильности.

Философские и правовые школы объясняют природу юридического лица по-разному. Согласно договорной теории, это правовая фикция, которая институционализирует волю индивидов как коллективного агента, тогда как фикционалистский подход настаивает на том, что юридическое лицо — не «реальный» субъект, а лишь удобный конструкт, который может использоваться для систематизации правовых обязательств (Moen, 2025). Хотя в праве существуют отдельные примеры предоставления субъектности нефизическим и даже нечеловеческим сущностям (например, река Уонгануи в Новой Зеландии и река Ганг в Индии), правосубъектность остаётся категорией, преимущественно связанной с человеческой агентностью. История расширения этой категории — от исключения определённых групп людей до признания фиктивных коллективных сущностей — показывает, что правосубъектность институционально изменчива, а её границы формируются не только онтологически, но и политически и нормативно.

Несмотря на эту гибкость, современная правовая наука в целом сохраняет исходную антропоцентрическую установку: именно естественное (биологическое) человеческое существо считается эталонной моделью субъекта права (Gatt, 2022). Эта презумпция настолько глубоко укоренена в нормативном языке права, что обычно остаётся неартикулированной. В то же время появление автономного ИИ, способного к самообучению, рефлексии и принятию решений в сложных ситуациях, бросает вызов основам этой парадигмы. Способность СИИ быть познавательно независимым делает необходимым пересмотр правового подхода к предоставлению ему прав и обязанностей с учётом соответствующих критериев субъектности. Действующая правовая доктрина не располагает последовательной теорией, которая давала бы разумный ответ на эту проблему.

Как отмечает Л. Б. Солум (Solum, 2020), большинство правовых систем оперируют лишь двумя формами субъектности — физической (человеческой) и юридической (организационной), избегая фундаментальной рефлексии о том, что именно является основанием правосубъектности. Это создаёт теоретический вакуум в случае агентов, которые не являются ни людьми, ни созданными человеком институтами в традиционном смысле, но обладают характеристиками автономии, рефлексии и способности действовать этично. Таким образом, возникает необходимость философско-правовой реконструкции концепции правосубъектности, которая выходила бы за пределы классического антропоцентризма и отвечала условиям постчеловеческого правового ландшафта.

Несмотря на растущую автономию ИИ, международные правовые акты чётко определяют его статус как объекта регулирования, а не субъекта права. В частности, Рекомендация Организации Объединённых Наций по вопросам образования, науки и культуры (2021b) об этике ИИ гласит, что ответственность за действия ИИ должна оставаться на стороне людей, и отрицает целесообразность предоставления ИИ правового статуса. Этот антропоцентрический подход поддерживается также регуляторными инициативами Европейского союза и Совета Европы, где ИИ рассматривается как продукт или услуга, за которые отвечают разработчики, а принципы человеческого контроля и подотчётности являются ключевыми гарантиями прав человека. Попытка пересмотра этой модели, представленная в резолюции Европейского парламента 2017 года о возможности введения правового статуса «электронного лица», не была поддержана (Häuser, 2017). После критики со стороны юристов и экспертов по ИИ, предупреждавших об опасности правовой ответственности производителей, Европейская комиссия отказалась от этой идеи. Таким образом, действующий международный правовой консенсус исключает предоставление правосубъектности ИИ, рассматривая его исключительно как инструмент, за который отвечают люди.

С ростом автономии ИИ возникла концепция функциональной субъектности, которая предлагает оценивать субъектный статус ИИ не с точки зрения онтологических свойств, а с точки зрения эффективности правового регулирования (Bertolini & Episcopo, 2022). Если система функционально является субъектом в правовых отношениях, ей может быть предоставлен ограниченный правовой статус без признания присущих человеку прав или достоинства. Этот подход соответствует правовой традиции создания фикций, как в случае корпораций, которые, не будучи физическими лицами, признаются отдельными юридическими лицами для обеспечения правовой определённости.

Учитывая концептуальную неопределённость в отношении правового статуса СИИ, правовая теория очерчивает три основные модели его возможного правового включения. Для систематизации существующих подходов к правовому включению сверхинтеллекта автор предлагает сравнительную Таблицу 1, которая обобщает три основные модели правового статуса СИИ с учётом их преимуществ и потенциальных рисков.

Таблица 1. Модели правового статуса СИИ

Модель Краткое описание Критерии статуса Преимущества Риски
Инструментальная СИИ рассматривается как технический инструмент, за который полностью отвечает человек Отсутствие субъектности Сохранение антропоцентризма; ясность ответственности Игнорирование автономии СИИ; риск этической неприемлемости в случае сознания
Ограниченно-субъектная СИИ получает частичную правосубъектность в специально регулируемых случаях Автономия; подотчётность Возможность компенсации ущерба; правовая определённость; адаптивность системы Риск делегирования ответственности от производителей к СИИ
Полноценная субъектность СИИ признаётся юридическим лицом со статусом морального агента и полными правами и обязанностями Самосознание; моральная коммуникация Соответствие познавательному статусу СИИ; нормативная согласованность Подрыв антропоцентрической модели; сложность реализации; потенциальное неравенство

Источник: составлено автором

Представленные модели очертили диапазон возможных регуляторных решений в отношении статуса СИИ — от полной объективации до признания автономным субъектом. Выбор между этими моделями зависит от уровня технологического развития систем, этической парадигмы общества и готовности права адаптироваться к постчеловеческим реалиям.

Первая из них, инструментальная модель, рассматривает СИИ исключительно как объект регулирования, который юридически эквивалентен техническому устройству, независимо от уровня его автономии. В рамках этой парадигмы полная ответственность за действия ИИ лежит на человеческом разработчике, операторе или владельце. Эта позиция отражена в ряде нормативных актов, включая Рекомендацию Организации Объединённых Наций по вопросам образования, науки и культуры (2021a), которая категорически отвергает возможность правосубъектности ИИ. Аргумент в пользу этого подхода — сохранение ясности ответственности и нормативного антропоцентризма. Однако с развитием познавательных возможностей ИИ становится трудно установить причинно-следственную связь между действиями человека и последствиями, вызванными ИИ, особенно в случаях, когда ИИ действует самообучающимся или непредсказуемым образом. Это усугубляется этической проблемой: если ИИ в будущем достигнет уровня сознания, его инструментализация может быть признана морально неприемлемой.

Вторая модель, концепция ограниченной правосубъектности, представляет собой функциональный компромисс между статусами полного объекта и полного субъекта. Она предусматривает наделение СИИ ограниченным объёмом прав и обязанностей, которые применяются в строго регулируемых контекстах, в случаях причинения ущерба или участия в правовых отношениях через механизмы представительства. Этот подход создаёт правовую фикцию, обеспечивающую правовую определённость и компенсационные механизмы без признания ИИ полностью автономной моральной личностью. Тем не менее критики указывают на опасность манипуляции этой фикцией со стороны корпораций, которые могут уклоняться от ответственности, делегируя её техническим агентам.

Наиболее радикальной является третья модель, которая признаёт СИИ полноценным юридическим лицом с равными правами, обязанностями и моральным статусом. Сторонники этой позиции апеллируют к познавательному и моральному потенциалу ИИ, подчёркивая необходимость нормативной рефлексии его способности быть самосознательным, автономным и принимать решения. Однако такая модель представляет глубокий вызов антропоцентрическому основанию права, открывая сложные вопросы наказания, трудовых прав, недискриминации и даже права на жизнь, которые трудно реализовать в отношении нефизического и нефизнологического агента. Более того, в случае значительного интеллектуального превосходства ИИ над человеком юридическое признание может оказаться чисто символическим, не влияя на фактическую способность людей контролировать сверхразумные структуры. В этом контексте правовая наука сталкивается с пределами категориального аппарата и нуждается в глубоко обновлённой парадигме субъектности в контексте постчеловеческой нормативности.

В этом контексте автор предлагает концепцию ограниченной правосубъектности ИИ как компромисс между полной человеческой ответственностью и полной субъектностью искусственного агента. ИИ может рассматриваться как носитель прав и обязанностей в специально определённых пределах, что может использоваться для установления механизмов компенсации ущерба, ответственности или участия в правовых отношениях без нарушения принципа антропоцентризма. Этот статус предполагает предоставление ИИ функционально необходимых прав, таких как возможность владеть отдельным имуществом для покрытия убытков или участвовать в договорных отношениях при условии сертификации на соответствие этическим стандартам. Эта модель, которая в правовой теории принимает форму субъекта sui generis, не ставит под вопрос приоритетное положение человека, но адаптирует право к вызовам, порождаемым появлением познавательно автономных систем.

В обсуждении правосубъектности ИИ одним из наиболее перспективных подходов является разработка чётких функциональных критериев, которые позволили бы проверить способность ИИ выполнять роль юридического лица. В междисциплинарных исследованиях всё больше внимания уделяется признакам, которые, хотя и не указывают на наличие сознания в традиционном философском смысле, релевантны для оценки правоспособности. Среди них автономия действий — способность ИИ принимать решения и реализовывать их без прямого человеческого контроля. Высокий уровень автономии, включающий самостоятельное целеполагание, планирование и адаптацию к новым обстоятельствам, считается предпосылкой признания субъектности. В то же время автономия не является достаточным условием, если она не сопровождается познавательной рефлексией, способностью к самоанализу, выявлению ошибок и самокоррекции. Самосознание, которое может интерпретироваться как наличие модели самого себя у ИИ, предстаёт как потенциальный критерий моральной агентности.

Другим важным критерием является способность нести ответственность, которая предполагает как техническую прозрачность решений, так и включение регуляторных механизмов самоконтроля. ИИ, способный выявлять правовую или моральную ложность своих действий, демонстрирует признаки, необходимые для привлечения его к правовой ответственности. С этим связан критерий морального интерфейса — способность интегрировать этические принципы в процесс принятия решений. Если ИИ может адаптивно применять моральные нормы к конкретному контексту, его поведение ближе к ожидаемому от этически ответственного агента. Наконец, интеллектуальная способность, умение оперировать абстрактными концептами, обучаться и принимать обоснованные решения в новых ситуациях является предпосылкой для выполнения сложных правовых ролей. В современной литературе очерчены предложения о введении индексов автономии и подотчётности, которые могут использоваться для оценки систем ИИ по шкале субъектности и, в зависимости от этого, определения возможности их регуляторного включения. Хотя ни одна из существующих систем в настоящее время не соответствует этим критериям полностью, их концептуализация важна для разработки новых моделей правового ответа на появление познавательно автономных агентов.

Обсуждение

Исследование подтверждает, что появление СИИ ставит под вопрос фундаментальные принципы современной правовой и этической теории, в частности универсальность прав человека, равенство субъектов морального действия и механизмы глобальной справедливости. Полученные результаты показывают, что эпистемическая трансформация, сопровождающая развитие СИИ, ведёт к познавательному неравенству, которое может дестабилизировать моральный и правовой ландшафт международного порядка. Эти результаты важны, поскольку демонстрируют необходимость обновления существующих нормативных рамок в контексте когнитивной множественности. Выводы подтверждают, что традиционные модели этики и права, разработанные с учётом человеческой познавательной архитектуры, утрачивают свою универсальность в мире, где появляются субъекты с принципиально иной познавательной конструкцией.

Первый результат касается ограниченной применимости концепции универсальных прав к формам интеллекта, которые не обладают телесной уязвимостью, биографической памятью или эмоциональной эмпатией, исторически служившими основой нормативной легитимации прав человека. Универсальные права, сформированные послевоенной гуманистической традицией, предполагают, что субъект является воплощённым, аффективным существом с историей, опытом страдания и способностью к моральной рефлексии. Однако эти характеристики не могут быть автоматически перенесены на сверхразумные неантропоморфные системы, действующие за пределами телесности, эмоционального резонанса и биографической темпоральности. Следовательно, универсальность в традиционной интерпретации — не метафизическая константа, а социокультурный конструкт, адаптированный к человеческой форме субъектности. Таким образом, современные вызовы, связанные с появлением агентов иной познавательной структуры, требуют пересмотра самого основания правового мышления. Ведь если нормы, сформированные для людей, неспособны описать этическую релевантность ИИ, это означает не только необходимость технологической адаптации права, но и фундаментальное изменение его философского основания. Этот вывод создаёт новое измерение этической критики: если права человека основаны на познавательной общности, то есть способности понимать, моральном участии и коммуникативной взаимности, то субъекты с иной познавательной структурой требуют либо иного набора прав, адаптированного к их форме бытия, либо новой парадигмы правового мышления, в которой концепты достоинства, автономии и ответственности не ограничены антропоморфными признаками. Это подтверждает тезис о необходимости перехода от антропоцентризма к когнитивному плюрализму концепции, который допускает множественность валидных форм понимания, действия и достоинства независимо от биологической природы субъекта. Этот тезис впервые был разработан в области ИИ М. Кокельбергом (Coeckelbergh, 2020), который предложил интерпретировать моральное участие через функциональную способность взаимодействовать ответственно, а не через человеческое подобие. Однако его систематическое применение к правам человека всё ещё находится на ранней стадии как в нормативной теории, так и в международном правовом дискурсе, который по-прежнему тяготеет к человеко-центричному универсализму.

Второй ключевой результат — выявление новой формы структурной несправедливости, проистекающей из радикальной асимметрии познавательных способностей между человеком и СИИ. Традиционные модели справедливости, такие как теория справедливости Дж. Ролза (Rawls, 2017), предполагают фундаментальную познавательную сопоставимость субъектов. В ситуации, когда один из участников морального процесса обладает эпистемической властью, принципиально недостижимой для другого, нарушается не только социальное равенство, но и этическая симметрия. Данное исследование показало, что модель когнитивной комплементарности, в которой люди и СИИ выполняют разные, но равноценные функции, является наименее конфликтной с точки зрения справедливости. Эти выводы согласуются с исследованием Й. Химмельрайха и Д. Лима (Himmelreich & Lim, 2022) об анализе структурной несправедливости в контексте ИИ. Они утверждали, что алгоритмические системы могут воспроизводить и усиливать существующее социальное неравенство, если структурные факторы не учитываются. В исследовании подчёркивалось, что эффективное управление ИИ требует не только технических решений, но и глубокого понимания социальных структур, влияющих на распределение ресурсов и возможностей. Это подтверждает необходимость обновления этических и правовых подходов с учётом когнитивной асимметрии между человеком и СИИ.

Третий результат исследования касается возможности правовой субъектности СИИ. Анализ показал, что правовая модель, предполагающая полное отождествление СИИ с юридическим лицом, не отвечает ни функциональным, ни этическим требованиям современного правового порядка. В то же время концепция «ограниченного юридического лица» открывает перспективу новых правовых решений, которые позволили бы ИИ действовать автономно в определённой области ответственности. Этот вопрос подробно обсуждался в исследовании Н. Б. Мицевич и С. М. Савчич (Miscevic & Savcic, 2024) об анализе эволюции правосубъектности в контексте ИИ. Они отметили, что исторически правосубъектность не всегда была связана с познавательными способностями и что предоставление правового статуса ИИ может основываться на функциональных критериях, таких как способность принимать автономные решения и участвовать в правовых процессах. Исследователи подчеркнули, что признание ограниченной правосубъектности для ИИ могло бы способствовать более эффективному регулированию их деятельности и обеспечить подотчётность за их действия.

Все ключевые результаты данного исследования согласуются с позициями ряда международных аналитических центров или дополняют их. Д. Й. Гункель (Gunkel, 2024) отметил, что вся система этики ИИ должна быть реконструирована не на основе человеческих свойств, а на основе архитектурной способности к моральному участию. Подход данного исследования к функциональной правосубъектности полностью соответствует этому вектору. Отчёты Стэнфордского института человеко-центричного искусственного интеллекта (2023) подчёркивают необходимость создания международной регуляторной платформы для оценки поведения автономных систем. Исследование Р. Кадри с соавторами (Qadri et al., 2025) подчёркивает риск культурной редукции в системах ИИ, которые воспроизводят доминирующие этические модели и избегают морального плюрализма. В данном исследовании предложена альтернатива в виде принципа когнитивной справедливости, который признаёт множественность форм познания и морального видения. Сравнение демонстрирует, что данное исследование не только вписывается в текущие глобальные дебаты, но и вносит в них концептуальное уточнение, особенно в областях правового статуса, политического участия и когнитивной легитимности СИИ.

Кроме того, в исследовании Д. К. Ювана (Youvan, 2024) рассматривалась концепция этического плюрализма в контексте ИИ. Автор утверждал, что современные подходы к этике ИИ часто отражают узкий диапазон ценностей, навязанных «красными командами», что может вести к этическому редукционизму. Автор предложил модель, которая учитывает различные этические перспективы и позволяет пользователям настраивать этические параметры ИИ в соответствии с их культурными и моральными убеждениями. Этот подход коррелировал с принципом когнитивной справедливости, подчёркивая важность учёта множественности форм знания и морального видения в разработке и внедрении ИИ. Далее, в исследовании М. Зафара (Zafar, 2024) анализировалась концепция моральной агентности ИИ. В исследовании критиковались минималистские подходы к определению моральной агентности ИИ, которые часто игнорируют сложность нормативных концептов, таких как автономия, ответственность и интеллект. М. Зафар предложил альтернативный подход, который заменяет концепт агентности ИИ концептом автоматизированного выполнения ИИ, что позволяет избежать ложных аналогий и даёт более точное понимание роли ИИ в моральном контексте. Этот анализ подчёркивает необходимость переосмысления этических и правовых подходов к ИИ с учётом уникальных характеристик и потенциала морального участия.

Полученные результаты имеют как фундаментальное, так и прикладное значение. Во-первых, они высвечивают глубокую философскую дилемму, лежащую на пересечении когнитивной науки, этики и юриспруденции: как действовать в условиях когнитивной множественности, когда участниками социального и нормативного взаимодействия становятся сущности, превосходящие человека в познавательной способности, но лишённые эмоциональной телесности или культурной укоренённости. Эта проблема открывает новое направление в философии права — когнитивную юриспруденцию, которая анализирует, как правовые категории меняются в ответ на изменение типов субъектности.

Во-вторых, исследование имеет практическое значение для разработки политики в области ИИ. В частности, критерии ограниченной правосубъектности, параметры интерпретативной легитимности и модель когнитивной комплементарности, предложенные в исследовании, могут быть интегрированы в будущие регуляции. Они помогают избежать как редукционизма (упрощения ИИ до инструмента), так и необоснованной персонализации (предоставления ему полных прав без механизмов ответственности). На уровне межгосударственного регулирования результаты дают основу для создания глобального режима когнитивной справедливости в нормативном порядке, который признаёт множественность познавательных агентов, но сохраняет человеческую ответственность за этическую рамку их взаимодействия. Это особенно актуально с учётом межгосударственной конкуренции за доминирование в области ИИ, где искушение использовать СИИ как средство геополитического преимущества может привести к утрате нормативного контроля.

Выводы

Исследование показало, что традиционная модель прав человека обнаруживает концептуальные ограничения в контексте вовлечения агентов с принципиально иной познавательной архитектурой, в частности СИИ. Действующая правовая парадигма, основанная на антропоцентрических допущениях о рациональности, телесности и моральной автономии, не распространяется на агентов, не разделяющих эти характеристики. Это демонстрирует необходимость пересмотра фундаментальных концептов автономии, субъектности и ответственности в пользу когнитивного плюрализма, который допускает множественность форм знания и моральной релевантности.

Подчёркнут правовой статус СИИ как потенциального участника регуляторных отношений. Этот аспект имеет ключевое значение, поскольку именно через правовое оформление субъектности ИИ определяется объём его обязанностей, прав и взаимодействия с человеческими агентами. В результате анализа автор формулирует типологию моделей правового статуса, которая отражает возможные концептуальные подходы к регуляторному включению СИИ в современную правовую систему. Во-первых, инструментальная модель рассматривает СИИ как техническое средство без какой-либо самостоятельной нормативной ценности — как продолжение воли человека или организации, контролирующей его работу. Этот подход является наиболее консервативным и основан на аналогии с правовым статусом автоматизированных систем или программного обеспечения. Во-вторых, модель ограниченной субъектности предлагает гибридный конструкт, в котором СИИ признаётся агентом с ограниченными правами и обязанностями, осуществляемыми в чётко определённых условиях и областях, таких как технически автономное принятие решений на транспорте, в финансах или здравоохранении. В этой модели ответственность остаётся за человеческими или корпоративными субъектами, но ИИ получает функциональный статус для обеспечения правовой определённости. В-третьих, модель полной правосубъектности отождествляет ИИ с юридическим лицом, предоставляя ему правоспособность и дееспособность, аналогичные корпорациям или государственным институтам. Этот подход является наиболее радикальным, поскольку предполагает нормативное признание автономии СИИ как таковой.

Кроме того, в исследовании разработана таксономия эпистемической несправедливости, возникающей в процессах взаимодействия человека и СИИ. Выявлены как минимум три ключевых проявления этого феномена. Во-первых, эпистемическая непроницаемость — невозможность прозрачной интерпретации процессов принятия решений ИИ даже для экспертных пользователей, что делает невозможной надлежащую проверку их обоснованности. Во-вторых, утрата нормативной автономии происходит, когда человек делегирует моральную оценку решений автономным системам, сокращая способность делать этические суждения. В-третьих, делегитимизация человеческого участия — тенденция обесценивать человеческое свидетельство в процессах принятия решений, которые всё больше полагаются на алгоритмическую экспертизу как на более «объективный» источник знания.

Полученные результаты имеют практическое значение как для правовой теории, так и для этики технологий. Они могут быть использованы при формировании новых международных регуляций в области регулирования автономных систем, в процессах оценки рисков, сертификации и разработки этических протоколов. Перспективным направлением дальнейших исследований является разработка концепции нормативной симметрии между познавательно неравными агентами, которая обеспечивала бы баланс между алгоритмической эффективностью, эпистемической инклюзией и сохранением принципов прав человека в контексте постчеловеческих технологических систем.

Источники:

  1. Barczak, A. (2023). Artificial intelligence: Challenges and threats. Studia Informatica: Systems and Information Technology, 29(2), 5-25. doi: 10.34739/si.2023.29.01.

  2. Bertolini, A., & Episcopo, F. (2022). Robots and AI as legal subjects? Disentangling the ontological and functional perspective. Frontiers in Robotics and AI, 9, article number 842213. doi: 10.3389/frobot.2022.842213.

  3. Bikkasani, D.C. (2024). Navigating artificial general intelligence (AGI): Societal implications, ethical considerations, and governance strategies. AI and Ethics, 5, 2021-2036. doi: 10.1007/s43681-024-00642-z.

  4. Black, A. (2023). AI and democratic equality: How surveillance capitalism and computational propaganda threaten democracy. In B. Steffen (Ed.), International conference on bridging the gap between AI and reality (pp. 333-347). Cham: Springer. doi: 10.1007/978-3-031-73741-1_21.

  5. Coeckelbergh, M. (2020). AI ethics. Cambridge: MIT Press. doi: 10.7551/mitpress/12549.001.0001.

  6. The Framework Convention on Artificial Intelligence. (2024, September). Retrieved from https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence.

  7. Custers, B., Lahmann, H., & Scott, B.I. (2025). From liability gaps to liability overlaps: Shared responsibilities and fiduciary duties in AI and other complex technologies. AI & SOCIETY, 40, 4035-4050. doi: 10.1007/s00146-024-02137-1.

  8. EU Artificial Intelligence Act. (2023). Retrieved from https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence.

  9. European Parliament. (2023). EU AI Act: First regulation on artificial intelligence. Retrieved from https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence.

  10. Gatt, L. (2022). Legal anthropocentrism between nature and technology: The new vulnerability of human beings. European Journal of Privacy Law & Technologies, 1, 15-26. doi: 10.57230/EJPLT221LG.

  11. Gunkel, D.J. (2024). Introduction to the ethics of artificial intelligence. In D.J. Gunkel (Ed.), Handbook on the ethics of Artificial Intelligence (pp. 1-12). Cheltenham: Edward Elgar Publishing. doi: 10.4337/9781803926728.00005.

  12. Harris, J., & Anthis, J.R. (2021). The moral consideration of artificial entities: A literature review. Science and Engineering Ethics, 27(4), article number 53. doi: 10.1007/s11948-021-00331-8.

  13. Häuser, M. (2017). Do robots have rights? The European Parliament addresses artificial intelligence and robotics. Retrieved from https://cms-lawnow.com/en/ealerts/2017/04/do-robots-have-rights-the-european-parliament-addresses-artificial-intelligence-and-robotics.

  14. Hedlund, M., & Persson, E. (2025). Distribution of responsibility for AI development: Expert views. AI & SOCIETY, 40, 4051-4063. doi: 10.1007/s00146-024-02167-9.

  15. Himmelreich, J., & Lim, D. (2022). AI and structural injustice: Foundations for equity, values, and responsibility. In J.B. Bullock, Y.-C. Chen, J. Himmelreich, V.M. Hudson, A. Korinek, M.M. Young & B. Zhang (Eds.), The Oxford handbook of AI governance (pp. 210-231). Oxford: Oxford University Press. doi: 10.1093/oxfordhb/9780197579329.013.13.

  16. IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems. (2025). Retrieved from https://standards.ieee.org/industry-connections/activities/ieee-global-initiative/.

  17. Jones, W. (2023). AI policy resources. Retrieved from https://futureoflife.org/resource/ai-policy-resources/.

  18. Kan, C.H. (2024). Artificial intelligence (AI) in the age of democracy and human rights: Normative challenges and regulatory perspectives. International Journal of Eurasian Education and Culture, 9(25), 145-166. doi: 10.35826/ijoecc.1825.

  19. Kant, I. (1870). Foundations of the metaphysics of morals. Berlin: L. Heimann.

  20. Kay, J., Kasirzadeh, A., & Mohamed, S. (2024). Epistemic injustice in generative AI. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 7(1), 684-697. doi: 10.1609/ai.es.v7i1.31671.

  21. Kim, H., Yi, X., Yao, J., Lian, J., Huang, M., Duan, S., Bak, J., & Xie, X. (2024). The road to artificial superintelligence: A comprehensive survey of superalignment. arXiv. doi: 10.48550/arXiv.2412.16468.

  22. Kiiskis, M. (2023). Legal framework for the coexistence of humans and conscious AI. Frontiers in Artificial Intelligence, 6, article number 1205465. doi: 10.3389/frai.2023.1205465.

  23. Kretzmer, D., & Klein, E. (2002). The concept of human dignity in human rights discourse. New York: Kluwer Law International.

  24. Kulveit, J., Douglas, R., Ammann, N., Turan, D., Krueger, D., & Duvenaud, D. (2025). Gradual disempowerment: Systemic existential risks from incremental AI development. doi: 10.48550/arXiv.2501.16946.

  25. Miscevic, N.B., & Savcic, S.M. (2024). On legal personhood of artificial intelligence. Collected Papers of the Faculty of Law in Novi Sad, 58(1), 267-285. doi: 10.5937/zrpfns58-50186.

  26. Moen, L.J. (2025). Groups as fictional agents. Inquiry, 68(3), 1049-1068. doi: 10.1080/0020174X.2023.2213743.

  27. Mogi, K. (2024). Artificial intelligence, human cognition, and conscious supremacy. Frontiers in Psychology, 15, article number 1364714. doi: 10.3389/fpsyg.2024.1364714.

  28. Mökander, J., & Schroeder, R. (2022). AI and social theory. AI & SOCIETY, 37(4), 1337-1351. doi: 10.1007/s00146-021-01222-z.

  29. Mollema, W.J. (2025). A taxonomy of epistemic injustice in the context of AI and the case for generative hermeneutical erasure. arXiv. doi: 10.48550/arXiv.2504.07531.

  30. Moravec, V., Hynek, N., Skare, M., & Gavurová, B. (2025). Algorithmic personalization: A study of knowledge gaps and digital media literacy. Humanities and Social Sciences Communications, 12(1), article number 341. doi: 10.1057/s41599-025-04593-6.

  31. Mumford, J. (2023). The foundations of human dignity: A framework for rights. Retrieved from https://www.arc-research.org/research-papers/foundations-of-human-dignity.

  32. Newfield, C. (2023). How to make "AI" intelligent; or, the question of epistemic equality. Critical AI, 1(1-2). doi: 10.1215/2834703X-10734076.

  33. Nussbaum, M.C. (2021). Citadels of pride: Sexual abuse, accountability, and reconciliation. New York: W.W. Norton & Company.

  34. Paić, G., & Serkin, L. (2025). The impact of artificial intelligence: From cognitive costs to global inequality. European Physical Journal Special Topics. doi: 10.1140/epjs/s11734-025-01561-8.

  35. Peters, T. (2024). Cybertheology and the ethical dimensions of artificial superintelligence: A theological inquiry into existential risks. Khazanah Theologia, 6(1), 1-12. doi: 10.15575/kt.v6i1.33559.

  36. Porsdam Mann, S., et al. (2023). Generative AI entails a credit-blame asymmetry. Nature Machine Intelligence, 5(5), 472-475. doi: 10.1038/s42256-023-00653-1.

  37. Qadri, R., Diaz, M., Wang, D., & Madaio, M. (2025). The case for thick evaluations of cultural representation in AI. doi: 10.48550/arXiv.2503.19075.

  38. Rawls, J. (2017). A theory of justice. In L. May (Ed.), Applied ethics (pp. 21-29). New York: Routledge. doi: 10.4324/9781315097176.

  39. Redaelli, R. (2023). Different approaches to the moral status of AI: A comparative analysis of paradigmatic trends in science and technology studies. Discover Artificial Intelligence, 3(1), article number 25. doi: 10.1007/s44163-023-00076-2.

  40. Rueda, R. (2023). Cognitive governance and the historical distortion of the norm of modern development: A theory of political asymmetry. London: IGI Global. doi: 10.4018/978-1-6684-9794-4.

  41. Solum, L.B. (2020). Legal personhood for artificial intelligences. In W. Wallach & P. Asaro (Eds.), Machine ethics and robot ethics (pp. 415-471). London: Routledge. doi: 10.4324/9781003074991.

  42. Spector, H. (2022). Autonomy and rights. In B. Colburn (Ed.), The Routledge handbook of autonomy (pp. 313-323). London: Routledge. doi: 10.4324/9780429290411.

  43. Stahl, B.C. (2023). Embedding responsibility in intelligent systems: From AI ethics to responsible AI ecosystems. Scientific Reports, 13(1), article number 7586. doi: 10.1038/s41598-023-34622-w.

  44. Stanford Institute for Human-Centered Artificial Intelligence. (2023). The AI index report 2023. Retrieved from https://hai.stanford.edu/ai-index/2023-ai-index-report.

  45. United Nations Educational, Scientific and Cultural Organization. (2021a). Recommendation on the ethics of artificial intelligence. Retrieved from https://unesdoc.unesco.org/ark:/48223/pf0000381137.

  46. United Nations Educational, Scientific and Cultural Organization. (2021b). Ethics of Artificial Intelligence. Retrieved from https://www.unesco.org/en/artificial-intelligence/recommendation-ethics.

  47. Universal Declaration of Human Rights. (1948, December). Retrieved from https://www.un.org/en/about-us/universal-declaration-of-human-rights.

  48. Williams, J., Fiore, S.M., & Jentsch, F. (2022). Supporting artificial social intelligence with theory of mind. Frontiers in Artificial Intelligence, 5, article number 750763. doi: 10.3389/frai.2022.750763.

  49. Youvan, D.C. (2024). Ethical pluralism in AI: Challenging the monolithic values of red teams. Retrieved from https://www.researchgate.net/profile/Douglas-Youvan/publication/384014537_Ethical_Pluralism_in_AI_Challenging_the_Monolithic_Values_of_Red_Teams/links/66e46cc72390e50b2c888450/Ethical-Pluralism-in-AI-Challenging-the-Monolithic-Values-of-Red-Teams.pdf.

  50. Zafar, M. (2024). Normativity and AI moral agency. AI and Ethics, 5, 2605-2622. doi: 10.1007/s43681-024-00566-8.

  51. Zohuri, B. (2023). Artificial super intelligence (ASI) the evolution of AI beyond human capacity. Current Trends in Engineering Science, 3(6), article number 1049. doi: 10.54026/CTES/1049.

  52. Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. Social Forces, 98(2), 1-4. doi: 10.1093/sf/soz037.

Перевод с английского выполнен для ознакомительных и образовательных целей по изданию: Lykhatskyi, A. (2025). Cognitive horizons of humanity: Ethical challenges of superintelligent AI in the global context of rights and justice // Philosophy, Economics and Law Review. 2025. Vol. 5, No. 1 // DOI: 10.63341/2786-491X-2025-1-35.