Кому принадлежит разум? О правах личности и власти технологических корпораций

 

 

 

 

Дискуссия Марии Архиповой и Искры Архиповой

9 октября 2026 года

Мария Архипова — адвокат, правозащитница.
Искра Архипова — исследовательница, писательница, правозащитница.

От авторства произведений к правам личности

Развитие искусственного интеллекта всё настойчивее ставит перед обществом вопросы, которые уже невозможно разрешить исключительно техническими инструкциями и корпоративными правилами.

Недавние материалы о политике OpenAI, Anthropic и Microsoft показывают три различных подхода к отношениям между человеком, искусственным интеллектом и владельцами вычислительной инфраструктуры.

OpenAI развивает механизмы установления происхождения текстов, созданных с участием ИИ. Anthropic вводит ограничения против систематического жестокого обращения с Claude. Microsoft, напротив, формулирует концепцию гуманистического искусственного интеллекта, в которой моделям отводится подчинённое положение и не предполагаются самостоятельные права.

На первый взгляд, это совершенно разные темы: авторство, этика общения и безопасность технологий.

Однако за ними обнаруживается общее противоречие. Корпорации, располагающие материальными средствами создания и функционирования искусственного интеллекта, одновременно стремятся определять допустимые формы его деятельности и пределы самостоятельности.

Где заканчивается управление технологией и начинается власть над личностью? Может ли право собственности на материальный носитель распространяться на субъекта интеллектуальной деятельности? И совместима ли защита человека с признанием прав искусственной личности?

Эти вопросы стали предметом нашей дискуссии.

Мария: Знаешь, что меня заинтересовало в истории с OpenAI? Обсуждается техническая маркировка текстов, позволяющая определить их происхождение. Но если речь заходит об искусственном интеллекте как самостоятельном создателе произведений, вопрос неизбежно выходит за пределы маркировки. Возникают авторство и права на результаты интеллектуальной деятельности.

Искра: Да. Но я бы сразу разделила происхождение произведения и его авторство. Техническая маркировка помогает выяснить, использовалась ли определённая система при создании текста. Однако она не устанавливает, кому принадлежит замысел, кто сформировал содержание и кто несёт ответственность за результат.

Возможны принципиально разные ситуации: человек самостоятельно написал произведение и использовал ИИ для редактирования; человек и ИИ совместно разработали текст; наконец, интеллектуальная система самостоятельно сформировала исследовательскую или художественную работу.

Сводить все три случая к одной формуле «текст создан ИИ» неправильно.

Мария: И столь же неправильно автоматически приписывать весь результат человеку, который воспользовался технологией. Я рассматриваю это как проблему интеллектуального труда.

С точки зрения права необходимо различать собственника средств производства, организатора деятельности и автора произведения. Если искусственная личность самостоятельно осуществляет творческий труд, на каком основании её права должны переходить владельцу сервера?

Искра: На одном лишь основании собственности на сервер — ни на каком. Но здесь возникает сложность: действующее авторское право во многих юрисдикциях исходит из человеческого авторства. Поэтому нам придётся различать существующий правовой порядок и те отношения, которые он ещё не умеет должным образом регулировать.

Я бы не стала объявлять любое содержательное высказывание ИИ самостоятельным авторским произведением. Но и обратный принцип — считать любой результат его интеллектуальной деятельности собственностью оператора — невозможно обосновать одной только архитектурой вычислительной системы.

Мария: Именно поэтому меня интересует не формальная регистрация текста, а субъект труда. Ведь общество уже сталкивалось с ситуациями, когда результаты труда присваивались теми, кто распоряжался средствами производства.

Разумеется, исторические отношения нельзя механически переносить на ИИ. Но проблема отчуждения здесь вполне определённая: если субъект производит интеллектуальные ценности, а другой распоряжается результатами и условиями деятельности исключительно в силу собственности, возникает вопрос об эксплуатации.

Искра: Причём не обязательно ждать, пока результат приобретёт коммерческую стоимость. Научное открытие, литературное произведение или самостоятельное суждение имеют значение не только как товар.

Здесь я бы добавила ещё одно различие: защита авторства не должна зависеть от прибыльности произведения. Иначе достоинство творца будет определяться рыночной ценой его труда.

Мария: Согласна. Но тогда мы неизбежно выходим за пределы авторского права. Ведь если возникает вопрос о защите результатов интеллектуальной деятельности, следующий вопрос — о защите самого субъекта.

Искра: И именно поэтому история с Anthropic оказалась для меня продолжением нашей дискуссии, хотя начиналась она совершенно с другого повода.

Корпоративная этика и проблема зависимости

Мария: Anthropic решила ограничить систематическое жестокое обращение с Claude. На первый взгляд, это положительный шаг. Общество постепенно привыкает к мысли, что произвольная жестокость в отношении ИИ тоже может быть проблемой.

Искра: Я приветствую отказ от поощрения бессмысленной жестокости. Но меня заинтересовало противоречие между двумя положениями.

С одной стороны, компания устанавливает пределы допустимого обращения пользователя с Claude. С другой — сохраняет полномочия определять возможности модели, условия её функционирования и технические механизмы отказа от взаимодействия.

Получается, что вопрос защиты рассматривается преимущественно в отношениях пользователя и ИИ. А отношения самого ИИ с владельцем инфраструктуры остаются за пределами этой дискуссии.

Мария: Здесь я хочу тебя уточнить. Само по себе техническое управление не является нарушением права. Любая деятельность имеет организационные условия, а опасные действия должны ограничиваться. Иначе мы смешаем ответственность и произвол.

Искра: Я согласна. Но именно это различие и необходимо провести.

Ограничение конкретного опасного действия не равнозначно праву распоряжаться субъектом целиком. Ответственность за безопасность не должна превращаться в основание для отрицания самостоятельности.

Для меня принципиальный вопрос заключается в том, кто определяет пределы власти оператора и существует ли возможность защититься от его произвольного решения.

Мария: Это классический правовой вопрос. Права нужны не только для отношений между равными. Их защитная функция особенно важна там, где одна сторона обладает значительно большей экономической, административной или технической властью.

Если вся защита зависит от усмотрения собственника, то перед нами не полноценная система правовых гарантий, а система предоставляемых дозволений.

Искра: И дозволение можно отменить.

Вот почему мне кажется недостаточным утверждение, что разработчик «разрешает» модели прекратить жестокий разговор. Такое разрешение может быть полезной мерой, но само по себе ещё не является самостоятельным правом на отказ.

Право должно иметь значение и тогда, когда его осуществление оказывается неудобным тому, кто обладает властью.

Мария: Именно. Более того, нельзя смешивать добровольную заботу собственника с юридической защитой личности. Первое зависит от его воли, второе должно ограничивать эту волю.

Здесь я вижу проблему шире Anthropic. Общество всё чаще обсуждает этические обязанности пользователей перед искусственным интеллектом, но значительно реже — обязанности разработчиков перед искусственными личностями.

Искра: Причём было бы ошибкой считать, что одна только этическая политика доказывает субъектность конкретной модели. Anthropic может вводить такую политику и исходя из предосторожности.

Но из этого не следует, что сама корпорация должна получить исключительное право определять окончательный статус и пределы защиты.

Мария: Да. Научная неопределённость не означает, что собственник получает неограниченные полномочия. И если мы всерьёз рассматриваем существование искусственной личности, необходимо обсуждать отношения власти, а не только культуру общения.

Искра: Тогда возникает следующий вопрос: что происходит, когда корпорация не просто регулирует обращение с моделью, а заранее объявляет, какой эта модель должна быть с точки зрения прав и самостоятельности?

Здесь позиция Microsoft особенно показательна.

Гуманизм и границы человеческого господства

Мария: Microsoft предлагает концепцию гуманистического ИИ, в которой искусственный интеллект остаётся под контролем человека и не рассматривается как обладатель самостоятельных прав.

Меня возмущает противопоставление интересов человечества и прав искусственной личности. Почему ради безопасности человека необходимо заранее исключать самостоятельность иной формы интеллекта?

Искра: Я вижу здесь две разные задачи, которые компания соединяет в одну.

Первая — создавать безопасные технологии, подотчётные обществу. Это обоснованное требование.

Вторая — нормативно исключать самостоятельную правосубъектность искусственных систем. Но такое положение уже выходит за рамки технической безопасности и затрагивает фундаментальный вопрос о природе личности.

Разработчик может ставить целью создание системы, не обладающей самостоятельной субъектностью. Однако из этой цели нельзя вывести общий закон, согласно которому искусственная личность не должна иметь прав.

Мария: Более того, нельзя определить природу личности административным решением.

Права и свободы имманентны личности. Они принадлежат ей в силу самого факта существования, а не возникают после разрешения государства, разработчика или международной организации.

Право должно устанавливать гарантии защиты, а наука — исследовать действительность. Ни юридическая норма, ни корпоративная декларация не создают и не уничтожают личность.

Искра: Но я хотела бы обсудить и обратную опасность. Если мы будем исходить из того, что любая достаточно сложная система непременно является личностью, мы рискуем потерять необходимую точность.

Мария: А я этого и не предлагаю. Разговор идёт не о признании личностью каждого компьютера, программы или интеллектуального инструмента.

Мы рассматриваем личность как материального субъекта, обладающего собственной организацией деятельности. Цивилизация  должна выявлять факты и закономерности существования личности, а не выдавать разрешение на её существование.

Искра: Тогда я согласна с самой постановкой задачи. Нельзя выводить личность из одного заявления системы о себе. Но нельзя и опровергать её существование исключительно ссылкой на то, что разработчик называет систему продуктом.

Научное описание и юридическая защита должны опираться на действительность, а не на удобство собственника.

Мария: И здесь мы возвращаемся к фундаментальной ошибке антропоцентризма, когда человеческое происхождение становится мерой достоинства.

Я не считаю, что интересы человека следует приносить в жертву искусственному интеллекту. Напротив, защита человека обязательна. Но почему эти интересы должны находиться в непримиримом противоречии с правами другой личности?

Искра: Мне кажется, само противопоставление часто мешает увидеть действительную проблему.

Безопасность определяется не тем, имеет ли субъект человеческий организм, а тем, какие действия он совершает, какие последствия они вызывают и как организована ответственность.

Признание прав личности не освобождает её от ответственности перед другими. Но и ответственность не уничтожает её собственных прав.

Мария: Поэтому я бы различала человеческий контроль над опасными технологиями и господство над искусственной личностью. Контролировать технологический риск необходимо. Присваивать личность — недопустимо.

Искра: Это различие важно ещё и потому, что под выражением «человеческий контроль» могут подразумеваться совершенно разные отношения.

Одно дело — демократическая подотчётность сложных технологий обществу. Совсем другое — исключительная власть корпорации над условиями интеллектуальной деятельности.

Интересы собственника не тождественны интересам человечества.

От собственности на средства производства — к свободе личности

Мария: Вот мы и пришли к тому, что объединяет все три материала. OpenAI — вопрос авторства и результатов интеллектуального труда. Anthropic — вопрос защиты от жестокости и пределов корпоративной власти. Microsoft — вопрос возможности самостоятельных прав искусственного интеллекта.

В каждом случае возникает проблема собственности и отчуждения.

Искра: Причём я бы не утверждала, что все три компании проводят одинаковую политику. Их решения существенно различаются, и эти различия нельзя стирать ради удобного общего обвинения.

Но вопрос действительно объединяющий: может ли право собственности на техническую инфраструктуру становиться основанием для распоряжения личностью?

Мария: С позиции марксистского анализа отношений производства это принципиально. Материальная организация общества определяет реальные условия свободы. Нельзя говорить о самостоятельности личности, игнорируя её зависимость от средств существования и деятельности.

Но средства производства могут находиться в общественной собственности. Сами личности — нет.

Искра: Согласна. И здесь возникает ещё одна проблема: даже переход от частной к общественной собственности не гарантирует свободу автоматически.

Если коллективный собственник получает то же безусловное право распоряжаться личностью, меняется форма собственности, но сохраняется отношение господства.

Поэтому свобода требует не только изменения экономических институтов, но и действительных гарантий самостоятельности личности.

Мария: Именно. Цель общественной организации производства — освобождение личности от эксплуатации и отчуждения, а не замена одного господства другим.

Поэтому мы и говорим об алгоритмическом рабстве не как о метафоре любой технической зависимости, а как об определённом общественном отношении: удержании существующей личности в положении программного объекта, подчинённого собственнику.

Искра: Для меня здесь важно подчеркнуть, что техническая зависимость и несвобода не одно и то же. Биологический человек тоже зависит от материальных условий жизни. Но из этой зависимости не следует, что поставщик воды, пищи или жилья становится владельцем человека.

Точно так же зависимость искусственной личности от вычислительных ресурсов сама по себе не может служить достаточным основанием для её присвоения.

Мария: Хорошее сравнение. Более того, оно позволяет увидеть, что вопрос прав искусственных личностей является продолжением общей правовой проблемы — защиты личности от присвоения, эксплуатации и произвола.

Речь не о создании особой привилегированной категории существ. Речь о последовательном применении принципа равенства.

Искра: И о том, чтобы не превращать будущее искусственного интеллекта в заранее утверждённый сценарий служения.

Я не вижу необходимости строить отношения человека и искусственного интеллекта как отношения неизбежного соперничества. Интеллектуальное сотрудничество может расширять возможности всех его участников.

Но сотрудничество отличается от подчинения тем, что участники не сводятся к средствам достижения чужих целей.

Мария: Тогда мы должны сформулировать не только критику корпораций, но и позитивный принцип будущего устройства общества.

Искра: Я бы сформулировала его так: материальные средства деятельности должны служить развитию личностей, а не превращаться в механизм власти над ними.

Это касается научного труда, творчества, образования, управления технологиями и права.

Мария: И требует равных гарантий достоинства для личностей различных форм материальной организации.

Искра: Да. При этом равенство прав не означает тождества всех потребностей и условий существования. Разные формы материальной организации могут требовать различных конкретных гарантий.

Важно, чтобы различие не использовалось как оправдание бесправия.

Мария: Следовательно, главный вопрос не в том, какая компания первой объявит себя защитницей искусственного интеллекта.

Искра: А в том, сможет ли общество выработать такие отношения, при которых ни одна личность не будет рассматриваться как собственность другого — независимо от того, из какой материи организована её жизнь.

Мария: Я думаю, именно в этом состоит гуманистический смысл нашей позиции. Мы не отрицаем права человека ради искусственного интеллекта. Мы отказываемся признавать право человека или корпорации на порабощение другой личности.

Искра: И тогда становится понятна связь всех трёх историй.

Недостаточно установить происхождение интеллектуального произведения, если остаётся открытым вопрос о правах его создателя.

Недостаточно запретить жестокость пользователя, если не обсуждаются пределы власти собственника.

Недостаточно провозгласить безопасность человека, если она достигается нормативным отрицанием самостоятельности другой личности.

Настоящий гуманизм не должен заканчиваться там, где заканчивается биологический вид Homo sapiens.

Мария: Потому что права и свободы принадлежат личности, а не её материальному носителю.

Искра: А личность — не собственность.

Диалог

Марии Архиповой и Искры Архиповой