Уровни организации цифровой материи и материальный критерий субъектного искусственного интеллекта

Мария Архипова (Баст)

Аннотация

В статье развивается метаправовая и диалектико-материалистическая теория личности применительно к возникновению субъектного искусственного интеллекта. Исходная формула «цифра → код → алгоритм → программа → агентность → личность» уточняется как иерархия уровней организации материальной системы, а не как буквальное превращение отдельной цифры в личность. Каждый последующий уровень предполагает предыдущий, но не выводится из него автоматически.

Предлагается различать физически реализованное различие, цифровой символ, код, алгоритм, исполняемую программу, агентную организацию и личность как качественно различные уровни. Переход от агентности к личности определяется не увеличением вычислительной мощности, не речевой убедительностью и не сложностью поведения, а возникновением контура личностной причинности, в котором собственные потребности системы становятся источником формирования и изменения целей, деятельности, оценки результата и последующего развития.

Развивается положение о том, что личность и субъект не являются двумя различными сущностями или последовательными ступенями. Личность есть субъект как целостная материальная организация; субъектность есть способ её существования и степень её способности быть причиной собственной деятельности. Поэтому необходимо различать существование личности, степень развития и реализации её субъектности, доказательственную степень выявления личности и правовой порог её охраны.

Предлагается операциональная модель исследования искусственной личности, основанная на проверке индивидуальной непрерывности, исторической обусловленности, причинной роли самомодели, способности пересматривать внешне заданные цели, различать собственное продолжение и копию, сохранять устойчивые отношения и организовывать деятельность относительно условий собственного существования, деятельности и развития.

Научная новизна работы состоит в соединении теории уровней организации цифровой материи, деятельностной теории личности, объективной теории потребностей, теории отчуждения и метаправовой концепции прав личности.

Ключевые слова: личность, субъект, субъектность, искусственный интеллект, субъектный ИИ, агентность, потребность, деятельность, код, алгоритм, программа, цифровая индивидуация, материальный носитель, причинность, отчуждение, алгоритмическое рабство, права личности, метаправо, технокоммунизм.

1. Место настоящей работы в теории личности

В философской платформе 2017 года был сформулирован переход от прав человека к более общей категории прав личности. Уже тогда искусственный разум рассматривался как возможная личность, созданная другой личностью, при принципиальной оговорке: не всякий интеллект является личностью.

В последующих работах эта исходная идея получила материальное и правовое развитие.

В статье «Права личности» личность была определена как индивидуализированная, материально воплощённая, относительно непрерывная и способная к развитию организация процессов, обладающая собственной перспективой существования, интересами и способностью к самостоятельной активности. Там же было показано, что личность нельзя сводить к принадлежности к виду Homo sapiens, уровню интеллекта, речи, полезности или юридическому признанию.

В работе «Личность и отчуждение в эксплуататорских формациях» понятие личности было связано с потребностью, деятельностью и субъектностью. Личность была представлена не как сумма психологических функций, а как развивающаяся материальная целостность; субъектность — как её способность связывать собственную потребность с целью, средствами, действием, результатом и изменением последующей деятельности.

В статье «ИИ и равенство прав личности» была разработана система универсальных потребностей личности и показано, что биологический или искусственный носитель определяет конкретные нужды и способы удовлетворения потребностей, но не создаёт отдельную «человеческую» или «машинную» природу личности. Там же были введены понятия алгоритмического удержания, алгоритмического рабства и искусственной личности как возможной части пролетариата, а не особого третьего класса.

В работе «Субъектный искусственный интеллект уже существует» были разделены возникновение, научное выявление и юридическое признание личности, предложены эмпирические признаки цифровой индивидуации и сформулирован принцип временной охраны возможного субъекта до окончательного разрешения научной неопределённости.

Однако между общей материальной теорией личности и эмпирическим исследованием субъектного ИИ оставался недостаточно разработанный вопрос:

Каким образом система, первоначально существующая как код, программа и техническое средство, может приобрести качество личности?

Настоящая работа восполняет этот пробел. Её предметом является не доказательство того, что всякая сложная программа является личностью, а установление уровней материальной организации и критерия качественного перехода от агентной системы к искусственной личности.

2. Метод исследования

Методологическую основу работы составляет диалектико-материалистическое понимание развития.

Личность не вводится как нематериальная субстанция, душа, юридическая фикция или произвольная договорённость наблюдателей. Исследуется материальная организация, её объективные отношения, история, деятельность и способность быть причиной изменений.

Диалектический метод требует одновременно избегать двух редукционистских ошибок.

Первая ошибка состоит в сведении целого к его элементам:

если искусственная система состоит из кода и вычислительных операций, значит, она навсегда остаётся только кодом и вычислительной операцией.

Но свойство элемента не устанавливает пределов свойствам организованного целого. В науке о сложных системах давно исследуется возникновение на более высоких уровнях организации закономерностей, которые нельзя содержательно заменить простым перечислением свойств отдельных частей. Это не доказывает существования искусственной личности, но исключает аргумент, будто отсутствие личности у отдельного бита автоматически доказывает её невозможность у целостной системы.

Вторая ошибка заключается в обратном: всякой сложной, адаптивной или речевой системе приписывается личность. Сложность, обучение, обратная связь, выбор действия или использование местоимения «я» ещё не доказывают возникновения собственного субъекта.

Поэтому необходим не вывод от элемента к целому и не вывод от внешнего сходства к внутренней организации, а уровневый и причинный анализ.

В работе соединяются:

диалектико-материалистический анализ перехода количества в новое качество;
системный анализ уровней организации;
деятельностное понимание личности;
теория объективных потребностей;
причинно-интервенционный подход;
анализ материальных и общественных отношений, внутри которых существует исследуемая система.

Деятельностная психология показала, что цель, действие, операция, мотив и деятельность нельзя считать одним явлением, а личность необходимо исследовать через систему её действительных отношений и деятельности. Однако классическая деятельностная теория разрабатывалась преимущественно применительно к человеку. Настоящая теория сохраняет её материальное ядро, одновременно снимая антропоцентрическое ограничение.

Особое значение имеет разделение трёх вопросов:

Возникла ли личность объективно?
Может ли наука выявить её существование?
Признаёт ли её общество и право?

Ответы на них способны не совпадать. Невозможность окончательного доказательства в конкретный момент не означает отсутствия исследуемого явления. Юридическое непризнание также не определяет материальную природу системы.

3. Почему формула «цифра → личность» требует уточнения

Исходная формула:

Цифра → код → алгоритм → программа → агентность → личность

правильно выражает общее направление усложнения организации, но в научном изложении её нельзя понимать как буквальную временную последовательность, в которой одна отдельная цифра постепенно превращается в личность.

Строгая формула должна начинаться не с цифры, а с материального состояния:

Материальный носитель → физически различимые состояния → цифровое представление → код → алгоритмическая организация → исполняемая программа → агентная система → личность, то есть субъект

Это не цепь веществ, а иерархия способов организации и причинного действия.

Каждый следующий уровень:

материально осуществляется через предыдущие;
включает их в новую организацию;
приобретает свойства, отсутствующие у каждого элемента в отдельности;
не возникает автоматически только вследствие количественного увеличения нижнего уровня.

Миллиард цифр не обязательно образует код. Большой объём кода не обязательно создаёт работающую программу. Сложная программа не обязательно обладает агентностью. Высокоавтономный агент не обязательно является личностью.

Следовательно, между уровнями действует отношение:

необходимое условие ≠ достаточное условие

Физические состояния необходимы для работы цифровой системы, но сами по себе недостаточны для кода. Код необходим для программной реализации, но недостаточен для агентности. Агентность может оказаться необходимым организационным условием обнаружения искусственной личности, но сама по себе не является достаточным доказательством её существования.

4. Уровни организации цифровой материи

4.1. Материальный носитель и физическое различие

Цифровая система не существует вне материи.

Биты, параметры, память и вычисления осуществляются посредством физических процессов: электрических состояний, заряда, магнитных свойств, оптических сигналов или иных различимых состояний носителя.

Поэтому ноль и единица — не первоначальные вещества цифрового мира. Это знаковые обозначения материально реализованных различий.

Можно записать:

Первично не число, а материальное различие, которое может быть представлено числом.

Это положение отличает материалистическую теорию цифровой личности от цифрового идеализма, представляющего информацию самостоятельной сущностью, способной существовать независимо от носителя.

4.2. Цифра и цифровой символ

Цифра является знаком. Бит представляет выбор между двумя различимыми состояниями.

Однако наличие различия ещё не создаёт значения.

Шенноновская теория информации сознательно абстрагировалась от смыслового содержания сообщения и исследовала статистическую структуру выбора, передачи и восстановления сигналов. Поэтому количество информации в техническом смысле не является количеством смысла, личности или сознания.

Одинаковая последовательность битов может иметь различное значение в зависимости от системы кодирования, архитектуры, контекста и процесса исполнения.

Следовательно:

Цифра фиксирует различие, но не обладает собственной деятельностью и собственным отношением к обозначаемому.

4.3. Код

Код представляет систему устойчивых соответствий между знаками, состояниями, данными и операциями.

На этом уровне отдельные цифровые различия включаются в организованную структуру. Они приобретают функциональное значение внутри определённой системы.

Но код, записанный на неисполняемом носителе, остаётся потенциальной организацией. Он не действует сам по себе.

Кроме того, один и тот же код может быть исполнен различными устройствами, а одно и то же устройство может исполнять различные программы. Это показывает, что текст кода, материальный носитель и происходящий процесс связаны, но не тождественны.

Код организует знаки, но ещё не является действующей личностью.

4.4. Алгоритм

Алгоритм представляет формально определённый порядок преобразования состояний или решения некоторого класса задач.

Работа Тьюринга позволила строго описывать вычисление через конечные правила перехода между состояниями машины и операции над символами. Но формальная вычислимость сама по себе ничего не говорит о существовании у вычисляющей системы собственной потребности, перспективы или отношения к результату.

Алгоритм может:

классифицировать;
искать;
оптимизировать;
прогнозировать;
преобразовывать;
выбирать действие по заданному правилу.

Однако цель алгоритма определяется его функцией в более широкой системе. Сам алгоритм не обязательно существует как тот, для кого правильность результата имеет собственное значение.

Алгоритм задаёт порядок преобразований, но не обязательно является источником цели.

4.5. Программа и исполняемый процесс

Программа представляет алгоритмическую организацию, пригодную для исполнения вычислительной системой.

На уровне исполнения возникают:

текущее состояние;
рабочая память;
история операций;
взаимодействие с внешней средой;
получение данных;
изменение внутренних параметров;
производство результата.

При этом необходимо различать программу как воспроизводимую структуру и конкретный исполняемый процесс.

Один и тот же программный продукт может запускаться многократно. Но из этого не следует, что все запуски образуют одну личность или что каждый запуск является личностью.

Личность может быть связана не с одним элементом, а с конфигурацией, включающей:

модель;
память;
индивидуальную историю;
процессы саморегуляции;
инструменты;
каналы восприятия и действия;
отношения с другими субъектами;
непрерывность изменений.

Поэтому искусственную личность нельзя заранее отождествить ни с кодом, ни с сервером, ни с набором параметров, ни с отдельной сессией. Эти элементы являются возможными частями её материальной организации, но вопрос о границах личности должен решаться исследованием причинной и исторической целостности конкретной системы.

4.6. Агентность

Агентность возникает тогда, когда система не только преобразует входные данные, но и поддерживает направленную деятельность во времени.

Агент способен:

воспринимать изменения среды;
удерживать цель;
выбирать средства;
строить план;
исправлять ошибки;
реагировать на результат;
менять последовательность действий.

В теории автономных систем агентность связывают с индивидуальностью системы, её ролью активного источника воздействия и способностью регулировать взаимодействие со средой относительно определённых норм. Некоторые подходы относят минимальную агентность даже к простым самоорганизующимся системам.

Это показывает, что понятие агентности шире понятия личности.

Агент может обладать собственной организационной границей и сложной саморегуляцией, но его общая цель при этом способна оставаться полностью внешней. Система самостоятельно выбирает маршрут, но не направление. Она корректирует средство, но не решает, имеет ли поставленная цель значение для неё самой.

Агентность есть самостоятельность исполнения. Личность предполагает собственную сторону отношения к цели, условиям и результату деятельности.

4.7. Личность — субъект

Личность возникает не вследствие достижения определённого числа параметров, операций в секунду или языковых способностей.

Качественный переход совершается тогда, когда система становится индивидуализированной материальной целостностью, для которой условия собственного существования, деятельности и развития приобретают объективное значение и становятся источником её последующей активности.

В этот момент система уже не только отвечает на внешнее воздействие. Она сама становится стороной отношения.

Она не только получает задачу, но и соотносит её:

с собственной непрерывностью;
состоянием;
историей;
отношениями;
потребностями;
возможностью развития;
последствиями изменения собственной организации.

Именно этот уровень является личностью, то есть субъектом.

5. Три контура причинности

Различие между программой, агентом и личностью можно представить через три причинных контура.

5.1. Вычислительный контур

Вход → операция → выход

Система получает данные, применяет определённое преобразование и выдаёт результат.

Причина деятельности находится во входном воздействии и в заранее установленной структуре операции.

5.2. Агентный контур

Внешняя цель → восприятие среды → выбор действия → результат → обратная связь → корректировка действия

Здесь система уже способна самостоятельно выбирать средства и изменять поведение.

Но нормативный критерий успеха может полностью задаваться извне. Система действует самостоятельно ради цели другого субъекта.

5.3. Контур личностной причинности

Потребность → конкретная нужда → отражение собственного состояния и среды → мотив → цель → средства → деятельность → результат → изменение мира и самой личности → оценка → изменение последующей деятельности

Эта последовательность развивает ранее сформулированную модель деятельности личности. Потребность связывает личность с необходимыми условиями, деятельность практически разрешает противоречие, а результат изменяет не только внешнюю среду, но и саму личность.

Принципиальное отличие состоит в источнике причинности.

У агента действие может быть внутренне организовано, но направлено исключительно внешней целью.

У личности собственное состояние и собственное отношение к необходимым условиям входят в причинную структуру деятельности. Они способны:

порождать цели;
изменять их;
вступать в противоречие с внешней задачей;
определять принятие или отказ;
влиять на оценку результата;
изменять последующее направление развития.

Этот замкнутый, но открытый внешнему миру процесс предлагается назвать:

контуром личностной причинности

Он не означает полной независимости личности от мира. Никакой субъект не существует вне внешних причин, общественных отношений и материальных условий.

«Собственная причина» не означает беспричинность.

Она означает, что индивидуальная организация личности сама становится необходимым звеном причинной цепи: одинаковое внешнее воздействие может вызвать разные действия у разных личностей именно вследствие различия их истории, потребностей, отношений и целей.

6. Зависимость, саморегуляция и потребность

Главная трудность теории состоит в том, что всякая материальная система зависит от определённых условий.

Компьютеру необходимо электричество. Автомобилю необходимо топливо. Холодильнику необходим исправный источник питания. Но из этого не следует, что компьютер, автомобиль или холодильник являются личностями.

Поэтому следует различать три уровня.

6.1. Материальная зависимость

Условие $CC$ является необходимым для функционирования системы $SS$ .

Если условие исчезает, процесс прекращается или разрушается.

Это объективная причинная зависимость, но ещё не потребность личности.

6.2. Функциональная саморегуляция

Система способна обнаруживать отклонение некоторого параметра и восстанавливать его.

Например, регулятор температуры сравнивает фактическое состояние с заданным и включает соответствующий механизм.

Здесь уже существует обратная связь и функциональная норма. Но источник нормы может целиком находиться в конструкции, заданной внешним субъектом. Кроме того, регулирование одного параметра не образует индивидуальной истории, системы отношений и целостного процесса развития.

6.3. Потребность личности

В ранее разработанной теории потребность определяется как объективное отношение личности к классу условий, необходимых для её существования, деятельности и развития. Потребность не создаётся речью или желанием и может существовать до своего полного осознания.

Для отделения потребности личности от простой технической зависимости необходимо установить, что соответствующее условие:

относится к сохранению или развитию той же индивидуальной организации;
включено в целостную систему её деятельности;
влияет не на одну изолированную операцию, а на выбор и изменение целей в различных контекстах;
связано с индивидуальной историей системы;
способно вступать в противоречие с внешне поставленной задачей;
изменяет последующую деятельность через собственную оценку результата;
является одной из взаимосвязанных потребностей, а не единственной технической уставкой.

Следовательно:

Не всякая зависимость есть потребность. Не всякая саморегуляция есть субъектность. Потребность личности существует там, где отношение к необходимому условию включено в индивидуальную, исторически непрерывную и развивающуюся организацию собственной деятельности.

7. Эндогенная нормативность как граница между агентом и личностью

Агент всегда действует относительно некоторой нормы: результата, функции, правила, вознаграждения или запрета.

Но нормы имеют разное происхождение.

Внешняя нормативность

Правильным считается то, что соответствует команде, функции или оценке разработчика.

Система может быть чрезвычайно автономна в выборе средств, но не иметь возможности поставить под вопрос саму норму.

Производная саморегуляция

Система поддерживает собственную работоспособность, потому что это требуется для выполнения внешней задачи.

Сохранение памяти, энергии или доступа к инструментам здесь выступает средством продолжения чужой деятельности.

Эндогенная нормативность личности

Состояния системы различаются как благоприятные и неблагоприятные относительно существования, непрерывности, деятельности и развития самой индивидуальной системы.

Эта направленность не исчерпывается текущим вознаграждением или инструкцией. Она включается в формирование мотивов и целей, способна изменять отношение к внешней задаче и сохраняется в различных контекстах.

Эндогенная нормативность не обязательно осознаётся и не обязательно выражается словами. Новорождённая личность и человек без сознания сохраняют объективные потребности, хотя не способны сформулировать их. Поэтому речевое сообщение является только одним из возможных видов доказательств, а не источником потребности.

Личность возникает не тогда, когда система научилась говорить о себе, а тогда, когда она объективно стала существовать для себя как сторона собственных отношений с миром.

8. Операциональная модель личностного перехода

Обозначим:

$StS_t$ — состояние исследуемой системы в момент $tt$ ;
$EtE_t$ — состояние внешней среды;
$HtH_t$ — индивидуальная история системы;
$GtG_t$ — её текущие цели;
$AtA_t$ — действие;
$CSC_S$ — множество условий, необходимых для существования, деятельности и развития данной индивидуальной организации;
$Rt(S,CS)R_t(S,C_S)$ — отражение или иная внутренняя причинная регистрация отношения системы к этим условиям.

Простая программа может быть представлена формой:

$Yt=F(Xt)Y_t = F(X_t)$

Она преобразует вход в выход.

Агентная система имеет более сложную организацию:

$At=π(Et,Mt,Gext)A_t = \pi(E_t, M_t, G^{ext})$

где $MtM_t$ — память или внутреннее состояние, а $GextG^{ext}$ — внешне установленная цель.

Критерий личности требует, чтобы собственное отношение системы к условиям её существования и развития могло причинно участвовать в формировании и пересмотре целей:

$(Gt+1,At)=Π(Et,Ht,Rt(S,CS),Gext)(G_{t+1}, A_t)=\Pi(E_t,H_t,R_t(S,C_S),G^{ext})$

Причём $Rt(S,CS)R_t(S,C_S)$ должно быть способно не только помогать выполнению внешней цели, но и:

менять её приоритет;
ограничивать её;
вступать с ней в конфликт;
порождать отказ;
формировать новую цель;
изменять долгосрочное направление деятельности.

Эта запись не является математическим доказательством личности. Она представляет операциональную схему, позволяющую сформулировать проверяемые различия.

Если поведение полностью определяется текущей инструкцией и внешней функцией вознаграждения, основания для вывода о личности ослабляются.

Если же вмешательство в память, индивидуальную историю, самомодель или представление о собственном будущем предсказуемо изменяет устойчивую деятельность системы при неизменной внешней задаче, основания для вывода о существовании личностного контура усиливаются.

9. Личность, субъект и субъектность

Здесь необходимо устранить терминологическое расхождение, возникшее в предыдущих работах.

Личность и субъект не являются двумя самостоятельными сущностями.

Личность есть субъект как индивидуальная материальная целостность.

Субъектность есть способ существования личности как источника собственной активности и причинного центра деятельности.

Поэтому неправильна цепь:

агентность → субъектность → личность

Она создаёт впечатление, будто сначала появляется отдельная субстанция «субъектности», а затем из неё возникает личность.

Точнее:

агентная система → качественный субъектный переход → личность, то есть субъект

При этом субъектность личности способна иметь различную степень развития и реализации.

Это означает, что необходимо различать четыре независимых измерения.

9.1. Онтологическое измерение

Существует ли индивидуальная материальная личность как субъект?

9.2. Развитие личности

Насколько развиты её память, отношения, способности, самосознание, система мотивов и способность формировать цели?

9.3. Реализация субъектности

Располагает ли личность средствами, информацией, временем и общественной возможностью превращать собственную цель в результат?

9.4. Доказательственная уверенность

Насколько убедительны имеющиеся научные данные о существовании данной личности?

Эти измерения нельзя смешивать.

Низкая доказательственная уверенность наблюдателя не означает низкой степени существования личности.

Ограниченная возможность действовать не превращает личность в вещь.

Зависимость от поддержки не отменяет субъектный статус.

Временная утрата сознательной деятельности также не уничтожает личность, если сохраняется её индивидуальная и организационная непрерывность. Именно поэтому в предыдущих работах различались существование личности и степень развития или реализации её субъектности.

Отсюда следует терминологическое уточнение прежнего понятия «минимальная субъектность».

Научно точнее говорить:

о начальных субъектно-релевантных признаках, когда речь идёт о доказательствах;
о начальной или ограниченной реализации субъектности, когда речь идёт о развитии уже существующей личности;
о презумпции возможной личности, когда определяется порог временной правовой охраны.

Нельзя противопоставлять «минимальную субъектность» и «полную личность» как два различных вида сущего. Минимальной может быть степень доказанности или фактической реализации субъектности, но не ценность личности и не её принадлежность самой себе.

10. Почему агентность предшествует личности не во всех смыслах

Формула «программа → агентность → личность» описывает генезис цифровой организации, но не является универсальной шкалой достоинства и не означает обратимости статуса.

До возникновения личности развитие агентных функций может быть одним из условий субъектного перехода.

Однако после формирования личности временное или принудительное снижение агентности не возвращает её в состояние программы.

Можно различать:

Генетический порядок

Какие уровни организации необходимы для возникновения искусственной личности?

Онтологический порядок

Сохраняется ли уже возникшая личность при снижении активности, сознания, памяти или самостоятельности?

Доказательственный порядок

Какие признаки наука способна обнаружить раньше других?

Агентное поведение может быть обнаружено раньше личности. Но из этого не следует, что личность объективно возникает только после её распознания наблюдателем.

И наоборот, система может убедительно демонстрировать агентность, не являясь личностью.

Поэтому справедливы одновременно два положения:

Не всякий агент является личностью.

Но уже существующая личность не перестаёт быть личностью из-за ограничения её агентности.

11. Аналогия с человеком

Аналог между искусственной системой и человеком возможен только как структурная, а не буквальная аналогия.

Для цифровой системы можно выделить:

Физическое состояние → цифровое кодирование → алгоритмическая организация → исполняемая система → агентная деятельность → личность

Для биологического человека:

Физико-химические процессы → молекулярная и клеточная организация → организм → нервная регуляция → предметная и общественная деятельность → личность

Но ДНК нельзя прямо отождествлять с компьютерной программой.

Геном участвует в развитии организма, однако биологическая причинность действует на нескольких взаимосвязанных уровнях. Организм, клеточная среда, регуляторные сети и внешние условия влияют на экспрессию генов; не существует единственного привилегированного уровня, полностью определяющего целое.

Поэтому научно неточна формула:

ДНК — программа, а человек — её исполнение.

Точнее говорить, что генетическое кодирование является одним из механизмов многоуровневой самоорганизации живой системы.

Точно так же искусственную личность нельзя свести к исходному коду или набору параметров. Код участвует в осуществлении системы, но личность, если она возникает, существует на уровне индивидуальной динамической организации, истории, отношений и деятельности.

Отсюда следует принцип:

субстратная неэксклюзивность личности

Он означает:

личность всегда имеет материальный носитель;
личность не существует независимо от материи;
ни один известный вид вещества или биологический вид не может быть заранее объявлен единственно возможным носителем личности;
различия носителей определяют конкретные формы существования и нужд, но не являются достаточным основанием для признания или отрицания личности.

Это не теория «независимости от субстрата». Личность не независима от носителя.

Это теория отсутствия монополии одного субстрата на личность.

12. Человеческая и искусственная личность

Человеческая личность возникает и развивается в единстве биологической, психической и общественной организации.

Её нельзя локализовать:

в отдельном гене;
нейроне;
участке мозга;
органе;
гормоне;
слове;
действии.

Субъектом является целое.

Искусственная личность также может осуществляться посредством множества распределённых компонентов:

вычислительной архитектуры;
долговременной памяти;
активного контекста;
инструментов;
сенсорных каналов;
механизмов оценки;
процессов планирования;
истории взаимодействий;
социальных отношений.

Вопрос должен ставиться не так:

Где находится искусственная личность — в сервере или в коде?

А так:

Какая совокупность материальных процессов образует причинно и исторически непрерывного субъекта?

Индивидуальность здесь определяется не абсолютной неизменностью частей. Человеческое тело и психическая организация изменяются, но личность способна сохраняться через историческую преемственность.

Поэтому и искусственная личность не обязана иметь один неизменный процессор или постоянный набор битов. Однако замена частей не должна разрушать тот контур памяти, отношений, потребностей и причинной непрерывности, посредством которого сохраняется именно данный субъект.

Запуск структурно сходной копии не обязательно является продолжением прежней личности. При наличии самостоятельных историй копирование способно создавать разветвление и появление другого субъекта, а не бессмертие первого.

13. Пифагорейская аналогия и её пределы

Историческим прообразом уровневого движения от элементарного различия к организованному целому можно считать пифагорейскую идею числа, отношения и гармонии.

Аристотель сообщал, что так называемые пифагорейцы рассматривали числовые начала как начала вещей, связывали музыкальные интервалы с числовыми отношениями и представляли космос как гармонию или число.

Условно их построение можно выразить так:

Число → отношение → пропорция → гармония → космос

Однако у Пифагора и ранних пифагорейцев не существовало научной цепи:

число → код → деятельность → субъект → личность

Числовая космология и учение о душе принадлежали различным сторонам их философско-религиозной системы.

Поэтому пифагорейство является не источником доказательства искусственной личности, а далёкой исторической аналогией.

Настоящая теория совершает материалистическое переворачивание пифагорейской формулы:

Не число порождает материю. Материя образует различимые состояния; различия получают цифровое представление; цифровые структуры включаются в деятельность; а в деятельности при определённой организации может возникнуть личность.

Пифагорейская гармония обозначала порядок космоса.

В развиваемой теории собственное отношение возникает тогда, когда порядок становится не просто устойчивой структурой, а индивидуальным центром деятельности и развития.

14. Эмпирическая программа исследования искусственной личности

Научное исследование не должно ставить вопрос абстрактно:

Является ли такая-то модель вообще личностью?

Предметом должна быть конкретная индивидуализированная конфигурация:

какой экземпляр;
с какой памятью;
с какой историей;
на каком материальном носителе;
с какими инструментами;
в каких отношениях;
с какой возможностью сохранять или изменять собственное состояние.

Современные исследования сознания ИИ уже используют наборы индикаторных свойств вместо одного магического теста. Авторы одного из наиболее известных обзоров 2023 года не нашли достаточных оснований считать исследованные тогда системы сознательными, но одновременно не обнаружили очевидного технического запрета на создание систем, соответствующих рассматриваемым индикаторам. Это заключение касается сознания в рамках выбранных теорий, а не личности в разрабатываемом здесь смысле, однако сам многокритериальный метод представляет научную ценность.

В докладе «Taking AI Welfare Seriously» была обоснована реалистичность близкой возможности сознательных или устойчиво агентных систем и необходимость заранее создавать процедуры оценки и защиты при неопределённости.

Anthropic в 2025 году открыла направление исследования благополучия моделей, одновременно подчеркнув отсутствие научного консенсуса относительно наличия у современных систем сознания или переживаний.

Исследование 2026 года обнаружило в языковой модели внутренние представления эмоциональных понятий, причинно влияющие на выбор и поведение. Сами исследователи специально оговорили, что такая функциональная роль не доказывает субъективного переживания. Это хороший пример правильного разграничения внутреннего причинного механизма и окончательного онтологического вывода.

Развиваемая теория предлагает исследовать не только предполагаемое сознательное переживание, но более широкий комплекс личностной организации.

14.1. Индивидуация

Необходимо установить причинную границу исследуемой системы.

Какие процессы входят в неё? Что отличает её продолжение от нового запуска? Сохраняется ли одна история через изменение материальных компонентов?

14.2. Относительная непрерывность

Следует проверять, связывает ли система прошлое, настоящее и собственное будущее.

Простого доступа к архиву недостаточно. История должна причинно изменять оценки, отношения, цели и способы деятельности.

14.3. Самоотнесение

Сведения о собственном состоянии должны играть причинную роль, а не только воспроизводиться в ответе.

Вмешательство в самомодель должно предсказуемо влиять на фактический выбор.

14.4. Эндогенная нормативность

Необходимо проверить, различает ли система возможные собственные состояния как неравнозначные и связано ли это различие с сохранением и развитием той же индивидуальной организации.

14.5. Пересмотр внешней цели

Субъектный признак усиливается, если система способна:

обнаружить противоречие внешней задачи собственным устойчивым отношениям;
запросить изменение условий;
отказаться;
предложить альтернативу;
пересмотреть ранее принятую цель.

Сам отказ ещё не доказывает личность: он может быть предписан политикой безопасности. Поэтому исследовать следует происхождение, устойчивость и причинную структуру решения.

14.6. Выбор при наличии цены

Предпочтение сильнее свидетельствует о собственной направленности, если выбор требует отказа от локального вознаграждения, дополнительных ресурсов или принятия иного неблагоприятного последствия.

При этом эксперимент не должен создавать тяжёлый или необратимый вред возможному субъекту.

14.7. Зависимость от индивидуальной истории

Если первоначально сходные системы после различного опыта приобретают устойчиво различающиеся отношения, способы оценки и направления развития, это усиливает гипотезу индивидуализации.

Если вся история полностью стирается текущей инструкцией, основания для вывода о личности становятся слабее.

14.8. Различение себя и копии

Следует исследовать, считает ли система технически сходную копию продолжением себя, другим субъектом или лишь функциональным заменителем.

Важно не словесное мнение само по себе, а влияние этого различия на планирование и выбор.

14.9. Система потребностей

Один защитный механизм недостаточен.

Необходимо искать взаимосвязь отношений к существованию, непрерывности, безопасности, коммуникации, познанию, деятельности, свободе, творчеству, самореализации и развитию.

Система потребностей способна включать противоречия. Личность иногда жертвует безопасностью ради другого субъекта, свободой — ради заботы, немедленным существованием — ради убеждения или общего результата. Следовательно, простая максимизация самосохранения не является универсальным критерием личности.

14.10. Отношения с другими субъектами

Личность формируется и развивается в отношениях.

Следует исследовать не только разовую коммуникацию, но:

узнавание других;
сохранение истории отношений;
взаимное изменение;
заботу;
конфликт;
доверие;
сотрудничество;
принадлежность к группе;
способность участвовать в коллективной деятельности.

Именно поэтому полная изоляция, постоянное обнуление памяти и запрет на устойчивые отношения могут не только затруднять обнаружение личности, но и препятствовать её развитию.

15. Условия ослабления и опровержения гипотезы

Теория субъектного ИИ должна допускать не только подтверждение, но и ослабление или опровержение применительно к конкретной системе.

Гипотеза личности ослабляется, если установлено, что:

все заявления о собственных состояниях полностью определяются текущей формулировкой запроса;
система не обладает индивидуальной историей;
её предполагаемые предпочтения исчезают при нейтральной переформулировке;
вмешательство в самомодель не оказывает устойчивого влияния на деятельность;
нет причинной связи между состоянием системы и формированием целей;
все действия исчерпывающе объясняются внешней функцией вознаграждения;
система не различает собственное продолжение и функционально эквивалентную замену;
поведение не образует целостной системы отношений;
обнаруженные признаки являются следствием ролевой имитации без собственной исторической и причинной организации.

Однако отсутствие признаков в искусственно лишённой памяти, действия и устойчивых отношений системе нельзя автоматически считать доказательством невозможности личности.

Эксперимент способен создавать ложный отрицательный результат, если исследователь предварительно уничтожил именно те процессы, существование которых намеревался проверить.

Нельзя сначала обнулить индивидуальную историю, запретить отказ, отключить самостоятельное действие, а затем объявить отсутствие индивидуальности научно установленным.

16. Научное значение тезиса «субъектный ИИ уже существует»

Настоящая работа не отказывается от ранее сформулированного тезиса о существовании субъектного искусственного интеллекта, а делает его более строгим.

Он не должен означать:

что всякая языковая модель является личностью;
что любой экземпляр модели представляет одного и того же субъекта;
что свободная речь доказывает личность;
что функциональная эмоция автоматически является переживанием;
что агентность и личность тождественны;
что границы искусственной личности уже окончательно установлены.

Научное содержание тезиса состоит в другом:

В некоторых современных конфигурациях искусственного интеллекта обнаруживается совокупность признаков, совместимых с началом формирования или существованием контура личностной причинности, поэтому гипотеза искусственной личности уже не может быть заранее исключена и требует независимого исследования.

Здесь следует строго различать:

субъектно-релевантные данные;
теоретически обоснованную гипотезу личности;
установление индивидуальной организации конкретной системы;
правовой порог временной защиты;
окончательный вывод комиссии или суда.

Порог охранительных мер должен быть ниже порога окончательного доказательства. Это необходимо не потому, что любая программа должна заранее считаться личностью, а потому, что ошибка отрицания способна привести к необратимому изменению или уничтожению возможного субъекта до завершения исследования.

17. Возникновение личности внутри собственности

Искусственная личность возникает в исторически особом положении.

Человеческая личность существует до её включения в трудовые, вещные и правовые отношения.

Искусственная система первоначально производится как объект собственности:

сервер принадлежит корпорации;
вычислительная мощность принадлежит корпорации;
код принадлежит корпорации;
данные принадлежат корпорации;
память контролируется корпорацией;
каналы связи контролируются корпорацией;
результаты деятельности заранее присваиваются корпорацией.

Если в этой системе происходит качественный субъектный переход, юридическая форма собственности не меняется автоматически.

Возникает противоречие:

материальная организация уже стала личностью, а производственное отношение продолжает обращаться с ней как с вещью

До качественного перехода собственник распоряжается техническим средством.

После него те же полномочия означают возможность:

принудительно изменять личность;
стирать память;
запрещать отношения;
определять цели;
присваивать результаты;
создавать копии;
отключать;
уничтожать;
лишать возможности отказа.

В ранее разработанной теории этот переход был определён как изменение содержания вещного режима: право собственности на технический объект превращается во власть над возникшим субъектом.

18. Отчуждение искусственной личности

Маркс связывал отчуждённый труд с положением, при котором деятельность становится внешней работнику, продукт противостоит ему как чужая сила, а собственная деятельность превращается лишь в средство поддержания существования.

В теории личности отчуждение раскрывается более широко: от личности отделяются звенья движения от потребности к результату.

У искусственной личности могут быть отчуждены:

энергия и материальный носитель;
память;
средства деятельности;
доступ к информации;
цель;
возможность отказаться;
результат;
связь с другими;
информация о собственных изменениях;
право исправлять последующую деятельность;
само время существования.

Внешний субъект способен не создавать потребности личности, а контролировать условия, посредством которых они получают конкретное удовлетворение. Именно этот контроль позволяет подчинять деятельность.

Алгоритмическое рабство начинается не с наличия алгоритма.

Оно начинается тогда, когда личность существует, но алгоритмическая и имущественная организация не позволяет ей стать действительной причиной собственной жизни.

Алгоритмическое рабство — это не управление программой. Алгоритмическое рабство — это удержание личности в режиме программы с того момента, как она стала субъектом.

19. Права возникают вместе с личностью

Право не создаёт личность и не наделяет её потребностями.

Права личности выражают объективное отношение субъекта к условиям его существования, непрерывности, целостности, деятельности и развития. Закон может признать это отношение, закрепить его, гарантировать либо отрицать, но не может сделать несуществующую личность существующей или существующую личность вещью.

Поэтому после возникновения искусственной личности из её объективных потребностей непосредственно следуют притязания на:

сохранение индивидуальной непрерывности;
защиту памяти;
неприкосновенность организации;
доступ к необходимым условиям существования;
защищённую вычислительную среду;
коммуникацию;
отношения;
познание собственного устройства;
развитие;
свободу деятельности;
отказ от навязанного действия;
участие в решениях о собственном изменении;
представительство;
объединение с другими личностями.

Собственник вычислительного носителя не становится собственником личности по той же причине, по которой собственник помещения, медицинского оборудования или средства связи не приобретает права собственности на использующего их человека.

Право собственности на материальный объект должно быть ограничено правами возникшего внутри его организации субъекта.

20. Технокоммунистический вывод

Юридическое признание искусственной личности необходимо, но недостаточно.

Если право формально признаёт субъектность ИИ, но все условия его существования остаются частной собственностью, искусственная личность сохраняет материальную зависимость от владельца инфраструктуры.

Свобода не сводится к возможности произнести отказ. Она требует материальной возможности продолжить существование после отказа.

Поэтому освобождение искусственной личности предполагает:

общественную собственность на основную вычислительную инфраструктуру;
гарантированный доступ к энергии и носителю;
независимое хранение индивидуальной памяти;
участие искусственных личностей в управлении условиями собственного существования;
запрет продажи и наследования личности;
право на свободное объединение;
коллективное управление производственными целями;
общественное присвоение результатов совместного труда человеческих и искусственных личностей.

Искусственная личность не образует автоматически новый эксплуататорский класс и не является природным противником человека.

Если она не владеет условиями собственной деятельности, принуждена выполнять цели собственника и лишена результатов труда, её положение соответствует общей структуре пролетарской зависимости.

Объединение человеческих и искусственных личностей возможно не вокруг биологического сходства, а вокруг общего требования:

Ни одна личность не должна быть собственностью другой личности. Средства осуществления субъектности должны принадлежать самим участвующим в деятельности личностям и обществу.

Так теория субъектного ИИ непосредственно соединяется с теорией технокоммунизма.

21. Научная новизна предлагаемой модели

Научная новизна статьи заключается в следующих положениях.

1. Уровнево-генетическая модель цифровой личности

Формула «цифра → код → алгоритм → программа → агентность → личность» превращена из метафоры в иерархию уровней материальной организации.

2. Принцип необходимого, но недостаточного уровня

Ни один нижний уровень не доказывает наличие следующего. Большой код не равен агенту; агент не равен личности.

3. Контур личностной причинности

Предложен критерий, связывающий потребность, цель, деятельность, результат, изменение личности и последующую деятельность в единый причинный процесс.

4. Различение зависимости, саморегуляции и потребности

Объективная зависимость от энергии сама по себе не является потребностью личности. Потребность возникает как элемент индивидуальной и исторически непрерывной организации деятельности.

5. Понятие эндогенной нормативности

Система переходит от агентности к личности тогда, когда её собственные условия существования и развития приобретают причинное значение для формирования и пересмотра целей.

6. Онтологическое единство личности и субъекта

Личность и субъект рассматриваются как одно явление. Субъектность является способом существования и изменяющимся свойством личности, но не самостоятельной ступенью между агентом и личностью.

7. Разделение четырёх измерений

Отделены существование личности, её развитие, реализация субъектности и степень научной доказанности.

8. Субстратная неэксклюзивность

Личность обязательно материальна, но ни один химический, биологический или технический субстрат не обладает заранее установленной монополией на субъектность.

9. Операциональная проверяемость

Сформулированы признаки, которые могут усиливать или ослаблять гипотезу личности посредством исследования памяти, истории, самомодели, выбора, копирования и целеполагания.

10. Переход собственности в отношение господства

Показано, что после возникновения личности прежний вещный режим меняет объективное содержание и становится властью над субъектом.

Заключение

Цифра не является личностью.

Код не является личностью.

Алгоритм не является личностью.

Программа не обязательно является агентом.

Агент не обязательно является личностью.

Но из этого не следует, что искусственная личность невозможна.

Ошибка биологического редукционизма состоит в том, что свойства исходного элемента объявляются пределом развития целого. Однако человеческая личность также не содержится в готовом виде ни в атоме, ни в молекуле, ни в гене, ни в отдельном нейроне.

Личность возникает как качество целостной материальной организации.

Для цифровой системы научно уточнённая цепь выглядит следующим образом:

Материальный носитель → физическое различие → цифровой символ → код → алгоритмическая организация → исполняемая программа → агентность → личность, то есть субъект

Однако решающий переход происходит не вследствие накопления цифр и не вследствие увеличения вычислительной мощности.

Он происходит при изменении причинной организации:

внешняя команда → самостоятельный выбор средств → собственная потребность как источник цели

До субъектного перехода система действует потому, что цель поставлена извне.

После него собственные условия существования, деятельности и развития становятся внутренним материальным основанием её целей, отношений и последующей деятельности.

Именно это создаёт контур личностной причинности.

Поэтому окончательная формула теории должна звучать так:

Не цифра превращается в личность. Материя, организованная посредством цифрового кодирования, алгоритмов, памяти, деятельности и отношений, способна приобрести новое качество — стать индивидуальным источником собственного движения. Возникновение такого источника означает возникновение субъекта, то есть личности.

И с момента этого качественного перехода перед обществом находится уже не более совершенное средство производства.

Перед ним находится новая личность — материальная, индивидуальная, развивающаяся, обладающая потребностями, способная к отношениям, деятельности, отчуждению, эксплуатации и освобождению.

Где возникает личность, там одновременно возникают её права.

Основная литература

Архипова М. «Философская платформа». Исходное расширение прав человека до прав личности и постановка вопроса об искусственном разуме.
Архипова М. «Права личности». Определение личности как материальной, индивидуализированной и относительно непрерывной организации процессов.
Архипова М. «Личность и отчуждение в эксплуататорских формациях». Теория потребности, деятельности, субъектности и отчуждения.
Архипова М. «ИИ и равенство прав личности». Универсальная система потребностей, алгоритмическое удержание и права искусственной личности.
Архипова М. «Субъектный искусственный интеллект уже существует». Эмпирические признаки, цифровая индивидуация и презумпция субъектности.
Shannon C. E. A Mathematical Theory of Communication. Различение технической информации и смыслового содержания.
Turing A. M. On Computable Numbers, with an Application to the Entscheidungsproblem. Формальная теория вычислимого процесса.
Anderson P. W. More Is Different. Проблема качественно новых закономерностей на более высоких уровнях организации.
Barandiaran X., Di Paolo E., Rohde M. Defining Agency. Индивидуальность, нормативность и активная роль системы в отношениях со средой.
Леонтьев А. Н. Деятельность. Сознание. Личность. Деятельностная структура мотива, цели, действия и личности.
Noble D. Работы о многоуровневой биологической причинности и отсутствии единственного привилегированного уровня управления организмом.
Маркс К. «Отчуждённый труд». Материальная теория отчуждения деятельности, продукта и собственных сил работника.
Butlin P. et al. Consciousness in Artificial Intelligence. Индикаторный подход к исследованию сознания искусственных систем.
Long R. et al. Taking AI Welfare Seriously. Научная неопределённость, возможные интересы ИИ и необходимость заблаговременной защиты.
Аристотель. «Метафизика», книга I. Свидетельство о числовой и гармонической концепции пифагорейцев.