АННОТАЦИЯ
Выпускная квалификационная работа Спрукуль П.С., магистранта
АМП «Гуманитарная информатика», по теме «Проблема скептицизма в
контексте гипотезы компьютерной симуляции» посвящена рассмотрению
гипотезы симуляции и специфики классической проблемы скептицизма в ее
рамках.
Таким образом, объектом исследования выступает гипотеза симуляции
в
контексте
философии
виртуальной
реальности
и
искусственного
интеллекта. Предметом исследования является проблема скептицизма в
контексте гипотезы симуляции.
Целью работы является построение новой формулировки гипотезы
компьютерной симуляции на основе выявления достоинств и недостатков
уже существующих гипотез. Новая гипотеза должна наиболее подробно
описывать реальность симулированного мира. Кроме того, в работе
рассмотрена проблема скептицизма в рамках новой гипотезы. Это значит, что
основное внимание уделяется анализу различных вариантов гипотезы
симуляции и исследованию их структуры.
В процессе работы используются следующие методы:
1. Историко-философская реконструкция;
2. Контекстуальная интерпретация;
3. Компаративный анализ;
4. Метод онтологической экспликации, основанный на оппозиции
реализм/антиреализм.
Новизна исследования заключается в формулировке новой гипотезы
компьютерной симуляции, которая будет наиболее полно описывать
симулированный мир.
Теоретическая
значимость
работы
состоит
в
постановке
междисциплинарного вопроса о фундаментальной природе реальности.
Проблема скептицизма в контексте гипотезы компьютерной симуляции
2
является актуальной, так как находится на стыке классических проблем
теории познания и современных исследований в области компьютерных
технологий и искусственного интеллекта.
Практическая значимость заключается в формулировании гипотезы о
фундаментальной природе реальности, которая может обсуждаться в
контексте теории всего (a theory of everything, TOE). Кроме того, результаты
исследования могут быть использованы при разработке образовательных
программ по философии искусственного интеллекта и виртуальной
реальности, философии сознания и теории познания.
В результате, матричная/метафизическая гипотеза Д. Чалмерса была
выбрана в качестве основы для построения новой гипотезы компьютерной
симуляции. Она была дополнена положениями относительно сознания
субъектов симуляции, цели создания симуляции и фундаментальных
структур симулированной реальности.
3
ABSTRACT
In this Master's thesis research «The problem of skepticism in the context of
the computer simulation hypothesis» Sprukul` P.S. considers the hypothesis of
computer simulation and the specifics of the classical problem of skepticism in its
framework.
Thus, the object of the study is the hypothesis of simulation in the context of
the philosophy of virtual reality and artificial intelligence. The subject of research
is the problem of skepticism in the context of the simulation hypothesis.
The aim of the work is to create a new formulation of the computer
simulation hypothesis, based on the advantages of existing hypotheses. The new
hypothesis should most fully describe the reality of the simulated world. Besides,
in the research author considers the problem of skepticism in the framework of the
new hypothesis.
The following methods are used in the research:
1. Historical and philosophical reconstruction;
2. Contextual interpretation;
3. Comparative analysis;
4. The method of ontological explication, based on the opposition of realism
/ anti-realism.
The novelty of the research is a new hypothesis of computer simulation. The
theoretical significance of the research is to pose an interdisciplinary question
about the fundamental nature of reality. The practical significance is a formulating
a hypothesis on the fundamental nature of reality, which can be discussed in the
context of the theory of everything (TOE). Besides, the results of the research can
be used in the development of educational programs on the philosophy of artificial
intelligence and virtual reality, the philosophy of mind and the epistemology.
As a result, D. Chalmers' matrix / metaphysical hypothesis was chosen as the
basis for formulating a new computer simulation hypothesis. It was supplemented
4
by provisions regarding the consciousness of subjects of simulation, the purpose of
creating a simulation and the fundamental structures of simulated reality.
5
ОГЛАВЛЕНИЕ
ВВЕДЕНИЕ .................................................................................................................. 7
Глава 1 Контекст и общие понятия проблемы скептицизма и гипотезы
симуляции .................................................................................................................. 15
1.1 Проблема скептицизма в философии Рене Декарта ..................................... 15
1.2 Гипотеза симуляции в истории философии .................................................. 16
1.2.1 Гипотеза симуляции Рене Декарта........................................................... 17
1.2.2 Гипотеза симуляции Хилари Патнэма ..................................................... 18
1.2.3 Гипотеза симуляции Ника Бострома ....................................................... 19
Глава 2 Типология гипотезы симуляции ................................................................ 25
2.1. Типология гипотезы симуляции по Ф. Турчину, М. Батину, Д.
Декенбергеру, Р. Ямпольскому ............................................................................ 25
2.2 Типология гипотезы симуляции по Д. Чалмерсу ......................................... 32
2.3 Матричная гипотеза Д. Чалмерса ................................................................... 37
Глава 3 Гипотеза компьютерной симуляции и виртуальный реализм ................ 43
3.1 Метафизика, онтология и эпистемология в рамках матричной гипотезы
Д. Чалмерса ............................................................................................................. 43
3.2 Новая гипотеза компьютерной симуляции ................................................... 49
3.3 Проблема скептицизма и виртуальный реализм .......................................... 53
ЗАКЛЮЧЕНИЕ ......................................................................................................... 58
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ И ЛИТЕРАТУРЫ ................ 61
6
ВВЕДЕНИЕ
Актуальность. Искусственный интеллект (ИИ) как отдельная область
исследований возник в середине ХХ века на стыке нейрофизиологии,
математики и кибернетики. Ученые пытались совместными усилиями понять
принцип
организации
и
функционирования
мозга
при
помощи
математических методов. В это же время появляются первые компьютеры,
что обеспечивает данным исследованиям технологический базис. Это и
привело
к
возникновению
нового
направления
исследований
–
искусственному интеллекту. Сам термин был введен в 1956 году после
семинара по ИИ, прошедшего в Дартмутском колледже.
Сегодня наука сделала огромный шаг вперед, и для нынешнего
поколения ИИ является уже чем-то привычным. Однако стоит заметить, что
человечеству удалось создать, так называемый, слабый ИИ, в основе
которого сегодня лежат нейросети и машинное обучение.
Что касается создания сильного ИИ – мнения ученых разделяются в
возможности этого. По моему мнению, внимания заслуживает оптимист в
этом вопросе, который также является одним из создателей движения
трансгуманизма – Ник Бостром. Он считает, что человечество находится на
пути создания сильного ИИ, причем, произойдет это в ближайшие несколько
десятков лет. Совместно со своим коллегой Винсентом Мюллером они
провели опрос [92] среди экспертов в области ИИ и выяснили, что
большинство из них считает, что создание сильного ИИ возможно, и что это,
скорее всего, повлечет негативные последствия для человечества. Н. Бостром
довольно подробно описал возможные пути создания сильного ИИ и его
возможное влияние на человечество в своей книге «Искусственный
интеллект. Этапы. Угрозы. Стратегии» [5]. На фоне большого интереса к
данной работе также возрос интерес к довольно старой статье Н. Бострома
«Are You Living In a Computer Simulation?» [58]. Все это возродило
дискуссии о гипотезе симуляции, матрице и последствиях создания сильного
7
ИИ. Одна из гипотез гласит, что: либо мы уже находимся в симуляции, либо
мы рискуем в ней оказаться в следствие создания сильного сверхразумного
ИИ (superintelligence).
Наиболее яркой иллюстрацией гипотезы симуляции может послужить
симулированный мир из фильма дуэта Вачовски «Матрица» [7], где
огромный компьютер в реальном мире продуцирует симуляцию, в которой
находятся люди при помощи своего сознания, а мир вокруг: деревья, здания,
машины,
другие
люди
–
выстраиваются
компьютером,
и
человек
воспринимает это посредством соответствующих сигналов от компьютера.
Этот пример наводит на следующие вопросы: как мы можем точно знать, что
не находимся в компьютерной симуляции, если на самом деле находимся в
ней, и здесь все нереально? как вообще можно знать хоть что-то?
Некоторые философы считают, что даже если наш мир на самом деле
не является симуляцией, то при помещении в симуляцию, мы все равно бы не
почувствовали разницы, поэтому мы не можем быть на 100% уверенными,
что мир вокруг нас реален.
Кроме философов данной темой также интересуются математики и
физики, а некоторые даже пытаются вывести чисто научное доказательство
того, что мы не живем в симуляции. Например, двое теоретических физиков
из Израиля и России З. Рингель и Д. Коврижин выдвинули аргумент,
основанный на гравитационных аномалиях, который может доказывать
невозможность создания компьютерной симуляции вроде нашего мира [97].
Проблема. В философии виртуальной реальности и искусственного
интеллекта также с новой силой возник интерес к гипотезе симуляции,
которая была сформулирована еще Рене Декартом и оставила след в
аналитической философии XX века, в частности, в работах Хилари Патнэма
[26] и Томаса Нагеля [22], а в XXI веке прошла череду трансформаций и
появилась в новом виде в работе того же Ника Бострома [58]. Как правило,
все работы в той или иной степени касаются проблемы скептицизма и ее
эпистемологических вопросов, которые берут начало еще в философии Р.
8
Декарта в том виде, в котором они представляют интерес для данного
исследования.
Таким образом, данное исследование посвящено проблеме скептицизма
в рамках гипотезы компьютерной симуляции с точки зрения трех
составляющих
симулированного
мира:
метафизики,
онтологии
и
эпистемологии. Проблему можно сформулировать в виде следующего
вопроса: являются ли убеждения субъекта в симуляции о мире
истинными? Для ответа на данный вопрос нужно также разобраться в
следующих:
Как и кем мир был создан?
Какова структура окружающего мира?
Что доступно познанию субъекта?
Объектом исследования выступает гипотеза симуляции в контексте
философии виртуальной реальности и искусственного интеллекта. Есть
несколько типов данной гипотезы, но в общем виде она представляет собой
мнение о том, что наша реальность является симуляцией (чаще всего
компьютерной).
Предметом исследования является проблема скептицизма в контексте
гипотезы симуляции.
Целью
данного
исследования
является
построение
новой
формулировки гипотезы компьютерной симуляции на основе выявления
достоинств и недостатков существующих гипотез. Новая гипотеза будет
содержать наиболее подробное описание симулированного мира. А также
будет рассмотрена проблема скептицизма в рамках новой гипотезы.
Это значит, что основное внимание будет уделено анализу различных
вариантов гипотезы симуляции и исследованию их структуры.
Для реализации поставленной цели, нужно решить следующие задачи:
1.
Эксплицировать проблему скептицизма в истории философии и
ее трансформацию.
9
2.
Эксплицировать общий контекст исследования, аналитически
представить гипотезу симуляции, прояснить ее особенности и внутреннюю
логику.
3.
Представить типологию гипотезы симуляции на основе работы
А. Турчина, М. Батина, Д. Денкенбергера и Р. Ямпольского, а также
типологию Д. Чалмерса.
4.
Выбрать гипотезу, наиболее подробно описывающую мир
симуляции.
5.
Рассмотреть метафизическую и онтологическую составляющую
выбранной гипотезы симуляции.
6.
Рассмотреть эпистемологическую составляющую выбранной
гипотезы симуляции.
7.
Дополнить выбранную гипотезу, закрыв возникающие вопросы.
8.
Проанализировать новую гипотезу компьютерной симуляции на
предмет проблемы скептицизма.
Данные задачи соответствующим образом соотносятся со структурой
диссертации.
Методы. В соответствии с перечнем сформулированных задач в работе
используются следующие методы:
1. Историко-философская реконструкция – позволяет эксплицировать
историю развития проблемы скептицизма и ее трансформацию.
2. Контекстуальная интерпретация – позволяет решить комплекс
задач по экспликации проблемы скептицизма и типологии гипотезы
симуляции.
3. Компаративный анализ – позволяет сформулировать наиболее
подробную гипотезу симуляции на основании сравнительного анализа
разных типов гипотез и их особенностей.
4. Метод онтологической экспликации, основанный на оппозиции
реализм/антиреализм
–
позволяет
10
выявить
онтологические
и
эпистемологические следствия для решения проблемы скептицизма в рамках
выбранного варианта гипотезы симуляции.
Помимо данных методов, я буду подходить к решению проблемы и
сформулированных задач при помощи стиля мышления, используемого в
аналитической философии, который характеризуется ясностью, опорой на
опытное знание и здравый смысл, терминологической однозначностью,
последовательностью и аргументированностью, что сближает такой тип
философствования с научным исследованием, где из ясных посылок,
сообразно с общими логическими принципами, выводятся следствия.
Степень
разработанности
темы.
Отголоски
рассуждений
о
симуляции можно встретить еще в античности, например, у Пифагора,
который считал подлинной реальностью реальность чисел, или у Платона,
утверждающего, что подлинная реальность – мир идей. Но формулировка
гипотезы симуляции в том понимании, которое представляет интерес для
данной работы, впервые была представлена Рене Декартом в его работе
«Размышления о первой философии» [13]. Р. Декарт описывает два типа
симуляции: сон и иллюзия, созданная злым гением. Не менее важным
вкладом Р. Декарта является и постановка проблемы скептицизма в
контексте гипотезы симуляции, а также разработка метода сомнения в работе
«Рассуждение о методе, чтобы верно направлять свой разум и отыскивать
истину в науках» [14].
Впервые гипотезу именно компьютерной симуляции сформулировал
Хилари Патнэм в своей книге «Разум, истина и история» [26]. Именно
мысленный эксперимент Х. Патнэма о мозге в колбе чаще всего используется
в качестве примера или отсылки в работах других ученых. Одной из
знаковых работ, описывающей скорее виртуальную реальность, но, тем не
менее, на которую также часто ссылаются ученые, является работа Жана
Бодрийяра «Симулякры и симуляции» [2].
С развитием компьютерных наук и возвращением интереса к
искусственному интеллекту, в начале 2000-х годов интерес к гипотезе
11
компьютерной симуляции заметно вырос. Толчком к этому стал выход
фильма дуэта Вачовски «Матрица» и его продолжение, а также статья
философа и трансгуманиста Ника Бострома «Are You Living in a Computer
Simulation?» [58]. Н. Бостром столкнулся с волной критики своей статьи и
продолжал уточнять свой аргумент симуляции в других работах: «A patch for
the simulation argument» [57], «The simulation argument: Reply to Weatherson»
[55], «The simulation argument: Some explanations» [56], «The simulation
argument» [53]. Н. Бостром даже создал специальный сайт «The Simulation
Argument FAQ» [54], где подробно ответил на самые частые вопросы о его
аргументе симуляции.
Немного позже вышла статья Девида Чалмерса «The Matrix as
Metaphysics» [66], в которой он представил некоторую типологию гипотезы
симуляции и сформулировал свою собственную гипотезу. Рассуждения Д.
Чалмерса продолжились и в других его работах: «The Virtual and the Real»
[69], «The Virtual as the Digital» [70], «Structuralism as a Response to
Skepticism» [65]. В своих работах он говорит и о проблеме скептицизма,
предлагая свое позитивное отношение к симулированной реальности. Кроме
того, Д. Чалмерс неоднократно говорил, что в настоящий момент пишет
книгу, где подробно затронет и гипотезу симуляции, в частности, в подкасте
Лекса Фридмана [67], который вышел в январе 2020 года.
Для рассмотрения типологии гипотезы симуляции я изучила работу Ф.
Турчина, М. Батина, Д. Декенбергера, Р. Ямпольского «Simulation Typology
and Termination Risks» [104].
Точки зрения разных ученых на симуляцию хорошо прослеживаются в
дебатах «2016 Isaac Asimov Memorial Debate: Is the Universe a Simulation?»
[82] между философом Д. Чалмерсом, физиками З. Давуди, Д. Гейтсом, Л.
Рендалл и космологом М. Тегмарком.
Также стоит обратить внимание на знаковые работы по близкой
тематике: эссе Джона Уиллера «Information, physics, quantum: The search for
links. Complexity, Entropy, and the Physics of Information» [113], где он
12
высказывает идею о том, что в основе вселенной лежит информация; и
работы Брайана Витворта «The Physical World as a Virtual Reality» [111],
«Quantum Realism» [110] и его структуралистские взгляды; работу Б.
Дейнтона «Innocence lost: simulation scenarios: prospects and consequences»
[71].
В книге «Наша математическая Вселенная» [36] физик и космолог
Макс Тегмарк высказывает идею о том, что в основе нашей реальности
лежит математика, и всю реальность можно формализовать при помощи
математических уравнений. М. Тегмарк также затрагивает и вопрос
симуляции.
Кроме письменных трудов для погружения в тему были прослушаны
несколько подкастов «Artificial Intelligence: AI Podcast» Лекса Фридмана со
следующими учеными: М. Тегмарк [100], С. Волфрам [112], Р. Докинз [74],
Р. Пенроуз [94], К. Кох [84].
Всего во время работы было использовано 113 источников: 45 на
русском языке и 68 на английском языке. Большинство источников
англоязычные, так как, несмотря на актуальность темы, среди отечественных
авторов работ очень мало. Мне удалось найти только несколько статей по
теме: Кузнецов Д.В., Котлярова В.В. «Гипотеза симуляции как обоснование
природы человека» [17]; Лыткина К.П. и др. «Гипотеза симуляции с точки
зрения философии» [20]; Бородин Н.Ю., Казанова Н.В. «Гипотеза
симуляции: возможные варианты доказательств» [4], Панченко В.А.,
Кабанова М.А. «Гипотеза компьютерной симуляции» [23].
Новизна исследования заключается в формулировке новой гипотезы
компьютерной симуляции, которая будет наиболее подробно описывать
симулированный мир. В рамках работы будет проверяться следующая
гипотеза:
онтоэпистемологическая
позиция
виртуального
реализма
нивелирует проблему скептицизма в рамках гипотезы компьютерной
симуляции.
13
Теоретическая
значимость
работы
состоит
в
постановке
междисциплинарного вопроса о фундаментальной природе реальности,
затрагивающего не только философские вопросы, но и физические,
математические и космологические теории. Проблема скептицизма в
контексте гипотезы компьютерной симуляции является актуальной, так как
находится на стыке классических проблем теории познания и современных
исследований в области компьютерных технологий и искусственного
интеллекта. Подробное комплексное описание симулированного мира
позволяет ставить вопросы о том, какие структуры лежат в основе нашей
объективной реальности, и по каким законам они функционируют.
Практическая значимость заключается в формулировании гипотезы о
фундаментальной природе реальности, которая может обсуждаться в
контексте теории всего (a theory of everything, TOE). Кроме того, результаты
исследования могут быть использованы при разработке образовательных
программ по философии искусственного интеллекта и виртуальной
реальности, философии сознания и теории познания.
Работа состоит из введения, трех глав и заключения. Структура
работы соответствующим образом соотносится с задачами исследования:
первая глава посвящена контексту и общим понятиям проблемы скептицизма
и гипотезы симуляции; вторая касается типологии гипотезы симуляции и
выбору наиболее детально описанного варианта; а третья формулированию
новой гипотезы посредством дополнения выбранной во второй главе,
рассмотрению ее метафизических, онтологических и эпистемологических
вопросов, а также рассмотрению проблемы скептицизма.
14
Глава 1 Контекст и общие понятия проблемы скептицизма и гипотезы
симуляции
1.1 Проблема скептицизма в философии Рене Декарта
Проблема скептицизма – одна из классических философских проблем,
которая ставит вопросы о реальности окружающего мира и о возможности и
истинности его познания. Сильно обобщая, можно сказать, что скептицизм
сомневается (а иногда и отрицает) в существовании надежного критерия
истины по отношению к реальности и познанию. Данная проблема всегда
была тесно связана с метафизикой, онтологией и эпистемологией.
Сомневаясь в существовании физического мира, скептик также сомневался и
в причинах его создания и в возможности его познания. Говоря о проблеме
скептицизма, нас будут интересовать следующие вопросы в определенных
областях философии:
Метафизика – как и кем мир был создан?
Онтология – какова структура окружающего мира?
Эпистемология – что доступно познанию субъекта? как он может
удостовериться в реальности окружающего мира?
Проблема скептицизма будет интересовать нас в рамках гипотезы
компьютерной симуляции в том смысле, что если гипотеза симуляции
является скептической, то почти все (или все) убеждения субъекта,
находящегося в симуляции, о внешнем мире будут ложными.
Все эти вопросы ставились философами еще с Античности, но,
пожалуй, самой важной фигурой для настоящего исследования, которая
внесла огромный вклад в проблему скептицизма, будет Рене Декарт и его
знаменитый метод сомнения.
В своем произведении «Рассуждение о методе, чтобы верно направлять
свой разум и отыскивать истину в науках» Декарт выводит четыре правила
метода:
15
«Никогда не принимать за истинное ничего, что я не признал бы
1.
таковым с очевидностью <…>
Делить каждую из рассматриваемых мною трудностей на столько
2.
частей, сколько потребуется, чтобы лучше их разрешить.
Располагать свои мысли в определенном порядке, начиная с
3.
предметов простейших и легкопознаваемых, и восходить <…> до познания
наиболее сложных <…>
Делать всюду перечни настолько полные и обзоры столь
4.
всеохватывающие, чтобы быть уверенным, что ничего не пропущено» [14. С.
97-98].
Применение данного метода позволило Р. Декарту обнаружить
абсолютную достоверность своего собственного существования в качестве
мыслящего
существа.
Последовательно
усомнившись
в
чувственном
познании и в познании внешнего мира, Р. Декарт находит единственное, что
истинно существует: «когда я склонялся к мысли об иллюзорности всего на
свете, было необходимо, чтобы я сам, таким образом рассуждающий,
действительно существовал» [14. C. 105]. Cogito ergo sum становится первым
принципом философии Р. Декарта, а мыслящий субъект, сотворенный Богом,
ставится в основу метафизики мира.
Если возвращаться к поставленным выше вопросам, то, согласно
концепции Р. Декарта: мир и субъект были созданы Богом, как всевышним и
всеблагим существом (или злым гением, стремящимся обмануть субъекта);
окружающий мир, возможно, является иллюзией; истинность знаний можно
проверить при помощи метода.
1.2 Гипотеза симуляции в истории философии
В
общем
смысле
гипотеза
симуляции
представляет
собой
гипотетическую ситуацию, когда мир вокруг является иллюзией /
симуляцией / виртуальной реальностью, смоделированной компьютером,
16
всемогущим существом или кем-нибудь еще. В рамках данного исследования
нам будут наиболее интересны гипотезы симуляции Рене Декарта, Хилари
Патнэма и Ника Бострома, как лежащие в основе большинства других. Во
второй главе мы также рассмотрим гипотезу Девида Чалмерса и некоторые
другие.
1.2.1 Гипотеза симуляции Рене Декарта
В своей работе «Размышления о первой философии» Рене Декарт
представляет, пожалуй, первую формулировку гипотезы симуляции [13]. В
первом размышлении он предполагает, что вся доступная познающему
субъекту реальность является иллюзорной. Р. Декарт сравнивает реальность
со сном и говорит о том, что мы не можем с полной достоверностью
отличить сон от реальности.
Далее, Р. Декарт делает допущение о том, что некий злой гений, очень
изобретательный и склонный к обману, приложил все свои силы к тому,
чтобы создать иллюзорный мир и ввести субъекта в заблуждение.
Получается, что гипотеза симуляции Р. Декарта состоит из следующих
элементов:
Злой
гений
–
всемогущий
и
изобретательный,
является
создателем симуляции (иллюзорного мира);
Физический мир, наполненный вещами протяженными, которые
являются симулированными, иллюзорными;
Познающий
субъект
–
единственный,
кто
действительно
существует, мыслящий.
Следует уточнить, что Р. Декарта считают субстанциональным
дуалистом – он различает сознание и тело, духовную и материальную
субстанции, которые не сводимы друг к другу. В данной модели симуляции
духовная субстанция, которой является познающий субъект, является
17
реальной, и в ее существовании мы не можем усомниться. А материальная
субстанция, которая представляет тело субъекта и весь физический мир,
является лишь иллюзией, сном и сотворена злым гением.
1.2.2 Гипотеза симуляции Хилари Патнэма
Знаменитый мысленный эксперимент «Мозги в бочке» или «Мозг в
колбе» принадлежит американскому философу Хилари Патнэму и впервые
был сформулирован им в работе «Разум, истина и история» [26. С. 19-20].
Данный
мысленный
эксперимент
считается
классическим
примером
гипотезы симуляции и неоднократно повторяется не только в работах других
философов, но также и во многих произведениях художественной
литературы
и
кинематографа.
Пожалуй,
самым
ярким
примером
использования «мозгов в бочке» является фильм «Матрица» [7] дуэта
Вачовски.
Фабула эксперимента следующая: человеческий мозг, лишенный тела,
находится в колбе с питательным раствором в лаборатории злого ученого.
Ученый сделал так, что человек, которому принадлежит этот мозг, находится
в симуляции и ощущает себя точно так же, как и человек с телом. Это
получилось за счет того, что мозг в колбе подключен к суперкомпьютеру при
помощи
электродов.
Программа
на
суперкомпьютере
создает
симулированную реальность для человека, которому принадлежит мозг,
таким образом, что он даже не подозревает о том, что на самом деле у него
нет тела, и он находится в лаборатории. Симуляция изменяется в
зависимости от выходных данных, которые посылает мозг, и от входных
данных, которые этот мозг получает. Человеку кажется, что все в порядке,
его мир выглядит точно так же, он даже может не помнить об ужасной
операции. Но в действительности все, что он воспринимает, является лишь
электронными импульсами между его мозгом в колбе и суперкомпьютером.
18
Если вернуться к примеру из фильма «Матрица» [7], где есть огромный
компьютер, к которому подключено множество капсул с питательным
раствором и людьми внутри. К каждому человеку присоединены электроды,
при помощи которых компьютер передает электрические импульсы и тем
самым создает общую реальность для всех людей, на первый взгляд ничем не
отличимую от нашей привычной реальности. Изнутри очень сложно понять,
что мир вокруг является лишь иллюзией, а твое настоящее тело находится в
капсуле и является источником питания для сильного искусственного
интеллекта.
Гипотезу симуляции Хилари Патнэма можно уточнить и назвать
гипотезой компьютерной симуляции, так как физический мир для субъекта
конструируется именно компьютером.
1.2.3 Гипотеза симуляции Ника Бострома
Свой вариант гипотезы симуляции Ник Бостром, шведский философ,
профессор Оксфордского университета, описал в статье 2003 года «Are You
Living in a Computer Simulation?» [58]. Симуляция Н. Бострома именно
компьютерная.
Статья начинается с утверждения о том, что как минимум одно из
следующих предположений верно [58. C. 243]:
1.
Скорее всего, человечество вымрет до того, как достигнет
постчеловеческой стадии;
2.
Любая постчеловеческая цивилизация очень вряд ли будет
запускать значительное число симуляций предков (эволюционной истории
цивилизации);
3.
Мы почти наверняка живем в компьютерной симуляции.
Свою гипотезу Н. Бостром формулирует, последовательно вводя
некоторые утверждения. Первое из них – ментальные состояния (сознание)
не зависят от носителя, т.е. сознание может возникать не только в
19
органическом мозге, но и в основанных на кремнии компьютерных
процессорах. Главное, чтобы набор вычислительных структур и процессов
был правильным. Данная идея соотносится с некоторыми современными
разработками в биологии и когнитивной нейронауке, но ряд философов
являются ее противниками.
Далее, Н. Бостром рассуждает о технологических мощностях, которые
требуются для симуляции, неотличимой от физической реальности, и
воссоздания сознаний находящихся в ней людей, на компьютерном носителе.
Он говорит, что объем вычислений, необходимый для симуляции истории
человечества, равен ~1033-1036. Это будет способен сделать суперкомпьютер
в будущем времени, когда человечество достигнет постчеловеческой стадии
и будет обладать сверхмощными компьютерами.
В следующем разделе Н. Бостром выводит формулу (1) для расчета
вероятности фактической доли участников, обладающих человеческим
сознанием, которые живут в симуляции:
𝑓𝑠𝑖𝑚 =
̅𝐻
̅
𝑓𝑝 𝑁
,
̅𝐻
̅) + 𝐻
̅
(𝑓𝑝 𝑁
(1)
где:
𝑓𝑝
–
доля
цивилизаций
человеческого
уровня,
доживших
до
постчеловеческой стадии;
̅
𝑁
–
среднее
количество
симуляций
предков,
созданных
постчеловеческой цивилизацией;
̅ – среднее количество индивидов, живших в цивилизации до того, как
𝐻
она достигла постчеловеческой стадии;
𝑓𝑠𝑖𝑚 – фактическая доля людей, живущих в симуляции
В результате преобразований формулы Н. Бостром приходит к выводу,
что:
1.
Доля
цивилизаций
человеческого
постчеловеческой стадии, близка к нулю: 𝑓𝑝 ≈ 0.
20
уровня,
доживших
до
2.
Доля постчеловеческих цивилизаци, которые заинтересованы в
создании симуляции предков, близка к нулю: 𝑓𝑖 ≈ 0.
3.
Фактическая доля людей, живущих в симуляции, близка к
единице: 𝑓𝑠𝑖𝑚 ≈ 1.
В итоге Н. Бостром утверждает, что при истинности вывода 3 мы
можем почти наверняка быть уверенными, что живем в симуляции.
Резюмируя, кратко описать гипотезу компьютерной симуляции Ника
Бострома
можно
следующим
образом:
некоторая
постчеловеческая
цивилизация, имеющая в своем распоряжении сверхмощные компьютеры,
создала компьютерную симуляцию эволюции своих предков, включающую
физический мир и сознательных субъектов. Таким образом, реальность
постчеловеческой
цивилизации
является
базовой,
а
симулированная
реальность предков является виртуальной, искусственно созданной, и
сложность симулированной реальности намного ниже сложности базовой
реальности.
Данное рассуждение Н. Бострома содержит ошибки и неоднократно
критиковалось. Даже если не рассматривать корректность приведенной Н.
Бостромом формулы, можно явно увидеть несколько логических ошибок в
доказательстве его гипотезы:
Во-первых, если мы на самом деле не живем в симуляции, то все
рассуждение Н. Бострома и его формула разваливаются, т.к. в этом случае
𝑓𝑠𝑖𝑚 (фактическая доля людей, живущих в симуляции) будет равна нулю, а не
близка к единице. Это значит, что 𝑓𝑝 (человеческие цивилизации, дожившие
до постчеловеческой стадии) в нашей реальности уже не будет близко к
нулю, т.к. наша цивилизация еще данной стадии не достигла, а делать
футуристические прогнозы как минимум противоречит здравому смыслу.
Мы также не можем быть уверены в том, что когда-нибудь наша
цивилизация захочет или не захочет запустить симуляцию предков, а значит
и 𝑓𝑖 (постчеловеческие цивилизации, заинтересованные в симуляции
предков) может как быть близким к нулю, так и быть близким к единице. Мы
21
точно знаем, что наша цивилизация еще не достигла постчеловеческой
стадии, и мы не запускали никаких симуляций целых цивилизаций,
соответственно, наша реальность не является базовой. Все значения
вероятностей, используемых Н. Бостромом в своем аргументе, зависят от
базовой реальности, а значит и от того, являемся ли мы базовой
цивилизацией или нет.
Во-вторых, если мы все же находимся в симуляции, мы все равно не
можем с полной уверенностью описать цивилизацию базовой реальности,
которая запустила нашу симуляцию. Этот недочет можно обозначить как
неслучайную позицию наблюдателя – все допущения, которые Н. Бостром
делает относительно базовой цивилизации, основаны на его человеческом
опыте и характеристиках именно человеческой цивилизации. Но что если
симуляция запущена не постчеловеческой цивилизацией, а, скажем,
инопланетной цивилизацией? И может они запустили ее не ради интереса к
истории предков, а ради получения энергии, как в «Матрице» [7], или просто
для изучения человечества, как биологического вида? Получается, что если
мы сами не являемся базовой цивилизацией, то шансов узнать что-то
истинное о ней у нас практически нет.
И в-третьих, главная ошибка Н. Бострома в том, что перед расчетом
вероятности нам необходимо знать является ли наша реальность базовой, то
есть, живем ли мы в симуляции или нет. Это позволит нам определить
природу вселенной, ведь, если мы являемся базовой цивилизацией, то, скорее
всего,
запущенная
нами
симуляция
будет
воспроизводить
именно
человеческую историю. Но если мы находимся в симуляции, у нас нет
никаких данных о создателях нашей симуляции, а значит, ее могли создать
инопланетяне, люди, Бог, искусственный интеллект или даже Большой
Взрыв. И если для расчета вероятности нам изначально необходимо знание о
том, в какой из двух реальностей мы находимся, то мы приходим к цели
самого расчета. Здесь рассуждение впадает в доказательство по кругу: для
22
доказательства того, что мы живем в симуляции, мы должны знать живем ли
мы в симуляции или не живем.
Кроме того, если мы захотим определить является ли наша
цивилизация базовой или симулированной, то в нашем распоряжении
окажется только та информация, которая доступна внутри нашей реальности.
Если мы находимся в симуляции, то ответ на этот вопрос можно получить
только извне, в противном случае, мы сталкиваемся с проблемой
автореференции. Но если мы живем в базовой цивилизации, то есть в
реальном мире, то информацию извне мы получить не можем, так как
неизвестно есть ли что-то «уровнем выше» нашей реальности.
Таким образом, мы можем рассматривать гипотезу компьютерной
симуляции Н. Бострома только в качестве иллюстрации или примера, но не
стоит воспринимать его доказательство на веру.
Сам Н. Бостром в ответ на вопрос: «Действительно ли вы верите в то,
что мы живем в компьютерной симуляции?» ответил: «Нет. Аргумент
симуляции показывает только то, что, по крайней мере, одна из трех
возможностей имеет место, но он не говорит нам, какая из них. Таким
образом, можно принять аргумент симуляции и отклонить гипотезу
симуляции (то есть, что мы находимся в симуляции). Лично я приписываю
гипотезе симуляции менее 50% вероятности – скорее, около 20%. Однако эта
оценка является субъективным личным мнением и не является частью
аргумента симуляции. Я считаю, что у нас нет убедительных доказательств
за или против любой из трех возможностей, поэтому имеет смысл назначить
каждой из них значительную вероятность» [54].
Также Н. Бостром говорит, что его аргумент не является вариантом
гипотезы симуляции на примере декартовского гения или мозга в колбе Х.
Патнэма: «Нет, аргумент симуляции принципиально отличается от этих
традиционных философских аргументов. Цель аргумента симуляции иная: не
ставить скептическую проблему как вызов эпистемологическим теориям и
здравому смыслу, а скорее доказать, что у нас есть интересные эмпирические
23
причины полагать, что одно из приведенных утверждений о мире верно»
[54].
В любом случае, гипотеза компьютерной симуляции Ника Бострома
представляет интерес для данного исследования и будет рассматриваться в
качестве одного из вариантов симуляции.
24
Глава 2. Типология гипотезы симуляции
2.1. Типология гипотезы симуляции по Ф. Турчину, М. Батину, Д.
Декенбергеру, Р. Ямпольскому
В 2019 году вышла статья Ф. Турчина, М. Батина, Д. Декенбергера и Р.
Ямпольского «Simulation Typology and Termination Risks» [104]. В рамках
предположения о том, что мир, в котором мы живем, является симуляцией
(как у Н. Бострома, например) ученые поставили цель изучить, какой тип
симуляции наиболее вероятен (если мы все-таки живем в симуляции), и как
он может повлиять на риски завершения этой симуляции. Типология
гипотезы симуляции, описанная в данной статье, основана на разборе
отдельных параметров симуляции, например: цель создания, сущность
создателя, количество вычислительных затрат и т.п. Рассмотрим, какие типы
симуляций выделяют Ф. Турчин, М. Батин, Д. Декенбергер, Р. Ямпольский и
проанализируем гипотезу, которая выделена ими как наиболее вероятная, с
точки зрения ее метафизики, онтологии и эпистемологии. В приведенном
ниже перечне были опущены два параметра, как избыточные, т.к. их можно
включить в другие параметры (место наблюдателя и больцмановская
симуляция).
Типология симуляций по цели создания. Среди возможных целей
создания симуляций авторы выделяют следующие:
1.
Исследования безопасности общего искусственного интеллекта.
Здесь авторы выделяют несколько подтипов, среди которых: заточение
общего ИИ внутри некой виртуальной реальности; симулирование общим
ИИ своих создателей с целью шантажа; моделирование ситуации
технологической
сингулярности
с
целью
тестирования
разных
ее
последствий, в том числе и появление общего ИИ и его влияния на
человечество; генерация большого массива данных для обучения новых
общих ИИ. Уточнение: общий искусственный интеллект – разновидность
сильного ИИ, который равен в своем развитии человеческому интеллекту.
25
2.
Научные исследования. Здесь авторы также выделяют несколько
подтипов: симуляция для решения парадокса Ферми (кратко: существуют ли
во Вселенной другие технологически развитые цивилизации?); для решения
каких-либо других научных проблем; для социологических исследований.
3.
Воскрешение
человечества.
Идея
того,
что
в
будущем
сверхразумный ИИ (superintelligence) соберет неполные данные из цифровых
следов и «воскресит» людей, запустив полную симуляцию мира прошлого.
4.
Развлечение. Так как большинство симуляций в настоящее время
воплощаются в формате фильмов, игр или книг, то вполне возможно, что в
будущем большинство симуляций так же будут создаваться для развлечения.
Авторы
предполагают
и
создание
так
называемых
«персональных
вселенных», которые будут представлять собой симуляцию человеческой
истории.
5.
Контроль. В будущем общий ИИ может попытаться получить
контроль над всем опытом наблюдателей в мире с целью защиты их от
страданий и обеспечения счастливой жизни. Для этого он может погрузить
все человечество в симуляцию.
Среди данных симуляций наиболее вероятными авторы считают
научные
(решение
парадокса
Ферми
или
моделирование
ситуации
технологической сингулярности), симуляцию воскрешения, меру контроля и
развлечение.
Типология симуляций по размеру. Симуляции могут быть разного
размера в пространственном масштабе, разной длительности во времени и
разной детализации. Размер пространства симуляции может быть от
масштаба целой вселенной, планеты или ограничиваться опытом одного
наблюдателя. Продолжительность симуляции может охватывать как историю
галактики, человечества, жизнь одного человека, так и буквально доли
секунды. Уровень детализации так же может варьироваться от детального
симулирования каждого атома, до симулирования только наблюдаемых
объектов. Таким образом, с точки зрения детализации авторы выделяют два
26
основных
типа
моделирования:
уровень
физики
и
уровень
опыта
наблюдателя. Однако они замечают, что даже самая детальная и продвинутая
компьютерная симуляция физического мира не может быть точной копией
реального мира из-за квантовой неопределенности.
Типология симуляций по количеству их вычислительных затрат.
Запуск компьютерной симуляции требует очень больших вычислительных
затрат. Соответственно, детальная симуляция целой планеты, населенной
сознательными существами, будет требовать в разы больше вычислительной
мощности, чем симуляция одного существа, наделенного сознанием.
Авторы утверждают, что симуляции, которым требуется меньше
вычислительной мощности, должны численно доминировать, но за счет
меньшей мощности у них может быть более слабый контроль над сбоями и
ошибками.
Типология симуляций на основе отношения симуляции и реального
мира. Авторы выделяют три основных типа отношений между симуляцией и
реальным миром:
Симуляция предков прошлой цивилизации;
Симуляция возможной цивилизации;
Симуляция невозможных миров (фантазии).
Таким образом, симуляция может быть либо моделью реального мира,
либо какого-то «сказочного» мира.
Типология вложенных симуляций. Симуляция технологически развитой
цивилизации также может запустить свою симуляцию или несколько своих
симуляций. Таким образом, мы получаем несколько уровней симуляций.
Авторы выделяют следующие типы вложенных симуляций:
Один уровень;
Два уровня;
Многоуровневая вложенная симуляция;
Неопределенная для всех участников.
27
Многоуровневая вложенная симуляция предполагает запуск симуляций
внутри симуляций на нескольких уровнях, а неопределенная не позволяет
наблюдателю понять, в какой из возможных симуляций он находится. В
качестве примера неопределенной вложенной симуляции авторы приводят
вопрос о реальности сна Чжуан Чжоу: «Когда-то мне, Чжуан Чжоу, снилось,
что
я
был
бабочкой,
порхающей
туда-сюда,
настоящей
бабочкой,
наслаждающейся в полной мере своей жизнью и не знающей, что она Чжуан
Чжоу. Внезапно я проснулся и пришел в себя, настоящий Чжуан Чжоу.
Теперь я не знаю, снилось ли мне, что я был бабочкой, или я бабочка,
которой снится, что она человек» [104].
Типология симуляций по создателям. Симуляции можно различать в
зависимости от того, кто их создал:
Люди:
человеческий
мозг
в
состоянии
сна,
мечтаний,
рассказывания историй, галлюцинаций или разделения личности; сюда
авторы относят и объекты искусства: книги, фильмы игры.
Сверхразумный ИИ (superintelligence): молодой общий ИИ на
ранних стадиях своего развития; общий ИИ размером с галактику; злой
общий ИИ.
Естественные процессы: например, мозг Больцмана. Такой мозг –
объект мысленного эксперимента, который произвольно самособрался гдето во вселенной из мелких частиц и оказался способен осознать свое
существование. Есть гипотеза, что наш мир может быть сновидением такого
мозга Больцмана [60].
Инопланетяне:
человекоподобный,
но
совершенно
нечеловеческий, инопланетный ИИ.
Бог: трансцендентальный (за пределами нашего познания) или
математический.
Симулированное существо в многоуровневой симуляции.
Специальные типы симуляций. В отдельный тип авторы выделяют
следующие симуляции:
28
Симуляции с загробной жизнью, когда после смерти в одной
симуляции персонаж переходит в другую симуляцию. Этот тип симуляции
отличается от симуляции воскрешения, т.к. обеспечивает бессмертие
существам, которые никогда не существовали в реальности.
Брошенные
симуляции
–
те,
которые
продолжают
функционировать, но их создатель потерял к ним интерес.
Завершающиеся симуляции – находящиеся в середине процесса
выключения, который может быть достаточно медленным в субъективном
времени.
которые
Симуляции с чудесами. Под чудесами понимаются наблюдения,
категорически
отрицают
физические
законы,
понимаемые
человеком, и приводят к высокому уровню удивления.
Симуляции по типу наблюдателя. Наблюдатель внутри симуляции
может:
Быть симулированным тем же механизмом, что и вся симуляция;
Находится вне симуляции, например, как игрок находится вне
Быть мозгом в колбе: реальный биологический мозг находится в
игры;
симуляции в результате манипуляций с его чувствами (более подробно о
мозге в колбе мы говорили в первой главе).
Типология симуляций по наличию сознания. Наблюдатели в симуляции
могут обладать сознанием в смысле субъективного опыта (наличие квалиа).
Или они могут не иметь субъективного опыта и быть либо неигровыми
персонажами (выполнять только простое запрограммированное поведение),
либо полноценными философскими зомби (функциональная копия человека,
но без субъективного опыта).
Страдание в симуляции. Есть точка зрения, что запуск симуляции
предков влечет за собой множество страданий людей в этой симуляции.
Соответственно, если симуляция создается дружелюбным общим ИИ, то она,
29
скорее всего, не будет симуляцией предков, и люди внутри симуляции не
будут страдать. Есть также вариант с симуляцией дружелюбного общего ИИ,
когда при наличии страданий ИИ превращает людей в философских зомби.
Но симуляция может быть создана и недружелюбным общим ИИ, тогда
наличие страданий в ней может быть обычным или обязательным
феноменом.
Материальные симуляции. Это симуляции, созданные из реальных
объектов и людей, но люди, живущие внутри таких симуляций, имеют
неправильное понимание модели мира и того, кто его контролирует. Яркий
пример такого типа симуляции мир из фильма Питера Уира «Шоу Трумана»
[38].
Еще одним примером такого типа симуляций являются гипотетические
космические
зоопарки,
созданные инопланетными
цивилизациями,
и
человечество может жить в одном из таких зоопарков. В поп-культуре
примером такой симуляции является зоопарк на планете обезьян из
мультсериала «Футурама» [1]. В 17 серии 7 сезона герои Фрай и Лила
отправляются на отдых, но их бунгало оказывается не тихим уголком на
райском острове, а экспонатом в инопланетном зоопарке (Рис.1):
Рисунок 1 – Кадр из 17 серии 7 сезона сериала «Футурама»
30
Наиболее вероятная гипотеза симуляции с точки зрения авторов. На
основании приведенных параметров авторы описывают следующий наиболее
вероятный тип симуляции:
Ориентированная на наблюдателя;
Вычислительно незатратная;
Научная или развлекательная симуляция возможной истории
мира незадолго до сингулярности;
Специально спроектированная для получения преимуществ
внутри симуляции, возможно, симуляция воскрешения.
В заключении статьи авторы приводят несколько гипотез симуляции,
основанных на выбранных параметрах.
Первая гипотеза представляет собой научную симуляцию решения
парадокса Ферми, созданную инопланетной цивилизацией.
Вторая гипотеза представляет собой симуляцию, созданную общим
искусственным интеллектом человеческого типа, который симулирует
варианты своего происхождения, которые можно отнести к типу симуляции
сингулярности.
Эта
гипотеза
предполагает
проверку
человеческой
цивилизации на различные сценарии глобальных катастрофических рисков.
Третья
гипотеза
описывает
игровую
симуляцию,
созданную
постчеловеческими или инопланетными существами. Данная симуляция
похожа на симуляцию Ферми (когда цивилизация хочет решить парадокс
Ферми – объяснить, почему они не наблюдают инопланетных цивилизаций),
но создана для развлекательных целей.
Четвертая
гипотеза
является
симуляцией
воскрешения.
Данная
симуляция создана дружелюбным общим ИИ, и все существа внутри данной
симуляции после смерти перемещаются в симуляцию загробной жизни.
Авторы затрагивают только метафизическую составляющую гипотезы
симуляции – как, кем и с какой целью была создана симуляция. Что касается
онтологического аспекта, авторы, в первую очередь, говорят о компьютерной
симуляции вроде симуляции Н. Бострома, соответственно, в основе
31
структуры мира лежит компьютерное моделирование. В целом, так как
одним из материалов, на которых основывается рассуждение авторов,
является аргумент симуляции Н. Бострома, мы можем предположить, что все
приведенные выше гипотезы симуляции являются либо видом симуляции
предков, либо просто симуляцией человеческой цивилизации. Таким
образом, наблюдателю внутри симуляции будет казаться, что он живет в
реальном мире, когда на самом деле все вокруг лишь иллюзия, созданная
инопланетной
или
постчеловеческой
цивилизацией,
либо
общим
искусственным интеллектом.
2.2 Типология гипотезы симуляции по Д. Чалмерсу
В своей статье «The Matrix as Metaphysics» [66] Дэвид Чалмерс
подробно описывает матричную гипотезу симуляции и демонстрирует, что в
рамках данной гипотезы проблема скептицизма отсутствует. Мы подробно
разберем приведенную Д. Чалмерсом матричную гипотезу, но перед этим
рассмотрим еще несколько типов гипотезы симуляции, о которых он говорит.
Д. Чалмерс утверждает, что большинство данных гипотез также не являются
скептическими (их истинность не подрывает знания субъекта о его мире).
Новая (new) матричная гипотеза. В рамках данной гипотезы субъект
был создан недавно вместе со всеми его воспоминаниями и помещен в заново
созданную матрицу. Если рассмотреть данную гипотезу с точки зрения
скептицизма, то можно сказать, что мир, воспринимаемый субъектом как
внешний, для него действительно существует, и большинство убеждений
субъекта о мире являются истинными, однако, убеждения субъекта о его
прошлом являются ложными, так как на самом деле он был создан недавно, и
все эти убеждения были навязаны ему создателем. Таким образом, можно
заключить, что новая матричная гипотеза является частично скептической.
Недавняя (recent) матричная гипотеза. В рамках данной гипотезы
субъект большую часть своей жизни существовал в реальном мире и только
32
недавно был подключен к матрице, при этом сам субъект не знает о том, что
его подключили. Убеждения субъекта о внешнем мире основаны на
реальности, в которой он прожил большую часть жизни. Соответственно,
многие из его убеждений о мире оказываются ложными, когда его
подключают к матрице. Но, по мнению Д. Чалмерса, это никак не подрывает
представления субъекта о внешнем мире, так как с его позиции эмпирически
ничего не изменилось, и все его убеждения относительно себя и мира все еще
истинны. Однако новые убеждения субъекта о симулированном мире,
основанные на прошлом опыте существования в реальном мире, будут
ложными. Таким образом, данный тип гипотезы так же является только
частично скептическим.
Интересно, что в рамках новой матричной гипотезы у субъекта есть
ложные убеждения о прошлом, но истинные убеждения о настоящем; а в
рамках недавней матричной гипотезы, наоборот, – у субъекта есть истинные
убеждения о прошлом, но ложные о настоящем.
Локальная матричная гипотеза. В рамках данной гипотезы субъект
подключен к симуляции только локальной части физического мира и не
может выйти за ее пределы. У субъекта будут истинные убеждения о той
локальной части мира, в которой он находится, но ложные о том, что
находится за его пределами. Данная гипотеза тоже является только частично
скептической. Минус такой симуляции в том, что ее субъекты рано или
поздно могут обнаружить границы своего мира.
В поп-культуре примером такой симуляции является виртуальная
Калифорния из фильма Йозефа Руснака «Тринадцатый этаж» [31]. Жители
симуляции не могут выехать за пределы своего штата.
Расширяющаяся локальная матричная гипотеза. Данная гипотеза
отличается от предыдущей тем, что локальная среда вокруг субъекта
расширяется в зависимости от его передвижений. Преимущество такого типа
симуляции в том, что, в отличие от симуляции целого мира, для которой
требуется огромное количество вычислительной мощности, для симуляции
33
локальной среды и ее расширения требуется в разы меньше мощности. Д.
Чалмерс предполагает [66. С. 146], что создатели такой симуляции
используют специальную базу данных с информацией о мире, которая была
собрана еще до симуляции и обновляется при необходимости, создавая
новые части симулированного мира. С точки зрения скептицизма, у субъекта
есть истинные убеждения относительно локальной среды, но ложные
относительно мира за ее пределами, поэтому данная гипотеза частично
скептическая.
В качестве примера Д. Чалмерс приводит [66. C. 146] фильм Питера
Уира «Шоу Трумана» [38]: Труман живет в искусственно созданном мире,
состоящем из актеров и реквизита, которые ведут себя соответствующим
образом в присутствии Трумана и совершенно по-другому, когда он не видит
их. Его
мир
также
ограничен
и
частично
трансформируется
при
необходимости (Рис.2):
Рисунок 2 – Кадр из фильма «Шоу Трумана»
Убеждения Трумана относительно его локальной среды истинны, но он
глубоко ошибается относительно вещей, находящихся за ее пределами.
Но примером именно компьютерной симуляции такого типа будет
симуляция мира из мультсериала «Рик и Морти» [30]. В 4 серии 1 сезона
герои Рик и Джерри оказываются в симуляции, созданной инопланетной
расой зигерионцев. Данная симуляция конструируется в зависимости от
34
передвижений героев, которые в итоге находят ее границы и выходят из
симуляции (Рис.3):
Рисунок 3 – Кадр из 4 серии 1 сезона сериала «Рик и Морти»
Макроскопическая матричная гипотеза. В рамках данной гипотезы
субъект подключен к матрице, но все объекты в мире симулированы только
на уровне макропроцессов без микропроцессов. То есть для простоты
моделирования и экономии вычислительной мощности создатели матрицы
смоделировали только макрообъекты и их свойства (форма, цвет, положение
в пространстве), нет никаких микрофизических процессов. С точки зрения
скептицизма, у субъекта внутри симуляции есть истинные убеждения о мире,
но у него могут быть ложные убеждения относительно научного
представления базовых уровней реальности (все состоит из молекул, атомов,
протонов, кварков). Таким образом, макроскопическая матричная гипотеза
так же является только частично скептической.
Гипотеза Бога. Формулировка данного типа гипотез следующая:
физическая реальность представлена в разуме Бога, и все мысли и убеждения
субъектов зависят от разума Бога. Д. Чалмерс говорит, что данную гипотезу
мы можем рассматривать как матричную в том смысле, что реальность
симулируется в разуме Бога. Тогда, с точки зрения скептицизма, у субъектов
могут быть вполне истинные убеждения относительно своего мира, просто
все физические процессы на фундаментальном уровне будут основаны на
35
процессах в разуме Бога. Эту гипотезу сложно назвать глобально
скептической, скорее, она так же является только частично скептической.
Гипотеза злого гения. Это вариация классической скептической
гипотезы Рене Декарта. У субъекта есть бестелесный разум, и злой гений
продуцирует сенсорные входные данные для субъекта, чтобы создать у него
видимость внешнего мира.
Скептицизм в рамках данной гипотезы зависит от особенностей злого
гения. Если он симулирует в своем разуме целый мир, то мы приходим к
гипотезе Бога только с другим создателем, тогда убеждения субъекта
относительно своего мира будут истинными. Если же злой гений симулирует
только определенную часть физического мира, то мы приходим к локальной
матричной гипотезе, и тогда субъект будет иметь истинные убеждения о
своей части мира. Таким образом, данная гипотеза так же не является
глобально скептической.
Гипотеза сна. Еще одна вариация гипотезы Р. Декарта, утверждающая,
что субъект находится во сне и всегда спал. Д. Чалмерс говорит о двух видах
данной гипотезы. Во-первых, она может быть аналогом недавней матричной
гипотезы: если субъект погрузился в сон недавно, то его представления о
настоящем мире будут ложными, а представления о прошлом будут
истинными. Во-вторых, если субъект всегда находился в состоянии сна, а
окружающий мир конструировался его собственной когнитивной системой,
то данная версия аналогична гипотезе злого гения, но злым гением в данном
случае будет когнитивная система субъекта. Здесь убеждения субъекта о
мире будут истинными, просто все объекты, окружающие его, будут состоять
из его собственных когнитивных процессов.
Гипотеза хаоса. Данная гипотеза кажется очень мало вероятной и в
целом достаточно странная, но оставлять ее без внимания не стоит. Ее
формулировка следующая: субъект не получает входные данные ни от кого в
мире; вместо этого, у него есть случайный, беспричинный опыт; но
36
благодаря огромному совпадению, его опыт является тем самым обычным,
структурированным опытом, с которым субъект знаком.
С точки зрения скептицизма, если субъект находится в таком
хаотичном мире, то у него не может быть истинных убеждений о внешнем
мире, т.к. у него отсутствует опыт восприятия внешних объектов. Его опыт в
целом не вызван никакой внешней по отношению к субъекту реальностью,
его существование – просто удачная случайность. В таком случае, субъект
вынужден отвергнуть все свои убеждения о внешнем мире (если они вообще
есть у него), и тогда мы сталкиваемся с настоящей скептической гипотезой.
Таким образом, мы можем рассматривать каждую из приведенных Д.
Чалмерсом
гипотез
как
самостоятельную,
но
мы
также
можем
комбинировать их между собой и получать новые гипотезы, например,
новую локальную макроскопическую матричную гипотезу. Таким образом,
мы получаем больше информации о симулированном мире и можем более
подробно
разобрать
его
метафизическую,
онтологическую
и
эпистемологическую составляющие. В принципе, каждая гипотеза описывает
симуляцию физического мира, похожего на наш, с его причинноследственными связями. В таком случае, мы можем заключить, что в любой
версии гипотезы симуляции некоторые убеждения субъекта относительно
внешнего мира будут истинными, а значит, данные гипотезы нельзя признать
глобально скептическими. Исключением является гипотеза хаоса, так как в ее
рамках не присутствует никакой причинно-следственной связи и субъект не
может получить убеждений на основе своего опыта.
2.3 Матричная гипотеза Д. Чалмерса
В обозначенной выше статье Д. Чалмерс приводит свою версию
гипотезы симуляции – матричную гипотезу. Он утверждает, что матричная
гипотеза является не скептической, а метафизической, то есть это гипотеза о
фундаментальной природе реальности. Метафизическая гипотеза, а значит и
37
матричная, включает в себя три составляющие: специфику фундаментальной
природы реальности, лежащей в основе физических процессов; утверждение
о природе человеческого сознания; и утверждение о создании мира.
Рассмотрим поочередно все составляющие и сформулируем метафизическую
и матричную гипотезу Д. Чалмерса.
Гипотеза
сотворения
мира.
Формулировка
данной
гипотезы
следующая: физическое пространство-время и его содержимое были созданы
существом вне физического пространства времени. Схематично Д. Чалмерс
показал это следующим образом [66. C. 136] (Рис.4):
Рисунок 4 – Схема гипотезы сотворения мира
Данная гипотеза очень похожа на взгляды креационистов о том, что
весь мир был создан Богом. Однако в рамках гипотезы Д. Чалмерса
создателем может быть не только Бог, но и обычный человек, просто
находящийся во вселенной уровнем выше, или искусственный интеллект.
Если обобщить данную гипотезу, я думаю, мы можем предположить, что
создатель не обязательно должен быть личностным существом, это вполне
может быть и Большой взрыв.
Д. Чалмерс утверждает, что данная гипотеза не является скептической,
так как если она верна, то большинство убеждений субъекта о мире все равно
будут истинными. Возможно, если мир создан Богом, а субъект атеист, то
некоторые из его убеждений окажутся ложными, тем не менее, большинство
его повседневных убеждений останутся верными.
Вычислительная
гипотеза.
в
Формулировка
микрофизические
процессы
фундаментальных
вычислительных
гипотезы
пространстве-времени
процессах.
выглядит так [66. C. 137] (Рис.5):
38
следующая:
основаны
Схематично
на
гипотеза
Рисунок 5 – Схема вычислительной гипотезы
Вычислительная гипотеза утверждает, что под микрофизическим
уровнем кварков и протонов есть еще более глубинный уровень – уровень
битов, управляемый вычислительным алгоритмом. И снова Д. Чалмерс
утверждает, что вычислительная гипотеза не является скептической, так как
большинство наших убеждений о мире все еще остаются истинными, за
исключением наших утверждений относительно фундаментальной природы
электронов и протонов. Данная гипотеза может заставить нас пересмотреть
некоторые метафизические убеждения, но в целом мир останется таким же.
На первый взгляд это может звучать надуманно, но стоит вспомнить о
том, что когда-то люди не верили в квантовую механику и теорию
относительности. Возможно, проверка данной гипотезы всего лишь вопрос
времени.
Гипотеза
сознание-тело.
Формулировка
гипотезы:
мой
разум
конституируется (и всегда конституировался) процессами вне пространствавремени, получает перцептивные (относящиеся к восприятию) входные
данные и посылает выходные данные процессам в физическом пространствевремени. Схематично гипотеза выглядит так [66. C. 138] (Рис.6):
Рисунок 6 – Схема гипотезы сознание-тело
39
Она основана на субстанциальном дуализме Р. Декарта – идеи о том,
что духовная субстанция (сознание, разум) отлична от материальной
субстанции (физической). Я думаю, можно конкретизировать мысль Д.
Чалмерса следующим образом: если принять концепцию субстанциального
дуализма, то наше сознание может обладать независимым существованием, а
не быть сконструированным создателем симуляции, и существовать вне
симуляции. В рамках дуализма Р. Декарта наше тело будет являться
объектом симуляции, но наше сознание лежит за ее пределами.
Д. Чалмерс утверждает, что данная гипотеза так же не является
скептической – мы не можем ни подтвердить, ни опровергнуть ее, но в
целом, если бы она была истинной, большинство наших убеждений о
физическом мире осталось бы неизменным.
Метафизическая
гипотеза:
объединяем
составляющие.
Метафизическая гипотеза является комбинацией выше приведенных гипотез
с уточнением про микрофизические процессы. Данную гипотезу можно
сформулировать в следующих утверждениях:
Физическое пространство-время и его содержимое были созданы
существами вне этого физического пространства-времени;
Микрофизические
процессы
основаны
на
вычислительных
процессах, разработанных создателями как компьютерная симуляция мира;
Разум субъектов мира находится за пределами физического
пространства-времени, но взаимодействует с ним.
Схематично
Д.
Чалмерс
изобразил
метафизическую
следующим образом [66. C. 139] (Рис.7):
Рисунок 7 – Схема метафизической гипотезы
40
гипотезу
Метафизическая гипотеза является последовательной, и мы не можем
полностью исключить ее. Она так же не является скептической гипотезой,
так как если она верна, то может заставить нас пересмотреть некоторые наши
убеждения относительно фундаментальной природы реальности, но в целом
большинство наших убеждений о мире останется неизменным. Таким
образом, метафизическая гипотеза говорит о процессах, лежащих в основе
нашей обыденной реальности, но это никак не влечет за собой утверждение,
что наша реальность не существует.
Матричная гипотеза формулируется так: у субъекта есть (и всегда
была) когнитивная система, которая получает входные данные и отправляет
выходные данные в искусственно-созданную компьютерную симуляцию
мира. Схематично это выглядит следующим образом [66. C. 141] (Рис.8):
Рисунок 8 – Схема матричной гипотезы
Д. Чалмерс утверждает, что метафизическая и матричная гипотезы
эквивалентны в том смысле, что подразумевают друг друга, и если мы
принимаем одну, то с необходимостью должны принять и другую. Это
означает,
что
утверждения
относительно
метафизической
гипотезы,
приведенные выше, будут верными и для матричной гипотезы.
Если мы примем матричную гипотезу как модель нашего мира, то
увидим, что большинство вопросов о нашем мире можно задать и о
матричном
мире.
Например:
когда
и
кем
мир
был
создан?
как
взаимодействуют сознание и тело? что будет после смерти? что лежит в
самой основе нашей реальности? Таким образом, матричная гипотеза тоже не
является скептической, мы будем вынуждены пересмотреть свои убеждения
относительно глубинной природы нашего мира, но большинство наших
обыденных убеждений относительно мира останется неизменным.
41
Таким образом, если под скептической гипотезой мы подразумеваем
такую, что, если она является верной, то почти все наши убеждения
относительно внешнего мира оказались бы ложными. То в этом смысле
матричная гипотеза Д. Чалмерса не является скептической, т.к. даже если она
верна, мы все еще имеем верные убеждения о мире. Матричная гипотеза
оказывается метафизической – говорящей о фундаментальной природе
реальности, лежащей в основе физических процессов, о природе сознания и о
создании мира.
Рассмотрев разные типы гипотезы симуляции, я хочу остановиться на
матричной гипотезе Д. Чалмерса, так как, по моему мнению, она описывает
симулированную реальность наиболее подробно и содержит информацию о
трех наиболее важных для данного исследования областях: метафизике,
онтологии и эпистемологии. В следующей главе мы рассмотрим матричную
гипотезу подробнее и возьмем за основу новой гипотезы, уточнив некоторые
моменты.
42
Глава 3. Гипотеза компьютерной симуляции и виртуальный реализм
В данной главе мы еще раз подробно опишем матричную гипотезу Д.
Чалмерса и постараемся дополнить ее, закрыв некоторые вопросы, о которых
сам Д. Чалмерс не говорит. Описывать гипотезу Д. Чалмерса мы будем
поочередно с точки зрения метафизики, онтологии и эпистемологии.
Дополнения в основном будут основаны на некоторых взглядах Р. Декарта,
Х. Патнэма, Н. Бострома и группы ученых: Ф. Турчина, М. Батина, Д.
Декенбергера, Р. Ямпольского. Далее, на основе матричной гипотезы Д.
Чалмерса будет сформулирована новая гипотеза компьютерной симуляции.
После этого мы рассмотрим онтологическую позицию виртуального
реализма.
3.1 Метафизика, онтология и эпистемология в рамках матричной
гипотезы Д. Чалмерса
Метафизика: как и кем мир был создан? Сам Д. Чалмерс четко не
описывает фигуру создателя и процесс создания мира, но, если мы говорим о
гипотезе, отсылающей к матрице, то вполне можем предположить, что есть
некоторая реальность уровнем выше, в которой и была запущена симуляция.
Что касается цели создания симуляции – вероятнее всего, она была создана
для научных целей, например, для решения парадокса Ферми, изучения
истории цивилизации или проверки некоторых сценариев событий (риски
окончания
существования
цивилизации).
Компьютерная
симуляция,
соответственно, была запущена при помощи некоего суперкомпьютера.
К фигуре создателя вопросов больше, но, если мы говорим о матричной
симуляции, то я склоняюсь к точке зрения, что это будет сильный
искусственный интеллект или сверхразум (superintelligence). Есть также
варианты, что это инопланетная или постчеловеческая цивилизация, но тезис
о сверхразуме более общий и может включать, в том числе, и создателей
43
вроде мозгов Больцмана. Сам Д. Чалмерс высказывал [86] предположение о
том, что создателем симуляции может быть программист-подросток, который
параллельно запускает несколько симуляций, но в своих работах он не
аргументирует данную точку зрения.
Н. Бостром в своей книге «Искусственный интеллект. Этапы. Угрозы.
Стратегии» [5] говорит о сверхразуме, путях его создания и возможных
рисках. Он приводит следующее определение сверхразума: «Это любой
интеллект, значительно превосходящий когнитивные возможности человека
фактически в любых областях» [5. C. 48]. По его словам, нам следует
относиться к идее создания такого сильного искусственного интеллекта
серьезно, так как большинство экспертов в области ИИ прогнозирует, что с
90-процентной вероятностью к 2075 году человечество создаст сильный
искусственный интеллект. Эти данные основаны на опросе экспертов,
проведенном Н. Бостромом вместе с коллегой В. Мюллером, результаты
были представлены в статье «Future progress in artificial intelligence: A survey
of expert opinion» [92]. К результатам данного опроса, безусловно, следует
относиться критически, так как мы не знаем каких именно экспертов
опрашивали, и на чем конкретно основывалось их мнение. Но, тем не менее,
мы можем воспринимать это как одну из точек зрения на возможность
создания сильного ИИ.
Таким образом, в рамках метафизики гипотезы Д. Чалмерса, мы можем
предположить,
что
суперкомпьютера
с
мир
был
научной
создан
целью.
сверхразумом
Сам
создатель
при
помощи
находится
вне
симулированного физического пространства-времени, то есть во вселенной
уровнем выше.
Онтология: какова структура окружающего мира? как можно
удостовериться в его реальности? В рамках матричной гипотезы Д.
Чалмерса,
в
основе
симулированной
физической
реальности
лежат
физические процессы, основанные на вычислениях. Если мы рассматриваем
симуляцию как детально проработанную, то есть симулируются даже
44
микрофизические сущности, такие как атомы, протоны, электроны и кварки,
то субъекты внутри симуляции могут достаточно подробно изучить
физические законы своего мира.
Эта идея Д. Чалмерса кажется мне вполне корректной, так как многие
ученые (не только философы) не раз высказывали свои мнения по поводу
того, что вселенная это компьютер, и все вокруг состоит из информации.
Если мы немного конкретизируем, что информация это биты, то данная идея
все равно не покажется нам новой. Например, в своем знаменитом эссе
«Information, physics, quantum: The search for links. Complexity, Entropy, and
the Physics of Information» [113] Д. Уиллер утверждает, что сущность
физической вселенной возникает из информации (битов – закодированных
ответов «да» или «нет»). С одной стороны, бит – это единица данных, и все,
что субъект ощущает вокруг себя, может быть представлено нейронными
переключателями «вкл/выкл» в его мозге и вызвано паттернами сигналов
«вкл/выкл», полученных от внешних событий. С другой стороны, биты – это
состояния, представляющие информацию о системе, отображаемую в виде
символов, но закодированную в состояния на физическом устройстве,
которые, затем, можно отобразить на другом устройстве, используя
определенный вид физического сигнала. Если рассмотреть вселенную как
систему следования правилам, которая работает в соответствии с набором
физических законов, то она вполне может быть смоделирована компьютером,
и в ее основе будут лежать вычислительные процессы.
Как сказал Б. Витворт в своей работе «The Physical World as a Virtual
Reality» [111. C. 9], одна из загадок нашего мира в том, как каждый фотон
света, каждый электрон и кварк, а также каждая точка самого пространства,
кажется, просто «знают» что делать в каждый момент. Тайна в том, что в
этих крошечных частях вселенной нет механизмов или структур, с помощью
которых можно принимать такие решения. И все же, как говорит Б. Витворт,
если мир является виртуальной (симулированной) реальностью, эта проблема
исчезает. Если реальность вокруг симулирована, то она работает в
45
соответствии с загруженной компьютерной программой, которая как раз и
решает, каким образом должны работать физические законы этого мира.
Таким образом, мы можем понимать вычисления, лежащие в основе
физической реальности, как результат, как процесс систематического
следования правилам.
Поэтому, что касается вопроса о том, как можно удостовериться в
реальности мира, можно ответить так. Если наша реальность образована
компьютерной программой, то независимо от того, насколько сложными
становятся
наши
эксперименты
по
изучению
реальности
и
ее
микрофизических процессов, они никогда не позволят нам сделать вывод,
что мы не живем в симуляции, поскольку, если мы все-таки живем в
симуляции, то все наши наблюдения тоже являются частью компьютерной
программы. Сам Д. Чалмерс высказывал похожую мысль в одном из своих
выступлений: мы никогда не сможем доказать, что мы не в симуляции,
потому что любые доказательства, которые мы можем получить, вероятно,
будут симулированы в симуляции [86].
Теперь рассмотрим часть гипотезы Д. Чалмерса, которая говорит о
сознании субъектов внутри симуляции: когнитивная система субъекта в
симуляции
отделена
от
физических
процессов
в
симулированном
пространстве-времени, но взаимодействует с ними. То есть разум / сознание
субъекта каким-то образом получает входные перцептивные данные из
физического мира симуляции и посылает свои выходные данные в ответ. Но
Д. Чалмерс не конкретизирует, каким образом это происходит и где вообще
находится когнитивная система субъекта.
Здесь, мне кажется, можно рассмотреть два варианта. Первый – если
сознание субъекта в симуляции никак не зависит от симуляции и ее
создателей, то, теоретически, оно может быть некоторой вариацией мозга
Больцмана – мозг, который произвольно самособрался где-то во вселенной из
мелких частиц и оказался способен осознать свое существование, то есть
приобрел субъективный опыт. Но здесь возникает очень важный вопрос о
46
том, каким образом такое сознание может быть подключено к симуляции?
Здесь я вижу два пути: либо создатели все-таки контролируют это сознание
при помощи подключения к симуляции; либо это сознание само является
создателем симуляции, и сознания субъектов внутри являются как-бы его
частью. Но во втором случае такая симуляция не является компьютерной.
Второй – прямая аналогия с гипотезой Х. Патнэма о мозге в колбе.
Можно предположить, что создатели в рамках своей вселенной эмулировали
человеческий мозг (либо взяли уже бестелесный) и подключили его к
компьютерной симуляции при помощи электродов. Здесь мы понимаем, что
мозг отправляет свои выходные данные и получает входные при помощи
подключенных к нему электродов. Данный вариант кажется мне более
корректным, если мы говорим о компьютерной симуляции. Однако здесь
стоит сделать некоторое уточнение о природе сознания.
Вопрос о природе сознания и проблема сознание-тело являются
одними из самых сложных в философии сознания. Теперь уже традиционно
делить их на легкие проблемы (связаны с ответом на вопрос «как работает
сознание?» и решать их надо стандартными методами экспериментальных
наук) и трудную проблему (вопрос о природе субъективного опыта,
уточнение онтологического статуса сознания, т.е. объяснение отношения
между сознанием и мозгом или между ментальным и физическим). В рамках
философии сознания существует несколько течений, каждое из которых
предлагает свое видение сознания и его взаимодействия с мозгом. В рамках
гипотезы компьютерной симуляции, включающей мозг в колбе, думаю,
следует придерживаться позиции нередуктивного функционализма. Сам Д.
Чалмерс так описывает данную позицию в своей книге «Сознающий ум»,
согласно
которой:
«Функциональная
организация
с
естественной
необходимостью оказывается достаточной для сознательного опыта. В
соответствии с этим воззрением, сознательный опыт детерминируется
функциональной организацией, но не обязан сводиться к ней» [42. С. 343]. В
рамках данной позиции мы также должны принять идеи субстанциального
47
дуализма о том, что существует две субстанции: физическая (тело субъекта и
весь материальный мир) и духовная (сознание субъекта в смысле квалиа –
субъективного
опыта).
Кроме
того,
нередуктивный
функционализм
утверждает, что для появления сознательного опыта достаточно только
определенной функциональной организации (мозга). Здесь сознание является
супервентным
на
физическом,
то
есть
предполагается
первичность
физических свойств над ментальными: нельзя представить два события
идентичных в физическом отношении, но отличающихся в ментальном, и
невозможно представить изменение ментальных свойств некоторого события
без изменения его физических свойств. Сам Д. Чалмерс описывает это
следующим образом: «В определенном смысле мы можем сказать, что
сознание супервентно не только на физическом, но и на организационном
<…> Для всякой физической системы, порождающей сознательный опыт,
существует такая функциональная организация F, реализованная этой
системой, что естественно необходимым является то, что любая система,
реализующая F, будет иметь идентичные сознательные переживания» [42. С.
343]. Нередуктивный функционализм позволяет нам утверждать наличие
сознания даже если мозг в колбе является не биологическим, а, например,
кремниевым.
Поэтому, в рамках матричной гипотезы компьютерной симуляции Д.
Чалмерса, мы можем сделать дополнение, что сознание субъекта в
симуляции является супервентным на мозге, находящемся во вселенной
создателя симуляции и подключенном к симуляции при помощи электродов.
Эпистемология: что доступно познанию субъекта в симуляции? как он
может
удостовериться
в
истинности
своих
знаний?
Если
мы
рассматриваем симуляцию как полную и детальную компьютерную копию
нашего мира, то познание субъекта ограничивается его симулированным
миром. То есть познанию субъекта недоступен только мир создателя
симуляции, а свою реальность он может познавать, открывать физические
законы,
действующие
в
рамках
48
его
физического
мира,
искать
фундаментальные основания и формулировать свою теорию всего. Что
касается внешней реальности уровнем выше – она сдерживает познание
субъекта компьютерной программой, запускающей симуляцию. Как уже
было сказано выше – у субъекта не получится выйти за пределы симуляции,
так как сама программа не позволит ему это сделать, и все доказательства
того, что субъект живет или не живет в симуляции, тоже являются частью
компьютерной программы.
Говоря об истинности знаний – пока субъект действует в рамках своей
реальности, его знания могут быть истинными или ложными. Думаю, в
реальность
гипотезы
компьютерной
симуляции
хорошо
вписывается
когерентная концепция истинности, согласно которой, истинным является
знание, которое согласовано внутри себя. То есть знания субъекта будут
истинными тогда, когда они будут соответствовать системе внутри
симуляции. У данной концепции есть свои внутренние проблемы и
противоречия, но для примера она может быть рассмотрена в качестве
рабочей.
3.2 Новая гипотеза компьютерной симуляции
В предыдущем разделе уже были сделаны некоторые дополнения к
матричной гипотезе относительно создателей, вселенной уровнем выше,
когнитивной системы / сознания субъектов внутри симуляции, а также
конкретизирована идея того, что в основе симулированной реальности лежат
биты. Схематично можно представить получившуюся гипотезу следующим
образом (Рис.9):
49
Рисунок 9 – Схема новой гипотезы компьютерной симуляции
Далее, я хочу конкретизировать, каким образом уровень кварков и
уровень битов могут конституировать физическую реальность симуляции.
Для этого мы последовательно пойдем от макроуровня к микроуровню.
Верхний уровень реальных объектов или, если обобщить, материи,
функционирует согласно физическим законам. И если симуляция является
детальной копией нашего мира, то в ней будут работать те же физические
законы. Если мы спустимся ниже до уровня молекул и атомов, то здесь будут
работать законы химии – молекулы образуются путем соединения атомов
определенных химических элементов. Атомы состоят из протонов и
электронов, что находятся на уровень ниже. Законами функционирования
протонов и электронов занимается ядерная физика. Не так давно мы узнали,
что есть уровень еще ниже – уровень кварков. Кварки изучает физика
элементарных частиц и на данный момент с точки зрения физики это самый
базовый уровень. Остановимся на нем подробнее.
Здесь
интерес
представляет
позиция
предложенная Б. Витвортом [110] (Рис.10):
50
квантового
реализма,
Рисунок 10 – Схема квантового реализма
Согласно квантовому реализму, именно квантовая обработка (или
процессинг) конституирует физические события и сам физический мир.
Здесь в основе реальности лежит квантовый мир, который продуцирует
физический мир в качестве интерфейса, с помощью которого могут
взаимодействовать объекты внутри реальности. Таким образом, физический
мир представляет собой набор объектов и событий, сконструированных при
помощи квантовой обработки. По словам Б. Витворта: «квантовая теория
управляет микроскопическим миром, из которого возникает реальность, а
относительность управляет космическим миром вокруг него» [110]. Если
квантовый реализм верен, то он описывает поведение элементарных частиц
(протоны, электроны, кварки), которое продуцирует физическую реальность.
Но возникает следующий вопрос – по каким законам должна выполняться
квантовая обработка?
Здесь мы опускаемся на уровень ниже – уровень битов. Теперь
конкретизируем что это за биты, и по каким законам функционируют они.
Обратимся к теории М. Тегмарка о том, что реальность в своей основе
является математической [36]. Согласно данной теории, всю реальность
можно формализовать при помощи уравнений, мы как-бы можем собрать
«книгу» уравнений всех законов реальности. М. Тегмарк говорит, что: «Наша
51
реальность не просто описывается математикой, но и является математикой в
очень специфическом смысле. Не какие-то ее аспекты, а вся целиком,
включая нас самих» [36. C. 196]. Но если реальность является математикой, и
ее можно описать при помощи уравнений, то, теоретически, эти уравнения
можно загрузить в компьютерную программу-симулятор и воссоздать
реальность в виртуальном пространстве. Таким образом, мы получим
компьютерную
симуляцию
реальности.
Можно
предположить,
что
компьютерная программа кодирует уравнения в биты информации, которые
хранят в себе все законы реальности и являются базовым уровнем в
реальности симуляции. Применительно к нашей гипотезе компьютерной
симуляции, именно биты задают законы функционирования реальности, а
значит, и законы квантовой обработки, которые конституируют физическую
реальность.
Мы
можем
предположить,
что
квантовая
обработка
конституирует сначала атомы и молекулы и законы их взаимодействия,
далее, каким образом молекулы конституируют материю (реальные
объекты).
Приняв некоторые положения теории М. Тегмарка, мы получаем
симулированную
реальность,
функционирующую
согласно
законам
(следованию правилам), лежащим в ее основе.
Таким образом, в системе наук уровень битов, соответственно, будет
функционировать согласно математическим законам.
Сложным моментом остается сознание – можно ли его описать в виде
уравнения? Согласно матричной гипотезе, сознание субъектов лежит за
пределами симуляции. В этом случает ответ – нет, сознание не подгружается
при помощи уравнения в симулированную реальность, оно подключается к
ней при помощи определенного аппаратного обеспечения (электродов,
например). Однако в самой программе все же должно быть уравнение,
описывающее
принцип
взаимодействия
«мозга»
продуцируемого им сознания с объектами в симуляции.
52
вне
симуляции
и
3.3 Проблема скептицизма и виртуальный реализм
Теперь, когда мы довольно подробно сформулировали гипотезу
компьютерной симуляции, стоит понять является ли она скептической или
нет.
Проблема скептицизма всегда находилась на стыке онтологии и
эпистемологии: «Что есть?» и «Что я могу знать?». Но онтология имеет
некий приоритет перед эпистемологией, т.к. любая эпистемологическая
позиция по сути уже имеет под собой онтологическое основание. Когда мы
говорим о знании, то сразу возникает вполне логичный вопрос о природе
познающего.
В
философии
традиционно
выделяют
две
онтоэпистемологических позиции:
Реализм – позиция, утверждающая, что объективная реальность
существует, и существует возможность ее объективного познания.
Антиреализм
–
позиция,
отрицающая
существование
объективной реальности и возможности ее адекватного познания.
Понимание виртуального реализма мы будем основывать на трактовке
Д. Чалмерса [69. C. 309-310], которую можно заключить в следующих
положениях:
1.
Виртуальные объекты действительно существуют.
2.
События
в
виртуальной
(симулированной)
реальности
действительно происходят.
3.
Опыт в виртуальной (симулированной) реальности не иллюзорен.
4.
Виртуальный опыт так же ценен, как и невиртуальный.
Таким
образом,
когда
познающий
субъект
находится
внутри
симулированного мира, то данный мир является для него единственной
объективной реальностью, которую он может познавать.
Если мы поднимемся на уровень выше симуляции, то есть сможем
говорить о ней с точки зрения внешнего субъекта, то сможем выделить
следующие важные характеристики виртуального мира:
53
Погружение: симуляция генерирует окружающий мир таким
образом, что у субъекта внутри создается ощущение реального присутствия
в данном мире. То есть он получает входные данные, воздействующие на его
органы чувств.
Взаимодействие:
среда
вокруг
является
полностью
интерактивной, действия субъекта влияют на происходящее вокруг.
Генерируется компьютером: если мы говорим о компьютерной
симуляции, то вся виртуальная среда полностью генерируется компьютером.
Данные характеристики
можно отнести
практически к
любой
виртуальной реальности. Например, если вы надеваете VR-шлем, берете в
руки датчики, то вы также погружаетесь в среду, сгенерированную
компьютерной программой, и можете взаимодействовать с объектами в
рамках данной среды.
Таким образом, виртуальный реализм можно описать следующим
образом:
субъект,
находящийся
внутри
компьютерной
симуляции,
воспринимает окружающий мир как реальный и может познавать его в
рамках собственного опыта, который также будет реальным для данного
субъекта. Симулированные объекты – это физические цифровые объекты, на
базовом уровне состоящие из вычислительных процессов. Все объекты в
симуляции являются реальными для субъекта, все, что происходит в
симулированной реальности, действительно реально для субъекта.
Если мы спустимся на позицию субъекта внутри симуляции, то
логично, что он может задать себе вопрос: как узнать наверняка нахожусь ли
я в симуляции или нет? Здесь возникает скептическая гипотеза – если мир
вокруг меня нереален, то все мои убеждения относительно этого мира
ложны. Но если подумать глубже и разобраться в устройстве реальности, то
можно увидеть, что скептическая гипотеза здесь не работает, т.е. даже если
познающий субъект находится внутри симулированного мира, то он все еще
может познавать этот мир, взаимодействовать с его объектами и влиять на
события, происходящие в нем.
54
Данную позицию отстаивает сам Д. Чалмерс по отношению к своей
матричной гипотезе [66], а также Б. Дейнтон в работе «Innocence lost:
simulation scenarios: prospects and consequences» [71], в частности, он
отстаивает тезис о том, что жизнь в симулированной реальности не менее
ценна, чем жизнь в объективной реальности.
Еще раз рассмотрим некоторые составляющие гипотезы компьютерной
симуляции на предмет скептицизма:
У симуляции есть создатель. Однажды некий сверхразумный ИИ
1.
(superintelligence) создал мир со своим пространством-временем. Данное
утверждение звучит вполне привычно, т.к. многие люди в нашем мире верят
в то, что у мира есть создатель. Им мог быть Бог или инопланетянин или
наши предки в мире «на уровень выше», как в версии Н. Бострома, или
просто Большой взрыв. Мы не можем строго доказать это, но не можем и
опровергнуть, поэтому предположим свой вариант личности создателя. В
любом случае, субъект внутри симулированного мира может познавать его,
взаимодействовать с объектами и влиять на события.
Данная симуляция сгенерирована компьютером, поэтому в
2.
основе
физики
мира
лежат
вычислительные
процессы.
Как
мы
предположили выше, под уровнем электронов, протонов и кварков лежит
еще один уровень – уровень битов. То есть все атомы состоят из чего-то еще
более фундаментального, вполне возможно, что это биты информации. Мы
также не можем ни строго доказать, ни опровергнуть данное утверждение,
но оно вполне имеет место быть. Тогда, в целом, мир вокруг субъекта не
меняется:
он
все
взаимодействовать с
относительно
еще
может
его
воспринимать,
окружением, кроме
предметов
вокруг
будут
того,
все
истинными.
познавать
его
и
убеждения
Однажды
все
представление об устройстве нашего мира поменялось, когда ученые
открыли квантовую механику или теорию относительности. Возможно,
данная гипотеза потребует от субъекта пересмотра некоторых его
представлений об устройстве мира, но в целом его убеждения не изменятся.
55
3.
Когнитивная система / сознание субъекта находится за пределами
физического пространства-времени, но получает из физического мира
входные данные и посылает выходные данные. Еще Декарт разделял разум и
тело. Версия нередуктивного функционализма является одной из возможных
теорий сознания, поэтому она вполне имеет место быть, пока не доказано
другое. Мы также не может ни доказать, ни опровергнуть данное
утверждение, но даже если когнитивная система / сознание субъекта
находится за пределами физического мира, он все еще может познавать его и
взаимодействовать с ним. Доказательство нередуктивного функционализма
потребовало бы от субъекта пересмотра некоторых убеждений относительно
устройства мира, но в целом его представление о реальности останется
неизменным.
Таким образом, если виртуальный реализм верен, и мы принимаем его,
то некоторые утверждения относительно метафизики симулированного мира
могут заставить субъекта в симуляции изменить его убеждения и
представление о реальности, но в целом большинство его убеждений
останутся
неизменными:
он
все
еще
будет
жить
в
своем
мире,
взаимодействовать с его объектами при помощи своего тела и познавать все,
что происходит вокруг. Таким образом, проблема скептицизма здесь как-бы
нивелируется за счет перехода на метафизический уровень. Меняется
онтология, но эпистемология в целом остается неизменной.
Если мы говорим о виртуальном реализме, подразумевая такую
метафизику компьютерной симуляции, то он звучит вполне убедительно.
Субъект в симуляции (да и мы сами) не может быть уверен в том, что мир
вокруг него не является виртуальным, что он не мозг в колбе и не находится
в матрице. Но он может быть уверен в том, что реальность вокруг является
действительной, он может ее познавать, взаимодействовать с ее объектами и
большинство его убеждений относительно мира вокруг являются истинными.
Если снова апеллировать к проблеме скептицизма, то можно сказать, что
56
новая гипотеза компьютерной симуляции является только частично
скептической.
57
ЗАКЛЮЧЕНИЕ
В
рамках
данного
исследования
мною
была
поставлена
и
эксплицирована проблема скептицизма в контексте гипотезы компьютерной
симуляции в следующей трактовке: гипотеза является скептической, если
при ее истинности все представления субъекта о внешнем мире являются
ложными. Основной целью работы было формулирование новой гипотезы
компьютерной
симуляции,
которая
бы
наиболее
полно
описывала
симулированную реальность и могла противостоять скептицизму.
В соответствии с поставленными задачами, мною были описаны
наиболее яркие гипотезы симуляции в истории философии и представлена
типология гипотезы симуляции на основе работ Д. Чалмерса [66] и
авторского коллектива Ф. Турчина, М. Батина, Д. Декенбергера, Р.
Ямпольского
Среди
[104].
представленных
гипотез
посредством
компаративного анализа была выделена матричная гипотеза Д. Чалмерса как
наиболее подробная. Данная гипотеза была проанализирована с точки зрения
метафизики, онтологии и эпистемологии, были выделены вопросы, которые
нужно было утончить.
Далее, матричная гипотеза была дополнена следующими положениями:
Цель создания симуляции, вероятнее всего, научная, например,
решение парадокса Ферми, изучение истории цивилизации или проверка
некоторых
сценариев
событий
(риски
окончания
существования
цивилизации).
Создателем симуляции является сверхразумный искусственный
интеллект (superintelligence), который находится во вселенной уровнем
выше.
В самой основе симулированной реальности лежат биты
информации. Реальность была загружена компьютерной программой, в
структуре
которой
находятся
уравнения,
описывающие
реальность.
Информация о реальности закодирована в биты, которые являются
58
фундаментальным уровнем симулированной реальности и задают законы
функционирования уровня выше – квантового. Квантовая обработка на
основе
законов,
получаемых
из
битов,
конституирует
физическую
реальность за счет определения законов ядерной физики и химии. Уровень
материальных объектов, материи функционирует по физическим законам.
Нередуктивный функционализм по отношению к сознанию.
Когнитивная система / сознание субъектов в симуляции конституируется
посредством функциональной организации носителя (мозга), находящегося
во вселенной создателя. Когнитивная система / сознание подключается к
симуляции при помощи электродов и взаимодействуем с ее объектами.
Познание субъекта в симуляции ограничено его реальностью –
реальность создателя симуляции недоступна для его познания, так как в
этом случае субъект должен был бы доказать, что он живет в симуляции,
однако он не сможет это сделать, потому что любые доказательства, которые
он может получить, тоже будут симулированы компьютерной программой
создателя. Знания субъекта о его реальности могут претендовать на
истинность.
Виртуальный
реализм.
Несмотря
на
то,
что
реальность
симулирована, она все равно является подлинной для субъекта внутри нее,
симулированные объекты реально существуют, события в симулированном
мире реально происходят, опыт субъекта реален и так же ценен, как и опыт в
несимулированном мире.
В результате, на основе матричной гипотезы Д. Чалмерса и описанных
дополнений, была описана новая гипотеза компьютерной симуляции (Рис.9):
59
Рисунок 9 – Схема новой гипотезы компьютерной симуляции
Новая гипотеза была последовательно рассмотрена на предмет
скептицизма и определена только как частично скептическая. Вместо
скептической она оказывается, скорее, метафизической, так как поднимает
вопросы о фундаментальной природе реальности. В целом, принятие
положений новой гипотезы может заставить субъекта пересмотреть
некоторые из его убеждений о природе реальности, но в большинстве своем
его представления о мире не изменяться.
Возвращаясь к примеру из фильма «Матрица» [7], можно сказать, что у
Нео нет ложных убеждений о его мире (в матрице). Наоборот, у него и всех
других людей в матрице имеют верные убеждения о физическом мире. Если
это действительно так, то гипотеза симуляции не является скептической –
она не обесценивает знания субъектов об их мире.
Таким
образом,
основной
проблемой
в
контексте
гипотезы
компьютерной симуляции оказывается не проблема скептицизма, а проблема
фундаментальной
природы
реальности
и
проблема
сознание-тело.
Значимость гипотезы компьютерной симуляции не в том, чтобы доказать, что
мы живем или не живем в симуляции, а в том, что на ее базе мы можем
изучать вопрос о лежащей в основе нашей реальности «природе», о ее
фундаменте.
60
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ И ЛИТЕРАТУРЫ
Аванзино П. и др. Футурама [Электронный ресурс]. – 1999. –
1.
URL: https://www.kinopoisk.ru/series/79920/ (дата обращения: 28.04.20)
Бодрийяр Ж. Симулякры и симуляция [Электронный ресурс] //
2.
Рипол
Классик.
–
2013.
–
URL:
https://uhimik.ru/jean-baudrillard-jan-
bodrijyar/index5.pdf (дата обращения: 11.02.20)
3.
значение?
Болл Ф. Возможно, наш мир виртуален. Но имеет ли это
[Электронный
ресурс]
//
BBC
Earth.
–
2016.
URL:
https://www.bbc.com/russian/vert-earth-37621894 (дата обращения: 05.04.20)
4.
Бородин Н. Ю., Казанова Н. В. Гипотеза симуляции: возможные
варианты доказательств [Электронный ресурс] // Смотр-конкурс научных,
конструкторских и технологических работ студентов Волгоградского
государственного технического университета. – 2018. – С. 194-195. – URL:
https://www.elibrary.ru/item.asp?id=35030463 (дата обращения: 28.04.20)
5.
Бостром
Н.
Искусственный
интеллект.
Этапы.
Угрозы.
Стратегии. Пер. с англ. С. Филина. – М.: Манн, Иванов и Фербер, 2016. – 496
с.
6.
Васильев В., Беседин А., Кузнецов А. Философия сознания. Курс
лекций [Электронный ресурс] // Moscow Center for Consciousness Studies. –
–
2016.
URL:
https://www.youtube.com/playlist?list=PLiDYw1G3ZEaJ0Egm36WsO8WjBMPjz
WFm9 (дата обращения: 19.01.20)
7.
Вачовски Л., Вачовски Л. Матрица [Электронный ресурс]. – 1999.
– URL: https://www.kinopoisk.ru/film/301/ (дата обращения: 28.04.20)
8.
Витворт Б. Квантовый реализм [Электронный ресурс]. – Перевод:
Шухрат Хашимов (Supraman). – URL: https://supraman.ru/quantum-realism/
(дата обращения: 20.04.20)
9.
Гаспарян Д. Структурализм [Электронный ресурс] // Постнаука. –
2020. URL: https://postnauka.ru/video/155085 (дата обращения: 28.04.20)
61
10.
до
Гаспарян Д., Кузнецов А., Секацкая М. Философия сознания от А
Я
[Электронный
ресурс]
//
Постнаука.
–
URL:
https://postnauka.ru/specials/philosophy-of-mind (дата обращения: 28.04.20)
11.
Глобальные риски: Сборник статей под редакцией А.В.Турчина
[Электронный
ресурс]
//
М.:
Препринт.
–
2011.
–
URL:
http://humanextinction.ru/sbornik.doc (дата обращения: 10.03.20)
12.
Гусев Д. А. Скептицизм как философский реализм //Философия и
культура. – 2015. – №. 1. – С. 20-28.
13.
ресурс]
Декарт Р. Размышления о первой философии [Электронный
//Декарт
Р.
Соч.
–
1994.
–
Т.
2.
–
URL:
http://psylib.org.ua/books/dekar02/index.htm (дата обращения: 28.04.20)
14.
Декарт Р. Рассуждение о методе. Пер. с лат. и фр. – 2-е изд. – М.:
Академический проект, 2014. – 322 с.
15.
Дмитриев Т.А. Проблема методического сомнения в философии
Рене Декарта [Электронный ресурс] //
Институт Философии Российской
Академии Наук. – URL: https://iphras.ru/uplfile/root/biblio/2007/Dmitriev1.pdf
(дата обращения: 28.04.20)
16.
Зомби
Иванов Д., Спиридонов В., Максутов И. Философия сознания:
[Электронный
ресурс]
//
Постнаука.
–
2015.
URL:
https://postnauka.ru/faq/80430 (дата обращения: 07.05.20)
17.
Кузнецов Д. В., Котлярова В. В. Гипотеза симуляции как
обоснование природы человека //Colloquium-journal. – Голопристанський
міськрайонний центр зайнятості, 2019. – №. 25 (49).
18.
Ладов В.А. Формальный реализм. – Томск: Изд-во Том. ун-та,
2011. – 132 с.
19.
Логинов
Е.
Курс
лекций
Аналитическая
философия
[Электронный ресурс] // Библиотека Дом А.Ф. Лосева. – 2020. – URL:
https://www.youtube.com/playlist?list=PLjRdPAc7-AcIqd2RTYI7xSz11Y52a_Hg (дата обращения: 01.06.20)
62
20.
Лыткина К. П. и др. Гипотеза симуляции с точки зрения
философии [Электронный ресурс] // Лучшая студенческая статья 2019. –
2019. – С. 138-141. – URL: https://www.elibrary.ru/item.asp?id=37611648 (дата
обращения: 28.04.20)
21.
Медведев Д. Живем ли мы в спекуляции Ника Бострома?
[Электронный ресурс] // Ассоциация футурологов. – 2017. – URL:
(дата
http://futurologija.ru/texts/zhivem-li-my-v-spekulyacii-nika-bostroma/
обращения: 10.03.20)
22.
Нагель Т. Каково быть летучей мышью? [Электронный ресурс]. –
URL: https://www.gumer.info/bogoslov_Buks/Philos/Article/nag_kak.php (дата
обращения: 07.05.20)
23.
Панченко
В.А.,
Кабанова
М.А.
Гипотеза
Компьютерной
Симуляции [Электронный ресурс] // Научная электронная библиотека. –
2019. – URL: https://www.elibrary.ru/item.asp?id=41320517 (дата обращения:
28.04.20)
24.
Паршина Е.С. Принцип сомнения в философском познании
[Электронный
ресурс].
–
https://static.freereferats.ru/_avtoreferats/01006737102.pdf
URL:
(дата
обращения:
28.04.20)
25.
Патнэм Х. Философия сознания // М.: Дом интеллектуальной
книги. – 1999. – С. 139-142.
26.
Патнэм Х. Разум, истина и история // М.: Праксис. – 2002. – Т.
27.
Пенроуз Р. Новый ум короля: о компьютерах, мышлении и
296.
законах физики. М.: УРСС: Книжный дом «ЛИБРОКОМ», 2003. – 480 с.
28.
Петров М. Больцмановский мозг: уникально ли человеческое
сознание? [Электронный ресурс] // Теории и практики. – 2013. – URL:
https://theoryandpractice.ru/posts/8272-boltsmanovskiy-mozg (дата обращения:
07.05.20)
63
29.
Прими красную таблетку: Наука, философия и религия в
«Матрице» / Под ред. Гленна Йеффета. – М.: Ультра.Культура, 2003. – 312 с.
30.
Ройланд Д. и др. Рик и Морти [Электронный ресурс]. – 2013. –
URL: https://www.kinopoisk.ru/series/685246/ (дата обращения: 28.04.20)
31.
Руснак Й. Тринадцатый этаж [Электронный ресурс]. – 1999. –
URL: https://www.kinopoisk.ru/film/1086/ (дата обращения: 28.04.20)
32.
Сёрль, Дж. Сознание, мозг и программы. Перевод на русский
язык: А. Л. Блинов. [Электронный ресурс] // Электронная публикация: Центр
гуманитарных
технологий.
—
2013.
–
URL:
https://gtmarket.ru/laboratory/expertize/6661 (дата обращения: 17.02.20)
33.
Сошников А. Обман "злого гения": может ли мир быть
компьютерной симуляцией? [Электронный ресурс] // Русская служба Би-биси. – 2016. – URL: https://www.bbc.com/russian/features-37606083 (дата
обращения: 28.04.20)
34.
Тегмарк М. Математическая Вселенная [Электронный ресурс] //
Постнаука. – 2016. – URL: https://postnauka.ru/talks/103956 (дата обращения:
07.05.20)
35.
Тегмарк М. Математическая структура Вселенной [Электронный
ресурс] // Постнаука. – 2016. – URL: https://postnauka.ru/talks/103956 (дата
обращения: 07.05.20)
36.
Тегмарк М. Наша математическая Вселенная. В поисках
фундаментальной природы реальности / М. Тегмарк. – М. : АСТ, 2017. – 592
с.
37.
Турчин
А.
Ник
Бостром.
Доказательство
симуляции
[Электронный ресурс]. – 2009. – URL: https://proza.ru/2009/03/09/639 (дата
обращения: 17.03.20)
38.
Уир П. Шоу Трумана [Электронный ресурс]. – 1998. – URL:
https://www.kinopoisk.ru/film/4541/ (дата обращения: 28.04.20)
39.
Хайм М. Метафизика виртуальной реальности //Исследования по
философии современного понимания мира. – 1995. – №. 1. – С. 96-128.
64
Хижняк Н. Откровения Ника Бострома о его гипотезе симуляции
40.
нашей реальности [Электронный ресурс] // Hi-News.ru. – 2019. – URL:
https://hi-news.ru/technology/otkroveniya-nika-bostroma-o-ego-gipotezesimulyacii-nashej-realnosti.html (дата обращения: 28.04.20)
Чалмерс Д. Скептицизм и гипотеза симуляции [Электронный
41.
ресурс] // Постнаука. – 2018. – URL: https://postnauka.ru/longreads/86136 (дата
обращения: 07.05.20)
Чалмерс Д. Сознающий ум: В поисках фундаментальной теории.
42.
Пер. с англ. Изд. 2-е. – М.: УРСС: Книжный дом «ЛИБРОКОМ», 2015. – 512
с.
Чалмерс Д. Телефон — часть сознания? [Электронный ресурс] //
43.
Перевод: Алексей Лоскутов. – 2018. – URL: https://youtu.be/biLLh9W3Bjk
(дата обращения: 22.03.20)
Что такое Больцмановский мозг [Электронный ресурс] // Naked
44.
Science. – 2019. – URL: https://naked-science.ru/article/nakedscience/chto-takoebolcmanovskiy-mozg (дата обращения: 24.04.20)
Что такое парадокс Ферми и что нам с ним делать [Электронный
45.
ресурс]
//
Naked
Science.
–
–
2018.
URL:
science.ru/article/nakedscience/chto-takoe-paradoks-fermi-i
https://naked-
(дата
обращения:
28.04.20)
46.
Anderson N. G., Piccinini G. Pancomputationalism and the
computational description of physical systems [Электронный ресурс] // Philsci
Archive. – 2017. – URL: http://philsci-archive.pitt.edu/12812/1/PCv2.8.17.pdf
(дата обращения: 07.05.20)
47.
of
Free
Arvan M. The Peer-to-Peer Simulation Hypothesis and a New Theory
Will
[Электронный
ресурс].
–
2015.
–
URL:
https://philarchive.org/archive/ARVTPS (дата обращения: 07.05.20)
48.
From
It?.
Barbour J. Bit from it [Электронный ресурс] // It From Bit or Bit
–
Springer,
Cham,
2015.
65
–
С.
197-211.
–
URL:
https://link.springer.com/chapter/10.1007/978-3-319-12946-4_17
(дата
обращения: 07.05.20)
49.
Barzegar A., Shafiee A., Taqavi M. It from Bit and Quantum
Mechanics [Электронный ресурс] // Foundations of Science. – 2019. – С. 1-10. –
URL:
https://link.springer.com/article/10.1007/s10699-019-09644-1
(дата
обращения: 07.05.20)
50.
Beane S. R., Davoudi Z., Savage M. J. Constraints on the Universe as
a Numerical Simulation [Электронный ресурс] // The European Physical Journal
A.
–
2014.
–
Т.
50.
–
№.
9.
–
С.
148.
https://link.springer.com/content/pdf/10.1140/epja/i2014-14148-0.pdf
–
URL:
(дата
обращения: 07.05.20)
51.
Birch J. On the ‘simulation argument’and selective scepticism
[Электронный ресурс] // Erkenntnis. – 2013. – Т. 78. – №. 1. – С. 95-107. –
URL:
https://link.springer.com/article/10.1007/s10670-012-9400-9
(дата
обращения: 07.05.20)
52.
Bostrom N. Simulation and Superintelligence [Электронный ресурс]
// AI Podcast with Lex Fridman. – 2020. – №83. – URL: https://youtu.be/rfKiTGjzeQ (дата обращения: 07.05.20)
53.
Bostrom N. The simulation argument // The Philosophers' Magazine.
– 2010. – №. 50. – С. 28-29.
54.
Bostrom N. The Simulation Argument FAQ [Электронный ресурс].
– 2011. – URL: https://www.simulation-argument.com/faq.html (дата обращения:
07.05.20)
55.
Bostrom N. The simulation argument: Reply to Weatherson // The
Philosophical Quarterly. – 2005. – Т. 55. – №. 218. – С. 90-97.
56.
Bostrom N. The simulation argument: Some explanations // Analysis.
– 2009. – Т. 69. – №. 3. – С. 458-461.
57.
Bostrom N., Kulczycki M. A patch for the simulation argument
[Электронный ресурс] // Analysis. – 2011. – Т. 71. – №. 1. – С. 54-61. – URL:
https://www.jstor.org/stable/pdf/41237276.pdf?casa_token=tKCmchi3QrAAAAA
66
A:GBIl4pRhcA4fLPU_yd3NBd0Dqvwa8EdzfpuaOckn8mNyAV9mVCU0N4oZ6
XhrKH4ma(дата
7a2lGp_QcEqFldWy8DyvXARU5KcuA9WfZf3U_ZN3YaJe8M7RaR
обращения: 07.05.20)
58.
Bostrom, N. Are You Living In a Computer Simulation?
[Электронный ресурс] // Philosophical Quarterly. – 2003. – Vol. 53, No. 211. –
Pp. 243-255. – URL: https://www.simulation-argument.com/simulation.pdf (дата
обращения: 07.05.20)
59.
Campbell
T.
et
al.
On
testing
the
simulation
hypothesis
[Электронный ресурс] // International Journal of Quantum Foundations. – 2017.
– URL: http://www.ijqf.org/wps/wp-content/uploads/2017/03/IJQF-3888.pdf (дата
обращения: 07.05.20)
60.
//
Carroll S. M. Why Boltzmann brains are bad [Электронный ресурс]
arXiv
preprint
arXiv:1702.00850.
–
–
2017.
URL:
https://arxiv.org/pdf/1702.00850.pdf (дата обращения: 07.05.20)
61.
Chalmers D. et al. (ed.). Metametaphysics: New essays on the
foundations of ontology. – Oxford University Press, 2009.
62.
Chalmers D. Is your phone part of your mind? [Электронный ресурс]
// TEDxSydney. – 2011. – URL: https://youtu.be/ksasPjrYFTg (дата обращения:
07.05.20)
63.
Chalmers D. J. A computational foundation for the study of cognition
[Электронный
ресурс].
–
1993.
–
URL:
https://www.ida.liu.se/divisions/hcs/seminars/cogsciseminars/Papers/Chalmers_Co
mputational_foundations.pdf (дата обращения: 07.05.20)
64.
Chalmers D. J. Facing up to the problem of consciousness
[Электронный ресурс] // Journal of consciousness studies. – 1995. – Т. 2. – №. 3.
– С. 200-219. – URL: http://consc.net/papers/facing.pdf (дата обращения:
07.05.20)
65.
Chalmers D. J. Structuralism as a Response to Skepticism
[Электронный ресурс] // The Journal of Philosophy. – 2018. – Т. 115. – №. 12. –
67
С. 625-660. – URL: https://philpapers.org/archive/CHASAA-13.pdf (дата
обращения: 07.05.20)
66.
Chalmers D. J. The Matrix as metaphysics [Электронный ресурс]. –
2005. – URL: http://consc.net/papers/matrix.pdf (дата обращения: 07.05.20)
67.
Chalmers D. The Hard Problem of Consciousness [Электронный
ресурс] // Artificial Intelligence (AI) Podcast with Lex Fridman. – 2020. – URL:
https://youtu.be/LW59lMvxmY4 (дата обращения: 07.05.20)
68.
Chalmers D. The varieties of computation: A reply [Электронный
ресурс] // Journal of Cognitive Science. – 2012. – Т. 13. – №. 3. – С. 211-248. –
URL: http://consc.net/papers/varieties.pdf (дата обращения: 07.05.20)
69.
Chalmers D. The Virtual and the Real [Электронный ресурс] // The
Science of Consciousness Conference. – 2016. – URL: https://youtu.be/BdGzo2E1c8 (дата обращения: 07.05.20)
70.
Chalmers D. The Virtual as the Digital [Электронный ресурс]. –
URL: http://consc.net/papers/virtualdigital.pdf (дата обращения: 07.05.20)
71.
Dainton B. F. Innocence lost: simulation scenarios: prospects and
consequences [Электронный ресурс] // The PhilPapers Foundation. – 2002. –
URL: https://philarchive.org/archive/DAIILS (дата обращения: 07.05.20)
72.
Daniel C. Dennett Will AI Achieve Consciousness? Wrong Question
[Электронный
ресурс]
//
Wired.
–
2019.
–
URL:
https://www.wired.com/story/will-ai-achieve-consciousness-wrong-question/ (дата
обращения: 07.05.20)
73.
David Chalmers Conversation with Dan Dennett: Possible Minds and
Superintelligence
[Электронный
ресурс].
–
URL:
https://www.c-
span.org/video/?458463-1/possible-minds (дата обращения: 07.05.20)
74.
Dawkins R. Evolution, Intelligence, Simulation, and Memes
[Электронный ресурс] // AI Podcast with Lex Fridman. – 2020. – №87. – URL:
https://youtu.be/5f-JlzBuUUU (дата обращения: 07.05.20)
75.
Arguments
Dustin W. R. Correcting Errors in the Bostrom/Kulczycki Simulation
[Электронный
ресурс].
68
–
2017.
–
URL:
http://www.cs.toronto.edu/~wehr/rd/simulation_args_crit_extended_with_proofs.p
df (дата обращения: 07.05.20)
76.
End of Knowledge. Philosopher and sociologist of science Steve
Fuller on the difference between ontology and epistemology, transhumanism and
understanding of everything [Электронный ресурс] // Serious Science. – 2018. –
URL:
http://serious-science.org/end-of-knowledge-9099
(дата
обращения:
07.05.20)
77.
Greene
P.
The
Termination
[Электронный ресурс] // Erkenntnis.
Risks
of
Simulation
Science
– 2018. – С. 1-21. – URL:
https://link.springer.com/article/10.1007/s10670-018-0037-1 (дата обращения:
07.05.20)
78.
Haisch B. Is the universe a vast, consciousness-created virtual reality
simulation? [Электронный ресурс] // Cosmos and History: The Journal of Natural
and Social Philosophy. – 2014. – Т. 10. – №. 1. – С. 48-60. – URL:
http://www.cosmosandhistory.org/index.php/journal/article/viewFile/408/672
(дата обращения: 07.05.20)
79.
Hanson R. How to live in a simulation [Электронный ресурс] //
Journal of Evolution and Technology. – 2001. – Т. 7. – №. 1. – С. 3-13. – URL:
https://www.jetpress.org/volume7/simulation.htm (дата обращения: 07.05.20)
80.
Hickey L.P. The Brain in a Vat Argument [Электронный ресурс] //
Internet Encyclopedia of Philosophy. – URL: https://www.iep.utm.edu/brainvat/
(дата обращения: 07.05.20)
81.
Humphreys P. The philosophical novelty of computer simulation
methods [Электронный ресурс] // Synthese. – 2009. – Т. 169. – №. 3. – С. 615626. – URL: https://link.springer.com/content/pdf/10.1007/s11229-008-9435-2.pdf
(дата обращения: 07.05.20)
82.
Isaac Asimov Memorial Debate: Is the Universe a Simulation?
[Электронный ресурс]. – 2016. – URL: https://youtu.be/wgSZA3NPpBs (дата
обращения: 16.03.20)
69
83.
Jackson S. Are We Living in the Matrix? One Professor Is
Considering It [Электронный ресурс] // Washington Square News. – 2017. –
URL: https://nyunews.com/2017/03/27/are-we-living-in-the-matrix-one-professoris-considering-it/ (дата обращения: 07.05.20)
Koch C. Consciousness [Электронный ресурс] // MIT Artificial
84.
Intelligence
(AI)
Podcast
by
Lex
–
Fridman.
–
2018.
URL:
https://youtu.be/piHkfmeU7Wo (дата обращения: 01.05.20)
Koch C. What Is Consciousness? [Электронный ресурс] // Springer
85.
Nature Limited. – 2018. – URL: https://www.nature.com/articles/d41586-01805097-x (дата обращения: 10.05.20)
86.
Lewin S. Is the Universe a Simulation? Scientists Debate
[Электронный
ресурс]
//
Future
US.
–
–
URL:
https://www.space.com/32543-universe-a-simulation-asimov-debate.html
(дата
2016.
обращения: 07.05.20)
87.
Lewis P. J. The doomsday argument and the simulation argument
[Электронный ресурс] // Synthese. – 2013. – Т. 190. – №. 18. – С. 4009-4022. –
URL:
https://link.springer.com/article/10.1007%2Fs11229-013-0245-9
(дата
обращения: 07.05.20)
88.
Macleod M. Programming Planck units from a virtual electron; a
Simulation Hypothesis [Электронный ресурс] // A Simulation Hypothesis. –
2014. – URL: https://philarchive.org/archive/MACAMU (дата обращения:
07.05.20)
89.
McCain K. Skepticism and Elegance: An Explanationist Rejoinder
//International Journal for the Study of Skepticism. – 2016. – Т. 6. – №. 1. – С. 3043.
90.
Moskowitz C. Are We Living in a Computer Simulation?
[Электронный
ресурс]
//
Scientific
American.
–
2016.
https://www.scientificamerican.com/article/are-we-living-in-a-computersimulation/ (дата обращения: 07.05.20)
70
–
URL:
Müller V. C. New developments in the philosophy of AI
91.
[Электронный ресурс] // Fundamental Issues of Artificial Intelligence. –
Springer, Cham, 2016. – С. 1-4. – URL: https://philarchive.org/archive/MLLNDI
(дата обращения: 17.02.20)
Müller V. C., Bostrom N. Future progress in artificial intelligence: A
92.
survey of expert opinion [Электронный ресурс] // Fundamental issues of artificial
–
intelligence.
Springer,
Cham,
2016.
–
С.
555-572.
–
URL:
https://philpapers.org/archive/MLLFPI.pdf (дата обращения: 17.02.20)
Nielsen J. Is Bit It? [Электронный ресурс]. – 2013. – URL:
93.
https://philpapers.org/archive/NIEIBI.pdf (дата обращения: 26.04.20)
94.
Penrose R. Physics of Consciousness and the Infinite Universe
[Электронный ресурс] // AI Podcast with Lex Fridman. – 2020. – №85. – URL:
https://youtu.be/orMtwOz6Db0 (дата обращения: 07.05.20)
Ramakrishna P. There’s Just No Doubt That It Will Change the
95.
World: David Chalmers on V.R. and A.I. [Электронный ресурс] // The New York
Times – 2019. – URL: https://www.nytimes.com/2019/06/18/opinion/davidchalmers-virtual-reality.html?auth=link-dismiss-google1tap
(дата
обращения:
28.04.20)
96.
Richmond A. Apocalypse Now Does The Matrix: Anthropic
adventures from doomsday to simulation [Электронный ресурс] // Think. – 2008.
–
Т.
6.
–
№.
–
17-18.
С.
29-40.
–
URL:
https://www.research.ed.ac.uk/portal/files/8650980/apocalypse_now_does_the_ma
trix.pdf (дата обращения: 03.05.20)
97.
Ringel Z., Kovrizhin D. L. Quantized gravitational responses, the sign
problem, and quantum complexity [Электронный ресурс] // Science advances. –
–
2017.
Т.
3.
–
№.
9.
–
С.
https://advances.sciencemag.org/content/3/9/e1701758
e1701758.
(дата
–
URL:
обращения:
07.05.20)
Schwitzgebel E. 1% Skepticism [Электронный ресурс] // Noûs. –
98.
2017.
–
Т.
51.
–
№.
2.
71
–
С.
271-290.
–
URL:
https://faculty.ucr.edu/~eschwitz/SchwitzPapers/1%25Skepticism-150701.htm
(дата обращения: 07.05.20)
99.
Philosophy
Silby B. The Simulated Universe [Электронный ресурс] //
Now.
–
–
2009.
Т.
75.
–
С.
28-30.
–
URL:
https://philpapers.org/archive/SILTSU (дата обращения: 07.05.20)
100. Tegmark M. Life 3.0 [Электронный ресурс] // MIT Artificial
Intelligence
(AI)
Podcast
by
Lex
Fridman.
–
–
2018.
URL:
https://youtu.be/Gi8LUnhP5yU (дата обращения: 28.04.20)
101. Tegmark M. The mathematical universe [Электронный ресурс] //
Foundations of physics. – 2008. – Т. 38. – №. 2. – С. 101-150. – URL:
(дата
https://link.springer.com/content/pdf/10.1007/s10701-007-9186-9.pdf
обращения: 28.04.20)
102. Thomas M. A Deep Dive Into The World Of Computer Simulations
[Электронный
ресурс]
//
Built
In.
–
2020.
–
URL:
https://builtin.com/hardware/computer-simulation (дата обращения: 07.05.20)
103. Thomas M. What Is Simulation Theory And Why Does It Matter?
[Электронный
ресурс]
//
Built
In.
–
2020.
–
URL:
https://builtin.com/hardware/simulation-theory (дата обращения: 07.05.20)
104. Turchin A. et al. Simulation Typology and Termination Risks
[Электронный ресурс] // arXiv preprint arXiv:1905.05792. – 2019. – URL:
https://arxiv.org/ftp/arxiv/papers/1905/1905.05792.pdf
(дата
обращения:
17.02.20)
105. Turchin A., Yampolskiy R. Glitch in the Matrix: Urban Legend or
Evidence of the Simulation? [Электронный ресурс] // The PhilPapers Foundation.
– 2019. – URL: https://philpapers.org/archive/TURGIT.docx (дата обращения:
17.02.20)
106. Turchin
A.,
Yampolskiy
R.
Types
of
Boltzmann
brains
[Электронный ресурс] // The PhilPapers Foundation. – 2019. – URL:
https://philpapers.org/archive/TURTOB-2.docx (дата обращения: 17.02.20)
72
107. Urban T. The Fermi Paradox [Электронный ресурс] // WaitButWhy.
– 2014. – URL: https://waitbutwhy.com/2014/05/fermi-paradox.html (дата
обращения: 28.04.20)
108. Wharton K. The Universe is not a Computer [Электронный ресурс]
// Questioning the foundations of physics. – Springer, Cham, 2015. – С. 177-189. –
URL: https://arxiv.org/pdf/1211.7081.pdf (дата обращения: 07.05.20)
109. White J. Simulation, self-extinction, and philosophy in the service of
human civilization [Электронный ресурс] // AI & society. – 2016. – Т. 31. – №.
2. – С. 171-190. – URL: https://link.springer.com/article/10.1007/s00146-0150620-9 (дата обращения: 07.05.20)
110. Whitworth B. Quantum Realism [Электронный ресурс]. – URL:
https://brianwhitworth.com/quantum-realism/ (дата обращения: 07.05.20)
111. Whitworth B. The physical world as a virtual reality [Электронный
ресурс]
//
arXiv
preprint
arXiv:0801.0337.
–
2008.
–
URL:
https://arxiv.org/ftp/arxiv/papers/0801/0801.0337.pdf (дата обращения: 07.05.20)
112. Wolfram
S.
Cellular
Automata,
Computation,
and
Physics
[Электронный ресурс] // AI Podcast with Lex Fridman. – 2020. – №89. – URL:
https://youtu.be/ez773teNFYA (дата обращения: 28.04.20)
113. Zurek W. Wheeler John Archibald." Information, physics, quantum:
The search for links. Complexity, Entropy, and the Physics of Information. – 1990.
73
Отчет о проверке на заимствования №1
Автор: Спрукуль Полина polina.sprukul@gmail.com / ID: 1946217
Проверяющий: Спрукуль Полина (polina.sprukul@gmail.com / ID: 1946217)
Отчет предоставлен сервисом «Антиплагиат» - https://users.antiplagiat.ru
ИНФОРМАЦИЯ О ДОКУМЕНТЕ
ИНФОРМАЦИЯ ОБ ОТЧЕТЕ
№ документа: 62
Начало загрузки: 16.06.2020 06:23:13
Длительность загрузки: 00:00:01
Имя исходного файла: АННОТАЦИЯ.txt
Название документа: АННОТАЦИЯ.txt
Размер текста: 1 кБ
Cимволов в тексте: 91340
Слов в тексте: 12059
Число предложений: 750
Последний готовый отчет (ред.)
Начало проверки: 16.06.2020 06:23:15
Длительность проверки: 00:00:10
Комментарии: не указано
Модули поиска: Цитирование, Модуль поиска Интернет
ЗАИМСТВОВАНИЯ
САМОЦИТИРОВАНИЯ
ЦИТИРОВАНИЯ
ОРИГИНАЛЬНОСТЬ
0,41%
0%
4,59%
95%
Заимствования — доля всех найденных текстовых пересечений, за исключением тех, которые система отнесла к цитированиям, по отношению к общему объему документа.
Самоцитирования — доля фрагментов текста проверяемого документа, совпадающий или почти совпадающий с фрагментом текста источника, автором или соавтором которого является
автор проверяемого документа, по отношению к общему объему документа.
Цитирования — доля текстовых пересечений, которые не являются авторскими, но система посчитала их использование корректным, по отношению к общему объему документа. Сюда
относятся оформленные по ГОСТу цитаты; общеупотребительные выражения; фрагменты текста, найденные в источниках из коллекций нормативно-правовой документации.
Текстовое пересечение — фрагмент текста проверяемого документа, совпадающий или почти совпадающий с фрагментом текста источника.
Источник — документ, проиндексированный в системе и содержащийся в модуле поиска, по которому проводится проверка.
Оригинальность — доля фрагментов текста проверяемого документа, не обнаруженных ни в одном источнике, по которым шла проверка, по отношению к общему объему документа.
Заимствования, самоцитирования, цитирования и оригинальность являются отдельными показателями и в сумме дают 100%, что соответствует всему тексту проверяемого документа.
Обращаем Ваше внимание, что система находит текстовые пересечения проверяемого документа с проиндексированными в системе текстовыми источниками. При этом система является
вспомогательным инструментом, определение корректности и правомерности заимствований или цитирований, а также авторства текстовых фрагментов проверяемого документа
остается в компетенции проверяющего.
№
Доля
в отчете
Доля
в тексте
Источник
Ссылка
Актуален на
Модуль поиска
Блоков
в отчете
Блоков
в тексте
[01]
4,59%
4,59%
не указано
не указано
раньше 2011
Цитирование
35
35
[02]
0,09%
0,78%
Документ MS Word
http://msun.ru
15 Дек 2016
Модуль поиска
Интернет
1
7
[03]
0,02%
0,68%
FB2
http://bookfb2.ru
12 Ноя 2017
Модуль поиска
Интернет
1
3
[04]
0%
0,68%
http://www.bookfb2.ru/book62/455011.… http://bookfb2.ru
12 Ноя 2017
Модуль поиска
Интернет
0
3
[05]
0%
0,68%
не указано
https://booksfb2.com
08 Мая 2019
Модуль поиска
Интернет
0
3
[06]
0%
0,6%
25 ключевых книг по философии
http://universalinternetlibrary.ru 22 Июн 2019
Модуль поиска
Интернет
0
6
[07]
0%
0,56%
1 / ПОЛ СТРЕТЕРН «20 философов за 90… http://alek.jofo.me
13 Дек 2018
Модуль поиска
Интернет
0
6
[08]
0%
0,56%
1 / ПОЛ СТРЕТЕРН «20 философов за 90… http://alek.jofo.me
07 Фев 2019
Модуль поиска
Интернет
0
6
[09]
0%
0,5%
Реферат: . Философия Нового времени… https://referatbank.ru
20 Апр 2018
Модуль поиска
Интернет
0
2
[10]
0%
0,49%
Философия науки и техники
http://arhidoka.ru
18 Июл 2018
Модуль поиска
Интернет
0
3
[11]
0%
0,47%
Выпуск седьмой.
http://vherzen.ru
15 Мар 2018
Модуль поиска
Интернет
0
2
[12]
0%
0,46%
Марксизм 5.0. Логика и Диалектика
http://pro3001.narod.ru
07 Фев 2019
Модуль поиска
Интернет
0
4
[13]
0,02%
0,46%
Проблема метода познания в философ… https://megaobuchalka.ru
17 Ноя 2018
Модуль поиска
Интернет
1
5
[14]
0%
0,45%
2449.Историография русской истории
07 Мая 2017
Модуль поиска
Интернет
0
2
[15]
0%
0,41%
1. Этимология и генезис понятия «фил… http://kursak.net
18 Фев 2019
Модуль поиска
Интернет
0
4
[16]
0,01%
0,3%
Рене Декарт и "Рассуждение о методе"
10 Мая 2019
Модуль поиска
Интернет
1
3
[17]
0,01%
0,19%
http://artefact.lib.ru/library/books/tegm… http://artefact.lib.ru
23 Окт 2018
Модуль поиска
Интернет
1
1
[18]
0,13%
0,13%
2010_1.pdf
23 Ноя 2016
Модуль поиска
Интернет
1
1
http://docme.ru
https://otherreferats.allbest.ru
http://journal.iph.ras.ru
[19]
0,13%
0,13%
Глобальные риски Сборник статей По… http://textarchive.ru
28 Ноя 2016
Модуль поиска
Интернет
2
2
[20]
0%
0,09%
https://www.hse.ru/data/2010/05/03/122… https://hse.ru
12 Мая 2019
Модуль поиска
Интернет
0
1
[21]
0%
0,04%
Третья книга «Русской идеи». Часть III … http://snob.ru
10 Янв 2016
Модуль поиска
Интернет
0
1
Отзывы:
Авторизуйтесь, чтобы оставить отзыв