В.Л. Макаров 6 июня 2006г.

1.Познакомить с основными понятиями 2. Текущее состояние в данной области 3. Наиболее характерные примеры (сахарная модель и др.) 4. Перспективные направления исследований 5. Компьютерная модель общества (КМО) 6. Институты, поддерживающие направление «Искусственные общества» (в мире и в России)

Общественные науки, в том числе экономические, стоят на пороге масштабного и эффективного использования нового средства для получения знаний. Искусственное общество состоит из агентов, взаимодействующих между собой. Почему агентов, а не людей, граждан, членов общества? Так сложилось в литературе, в которой доминируют англоязычные источники. Термин «агенты» твёрдо укоренился и, в частности, компьютерные модели, где атомами являются агенты, называются агент – ориентированными моделями (agent – based models).

Известный исследователь в области агент – ориентированных моделей Джошуа Эпштейн отмечает следующие их характеристические свойства (см. Epstein Joshua M. (2005): Неоднородность. Агенты чем то отличаются друг от друга, что принципиально отличает эти модели от широко распространенных моделей экономики с агентом – представителем. Автономия. Агенты действуют независимо друг от друга. В явном виде задано или описано пространство, в котором действуют агенты. Например, клетки на плоскости, сахарный ландшафт. Локальные взаимодействия. Ограниченная рациональность. Динамика не в состоянии равновесия.

Кстати сказать, указанная работа интересна ещё и тем, что в ней приводятся веские аргументы, опровергающие известное мнение, что агент – ориентированные модели не используют математический аппарат, (например, уравнения), не используют дедуктивный метод, не используют метод обобщения. Всё это они прекрасно используют, только не всегда в явной форме. Искусственное общество – это не просто агент – ориентированная модель. Есть ещё что– то дополнительное, говорящее о том, что это именно общество. Агентов должно быть, по меньшей мере, два. Они должны взаимодействовать между собой. А самое главное – агенты должны быть похожими друг на друга, при взаимодействиях воспринимать друг друга подобными себе. Именно тогда появляется социальное поведение. Понятно, что приведенные рассуждения далеки от сколько-нибудь точных. Это показывает, что построенное искусственное общество мы называем обществом также приблизительно. Здесь ключевое слово «построенное». Как писал Ницше: «Имеются существа, которых мы никогда не познаем, кроме как изобретём их».

Познание через построение, через выращивание – это основной метод изучения общества. В большинстве работ, посвященных построению и изучению агент – ориентированных моделей, правила взаимодействия между агентами чрезвычайно просты. Тем не менее, в результате получаются вполне осмысленные содержательные результаты. Например, клеточные автоматы взаимодействуют по исключительно простым правилам. Клеточный автомат (cellular automata) – это семейство простых конечных автоматов, демонстрирующее интересное эмерджентное поведение при взаимодействии элементов популяции (т.е. такое поведение, при котором дальнейшее развитие популяции представляет собой скачкообразный процесс, где возникновение качественно нового является не естественной закономерностью, а обусловлено вмешательством «идеальных сил»).

Игра «Жизнь» - простой пример клеточного автомата. (См. Conway J. (1970) The Game of Life. Journal Scientific American.) Состояние конечного автомата в момент t + 1 является функцией от его собственного состояния и состояния его соседей в момент времени t. Благодаря взаимодействию каждого элемента клеточного автомата со всеми соседями достигается гораздо более разнообразное поведение, чем поведение отдельного элемента. Такая взаимозависимость является одним из наиболее привлекательных свойств клеточных автоматов. Поскольку выход каждого элемента зависит от состояния его соседей, эволюцию состояний набора элементов можно описать как процесс социальной адаптации.

Благодаря своей способности обеспечивать разнообразное коллективное поведение в процессе взаимодействия простых клеток клеточные автоматы стали мощным средством изучения математических принципов эмерджентности жизни на основе простых, неодушевленных компонентов. Конечные автоматы – попытка специалистов заполнить бреши в изучении реальной эволюции. Что бы произошло, если бы эволюция началась из других начальных условий? Путь развития, который реально был пройден на Земле – это лишь одна из многих возможных траекторий. Таким образом, игра «Жизнь» - одно из средств понимания мира на основе взаимодействия и движения.

Если для некоторой клетки (занятой или свободной) ровно три ближайшие клетки заняты, то она будет занята в следующий момент времени Пример: занятая или свободная клетка Если для некоторой занятой клетки заняты также ровно две соседние клетки, то она будет занята в следующий момент времени Пример: занятая клетка Во всех остальных ситуациях в следующий момент времени клетка остается свободной (т.е. слишком плотная населенность или наоборот – разреженность приводят к невозможности жизни)

1. Для каждой ячейки выясняется ее текущие состояние и состояние соседей 2. Далее применяется одно из трех правил игры «Жизнь» 3. Новое состояние ячейки записывается в двухмерный массив 4. После обработки текущей популяции и заполнения массива значениями новой популяцией, в ячейки листа Excel записывается все содержимое массива. Таким образом, взаимодействие между членами искусственного общества в каждый промежуток времени происходит одновременно.

В работе [Poundstone, 1985] описано большое разнообразие структур, получаемых в результате игры «Жизнь». Примеры: 1. Неизменяемые формы жизни BlockBoat 2. Осцилляторы (переключатели) BlinkerToad 3. Перемещающиеся (планеры) Glider Lightweight spaceship

Проблемам методологии изучения общества посвящена обширная литература. Здесь я останавливаюсь на этом вопросе весьма кратко, обращая внимание на основные моменты. Ключевой фразой новой методологии можно считать цитату из [Epstein Joshua M. and Axtell Robert (1996)]. «Однажды люди применительно к социальному явлению вместо вопроса «Можете ли вы это объяснить?» спросят «Можете ли вы это построить (вырастить)?» Подробно об этом пишет Lansing J. Stephen (2005), а также Gershenson Carlos G. (2001).

Первый, в частности, ссылается на известную дискуссию 1961 года между Карлом Поппером и Теодором Адорно, где подробно обсуждались методологические проблемы познания механизмов функционирования общества. Уже тогда обращалось внимание на аналогию между неживой природой и обществом. И там, и там механизм перехода от микро-поведения (атомов, агентов) к макро-поведению (например, температура, война) есть главная загадка, требующая объяснения. Второй – Gershenson – особо останавливается на разнице между обществами, состоящими из простых агентов и из сложных – интеллектуальных – агентов.

Введена и подробно описана в [Epstein Joshua M. and Axtell Robert (1996)]. Двумерная решетка. В каждой клетке (x, y) указано текущее количество сахара и максимальное количество, которое может быть в этой клетке. Распределение сахара по пространству (обычно пики на северо-востоке и юго-западе). Количество сахара в клетке восстанавливается до максимального уровня с заданным темпом.

Для каждого агента указывается количество сахара, которое он должен потребить в единицу времени (метаболизм). У каждого агента имеется запас сахара, который он может переносить с собой из клетки в клетку (переменная величина). Агент может «видеть» и соответственно перемещаться в соседние клетки (по Нейману).

Наиболее важные правила: Осмотреть доступные для видения клетки и выбрать пустую с наибольшим количеством сахара. Если таковых несколько, то выбирается ближайшая. Передвинуться в эту клетку и забрать весь находящийся в ней сахар. Таким образом, количество сахара у агента складывается из того, что он имел и полученного в новой клетке за вычетом потребления в данном временном интервале. Агент погибает, если ему нечего есть. В исходном варианте модели умерший агент заменяется агентом, находящимся в случайно выбранной пустой клетке со случайно выбранными характеристиками.

Распределение богатства между агентами. Агенты имеют конечный срок жизни. Рост и распределение по возрастам населения. Миграция. Ввод в модель загрязнения среды. Агент выбирает клетку, в которой отношение количества сахара к загрязнению максимально. Разделение агентов на «мужчин» и «женщин». Правила порождения новых агентов. Правила наследования. Например, когда агент умирает, его богатство равномерно распределяется между его детьми. Два продукта: сахар и сироп. Усложнение правил движения. Обмен (торговля) продуктами между агентами.

Hemelrijk, C. K. (1999) An individual-oriented model of the emergence of despotic and egalitarian societies. Proceedings of the Royal Society. London B. 266, Исследовала общество искусственных обезьян и сравнила его с поведением естественных обезьян. Суть правила взаимодействия агентов состоит в использовании так называемого эффекта «победителя – побежденного». Данный эффект состоит в закреплении положительной обратной связи: шансы победителя снова победить (кого- то другого) возрастают, побежденного снова проиграть тоже возрастают. Это означает, что иерархия доминирования возрастает со временем. В результате таких чисто локальных взаимодействий возникает иерархическая структура.

Правила взаимодействия, при которых возникают иерархические структуры, могут быть весьма различными. Например, недавний Нобелевский лауреат Шеллинг предложил в давней работе [Schelling, T. C. (1969) Models of segregation. American Economic Review, Papers and Proceedings, 59, ] такие правила взаимодействия агентов. Общество состоит из агентов двух типов. Агент предпочитает жить в окружении себе подобных, то – есть старается переместиться в область, где ему подобных агентов больше. В результате появляется структура похожая на индийские касты.

Социальные сети – относительно новый объект исследования. Наблюдения и документирование социальных сетей. Литература по моделям выращивания таких сетей достаточно обширна. Родственные связи Корпоративные альянсы Торговые сети Знакомства. Телефонные звонки. Ссылки на научные работы. Измерение социального капитала, базирующееся на социальных сетях.

Сложилась методология анализа социальных сетей. Имеется набор различных компьютерных программ, проводящих такой анализ. Проводятся обучающие курсы и пр. Приведём несколько примеров порождения социальных сетей. В работе [White Douglas R., Kejzar Natasha, Tsallis Constantino, Doyne Farmer, and White Scott (2005)] рассматривается ситуация, когда имеется фиксированное число агентов. Алгоритм порождения сети базируется на локальных взаимодействиях, состоящих в поиске ближайшего соседа. Если таковой находится, то устанавливается связь, что формально представлено ребром графа. Если соседа не находится, то устанавливается связь со случайным агентом. Таким образом, получается конкуренция между двумя способами установления связи: поиск соседа или случайная связь.

Другое правило установления связей базируется на понятии привлекательности партнера. Josep M. Pujol, Andreas Flache, Jordi Delgado and Ramon Sangüesa (2005) How Can Social Networks Ever Become Complex? Modeling the Emergence of Complex Networks from Local Social Exchanges Journal of Artificial Societies and Social Simulation vol. 8, no. 4 Имеется N агентов. Каждый агент i характеризуется числом ai, показывающим его привлекательность для других агентов, (0 < ai < 1). Заранее ai неизвестна ни ему самому, ни другим агентам. Она выявляется в процессе взаимодействий (как рыночная стоимость). Для простоты осуществления процесса симуляций заданная привлекательность распределяется равномерно.

Проводятся серьезные эмпирические работы, анализирующие возникновение и свойства социальных сетей. В качестве примера укажем работу [Marmaros David and Sacerdote Bruce (2006) How do Friendships Form?, The Quarterly Journal of Economics, Febriary 2006] в которой проводится эконометрический анализ базы данных, сформированной из посланий по электронной почте между студентами американского колледжа. База содержит 1250 посланий между студентами колледжа, посланными в течение одного года. Анализ показал, что дружеские группы охотнее образуются между представителями одной расы, одного района, где прошло детство, и одного общежития. White D. R., and Spufford P. (2004) Civilizations as Dynamic Networks: Monetization and Organizational Change from Medieval to Modern SEI Working Paper (Santa Fe Institute) Авторы этой работы замечают, что структура социальной сети в средние века и в настоящее время заметно различаются.

Немецкий социолог Луман посвятил свою жизнь описанию, что такое человеческое общество, что изложено им в десятках книг. См. например, [Луман Н. (1999) «Теория общества», в сб. Теория общества, М. КАНОН-пресс Ц. стр Луман Н. (2005) «Эволюция» Пер. с немецкого, ЛОГОС, 256 стр.]

Каждый агент находится в одной ячейке в пространстве ячеек n * m, где n строки, m столбцы. Агенты могут обозревать соседей на расстоянии o. o есть натуральное число, обозначающее, сколько ячеек вокруг себя агент может «видеть». Если o = 1, то агент может обозревать восемь ячеек. Края отсутствуют как в торе, то – есть строка 1 соседствует со строкой n, колонка 1 соседствует с m.

Имеется g различных благ, которые могут быть в собственности и торговаться агентами. g - натуральное число 2. Каждый агент имеет портфель g различных благ. n*m × g матрица запасов At описывает портфели всех агентов в дискретное время t 0. Все компоненты матрицы At являются натуральными числами. Кредит отсутствует, поэтому At 0 для всех t. Агенты торгуют с другими агентами в пределах своего горизонта. Торговый контакт вовлекает двух агентов и два блага. Один агент предлагает к обмену продукт A в обмен на некоторое количество продукта B.

Пусть n*m × n*m × g матрица Pt описывает все предложения от агентов i агентам j касательно продуктов k во время t. Предложение от агента Ai агенту j влечет в точности два не равных нулю элемента матрицы Pt. Один положительный указывает на поток продукта от агента i к агенту j; другой отрицательный направлен в противоположном направлении. Там, где предложений нет, элементы матрицы равны нулю. Агент, которому сделано предложение может его принять или отклонить. Матрица сделок Dt имеет ту же размерность, что и матрица предложений Pt и описывает принятые предложения.

Сделка всегда завершается так, как хотят оба партнера Торговый раунд состоит из следующих шагов: Агенты направляют свои предложения в соответствии с видимым горизонтом. Матрица Pt калькулируется по правилам, объясняемым дальше. Агенты принимают наилучшие с экономической точки зрения предложения среди полученных предложений. Матрица Dt калькулируется согласно правилам принятия предложения. Заключенные сделки совершаются. Новая матрица At+1 калькулируется из старой матрицы At и матрицы принятых предложений Dt.

В соответствии с принятыми предположениями не происходит изменения количеств продуктов. (сумма всех продуктов есть константа). Математически это выглядит так: AtT* 1n*m = w for all t. w есть g-вектор, обозначающий общее богатство системы. 1n*m есть n × m-вектор из единиц. Агенты моделируются таким образом, что они различают себя и свое окружение.

Применительно к самому себе агент обозревает: Собственный портфель Свои принятые предложения Применительно к своему окружению агент обозревает: Агент может обозревать богатство соседей в рамках заданного горизонта. Среди предложений, поступивших от других агентов, данный агент может обозревать только в рамках горизонта. Он не может обозревать предложения, поступающие другим агентам, даже если последние находятся в его горизонте. Принятые сделки осуществляются в рамках горизонта.

Агенты выставляют свое богатство честно, без обмана. Поскольку модель не использует цены, то применяется следующее правило: С вероятностью p показывается количество и наименование продукта с наибольшим количеством. Если такой продукт не единственный, то используется лексикографическое правило выбора. В исходном положении эта вероятность полагается равной 1.

Другие правила, например, Данные исходные обмены товаров по заданным обменным курсам (память требуется) может выбираться не самый большой по количеству товар, а самый ценный. Более чем один товар показывается. В математических терминах правило показа есть одно0однозначное отображение: A A, множества n*m × g (запасов) матриц A в себя. Пусть матрица Xt обозреваема. Заметим, что Xt At для всех t.

Каждый агент может выдвигать предложения всем своим соседям. В зависимости от обозревания агента различные правила применяются: Применяется арбитражное правило, когда агент обозревает (по крайней мере) двух агентов, обменивающихся одним товаром но в разных пропорциях («ценах»). В математических терминах правило выдвижения предложения может быть описано как одно - однозначное отображение: A × Δ × A Δ. A обозначает множество n*m × g (stock) матриц как и прежде. Δ обозначает множество n*m × n*m × g (предложение, сделка, или поток) матриц. Поскольку предложения зависят от запасов, следующее тождество имеет место: Pt = propose(At,Dt-1,showoff(At)) for all t 1.

Если агент обозревает, что другой агент обменивает товар A на товар B в определенной пропорции, то он будет делать то же самое в следующем раунде. Без потери общности агент i выбирает товар A как первоначальный объект для торговли и выбирает товар B как плату. Имея в виду это обстоятельство, множество сделок (обменов между A и B) может быть разделено на обозреваемые покупки (товар A) и обозреваемые продажи (товара A) в соответствии со знаком обозреваемой сделки. Основной результат экспериментов с моделью Лумана состоит в том, что всегда возникает неравенство в обществе не зависимо от начального состояния, не зависимо от того, разные агенты или одинаковые и не зависимо от модификаций правил взаимодействия.

1.Виды деятельности в явном виде (атомы) 2.Взаимодействие между более чем двумя агентами 3.Интеграция в модель типа CGE Если посмотреть на человеческое (и не обязательно человеческое) общество, так сказать, «сверху», то мы увидим, что каждый человек в любой момент времени чем- то занят, каким то видом деятельности. При этом значительная часть этой деятельности может быть охарактеризована как взаимодействие друг с другом. Это и парные взаимодействия, и взаимодействия трех и более человек.

Виды деятельности человека можно идентифицировать, описать, определить. Понятно, что, в принципе, список видов деятельности потенциален. Он расширяется, лучше сказать, изменяется с развитием человеческого общества. Таким образом, моментальный снимок, то – есть состояние человеческого общества в некоторый момент времени описывается следующим образом. Для каждого человека указывается, каким видом деятельности он занимается и с кем при этом взаимодействует. Если то же самое сказать формальным языком, то получится следующее. Сначала обозначения: a - номер человека (agent) A - множество (номеров) людей, составляющих общество. t - номер интервала времени. m - номер действия, которое может производить человек.

ma(t) – действие (move), осуществляемое (или не осуществляемое) человеком a в интервале времени t. Собственно, ma(t) есть номер (натуральное число), под которым данное действие фигурирует. M – множество возможных действий (номеров этих действий), которые могут в принципе осуществлять люди. Элемент множества М есть порядковое число m, под которым фигурирует данное действие. D - подмножество множества A, людей, осуществляющих взаимодействие между собой в процессе своей деятельности. Da(t) – взаимодействие, в котором участвует человек a в момент времени t; То есть Da(t) есть подмножество множества людей (группа), осуществляющих данное взаимодействие. Одно и то же подмножество людей может осуществлять разные взаимодействия.

Итак, внешне наблюдаемое состояние общества в данный момент времени понимается как множество пар [действие ma(t), взаимодействие Da(t)], относящихся ко всем членам общества, то – есть {ma(t),Da(t)}, где a пробегает A. В общем случае естественно не предполагается, что в данный момент времени человек осуществляет только одно действие и/или только одно взаимодействие. Например, можно одновременно принимать ванну и читать книгу (два действия без взаимодействия). Или играть в гольф и вести деловые переговоры (два действия и два взаимодействия в случае, если партнер по гольфу и по переговорам не совпадают).

Всегда оговаривается, что в данный момент времени будет происходить: только действие или действие и взаимодействие. Формально действие можно считать взаимодействием с самим собой. Точнее, при осуществлении действия происходит взаимодействие с самими собой. В простых моделях общества, где действия и взаимодействия достаточно укрупненные, предположение о том, что человек одновременно осуществляет только одно действие и одно взаимодействие, представляется естественным.

Известный подход к пониманию материи и ее свойств состоит в представлении, что есть элементарные частицы, кирпичики, из которых строится всё разнообразие материальных объектов, с которыми мы сталкиваемся. Причем хочется, чтобы элементарных кирпичиков было сравнительно немного. Используя данный подход к пониманию общества, можно считать такими элементарными кирпичиками действия и взаимодействия людей. Не самих людей, что некоторым кажется наиболее естественным, а действия, которые они осуществляют. Тогда желание видеть количество элементарных частиц небольшим хотя бы частично имеет место. Разнообразие людей намного больше, чем разнообразие действий, ими осуществляемых. Да и сами люди – очевидно более сложные образования, чем их действия.

Первый: когда и по каким причинам происходят действия и взаимодействия? Второй: что меняется в головах людей и в обществе в целом в результате осуществления действий и взаимодействий? Для ответа на первый вопрос надо сформулировать правила, в соответствии с которыми люди принимают решения и далее эти решения осуществляются. Для осуществления действия достаточно решения человека. Для осуществления же взаимодействия необходимо групповое решение. Групповые решения, как известно, принимаются по различным правилам, которые и необходимо специфицировать в том или ином случае.

Что касается второго вопроса, то здесь появляются понятия информации, памяти, состояния, которые относятся и к отдельному человеку, и к обществу в целом. Применительно к человеку иногда удобно употреблять слово «портрет». Портрет человека, биологический, психологический, социальный, одним словом, какой угодно, точнее какой нужно для описания его состояния. Пусть Sa(t) есть состояние человека a в момент времени t. Я не пытаюсь специфицировать Sa(t) на данной стадии описания. Как правило, состояние человека - это некоторый набор чисел, часть из которых являются какими-то параметрами, а часть – номерами тех или иных качественных характеристик. Кроме того, имеется состояние общества S(t), информация о котором не покрывается информацией о состояниях всех его членов.

Теперь можно сформулировать полную траекторию движения общества в виде {ma(t), Da(t), Sa(t), S(t)}, a (-- A, t (-- T. Эта траектория порождается «правилами», по которым люди выбирают то или иное действие и вступают в то или иное взаимодействие. Легко представить, что таких правил - великое множество. Конкретные модели общества отличаются друг от друга именно этими правилами. Рассмотрим в качестве примера следующие правила выбора действий и взаимодействий. Каждый человек в данный момент времени имеет предпочтения в выборе действия, которое следует осуществить, а также с кем при этом взаимодействовать. При этом если выбор действия зависит только от него, то выбор взаимодействия зависит также от всех других участников данного взаимодействия.

Таким образом, данное действие и взаимодействие осуществляются тогда и только тогда, когда они для человека наиболее приоритетны, и при этом все другие участники взаимодействия согласны принять в нем участие. Согласие означает не что иное, как высшая приоритетность данного взаимодействия для каждого из участников. Всё сказанное означает, что человек должен выбирать наилучшее решение на довольно обширном множестве пар {m,D}. Как уже отмечалось, множество возможных действий сравнительно невелико. Однако множество возможных групп участников взаимодействия настолько обширно, что не укладывается в памяти и не может быть просмотрено в процессе принятия решения. Поэтому, как правило, делается предположение об ограниченной рациональности. Указываются правила формирования множества пар, на котором принимается решение.

Агенты находятся в одном из нескольких возможных состояний (действий). По крупному, состояния или действия делятся на два типа. К первому типу относятся действия, которые напрямую не связаны с взаимодействием с другими агентами. Ко второму типу, наоборот, относятся действия, затрагивающие других людей. Говоря более формально, это действия в группе из двух или более агентов, то – есть групповые действия. При этом индивидуальные действия раз и навсегда заданы, их набор зафиксирован. Что касается групповых действий, то их набор является переменным. Как он меняется, объясняется дальше.

В симуляционном процессе случайным образом активизируется агент, который выбирает действие в данный период времени. Выбор действия в данный период времени определяется в зависимости от уровня привлекательности, выражаемого числом. Агент выбирает такое действие, которое является в данный момент наиболее привлекательным. Если действие относится к первому типу, то оно и реализуется. Если действие относится ко второму типу, то проводятся следующие операции: Выявляется группа, в которой агент хочет осуществить свое действие. Каждый член группы опрашивается на предмет выявления, является ли его участие в группе наиболее привлекательным. Если для всех членов группы действия в группе наиболее привлекательны, то они и осуществляются. Если для хотя бы одного члена группы, участие в ней не является наиболее привлекательным, то уровень привлекательности всех остальных членов группы уменьшается. После этого ситуация возвращается в прежнее состояние в раунде, относящемуся к данному моменту времени.

Как уже было сказано выше, набор групповых действий (и самих групп) меняется. Если набор действий как таковых сравнительно невелик и фиксирован, то одно и то же действие из этого набора, но осуществляемое в разных группах, это, по определению, разные действия. Поэтому теоретически групповых действий невообразимо много. В условиях известного постулата об ограниченной рациональности память агента ограничена, например, максимальным числом групповых действий, которые он может помнить.

(The First World Congress on Social Simulation) состоится в 2006 году августе в Киото (Япония) Организатор Pacific Asian Association for Agent –Based Approach in Social Systems Sciences (PAAA). В кооперации с The North American Association for Computational Social Systems Science (NAACSOS); The European Social Simulation Association (ESSA); Kyoto University.

SFI (Santa Fe Institute) развивает идею и направление синтеза различных наук. В нем собраны физики, химики, биологи, представители общественных наук. Проект 2050 представляет собой совместное предприятие SFI, the World Resources Institute and the Brookings Institution. Лаборатория искусственных обществ

The Journal of Artificial Societies and Social Simulation (JASSS)

1.Epstein Joshua M. (2005) Remarks on the Foundations of Agent-based Generative Social Science SEI Working Paper (Santa Fe Institute). 2.Epstein Joshua M. and Axtell Robert (1996) Growing Artificial Societies: Social Science from the Bottom Up Brooking Institution Press and MIT Press, Washington DC. 3.Conway J. (1970) The Game of Life. Journal Scientific American. 4.Gershenson Carlos G. (2001) Artificial Societies of Intelligent Agents. Thesis presented to Fundacion Arturo Rosenblueth. 5.Fleischmann Anselm (2005) A Model for a Simple Luhmann Economy. Journal of Artificial Societies and Social Simulation vol. 8, no.2 6.Hemelrijk, C. K. (1999) An individual-oriented model of the emergence of despotic and egalitarian societies. Proceedings of the Royal Society. London B. 266, Lansing J. Stephen (2005) Artificial Societies and Social Science, SEI Working Paper (Santa Fe Institute). 8.Josep M. Pujol, Andreas Flache, Jordi Delgado and Ramon Sangüesa (2005) How Can Social Networks Ever Become Complex? Modeling the Emergence of Complex Networks from Local Social Exchanges Journal of Artificial Societies and Social Simulation vol. 8, no. 4

9.White Douglas R., Kejzar Natasha, Tsallis Constantino, Doyne Farmer, and White Scott (2005), A generative model for feedback networks SEI Working Paper (Santa Fe Institute). 10.White D. R., and Spufford P. (2004) Civilizations as Dynamic Networks: Monetization and Organizational Change from Medieval to Modern SEI Working Paper (Santa Fe Institute) 11.Люгер Ф. Джордж (2003) Искусственный интеллект. Перевод с четвертого издания. Изд. Вильямс. 863 стр. 12.Луман Н. (1999) «Теория общества», в сб. Теория общества, М. КАНОН-пресс Ц. стр Луман Н. (2005) «Эволюция» Пер. с немецкого, ЛОГОС, 256 стр.