WWW.KNIGA.SELUK.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА - Книги, пособия, учебники, издания, публикации

 

ЦЕНТРАЛЬНЫЙ ЭКОНОМИКО – МАТЕМАТИЧЕСКИЙ ИНСТИТУТ РАН

ВОРОНЕЖСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ

Системное моделирование

социально – экономических

процессов

международная научная

школа – семинар имени С.С. Шаталина

(работает с 1978 г.)

заседание

МАТЕРИАЛЫ

К КРУГЛОМУ СТОЛУ:

«Искусственные миры в экономике»

г. Воронеж 9 – 13 октября 2006 г.

Воронеж, 2006 Уважаемые участники XXIX-ой Школы-семинара!

Приглашаем Вас принять участие в Круглом столе по обсуждению проблем разработки компьютерной модели общества.

Компьютерная модель общества В.Л. Макаров 0. Для чего нужна КМО?

Со времен Френсиса Бэкона, а, может быть, и раньше ученые осознали, что новое знание получается методом «чтения книги жизни». Однако вопрос о том, как же конкретно ее читать, остается.

Приборы для чтения книги жизни многообразны и подвержены классификации подобно наукам. Физические приборы, включая миллиардной стоимости синхрофазатроны, - это один тип приборов. Им подобны астрономические, химические, биологические приборы (телескопы, микроскопы, котлы, камеры и пр.). Другой тип приборов используется, в основном, общественными науками. Это различные способы измерения происходящего в обществе: опросы, статистические конторы, СМИ, институты голосования, ИНТЕРНЕТ-обработка и др. При использовании приборов чтения книги жизни возник феномен вмешательства в явление в процессе его измерения. Это принцип неопределенности Гейзенберга в физике, влияние на мнение населения при проведении и публикации опросов и др.

Компьютерная модель объекта, явления, процесса может быть разной степени сложности и разной степени адекватности. Возможна ли точная копия объекта или нет? Что говорит мысленный эксперимент? Какие парадоксы здесь возникают? Другое понятие машины времени. Возможные миры и реализуемые миры. Я пытаюсь обсудить эти вопросы в теоретическом плане.

Чем отличается виртуальная, в том числе компьютерная реальность, от «настоящей»

реальности. И есть ли «настоящая» реальность? Понятно, что, как всегда, вопросов больше чем ответов.

1. Типы реальности.





Первичная реальность. Это нечто, что познается человеком непосредственно, с помощью его органов чувств. То – есть человек с ней, с этой реальностью, соприкасается непосредственно. Для человека 20 века автомобили, самолеты, радио, телефон, телевидение являются первичной реальностью, подобно тому, что для человека 19 века таковой реальностью являются лошади, телеги, мушкеты и т. д.

Вторичная реальность появляется из рассказов о первичной реальности другими людьми. То есть первичной реальностью является сам рассказ, а внутри рассказа есть другая реальность, которую человек не может воспринимать как первичную. Епископ Джозеф Беркли, основатель солипсизма, признавал только первичную реальность. Полученная информация с помощью, например, телевизора, есть информация вторичная.

Вопрос: как понимать реальность, полученную человеком не через органы чувств, данные Богом, а через вспомогательные приборы, стоящие между органами чувств и предметами реальности? Например, слепой пользуется аппаратом, заменяющим ему зрение. Астроном пользуется телескопом, биолог – микроскопом. Снимки обратной стороны Луны или Марса получаются с использованием целой совокупности приборов.

Вроде бы современный человек смирился с тем, что получаемая с помощью приборов информация также первична. Ибо информация, полученная ощупыванием рукой или палкой (то – есть прибором), так сказать, одного порядка.

2. Работа мысли.

Получив информацию о реальности, человек формирует представление о мире с помощью мыслительных процедур. В частности, с помощью мыслительных процедур устанавливаются причинно – следственные связи. Все мы знаем, что мыслительные процедуры также можно усиливать с помощью приборов. Усиление мыслительного процесса с помощью приборов также имело и имеет своих скептиков, как и получение первичной информации, о которой речь шла выше. Любой калькулятор является таким прибором.

Появившиеся во второй половине 20 века компьютеры почти сразу стали рассматриваться как усилители мыслительных процедур. Проведение с помощью компьютеров математических выкладок, логических заключений привело к тому, что сложные и утомительные математические доказательства стало возможным поручать компьютеру. Опять появились неверующие: считать или не считать теорему доказанной, если часть работы проделал компьютер.

Главная цель мыслительных процедур: из фактов главным образом первичной, но не только, реальности создавать картины мира и его частей, создавать теории. Эти картины, эти теории помогают ориентироваться в жизни. Именно они создают у человека ощущение, что он понимает, что происходит. Субъективное ощущение понимания возникает именно тогда, когда в голове построена теория, построена модель. И когда появляющиеся новые факты укладываются в эту теорию, в эту модель.

Ясно, что мыслительный процесс неоднозначен. На одних и тех же фактах можно строить, и реально построены разные теории. Отсюда бытовые и научные споры.

3. Компьютерные модели.

Создание моделей реальных объектов является едва ли не главным в процессе познания. И модели создавались всегда, коль они неотделимы от процесса познания. Модели разные по своему инструментальному содержанию. Лев Толстой создал художественную модель войны 1812 года.





Брюллов – модель гибели Помпеи. Историк, излагая исторические факты, вольно или невольно придерживается какой то модели, иначе изложение не будет понятным. Модель царствования Петра Первого у славянофила и у западника будут принципиально различаться, хотя и используют одни и те же факты.

Модели создаются не только для познания, но и для облегчения творчества. Особенно любят модели архитекторы. Прежде чем возводить дворец, они делают его модель. Распространены модели кораблей, самолетов, городов.

Компьютеры совершили переворот в процессе создания и использования моделей. Модели получили новое качество, и мы пока не осмыслили всех последствий этого нового качества для процесса познания. Возможно, что здесь появляются новые логические и даже физические парадоксы.

4. Компьютерная машина времени.

Чтобы представить себе, о чем идет речь, рассмотрим мысленный эксперимент. Построим компьютерную модель какого-нибудь реального объекта, например, модель Советского общества – х годов 20 века. Как всякая модель, она является лишь некоторым приближением действительности. Однако модельеры знают, что любую модель можно «совершенствовать», делать ее все более точной. Например, если в исходной версии набор действий, осуществляемых (компьютерным) человеком состоял из 10 позиций, что в следующей версии он может состоять из 100 позиций и т. д. То – есть отражение действительности в модели становится все более точным.

Теперь спросим себя, где находится предел для описанной последовательности моделей, в которой каждая последующая модель более точно отражает действительность. Пределом является точная копия действительности. Если бы предел был достижим, что мы бы имели не что иное, как машину времени в предположении, что компьютерное время быстрее реального. Причем компьютерная модель устроена так, что двигаться во времени можно в двух направлениях, и вперед, и назад.

Специалист по математической логике сразу скажет, что предел недостижим хотя бы потому, что возникает логический парадокс. А именно, собственная часть оказывается равной целому.

Компьютерная модель действительности в точности равна самой действительности, собственной частью которой является эта модель.

5. Экспериментальное знание против математического.

Традиционно считается, что математическое знание имеет, так сказать, высший рейтинг. Это знание высокого качества. Оно нетленно, оно навсегда, оно не подлежит пересмотру.

Ясно, однако, что математический способ получения нового знания весьма ограничен. Он, как известно, состоит в следующем. Формулируется математическая модель объекта, процесса, явления в виде набора исходных предположений (аксиом). А далее доказываются утверждения относительно свойств данной модели. Например, для знаменитой модели рыночной экономики Эрроу – Дербе доказывается существование и оптимальность рыночного равновесия.

Стремление сделать математическую модель более совершенной, более приближенной к реальности приводит к ее переусложнению. Когда математическая модель перегружена деталями, затруднительно или невозможно получить результат математическим путем. Другими словами, математическое моделирование имеет весьма низкий порог сложности, даже в предположении, что часть выкладок будет производиться компьютером.

Компьютерная модель лишена этого недостатка. Можно строить сколь угодно сложные модели, которые будут все более точно отражать действительность. Но что дальше делать с построенной моделью? Последнее время развивается методология получения нового знания с помощью вычислительных экспериментов на компьютерных моделях. И естественно возникает вопрос, насколько знание, полученное из вычислительного эксперимента, может считаться знанием относительно реальности (а не относительно искусственного объекта – компьютерной модели).

Другой аспект этого вопроса связан с различием в получении знания дедуктивным и индуктивным путем. В математике сначала формулируются аксиомы и правила вывода, а потом вступает в действие дедукция. Результат дедуктивного вывода и есть новое знание. Оно носит, как видим, условный характер. Если аксиомы и правила вывода адекватно отражают какой – то мир, то и полученные выводы адекватно описывают этот мир. Индуктивный метод состоит в накоплении неких фактов и дальнейшей их обработке. Результатом последней и является новое знание.

6. Искусственные миры.

Итак, наука идет в направлении создания искусственной, виртуальной, компьютерной действительности. Называйте, как хотите. Но эта рукотворная реальность есть некая другая картина мира. Не та, которая сидит в наших головах или описана в книгах, а именно другая, чего раньше не было в арсенале человечества. Это принципиально иной прибор для познания действительности, для добывания нового знания.

Правда, нельзя сказать, что это совершенно новый, неожиданный скачок в инструментах познания реальности. Промежуточным шагом можно считать всем хорошо известные игры. Игры, которые были всегда, игры, в которые играют и животные. Игры имитируют жизненные ситуации.

Слово «имитируют» означает, что в игре речь идет о модели реальности. Например, в футболе обучаются ловкости, в бизнес – играх обучаются бухгалтерскому, брокерскому делу управлением компанией и т. д. Распространение компьютерных игр среди детей свидетельствует о том, что виртуальная реальность специально делается симпатичнее настоящей реальности.

Всё большее распространение получают, так называемые, ситуационные комнаты. Там играют важные дяди, облеченные большой ответственностью. Первая ситуационная комната, как известно, была сделана по приказу Макнамары, министра обороны США в то время. В ней разыгрывались варианты военных действий во Вьетнаме в зависимости от тех или иных решений командиров. «Что будет, если…» (What – If) анализ, инструментарий которого взят на вооружение всеми развитыми странами, представляет собой не что иное, как создание и использование искусственных миров. Понятно, что чем ближе искусственный мир к реальному, тем лучше. Тем достовернее предсказания, тем реалистичнее прогнозы.

Уже наклёвывается естественное разделение труда. Одни создают модели искусственных миров, а другие проводят с ними эксперименты.

Не за горами то время, когда инструмент искусственного мира заработает на полную мощь и станет доминирующим способом получения новых знаний в общественных науках. Каковы последствия существования электронного зеркала действительности, вопрос, на который пока нет определенного ответа.

7. Компьютерные модели общества.

Компьютерными моделями общества, которые можно найти в литературе, называются самые разнообразные по идейному подходу, по уровню детальности, по целям исследования модели. В настоящей работе нет задачи, как–то классифицировать их, или дать обзор моделей, которые можно отнести к категории моделей именно общества.

В качестве ссылки укажем на Международное общество Artificial Societies and Social Simulation, и выпускаемый им журнал Journal of Artificial Societies and Social Simulation сокращенно JASSS.

Мы сосредоточиваемся на описании КМО, разработанной нами, обращаясь к другим моделям и работам только по мере надобности, когда это, так сказать, напрашивается. КМО по своему замыслу является универсальной (полной, замкнутой) моделью, то – есть в ней в том или ином виде представлены все основные процессы, явления, секторы, участники общества. Если какое то явление или процесс или участник не представлены в виде самостоятельной модели, не моделируется их влияние на остальное общество, то тогда они заданы в, так называемом, фиксированном виде.

Например, в модели экономики (подмодели КМО) какой либо страны внешний мир может быть представлен в виде фиксированных входов и выходов, которые не меняются на протяжении любых экспериментов.

Основная техническая задача, стоящая перед разработчиками – выделить относительно самостоятельные блоки, то – есть блоки, имеющие самостоятельное исследовательское и модельное значение. На них можно (и нужно) получать относительно независимые результаты.

В качестве базового технического средства (программной среды) выбран EXCEL (часть Microsoft Office), которое позволяет строить модель, как растущее дерево, когда на любой стадии модель имеет самостоятельную ценность и может использоваться для численных экспериментов.

Технология растущего дерева означает не только добавление новых блоков (ветвей), но и вырастание из элементарной клетки более сложного образования. Поэтому некоторые модели из данного дерева можно рассматривать как параметрический ряд.

Использование других программных средств, естественно, не возбраняется, но должно быть встроено в среду EXCEL. Например, используются нейронные сети как способ принятия рациональных решений индивидом.

Упомянутый выше принцип растущего дерева использован для пояснения метода построения КМО. Это отнюдь не означает, что общество развивается как растущее дерево. Могут быть, например, качественные скачки типа перехода от одного общественного строя к другому.

Моделируются войны, естественные катаклизмы. Здесь важно заметить, что КМО является принципиально новым инструментом в определении и, соответственно, изучении таких понятий как права человека, уровень их нарушения, демократия и степень ее развития, тоталитаризм, индивидуальная свобода, гражданское общество и т. п., и т. д. Причем, все эти перечисленные понятия, как и многие другие понятия такого рода, не просто получают точное определение, но и численно измеряются. Это дает основу для предложений, как водить соответствующие индексы для измерений реальных обществ.

8. КМО – живой организм.

КМО является эволюционной, самосовершенствующейся, живой, что означает следующее.

1. Эволюционная модель. Наличествуют все признаки эволюционного процесса. Имеются правила поведения (принятия решений) и правила взаимодействия всех агентов. Имеются правила порождения и исчезновения агентов. Имеется параметр времени. Поэтому, когда модель функционирует, идет типично эволюционный процесс.

2. Самосовершенствующаяся модель. Свойство самосовершенствования не исчерпывается свойством способности эволюционировать. Здесь имеется в виду постоянное взаимодействие с внешним миром, который питает модель новыми идеями, не могущимися рождаться в формальном эволюционном процессе. Эти идеи порождаются внешним миром, а модель способна их адаптировать и тем самым, становиться более совершенной.

3. Живая модель. Свойство «живое» определить достаточно точно не представляется возможным. Приходится ограничиваться интуитивными представлениями, идущими из органического мира. Интуитивное представление о живом организме состоит в том, что последний, в отличие от мертвого, постоянно обменивается с внешней средой как материей и энергией, так и информацией. Таким образом, если можно говорить о живой природе в целом, то живой организм является ее неотъемлемой частью. По аналогии можно говорить об обществе, как о некой живой сущности и КМО встроена в в общество как его действующая часть, которая находится в постоянном общении с другими частями общества. В этом смысле Интернет можно рассматривать как нечто живое, ибо имеется постоянный обмен информацией между людьми и этим институтом как таковым.

Можно еще привести такое рассуждение, используя понятие «уровень сложности». Радио или телефон являются каналами общения между людьми и только. Их сложность невелика. Но как только сложность переходит некоторый предел, канал общения перестает быть только техническим устройством. Он превращается в самостоятельное существо, которое живет по своим законам и представляет собой поэтому нечто живое. В свое время Дж.Фон Нейман заметил, что процесс самовоспроизведения устройства может иметь место только тогда, когда это устройство является достаточно сложным.

Однако для того, чтобы модель оставалась живой, необходимо быть в постоянном контакте с «окружающей средой». Быть активной частью этой среды. В противном случае пропадает одно из основных свойств живого – постоянное накопление информации, постоянное изменение. Живая сущность, в отличие от неживой, всё время меняется. Живое в разные моменты времени заметно отличается от самого себя.

Если вернуться к Интернету как примеру конструкции, имеющей черты живого, то можно говорить также об его отдельных частях - сайтах, которые в той или иной степени можно считать живыми.

Сайт, который непрерывно обновляет свое содержание (контент) и к которому часто обращаются различные пользователи, имеет несомненные черты живого. Аналогия с живыми биологическими организмами становится наглядной, если сайт связан с устройством, что либо измеряющим в реальном мире. Например, это может быть измеритель температуры в конкретном месте или табло фондовой биржи с показателями текущих торгов, или камера слежения. Это устройство вполне аналогично рецептору биологического существа.

Другое характеристическое свойство живого существа состоит в реакции на питающую его энергию. Во-первых, это существо имеет внутри себя датчик, который сигнализирует об уровне поступающей для его жизнеобеспечения энергии, подобно тому, как компьютер, питающийся от батарейки, сигнализирует о том, каков ее заряд. В этом смысле сигнал компьютера, например, звуковой, ничем принципиально не отличается от мычания коровы, которая просит есть. Эту аналогию можно продолжить. Компьютер, снабженный программой автоматического переключения на автономное питание, если централизованный источник тока внезапно отключился, ведет себя подобно мыши, случайно попавшей в воду. Мышь, как известно, старается изо всех сил дышать воздухом, а не водой.

9. Искусственные общества Искусственное общество состоит из агентов, взаимодействующих между собой. Почему агентов, а не людей, граждан, членов общества? Так сложилось в литературе, в которой доминируют англоязычные источники. Термин «агенты» твёрдо укоренился и, в частности, компьютерные модели, где атомами являются агенты, называются агент – ориентированными моделями (agent – based models).

Известный исследователь в области агент – ориентированных моделей Джошуа Эпштейн отмечает следующие их характеристические свойства (см. Epstein Joshua M. (2005):

• Неоднородность. Агенты чем то отличаются друг от друга, что принципиально отличает эти модели от широко распространенных моделей экономики с агентом – представителем.

• Автономия. Агенты действуют независимо друг от друга.

• В явном виде задано или описано пространство, в котором действуют агенты. Например, клетки на плоскости, сахарный ландшафт.

• Локальные взаимодействия.

• Ограниченная рациональность.

• Динамика не в состоянии равновесия.

Кстати сказать, указанная работа интересна ещё и тем, что в ней приводятся веские аргументы, опровергающие известное мнение, что агент – ориентированные модели не используют математический аппарат, (например, уравнения), не используют дедуктивный метод, не используют метод обобщения. Всё это они прекрасно используют, только не всегда в явной форме.

Искусственное общество – это не просто агент – ориентированная модель. Есть ещё что– то дополнительное, говорящее о том, что это именно общество. Агентов должно быть, по меньшей мере, два. Они должны взаимодействовать между собой. А самое главное – агенты должны быть похожими друг на друга, при взаимодействиях воспринимать друг друга подобными себе. Именно тогда появляется социальное поведение. Понятно, что приведенные рассуждения далеки от сколько-нибудь точных. Это показывает, что построенное искусственное общество мы называем обществом также приблизительно. Здесь ключевое слово «построенное». Как писал Ницше: «Имеются существа, которых мы никогда не познаем, кроме как изобретём их».

Познание через построение, через выращивание – это основной метод изучения общества. В большинстве работ, посвященных построению и изучению агент – ориентированных моделей, правила взаимодействия между агентами чрезвычайно просты. Тем не менее, в результате получаются вполне осмысленные содержательные результаты. Например, клеточные автоматы взаимодействуют по исключительно простым правилам. Сама простая - это игра «Жизнь». (См.

Conway J. (1970) “The Game of Life”. Journal “Scientific American”.) Агент – ориентированная модель социально-экономической системы России со встроенными Мотивы поведения человека в социально-экономической среде занимали умы величайших философов и ученых на продолжении всей истории человечества.

Согласно классической теории поведения потребителя, принимаемые им решения исходят из соображений полной рациональности. Предполагается, что человек всегда выбирает наилучшее действие с целью максимизации полезности от приобретаемых им благ или его поведение в плане поиска работы оптимально с точки зрения будущего дохода. При этом также предполагается, что человек знает все возможности выбора и осведомлен о последствиях каждой альтернативы.

Нобелевский лауреат Герберт Саймон (Саймон (2000)) подверг резкой критике данный подход с его «абсурдно всеведущей рациональностью» и показал, что такая модель поведения человека далека от реальности.Основной аргумент Г. Саймона заключается в том, что в основе поведения человека как работника лежит не только желание получить максимальный денежный доход, но еще и моральные факторы, связанные с удовлетворением его социальных потребностей или с реализацией творческих возможностей.

Несмотря на то, что такое понятие как «моральное удовлетворение» не рассматривается в классической экономической теории, в психологии оно имеет первостепенное значение. В большинстве психологических теорий, основным мотивом человека, побуждающим его к действиям, является неудовлетворенность стремлений. Причем уровень стремлений непостоянен, а зависит от жизненного опыта, в связи с чем, достижение удовлетворенности является итерационным и непрекращающимся процессом.

По мнению Г. Саймона в человеческом поведении много иррационального, а границы рациональности для каждого индивидуума не статичны и могут изменяться в зависимости от окружения. Например если ситуация хорошо знакома, а реакция внешней среды предсказуема, то принимаемое решение может быть оптимальным, однако в случае изменения какого-нибудь параметра внешней среды, с одной стороны могут поменяться границы рациональности, а с другой – не факт, что принимаемое решение будет оптимальным.

Традиционное принятие решений на основе рационального поведения было раскритиковано Г. Саймоном в разработанной им концепции ограниченной рациональности (bounded rationality), согласно которой «способности человеческого мышления формулировать и решать комплексные проблемы в очень малой степени сравнимы с масштабом проблем, решение которых требуется для объективного рационального поведения в реальном мире или даже для приемлемой аппроксимации к такой объективной рациональности» (Пью, Хиксон (1999)).

Также необходимо отметить, что множество рассматриваемых человеком альтернатив гораздо меньше их реального числа, и поэтому невозможно точно предсказать последствия любой из них.

Кроме того, цели, достигаемые человеком, являются неоднозначными и поэтому их нельзя измерить количественно.

В нашей работе мы решили отказаться от традиционного моделирования поведения человека посредством максимизации функции полезности в пользу нестандартного моделирования ограниченной рациональности, посредством применения технологий искусственного интеллекта.

Существует пять основных направлений моделирования ИИ: 1) нейронные сети, 2) эволюционные вычисления; 3) экспертные системы; 4) нечеткая логика; 5) генетические алгоритмы.

Среди них, для моделирования поведения человека в социально-экономической среде больше других подходят нейронные сети, экспертные системы и аппарат нечеткой логики. Эволюционные вычисления применяются для других целей (для самовосстановления и самоконфигурирования сложных систем, состоящих из одновременно функционирующих модулей), а генетические алгоритмы в основном используются для задач оптимизации. Поскольку в своей работе мы исходим из теории ограниченной рациональности, то решение оптимизационных задач здесь неуместно. Что касается оставшихся трех направлений ИИ, то для разрабатываемой нами модели они равнозначны, но есть отдельные тонкие моменты, исходя из которых, мы отдали предпочтение нейронным сетям.

В модели мы имитируем поведение множества людей, которые воплощены в модели в виде «виртуальных обществ». Для их обучения с последующим встраиванием в модель, использовались данные реально проводимых опросов нескольких тысяч респондентов. Результаты работы нейронных сетей, обученных на большом количестве наблюдений, на наш взгляд будут больше соответствовать действительности, чем экспертные системы (исчисляющие предикаты из базы знаний, полученной путем опроса нескольких экспертов) и системы нечеткой логики (использующих правила, также закладываемые несколькими людьми).

Перечисленные выше системы ИИ нашли свое применение в самых различных областях – бизнесе, медицине, физике и, в том числе, экономике. Однако эти системы в большинстве случаев используются автономно, а не в составе имитационных моделей. К примеру, те же нейронные сети используют для прогноза макроэкономических показателей, так же как и одиночные регрессионные уравнения (Beltratti, Margarita, Terna (1996)).

Лишь за последние несколько лет стали появляться публикации, авторы которых делятся опытом использования систем ИИ в составе сложных моделей для более адекватного представления деятельности экономических агентов. В то же время моделей, использующих в качестве ИИ нейронные сети, совсем немного.

Г. Саймон еще в 1970-ых годах отметил, что «за последние 20 лет, благодаря исследованиям в области искусственного интеллекта и когнитивной психологии, наше понимание процедурной рациональности заметно продвинулось. Использование этих достижений в экономической теории могло бы существенно углубить наши представления о динамической рациональности и воздействии на процессы выбора институциональных структур, в рамках которых осуществляется выбор» (Simon (1978)). Такое отставание во времени связано в первую очередь с неспособностью вычислительных машин тех лет численно разрешать модели большой размерности. Теперь современные компьютеры позволяют проводить такие вычисления.

В этой связи необходимо упомянуть про новое направление в прикладной экономике – «Вычислимой экономике агентов» (Agent-based Computational Economics, ACE), основой которого является моделирование виртуального мира, «населенного» автономными агентами (экономическими, биологическими и т.д.). В проект по созданию подобных миров вовлечено много исследователей, разработки которых выложены на сайте http://www.econ.iastate.edu/tesfatsi/ace.htm.

Управление созданным виртуальным миром, в соответствии с методологией ACE, осуществляется без вмешательства извне, т.е. только посредством взаимодействия агентов (Tesfatsion (2002)). При этом агенты должны обладать способностью к обучению.

Наиболее популярным прикладным пакетом для моделирования параллельно распределенного виртуального мира является универсальный пакет SWARM, разработанный в Институте Санта Фе (Santa Fe Institute). По своей сути SWARM является набором библиотек, написанных на языке Objective-C, служащих основой для разработок сложных мульти-агентных систем. Этот пакет в свободном доступе выложен в сети по адресу http://wiki.swarm.org.

Разработка виртуального мира в SWARM осуществляется за два основных этапа:

1) Создание среды виртуального мира, в которой будут сосуществовать агенты, определяемые на следующем этапе.

2) Создание агентов – объектов виртуального мира (к примеру, людей), с описанием их атрибутов и правил взаимодействий. В процессе своего существования, созданные агенты будут анализировать получаемые от окружающей среды данные, реагировать на них и пополнять свой опыт (обучаться). Этот этап разработки модели наиболее важен, поскольку агенты, корректно отражающие черты своего реального прообраза – залог адекватно построенного виртуального мира.

В то же время, необходимо отметить, что практически все наиболее известные работы, моделирующие поведение человека в социально-экономической среде, используя при этом технологии ИИ (к примеру (Zizzo, Sgroi (2000)), (Grothmann (2002)), (Kooths (1999)), (Tesfatsion (2002))) являются теоретическими, т.е. используют абстрактные данные, а цель их разработки в большинстве случаев заключается в проверке возможности применения такого инструментария. В отличие от подобного рода разработок, наша модель использует реальные данные и способна выдавать адекватные результаты.

Помимо вышесказанного, большинство экономических моделей, в которых используются технологии ИИ, являются итерационными, но количество итераций ограничивается самими разработчиками, которые «на глазок» определяют точку останова, а в нашей модели итеративный пересчет продолжается до логического завершения, определяемого особенностями моделирования экономической системы – среды функционирования «виртуальных обществ».

В качестве такой экономической системы, в которую мы встроили совокупность нейронных сетей, было решено использовать вычислимую модель общего экономического равновесия (Computable General Equilibrium Model, CGE модель). Модели этого класса сами по себе являются новым направлением в прикладной экономике, получившим широкое распространение во всем мире.

CGE моделям посвящено большое количество иностранной литературы, однако в нашей стране этому инструменту не уделялось должного внимания. Тем не менее, в ряде работ ЦЭМИ РАН были описаны недавно созданные CGE модели России и ее регионов, а также был проведен большой обзор зарубежных аналогов.

CGE модели можно определить в трех ключевых аспектах. Во-первых, они включают в себя экономических агентов, результаты деятельности которых, находят отражения во всей экономической системе. Именно поэтому CGE модели называются общими. Обычно в число агентов входят домашние хозяйства, фирмы и правительства. Во-вторых, CGE модели включают в себя систему нелинейных уравнений, посредством решения которой, достигается равновесие на рынке каждого товара, услуги и фактора производства. Благодаря этому модели становятся равновесными.

В-третьих, модели выдают количественные результаты, что позволяет называть их вычислимыми.

Соединяя CGE модель и совокупность нейронных сетей, мы получили симбиоз экономической системы и эмулятора мозга людей из рассматриваемых нами «виртуальных обществ».

Из-за экономии места мы приведем лишь краткую техническую характеристику модели с указанием основных агентов – действующих лиц социально-экономической системы. Более подробно про саму модель, системы искусственного интеллекта, применяемых для решения экономических задач можно прочитать в книге (Макаров, Бахтизин, Бахтизина (2005)). Итак, модель представлена семью экономическими агентами. Первые три из них являются агентами- производителями.

Экономический агент №1 – государственный сектор экономики. Сюда входят предприятия, доля государственной собственности в которых более 50 процентов.

Экономический агент №2 – рыночный сектор, состоящий из легально существующих предприятий и организаций с частной и смешанной формами собственности.

Экономический агент №3 – теневой сектор. Понимание теневого сектора в данной модели двоякое. С одной стороны к теневому сектору относятся нерегистрируемые в статистической отчетности экономические единицы, производящие товары и услуги, а с другой – легально существующие предприятия. В последнем случае в теневом секторе учитывается только их скрытая деятельность.

Экономический агент №4 – совокупный потребитель, объединяющий в себе домашние хозяйства России. Этот экономический агент представлен в модели совокупностью «виртуальных обществ», которые принимают различные решения исходя из сложившейся экономической ситуации. К таким решениям относятся 1) смена работы; 2) изменение потребительских предпочтений. Технически, в модели, на каждой итерации три нейронные сети вычисляют параметры трудовой мобильности, а еще две находят доли бюджета домашних хозяйств, идущие на покупку конечных товаров, на сбережения и на покупку валюты.

Экономический агент №5 – правительство, представленное совокупностью федерального, региональных и местных правительств, а также внебюджетными фондами. Кроме того, в этот сектор входят некоммерческие организации, обслуживающие домашние хозяйства (политические партии, профсоюзы, общественные объединения и т.д.).

Экономический агент №6 – банковский сектор, включающий в себя Центральный банк России и коммерческие банки.

Экономический агент №7 – внешний мир.

Производственные возможности первых трех агентов задаются с помощью производственной функции Кобба-Дугласа. Входными факторами являются труд и капитал. Значение производственной функции показывает добавленную стоимость (конечный продукт), произведенную соответствующим сектором.

В процессе итеративного пересчета модели, на рынке каждого товара и услуги уравнивается совокупный спрос и предложение в соответствии с различными механизмами (в случае регулируемой государством цены на товар или услугу равновесие достигается посредством изменения доли бюджета, а в случае рыночной и теневой цены – за счет изменения самой цены).

Для заполнения CGE модели данными, прежде всего, использовались статистические сборники Госкомстата РФ. Однако больший интерес представляют данные, необходимые для обучения нейронных сетей, представляющих домашние хозяйства. В качестве таких данных были использованы социологические базы данных RLMS (Russian Longitudinal Monitoring Survey или Российский мониторинг экономического положения и здоровья населения (РМЭЗ)), представляющие собой серию проводившихся в Российской Федерации в 1992 – 2001 гг. репрезентативных общенациональных опросов, реализованных в два этапа (две различные выборки). Второй этап мониторинга включает в себя шесть волн обследований, каждое из которых представляет собой ответы на более чем 3 тысячи вопросов, сгруппированных по трем вопросникам (взрослый, детский и семейный), включающих в себя информацию по нескольким разделам. В среднем, в каждой волне опрашивалось около 10000 взрослых, 2000 детей и 4000 домохозяйств.

В модели мы решили использовать пять нейронных сетей, три из которых определяют поведение человека в плане смены работы, а остальные две определяют способ распределения бюджета домохозяйства. Отобранные вопросы представляют собой слишком большой массив и поэтому не могут быть приведены здесь, однако в общих чертах мы опишем примерный круг вопросов.

Для обучения первых трех сетей отбирались вопросы относительно заработной платы работника, формы-собственности предприятия-работодателя, а также вопросы, касающиеся неофициальной трудовой деятельности.

Для обучения двух других сетей отбирались вопросы, конкретизирующие расходы домашних хозяйств на покупку конечных товаров (всего рассматривались 92 товарные группы), а также вопросы относительно дохода домохозяйства и части средств, отложенных в виде сбережений.

После построения модели, с ее помощью был проведен вычислительный эксперимент, определяющий реакцию экономической системы на снижение ставки единого социального налога.

Литература:

1. Макаров В.Л., Бахтизин А.Р., Бахтизина Н.В. (2005): CGE модель социально-экономической системы России со встроенными нейронными сетями. – М.: ЦЭМИ РАН.

2. Пью Д.С., Хиксон Д. Дж. (1999): Исследователи об организациях. Хрестоматия. М.: ЛИНК.

3. Саймон Г. (2000): Теория принятия решений в экономической теории и науке о поведении. М.:

Теория фирмы.

4. Beltratti A., Margarita S. and Terna P. (1996): Neural Networks for Economic and Financial Modelling.

London: International Thomson Computer Press.

5. Grothmann R. (2002): Multi-Agent Market Modeling based on Neural Networks.

6. Kooths S. (1999): Modelling Rule- and Experience-Based Expectations Using Neuro-Fuzzy Systems.

University of Muenster. Germany. http://www-wiwi.uni- muenster.de/~09/makromat/cef99/cef99kooths.pdf.

7. Simon H.A. (1978): Rationality as Process and as Product of Thought. Richard T.Ely Lecture // American Economic Review. V. 68, no.2, p.1–16.

8. Tesfatsion L. (2002): Agent-Based Computational Economics: Modelling Economies as Complex Adaptive Systems. http://www.econ.iastate.edu/tesfatsi.

9. Zizzo D.J., Sgroi D. (2000): Bounded-Rational Behavior by Neural Networks in Normal Form Games.

Nuffield College Oxford Economics Discussion Paper. No. 2000-W30.

Агенто-ориентированные экономические модели представляют экономику в виде деятельности большого числа агентов, независимо друг от друга принимающих решения в отношении своего жизнеобеспечения, трудоустройства, обмена ресурсами, общения и проч. Агентоориентированное моделирование – довольно молодая область знаний, толчок развитию которой дало стремительное развитие компьютерной техники в последние 20 лет. Сегодняшние компьютеры уже вполне способны выполнять тот объем вычислений, который необходим для обсчета подобных моделей. Однако к настоящему времени все еще не построены модели, которые охватывали бы все сферы деятельности человека одновременно или хотя бы большое их число. Как правило, авторы моделей ограничиваются описанием одного того или иного аспекта поведения человека, сужая тем самым до предела область применения своей модели. Нередко также авторы исходят из слишком неправдоподобных предпосылок, мотивируя свой выбор нежеланием загромождать и перегружать модель. Но в таких случаях сам собой возникает вопрос о применимости моделей для описания реальных процессов и ситуаций. Но все это недостатки.

К достоинствам агенто-ориентированных моделей можно отнести более глубокое рассмотрение механизмов, структуры взаимоотношений между людьми за счет того, что взаимоотношения фактически и становятся основой модели. Агенто-ориентированные модели позволяют уйти от работы с некими усредненными и обобщенными экономическими агентами, как то репрезентативный потребитель, совокупное домохозяйство, отрасль в целом и т.п. в тех ситуациях, где это необходимо. Безусловно, останутся задачи, для которых оценки, сделанные на основе усредненных данных, будут вполне приемлемы. В свою очередь лучшее понимание взаимоотношений приводит к большей гибкости самой модели и надежности ее выходных данных.

Данная модель относится к агенто-ориетированным моделям. Таким образом, в модели есть группа взаимодействующих агентов - индивидов. Каждый индивид характеризуется запасом сил, наличных денег и еды, а также своим личным отношением к действиям, которые он способен осуществлять.

Всего в модели существует десять различных действий, в равной степени доступных любому из индивидов. В глазах любого отдельно взятого индивида каждое из действий имеет определенную ценность, выраженную количественно в безразмерных величинах. Ценность эта не фиксирована и может изменяться: как правило, со временем ценность того или иного действия возрастает, а после успешного осуществления индивидом этого действия падает до нулевого значения, после чего вновь начинает возрастать. В отдельных случаях убывание ценности происходит не мгновенно до нуля, а постепенно и может быть приостановлено необходимостью выполнения другого действия. Ценность одного действия может быть привязана к ценности другого действия таким образом, что если возрастает ценность второго, то поднимается и ценность первого и наоборот. Несколько иной вид привязки одного действия к другому – если ценность действия одного индивида принимает определенное значение и ценность того же действия у другого индивида принимает определенное значение, то это приводит к выполнению означенного действия обоими индивидами. Также может быть, что индивиды «делятся» друг с другом результатами своих действий: выполнение одним индивидом действия приводит к падению ценности этого же действия для другого индивида.

Ценность действия может быть привязана ко времени суток. Дело в том, что модель отсчитывает время по аналогии с реальным временем: 1 модельные сутки равны 24 модельным часам. Таким образом, в определенное время «суток» ценность действия скачкообразно возрастает или резко падает. И наконец, ценность некоторых действий может быть постоянной, не зависящей не от каких параметров и ситуаций. Соответственно при программном (математическом) описании действий могут использоваться смешанные подходы из тех, что приведены выше. За редким исключением так и делалось.

Теперь было бы уместно сказать несколько слов о «физике» модели. Время в модели дискретно. Один такт времени соответствует часу реального времени. В каждый такт модельного времени, «час», перед индивидом встает задача выбора одного из доступных ему в данный момент действий. Поскольку ценность действий выражается количественно в действительных числах, то индивид «просматривая» перечень действий, выбирает то, ценность которого наибольшая. Если оказывается, что ценности более, чем одного действия одинаковы, то одно из этих действий выбирается случайным образом. После осуществления действия производятся изменения переменных величин: ценностей действий и запасов. И наступает следующий такт времени, в котором индивид ведет себя, исходя из тех же правил.

Изменение запасов отражается на субъективной ценности этих запасов для индивида по принципу отрицательной обратной связи: чем больше запас, тем менее каждая единица запаса ценна для индивида. Сделано это затем, чтобы создать механизм обратной связи в модели. Дело в том, что каждое действие требует расхода некоторого количества сил и денег (в данном случае расход может быть как положительным, так и отрицательным, то есть приходом). Поэтому изменение запасов как сил, так и денег влияет на выбор индивидом действий: например, если у индивида осталось мало денег, то он будет выбирать либо малозатратные действия, либо действия, приводящие к пополнению его кошелька, если же денег более, чем достаточно, то индивид «забудет» на какое-то время про зарабатывание денег.

Кроме того, в модели ведется своеобразная «летопись» - сохраняется последовательность решений всех индивидов, начиная с первого такта времени. По сути это и является результатом работы модели. По этой летописи можно отслеживать «жизнь» и анализировать состояние модельного «общества», отслеживать тенденции.

Возможна ли интерпретация Теста Тьюринга для Искусственных Обществ?

Тест Тьюринга явился основой для становления науки об Искусственном Интеллекте. Будет интересно рассмотреть вопрос, применим ли он для Искусственных Обществ.

В данной статье под термином Искусственное Общество понимается система, тестирование которой производится с целью выявления социальных связей (т.е. выявления сознательных отношений, устанавливаемых между людьми в процессе совместной деятельности).

Любая система (семья, город, государство) оценивается человеком с точки зрения наличия неких надиндивидуальных отношений, способствующих системо-организующим процессам. Для определения, является ли эта система искусственной, воспользуемся Тестом Тьюринга (ТТ).

Правомерно ли применение ТТ к Искусственным Обществам?

В этом случае в ТТ в качестве игроков будет выступать исследуемое сообщество людей. А вопрос канонического ТТ «Может ли машина мыслить?» заменяется вопросом «Является ли общественная организация искусственной?». Для применения к сообществу людей ТТ оно должно, как минимум, обладать ментальными свойствами. Только при наличии у тестируемой системы таких свойств можно выявлять в ней аспекты социального.

Для доказательства возможности наличия ментальных свойств у искусственного сообщества обратимся к работе Моуди «Беседы с Зомби». В этой работе он проводит мысленный эксперимент, в котором подробно рассматривается возможность появления ментального словаря у сообщества зомби. Он утверждает, что люди и жители Земли Зомби будут поведенчески различаться. Различия, в первую очередь, проявятся на уровне коммуникации. У зомби будет отсутствовать словарь ментальных терминов (таких, как «мечтать», «болеть», «снится» и т.п.). Это связано с тем, что у них отсутствует внутренняя [субъективная] жизнь. В своем мысленном эксперименте Моуди предполагает развитие мира зомби до полного соответствия нашему, но в котором будет отсутствовать сознательная жизнь.

Земля Зомби является своего рода Искусственным Обществом. В каком случае такое сообщество может прийти к использованию ментальных терминов? Во-первых, это может быть связано с культурным развитием.

По поводу культурного развития может показаться очевидным, что члены общества, не являясь субъектами опыта, не будут иметь никаких причин для создания терминов, которые мы могли бы перевести словами, например, «сон» или «зрение». Но рассмотрим следующую возможность. Агенты сообщества фиксируют, но не воспринимают существование зданий. Они фиксируют тот факт, что их соотечественники иногда сталкиваются со зданиями. Фиксация закономерности столкновений приводит к генерации сигнала типа «Осторожно!». То есть естественная социальная функция заставляет агента поворачиваться так, чтобы его фоторецепторы воспринимали релевантную информацию об изменении направления движения. Агенты присваивают термин направленности фоторецепторов в правильном направлении «зрением». Этот термин неосознаваемая копия с нашего зрения.

Во-вторых, ментальный словарь может появиться в связи с развитием сообщества как рода.

Если искусственное общество будет разрабатываться на основе нео-дарвинистской теории, то это будет подразумевать не только приспосабливаемость к заданным условиям существования, но и свободу действий агентов. Вполне вероятно, что разработчик создаст для агентов врожденный язык мышления с лексическим пространством поведенческих дескрипций.

Из вышесказанного можно сделать вывод, что интерпретация ТТ для Искусственных Обществ возможна.



 
Похожие работы:

«Е. А. Предтеченский Иоганн Кеплер. Его жизнь и научная деятельность Жизнь замечательных людей. Биографическая библиотека Ф.Павленкова Аннотация Эти биографические очерки были изданы около ста лет назад отдельной книгой в серии Жизнь замечательных людей, осуществленной Ф. Ф. Павленковым (1839—1900). Написанные в новом для того времени жанре поэтической хроники и историко-культурного исследования, эти тексты сохраняют по сей день информационную и энергетико-психологическую ценность. Писавшиеся...»

«11стор11л / географ11л / этнограф11л 1 / 1 вик Олег Е 1 _ |д а Древнего мира Издательство Ломоносовъ М осква • 2012 УДК 392 ББК 63.3(0) mi Иллюстрации И.Тибиловой © О. Ивик, 2012 ISBN 978-5-91678-131-1 © ООО Издательство Ломоносовъ, 2012 Предисловие исать про еду — занятие не­ П легкое, потому что авторов одолевает множество соблаз­ нов, и мысли от компьютера постоянно склоняются в сто­ рону кухни и холодильника. Но ры этой книги (под псевдонимом Олег Ивик пишут Ольга Колобова и Валерий Иванов)...»

«К 270-летию Петера Симона Палласа ПАЛЛАС – УЧЕНЫЙ ЭНЦИКЛОПЕДИСТ Г.А. Юргенсон Учреждение Российской академии наук Институт природных ресурсов, экологии и криологии СО РАН, Читинское отделение Российского минералогического общества, г. Чита, Россия E-mail:yurgga@mail Введение. Имя П.С. Палласа широко известно специалистам, работающим во многих областях науки. Его публикации, вышедшие в свет в последней трети 18 и начале 19 века не утратили новизны и свежести по сей день. Если 16 и 17 века вошли...»

«Федеральное агентство по образованию Томский государственный педагогический университет Научная библиотека Библиографический информационный центр Педагогическая практика: в помощь студенту-практиканту Библиографический указатель Томск 2008 Оглавление Предисловие Педагогическая практика Методика преподавания в начальной школе Методика преподавания естествознания Методика преподавания химии Методика преподавания биологии Методика преподавания географии Методика преподавания экологии Методика...»

«СТАЛИК ХАНКИШИЕВ Казан, мангал И ДРУГИЕ МУЖСКИЕ удовольствия фотографии автора М.: КоЛибри, 2006. ISBN 5-98720-026-1 STALIC ЯВИЛСЯ К нам из всемирной Сети. Вот уже больше пяти лет, как он — что называется, гуру русского гастрономического интернета, звезда и легенда самых популярных кулинарных сайтов и форумов. На самом деле за псевдонимом STALIC скрывается живой человек: его зовут СТАЛИК ХАНКИШИЕВ, И жИВЁт он в Узбекистане, причём даже не в столичном Ташкенте, а в уютной, патриархальной...»

«Казанский (Приволжский) федеральный университет Научная библиотека им. Н.И. Лобачевского Новые поступления книг в фонд НБ с 12 февраля по 12 марта 2014 года Казань 2014 1 Записи сделаны в формате RUSMARC с использованием АБИС Руслан. Материал расположен в систематическом порядке по отраслям знания, внутри разделов – в алфавите авторов и заглавий. С обложкой, аннотацией и содержанием издания можно ознакомиться в электронном каталоге 2 Содержание История. Исторические науки. Демография....»

«Б. Г. Тилак The Arctic Home in the Vedas Being also a new key to the interpretation of many Vedic Texts and Legends by Lokamanya Bal Gangadhar Tilak, b a, 11 B, the Proprietor of the Kesan & the Mahratta Newspapers, the Author of the Orion or Researches into the Antiquity of the Vedas the Gita Rahasya (a Book on Hindu Philosophy) etc etc Publishers Messrs Tilak Bros Gaikwar Wada, Poona City Price Rs 8 1956 Б.Г.ТИЛАК АРКТИЧЕСКАЯ РОДИНА В ВЕДАХ ИЗДАТЕЛЬСКО Москва Ж 2001 ББК 71.0 Т41 Тилак Б. Г....»

«This document is created with trial version of Document2PDF Pilot 2.6.95. 1 This document is created with trial version of Document2PDF Pilot 2.6.95. Центр гидрометеорологической службы при Кабинете Министров Республики Узбекистан Научно-исследовательский гидрометеорологический институт М. Л. Арушанов Климатический спектр планеты Земля Ташкент 2009 2 This document is created with trial version of Document2PDF Pilot 2.6.95. УДК 551.583.1+523.7 Рецензенты: д-р техн. наук Ю. М. Денисов д-р техн....»

«Яков Исидорович Перельман Занимательная астрономия АСТ; М.; Аннотация Настоящая книга, написанная выдающимся популяризатором науки Я.И.Перельманом, знакомит читателя с отдельными вопросами астрономии, с ее замечательными научными достижениями, рассказывает в увлекательной форме о важнейших явлениях звездного неба. Автор показывает многие кажущиеся привычными и обыденными явления с совершенно новой и неожиданной стороны и раскрывает их действительный смысл. Задачи книги – развернуть перед...»

«Министерство культуры и туризма Украины Одесская государственная научная библиотека имени М.Горького Ученые Одессы Серия основана в 1957 году Выпуск 38 ВАЛЕНТИН ГРИГОРЬЕВИЧ КАРЕТНИКОВ Биобиблиографический указатель литературы Составитель И.Э.Рикун Одесса 2007 Этот выпуск серии биобиблиографических указателей “Ученые Одессы” посвящен Валентину Григорьевичу Каретникову, астроному, доктору физико-математических наук, директору Астрономической обсерватории Одесского национального университета им....»

«Петровский Н. С. ПРЕДСТАВЛЕНИЯ ДРЕВНИХ ЕГИПТЯН О ЯЗЫКОВЫХ ЯВЛЕНИЯХ В трудах по истории языкознания либо вообще ничего не говорится о Древнем Египте, либо его упоминают почти вне всякой связи с историей лингвистики, чаще всего, например, по поводу дешифровки египетских иероглифов. Это, разумеется, не случайно. В Древнем Египте не было лингвистического учения, т. е. совокупности каких-либо теоретических положений о языке. Поэтому до нас не дошло ни языковых исследований, ни описания с точки...»

«Курс общей астрофизики К.А. Постнов, А.В. Засов ББК 22.63 М29 УДК 523 (078) Курс общей астрофизики К.А. Постнов, А.В. Засов. М.: Физический факультет МГУ, 2005, 192 с. ISBN 5–9900318–2–3. Книга основана на первой части курса лекций по общей астрофизики, который на протяжении многих лет читается авторами для студентов физического факультета МГУ. В первой части курса рассматриваются основы взаимодействия излучения с веществом, современные методы астрономических наблюдений, физические процессы в...»

«Г.С. Хромов АСТРОНОМИЧЕСКИЕ ОБЩЕСТВА В РОССИИ И СССР Сто пятьдесят лет назад знаменитый русский хирург Н.И. Пирогов, бывший еще и крупным организатором науки своего времени, заметил, что. все переходы, повороты и катастрофы общества всегда отражаются на науке. История добровольных научных обществ и объединений отечественных астрономов, которую мы собираемся кратко изложить, может служить одной из многочисленных иллюстраций справедливости этих провидческих слов. К середине 19-го столетия во...»

«ПИРАМИДЫ Эта книга раскрывает тайны причин строительства пирамид Сколько бы ни пыталось человечество постичь тайну причин строительства пирамид, тьма, покрывающая её, будет непроницаема для глаз непосвящённого. И так будет до тех пор, пока взгляд прозревшего, скользнув по развалинам ушедшей цивилизации, не увидит мир таким, каким видели его древние иерофанты. А затем, освободившись, осознает реальность того, что человечество пока отвергает, и что было для иерофантов не мифом, не абстрактным...»

«Краткое изложение решений, консультативных заключений и постановлений Международного Суда ПОГРАНИЧНЫЙ СПОР (БУРКИНА-ФАСО/НИГЕР) 197. Решение от 16 апреля 2013 года 16 апреля 2013 года Международный Суд вынес решение по делу, касающемуся пограничного спора (Буркина-Фасо/Нигер). Суд заседал в следующем составе: Председатель Томка; Вице-председатель Сепульведа-Амор; судьи Овада, Абраам, Кит, Беннуна, Скотников, Кансаду Триндаде, Юсуф, Гринвуд, Сюэ, Донохью, Гайя, Себутинде, Бхандари; судьи ad hoc...»

«Живая Еда или Почему коровы хищники. Зачем написана эта книга Автор этой книги, как и большинство советских людей, родился и вырос в семье с традиционными взглядами на питание. Детский сад с неизменным рационом – запеканки, каши, тушеные овощи, кипяченое молоко. Школьные завтраки и обеды с сосиской и котлетами. Студенческие чаепития с бутербродами и застолья с поглощением неимоверного количества алкоголя. К 30 годам сформировалось стандартное меню яичница и бутерброды на завтрак,...»

«М.М.Завадовская-Саченко ПАМЯТИ МОЕГО ОТЦА В 1991 г. исполнилось 100 лет со дня рождения Михаила Михайловича Завадовского, профессора Московского государственного университета, академика ВАСХНИЛ. Он родился 17 июля 1891 г. в селе Покровка-Споричево Херсонской губернии в семье помещика Михаила Владимировича Завадовского. Мальчику было четыре года, когда умер отец, и мать с четырьмя детьми переехала в Елисаветград. Интерес к природе проявился рано: коллекция насекомых; голубятня, в которой были и...»

«ЗИМА 2013 О ВКУСНОМ И ЗДОРОВОМ ОБЩЕНИИ RESTORATOR PROJECTS 3 Содержание: Над выпуском работали: Ресторанные профессии: 10 Мария Дьяконова, управляющий рестораном Burger House Ольга Перегон, руководитель проекта peregon_oi@r-projects.ru Интервью: 12 Максим Бобров генеральный управляющий Restorator Projects Антон Аренс в качестве приглашенного редактора Звездные гости: самый гурманный суд в мире — а также: 16 Аркадий Новиков, Александр Соркин, Мирко Дзаго Андрей Ракитин, Алексей Елецких, Владимир...»

«InfoMARKET и! ост езон щедр С ЗИМА 2010-2011 Товары, подлежащие обязательной сертификации, сертифицированы тес 2 Мясо дикого северного оленя По своим гастрономическим качествам оленина занимает ведущее место среди других продуктов, приготовленных из мяса. Деликатесы из оленины нежные, обладают прека ли восходными вкусом, являются экологически чистым продуктом. Оленина содержит разде личные витамины, особо ценными среди которых считаются витамины группы В и А. Самым большим преимуществом мяса...»

«№3(5) 2012 Гастрономические развлечения Арбуз Обыкновенный Кухонные гаджеты Гастрономическая коллекция аксессуаров Специальные предложения Новинки десертного меню Старинные фонтаны Рима Персона номера Мигель Мика Ньютон Мила Нитич 1 №3(5) 2012 Ателье персонального комфорта Восхищение комфортом! Салоны мягкой мебели mbel&zeit г. Донецк Диваны mbel&zeit* созданы, чтобы восхищать! МЦ Интерио ТЦ Империя мебели пр-т. Ильича, 19В пр-т. Б. Хмельницкого, 67В Эксклюзивные натуральные материалы в...»






 
© 2014 www.kniga.seluk.ru - «Бесплатная электронная библиотека - Книги, пособия, учебники, издания, публикации»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.