Семинар XX

ТРЕБУЮТСЯ ТГ АКТИВИСТЫ Фильм «Фонтан» АКЦИЯ 1 МАРТА

3D-принтер (Оликевич) 25 февраля, Моск. обл., д. Фенино, д. 108 (ехать по Рязанскому ш. до Бронниц или на электр. от м. Выхино до ст. Гжель, оттуда такси)

Ярославль (Батин)

Конгресс

Технологические аспекты СИНГУЛЯРНОСТИ Медведев Данила

Вглядываясь в Сингулярность Определения« нельзя предсказать» «прогресс вертикальный» «создание сверхразума» Винж, 1982Винж, 1993Курцвейл, 2005 умнее человеказакон Мурасвязь с ускорением темпы не важны2030ускорение прогресса Причинный анализ –причины непредсказуемости –характер изменений Математика ускорение графики «предсказание»

Непредсказуемость Ускоряющийся рост Взрывной рост (исчерпание трендов за конечный срок) Неопределённость (самомодификация) Возникновение сверхинтеллекта (непредсказуемость для человека)

Причины непредсказуемости непредсказуемость сегодня –умнее человека –мы не можем предсказать, что будет после С –проблема с моделями –мы не можем предсказать поведение более умной сущности, чем мы –иначе мы могли бы вести себя так же Винж, 1982 неопределённость –самомодификация –правила не постоянны –в ИИ изначально есть доступ к коду –ИИ и нано –два направления, которые самоусиливаются –возможно, математическая непредсказуемость –бифуркации предсказуемость! –если известна цель –Юдковски, 2006 –но действия всё равно не известны –антропоморфизм - это не решение –т. к. ИИ очень разные –математическое решение –Рефлексивная теория принятия решений (понимание работы сознания, переписывающего свой код)

Проблемы с математикой математика предсказывает причинный анализ объясняет качественный анализ описывает следствия математика не важна для кач. модели –порог: переход через чел. интеллект –темпы роста могут расти, могут снижаться вопрос: верно ли мат. модели описывают динамику? –на разных этапах –нет гарантии, что тенденции сохранятся

Сценарии Четыре пути –ИИ создание ИИ поумнение сетей –УИ интерфейсы мозг-компьютер биологическое усиление В. Винж, 1993

Когнитивная наука Радикальное усиление интеллекта ПО для организации знания, управления ими, генерации новых знаний Оптимизация биологического мозга –ноотропики –прямая стимуляция (TMS) –доращивание (стволовые клетки) интеграция –интерфейсы мозг-компьютер (I/O) –полная интеграция –загрузка

Нанотехнологии Нанотех – это инструмент для контроля над физическим миром –а не полумеры вроде роботов Нанокомпьютеры могут быть нужны для сверхмощного ИИ Сложность нанотехнологий может требовать ИИ Достаточно ли оптимизации кода для взрывного роста ИИ? ДА –создаётся ИИ –Сингулярность –риск ИИ –создаются нанотехнологии –риск нанотеха НЕТ –создаётся ИИ –разрабатываются нанотехнологии –риск нанотеха –усиливается ИИ –Сингулярность –риск ИИ

Когда ждать Сингулярности? ИИ-группы –Singularity Institute –AGIRI (Novamente) –a2i2 (Adaptive A.I.) –Ai Research Загрузка –Brains in Silicon (Stanford) –CCortex (Artificial Development) –Blue Brain (IBM) Сроки реализации проектов? Ожидаемые пути развития событий?