Мы привыкли думать о проектировании как о движении от замысла к результату.
Сначала человек определяет, что хочет получить. Затем собирает информацию, создаёт проект, рассчитывает параметры и реализует задуманное.
Дом сначала существует в воображении и чертежах архитектора — и только затем становится физическим объектом. Инженер заранее знает, что проектирует двигатель. Программист знает назначение программы. Предприниматель создаёт компанию, имея хотя бы приблизительное представление о её будущем устройстве.
В основе такого подхода находится простая схема:
цель → информация → проект → реализация → результат.
Однако существует другой класс задач.
В них невозможно заранее определить оптимальный результат — не потому, что нам недостаточно вычислительных ресурсов, а потому, что в начале процесса у нас ещё нет знаний, необходимых даже для его полного описания.
Новая информация изменяет понимание задачи.
Изменившееся понимание задачи порождает новые вопросы.
Ответы на них требуют получения информации, необходимость которой невозможно было предвидеть в начале.
Полученные знания открывают ранее неизвестные возможности.
А новые возможности способны изменить первоначальную цель.
Возникает принципиально другая конструкция:
мы проектируем не конечный результат — мы проектируем следующий шаг.
Такой процесс мы называем Эпитектоном.
Определение
Эпитектон — принцип организации открытого эволюционного процесса, в котором несколько интеллектуальных систем с различающимися способами восприятия, моделирования, оценки и преобразования реальности совместно ищут последовательность всё более устойчивых состояний системы.
При этом заранее фиксируется не обязательно конечное состояние.
В процессе взаимодействия могут изменяться:
- доступная информация;
- представление о среде;
- постановка задачи;
- критерии оценки;
- пространство возможных решений;
- промежуточные цели;
- сама создаваемая система;
- способы взаимодействия участвующих интеллектов.
Поэтому результат Эпитектона не обязательно может быть полностью описан в начале процесса.
Более того, в некоторых случаях наиболее значимый результат может находиться за пределами первоначального пространства представимых решений.
Не человек плюс машина
Наиболее очевидный современный пример взаимодействия разных типов интеллекта — человек и искусственный интеллект.
Но простое использование ИИ человеком ещё не является Эпитектоном.
Если человек сформулировал задачу, нейросеть её выполнила, а человек использовал полученный результат, перед нами всего лишь применение интеллектуального инструмента.
Даже распределение функций само по себе недостаточно:
человек придумывает → ИИ анализирует → человек выбирает.
Это эффективная кооперация, но её принципиальная структура остаётся линейной.
Эпитектон возникает тогда, когда результат работы одного интеллекта изменяет последующую работу другого.
Например:
человек формулирует проблему → ИИ анализирует её → обнаруживается противоречие → человек переосмысливает проблему → возникает новый вопрос → собираются новые данные → ИИ строит другую модель → человек обнаруживает новую возможность → модель проверяется → результат проверки изменяет цель → начинается следующий цикл.
В таком процессе уже невозможно однозначно определить автора конечного решения.
Но важнее другое.
Само конечное решение в начале процесса могло ещё не существовать как осмысленная возможность.
Эпитектон и изменение цели
Это одно из фундаментальных отличий Эпитектона от обычного проектирования.
В классической инженерной постановке цель относительно стабильна.
Если необходимо построить мост определённой грузоподъёмности между двумя берегами, проект может многократно изменяться, однако основная цель остаётся.
Но существуют задачи другого типа.
Представим разработку совершенно новой технологии.
Первоначально исследователь считает, что создаёт материал с определёнными свойствами.
Эксперимент обнаруживает неожиданное явление.
Для его объяснения требуются новые данные.
Анализ данных показывает возможность совершенно другого применения материала.
Экономическая оценка обнаруживает, что именно это применение обладает наибольшей ценностью.
Первоначальная задача постепенно перестаёт быть основной.
Если жёстко удерживать исходную цель, неожиданное открытие будет воспринято как отклонение.
Если система способна изменять собственную цель при появлении новых знаний, отклонение может стать новым направлением развития.
Поэтому для Эпитектона справедливо:
G₀ ≠ G₁ ≠ G₂ … ≠ Gₙ,
где G — представление системы о цели на соответствующем этапе развития.
Цель здесь не исчезает.
Она эволюционирует вместе со знаниями системы.
Информация, которой ещё нет
Есть ещё одно принципиальное отличие.
Нельзя считать, что Эпитектон просто эффективнее перерабатывает имеющуюся информацию.
Он должен уметь определять недостающую информацию.
Это разные задачи.
Предположим, в начале процесса существует набор данных I₀.
Анализ этих данных создаёт новую модель.
Новая модель обнаруживает неизвестную переменную.
Возникает вопрос, которого раньше не существовало.
Для ответа проводится эксперимент, исследование, измерение или поиск.
Появляется новая информация:
I₀ → вопрос → исследование → I₁.
Но I₁ изменяет модель системы и порождает следующий вопрос:
I₁ → новая модель → новый вопрос → I₂.
Следовательно, Эпитектон работает не только с информацией.
Он способен формировать запрос к реальности.
Это может быть поиск публикаций, эксперимент, измерение физического объекта, исследование рынка, создание прототипа, наблюдение за поведением людей или проверка гипотезы на работающей системе.
Реальность становится полноценным участником цикла.
Человек и искусственный интеллект видят разную реальность
Зачем вообще нужны разные типы интеллекта?
Если несколько интеллектуальных систем делают одно и то же одинаковым способом, увеличение их количества преимущественно увеличивает вычислительную мощность.
Гораздо интереснее различие.
Человек и современный искусственный интеллект обладают существенно различающимися возможностями и ограничениями.
Человек способен связывать задачу с личным опытом, ценностями, физической реальностью и социальным контекстом. Он способен интуитивно отвергнуть формально корректное решение, почувствовать необычность результата, сформировать неожиданную аналогию или изменить сам смысл задачи.
Искусственный интеллект способен чрезвычайно быстро обрабатывать большие объёмы доступной информации, сравнивать множество вариантов, декомпозировать сложные конструкции, выявлять противоречия, детализировать гипотезы и многократно перестраивать модели.
При этом обе системы имеют собственные ограничения.
Поэтому потенциальная сила их взаимодействия заключается не в том, что один интеллект компенсирует недостаточную производительность другого.
Она возникает из различия способов видеть задачу.
Эпитектон предполагает, что именно эти различия могут стать источником нового порядка.
Пространство решений
Представим некоторое множество потенциальных решений Ω.
Отдельный человек способен практически исследовать лишь некоторую область этого пространства:
H ⊂ Ω.
Искусственный интеллект имеет собственную доступную область:
A ⊂ Ω.
Простейшее объединение их возможностей даёт:
H ∪ A.
Но это ещё не является главным эффектом Эпитектона.
При итерационном взаимодействии человек может сформировать идею под воздействием результата ИИ, которой не возникло бы без этого результата.
ИИ затем исследует последствия этой новой идеи.
Человек замечает в них значение, которое первоначально не учитывалось.
Возникает новый критерий поиска.
ИИ перестраивает пространство вариантов уже относительно нового критерия.
После нескольких циклов появляется решение E, которое невозможно непосредственно вывести ни из первоначального состояния человека H₀, ни из первоначального состояния искусственного интеллекта A₀.
Условно это можно выразить:
E(H,A) ⊃ H ∪ A.
Это не строгая математическая модель, а иллюстрация важного принципа:
ценность взаимодействия разнородных интеллектов определяется не только суммой их возможностей, но и возможностью порождать новые области поиска.
Почему это напоминает эволюцию
Биологическая эволюция не имеет чертежа конечного результата.
У древней одноклеточной формы жизни не существовало проекта человека.
Каждое изменение происходило внутри определённых условий среды. Изменение организма меняло характер его взаимодействия со средой. Возникали новые возможности и новые ограничения. Следующий этап становился возможным благодаря предыдущему.
Человек оказывается результатом огромной последовательности состояний, конечный результат которой невозможно было вывести как проект из первоначального состояния.
Эпитектон обладает похожим свойством.
Однако между ними существует принципиальное различие.
В Эпитектоне в процесс входят интеллектуальные системы, способные моделировать возможные будущие состояния до их реализации.
Поэтому следующий вариант не только возникает и проходит отбор.
Он может быть предварительно:
представлен → смоделирован → подвергнут критике → сравнён → изменён → проверен → реализован.
После столкновения с реальностью полученная информация возвращается в систему.
Таким образом, возникает своеобразная форма направляемой интеллектуальной эволюции.
Но слово «направляемая» здесь не означает движения к заранее известной конечной точке.
Интеллект способен выбирать направление следующего шага.
Он не обязан знать конечный пункт пути.
Эпитектон проектирует следующий шаг
Это позволяет сформулировать один из центральных принципов:
Эпитектон не проектирует окончательное состояние системы. Он проектирует следующий шаг её развития и одновременно совершенствует механизм выбора следующего шага.
Именно поэтому его нельзя свести к оптимизации.
Оптимизация предполагает существование критерия, относительно которого варианты можно расположить от худших к лучшим.
Но что происходит, если в процессе исследования меняется сам критерий?
Что если новая информация показывает, что первоначально оптимизировался неверный параметр?
Что если возникшее решение создаёт возможности, которые раньше отсутствовали?
Тогда необходимо изменять уже не значение внутри существующей модели, а саму модель.
Эпитектон допускает такую перестройку.
Общая структура процесса
В первом приближении состояние Эпитектона можно представить последовательностью:
S₀ → E₀ → I₀ → G₀ → A₀ → S₁ → E₁ → I₁ → G₁ → A₁ → S₂ → …
где:
S — текущее состояние создаваемой системы;
E — состояние и доступное представление внешней среды;
I — информация, доступная на данном этапе;
G — текущее представление о цели;
A — выбранное действие или преобразование.
Однако внутри каждого перехода действует не единый интеллект, а множество интеллектуальных систем:
H, A₁, A₂ … Aₙ,
где H может обозначать человеческий интеллект, а A₁…Aₙ — различные искусственные или иные интеллектуальные системы.
Каждая из них может выполнять разные функции:
наблюдать → интерпретировать → генерировать → критиковать → моделировать → проверять → выбирать → действовать.
При этом роли не должны быть постоянными.
Система, которая на одном этапе генерировала решение, на следующем может выступать его критиком.
Ошибка как источник развития
В традиционной модели проектирования ошибка — нежелательное отклонение от проекта.
В Эпитектоне ошибка имеет двойственную природу.
Она может быть обычной ошибкой, которую необходимо устранить.
Но она также может показать, что неверна сама модель.
Неожиданный результат эксперимента, провал продукта, противоречие в теории или невозможность реализовать техническое решение способны содержать новую информацию о реальности.
Поэтому развитая эпитектоническая система должна задавать не только вопрос:
«Как исправить ошибку?»
но и:
«Почему мы считаем это ошибкой?»
и далее:
«Не свидетельствует ли это отклонение о существовании возможности, которой нет в нашей модели?»
Таким образом, отрицательный результат становится потенциальным источником нового направления поиска.
Устойчивость вместо идеальности
Эпитектон не предполагает существования абсолютного «лучшего решения».
Сложные системы существуют одновременно в технической, экономической, социальной, информационной и физической среде.
Решение, идеальное по одному параметру, может разрушать систему по другому.
Поэтому более полезным понятием становится устойчивое состояние.
Устойчивость здесь не означает неподвижность.
Напротив, наиболее устойчивой может оказаться система, способная изменяться при изменении среды.
Поэтому Эпитектон ищет не идеальную конструкцию как окончательный объект, а такую организацию, которая способна:
существовать → получать информацию → обнаруживать изменения → перестраиваться → сохранять существенные свойства → продолжать развитие.
Эпитектон как исследовательское направление
Сегодня наиболее очевидной парой разнородных интеллектов являются человек и искусственный интеллект.
Поэтому практическое исследование Эпитектона естественно начать именно с них.
Но для этого недостаточно изучать возможности ИИ.
Необходимо исследовать обе стороны системы.
Человеческий интеллект: творчество, интуиция, формирование целей, ошибки мышления, субъективность, способность создавать новые смысловые связи, взаимодействие с физической и социальной реальностью.
Искусственный интеллект: обработка информации, построение моделей, поиск закономерностей, генерация вариантов, декомпозиция, критика, моделирование и характерные ограничения искусственных систем.
Следующий предмет исследования — архитектура их взаимодействия.
Какие функции выгоднее разделять?
Когда человек должен создавать гипотезу, а когда критиковать?
Когда ИИ должен отвечать, а когда вместо ответа указывать на недостаточность информации?
Как система должна определять необходимость внешнего исследования?
Как отличить продуктивную смену цели от потери направления?
Как избежать ситуации, когда один интеллект просто усиливает ошибки другого?
Как организовать несколько искусственных интеллектов с различной специализацией?
Как измерять эффект их совместной работы?
Какие структуры взаимодействия действительно расширяют пространство решений, а какие лишь создают иллюзию интеллектуальной деятельности?
Это уже не только философские вопросы.
Они допускают эксперименты, сравнение архитектур и накопление практических методов.
За пределами человека и современного ИИ
Человек и большая языковая модель — лишь первая доступная конфигурация.
В будущем в подобные системы могут входить специализированные модели, автономные программные агенты, роботизированные системы, коллективы людей, научные инструменты, сенсорные системы и формы машинного интеллекта, которых сегодня ещё не существует.
Каждая новая система может обладать собственным способом получения и преобразования информации.
Поэтому Эпитектон не должен быть привязан к конкретной технологии.
Его предметом является более общий вопрос:
Каким образом взаимодействие различных типов интеллекта может порождать последовательность состояний, недоступную каждому из них по отдельности?
Эпитектон и Анегэнтропия
В дальнейшем понятие Эпитектона предполагается развивать в рамках более общей концепции Анегэнтропии.
Однако между ними важно сохранить различие.
Анегэнтропия рассматривает процессы возникновения, сохранения и усложнения организации в системах.
Эпитектон предполагается исследовать как один из возможных механизмов, возникающих на том этапе усложнения, когда система приобретает способность не только адаптироваться к реальности, но и моделировать возможные состояния, выбирать направления изменений и целенаправленно преобразовывать собственную среду.
Появление интеллекта в таком представлении становится особым событием.
До него сложность преимущественно возникает через взаимодействие системы и среды.
После появления интеллекта сложная система получает возможность создавать модели ещё не существующих состояний.
А взаимодействие нескольких различных интеллектов потенциально создаёт следующий уровень:
система начинает совершенствовать не только создаваемый порядок, но и сам механизм его поиска.
Эта гипотеза требует дальнейшей разработки и проверки.
Именно поэтому Эпитектон предлагается не как завершённая теория, а как открытое исследовательское направление.
Открытый путь
У Эпитектона нет задачи заранее объявить окончательную формулу взаимодействия человека и искусственного интеллекта.
Это противоречило бы самому принципу.
Сегодня мы способны исследовать человека, существующие системы искусственного интеллекта и первые формы их совместной работы.
Завтра появятся новые архитектуры ИИ, новые способы взаимодействия с физической средой и, возможно, новые типы интеллектуальных систем.
Они изменят наше понимание самого Эпитектона.
Поэтому его развитие должно происходить тем же способом, который он описывает:
гипотеза → взаимодействие различных интеллектов → критика → поиск недостающей информации → эксперимент → новый результат → изменение модели → следующая гипотеза.
Возможно, именно это является главным свойством Эпитектона.
Мы не обязаны знать, каким будет конечный результат.
Необходимо построить систему, способную делать следующий шаг лучше, чем каждый из её участников смог бы сделать его в одиночку.
А результат следующего шага изменит наше представление о том, куда следует идти дальше.