Full circle

Sun 11 April 2021

Время чтения: 4 min

Ни для кого не секрет, что на самом деле все астрономы мечтают найти инопланетян. Они никогда не признают этого публично и не упоминают этого в своих заявках на гранты, но каждое открытие в астрономии в первую очередь рассматривается с точки зрения «А могут ли это быть инопланетяне»?

Такая же «тайная» мечта есть и у математиков, хотя ее немного сложнее сформулировать. Я бы назвал ее «общей теорией систем» (ОТС), но это название уже закреплено за конкретной существующей теорией, которая не смогла стать «той самой». За историю науки подобных попыток было бесчисленное множество. Многие из них сходились к эквивалентным результатам (например, ОТС и синергетика), но еще никому не удавалось осуществить прорыв от теории к эксперименту и сделать конкретные предсказания, не говоря уже о том, чтобы разработать на базе теории какие-то технологии.

Эта мечта появилась неспроста. Математика до краев набита занимательными явлениями, которые просто не могут не быть частью чего-то большего. Закон Ципфа, паттерн Тьюринга и повсеместность фракталов — лишь верхушка айсберга. Чем глубже копаешь, тем более невероятные связи прослеживаются, и тем больше риск сойти с ума от неспособности ухватить эти невидимые, но совершенно точно существующие нитки, сшивающие все явления природы в единую, понятную систему.

Искать такую теорию можно с двух полюсов. Один — редукционистский: разобрать все явления на мельчайшие составляющие и определить, как они взаимодействуют. Тогда получится «Теория Всего», которую ищут физики. Мы же хотим зайти с противоположного, холистического полюса: понять, как целое может качественно отличаться от суммы своих частей; научиться отбрасывать несущественные детали и видеть глубинные закономерности.

Каждый приходит к этой потребности своим путем. Мой прошел через парадокс Ферми — ту же проблему, над которой бьются вышеупомянутые астрономы. Я начал разрабатывать свое решение, но по дороге обнаружил, что оно начинает приобретать все больше параллелей с одной старой и малоизвестной теорией: марксизмом. А тот, в свою очередь, оказался основан на диалектике, которую проще всего описать как нематематическую попытку создания все той же холистической теории всего.

Дабы не изобретать велосипед, я решил сначала разобраться в уже разработанной до меня теории, а потом вернуться к собственному исследованию. Но узнав, что марксизм и позитивизм не очень дружат в гносеологической области, я немного приуныл. Дело в том, что мне самому близки обе эти философии, и я не хотел бы выбирать между ними.

Камнем преткновения в этом конфликте служит, как я понимаю, критерий Поппера, который слишком строг для марксизма. Действительно, каким экспериментом можно было бы опровергнуть марксизм? Попыткой построить социалистическое государство? Но мы же понимаем, что неудача советского эксперимента (не говоря уже о других странах соцлагеря) не обязательно связана с проблемами внутри самого марксизма. В процессе построения государства невозможно исключить все внешние и субъективные факторы, чтобы подвергнуть проверке только саму теорию, руководящую процессом. Да что там государства, даже в рамках одного предприятия, одной учебной группы это невозможно.

И поэтому мне куда больше понравился подход Ильенкова, реализованный в Загорском эксперименте. Легче всего поставить контролируемый эксперимент не на обществе, а на отдельных личностях, а потом уже экстраполировать полученные результаты. В конце концов, если марксистская модель развития человеческого сознания окажется неверной, то это автоматически подорвет и остальные, более трудно проверяемые аспекты теории.

Моя любимая игра - The Talos Principle. Она рассказывает о попытке ученых создать ИИ с человеческим сознанием, причем от лица самого ИИ. Показанный в игре подход далеко не марксистский и вообще не претендует на серьезную научность, но искусство на то и искусство, чтобы вдохновлять. Кстати, моя первая книга, Эффект шимпанзе, имеет схожую тематику.

И так вышло, что по профессии я именно разработчик ИИ. И мне не могла не прийти в голову мысль: а что, если совместить Загорский эксперимент с подходом из Талоса? Можно ли использовать марксизм, чтобы дотянуться до святого грааля кибернетики - сильного ИИ?

Ответить на этот вопрос можно знаменитой сценой из Интерстеллара. Поздно спрашивать, возможно это или нет. Над человеческой цивилизацией уже навис дамоклов меч проблемы установочных критериев ИИ. Если мы не поймем, как обуздать ИИ, прежде, чем он станет умнее нас самих — все кончено.

Нельзя забывать также о вполне реальной опасности, о которой пишет Винер в своей книге «Кибернетика», — об отсутствии у кибернетической техники устойчивых человеческих установочных критериев. Соблазнительное беспрецедентное могущество, которое дает человечеству (или, еще хуже, той или иной группировке разделенного человечества) использование мудрых советов будущих интеллектуальных помощников — искусственных «думающих» автоматов, может обернуться, как подчеркивает Винер, роковой ловушкой: советы могут оказаться непостижимо коварными, преследующими не человеческие цели, а цели решения абстрактных, непредусмотренно трансформировавшихся в искусственном мозгу задач.
— Сахаров А. Д. — Размышления о прогрессе, мирном сосуществовании и интеллектуальной свободе — 1968 г.

Еще никогда, даже на пике холодной войны, на одной карте не стояло так много. С одной стороны, поражение означает подлинный конец истории. Никто не может предсказать, как он будет выглядеть. Одно можно сказать точно: это будет ад; и даже смерть может не быть выходом из него. С другой стороны, победа означает решение самых горячих проблем, стоящих перед современной наукой: сильного ИИ, парадокса Ферми, единой экономической теории и т.д. — проблем, которые, как нам сейчас кажется, стоят между нами и построением рая на Земле (а также за ее пределами). Получается такое вот своеобразное пари Паскаля, только с изучением диалектического материализма вместо веры в бога.