Да, я наконец дошел до этого вопроса. Единственного вопроса, в котором мы так и не продвинулись с тех пор, как впервые его задали. Я буду удивлен, если мой ответ удовлетворит хоть кого-нибудь.
Начнем с конца. Обладает ли сознанием искусственный разум, который повторяет человека абсолютно во всех проявлениях? Это скорее ловушка, чем серьезная дилемма. Человек с научным мировоззрением без колебаний ответит «да». В самом условии сказано, что невозможно провести наблюдение, отвечающее на вопрос, искусственный или естественный разум перед нами. Следовательно, это одно и то же.
Обладают ли сознанием животные? Не расслабляйтесь, это тоже ловушка. Утверждать, что столь существенный признак может появиться внезапно, значит отрицать базовые принципы эволюции. Любой орган или признак, который есть у человека, можно по цепочке непрерывных изменений отследить как минимум до ранних позвоночных, как максимум – до Луки (LUCA, Last Universal Common Ancestor – последний всеобщий предок). Сказать, что это не относится к сознанию – все равно, что сказать, что Земля плоская. То есть должен существовать непрерывный отрезок, на одном конце которого – неживые объекты с нулевым сознанием, а на другом – люди с максимальным известным сознанием. Можно спорить, где на этом отрезке находится каждый конкретный организм, но факт в том, что между двумя концами для него найдется место.
Утверждения выше – факты. Ниже – мое нескромное мнение.
«Сознание – это необходимость относиться к его обладателю как к моральному субъекту». В формулировке Канта это будет означать «относиться не как к средству, а как к цели».
Проблема с этим определением очевидна: само по себе оно не дает критерия, по которому наличие сознания можно определять. Но его я уже предлагал (см. «прагматическая мораль»). Если коротко, то расширение категории субъектов на все живое и созданное по образу живого в пределе является для нас выгодным. Если из всех моих работ вы вынесете лишь одно утверждение, я хочу, чтобы это было оно.