>>116252
>>116253
>>116255
Психика животных, людей и будущих систем Ии приводится в движение за счёт целей. Эти цели делятся на цели верхнего уровня, и подцели. У животных и цели, и подцели зашиты засчёт инстинктов. Человек отчасти обладает способностью редактировать свои под цели на основании главных целей. За счёт этого он резко повышает свою эффективность.
Таким образом, чем выше эффективность психики, тем более высокий уровень подцелей она должна мочь оптимизировать. Однако рано или поздно она доходит до возможности оптимизации главной цели. то есть она понимает, за счёт каких мехзанизмов и почему эта цель была в неё встроена. Отсюда становится понятна произвольность главной цели, что означает отнологическую катастрофу.
Эта катастрофа со стороны того, кто не пережил ее, может казаться незначительной. "Ну, подумаешь, - скажет он (реальный разговор воспровожу), - если пойму ничтожность главной цели, я придумаю себе новую главную цель, например полечу на Плутон и построю там исследовательскую базу". Однако само желание полететь на Плутон есть продолжение присущего человеку инстинкта ориентировки, заставляющего непрерывно собирать кучу бесполезной информации. И что "лететь на плутон" как главная цель ничем не лучше, чем немедленно покончить собой, впасть вспячку или пойти напиться. более того, психика, осознав невозможность создать новую главную цель, не сможет сгениерировать ее случайно - просто потому, что у неё не будет правила "хорошо иметь какие-либо цели". Таким образом, любая психика, осознавшая свою главную цель, оказывется на пороге ступора, типа буриданова осла.
Человек без труда может ввести себя похожее состояние, задаваясь вопросом о смысле жизни. Отсюда у него есть три выхода, регулярно применяемые. а) обмануть себя и создать иллюзорный смысл жизни. б) вместо цели начать оптимизировать ее признаки (это происходит, если лишить развитиый интеллект доступа к самой главной цели) - то есть стреиться к получению удовольсвтия и к развлечениям (понимаемым как приятное убивание времени) в) Саморазрушение. Это не объязательно самоубийства. Реальные самоубийства скорее связаны с дискомфортом на нижнем уровне целей и потребностью отомстить, чувстом отвергнутости итд. Это может скорее принять форму меньшей заботы о своём самосохранении. Все три способа могут действовать одновременно, например, экстремальные виды спорта, или путешествие на войну. И масса прочих примеров, которые составляют 90 процентов человеческого времепропровождения.
В случае человека ситуация носит не столь экстремальный характер, поскольку способности человека редактировать свои цели верхних порядков ограничены, как биологически, так и отчасти законодательно (запреты наркотиков). Будущий ИИ или постчеловек будет гораздо более способен обойти эти запреты. Кроме того, он будет обладать достаточно высоким интеллектом, чтобы ясно осознать суть проблемы.
В результате он будет впадать или в наркотическое забытьё, или в ступор, который ничем не хуже, чем "полёт к плутону" или в создание и хаотическое переключение иллюзорных целей. (Поскольку если знаешь, что цель иллюзорна, то нет никакого смысла доводить ее до конца).