>>200884
Фазовый переход у приматов произошел при задействовании системы манипуляции с физическими объектами с целью использования для нужд языка. Сенсорные паттерны внезапно стали "штуками", которые можно комбинировать, перекладывая с места на место. Чимпы понимают отношения между объектами - но не понимают отношения между отношениями. А чимпы, обученные языку пластмассовых жетонов, внезапно делают скачок на одну ступень и начинают улавливать этот новый слой абстракций от абстракций.
Дальнейший рост, видимо, уже был чисто количественный, за счет постепенного возведения пирамиды абстракций из поколения в поколение. Мы блестим накопленным интеллектом. Головы те же самые, только софт усложняется. Карлики продолжают скакать на плечах гигантов, воображая себя чем-то высшим и доселе не бывшим - но отними у них учебник линала и на выходе получишь стандартный палеолитический шиш.
Есть объективно существующие вещи типа полигенного счета интеллекта. Есть когнитивные уродцы типа Эда Виттена. Можно наплодить миллион эмбрионов и отобрать из них самого генетически одаренного. Правильные гены кодируют правильные белки, правильные белки формируют правильные клетки, правильные клетки правильно плодятся и правильно коммуницируют - площадь неокортекса стала больше, связность неокортекса стала выше, старые синапсы медленнее разрушаются, кортикальные колонки более эффективно утилизируют глюкозу. В оперативке скачет не четыре объекта, а двадцать; параллельность стала более параллельной, а скорость блендинга концепций до десяти раз более быстрой. Получился Эд Виттен.
Можно собрать все правильные гены и создать максимально когнитивного эмбриона, полностью исчерпав генетический пул. Но это бульдозерный принцип. Количественный рост на качественно устаревшей архитектуре с объективно существующим потолком возможностей. И к тому же зависимый от языка, культуры и накопленных знаний. Вместо трех уровней абстракций, накопленных за поколение, получишь десять - а вместо десяти терабайт данных миллион терабайт. И что? Трансгуманизм, аугментация, Израиль?
Проблема в том, что основной заход в сторону создания ИИ произошел со стороны CS. Дескать, заставим знаки скакать по кремнию - и обретем революцию. Нюанс в том, что знаки и были той самой революцией, которая все изменила. Реальный ИИ это не абстрактный бульдозер на созданном людьми знаковом топливе - это физическая система, способная к революциям вроде самопроизвольного создания символьных репрезентаций. Программисты-анальники забыли заветы когнитивных отцов и завели идею в тупик.
Кстати, если кто-то думает, что ИИ это какая-то особенно интересная идея, или что принцип "чем умнее, тем лучше" является чем-то хорошим - он очень сильно ошибается. Теоретико-струнная тусовочка дает нам пример супер-интеллектуальной системы, растратившей триллионные человеческие и материальные ресурсы на создание бесконечного количества абстрактных теорий, одинаково хорошо описывающих один и тот же набор данных. Этот ваш механический AGI - как тот джинн у Стругацких - вместо возведения хрустальных дворцов может заняться чем-то совсем другим. Например, он может за миллисекунду собрать всю дату, до которой сможет дотянуться, а потом на миллиард лет застрять в мастурбационном тупике моделирования.