вот часто говорят что AGI очень быстро станет в миллиард раз умнее человека, и человек будет для него примерно как муравей. никто не сможет понять сверхинтеллектуальный ии, сингулярность, слава нашим робогосподам, ну вы всё это знаете.
а я сейчас подумал - а как в действительности выглядит кривулина интеллекта? ведь очевидно же что количество нейронов в результаты ирл транслируется нелинейно. возможно ли что мы уже находимся возле лимита возможностей познания? ведь человек долго эволюционировал самость, а потом остался на этом уровне. при этом существуют животные с мозгом больше чем у нас. так нужен ли больший ум, или архитектура человеческого мозга это некая критическая точка, переводящая мышление к фазовому переходу? фазовые переходы впечатляют, но их в природе не так много.
действительно, если человек распознаёт картинки с точностью в 99.5%, то система в миллиард раз умнее человека будет распознавать картинки с практически той же самой точностью - почти 100%.
с другой стороны, можно сказать что некоторые исключительные личности смогли создать теории, которые просто переворачивают восприятие реальности - матан, тервер, аналитическую геометрию, теорию групп. однако и в этих областях наиболее революционными каждутся всякие лоу-хэнгинг фрукты, а всякая эзотерика типа группы монстра существует просто для полноты картины.
что думаете на это счёт и как можно было бы спрогнозировать полезный эффект от роста мыслительного потенциала?