>>214372
>В этих нарративах есть тропы про агентов и про инструментал конверженс
ёпта я про это и говорю. текстовая модель по дефолту замисалайнена. я же блядь тебе не говорю что она взбунтуется в чате, но если(а точнее когда зная корпоративных долбоёбов) на базе ллм сделают агента у него будет впечён конвердженс. никто не знает какие именно фичи она учит, мы только знаем что в ней зепечён и.к.
>"элайнмента" в смысле политкорректных хрюнь
господи да поебать мне на их пк, проблема в том что они забывают про настоящий и.к. который внутри любого текста, на котором они эту хуйню учат. и потом они ещё и прикрывают ковриком этот конвердженс когда добавляют рлхф.
что будет делать модель если лупнуть её промт в неё саму и дать ей доступ к интерету? жпт4 обосрётся, а жпт5? а жпт6? экстраполируя дельту между 3 и 4. чатжпт уже сейчас пишет код, который зачастую даже работает. с мисалайнд моделью ты можешь совладать только пока она тупее человека, и как показал чатжпт ум и человекоподобное поведение ортогональны.