Замечали, как кто-то спрашивает у LLM, как она ранжирует...

Замечали, как кто-то спрашивает у LLM, как она ранжирует документы, и ждёт ответа, словно у модели есть доступ к собственным внутренностям?🤦‍♂️

LLM не "самоосознаёт" себя в том смысле, что не лезет в свой код, системы, алгоритмы ранжирования и предпочтения, чтобы ответить на твои вопросы.

За пределами системных промптов модель не расскажет, как генерирует ответы, что ищет и как под неё оптимизировать.

Когда ты задаёшь LLM такие вопросы о нём самом — или о любой другой системе — ты получаешь обратно то, что рандомные люди в интернете написали об этом, впитанное из обучающих данных или подтянутое через grounding.

К сожалению, это порождает порочный круг подтверждения: люди спрашивают LLM, принимают ответ за истину, пишут очередную статью об этом, которую затем пережёвывает бесконечная LLM-сороконожка. 🤡

Написанное может быть правдой, а может — нет.

Но не думай, что LLM роется в собственном коде и консультирует тебя на основе этого.🤓

@MikeBlazerX

🚷 Закрытый канал: @MikeBlazerPRO

Источник новости https://t.me/mikeblazerx/6312...