У Карпаты вышел интересный пост про то, как разбираться в...

У Карпаты вышел интересный пост про то, как разбираться в ответах нейросетей

Оригинал: https://x.com/karpathy/status/2105819303471976479

Мысль такая: модели будут делать всё больше работы самостоятельно. А нам придётся тратить всё больше времени на понимание того, что они сделали, и на контроль результата, что в целом логично 😅

И здесь он предлагает экспериментировать с форматом объяснения. Потому что получить несколько экранов текста ещё не означает разобраться в вопросе.

Начинает с довольно необычного приёма - просить модель писать по ASD-STE100. Это стандарт упрощённого технического английского, который разработали для авиационной документации. В нём есть ограничения на словарь и правила построения предложений. Карпаты иногда просит следовать ему примерно на 80%, чтобы сохранить более свободную подачу.

На картинке как раз разобраны правила этого стандарта и примеры формулировок

Дальше он предлагает идти в сторону визуальных объяснений:

• Схема или картинка, на которой можно увидеть связи и последовательность.

• Интерактивная HTML-страница, где можно что-то поменять и посмотреть, как это влияет на результат.

• Видео под конкретный вопрос. Например, объяснение в духе 3Blue1Brown с анимацией и озвучкой. На этот формат он особенно рассчитывает.

И вот это самое прикольное - условно, разбираешься в незнакомой технологии. Прочитал ответ, попросил объяснить проще, потом ещё проще. Вроде слова уже понятные, но как всё работает вместе всё ещё не очень.

Можно попробовать попросить показать это на конкретном примере. Собрать маленькую страницу, где ты меняешь условия, проходишь процесс по шагам и видишь последствия своих действий. Особенно полезно для всяких интерактивных задач - курсов, занятий, обучений и т.д.

Раньше на подготовку такого материала пришлось бы отдельно тратить время и деньги. Карпаты пишет, что по мере доступности моделей и генерации кода становится разумно создавать подобные вещи даже для разового использования.

Собрал объяснение под себя, разобрался, пошёл дальше. Кажется, это полезный подход и для самостоятельного обучения, и для объяснения сложных вещей команде или клиенту.

Хороший повод в следующий раз вместе с вопросом подумать, в каком виде тебе вообще будет удобнее понять ответ.

А в целом история про то, что правила меняются и агентам больше не нужно задавать настолько узкий контекст - это важный момент. Если вы вдруг до сих пор стараетесь задавать слишком много правил для агента, то для новых моделей это даже хуже, об этом как раз Антропики писали в инструкции к последним моделям - https://claude.dev/blog/the-new-rules-of-context-engineering-for-claude-5-generation-models/

Источник новости https://t.me/tokarevdigital/47...