Встроенная LLM в Chrome раскрывает новые возможности: что под...

102

Встроенная LLM в Chrome раскрывает новые возможности: что под капотом и как ее запустить

Браузер Google Chrome включает локальную LLM на 4GB (v3Nano 2025.06.30.1229, на базе Gemma-3 4b), которая работает полностью офлайн без внешних вызовов API.

Модель поддерживает мультимодальный ввод (картинки и аудио, только для чтения — без поддержки документов, инструментов или веб-запросов), а данные для обучения обрезаны концом октября 2023 года.

Встроенного UI для работы с этой локальной моделью нет.

Единственный HTML-файл интерфейса (NanoChat) инстанцирует все доступные API, начиная с чат-промпта в стиле ChatGPT.

Интерфейс работает исключительно локально — все вычисления остаются на устройстве без сетевых зависимостей.

Юзеры могут скачать HTML из репозитория GitHub или использовать его напрямую по адресу https://quantable.com/nanochat.html (хотя метод с локальным скачиванием лучше демонстрирует 100% офлайн-возможности).

Модель можно заюзать внутри расширений Chrome, хотя автор отмечает: реальная практическая польза, кроме тестов качества и возможностей LLM, пока ограничена.

Встроенные в модель инструменты автоматического распознавания языка и перевода предлагают потенциальный буст приватности и производительности, обрабатывая перевод локально без обращений к внешним сервисам.

Однако для ответственного внедрения этих фич требуется прозрачная коммуникация с юзером и явный opt-in.

@MikeBlazerX

⚠️ Закрытый канал: @MikeBlazerPRO