Конфиденциальный локальный чат с AI
Общайтесь с локальной моделью WebGPU или настроенным сервисом AI.
Конфиденциальный локальный чат с AI
Как использовать Конфиденциальный локальный чат с AI
Private local AI chat sends a single message to a small language model, Qwen2.5 0.5B Instruct, that runs in your browser through WebGPU, and returns one written answer. The model downloads on first use and may stay cached on the device. Messages are limited to 8,000 characters and answers to 1,400 output tokens, and replies can be wrong, so review them.
- Вставьте исходные данные в редактор ввода или загрузите встроенный пример.
- Выберите способ обработки.
- Запустите «Конфиденциальный локальный чат с AI», просмотрите результат и используйте доступные элементы копирования или скачивания.
Что поддерживает этот инструмент
При первом запуске скачивается модель вывода. Чат и генерация требуют WebGPU; меньшие модели распознавания используют WebAssembly браузера. Результат AI может опускать или придумывать детали. Проверяйте его перед использованием.
- Обработка
- Локальный браузер
Ограничения и обработка
Исходные данные для чата: 8 000 символов; генерация: до 1 400 выходных токенов. Первое скачивание модели может занимать сотни МБ. Требования к чату WebGPU и памяти браузера зависят от устройства. Результат модели — черновик.
Пример исходных данных
A useful tool makes everyday work easier. Review the results before sharing.
Частые вопросы
Why does the local AI chat say my browser needs WebGPU?
The chat model runs on your device's graphics hardware through WebGPU. If the browser does not expose WebGPU, the tool stops with an error before downloading the model; switch to a browser and device that support it.
How big is the model download for local AI chat?
The first run downloads the model and runtime, which can be hundreds of MB, with progress shown while it loads. Later runs can reuse the copy cached by the browser unless that cache has been cleared.
Does the local AI chat remember previous messages?
No. Each run sends only the text currently in the input box, with a short instruction to answer accurately and state uncertainty. To continue a topic, include the earlier context in your new message, staying within 8,000 characters.
Где обрабатываются мои данные?
Локальный режим скачивает общедоступные ресурсы модели и среды выполнения и сохраняет входные данные в этом браузере. Модели могут оставаться в кеше на этом устройстве.
Каковы ограничения входных данных?
Исходные данные для чата: 8 000 символов; генерация: до 1 400 выходных токенов. Первое скачивание модели может занимать сотни МБ. Требования к чату WebGPU и памяти браузера зависят от устройства. Результат модели — черновик.