Skip to main content

Documentation Index

Fetch the complete documentation index at: https://www.doc-reviewer.site/llms.txt

Use this file to discover all available pages before exploring further.

Doc Reviewer делегирует всю работу по оценке большой языковой модели. До первой оценки вам нужно подключить хотя бы одну модель. Управление моделями доступно в Настройках → Модели: вы добавляете, редактируете, активируете и удаляете конфигурации моделей. Для оценки используется только активная модель, но вы можете хранить несколько конфигураций и переключаться между ними в любое время.

​
Поддерживаемые провайдеры

ПровайдерBase URLAPI-ключ обязателен
OpenAIhttps://api.openai.com/v1Да
Anthropichttps://api.anthropic.com/v1Да
Ollama (локально)http://localhost:11434/v1Нет
Любой совместимый с OpenAI APIВаш пользовательский Base URLЗависит от провайдера
Качество модели напрямую влияет на точность оценки. Используйте мощную модель — GPT-4o, Claude 3.5 Sonnet или аналогичную — для надёжных результатов. Более слабые или маленькие модели могут пропускать проблемы или давать расплывчатые рекомендации.

​
Добавление модели

1

Откройте Настройки

Нажмите Настройки в верхней навигации, затем выберите вкладку Модели.
2

Нажмите «Добавить модель»

Нажмите кнопку Добавить модель, чтобы открыть форму настройки модели.
3

Заполните параметры модели

Заполните все обязательные поля:
  • ID модели — идентификатор, который API ожидает, например gpt-4o или claude-3-5-sonnet-20241022. Он должен точно совпадать с названием модели, используемым в API вашего провайдера.
  • Отображаемое имя — читаемое название, отображаемое в интерфейсе, например GPT-4o.
  • Провайдер — выберите провайдера или введите пользовательское значение.
  • Base URL — конечная точка API. Используйте значения из таблицы выше или документацию вашего провайдера.
  • API-ключ — вставьте секретный ключ. Для провайдеров, не требующих ключа (например, Ollama), оставьте поле пустым.
4

Сохраните модель

Нажмите Сохранить. Модель появится в списке, но не будет активной.
5

Активируйте модель

Нажмите Активировать рядом с нужной моделью. Активная модель используется для всех последующих оценок.
В один момент времени может быть активна только одна модель. Переключение активной модели вступает в силу немедленно — следующая оценка будет использовать вновь активированную модель.

​
Переключение активной модели

Чтобы переключиться на другую модель, перейдите в Настройки → Модели и нажмите Активировать рядом с нужной моделью. Ранее активная модель деактивируется автоматически.

​
Безопасность API-ключей

API-ключи хранятся в локальной базе данных SQLite на вашем компьютере. Они не передаются на серверы Doc Reviewer — таких серверов не существует. Единственный исходящий трафик с API-ключом — прямой API-вызов с вашего компьютера к провайдеру LLM.

​
Использование локальной модели через Ollama

Ollama позволяет запускать модели с открытым весом локально, без API-ключа и внешнего сервиса. Это удобно, если вы хотите держать документы на своей инфраструктуре или избежать поминутной оплаты.
1

Установите Ollama

Скачайте и установите Ollama с ollama.com. После установки Ollama работает как фоновый сервис и слушает порт 11434.
2

Загрузите модель

Откройте терминал и запустите модель, чтобы скачать её:
ollama run llama3
Вы можете использовать любую модель из библиотеки Ollama. Команда ollama run скачает модель, если она ещё не загружена, и запустит интерактивный сеанс — его можно закрыть после завершения загрузки.
3

Добавьте модель в Doc Reviewer

Перейдите в Настройки → Модели → Добавить модель и заполните:
  • ID модели — название модели в Ollama, например llama3 или mistral.
  • Отображаемое имя — любое удобное вам название.
  • Base URL — http://localhost:11434/v1
  • API-ключ — оставьте пустым.
4

Активируйте модель

Нажмите Сохранить, затем Активировать рядом с новой записью.
Для лучших результатов с локальными моделями используйте модели с параметрами от 7 млрд. Модели с параметрами от 13 млрд и выше, как правило, дают более стабильные результаты оценки. Доступные варианты смотрите в библиотеке Ollama.

​
Файл инициализации models.yml

Doc Reviewer читает models.yml из папки рядом с doc-reviewer.exe один раз — при первом запуске — и использует его для заполнения начального списка моделей. После этого models.yml не влияет на работу приложения. Чтобы добавить или изменить модели после первого запуска, используйте Настройки → Модели в интерфейсе.
Если вы разворачиваете Doc Reviewer на новом компьютере и хотите заранее настроить модели, поместите файл models.yml рядом с .exe до первого запуска приложения.