Skip to main content
Doc Reviewer делегирует всю работу по оценке большой языковой модели. До первой оценки вам нужно подключить хотя бы одну модель. Управление моделями доступно в Настройках → Модели: вы добавляете, редактируете, активируете и удаляете конфигурации моделей. Для оценки используется только активная модель, но вы можете хранить несколько конфигураций и переключаться между ними в любое время.

​
Поддерживаемые провайдеры

ПровайдерBase URLAPI-ключ обязателен
OpenAIhttps://api.openai.com/v1Да
Anthropichttps://api.anthropic.com/v1Да
Ollama (локально)http://localhost:11434/v1Нет
Любой совместимый с OpenAI APIВаш пользовательский Base URLЗависит от провайдера
Качество модели напрямую влияет на точность оценки. Используйте мощную модель — GPT-4o, Claude 3.5 Sonnet или аналогичную — для надёжных результатов. Более слабые или маленькие модели могут пропускать проблемы или давать расплывчатые рекомендации.

​
Добавление модели

1

Откройте Настройки

Нажмите Настройки в верхней навигации, затем выберите вкладку Модели.
2

Нажмите «Добавить модель»

Нажмите кнопку Добавить модель, чтобы открыть форму настройки модели.
3

Заполните параметры модели

Заполните все обязательные поля:
  • ID модели — идентификатор, который API ожидает, например gpt-4o или claude-3-5-sonnet-20241022. Он должен точно совпадать с названием модели, используемым в API вашего провайдера.
  • Отображаемое имя — читаемое название, отображаемое в интерфейсе, например GPT-4o.
  • Провайдер — выберите провайдера или введите пользовательское значение.
  • Base URL — конечная точка API. Используйте значения из таблицы выше или документацию вашего провайдера.
  • API-ключ — вставьте секретный ключ. Для провайдеров, не требующих ключа (например, Ollama), оставьте поле пустым.
4

Сохраните модель

Нажмите Сохранить. Модель появится в списке, но не будет активной.
5

Активируйте модель

Нажмите Активировать рядом с нужной моделью. Активная модель используется для всех последующих оценок.
В один момент времени может быть активна только одна модель. Переключение активной модели вступает в силу немедленно — следующая оценка будет использовать вновь активированную модель.

​
Переключение активной модели

Чтобы переключиться на другую модель, перейдите в Настройки → Модели и нажмите Активировать рядом с нужной моделью. Ранее активная модель деактивируется автоматически.

​
Безопасность API-ключей

API-ключи хранятся в локальной базе данных SQLite на вашем компьютере. Они не передаются на серверы Doc Reviewer — таких серверов не существует. Единственный исходящий трафик с API-ключом — прямой API-вызов с вашего компьютера к провайдеру LLM.

​
Использование локальной модели через Ollama

Ollama позволяет запускать модели с открытым весом локально, без API-ключа и внешнего сервиса. Это удобно, если вы хотите держать документы на своей инфраструктуре или избежать поминутной оплаты.
1

Установите Ollama

Скачайте и установите Ollama с ollama.com. После установки Ollama работает как фоновый сервис и слушает порт 11434.
2

Загрузите модель

Откройте терминал и запустите модель, чтобы скачать её:
ollama run llama3
Вы можете использовать любую модель из библиотеки Ollama. Команда ollama run скачает модель, если она ещё не загружена, и запустит интерактивный сеанс — его можно закрыть после завершения загрузки.
3

Добавьте модель в Doc Reviewer

Перейдите в Настройки → Модели → Добавить модель и заполните:
  • ID модели — название модели в Ollama, например llama3 или mistral.
  • Отображаемое имя — любое удобное вам название.
  • Base URL — http://localhost:11434/v1
  • API-ключ — оставьте пустым.
4

Активируйте модель

Нажмите Сохранить, затем Активировать рядом с новой записью.
Для лучших результатов с локальными моделями используйте модели с параметрами от 7 млрд. Модели с параметрами от 13 млрд и выше, как правило, дают более стабильные результаты оценки. Доступные варианты смотрите в библиотеке Ollama.

​
Файл инициализации models.yml

Doc Reviewer читает models.yml из папки рядом с doc-reviewer.exe один раз — при первом запуске — и использует его для заполнения начального списка моделей. После этого models.yml не влияет на работу приложения. Чтобы добавить или изменить модели после первого запуска, используйте Настройки → Модели в интерфейсе.
Если вы разворачиваете Doc Reviewer на новом компьютере и хотите заранее настроить модели, поместите файл models.yml рядом с .exe до первого запуска приложения.