Не чат-бот, а управляемый маршрут
В медицине качество ответа нельзя оценивать только по естественности языка. Нужны известный источник, актуальность данных, граница допустимого ответа и понятный следующий шаг.
Поэтому медицинский агент проектируется как часть процесса: вопрос классифицируется, ответ связывается с утверждённой базой, а сложная или рискованная ситуация передаётся специалисту.
Human-in-the-loop должен быть видимым
Человек не может оставаться формальной подписью после решения модели. В интерфейсе заранее определяются точки, где специалист проверяет, уточняет или полностью принимает решение.
Для пациента важно видеть, что делает система, чего она не делает и как связаться с человеком без повторного прохождения всего маршрута.
Что измерять в пилоте
Метрики включают точность ссылок, долю корректных эскалаций, число пропущенных риск-сигналов, время до полезного следующего шага и понятность ответа для пользователя.
Пилот на синтетических или разрешённых данных не является доказательством клинической эффективности. Он проверяет архитектуру, наблюдаемость и безопасность процесса.