Материал ГК «ФОРОНЕЙ»
Локальный ИИ на предприятии
Пересказ страницы foroney.ru/services/local-ai/ для контура ДОКА: те же GPU, тот же периметр.
Аксёнов Юрий Васильевич на корпоративном сайте формулирует так: модель живёт на GPU завода. Документы не уходят к OpenAI и не едут за периметр. Для ДОКА это условие работы: инвойс с ценами и контрагентами в публичный чат не отдают.
Полный текст и схемы: Локальный ИИ, суверенный ИИ, разработка ПО.
Инференс vLLM / SGLang
Скорость генерации на NVIDIA CUDA или AMD ROCm. Модель на вашем GPU. ДОКА в этом же контуре гоняет vision и текстовые роли Юриста, Инспектора и Координатора.
GraphRAG
Документы завода связывают в граф. Поиск по смыслу, не по ключевому слову. Для ВЭД это решения ФТС, ЕЭК и ваши прецеденты по номенклатуре.
Модели Qwen
Открытые веса, квантование под регламент. На сайте ФОРОНЕЯ отдельно названы Qwen 2.5 и Qwen-VL, которые читают плотные таблицы инвойса.
Векторы в периметре
Qdrant или pgvector остаются у заказчика. Сопоставление смыслов без исходящего канала. Это же ограничение стоит в кейсе on-prem / 152-ФЗ.
Как это стыкуется с as-is
Наумов Павел Владимирович на aiprocesses.ru отдельно пишет: локальный стек без разобранного процесса даёт безопасный бред. Чеклист до пилота: оригинал, перепечатка на foroney.ru.
Разбор самого конвейера ДОКА: метод на этом сайте и статья ФОРОНЕЯ.