Знакът на КАГАМИ КАГАМИ
kagami.bg/academy · lesson · machine-readable viewVERIFIED 2026-10-01 · UPDATED 2026-10-01
IDENTITY
module
GX10-04-109 · Classifying incoming messages with a local model: schema-bound output plus human review
series
GX10 (local AI server class: NVIDIA GB10, e.g. ASUS Ascent GX10 / DGX Spark)
level
Intermediate
duration
1–2 h
prerequisites
Ollama with a pulled text model; Python 3 with the packages ollama and pydantic; basic JSON
trust_label
VERIFIED 2026-10-01 (Ollama structured-outputs documentation, FAQ, v0.35.0 release notes, model page) · UPDATED 2026-10-01 · NOT TESTED against a live model on GB10-class hardware. The schema and routing code was executed only against hand-written mock model outputs (Pydantic 2.12.5)
versions
Ollama 0.35.0 (latest stable release page entry as of 2026-10-01; 0.35.1 is listed as a pre-release) · Pydantic 2.12.5 (used for the mock run)
data
All messages, names and outputs in the lesson are fictional and hand-written. The example model outputs are illustrations, not measured results
language
human view: bg · english edition: /en/academy/gx10/ (same file name)
previous / next
04-108_Vision_Technician_Photos.html / 04-110_Multi_Agent_Signal_Pipeline.html
PURPOSE

Turn free-text messages from several channels (phone transcript, email, chat, web form) into one structured record with a local model: category, urgency, owner role, suggested action and a self-reported confidence. The record shape is imposed with a JSON schema in the "format" field of Ollama's /api/chat. Routing is ordinary code: a danger-word rule that does not depend on the model, schema validation, and a confidence threshold. Anything dangerous, invalid or uncertain goes to a person. The model only advises; it sends nothing and changes nothing by itself.

KEY CONCEPTS
COMMANDS / PATHS
CHECKLIST
NEXT MODULE

04-110 · Multi-agent request pipeline with a human (04-110_Multi_Agent_Signal_Pipeline.html) — the record becomes a request with statuses · related: 04-111 fee reminders, 04-114 FastAPI gateway, 04-116 Appsmith dashboard · KW_I23 · JSON schema in Ollama: what it fixes and what it does not · series index: kagami.bg/academy/gx10/ · offer: Quick experiment (kagami.bg/stalbata/)

SOURCES
TAGS
gx10nvidia-gb10ollamastructured-outputjson-schemapydanticclassificationhuman-in-the-loop
ПРОВЕРЕНО · 01.10.2026 ОБНОВЕНО · 01.10.2026

Класификация на сигнали с локален модел

Хората пишат, звънят и пращат формуляри кой по какъв път свикне. Правим на локален AI сървър от класа NVIDIA GB10 сортировчик: моделът чете съобщението и връща подредена бележка — какво е, колко е спешно и кой да се заеме. Човекът проверява всичко опасно, невалидно или несигурно. Моделът съветва, не решава.

⏱ 1–2 ч Средно GX10 Ollama 0.35.0 · Python схема · човек в контура
Ollama (моделът)🔒 локално Python · Pydantic🔒 локално
🔄
ОБНОВЕНО · 01.10.2026 — какво (обобщено)
Урокът е преработен изцяло по текущите документи. Махнахме: зависимостта от конкретна платформа и от нейно продуктово име (сега е обща кутия за съобщения на измислена сграда), примерите, наречени „реални“, въпреки че са измислени (сега са честно означени), сървър, вързан към всички мрежови интерфейси, примерна автоматизация, чийто JSON не беше валиден, и обещанието, че 200 примера и дообучаване „значително“ подобряват резултата (не го доказахме). Добавихме: схема в полето format на Ollama през Pydantic, всички полета в required, проверка в код, оценка на увереността като сигнал за сортиране, а не като вероятност, независимо от модела правило за опасни думи, правило „човек проверява“ и дневник на поправките. Четирите оси на класификацията са запазени. Всички съобщения и данни в урока са измислени.
⚠️
Какво не сме пускали сами
Нямахме машина от класа GB10 и не пуснахме жив модел за този урок — затова няма етикет „ТЕСТВАНО“. Схемата и функцията за маршрутизиране са изпълнени с Pydantic 2.12.5 само върху ръчно написани примерни отговори на модел. Изходите в раздел „Примери“ са илюстрации, писани на ръка, а не измерени отговори. Не сме мерили: колко добре избран от теб модел разбира български, дали Ollama налага границите 0 и 1 за confidence при самото генериране (затова ги проверяваме след това), нито как се държи оценката на увереността на твоя модел.

01Какво ще научиш

02Преди да започнеш

КаквоСтойност (проверено на 01.10.2026)
Ollama0.35.0 (последна стабилна във Releases на GitHub; 0.35.1 е отбелязана като предварително издание)
Пример за моделllama3.1:8b — 4,9 GB, прозорец 128K (страницата на модела в ollama.com). Подай своя модел вместо <текстов-модел>
Контекст по подразбиране4096 токена (FAQ на Ollama); дълги съобщения може да искат повече
⚠️
Облачните модели на Ollama 🌐 глобален модел
Според документацията към 01.10.2026 Ollama Cloud засега не поддържа структурирани изходи. Освен това съобщенията на хора съдържат лични данни; затова урокът е за модел, който се изпълнява у теб.
🧪
Данните са измислени
Сградата „Липов двор“, жителите и съобщенията в примера са въображаеми. Така можеш да пробваш всичко, без да пипаш истински съобщения от хора.

03Стъпки

  1. Всичко става текст

    Съобщения идват по телефон (след превръщане на разговора в текст), по имейл, в чат и през форма. Защо ги свеждаме до текст? Моделът не го интересува откъде е дошло — интересува го какво е написано. Затова всяко съобщение носи три неща: text, channel и час на получаване. Каналът се пази за хората, не за модела.

    В примера ни, измислената сграда „Липов двор“ събира всичко в една обща кутия. Как се пише тази кутия (таблица, поща, форма) — е друг въпрос; уроците за база и табло са в серията.

  2. Четирите оси

    Всяко съобщение получава бележка по четири оси плюс оценка на увереността.

    ОсСтойности (английски имена в схемата)Значение
    Тип categorymaintenance · payment · complaint · inquiry · emergencyповреда · плащане · оплакване · въпрос · опасност
    Спешност urgencyimmediate · same_day · this_week · lowведнага · днес · тази седмица · може да почака (сроковете са твои — задай ги в правилата)
    Отговорник ownertechnician · accountant · manager · residentмайстор · счетоводител · домоуправител · самият жител
    Действие suggested_actionкратък текст1–2 изречения предложение към човека
    Увереност confidenceчисло от 0 до 1оценката на самия модел

    Имената са на английски, защото са ключове за кода; текстът за хората може да е на български.

  3. Схемата като код

    Описваме бележката с клас на Pydantic. Той ни дава две неща наведнъж: схема за Ollama и проверка на отговора. По документацията на Ollama Signal.model_json_schema() се подава в полето format, а отговорът се проверява обратно с model_validate_json(). Подробно — в урока KW_I23.

    python · signal_schema.py
    from typing import Literal
    from pydantic import BaseModel, Field
    
    class Signal(BaseModel):
        category: Literal["maintenance", "payment", "complaint", "inquiry", "emergency"]
        urgency: Literal["immediate", "same_day", "this_week", "low"]
        owner: Literal["technician", "accountant", "manager", "resident"]
        suggested_action: str                    # 1-2 изречения за човека
        confidence: float = Field(ge=0, le=1)    # оценка на модела, не вероятност
    ✅
    Нито едно поле със стойност по подразбиране
    Поле със стойност по подразбиране отпада от required и моделът има право да го пропусне — тихо, без грешка. Тук всичките пет са задължителни; Signal.model_json_schema()["required"] ги изброява и петте (проверихме го с Pydantic 2.12.5). Подробности — в KW_I23.
  4. Моделът: правила и заявка

    Системният текст казва какво значи всяка стойност; схемата казва как изглежда отговорът. Документацията на Ollama съветва схемата да се подаде и като текст в промпта, и температура 0 за по-предвидим резултат. Правилата по-долу са твои — измисленият пример е за сграда, а твоят случай ще иска свои думи.

    python · classify.py
    import json
    from ollama import chat
    from signal_schema import Signal   # клас Signal от стъпка 3
    
    SCHEMA = Signal.model_json_schema()
    
    SYSTEM = """Ти помагаш на домоуправител на жилищна сграда.
    Получаваш едно съобщение от жител и го описваш по схемата.
    - emergency: наводнение, газ, пожар, токов удар, заседнал асансьор с хора.
    - maintenance: повреда или авария без непосредствена опасност.
    - payment: такси, сметки, плащания. complaint: шум, съседи, нарушения.
    - inquiry: въпроси и справки.
    Ако съобщението е неясно, сложи ниска увереност. Не измисляй факти.
    suggested_action пиши на езика на съобщението, в 1-2 изречения.
    Схема на отговора: """ + json.dumps(SCHEMA)
    
    def classify(text: str) -> str:
        response = chat(
            model="<текстов-модел>",
            messages=[
                {"role": "system", "content": SYSTEM},
                {"role": "user", "content": text},
            ],
            format=SCHEMA,
            options={"temperature": 0},
        )
        return response.message.content

    classify() връща текст — JSON по схемата. Проверката и решението са следващата стъпка; моделът не прави нищо извън това да върне текст.

    💡
    Защо файлът не е signal.py
    В Python вече има вграден модул signal; файл с такова име би го засенчил. Затова схемата е в signal_schema.py. ⚠️ Този код не е пускан с жив модел.
  5. Маршрутизиране: правило, схема, праг

    Тук моделът вече не участва. Малка функция решава къде отива съобщението, по ред: 1) опасни думи; 2) валидна ли е бележката; 3) казва ли моделът „опасност“ или „веднага“; 4) достатъчно ли е уверен. Защо опасните думи са първи? Схемата гарантира форма, не истина: модел може да върне съвършено оформена бележка „повреда, тази седмица, увереност 0,92“ за съобщение за наводнение. Правилото е обикновен списък и не зависи от модела.

    python · route.py
    from pydantic import ValidationError
    from signal_schema import Signal   # както в стъпка 4
    
    # Твоят списък. Нарочно е прекалено чувствителен.
    DANGER = ("газ", "пожар", "наводнение", "тече вода", "заседнал", "токов удар")
    THRESHOLD = 0.7   # начална стойност; нагласи я по поправените примери
    
    def route(text: str, raw: str) -> str:
        if any(w in text.lower() for w in DANGER):
            return "check now"                     # човек, веднага
        try:
            s = Signal.model_validate_json(raw)
        except ValidationError:
            return "check"                         # невалидна бележка
        if s.category == "emergency" or s.urgency == "immediate":
            return "check now"
        if s.confidence < THRESHOLD:
            return "check"                         # несигурно
        return "queue for owner"                   # опашка на отговорника

    Пуснахме route() с ръчно написани отговори: съобщение за наводнение с „хубав“ отговор на модела отива в check now; невалиден JSON и увереност 0,5 отиват в check; нормален отговор с 0,92 отива в queue for owner. Това проверява кода, не модела.

    ИзходКакво значи
    check nowЧовек го вижда веднага. За опасност с хора в риск има и път, който не зависи от модела — телефон 112 и дежурен човек.
    checkЧовек го преглежда в опашката: невалидно или несигурно.
    queue for ownerВлиза в опашката на отговорника, който го чете. Нищо не се изпраща и не се променя само.
    💡
    Защо прекалена чувствителност
    „газ“ хваща и „магазин“. Излишният поглед струва секунда, а пропуснатата авария — много повече. Списъкът е твой: допълвай го от поправките на хората.
    ✅
    Увереността е сигнал, не вероятност
    Числото е написано от самия модел. То помага да подредиш опашката, но не казва колко пъти от сто е прав. Прагът 0,7 е начална стойност — смени я, когато имаш свои поправени примери.
  6. Примери (измислени)

    Съобщенията по-долу са измислени, а изходите са илюстрации, писани на ръка — не са отговори на пуснат модел. Показват формата и накъде би завело всеки случай.

    Съобщение (измислено)Илюстративна бележкаМаршрут
    „Лампата на стълбището на втория етаж не свети от понеделник.“maintenance · this_week · technician · 0,93queue for owner
    „Кога е следващото общо събрание?“inquiry · low · manager · 0,95queue for owner
    „Колко дължа за таксата за входа за септември?“payment · low · accountant · 0,90queue for owner
    „Пак е същото при входа.“inquiry · low · manager · 0,31 (неясно съобщение — модел, който „знае, че не знае“)check
    „В мазето има наводнение, водата е до глезените!“да речем: maintenance · this_week · technician · 0,92 (грешно, но валидно)check now — хванато от правилото за опасни думи
    json · илюстративна бележка (писана на ръка)
    {
      "category": "maintenance",
      "urgency": "this_week",
      "owner": "technician",
      "suggested_action": "Прати майстор да смени крушката на стълбището на втория етаж.",
      "confidence": 0.93
    }

    Последният ред е целта на урока: бележката е валидна и грешна едновременно. Схемата не я спира — спира я правилото и човекът.

  7. По избор: същото в n8n или зад HTTP адрес

    Python кодът по-горе е най-ясният начин да видиш логиката. В работна среда същите три части се свързват така:

    • В n8n (урок 04-01): тригер за новото съобщение → HTTP Request към /api/chat на Ollama с "stream": false, "options": {"temperature": 0} и схемата в format (тялото е като в урок 04-107) → Code възел с правилото за опасни думи и прага → Switch по трите изхода. Проверката на схемата тук правиш сам в Code възела (дали ги има полетата и стойностите са от списъка) — Pydantic в n8n няма.
    • Зад HTTP адрес: ако няколко системи искат да класифицират, сложи classify() и route() зад малък вътрешен API с ключ и лимит (урок 04-114). Адресът остава в локалната мрежа.
    • Резултатът и поправката на човека отиват в база — така се ражда дневникът от следващата стъпка, а урок 04-110 показва как бележката става заявка със статуси.

    ⚠️ Тези свързвания не сме ги сглобявали за този урок.

  8. Човек в контура и дневник на поправките

    Опашката check трябва да има човек с име. Той вижда три неща: съобщението, бележката на модела и поле, в което я поправя. Защо дневник на поправките? Всяка поправка е измерване: колко пъти от сто човекът сменя типа или спешността. С тези числа решаваш дали прагът 0,7 е добър, какво да допишеш в правилата и кои опасни думи липсват. Колко ще ти е нужно — не е измерено тук; започни с поправките на няколко седмици работа.

    • Пази: съобщение, бележка на модела, поправка на човека, час.
    • Никога не изпращай отговор на жител само от модела. Предложеното действие е чернова за човека.
    • Пази съобщенията на машината и ги трий по правилата за лични данни, които прилагаш.
  9. Сигурност — минимумът

    • Ollama слуша по подразбиране само на 127.0.0.1:11434 (FAQ на Ollama). Не го отваряй към мрежата със OLLAMA_HOST за тази задача.
    • Съобщенията на хора не се пращат към облачен модел.
    • Моделът няма достъп до изпращане и промяна на данни — само връща текст; решенията минават през човек.
    • Прочети в документацията на Ollama къде се записват моделите и дали искаш изключване на облачните му функции.

04Проверка

Тест

1. Какво гарантира схемата, подадена в полето format?

2. Моделът върне валидна бележка „maintenance · this_week · 0,92“ за съобщение за наводнение. Какво пази?

3. Защо confidence няма стойност по подразбиране в класа?

4. Кой решава при опасност, при която има хора в риск?

05Какво следва

💡
Модели за решения в Ollama 0.35.0
Според бележките към версия 0.35.0 Ollama добавя „модели за решения“ през /v1/systemone: те връщат избор, вероятности и оценки вместо текст, а сред посочените случаи са сортиране на заявки и класифициране на съдържание. ⚠️ Не сме ги пробвали и не знаем как работят на български.

06Източници

  1. Ollama: Structured Outputs 🔒 локално — схема в format, Pydantic, съвет за схемата и в промпта, температура 0; Ollama Cloud не поддържа структурирани изходи.
  2. Ollama: FAQ — адрес по подразбиране 127.0.0.1:11434, контекст 4096, облачни функции.
  3. Ollama: API /api/chat — съобщения, stream, options.
  4. Ollama: издания в GitHub — 0.35.0 от 28.09.2026 (модели за решения), 0.34.4 (структурирани изходи при „мислещи“ модели).
  5. llama3.1 в Ollama 🔒 локално — размер и контекст на модела.
  6. Pydantic — модели и JSON схема.