Класификация на сигнали с локален модел
Хората пишат, звънят и пращат формуляри кой по какъв път свикне. Правим на локален AI сървър от класа NVIDIA GB10 сортировчик: моделът чете съобщението и връща подредена бележка — какво е, колко е спешно и кой да се заеме. Човекът проверява всичко опасно, невалидно или несигурно. Моделът съветва, не решава.
format на Ollama през Pydantic, всички полета в required, проверка в код, оценка на увереността като сигнал за сортиране, а не като вероятност, независимо от модела правило за опасни думи, правило „човек проверява“ и дневник на поправките. Четирите оси на класификацията са запазени. Всички съобщения и данни в урока са измислени.
confidence при самото генериране (затова ги проверяваме след това), нито как се държи оценката на увереността на твоя модел.01Какво ще научиш
- Как да превърнеш свободен текст в подредена бележка с четири оси: тип, спешност, отговорник и предложено действие.
- Как да наложиш формата на бележката със схема в Ollama и защо схемата гарантира формата, а не истината.
- Защо оценката на увереността е само сигнал за сортиране и как да я ползваш за опашка за проверка.
- Как правило в обикновен код хваща опасните съобщения, дори когато моделът сгреши.
- Как да включиш човека така, че моделът да съветва, а не да решава.
02Преди да започнеш
- Ollama 🔒 локално с изтеглен текстов модел. Урокът е сверен с версия 0.35.0 (издадена на 28.09.2026).
- Python 3 и пакетите
ollamaиpydantic:pip install -U ollama pydantic. - Адресът на твоя Ollama. По подразбиране е локален; в примерите го пишем като променлива
$OLLAMA_URL. - Прочетен урок „JSON схема в Ollama: какво поправя и какво не“ — тук го прилагаме. Не е задължителен, но ще спести капаните.
| Какво | Стойност (проверено на 01.10.2026) |
|---|---|
| Ollama | 0.35.0 (последна стабилна във Releases на GitHub; 0.35.1 е отбелязана като предварително издание) |
| Пример за модел | llama3.1:8b — 4,9 GB, прозорец 128K (страницата на модела в ollama.com). Подай своя модел вместо <текстов-модел> |
| Контекст по подразбиране | 4096 токена (FAQ на Ollama); дълги съобщения може да искат повече |
03Стъпки
-
Всичко става текст
Съобщения идват по телефон (след превръщане на разговора в текст), по имейл, в чат и през форма. Защо ги свеждаме до текст? Моделът не го интересува откъде е дошло — интересува го какво е написано. Затова всяко съобщение носи три неща:
text,channelи час на получаване. Каналът се пази за хората, не за модела.В примера ни, измислената сграда „Липов двор“ събира всичко в една обща кутия. Как се пише тази кутия (таблица, поща, форма) — е друг въпрос; уроците за база и табло са в серията.
-
Четирите оси
Всяко съобщение получава бележка по четири оси плюс оценка на увереността.
Ос Стойности (английски имена в схемата) Значение Тип categorymaintenance·payment·complaint·inquiry·emergencyповреда · плащане · оплакване · въпрос · опасност Спешност urgencyimmediate·same_day·this_week·lowведнага · днес · тази седмица · може да почака (сроковете са твои — задай ги в правилата) Отговорник ownertechnician·accountant·manager·residentмайстор · счетоводител · домоуправител · самият жител Действие suggested_actionкратък текст 1–2 изречения предложение към човека Увереност confidenceчисло от 0 до 1 оценката на самия модел Имената са на английски, защото са ключове за кода; текстът за хората може да е на български.
-
Схемата като код
Описваме бележката с клас на Pydantic. Той ни дава две неща наведнъж: схема за Ollama и проверка на отговора. По документацията на Ollama
Signal.model_json_schema()се подава в полетоformat, а отговорът се проверява обратно сmodel_validate_json(). Подробно — в урока KW_I23.python · signal_schema.pyfrom typing import Literal from pydantic import BaseModel, Field class Signal(BaseModel): category: Literal["maintenance", "payment", "complaint", "inquiry", "emergency"] urgency: Literal["immediate", "same_day", "this_week", "low"] owner: Literal["technician", "accountant", "manager", "resident"] suggested_action: str # 1-2 изречения за човека confidence: float = Field(ge=0, le=1) # оценка на модела, не вероятност✅Нито едно поле със стойност по подразбиранеПоле със стойност по подразбиране отпада отrequiredи моделът има право да го пропусне — тихо, без грешка. Тук всичките пет са задължителни;Signal.model_json_schema()["required"]ги изброява и петте (проверихме го с Pydantic 2.12.5). Подробности — в KW_I23. -
Моделът: правила и заявка
Системният текст казва какво значи всяка стойност; схемата казва как изглежда отговорът. Документацията на Ollama съветва схемата да се подаде и като текст в промпта, и температура 0 за по-предвидим резултат. Правилата по-долу са твои — измисленият пример е за сграда, а твоят случай ще иска свои думи.
python · classify.pyimport json from ollama import chat from signal_schema import Signal # клас Signal от стъпка 3 SCHEMA = Signal.model_json_schema() SYSTEM = """Ти помагаш на домоуправител на жилищна сграда. Получаваш едно съобщение от жител и го описваш по схемата. - emergency: наводнение, газ, пожар, токов удар, заседнал асансьор с хора. - maintenance: повреда или авария без непосредствена опасност. - payment: такси, сметки, плащания. complaint: шум, съседи, нарушения. - inquiry: въпроси и справки. Ако съобщението е неясно, сложи ниска увереност. Не измисляй факти. suggested_action пиши на езика на съобщението, в 1-2 изречения. Схема на отговора: """ + json.dumps(SCHEMA) def classify(text: str) -> str: response = chat( model="<текстов-модел>", messages=[ {"role": "system", "content": SYSTEM}, {"role": "user", "content": text}, ], format=SCHEMA, options={"temperature": 0}, ) return response.message.contentclassify()връща текст — JSON по схемата. Проверката и решението са следващата стъпка; моделът не прави нищо извън това да върне текст.💡Защо файлът не е signal.pyВ Python вече има вграден модулsignal; файл с такова име би го засенчил. Затова схемата е вsignal_schema.py. ⚠️ Този код не е пускан с жив модел. -
Маршрутизиране: правило, схема, праг
Тук моделът вече не участва. Малка функция решава къде отива съобщението, по ред: 1) опасни думи; 2) валидна ли е бележката; 3) казва ли моделът „опасност“ или „веднага“; 4) достатъчно ли е уверен. Защо опасните думи са първи? Схемата гарантира форма, не истина: модел може да върне съвършено оформена бележка „повреда, тази седмица, увереност 0,92“ за съобщение за наводнение. Правилото е обикновен списък и не зависи от модела.
python · route.pyfrom pydantic import ValidationError from signal_schema import Signal # както в стъпка 4 # Твоят списък. Нарочно е прекалено чувствителен. DANGER = ("газ", "пожар", "наводнение", "тече вода", "заседнал", "токов удар") THRESHOLD = 0.7 # начална стойност; нагласи я по поправените примери def route(text: str, raw: str) -> str: if any(w in text.lower() for w in DANGER): return "check now" # човек, веднага try: s = Signal.model_validate_json(raw) except ValidationError: return "check" # невалидна бележка if s.category == "emergency" or s.urgency == "immediate": return "check now" if s.confidence < THRESHOLD: return "check" # несигурно return "queue for owner" # опашка на отговорникаПуснахме
route()с ръчно написани отговори: съобщение за наводнение с „хубав“ отговор на модела отива вcheck now; невалиден JSON и увереност 0,5 отиват вcheck; нормален отговор с 0,92 отива вqueue for owner. Това проверява кода, не модела.Изход Какво значи check nowЧовек го вижда веднага. За опасност с хора в риск има и път, който не зависи от модела — телефон 112 и дежурен човек. checkЧовек го преглежда в опашката: невалидно или несигурно. queue for ownerВлиза в опашката на отговорника, който го чете. Нищо не се изпраща и не се променя само. 💡Защо прекалена чувствителност„газ“ хваща и „магазин“. Излишният поглед струва секунда, а пропуснатата авария — много повече. Списъкът е твой: допълвай го от поправките на хората.✅Увереността е сигнал, не вероятностЧислото е написано от самия модел. То помага да подредиш опашката, но не казва колко пъти от сто е прав. Прагът 0,7 е начална стойност — смени я, когато имаш свои поправени примери. -
Примери (измислени)
Съобщенията по-долу са измислени, а изходите са илюстрации, писани на ръка — не са отговори на пуснат модел. Показват формата и накъде би завело всеки случай.
Съобщение (измислено) Илюстративна бележка Маршрут „Лампата на стълбището на втория етаж не свети от понеделник.“ maintenance · this_week · technician · 0,93 queue for owner„Кога е следващото общо събрание?“ inquiry · low · manager · 0,95 queue for owner„Колко дължа за таксата за входа за септември?“ payment · low · accountant · 0,90 queue for owner„Пак е същото при входа.“ inquiry · low · manager · 0,31 (неясно съобщение — модел, който „знае, че не знае“) check„В мазето има наводнение, водата е до глезените!“ да речем: maintenance · this_week · technician · 0,92 (грешно, но валидно) check now— хванато от правилото за опасни думиjson · илюстративна бележка (писана на ръка){ "category": "maintenance", "urgency": "this_week", "owner": "technician", "suggested_action": "Прати майстор да смени крушката на стълбището на втория етаж.", "confidence": 0.93 }Последният ред е целта на урока: бележката е валидна и грешна едновременно. Схемата не я спира — спира я правилото и човекът.
-
По избор: същото в n8n или зад HTTP адрес
Python кодът по-горе е най-ясният начин да видиш логиката. В работна среда същите три части се свързват така:
- В n8n (урок 04-01): тригер за новото съобщение → HTTP Request към
/api/chatна Ollama с"stream": false,"options": {"temperature": 0}и схемата вformat(тялото е като в урок 04-107) → Code възел с правилото за опасни думи и прага → Switch по трите изхода. Проверката на схемата тук правиш сам в Code възела (дали ги има полетата и стойностите са от списъка) — Pydantic в n8n няма. - Зад HTTP адрес: ако няколко системи искат да класифицират, сложи
classify()иroute()зад малък вътрешен API с ключ и лимит (урок 04-114). Адресът остава в локалната мрежа. - Резултатът и поправката на човека отиват в база — така се ражда дневникът от следващата стъпка, а урок 04-110 показва как бележката става заявка със статуси.
⚠️ Тези свързвания не сме ги сглобявали за този урок.
- В n8n (урок 04-01): тригер за новото съобщение → HTTP Request към
-
Човек в контура и дневник на поправките
Опашката
checkтрябва да има човек с име. Той вижда три неща: съобщението, бележката на модела и поле, в което я поправя. Защо дневник на поправките? Всяка поправка е измерване: колко пъти от сто човекът сменя типа или спешността. С тези числа решаваш дали прагът 0,7 е добър, какво да допишеш в правилата и кои опасни думи липсват. Колко ще ти е нужно — не е измерено тук; започни с поправките на няколко седмици работа.- Пази: съобщение, бележка на модела, поправка на човека, час.
- Никога не изпращай отговор на жител само от модела. Предложеното действие е чернова за човека.
- Пази съобщенията на машината и ги трий по правилата за лични данни, които прилагаш.
-
Сигурност — минимумът
- Ollama слуша по подразбиране само на
127.0.0.1:11434(FAQ на Ollama). Не го отваряй към мрежата съсOLLAMA_HOSTза тази задача. - Съобщенията на хора не се пращат към облачен модел.
- Моделът няма достъп до изпращане и промяна на данни — само връща текст; решенията минават през човек.
- Прочети в документацията на Ollama къде се записват моделите и дали искаш изключване на облачните му функции.
- Ollama слуша по подразбиране само на
04Проверка
pip install -U ollama pydanticминава, а текстов модел е изтеглен.Signal.model_json_schema()["required"]изброява петте полета.classify()връща текст, койтоSignal.model_validate_json()приема, за пет измислени съобщения.route()праща измисленото съобщение за наводнение вcheck now, дори когато моделът е отговорил „повреда, тази седмица“.- Невалидна бележка и бележка с увереност под прага стигат до
check. - Човек вижда съобщението, бележката и може да я поправи; поправките се пазят.
- Ollama не е отворен към мрежата и нищо не е пратено към облачен модел.
Тест
1. Какво гарантира схемата, подадена в полето format?
2. Моделът върне валидна бележка „maintenance · this_week · 0,92“ за съобщение за наводнение. Какво пази?
3. Защо confidence няма стойност по подразбиране в класа?
4. Кой решава при опасност, при която има хора в риск?
05Какво следва
/v1/systemone: те връщат избор, вероятности и оценки вместо текст, а сред посочените случаи са сортиране на заявки и класифициране на съдържание. ⚠️ Не сме ги пробвали и не знаем как работят на български.06Източници
- Ollama: Structured Outputs 🔒 локално — схема в
format, Pydantic, съвет за схемата и в промпта, температура 0; Ollama Cloud не поддържа структурирани изходи. - Ollama: FAQ — адрес по подразбиране 127.0.0.1:11434, контекст 4096, облачни функции.
- Ollama: API /api/chat — съобщения,
stream,options. - Ollama: издания в GitHub — 0.35.0 от 28.09.2026 (модели за решения), 0.34.4 (структурирани изходи при „мислещи“ модели).
- llama3.1 в Ollama 🔒 локално — размер и контекст на модела.
- Pydantic — модели и JSON схема.