Знакът на КАГАМИ КАГАМИ
kagami.bg/academy · lesson · machine-readable viewUPDATED 2026-10-03 · NOT TESTED
IDENTITY
module
GX10-04-25 · Vibe coding in VS Code with a local AI model
series
GX10 (local AI server class: NVIDIA GB10, e.g. ASUS Ascent GX10 / DGX Spark)
level
Beginner
duration
about 40 min (plus model download time)
prerequisites
A GB10-class machine with DGX OS (Ubuntu 24.04, Arm64), Ollama installed and running on it, shell access (local or SSH), VS Code on the machine or on your own computer
trust_label
UPDATED 2026-10-03 (checked against the current Continue, VS Code and Ollama documentation) · NOT TESTED on a GB10 machine · not VERIFIED: commands were not run
versions
Continue configuration format: config.yaml (config.json is deprecated) · models: qwen3:30b (19 GB, 256K context, tools) · qwen2.5-coder:7b (4.7 GB, 32K context) · no versions of VS Code, Continue or Ollama pinned: check the current release
language
human view: bg · english edition: /en/academy/gx10/ (same file name)
previous / next
GX10 series index / GX10 series index (neighbouring lessons are linked from the index)
PURPOSE

Give VS Code an offline coding assistant powered by a model served by Ollama on a GB10-class machine, using the Continue extension: tab autocomplete, chat, inline edit and agent mode. Two models with different roles: a small fast code model for autocomplete and a larger general model for chat, edit and agent. Nothing is sent to a cloud service by this setup.

KEY CONCEPTS
COMMANDS / PATHS
CHECKLIST
NEXT MODULE

GX10 series index: kagami.bg/academy/gx10/ · related: Open WebUI and Ollama (04-07_Open_WebUI_Ollama.html) · offer: Quick experiment (kagami.bg/stalbata/)

SOURCES
TAGS
gx10nvidia-gb10arm64vs-codecontinueollamavibe-codinglocal-airemote-ssh
ОБНОВЕНО · 03.10.2026

Vibe coding във VS Code с локален AI

Правим от VS Code локален помощник за програмиране: той допълва кода, докато пишеш, отговаря на въпроси за проекта, редактира маркиран код и дори изпълнява цели задачи. Моделът върви на твоя сървър от класа NVIDIA GB10, без облачна услуга и без абонамент за модела.

⏱ ~40 мин Начално GX10 VS Code · Continue · Ollama ARM64 · SSH по желание
VS Code🔒 локално Continue (разширение)🔒 локално Ollama (моделите)🔒 локално
🔄
ОБНОВЕНО · 03.10.2026 — какво
Урокът е преработен по текущите документи. Махнахме остарялото: модела „Qwen3 72B“ (в библиотеката на Ollama Qwen3 няма такъв размер — има 0.6b до 32b, 30b и 235b), файла config.json (Continue го обяви за остарял и работи с config.yaml), записа за векторни вградени модели и списъка с доставчици на контекст във вида от стария формат, съвета Ollama да слуша на 0.0.0.0 (вече не е нужен — виж стъпка 7), остарелия ред за хранилището на VS Code, Codeium, модела Llama 3.3 70B, цената на Copilot в долари и неподкрепените твърдения („90% от задачите“, „нулева латентност“, „5 минути“). Добавихме: модел за чат qwen3:30b и за автодовършване qwen2.5-coder:7b по препоръката на Continue, конфигурация във формат YAML, режимите Автодовършване, Редакция, Чат и Агент, достъп през SSH тунел, таблица за отстраняване на неизправности по документацията на Continue и правила за безопасна работа с агентския режим.
⚠️
Какво не сме пускали сами
При проверката нямахме машина от класа GB10. Командите и настройките са сверени с официалните документи, но не са пускани от край до край — затова няма етикет „ТЕСТВАНО“ и няма „ПРОВЕРЕНО“. Особено непроверени са скоростта на моделите на твоята машина, работата на агентския режим с qwen3:30b и дали Continue изисква вход в профил за чисто локална работа. Не сме сверявали и разширението Roo Code.

01Какво ще научиш

02Преди да започнеш

💡
Какво е „vibe coding“
Терминът се свързва с Andrej Karpathy (2025): описваш какво искаш на обикновен език, моделът пише кода, а ти преглеждаш какво е написал. Не е „пусни и забрави“ — прегледът и тестовете остават твои. Затова по-долу всеки режим завършва с проверка.
Режим в ContinueКакво правиКой модел го върши
АвтодовършванеПредлага продължението, докато пишеш; приемаш с Tabмалък кодов модел (бърз)
РедакцияПроменя маркиран код по твоя инструкция и показва разликамоделът за чат
ЧатРазговор за кода, с добавени файлове и фрагментимоделът за чат
АгентЧете файлове, създава и променя ги, пуска командимоделът за чат (с поддръжка на инструменти)

03Стъпки

  1. Какво ще стои къде

    Три части, всяка със своя работа. Защо така? Редакторът и разширението са само лице; цялата тежка работа върши моделът в Ollama, и той остава на машината.

    ЧастЗа какво еКъде върви
    OllamaДава моделите на разположениена машината; слуша само на нея самата
    VS CodeРедакторътна машината, или на лаптопа през SSH (стъпка 7)
    ContinueРазширение: автодовършване, чат, редакция, агенттам, където е кодът (на машината, ако работиш през SSH)
  2. Провери Ollama и изтегли моделите

    Continue препоръчва да се теглят модели с ollama pull, а не с ollama run — не е нужна интерактивна сесия. Тагът трябва да е точен, иначе се тегли друг размер.

    bash · на машината
    curl http://localhost:11434
    ollama pull qwen3:30b
    ollama pull qwen2.5-coder:7b
    ollama list

    Първата команда трябва да отговори „Ollama is running“. По ollama.com qwen3:30b е около 19 GB (контекст до 256K), а qwen2.5-coder:7b — около 4,7 GB (контекст 32K). Паметта на машината е обща за процесора и видеокартата, така че и двата модела се събират, но колко бързо ще работят при теб не сме мерили. ⚠️

    ✅
    По-малка машина или по-бързо?
    Вземи по-малки модели: qwen3:8b (5,2 GB) за чат и qwen2.5-coder:1.5b (около 1 GB) за автодовършване — вторият е и изборът в примерите на Continue. Сменяш само имената в стъпка 5.
  3. Инсталирай VS Code

    Ако работиш от лаптопа през SSH (стъпка 7), VS Code на машината не ти трябва — пропусни до стъпка 4. Иначе: най-простият път е да изтеглиш .deb пакета за Arm64 от страницата за сваляне и да го инсталираш. Този път добавя и хранилището за автоматични обновявания.

    bash · на машината
    sudo apt install ./<файл>.deb

    Ако предпочиташ хранилище на ръка, по документацията на VS Code ключът и източникът се слагат така:

    bash · на машината
    sudo apt install wget gpg && \
    wget -qO- https://packages.microsoft.com/keys/microsoft.asc | sudo gpg --dearmor -o /usr/share/keyrings/microsoft.gpg
    
    sudo tee /etc/apt/sources.list.d/vscode.sources > /dev/null <<'EOF'
    Types: deb
    URIs: https://packages.microsoft.com/repos/code
    Suites: stable
    Components: main
    Architectures: amd64,arm64,armhf
    Signed-By: /usr/share/keyrings/microsoft.gpg
    EOF
    
    sudo apt update && sudo apt install code

    Списъкът с архитектури включва arm64, така че хранилището е годно за машина от класа GB10. ⚠️ Командите не са пускани на такава машина.

  4. Инсталирай разширението Continue

    bash
    code --install-extension Continue.continue

    Или от VS Code: Ctrl+Shift+X → търси „Continue“ → Install. Продължи с панела на Continue, който се появява отстрани. ⚠️ Бързият старт на Continue говори за вход в профил; дали за чисто локална работа с config.yaml той е задължителен, не сме проверявали — ако те помоли, избери локалния вариант или се върни към документацията на Continue.

  5. Настрой двата модела в config.yaml

    Continue вече работи с файл config.yaml (старият config.json е остарял). Отваряш го от панела на Continue — иконата на настройките и избор на локалната конфигурация — и заместваш съдържанието. Защо два модела? Автодовършването трябва да отговаря за части от секундата; Continue пише, че най-добрите модели за него са не по-големи от около 10 милиарда параметъра и че големите чат модели не са обучени за този формат на заявка и не вършат работа в тази роля. Чатът и агентът, напротив, печелят от по-голям модел.

    yaml · config.yaml на Continue
    name: GX10 локален помощник
    version: 0.0.1
    schema: v1
    
    models:
      - name: Qwen3 30B (чат, редакция, агент)
        provider: ollama
        model: qwen3:30b
        apiBase: http://localhost:11434
        roles:
          - chat
          - edit
          - apply
    
      - name: Qwen2.5 Coder 7B (автодовършване)
        provider: ollama
        model: qwen2.5-coder:7b
        apiBase: http://localhost:11434
        roles:
          - autocomplete
    
    context:
      - provider: file
      - provider: code
      - provider: diff
      - provider: terminal

    Името след model: трябва да е точно както го показва ollama list. Редът context дава възможност да добавяш в чата файлове, код, разлики и изход от терминала.

    💡
    Агентският режим иска модел с инструменти
    Агентът е полезен само ако моделът умее да вика инструменти. В библиотеката на Ollama qwen3 е отбелязан с „tools“. Ако Continue напише „Agent mode is not supported“, добави под модела за чат capabilities: [tool_use]; ако пак не тръгне, смени модела. ⚠️ С qwen3:30b не сме го пробвали.
  6. Работа: автодовършване, редакция, чат, агент

    Малка таблица с клавишите във VS Code (по документацията на Continue):

    КаквоКлавиши
    Нов чат (с маркирания код, ако има такъв)Ctrl+L
    Добави маркираното към текущия чатCtrl+Shift+L
    Редакция на маркиран кодCtrl+I
    Приеми предложението за автодовършванеTab
    Откажи предложениетоEsc
    Агентпадащото меню долу вляво в полето на чата → „Agent“

    Автодовършване. Опиши намерението в коментар и остави курсора след него. Предложението се появява, докато пишеш; Tab го приема. Работи най-добре с ясни имена и описание.

    python · пример
    # Функция, която взема списък от числа и връща
    # средна стойност, медиана и стандартно отклонение
    
    def calculate_stats(numbers: list[float]) -> dict:
        # тук натисни Enter и изчакай предложението

    Редакция. Маркирай функция, натисни Ctrl+I и напиши инструкция, например „направи това по-четливо и добави типове“. Continue показва разлика, а ти приемаш или отказваш всяка промяна поотделно.

    Чат. Ctrl+L с маркирана функция и въпрос: „Какво прави това и как може да се оптимизира?“. Файл, код или изход от терминала се добавят с @ (например @file).

    Агент. Избери „Agent“ и опиши цяла задача. В тренировъчна папка опитай:

    текст · задание към агента
    Напиши модулни тестове за функциите в този файл.
    Създай ги в нов файл. Включи гранични случаи:
    празен списък и списък с един елемент.
    Обясни какво правиш на всяка стъпка.
    ✅
    Правила за агентския режим
    Агентът създава и променя файлове и може да пуска команди. Първо запази работата си в Git (git commit), прегледай всяка промяна, пусни тестовете и не му давай папки с важни данни. Проверката е твоя — моделът може да греши уверено.
  7. Работа от лаптопа: Remote SSH

    Не е задължително VS Code да е на самата машина. По-удобният вариант е редакторът да е на лаптопа, а да работи върху машината през SSH. Така файловете и разширението Continue са на машината и localhost:11434 от твоята конфигурация е точно Ollama.

    bash · на лаптопа
    code --install-extension ms-vscode-remote.remote-ssh

    След това: Ctrl+Shift+P → „Remote-SSH: Connect to Host“ → добави нов хост със своя SSH адрес. Най-удобно е да го запишеш в ~/.ssh/config на лаптопа:

    текст · ~/.ssh/config на лаптопа
    Host <кратко-име>
        HostName <адрес-на-машината>
        User <потребител>
        ServerAliveInterval 60

    Редът ServerAliveInterval 60 праща сигнал на всеки 60 секунди и помага връзката да не се прекъсва от неактивност. В отворения прозорец на SSH инсталирай Continue там (VS Code предлага „Install in SSH“) и сложи конфигурацията от стъпка 5 в профила на машината. Защо не отваряме Ollama към мрежата? Ollama по подразбиране слуша само на самата машина и това е добре — моделът не е нужно да е видим за други устройства.

    Ако пък държиш VS Code и Continue на лаптопа, пренасочи порта на Ollama през SSH тунел (в отделен терминал, който оставяш отворен):

    bash · на лаптопа
    ssh -N -L 11434:localhost:11434 <потребител>@<адрес-на-машината>

    Тогава на лаптопа apiBase: http://localhost:11434 води през тунела до Ollama на машината. Ако на лаптопа вече върви собствен Ollama на същия порт, тунелът няма да тръгне — избери друг порт отляво (например 11435) и го запиши в apiBase.

    ⚠️
    Не сме го пускали
    Връзката Remote SSH към машина от класа GB10 и тунелът не са проверени от нас на такава машина. Ако нещо не става, виж „Remote development using SSH“ в документацията на VS Code.
  8. Когато нещо не работи

    ПроблемКакво да провериш
    Няма автодовършванеВключена ли е „Enable Tab Autocomplete“ (бутонът „Continue“ долу вдясно)? Изтеглен ли е моделът (ollama list)? Изключен ли е друг доставчик на предложения, например Copilot — може да пречи. В настройките на VS Code editor.inlineSuggest.enabled трябва да е включено.
    Не се вижда къде е грешкатаCtrl+Shift+P → „Toggle Developer Tools“ → раздел „Console“.
    Предложенията са само на един редМодели често дават кратки продължения в средата на файл. Пробвай по-голям модел за автодовършване или настройката за многоредови предложения на Continue.
    „404 model not found“Моделът не е изтеглен или тагът е различен. Сравни името в config.yaml с ollama list.
    „Model requires more system memory“Намали контекста (contextLength) в defaultCompletionOptions на модела или вземи по-малък модел.
    „Agent mode is not supported“Добави capabilities: [tool_use] към модела или смени модела.
    Чатът не стига до Ollamacurl http://localhost:11434 от мястото, където върви Continue. Ако си през SSH тунел — отворен ли е тунелът?
    Първият отговор е бавенМоделът се зарежда в паметта при първата заявка; следващите са по-бързи. ollama ps показва кой модел е зареден.
    Remote SSH прекъсваДобави ServerAliveInterval 60 в ~/.ssh/config на лаптопа.
  9. Други разширения (за ориентир)

    Continue е само един от вариантите. GitHub Copilot е облачен (не е локален) 🌐 глобален; условията и цените му гледай на сайта му — не ги даваме тук. Roo Code е агентско разширение за VS Code; ⚠️ не сме го сверявали в този урок. Две разширения за предложения едновременно си пречат — включи по едно.

04Проверка

Тест

1. Кой модел е подходящ за автодовършване?

2. Работиш през Remote SSH, а Continue е инсталиран в прозореца на SSH. Какъв е apiBase?

3. Защо не е нужно да отваряш Ollama към цялата мрежа?

4. Какво правиш, преди да пуснеш агентския режим върху проект?

05Какво следва

06Източници

  1. Continue: бърз старт 🔒 локално — режимите и клавишите.
  2. Continue: справка за config.yaml — роли на моделите, context, capabilities, остарелият config.json.
  3. Continue: автодовършване — препоръчани модели, отстраняване на неизправности.
  4. Continue: ръководство за Ollama — ollama pull, точни тагове, „Agent mode is not supported“, памет.
  5. VS Code: инсталиране на Linux · Remote development using SSH · GitHub Copilot във VS Code 🌐 глобален.
  6. qwen3 · qwen2.5-coder 🔒 локално — размери и тагове на моделите.