Home Assistant LAB · Głos i AI w praktyce · Lekcja 16
Ollama lokalnie: dokładamy LLM do Hey Jarvis, ale jeszcze nie dajemy mu sterowania domem
Hey Jarvis ma już Whispera, więc potrafi dobrze słyszeć swobodny polski język. Teraz zmieniamy mózg rozmowy. Uruchamiamy Ollamę na lokalnym serwerze, wybieramy model, mierzymy cold start i warm response, podpinamy go do Home Assistant i sprawdzamy pełny tor Voice PE → Whisper → Ollama → Piper. Sterowanie domem pozostaje świadomie wyłączone.
Dlaczego ten etap jest ważny
LLM może brzmieć przekonująco nawet wtedy, gdy nie ma danych. Zanim pozwolimy mu włączać światło albo pytać Home Assistant o stan urządzeń, musimy wiedzieć, jak szybko odpowiada, jak radzi sobie po polsku i czy potrafi powiedzieć „nie mam dostępu” zamiast wymyślić odpowiedź.
W pełnej lekcji zrobisz to krok po kroku
Instalujemy Ollamę jako osobny serwer
Wyjaśniamy dlaczego oficjalna integracja Home Assistant wymaga zewnętrznej Ollamy, instalujemy ją na Linuxie, omawiamy Windows/macOS i testujemy usługę zanim dotkniemy konfiguracji Assist.
Model referencyjny to Qwen3 4B
Nie dlatego, że jest „najlepszy”, lecz dlatego, że jest relatywnie mały, wielojęzyczny i wspiera tools, których potrzebujemy w kolejnej lekcji. Porównujemy go także z Qwen3 1.7B, Qwen3 8B, Llama 3.1 8B i Gemma 3 4B.
Najpierw mierzymy model bez Home Assistant
API Ollama pokazuje total_duration, load_duration, prompt_eval_duration, eval_count i eval_duration. Dzięki temu rozdzielamy cold start od normalnej szybkości generowania.
Ollama dostaje dostęp tylko z LAN
Konfigurujemy OLLAMA_HOST, wyłączamy cloud przez OLLAMA_NO_CLOUD, testujemy port 11434 i omawiamy firewall. Lokalnego API bez uwierzytelnienia nie wystawiamy publicznie.
Control Home Assistant pozostaje OFF
Najpierw testujemy polski, styl odpowiedzi, historię rozmowy, hallucination i wydajność. Dostęp do encji pojawi się dopiero w Lekcji 17.
Pełny test Voice PE rozdziela Whisper, Ollamę i Pipera
Jeżeli głos odpowiada wolno, Debug pokazuje, która warstwa naprawdę zabiera czas. Nie optymalizujemy modelu na podstawie samego odczucia.
Pełna wersja zawiera
- architekturę Hey Jarvis po Lekcji 16
- wyjaśnienie zewnętrznego serwera Ollama
- instalację referencyjną na Linuxie
- uwagi dla Windows i macOS
- wybór Qwen3 4B jako modelu referencyjnego
- alternatywy Qwen3 1.7B / 8B, Llama 3.1 8B, Gemma 3 4B
- ollama pull, ollama run, ollama ps
- kontrolę capabilities modelu
- konfigurację OLLAMA_HOST
- tryb OLLAMA_NO_CLOUD
- zasadę niewystawiania portu 11434 do Internetu
- przykład ograniczenia firewallem
- test API z innego urządzenia LAN
- cold start i warm response
- total_duration i load_duration
- pomiar tokenów na sekundę
- keep alive i koszt RAM/VRAM
- integrację Ollama w Devices & services
- Control Home Assistant OFF
- krótki polski Instructions
- context window 8192 jako baseline
- Max history messages 6 jako ustawienie LAB
- Think before responding OFF
- test agenta bez STT
- polski test wiedzy i rozumowania
- hallucination test bez dostępu do domu
- test krótkiej historii rozmowy
- podmianę tylko Conversation agent
- pełny tor Hey Jarvis → Whisper → Ollama → Piper
- benchmark 5 pytań x 3 próby
- oddzielenie cold start od warm benchmark
- obserwację CPU/RAM/GPU
- regresję Okay Nabu
- wyjaśnienie braku integracji Ollama z Sentence triggers
- A/B Qwen3 4B kontra 8B
- świadomy wybór context window i keep alive
- pełny WAN OFF
- multiroom z jednym LLM
- diagnostykę sieci, modelu, języka i opóźnień
- rollback do Home Assistant Conversation
- Ollama Test Pack, Model Matrix i Security Checklist
Jak pracujemy w pełnej wersji
Najpierw uruchamiamy model samodzielnie. Potem sieć. Potem integrację. Potem tekstowy Conversation agent. Dopiero na końcu pełny voice pipeline. Dzięki temu każda awaria ma konkretną warstwę.
Nie pozwalamy LLM sterować encjami tylko dlatego, że już odpowiada po polsku. Lekcja 16 kończy się świadomym brakiem dostępu do domu.
Efekt po zakończeniu lekcji
Hey Jarvis potrafi prowadzić lokalną polską rozmowę przez Whisper, Ollamę i Pipera, a Okay Nabu nadal pozostaje szybkim deterministycznym torem sterowania domem. LLM jest już częścią Assist, ale nie dostał jeszcze kluczy do urządzeń.
Chcesz uruchomić prawdziwy lokalny LLM za Voice PE?
Ta lekcja jest częścią kursu Smart Home od Zera na platformie MarkLabs E-Learning. Pełna wersja prowadzi od pustego serwera Ollama aż do lokalnej rozmowy przez Voice PE i testu WAN OFF.
Kup dostęp do kursu: 39 zł
Dożywotni dostęp | Wszystkie lekcje | Bez subskrypcji
Model najpierw odpowiada wyłącznie na pytania. Port API pozostaje dostępny tylko w zaufanym LAN, a sterowanie domem będzie osobnym, późniejszym krokiem.