Kurs Home Assistant od Zera

Ollama lokalnie: dokładamy LLM do Hey Jarvis, ale jeszcze nie dajemy mu sterowania domem

Ollama lokalnie: dokładamy LLM do Hey Jarvis, ale jeszcze nie dajemy mu sterowania domem

Ostatnia aktualizacja treści:

Uruchom Ollamę w LAN, połącz ją z Home Assistant i zbuduj lokalnego polskiego asystenta bez prawa sterowania urządzeniami.

Home Assistant LAB · Głos i AI w praktyce · Lekcja 16

Ollama lokalnie: dokładamy LLM do Hey Jarvis, ale jeszcze nie dajemy mu sterowania domem

Hey Jarvis ma już Whispera, więc potrafi dobrze słyszeć swobodny polski język. Teraz zmieniamy mózg rozmowy. Uruchamiamy Ollamę na lokalnym serwerze, wybieramy model, mierzymy cold start i warm response, podpinamy go do Home Assistant i sprawdzamy pełny tor Voice PE → Whisper → Ollama → Piper. Sterowanie domem pozostaje świadomie wyłączone.

Dlaczego ten etap jest ważny

LLM może brzmieć przekonująco nawet wtedy, gdy nie ma danych. Zanim pozwolimy mu włączać światło albo pytać Home Assistant o stan urządzeń, musimy wiedzieć, jak szybko odpowiada, jak radzi sobie po polsku i czy potrafi powiedzieć „nie mam dostępu” zamiast wymyślić odpowiedź.

W pełnej lekcji zrobisz to krok po kroku

Instalujemy Ollamę jako osobny serwer

Wyjaśniamy dlaczego oficjalna integracja Home Assistant wymaga zewnętrznej Ollamy, instalujemy ją na Linuxie, omawiamy Windows/macOS i testujemy usługę zanim dotkniemy konfiguracji Assist.

Model referencyjny to Qwen3 4B

Nie dlatego, że jest „najlepszy”, lecz dlatego, że jest relatywnie mały, wielojęzyczny i wspiera tools, których potrzebujemy w kolejnej lekcji. Porównujemy go także z Qwen3 1.7B, Qwen3 8B, Llama 3.1 8B i Gemma 3 4B.

Najpierw mierzymy model bez Home Assistant

API Ollama pokazuje total_duration, load_duration, prompt_eval_duration, eval_count i eval_duration. Dzięki temu rozdzielamy cold start od normalnej szybkości generowania.

Ollama dostaje dostęp tylko z LAN

Konfigurujemy OLLAMA_HOST, wyłączamy cloud przez OLLAMA_NO_CLOUD, testujemy port 11434 i omawiamy firewall. Lokalnego API bez uwierzytelnienia nie wystawiamy publicznie.

Control Home Assistant pozostaje OFF

Najpierw testujemy polski, styl odpowiedzi, historię rozmowy, hallucination i wydajność. Dostęp do encji pojawi się dopiero w Lekcji 17.

Pełny test Voice PE rozdziela Whisper, Ollamę i Pipera

Jeżeli głos odpowiada wolno, Debug pokazuje, która warstwa naprawdę zabiera czas. Nie optymalizujemy modelu na podstawie samego odczucia.

Pełna wersja zawiera
  • architekturę Hey Jarvis po Lekcji 16
  • wyjaśnienie zewnętrznego serwera Ollama
  • instalację referencyjną na Linuxie
  • uwagi dla Windows i macOS
  • wybór Qwen3 4B jako modelu referencyjnego
  • alternatywy Qwen3 1.7B / 8B, Llama 3.1 8B, Gemma 3 4B
  • ollama pull, ollama run, ollama ps
  • kontrolę capabilities modelu
  • konfigurację OLLAMA_HOST
  • tryb OLLAMA_NO_CLOUD
  • zasadę niewystawiania portu 11434 do Internetu
  • przykład ograniczenia firewallem
  • test API z innego urządzenia LAN
  • cold start i warm response
  • total_duration i load_duration
  • pomiar tokenów na sekundę
  • keep alive i koszt RAM/VRAM
  • integrację Ollama w Devices & services
  • Control Home Assistant OFF
  • krótki polski Instructions
  • context window 8192 jako baseline
  • Max history messages 6 jako ustawienie LAB
  • Think before responding OFF
  • test agenta bez STT
  • polski test wiedzy i rozumowania
  • hallucination test bez dostępu do domu
  • test krótkiej historii rozmowy
  • podmianę tylko Conversation agent
  • pełny tor Hey Jarvis → Whisper → Ollama → Piper
  • benchmark 5 pytań x 3 próby
  • oddzielenie cold start od warm benchmark
  • obserwację CPU/RAM/GPU
  • regresję Okay Nabu
  • wyjaśnienie braku integracji Ollama z Sentence triggers
  • A/B Qwen3 4B kontra 8B
  • świadomy wybór context window i keep alive
  • pełny WAN OFF
  • multiroom z jednym LLM
  • diagnostykę sieci, modelu, języka i opóźnień
  • rollback do Home Assistant Conversation
  • Ollama Test Pack, Model Matrix i Security Checklist
Jak pracujemy w pełnej wersji

Najpierw uruchamiamy model samodzielnie. Potem sieć. Potem integrację. Potem tekstowy Conversation agent. Dopiero na końcu pełny voice pipeline. Dzięki temu każda awaria ma konkretną warstwę.

Nie pozwalamy LLM sterować encjami tylko dlatego, że już odpowiada po polsku. Lekcja 16 kończy się świadomym brakiem dostępu do domu.

Efekt po zakończeniu lekcji

Hey Jarvis potrafi prowadzić lokalną polską rozmowę przez Whisper, Ollamę i Pipera, a Okay Nabu nadal pozostaje szybkim deterministycznym torem sterowania domem. LLM jest już częścią Assist, ale nie dostał jeszcze kluczy do urządzeń.

Chcesz uruchomić prawdziwy lokalny LLM za Voice PE?

Ta lekcja jest częścią kursu Smart Home od Zera na platformie MarkLabs E-Learning. Pełna wersja prowadzi od pustego serwera Ollama aż do lokalnej rozmowy przez Voice PE i testu WAN OFF.

Kup dostęp do kursu: 39 zł
Dożywotni dostęp | Wszystkie lekcje | Bez subskrypcji

Model najpierw odpowiada wyłącznie na pytania. Port API pozostaje dostępny tylko w zaufanym LAN, a sterowanie domem będzie osobnym, późniejszym krokiem.

🔒

Pełna treść dostępna po zakupie kursu

Za symboliczne 39 zł zyskujesz dostęp do 200+ stron praktycznej wiedzy o Home Assistant — wszystkich lekcji, przykładów i aktualizacji.

  • Dożywotni dostęp do całego kursu
  • Nowe lekcje bez dodatkowych opłat
  • Bez reklam i bez abonamentu

Nikt nie jest nieomylny. Coś nie gra w tej lekcji? Zgłoś błąd