Lokal AI — Gemma 4 via Ollama

Kør Cartwright's admin copilot på din egen maskine med Ollama + Gemma 4. Gratis, privat, samme security-model som cloud.

Cartwright's admin har en AI-copilot der kan kalde 37 forskellige tools — fra produkt-CRUD til ordre-management til marketing-kampagner. Som default bruger den Claude Haiku 4.5 via Anthropic's API.

Med Local AI kører hele systemet på din egen maskine via Ollama. Du installerer Gemma 4 (Google's nyeste open-source-model, multimodal med 128K-256K context), peger Cartwright på http://localhost:11434/v1, og fra det øjeblik håndteres alle admin-AI-kald lokalt.

Hvad det betyder konkret

Ingen data forlader dit netværk — ikke kundens emails, ikke ordre-detaljer, ikke prompts du tester
Ingen cloud-omkostning — Gemma 4 er gratis at køre, du betaler kun for hardware
Samme features — confirmation-gates, audit-log, scope-enforcement fungerer identisk
Multimodal som default — Gemma 4 håndterer både tekst og billeder, samme som Gemini
Apple Silicon-optimeret — MLX-varianten (gemma4:e4b-mlx) kører markant hurtigere på M-series Macs

Hvad du har brug for

En maskine med 16+ GB RAM (vores anbefalede gemma4:e4b fitter på 16GB)
macOS, Linux eller Windows (Ollama supporterer alle tre)
5-10 minutter til at installere + pulle en model

1. Setup Ollama

2. Vælg din model

3. Pull fra admin-UI

4. Forstå provider-routing

Troubleshooting

Hvorfor lokalt vs cloud?

Det er ikke et religionsspørgsmål. Forskellige use cases trækker forskellige måder:

Hvis du...	Brug
Bygger en MVP og vil have høj kvalitet hurtigt	Anthropic — Claude Haiku 4.5 er state-of-the-art for tool use
Driver en shop med følsom kundedata (sundhed, juridisk, finans)	Local — bekræftbart at intet leaver din maskine
Vil have det bedste af begge	Auto — local primær, cloud fallback når lokal er nede
Tester features før commit	Local — ingen API-bills mens du eksperimenterer

Theme-generator, product-SEO og kategori-SEO bruger ALTID Anthropic (intent="vibe"), uanset hvad du sætter aiProvider til. Det er fordi structured output (returnér JSON der matcher Zod-schema) er hvor cloud-modellerne stadig vinder markant.