Last ned LM Studio
Gå til lmstudio.ai og last ned appen.
1. Installer
Velg lagringssted
Modellene kan bli store. Velg en disk med god plass.
Skru på GPU
Har du et bra grafikkort? Skru på GPU i innstillingene for raskere svar.
2. Velg modell
Søk etter en modell i appen. Her er noen gode valg:
- Llama 3: God til det meste
- Gemma: Rask og enkel
- Qwen: Bra på kode
- Phi: Liten og rask
Velg modeller merket «instruct» eller «chat» for samtaler.
Modellstørrelse
- Q4: Mindre fil, raskere, ok kvalitet
- Q8: Større fil, bedre kvalitet
- Start med Q4 hvis du er usikker
3. Test i chat
Start en samtale og se hvordan modellen svarer.
- Skriv en systemprompt som forteller hvordan AI-en skal oppføre seg
- Sett temperatur lavt for presise svar
- Test med ulike spørsmål
Eksempel
Du er en hjelpsom assistent.
Svar på norsk.
Vær kort og presis.4. Bruk i egne apper (valgfritt)
Vil du koble AI til andre programmer? Start «Local Server» i LM Studio.
Test med denne kommandoen:
curl http://localhost:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "modell-navn",
"messages": [
{"role": "user", "content": "Hei!"}
]
}'Tips
- Fungerer med de fleste programmer som støtter OpenAI
- Adressen er
localhost:1234
5. Videre (avansert)
Chat med dokumenter
La AI-en lese dokumentene dine og svare på spørsmål.
Søk i egne data
Bruk embeddings for å finne relevant info automatisk.
Unngå feil
Be AI-en kun svare basert på dokumentene, ikke gjette.