Så installerar och använder du Ollama

Innan du installerar

Kontrollera operativsystem, ledigt diskutrymme och mängden RAM. Modellfilen tar plats även när den inte körs, och under körning behövs ytterligare arbetsminne. Börja därför med en liten modell som passar din dator i stället för att välja den största du hittar.

Hämta installationsprogrammet från Ollamas officiella nedladdningssida. Undvik ompaketerade installationer från okända webbplatser. Modeller har dessutom egna licenser; kontrollera modellkortet om användningen ska ske kommersiellt.

Installera och verifiera

Installera enligt anvisningarna för Windows, macOS eller Linux och öppna därefter en ny terminal. Kör:

ollama --version

Ett versionsnummer visar att kommandot hittas. Om terminalen inte känner igen kommandot, stäng och öppna den igen. Kontrollera sedan installationen innan du börjar ändra systemets sökvägar manuellt.

Kör din första modell

Välj en aktuell liten modell från Ollamas bibliotek och använd det exakta namn som står där. Exempelkommandot nedan visar formen, men modellutbud och taggar kan förändras:

ollama run <modellnamn>

Första körningen laddar ned modellfilen. Skriv en enkel fråga som du själv kan bedöma, exempelvis ”Förklara skillnaden mellan RAM och lagring med tre meningar”. Avsluta sessionen med kommandot som visas av klientens hjälp, ofta /bye.

Kommandon du faktiskt behöver

• ollama list visar installerade modeller.
• ollama run <modell> startar en modell.
• ollama pull <modell> hämtar eller uppdaterar en modell.
• ollama rm <modell> tar bort en modell via Ollamas egen hantering.
• ollama ps visar modeller som är laddade.

Kör ollama --help och hjälp för respektive underkommando om din version beter sig annorlunda. Dokumentationen för installerad version är säkrare än ett gammalt exempel på webben.

Använd API:t med avgränsad åtkomst

Ollama kan exponera ett lokalt API som andra program använder. En lokal adress är praktisk för utveckling, men öppna inte tjänsten mot internet eller hela hemnätverket utan genomtänkt autentisering och brandvägg.

När ett kodverktyg kopplas till Ollama, ge det bara åtkomst till en testmapp först. Kontrollera vilka filer verktyget läser och om det får skriva automatiskt. Modellen och verktyget är två separata säkerhetsgränser.

Felsök metodiskt

1. Kontrollera att Ollama-processen körs.
2. Bekräfta modellnamnet med ollama list.
3. Stäng minneskrävande program om modellen inte får plats.
4. Testa en mindre kvantisering eller modell.
5. Spara felmeddelandet och aktuell version innan du ändrar flera saker.