LM Studio
LM Studio ist eine benutzerfreundliche Desktop-Anwendung, mit der man Open-Source LLMs wie Llama, Gemma oder Mistral lokal auf dem eigenen Computer ausführen kann.
ToolsAnfängerllmlokaldesktop
LM Studio
LM Studio ist eine Desktop-Anwendung für Windows, macOS und Linux, die das lokale Ausführen von Large Language Models drastisch vereinfacht.
Features
- Modell-Browser: Durchsuche und lade Modelle direkt von Hugging Face
- GGUF-Support: Optimierte Modelle für Consumer-Hardware
- Chat-Interface: Grafische Oberfläche ähnlich wie ChatGPT
- Lokaler API-Server: OpenAI-kompatible API für eigene Projekte
- GPU-Offloading: Automatische Nutzung der Grafikkarte
Vergleich mit Ollama
| Feature | LM Studio | Ollama |
|---|---|---|
| Interface | GUI | CLI |
| Setup | Einfacher | Technischer |
| API | Ja | Ja |
| Modellauswahl | Manuell | Automatisch |
Verwandte Begriffe
Inhouse statt Nachschlagewerk
Für den Transfer ins Unternehmen sind die Inhouse-Schulungen der passende nächste Schritt.