Instruct-Modell
Instruct-Modelle sind LLMs, die nach dem Vortraining zusätzlich darauf trainiert wurden, Anweisungen zu verstehen und hilfreiche Antworten zu geben — im Gegensatz zu reinen Base-Modellen.
AIFortgeschrittenllmfine-tuningtraining
Instruct-Modell
Ein Instruct-Modell ist ein Large Language Model, das nach dem Vortraining zusätzlich darauf optimiert wurde, menschliche Anweisungen zu befolgen.
Base vs. Instruct
| Aspekt | Base-Modell | Instruct-Modell |
|---|---|---|
| Training | Nur Textvorhersage | + Instruction Tuning |
| Output | Vervollständigt Text | Beantwortet Fragen |
| Nutzung | Fine-Tuning-Basis | Direkt verwendbar |
| Beispiel | Llama 3 | Llama 3 Instruct |
Wie entsteht ein Instruct-Modell?
- Supervised Fine-Tuning (SFT): Training mit Frage-Antwort-Paaren
- RLHF: Reinforcement Learning von menschlichem Feedback
- DPO: Direct Preference Optimization als Alternative zu RLHF
In der Praxis
Für Chat und Assistenten immer das Instruct-Modell wählen. Base-Modelle sind nur relevant für eigenes Fine-Tuning.
Verwandte Begriffe
Inhouse statt Nachschlagewerk
Für den Transfer ins Unternehmen sind die Inhouse-Schulungen der passende nächste Schritt.