Zum Hauptinhalt

Temperature

Der Temperature-Parameter steuert, wie kreativ oder deterministisch ein KI-Modell bei der Textgenerierung antwortet – niedrige Werte liefern vorhersehbare Ergebnisse, hohe Werte fördern Kreativität und Variation.

AIAnfänger], ein hoher Wert macht sie flacher und gleichmäßiger. ## Wertebereich und Bedeutung | Wert | Verhalten | Typischer Einsatz | |------|-----------|-------------------| | `0.0` | Vollständig deterministisch (immer das wahrscheinlichste Token) | Code-Generierung, Faktenabfragen | | `0.2–0.5` | Fokussiert, wenig Variation | Zusammenfassungen, strukturierte Ausgaben | | `0.7–1.0` | Ausgewogen, kreativ | Chatbots, allgemeine Assistenten | | `1.2–2.0` | Sehr kreativ, teils unvorhersehbar | Brainstorming, kreatives Schreiben | ## Praxisbeispiel mit der OpenAI API ```python from openai import OpenAI client = OpenAI() # Deterministisch: ideal für Code oder strukturierte Daten response_deterministic = client.chat.completions.create( model="gpt-4o", messages=[{"role": "user", "content": "Berechne 5 + 7"}], temperature=0.0 ) # Kreativ: ideal für Storytelling oder Ideenfindung response_creative = client.chat.completions.create( model="gpt-4o", messages=[{"role": "user", "content": "Schreib einen Werbeslogan für Kaffee"}], temperature=1.2 ) print(response_deterministic.choices[0].message.content) print(response_creative.choices[0].message.content) ``` ## Temperature vs. Top-p Neben Temperature gibt es den verwandten Parameter **Top-p** (Nucleus Sampling), der die Auswahl auf die wahrscheinlichsten Tokens begrenzt. In der Praxis empfiehlt OpenAI, **nur einen der beiden Parameter** zu verändern und den anderen auf den Standardwert zu lassen. ## Tipps für die Praxis - **`temperature=0`** für reproduzierbare Tests, Unit-Tests oder wenn konsistente Ausgaben wichtig sind - **`temperature=0.7`** ist ein guter Startpunkt für die meisten Anwendungen - Zu hohe Werte können zu **Halluzinationen** oder inkohärenten Ausgaben führen - Bei JSON-Output-Parsing immer niedrige Temperature wählen, um valides JSON zu erhaltentags":[

Was ist Temperature?

Temperature ist ein Hyperparameter, der bei der Inferenz von Sprachmodellen (LLMs) die Zufälligkeit der Ausgabe kontrolliert. Technisch gesprochen beeinflusst er die Wahrscheinlichkeitsverteilung über mögliche nächste Tokens: Ein niedriger Wert macht die Verteilung „schärfer

Verwandte Begriffe

Inhouse statt Nachschlagewerk

Für den Transfer ins Unternehmen sind die Inhouse-Schulungen der passende nächste Schritt.