Chatbot

Was ist ein Chatbot?

Ein Chatbot ist eine Software-Schnittstelle, die Nutzereingaben entgegennimmt und automatisch antwortet. Während ältere Chatbots auf starren Regelwerken oder Entscheidungsbäumen basierten, setzen moderne Systeme auf LLMs wie GPT-4 oder Claude, die flexibel auf beliebige Eingaben reagieren können.

Regelbasiert vs. KI-gestützt

Typ	Technologie	Flexibilität
Regelbasiert	If/Else, Decision Trees	Gering
ML-basiert	Intent-Klassifikation	Mittel
LLM-basiert	Transformer-Modelle	Hoch

Aufbau eines einfachen LLM-Chatbots

Der Kern eines modernen Chatbots ist die Verwaltung des Gesprächsverlaufs (Message History), der bei jedem API-Call mitgeschickt wird:

from openai import OpenAI

client = OpenAI()

# Gesprächsverlauf als Liste verwalten
messages = [
    {"role": "system", "content": "Du bist ein hilfreicher Support-Assistent."}
]

def chat(user_input: str) -> str:
    messages.append({"role": "user", "content": user_input})
    
    response = client.chat.completions.create(
        model="gpt-4o-mini",
        messages=messages
    )
    
    assistant_reply = response.choices[0].message.content
    messages.append({"role": "assistant", "content": assistant_reply})
    
    return assistant_reply

# Beispielnutzung
print(chat("Wie kann ich mein Passwort zurücksetzen?"))
print(chat("Und was mache ich, wenn die E-Mail nicht ankommt?"))

Wichtige Konzepte für Entwickler

• System-Prompt: Definiert Verhalten, Ton und Grenzen des Chatbots
• Message History: Alle bisherigen Nachrichten werden mitgeschickt – das kostet Tokens
• Context Window: Begrenzt, wie viel Gesprächshistorie gehalten werden kann
• Streaming: Antworten können token-weise ausgegeben werden für bessere UX

Typische Einsatzgebiete

• Customer Support: FAQ-Beantwortung, Ticket-Erstellung
• Internal Tools: Code-Assistent, Dokumentensuche (RAG)
• Onboarding: Interaktive Produktführungen

Häufige Fallstricke

• Halluzinationen: Das Modell erfindet Fakten – Grounding und RAG helfen dagegen
• Wachsende History: Unbegrenzte Gesprächsverläufe sprengen das Context Window und erhöhen Kosten
• Kein State-Management: HTTP ist zustandslos – der Entwickler muss die History selbst persistent speichern