AI-ToolLab: KI-Chatbot

Links unten, über dem Texteingabefeld gibt es ein kleines Icon welches das aktuell ausgewählte Modell repräsentiert. Dort lassen sich die zur Verfügung stehenden Modelle wählen.

Alternativ: ganz oben kann auch das Modell des jeweilig ausgewählten Assistenten geändert werden.

Das kommt ganz auf Ihren Anwendungsfall an.

• Die Azure OpenAI Modelle sind gute Allrounder:
  • gpt-4o-mini: das kleinste, günstigste Modell von OpenAI welches voreingestellt ist und eine gute Leistung zu einem fairen Preis bietet.
  • gpt-4o: bei komplexen Aufgaben liefert dieses Modell etwas bessere Ergebnisse. Der Einsatz ist aber auch langsamer und teurer.
  • o3-mini: ein Reasoning Modell, optimiert auf wissenschaftliche, mathematische und Code-Anfragen, aber auch für allgemeine Anfragen gut verwendbar. Die Kosten bewegen sich im Mittelfeld, zwischen gpt-4o-mini und gpt-4o.
    
• KissKI stellt frei verfügbare, offene Modelle bereit welche verschiedene Schwerpunkte der Nutzung haben können.
  • LLama, Mistral, DeepSeek oder Qwen sind gute Allrounder Modelle die man also Alternative zu OpenAI nutzen kann
  • Eine Liste, der aktuell von KissKI angebotene Modelle können Sie hier finden (wir binden immer nur eine Auswahl der Modelle in LobeChat ein).
  • Das Allgemeinwissen der Modelle kann im Vergleich zu den OpenAI Modellen etwas eingeschränkt sein, da die Modelle nur einen Bruchteil der Größe haben.
  • Spezielle Aufgaben (Übersetzen, Arbeiten mit Texten, etc) können diese Modelle jedoch trotzdem sehr gut erledigen.
  • Einige Modelle sind auch auf bestimmte Fachgebiete oder Aufgaben optimiert. Experimentieren und ausprobieren lohnt sich daher immer!
    
• Die Lokal gehosteten Modelle werden von studiumdigitale an der GU gehostet.
  • Keine Daten fließen nach außen. Daher ist die Nutzung datenschutzrechtlich am unproblematischsten.
  • Auf Grund von nur sehr eingeschränkten Hardware-Ressourcen können wir nur die „kleinsten“ Modelle hosten.
  • Trotzdem können diese für spezielle Aufgaben (Arbeiten mit Texten, Überarbeitungen vornehmen, etc) gut geeignet sein. Komplexere Anfragen können allerdings qualitativ niedrige Antworten hervorrufen.

Fazit:

• Ausprobieren ist angesagt:
  Probieren Sie einfach aus, welche Anwendungsfälle, mit welchen Modellen am Besten umgesetzt werden können.
• Recherchieren sie selbst:
  Es gibt viele Vergleiche und Benchmarks, welche die Qualität der Modelle gegenüberstellt. Wenn Sie das „optimale“ Modell für Ihr Nutzungsszenario finden möchten, suchen Sie Informationen über die Modelle und vergleichen Sie.

LobeChat speichert alle Chat-Nachrichten und Einstellungen im Browser der Nutzer*innen. Somit werden keine Nachrichten, oder Einstellungen auf dem LobeChat-Server gespeichert und die Nutzer*innen haben die volle Kontrolle über Ihre Daten.
Achtung: Dies bedeutet auch, dass wenn Sie Ihren Browser-Cache löschen, oder den Browser wechseln, Sie ihre Einstellungen und vorherigen Unterhaltungen verlieren!

LobeChat läuft komplett auf Servern innerhalb der GU. In den Server Logs werden die Inhalte der Anfragen nicht zwischengespeichert.
Die Anfragen an die LLMs werden jedoch, je nach gewähltem Modell, an externe Anbieter zur Verarbeitung weitergeleitet (zB. Azure). Alle Anfragen laufen vorher jedoch über einen LLM-Proxy-Server, welcher die IP der Nutzer*innen nicht weiterleitet. Die Kommunikation mit den externen Anbietern verläuft somit komplett anonym solange in den Nachrichten keine personenbezogenen Daten enthalten sind.