ChatKit Azure OpenAI: Ein Entwicklerhandbuch zum Erstellen individueller KI-Chats

Wenn Sie den KI-Bereich im Auge behalten haben, wissen Sie, dass die Diskussion mittlerweile über einfache Q&A-Bots hinausgeht. Die wahre Begeisterung dreht sich um KI-Agenten, die tatsächlich Dinge tun können. OpenAI hat kürzlich einige Werkzeuge für Entwickler veröffentlicht, wie AgentKit und ChatKit, die versprechen, die Erstellung dieser hochentwickelten Agenten wesentlich zu vereinfachen. Aber was sind sie wirklich? Und was braucht man, um sie tatsächlich zu nutzen?

Dieser Leitfaden soll den Hype um ChatKit Azure OpenAI entmystifizieren. Wir werden aufschlüsseln, was es ist, wie es funktioniert und was Sie bedenken müssen, bevor Sie sich darauf einlassen. Außerdem werden wir einige Verwirrungen zwischen dem Entwickler-Toolkit von OpenAI und anderen Tools mit ähnlichen Namen klären, damit Sie eine kluge „Entwickeln oder Kaufen“-Entscheidung für Ihr Unternehmen treffen können.

Was ist ChatKit Azure OpenAI?

Zunächst einmal sollten wir klären, worüber wir eigentlich sprechen. Es handelt sich nicht um ein einzelnes, fertiges Produkt. Es sind zwei verschiedene Technologien, die Sie zusammenbringen: ein Toolkit für das Frontend-Chatfenster und ein KI-Dienst für die Backend-Intelligenz.

OpenAI's ChatKit verstehen

OpenAI's ChatKit ist ein Software Development Kit (SDK) für Entwickler, die ihre eigenen Chat-Benutzeroberflächen erstellen möchten. Wichtig zu wissen ist, dass es sich hierbei nicht um eine gebrauchsfertige App wie die ähnlich benannte „chatkit.app“ handelt.

Stellen Sie es sich wie eine Kiste Legosteine vor, um den Teil der Chat-App zu bauen, den Ihre Benutzer sehen und mit dem sie interagieren. Es bietet vorgefertigte UI-Widgets und ein Framework zur Verbindung mit einem Server, was dabei hilft, Dinge wie das Streamen von Antworten und das Anzeigen interaktiver Schaltflächen zu handhaben. Es legt den Grundstein, um dieses elegante, ChatGPT-ähnliche Erlebnis direkt in Ihrem eigenen Produkt zu schaffen.

Azure OpenAI verstehen

Azure OpenAI ist Microsofts Cloud-Plattform, die Ihnen Zugang zu den leistungsstarken großen Sprachmodellen von OpenAI, wie der GPT-4-Serie, bietet. Der große Vorteil hierbei ist, dass es all die unternehmenstauglichen Vorzüge mitbringt, die man von Microsoft erwartet: hohe Sicherheit, Datenschutz und Zuverlässigkeit, alles ordentlich in das Azure-Ökosystem eingebettet.

Wenn Sie eine App mit ChatKit erstellen, ist Azure OpenAI in der Regel der Motor, der im Hintergrund läuft. Es ist das „Gehirn“, das die Frage eines Benutzers entgegennimmt, darüber nachdenkt und die intelligente Antwort generiert, die Ihre ChatKit-Benutzeroberfläche anzeigt.

Wie man eine grundlegende ChatKit Azure OpenAI-Integration einrichtet

Okay, gehen wir ins Detail. Die Verbindung von ChatKit mit Azure OpenAI ist definitiv eine Aufgabe für Ihr Entwicklungsteam. Obwohl diese Tools einige Teile des Prozesses vereinfachen, erfordert es immer noch das Schreiben von Code, das Einrichten von Servern und die Verwaltung der Infrastruktur. Hier ist ein grober Überblick darüber, was dazu gehört.

Wichtige Anforderungen

Um eine Basisversion zum Laufen zu bringen, benötigt ein Entwickler einige Dinge:

• Ein Azure-Konto: Sie benötigen ein aktives Abonnement mit Zugriff auf den Azure OpenAI-Dienst.

• Ein bereitgestelltes Azure OpenAI-Modell: Dies beinhaltet die Auswahl eines Modells, wie z. B. „gpt-4-turbo“, und dessen Bereitstellung. Dadurch erhalten Sie einen API-Endpunkt und einen Schlüssel, damit Ihre Anwendung mit der KI kommunizieren kann.

• Ein benutzerdefinierter Backend-Server: ChatKit kommuniziert nicht direkt mit Azure OpenAI. Es benötigt einen Server in der Mitte, um die Konversation zu verwalten. Die offizielle Dokumentation enthält Beispiele mit Python und FastAPI, aber Sie können jedes Web-Framework verwenden, mit dem Ihr Team vertraut ist.

• Eine Möglichkeit zur Datenspeicherung: Möchten Sie vergangene Konversationen speichern? Sie müssen Ihre eigene Datenbank einrichten und verbinden, um Threads und Nachrichten zu sichern. Dies ist nicht im Lieferumfang enthalten.

Während die Erstellung einer benutzerdefinierten Benutzeroberfläche mit ChatKit Ihnen die ultimative Kontrolle gibt, ist es ein großes Engagement in Bezug auf Entwicklerstunden. Für Teams, die einen leistungsstarken KI-Agenten ohne den technischen Aufwand wünschen, bieten No-Code-Plattformen wie eesel AI einen viel schnelleren Weg. Sie können es direkt mit Ihrem Helpdesk und Ihren Wissensdatenbanken verbinden und in wenigen Minuten live gehen, ohne eine einzige Zeile Code zu schreiben.

Der Kern-Workflow

Also, wie sieht der Gesprächsablauf aus, wenn alles eingerichtet ist? Es ist ein sauberer, mehrstufiger Tanz, der von dem von Ihnen erstellten benutzerdefinierten Server gesteuert wird.

1. Benutzer sendet eine Nachricht: Jemand tippt eine Frage in das benutzerdefinierte Chatfenster, das Sie mit ChatKit erstellt haben.

2. Anfrage erreicht Ihren Server: Diese Nachricht wird an Ihren Backend-Server gesendet.

3. Server ruft Azure OpenAI auf: Ihr Server ruft dann sicher die Azure OpenAI API auf und übergibt die Nachricht des Benutzers sowie den relevanten Gesprächsverlauf.

4. Azure OpenAI verarbeitet die Anfrage: Das KI-Modell erledigt seine Arbeit und generiert eine Antwort.

5. Antwort wird zurückgestreamt: Die Antwort wird an Ihren Server zurückgesendet, der sie dann an die ChatKit-Benutzeroberfläche streamt. Das ist es, was den Text Wort für Wort erscheinen lässt, genau wie in ChatGPT.

Dieses Hin und Her erzeugt das flüssige, interaktive Gefühl. Aber denken Sie daran, Ihr Team ist für die Erstellung und Wartung jedes einzelnen Schrittes dieses Prozesses verantwortlich, von der sicheren Aufbewahrung von API-Schlüsseln bis zur Verwaltung des Gesprächsverlaufs in einer Datenbank.

Funktionen und Einschränkungen

Der benutzerdefinierte Weg mit ChatKit gibt Ihnen eine Menge Freiheit, aber es ist nicht alles eitel Sonnenschein. Es lohnt sich, die Vor- und Nachteile abzuwägen, bevor Sie die Zeit und die Ressourcen Ihres Teams festlegen.

Hauptfunktionen und Vorteile

• Vollständige Anpassung: Sie haben die volle Kontrolle über Aussehen, Bedienung und Funktionalität. Sie können benutzerdefinierte UI-Elemente entwerfen und das gesamte Erlebnis perfekt an Ihre Marke anpassen.

• Echtzeit-Streaming: ChatKit ist für Streaming konzipiert. Es ermöglicht Ihnen, Antworten Token für Token zurückzusenden, was die Konversation viel dynamischer und lebendiger macht.

• Framework-unabhängig: Ihre Entwickler sind nicht an eine bestimmte Technologie gebunden. Der Server kann mit jedem Backend-Framework erstellt werden, das sie bevorzugen, sei es FastAPI, Express oder Ruby on Rails.

• Integration mit dem Agents SDK: Es ist so konzipiert, dass es gut mit den anderen Tools von OpenAI zusammenspielt, wie dem Agents SDK, was praktisch ist, wenn Sie vorhaben, komplexere Agenten zu erstellen, die Werkzeuge verwenden können.

Praktische Einschränkungen und Herausforderungen

• Hoher Entwicklungsaufwand: Das ist der größte Punkt. Dies ist keine Plug-and-Play-Lösung. Sie benötigen qualifizierte Entwickler, um den Server, die Datenbank, den Anhangsspeicher und das Frontend zu erstellen. Und dann müssen Sie alles warten.

• Keine sofort einsatzbereiten Funktionen: Grundlegende Funktionen, die Sie vielleicht für selbstverständlich halten, wie Gesprächsverlauf, Benutzeranmeldung und Analysen, sind nicht enthalten. Sie müssen sie alle von Grund auf neu erstellen.

• Komplexe Wissensintegration: Um Ihren Bot wirklich nützlich zu machen, muss er über Ihr Unternehmen Bescheid wissen. Die Anbindung an interne Wissensquellen wie Confluence-Seiten, Google Docs oder alte Support-Tickets erfordert das Schreiben von benutzerdefiniertem Code für jede einzelne Quelle.

Hier bleiben viele Projekte stecken. Das Erstellen benutzerdefinierter Konnektoren für jede App, die Ihr Unternehmen verwendet, ist ein enormer Zeitfresser. Im Gegensatz dazu sind Lösungen wie eesel AI darauf ausgelegt, genau dieses Problem zu lösen. Mit über 100 Ein-Klick-Integrationen für Plattformen wie Confluence, Google Docs und Zendesk kann es sofort von all Ihren verstreuten Informationen lernen und vom ersten Tag an genauere Antworten liefern.

Diese Infografik zeigt, wie eesel AI die Wissensintegration vereinfacht, eine Herausforderung bei benutzerdefinierten ChatKit Azure OpenAI-Setups.

Die Preisgestaltung verstehen

Das ChatKit-Toolkit selbst ist kostenlos, aber das KI-Gehirn, mit dem es verbunden ist, Azure OpenAI, ist es definitiv nicht. Ein Verständnis für die nutzungsbasierte Preisgestaltung ist entscheidend, um böse Überraschungen auf Ihrer monatlichen Rechnung zu vermeiden.

Wie die Preisgestaltung funktioniert

Die Preisgestaltung von Azure OpenAI basiert hauptsächlich auf „Tokens“, die einfach kleine Textabschnitte sind. Ihnen werden die Tokens berechnet, die Sie an das Modell senden (die Eingabe), und die Tokens, die das Modell zurücksendet (die Ausgabe).

Es gibt zwei Hauptzahlungsmodelle:

• Standard (Pay-as-you-go): Sie zahlen einen festen Preis pro 1.000 oder 1 Million Tokens. Dies ist ideal, wenn Ihre Nutzung schwankt.

• Provisioned Throughput Units (PTUs): Sie zahlen eine feste monatliche oder jährliche Gebühr, um eine bestimmte Menge an Rechenleistung zu reservieren. Dies ist besser für Unternehmen mit hohem, konstantem Datenverkehr geeignet.

Das von Ihnen gewählte Modell macht ebenfalls einen großen Unterschied. Die neueren, leistungsfähigeren GPT-4-Modelle kosten mehr pro Token als die kleineren, schnelleren.

Preisbeispiele für beliebte Modelle

Um Ihnen eine grobe Vorstellung zu geben, hier ein kurzer Blick auf die Standard-Pay-as-you-go-Preise für einige beliebte Modelle auf Azure OpenAI. Denken Sie daran, dass diese Preise nur für den KI-Dienst gelten. Sie beinhalten nicht die Kosten für die Bezahlung Ihrer Entwickler oder für das Hosting und die Wartung Ihrer benutzerdefinierten App.

Modell	Eingabepreis (pro 1 Mio. Tokens)	Ausgabepreis (pro 1 Mio. Tokens)
GPT-4o	5,00 $	15,00 $
GPT-4o mini	0,15 $	0,60 $
GPT-4.1-mini	0,40 $	1,60 $

Preise basieren auf der „Global“-Bereitstellung von Azure OpenAI, Stand Ende 2024. Überprüfen Sie immer die offizielle Azure OpenAI-Preisseite für die aktuellsten Informationen.

Der Versuch, mit unvorhersehbaren, tokenbasierten Kosten zu budgetieren, kann echte Kopfschmerzen bereiten. Aus diesem Grund bevorzugen viele Teams die transparente und vorhersehbare Preisgestaltung von Plattformen wie eesel AI. Mit Plänen, die auf einer festgelegten Anzahl von Interaktionen basieren und keine versteckten Gebühren haben, können Sie Ihre Support-Automatisierung skalieren, ohne sich über die Monatsendrechnung Gedanken machen zu müssen.

Dieser Screenshot zeigt das vorhersehbare Preismodell von eesel AI, eine Alternative zur komplexen tokenbasierten Preisgestaltung einer benutzerdefinierten ChatKit Azure OpenAI-Lösung.

Ist ChatKit Azure OpenAI das Richtige für Sie?

Also, was ist das Fazit zu ChatKit Azure OpenAI? Es ist eine leistungsstarke Kombination für Teams, die ein vollständig individuelles KI-Chat-Erlebnis von Grund auf neu erstellen möchten. Wenn Sie über die technischen Ressourcen verfügen und die totale Kontrolle über jedes Pixel und jede Codezeile benötigen, ist es eine solide Wahl.

Dieser „Entwickeln“-Ansatz ist jedoch mit hohen Kosten in Form von Entwicklungszeit, laufender Wartung und unvorhersehbaren Ausgaben verbunden. Für die meisten Unternehmen besteht das Ziel darin, KI zur Lösung eines Problems einzusetzen, nicht darin, ein Vollzeit-Entwicklungsstudio für Chat-Anwendungen zu werden.

Wenn Sie die Leistungsfähigkeit eines individuell trainierten KI-Agenten ohne monatelange Entwicklungsarbeit wünschen, bringt Sie eine Plattform wie eesel AI in wenigen Minuten ans Ziel. Sie können Ihr gesamtes Unternehmenswissen vereinen, den Support automatisieren und hilfreiche Einblicke über ein einziges, einfach zu bedienendes Dashboard erhalten. Starten Sie noch heute eine kostenlose Testversion und sehen Sie, was möglich ist.