Un guide complet des documents externes de ChatKit d’OpenAI

Nous voulons tous un chatbot IA capable de répondre aux questions en utilisant les connaissances spécifiques de notre propre entreprise. Que ce soit en fouillant dans les articles du centre d'aide, les wikis internes ou des documents de produit désordonnés, le rêve est de donner aux gens des réponses instantanées et précises. ChatKit d'OpenAI est une boîte à outils conçue pour les développeurs qui souhaitent créer ce type d'expériences de chat intelligentes.

Mais que faut-il vraiment pour le mettre en place ? Ce guide vous offre un aperçu honnête du fonctionnement de la fonctionnalité ChatKit External Documents, de sa configuration très technique et de sa tarification complexe à certaines limitations importantes que vous devriez connaître. Nous examinerons également une alternative plus adaptée aux entreprises pour les équipes qui ont besoin d'être opérationnelles en quelques minutes, et non en quelques mois.

Comprendre ChatKit d'OpenAI et ChatKit External Documents

Tout d'abord, ChatKit d'OpenAI n'est pas un chatbot que vous pouvez simplement activer. Voyez-le comme une boîte de pièces détachées pour les développeurs. Il leur fournit les éléments de base, comme des composants d'interface utilisateur, des modèles de prompts et des fonctionnalités de pièce jointe, pour créer une interface de chat personnalisée que vous pouvez ensuite intégrer à votre site web ou votre application.

Il est important de voir comment il s'intègre avec les autres outils d'OpenAI :

• Agent Builder : C'est l'espace de travail visuel où vous concevez la logique et le flux de travail backend de l'IA. Vous pouvez le considérer comme le « cerveau ». ChatKit est le « visage » qui se connecte à un flux de travail que vous créez ici.

• Agents SDK : Pour des constructions plus complexes ou personnalisées, les développeurs peuvent utiliser ce framework basé sur le code pour créer le backend de l'agent à partir de zéro. ChatKit peut également se connecter à ces agents personnalisés.

Donc, ChatKit n'est qu'une pièce du puzzle. Il gère la fenêtre de chat visible par l'utilisateur, mais toute l'intelligence derrière doit être construite et gérée séparément dans Agent Builder ou avec le SDK.

Comprendre la fonctionnalité ChatKit External Documents

C'est l'ingrédient clé qui permet à votre agent IA d'utiliser les propres documents de votre entreprise pour formuler des réponses. Sans cela, votre chatbot n'aurait que les connaissances générales de son modèle de base, ce qui n'est pas d'une grande aide lorsque quelqu'un pose une question sur la politique de retour spécifique de votre entreprise.

Il y a deux manières principales de lui fournir des informations :

• Contexte de chat : Vous pouvez donner à l'IA une liste d'URL à utiliser comme contexte pour une conversation. L'IA utilise alors la recherche sémantique pour trouver et extraire uniquement les parties les plus pertinentes de ces documents pour répondre à une question.

• Pièces jointes aux messages : Vos utilisateurs peuvent téléverser un fichier entier, comme un PDF ou une feuille de calcul, pour l'ajouter à la conversation.

Selon la documentation d'OpenAI, ChatKit peut gérer une bonne variété de types de documents, y compris les vidéos YouTube (pour le contexte), les PDF, les fichiers Office (.docx, .pptx), les CSV, les JSON et les pages web classiques.

Comment configurer et utiliser ChatKit External Documents

Bien, c'est ici que les choses se compliquent. La configuration de ChatKit n'est pas une simple case à cocher ; c'est un projet en plusieurs étapes qui nécessite un développeur. Nous n'allons pas passer en revue chaque ligne de code, mais décrire les principales étapes vous montre l'ampleur du travail d'ingénierie nécessaire.

Étape 1 : Créer le flux de travail backend

Avant même de toucher à l'interface de chat, vous devez construire le cerveau de l'agent en utilisant Agent Builder. C'est là que vous connectez les modèles, définissez ce que l'agent doit faire et configurez ses outils. Pour utiliser des documents externes, vous devrez lier vos sources de données ou activer l'outil de recherche de fichiers dans ce flux de travail.

Dès le départ, cela nécessite un compte sur la plateforme OpenAI avec la facturation activée, car vous paierez pour l'utilisation de l'API dès que vous commencerez à construire et à tester.

Étape 2 : Ajouter l'interface utilisateur de ChatKit à votre site web

Une fois la logique backend en place, vous devez réellement intégrer la fenêtre de chat sur votre site. Cela implique du travail à la fois sur votre serveur et sur le frontend de votre site web.

1. Configuration côté serveur : Tout d'abord, vous avez besoin d'un serveur backend en cours d'exécution (utilisant quelque chose comme Python ou Node.js). Son rôle principal est de gérer l'authentification en créant un « secret client » qui permet à votre site web de communiquer de manière sécurisée avec l'API d'OpenAI.

2. Codage frontend : Dans le code de votre site web, vous installerez les paquets ChatKit (comme « @openai/chatkit-react » pour les projets React) et écrirez le code pour intégrer et afficher le widget de chat.

3. Connecter les deux : Le code frontend communique ensuite avec votre serveur pour obtenir le secret client et utilise l'ID de flux de travail d'Agent Builder pour lier l'interface de chat à la logique IA que vous avez construite à la première étape.

L'ensemble de ce processus est un va-et-vient constant entre votre propre infrastructure et les services d'OpenAI, tout cela devant être codé, déployé et entretenu par votre équipe d'ingénieurs.

Étape 3 : Personnaliser l'expérience de chat avec des widgets

Une fois la configuration de base fonctionnelle, le vrai travail commence : rendre l'expérience de chat vraiment utile. ChatKit fournit une grande bibliothèque de widgets que les développeurs peuvent utiliser pour construire des éléments interactifs à l'intérieur de la fenêtre de chat. Cela inclut des choses comme :

• Cartes : Pour afficher des informations structurées.

• Formulaires : Pour recueillir des informations auprès des utilisateurs.

• Boutons : Pour permettre aux utilisateurs de déclencher des actions.

• Graphiques : Pour visualiser des données.

Le coût réel et les limites de ChatKit External Documents

C'est ici que vous devez être particulièrement attentif. Bien que ChatKit soit un outil flexible pour les développeurs, il comporte des coûts et des limitations importants que les entreprises doivent comprendre avant de se lancer.

Explication de la tarification de ChatKit d'OpenAI

ChatKit lui-même n'a pas de frais d'abonnement. Au lieu de cela, vous payez pour l'utilisation sous-jacente de l'API d'OpenAI, ce qui peut être compliqué et difficile à prévoir. Les coûts proviennent de plusieurs sources différentes :

• Utilisation du modèle : Vous payez pour chaque token (qui sont comme de minuscules morceaux de mots) que le modèle traite, à la fois pour la question de l'utilisateur et la réponse de l'IA.

• Utilisation des outils : L'utilisation de fonctionnalités comme la recherche de fichiers, nécessaire pour la fonction ChatKit External Documents, a son propre tarif. Par exemple, l'outil de recherche de fichiers coûte 2,50 $ pour 1 000 requêtes, plus les frais de stockage des fichiers.

• Appels d'outils : Chaque fois que votre agent doit effectuer une action ou utiliser un outil, vous payez pour les tokens impliqués dans ce processus.

Voici un tableau simple pour décomposer cela :

Ce modèle de paiement à l'utilisation rend incroyablement difficile d'estimer votre facture mensuelle, car elle peut varier considérablement en fonction de l'utilisation.

Principales limitations à prendre en compte

Au-delà de la tarification imprévisible, il y a quelques autres obstacles majeurs à connaître.

• C'est un effort technique considérable : Soyons clairs : ChatKit est un outil pour les développeurs, pas une solution prête à l'emploi. Il exige des ressources d'ingénierie continues pour la configuration, la personnalisation, le déploiement et la maintenance. Si vous n'avez pas de développeurs dédiés qui peuvent s'approprier ce projet, ce n'est probablement pas la bonne solution.

• L'expérience est fragmentée : L'ensemble du processus semble déconnecté. Vous construisez la logique dans Agent Builder, codez l'interface utilisateur avec ChatKit, et utilisez des outils « Evals » distincts pour les tests. Il n'y a pas de tableau de bord unique et unifié où une personne non technique peut gérer l'expérience de bout en bout.

• C'est générique, pas spécialement conçu : ChatKit est un framework général pour construire n'importe quel type d'expérience de chat. Il lui manque complètement les flux de travail spécialisés, les analyses et les fonctionnalités nécessaires pour des tâches spécifiques comme le support client. Vous devrez tout construire vous-même, comme le triage des tickets, l'assistance aux agents ou les intégrations avec des centres d'aide comme Zendesk ou Intercom.

• Le tester en toute sécurité est difficile : Bien qu'OpenAI dispose d'outils d'évaluation, ils sont complexes et conçus pour les développeurs. Il n'y a pas de moyen simple et intégré pour un responsable de support de voir comment l'agent se comporterait sur des milliers de vrais tickets clients avant sa mise en ligne. Cela rend son déploiement un peu hasardeux.

• La confidentialité des données peut être une préoccupation : Pour de nombreuses entreprises, envoyer des documents internes sensibles et des conversations clients pour être traités sur l'infrastructure générale d'OpenAI est un énorme signal d'alarme en matière de conformité. Bien qu'il existe une option avancée et auto-hébergée, elle nécessite un investissement en ingénierie encore plus important et beaucoup plus d'expertise.

Une alternative plus simple à ChatKit External Documents : Unifiez vos connaissances instantanément avec eesel AI

Si ChatKit est une boîte de pièces détachées pour les développeurs, eesel AI est la machine entièrement assemblée pour les entreprises. Il résout exactement le même problème, en alimentant l'IA avec vos connaissances internes, mais sans les maux de tête techniques et le flux de travail dispersé.

Soyez opérationnel en quelques minutes, pas en quelques mois

Oubliez la configuration compliquée pour les développeurs. eesel AI dispose d'un processus d'intégration radicalement simple et en libre-service que n'importe qui peut utiliser. Vous pouvez connecter vos sources de connaissances avec des intégrations en un clic pour les outils que vous utilisez déjà, comme Confluence, Google Docs, et votre centre d'aide. Pas besoin de mettre en place un serveur backend ou d'écrire une seule ligne de code. Vos connaissances sont unifiées directement là où elles se trouvent déjà.

eesel AI offre des intégrations en un clic avec des outils comme Confluence et Google Docs, simplifiant le processus de connexion des sources de connaissances.

Testez en toute confiance et gardez le contrôle

L'une des plus grandes craintes avec un outil comme ChatKit est de lancer une IA qui donne de mauvaises réponses. eesel AI s'attaque à ce problème avec un puissant mode de simulation. Vous pouvez tester en toute sécurité votre agent IA sur des milliers de vos anciens tickets de support pour obtenir un aperçu réel de ses performances et de son taux de résolution avant qu'un seul client ne lui parle jamais.

Vous bénéficiez également d'un contrôle précis sur ce que fait l'IA. Avec l'automatisation sélective, vous pouvez facilement décider quels types de questions l'IA doit traiter et celles qui doivent être directement transmises à un agent humain.

Le mode de simulation d'eesel AI permet aux entreprises de tester les performances de leur agent IA sur d'anciens tickets de support avant la mise en ligne.

Une solution conçue pour le support et les connaissances internes

Contrairement au framework générique de ChatKit, eesel AI est une solution complète avec des produits conçus pour des besoins métier spécifiques.

• Agent IA automatise le support de première ligne directement dans votre centre d'aide.

• Copilote IA fournit une assistance en temps réel à vos agents humains.

• Chat Interne IA répond aux questions des employés directement dans Slack ou Microsoft Teams.

De plus, la tarification d'eesel AI est transparente et prévisible. Vous payez un forfait mensuel fixe basé sur votre niveau d'utilisation, vous n'aurez donc pas de frais déroutants par token ou par résolution qui entraînent des factures surprises.

ChatKit External Documents est-il le bon outil pour le travail ?

ChatKit d'OpenAI est une boîte à outils puissante et flexible pour les équipes de développement qui ont le temps, le budget et l'expertise nécessaires pour construire une solution de chat entièrement personnalisée à partir de zéro. Il vous donne un contrôle total, mais ce contrôle s'accompagne d'une énorme complexité.

Pour la plupart des entreprises, en particulier les équipes de support, d'informatique et d'opérations, une plateforme d'IA dédiée comme eesel AI est un moyen plus rapide, plus sûr et plus efficace d'atteindre la même destination. C'est la différence entre recevoir une boîte de pièces détachées et recevoir les clés d'une voiture. L'un vous demande de la construire vous-même, tandis que l'autre est prête à rouler.

Prêt à créer un agent IA basé sur les connaissances de votre entreprise sans écrire une seule ligne de code ? Commencez votre essai gratuit d'eesel AI dès aujourd'hui et découvrez à quel point il peut être facile d'automatiser le support et de renforcer votre équipe.