Un guide pratique de l'API OpenAI Embeddings

Apprendre à un ordinateur à lire des mots est une chose. Mais lui apprendre à comprendre ce que ces mots signifient réellement ? C'est une tout autre affaire.

Pour quiconque travaille dans le support client, ce n'est pas juste une expérience de pensée pour geeks. Quand un client demande : « où est mon remboursement ? », vous avez besoin d'un système qui comprend qu'il parle de remboursement, et pas d'un système qui se contente de chercher l'expression exacte « remboursement ». C'est précisément à cela que servent les embeddings.

Les embeddings sont une manière assez astucieuse de transformer du texte en nombres (appelés vecteurs) qui capturent sa véritable signification. Cette technologie nous permet de créer des outils puissants capables de rechercher des réponses basées sur l'intention, et non simplement sur des mots-clés. Dans ce guide, nous allons décortiquer l'API Embeddings d'OpenAI, voir comment elle peut réellement transformer vos opérations de support, aborder les coûts, et explorer comment vous pouvez exploiter sa puissance sans avoir besoin de toute une équipe de data scientists à disposition.

Qu'est-ce que l'API Embeddings d'OpenAI ?

L'API Embeddings d'OpenAI est un service qui prend votre texte, qu'il s'agisse d'un mot, d'une phrase ou d'un document entier, et le transforme en une longue chaîne de nombres. La façon la plus simple de se le représenter est d'imaginer que chaque morceau de texte reçoit ses propres coordonnées uniques sur une gigantesque « carte de la signification ». Les textes ayant des significations similaires sont placés très près les uns des autres sur cette carte, tandis que les textes sans aucun rapport sont à des kilomètres de distance.

La tâche principale de l'API est de mesurer cette « corrélation », ou ce que nous appelons la « similarité sémantique ». Lorsque la distance entre deux de ces chaînes de nombres (vecteurs) est faible, cela signifie que leurs significations sont très proches. Cette idée simple est à l'origine de nombreux outils d'IA incroyables que nous voyons aujourd'hui.

OpenAI propose quelques modèles que vous pouvez utiliser via son API, les plus récents et les plus performants étant « text-embedding-3-small » et « text-embedding-3-large » (nouveaux et plus performants). Ces modèles ont été entraînés sur d'énormes quantités de texte, ils sont donc excellents pour saisir les nuances du langage. Pour les outils de support modernes, ce type de technologie n'est pas seulement un plus ; c'est le moteur qui rend possibles des interactions client véritablement intelligentes et utiles.

Comment l'API Embeddings d'OpenAI rend le support client plus intelligent

La véritable valeur des embeddings ne réside pas dans les nombres eux-mêmes, mais dans ce que vous pouvez en faire. Pour les équipes de support client et d'ITSM, cela ouvre une multitude de possibilités qui n'étaient tout simplement pas envisageables avec les anciens outils.

Au-delà de la recherche par mots-clés : le pouvoir de la compréhension sémantique

Pendant des années, les services d'assistance et les bases de connaissances ont été limités à la recherche par mots-clés. Si un client recherche « remboursement », il n'obtiendra que les articles contenant cette expression exacte. Cela signifie qu'il passe souvent à côté de l'article intitulé « Notre politique de remboursement », se sent frustré et finit par créer un ticket pour une question à laquelle il aurait pu répondre lui-même. Ce n'est tout simplement une bonne expérience pour personne.

L'API Embeddings d'OpenAI renverse complètement la situation en permettant la recherche sémantique. Au lieu de faire correspondre des mots, elle fait correspondre des significations. Le système comprend que « remboursement », « obtenir un remboursement » et « retourner un article contre un avoir » signifient tous la même chose. Cela veut dire que vos clients et agents peuvent trouver ce dont ils ont besoin en utilisant leurs propres mots, ce qui contribue à améliorer les taux de self-service et à accélérer la résolution des problèmes. Pour un agent, rechercher « client mécontent de la livraison tardive » peut instantanément faire remonter des tickets passés pertinents et des documents internes, même si aucun d'entre eux ne contient cette phrase exacte.

Principaux cas d'usage dans le support et l'ITSM

Une fois que vous pouvez comprendre la signification derrière le texte, vous pouvez commencer à construire des flux de travail beaucoup plus intelligents. Voici quelques-unes des principales façons dont les embeddings transforment le monde du support :

• Recherche plus intelligente : Trouvez en un clin d'œil l'article du centre d'aide, la macro ou la résolution de ticket la plus pertinente. Les agents n'ont plus à jouer aux devinettes avec les mots-clés pour trouver une réponse qu'ils savent être enfouie quelque part dans le système.

• Regroupement et analyse de tickets : Regroupez automatiquement les tickets entrants par sujet. C'est idéal pour repérer les tendances, identifier un bug avec une nouvelle fonctionnalité ou détecter une panne de service au moment où elle se produit, sans qu'un analyste ait à étiqueter manuellement les tickets pendant des heures.

• Recommandations pertinentes : Suggérez proactivement le bon article d'aide à un agent pendant qu'il rédige une réponse. Mieux encore, vous pouvez le suggérer à un client sur votre centre d'aide avant même qu'il ne crée un ticket, évitant ainsi complètement la question.

• Classification et routage automatisés : Triez les tickets entrants dans des catégories comme Facturation, Support technique ou Ventes et envoyez-les automatiquement à la bonne équipe. Cela permet de gagner un temps considérable et de réduire le tri manuel.

Bien que toutes ces fonctionnalités soient incroyablement utiles, les construire de A à Z représente un travail d'ingénierie colossal qui nécessite une véritable expertise en IA. C'est là qu'un outil comme eesel AI entre en jeu. Il vous offre ces capacités prêtes à l'emploi. Il apprend de vos tickets passés, de vos articles d'aide et d'autres documents pour alimenter ses agents IA et ses copilotes, vous offrant tous les avantages de la compréhension sémantique sans les maux de tête liés à l'ingénierie.

Détails techniques : Modèles et coûts

Avant de vous lancer, il est bon de connaître les différents modèles disponibles et le fonctionnement de la tarification. L'API peut sembler bon marché à première vue, mais le coût total d'une solution « maison » peut rapidement grimper.

Comparaison des modèles d'embedding

OpenAI propose quelques modèles d'embedding différents, et chacun a son propre équilibre entre performance et coût. Les principaux que vous devriez connaître sont :

• « text-embedding-3-large » : C'est le modèle le plus puissant et le plus précis. C'est votre meilleur choix lorsque vous avez besoin de résultats de la plus haute qualité, mais c'est aussi le plus cher.

• « text-embedding-3-small » : Un modèle plus récent et ultra-efficace qui offre un excellent équilibre entre performance et coût. Pour la plupart des situations, ce modèle est le compromis idéal.

• « text-embedding-ada-002 » : C'était le modèle de la génération précédente. Il est toujours correct, mais « text-embedding-3-small » est en réalité plus performant et nettement moins cher.

Les nouveaux modèles « text-embedding-3 » disposent également d'un paramètre « dimensions », qui vous permet de raccourcir les vecteurs. C'est une fonctionnalité pratique pour équilibrer la performance avec le coût de stockage dans une base de données, car les vecteurs plus petits sont moins chers à stocker et plus rapides à rechercher.

Voici une comparaison rapide pour vous aider à choisir :

Modèle	Performance (score MTEB)	Prix par million de tokens
"text-embedding-3-large"	64.6%	$0.13
"text-embedding-3-small"	62.3%	$0.02
"text-embedding-ada-002"	61.0%	$0.10

Comprendre la tarification

L'API est facturée en fonction des « tokens », et un token correspond à environ 4 caractères de texte. Si vous consultez la page de tarification d'OpenAI, les coûts semblent très bas.

Par exemple, disons que vous souhaitez créer des embeddings pour 1 000 articles d'aide, chacun faisant environ une page. Cela représente environ 800 000 tokens. En utilisant le modèle « text-embedding-3-small », le coût unique pour les traiter tous serait de seulement 0,016 $. Ça semble incroyablement bon marché, n'est-ce pas ? Mais c'est là que les coûts cachés commencent à apparaître.

Cet appel API n'est que la première étape. Pour pouvoir réellement faire quelque chose avec ces embeddings, vous avez besoin de tout un système construit autour :

• Base de données vectorielle : Vous ne pouvez pas simplement jeter les embeddings dans une base de données classique. Vous avez besoin d'une base de données vectorielle spécialisée (comme Pinecone ou Weaviate) pour les stocker et effectuer des recherches de similarité. Ces services ont leurs propres frais mensuels.

• Coûts de calcul : Effectuer des recherches sur des millions de vecteurs demande beaucoup de puissance de traitement. Cela ajoute un autre coût opérationnel qui peut être difficile à prévoir.

• Développement et maintenance : C'est souvent la dépense la plus importante. Vous aurez besoin d'ingénieurs qualifiés en IA ou en machine learning pour concevoir le système, écrire le code pour traiter vos données, créer l'application de recherche et assurer le bon fonctionnement de l'ensemble. Ce n'est pas un projet ponctuel ; c'est un engagement continu.

C'est là qu'une plateforme gérée devient une alternative beaucoup plus pratique. Une solution intégrée comme eesel AI s'occupe de tout cela pour vous. Au lieu de jongler avec les factures pour les API, les bases de données et les serveurs, vous bénéficiez d'un abonnement unique et prévisible qui couvre tout. Cette approche est en phase avec la tarification transparente d'eesel AI, qui est basée sur l'utilisation, et non sur des frais par résolution qui vous pénalisent pour avoir résolu plus de problèmes.

Implémentation : Solution maison vs. plateforme gérée

Alors, vous êtes convaincu que les embeddings sont la voie à suivre. Maintenant, vous avez une grande décision à prendre : essayez-vous de construire une solution vous-même, ou utilisez-vous une plateforme qui a déjà fait le plus gros du travail ?

Construire votre propre solution : qu'est-ce que cela implique ?

La voie du « fait maison » vous offre le plus de flexibilité, mais c'est un projet sérieux. Voici un aperçu rapide de ce que cela implique :

1. Préparation des données : Vous devrez écrire des scripts pour extraire et nettoyer le texte de toutes vos sources de connaissances : articles d'aide, tickets passés, wikis internes, etc.

2. Intégration de l'API : Ensuite, vous devez vous connecter à l'API Embeddings d'OpenAI pour transformer tout ce texte en vecteurs. Cela implique de gérer des éléments comme les limites de requêtes, les erreurs et les nouvelles tentatives.

3. Configuration de la base de données vectorielle : Vous devez choisir, mettre en place et configurer une base de données vectorielle. Cela implique de définir comment les données sont stockées, de gérer l'indexation et de l'optimiser pour la performance.

4. Développement de l'application : Vous devez ensuite créer une application capable de prendre la question d'un utilisateur, de la transformer en embedding, de rechercher des vecteurs similaires dans la base de données et d'afficher les résultats.

5. Intégration avec le service d'assistance : Enfin, vous devez connecter cette solution personnalisée à votre service d'assistance, à vos outils de chat et à d'autres systèmes pour que votre équipe puisse réellement l'utiliser.

Ce processus nécessite une équipe avec des compétences spécialisées en ingénierie de l'IA et peut facilement prendre des mois à mettre en place. Et même une fois en ligne, il nécessite une maintenance constante pour continuer à bien fonctionner.

Les avantages d'une plateforme d'IA intégrée

Pour la plupart des équipes, une plateforme gérée est un moyen beaucoup plus rapide et judicieux de tirer parti des embeddings. Voici pourquoi :

• Mise en service en quelques minutes, pas en quelques mois : Au lieu d'un projet de développement long et compliqué, eesel AI propose une configuration entièrement en libre-service. Avec des intégrations en un clic pour les outils que vous utilisez déjà comme Zendesk, Freshdesk et Confluence, vous pouvez avoir un agent IA opérationnel en quelques minutes.

• Un contrôle total sans la complexité : Avec une solution maison, vous devez coder chaque élément de logique. eesel AI vous offre un moteur de workflow puissant et sans code pour configurer précisément quels tickets votre IA doit traiter, quelle doit être sa personnalité et quelles actions elle peut entreprendre, de l'escalade d'un ticket à la recherche d'informations de commande en temps réel.

• Testez en toute confiance : L'un des aspects les plus délicats du déploiement de l'IA est de ne pas savoir comment elle se comportera. Une solution maison est souvent lancée sans beaucoup de tests. eesel AI inclut un mode de simulation puissant qui vous permet de tester votre configuration sur des milliers de vos propres tickets historiques. Vous pouvez voir exactement comment elle aurait répondu, obtenir des prévisions solides sur les taux de résolution et ajuster son comportement avant même qu'un seul client n'interagisse avec elle.

Dernières réflexions et prochaines étapes

L'API Embeddings d'OpenAI est une technologie puissante qui permet enfin aux ordinateurs de comprendre le sens de nos mots. Pour le support client et l'ITSM, cela ouvre la voie à une recherche plus intelligente, à une analyse automatisée des tickets et à une aide proactive qui n'étaient tout simplement pas possibles auparavant.

Le principal avantage est clair : vous pouvez construire des systèmes qui comprennent ce que les gens veulent dire, pas seulement ce qu'ils tapent. Mais vous avez le choix. Vous pouvez créer une solution personnalisée de A à Z, ce qui vous donne une flexibilité totale mais s'accompagne de coûts élevés, d'une grande complexité et d'une longue attente avant de voir des résultats. Ou, vous pouvez utiliser une plateforme intégrée qui est déjà conçue pour les équipes de support.

Pour la plupart des équipes, une plateforme est le moyen le plus rapide, le plus fiable et le plus rentable d'utiliser cette technologie pour travailler plus efficacement et satisfaire les clients.

Prêt à libérer la puissance des embeddings pour votre équipe de support sans la charge de travail d'ingénierie ? eesel AI se connecte à vos outils existants pour automatiser le support de première ligne, rédiger des brouillons de réponses pour les agents, et bien plus encore. Vous pouvez être opérationnel en quelques minutes, sans appel commercial requis.