Una guía completa de los documentos externos de ChatKit de OpenAI

Todos queremos un chatbot de IA que pueda responder preguntas utilizando el conocimiento específico de nuestra empresa. Ya sea escarbando en artículos del centro de ayuda, wikis internas o documentos de producto desordenados, el sueño es dar a las personas respuestas instantáneas y precisas. ChatKit de OpenAI es un kit de herramientas hecho para desarrolladores que quieren construir este tipo de experiencias de chat inteligentes.

Pero, ¿qué se necesita realmente para ponerlo en marcha? Esta guía te ofrece una visión honesta de cómo funciona la función de Documentos Externos de ChatKit, desde su configuración, muy orientada a desarrolladores, y su complicado sistema de precios, hasta algunas limitaciones importantes que deberías conocer. También analizaremos una alternativa más amigable para las empresas que necesitan estar operativas en minutos, no en meses.

Entendiendo ChatKit de OpenAI y los Documentos Externos de ChatKit

Primero que nada, ChatKit de OpenAI no es un chatbot que simplemente puedas activar. Piénsalo como una caja de piezas para desarrolladores. Les proporciona los componentes básicos, como componentes de UI, plantillas de prompts y funciones para adjuntar archivos, para crear una interfaz de chat personalizada que luego puedes integrar en tu sitio web o aplicación.

Es importante ver cómo encaja con otras herramientas de OpenAI:

• Agent Builder: Este es el espacio de trabajo visual donde diseñas la lógica y el flujo de trabajo del backend de la IA. Puedes pensar en esto como el "cerebro". ChatKit es la "cara" que se conecta a un flujo de trabajo que construyes aquí.

• Agents SDK: Para compilaciones más complejas o personalizadas, los desarrolladores pueden usar este marco basado en código para crear el backend del agente desde cero. ChatKit también puede conectarse a estos agentes personalizados.

Entonces, ChatKit es solo una pieza del rompecabezas. Se encarga de la ventana de chat de cara al usuario, pero toda la inteligencia detrás de ella tiene que ser construida y gestionada por separado en Agent Builder o con el SDK.

Entendiendo la función de Documentos Externos de ChatKit

Este es el ingrediente clave que permite a tu agente de IA usar los documentos propios de tu empresa para elaborar respuestas. Sin él, tu chatbot solo tendría el conocimiento general de su modelo base, lo que no es de mucha ayuda cuando alguien pregunta sobre la política de devoluciones específica de tu empresa.

Hay dos formas principales de alimentarlo con información:

• Contexto del chat: Puedes darle a la IA una lista de URLs para que las use como contexto en una conversación. La IA luego utiliza la búsqueda semántica para encontrar y extraer solo los fragmentos más relevantes de esos documentos para responder una pregunta.

• Archivos adjuntos en mensajes: Tus usuarios pueden subir un archivo completo, como un PDF o una hoja de cálculo, para añadirlo a la conversación.

Según la documentación de OpenAI, ChatKit puede manejar una buena variedad de tipos de documentos, incluyendo videos de YouTube (para contexto), PDFs, archivos de Office (.docx, .pptx), CSVs, JSON y páginas web normales.

Cómo configurar y usar los Documentos Externos de ChatKit

Bien, aquí es donde las cosas se ponen técnicas. Configurar ChatKit no es tan simple como activar un interruptor; es un proyecto de varios pasos que requiere un desarrollador. No vamos a repasar cada línea de código, pero describir las etapas principales te mostrará cuánto trabajo de ingeniería implica.

Paso 1: Construir el flujo de trabajo del backend

Antes incluso de tocar la UI del chat, tienes que construir el cerebro del agente usando Agent Builder. Aquí es donde conectas modelos, defines lo que el agente debe hacer y configuras sus herramientas. Para usar documentos externos, necesitarías vincular tus fuentes de datos o activar la herramienta de búsqueda de archivos dentro de este flujo de trabajo.

Desde el principio, esto requiere una cuenta en la Plataforma de OpenAI con la facturación activada, ya que pagarás por el uso de la API desde el momento en que empieces a construir y probar.

Paso 2: Añadir la UI de ChatKit a tu sitio web

Una vez que la lógica del backend está en su lugar, necesitas poner la ventana de chat en tu sitio. Esto implica trabajo tanto en tu servidor como en el frontend de tu sitio web.

1. Configuración del lado del servidor: Primero, necesitas un servidor de backend en funcionamiento (usando algo como Python o Node.js). Su trabajo principal es manejar la autenticación creando un "secreto de cliente" que permita a tu sitio web comunicarse de forma segura con la API de OpenAI.

2. Programación del frontend: En el código de tu sitio web, instalarás los paquetes de ChatKit (como "@openai/chatkit-react" para proyectos de React) y escribirás el código para incrustar y mostrar el widget de chat.

3. Conectando ambos: El código del frontend se comunica con tu servidor para obtener el secreto de cliente y utiliza el ID del flujo de trabajo de Agent Builder para vincular la UI del chat con la lógica de IA que construiste en el primer paso.

Todo este proceso es un ir y venir constante entre tu propia infraestructura y los servicios de OpenAI, todo lo cual necesita ser codificado, implementado y mantenido por tu equipo de ingeniería.

Paso 3: Personalizar la experiencia de chat con widgets

Una vez que la configuración básica funciona, comienza el verdadero trabajo: hacer que la experiencia de chat sea realmente útil. ChatKit proporciona una gran biblioteca de widgets que los desarrolladores pueden usar para construir elementos interactivos dentro de la ventana de chat. Esto incluye cosas como:

• Tarjetas: Para mostrar información estructurada.

• Formularios: Para recopilar datos de los usuarios.

• Botones: Para permitir que los usuarios activen acciones.

• Gráficos: Para visualizar datos.

El coste real y las limitaciones de los Documentos Externos de ChatKit

Aquí es donde debes prestar mucha atención. Si bien ChatKit es una herramienta flexible para desarrolladores, viene con algunos costes y limitaciones importantes que las empresas deben entender antes de lanzarse.

Explicación de los precios de ChatKit de OpenAI

ChatKit en sí no tiene una tarifa de suscripción. En su lugar, pagas por el uso subyacente de la API de OpenAI, lo que puede ser complicado y difícil de predecir. Los costes surgen de varios lugares diferentes:

• Uso del modelo: Pagas por cada token (que son como pequeños fragmentos de palabras) que el modelo procesa, tanto para la pregunta del usuario como para la respuesta de la IA.

• Uso de herramientas: El uso de funciones como la búsqueda de archivos, que es necesaria para la función de Documentos Externos de ChatKit, tiene su propio precio. Por ejemplo, la herramienta de búsqueda de archivos cuesta 2,50 $ por cada 1.000 consultas, más las tarifas de almacenamiento de archivos.

• Llamadas a herramientas: Cada vez que tu agente tiene que realizar una acción o usar una herramienta, estás pagando por los tokens involucrados en ese proceso.

Aquí tienes una tabla simple para desglosarlo:

Este modelo de pago por uso hace que sea increíblemente difícil adivinar cómo será tu factura mensual, ya que puede variar enormemente dependiendo de cuánto se use.

Limitaciones clave a considerar

Además de los precios impredecibles, hay otros obstáculos importantes que debes tener en cuenta.

• Es un gran esfuerzo técnico: Seamos sinceros: ChatKit es una herramienta para desarrolladores, no una solución lista para usar. Exige recursos de ingeniería continuos para configurar, personalizar, implementar y mantener. Si no tienes desarrolladores dedicados que puedan hacerse cargo de este proyecto, probablemente no sea la opción adecuada.

• La experiencia está fragmentada: Todo el proceso se siente desconectado. Construyes la lógica en Agent Builder, codificas la UI con ChatKit y usas herramientas de "Evals" separadas para las pruebas. No hay un panel único y unificado donde una persona no técnica pueda gestionar la experiencia de principio a fin.

• Es genérico, no está diseñado para un propósito específico: ChatKit es un marco general para construir cualquier tipo de experiencia de chat. Carece por completo de los flujos de trabajo especializados, análisis y características necesarias para tareas específicas como el soporte al cliente. Tendrás que construir todo tú mismo, como el triaje de tickets, la asistencia a agentes o las integraciones con servicios de ayuda como Zendesk o Intercom.

• Probarlo de forma segura es difícil: Aunque OpenAI tiene herramientas de evaluación, son complejas y están diseñadas para desarrolladores. No hay una forma simple e integrada para que un gerente de soporte vea cómo se comportaría el agente con miles de tickets de clientes reales antes de ponerlo en marcha. Esto hace que su implementación sea un poco arriesgada.

• La privacidad de los datos puede ser una preocupación: Para muchas empresas, enviar documentos internos sensibles y conversaciones de clientes para que sean procesados en la infraestructura general de OpenAI es una importante señal de alerta en materia de cumplimiento. Aunque existe una opción avanzada y autoalojada, requiere una inversión de ingeniería aún mayor y mucha más experiencia.

Una alternativa más simple a los Documentos Externos de ChatKit: Unifica tu conocimiento al instante con eesel AI

Si ChatKit es una caja de piezas para desarrolladores, eesel AI es la máquina completamente ensamblada para las empresas. Resuelve exactamente el mismo problema, potenciando la IA con tu conocimiento interno, pero sin los quebraderos de cabeza técnicos y el flujo de trabajo disperso.

Ponte en marcha en minutos, no en meses

Olvida la complicada configuración para desarrolladores. eesel AI tiene un proceso de incorporación radicalmente simple y autogestionado que cualquiera puede usar. Puedes conectar tus fuentes de conocimiento con integraciones de un solo clic para herramientas que ya utilizas, como Confluence, Google Docs y tu servicio de ayuda. No hay necesidad de levantar un servidor de backend ni de escribir una sola línea de código. Tu conocimiento se unifica directamente desde donde ya reside.

eesel AI ofrece integraciones con un solo clic con herramientas como Confluence y Google Docs, simplificando el proceso de conexión de fuentes de conocimiento.

Prueba con confianza y mantén el control

Una de las mayores preocupaciones con una herramienta como ChatKit es lanzar una IA que dé respuestas incorrectas. eesel AI aborda esto con un potente modo de simulación. Puedes probar de forma segura tu agente de IA en miles de tus tickets de soporte pasados para obtener una vista previa real de su rendimiento y tasa de resolución antes de que un solo cliente hable con él.

También obtienes un control detallado sobre lo que hace la IA. Con la automatización selectiva, puedes decidir fácilmente qué tipos de preguntas debe manejar la IA y cuáles deben ir directamente a un agente humano.

El modo de simulación en eesel AI permite a las empresas probar el rendimiento de su agente de IA en tickets de soporte pasados antes de ponerlo en marcha.

Una solución creada para el soporte y el conocimiento interno

A diferencia del marco genérico de ChatKit, eesel AI es una solución completa con productos diseñados para necesidades empresariales específicas.

• AI Agent automatiza el soporte de primera línea directamente dentro de tu servicio de ayuda.

• AI Copilot proporciona asistencia en tiempo real a tus agentes humanos.

• AI Internal Chat responde a las preguntas de los empleados directamente en Slack o Microsoft Teams.

Además de eso, los precios de eesel AI son transparentes y predecibles. Pagas una tarifa mensual fija basada en tu nivel de uso, por lo que no recibirás ninguna tarifa confusa por token o por resolución que genere facturas sorpresa.

¿Son los Documentos Externos de ChatKit la herramienta adecuada para el trabajo?

ChatKit de OpenAI es un kit de herramientas potente y flexible para equipos de desarrollo con el tiempo, el presupuesto y la experiencia para construir una solución de chat completamente personalizada desde cero. Te da un control total, pero ese control viene con una enorme cantidad de complejidad.

Para la mayoría de las empresas, especialmente los equipos de soporte, TI y operaciones, una plataforma de IA dedicada como eesel AI es una forma más rápida, segura y efectiva de llegar al mismo destino. Es la diferencia entre recibir una caja de piezas y recibir las llaves de un coche. Una requiere que lo construyas tú mismo, mientras que la otra está lista para conducir.

¿Listo para construir un agente de IA con el conocimiento de tu empresa sin escribir una sola línea de código? Inicia tu prueba gratuita de eesel AI hoy mismo y descubre lo fácil que puede ser automatizar el soporte y empoderar a tu equipo.