Gracias a que tenemos modelos del tipo GPT la construcción de chatbots se ha simplificado mucho, sobre todo desde la salida de AZURE AI STUDIO.
Por supuesto, que al igual que otros desarrollos, los que implican el uso de IA GENERATIVA también necesitan de una arquitectura que garantice la escalabilidad de los modelos de I.A.
Al día de hoy, la arquitectura estándar de uso de estos modelos es la ARQUITECTURA RAG (Generación Aumentada por Recuperación). Es importante conocerla porque es una arquitectura base de la cual se pueden derivar otras en función de cada necesidad de la empresa.
Entre los muchos objetivos de la arquitectura RAG, uno de ellos es el de contextualizar los modelos, es decir, enseñarles a hacer algo, por ejemplo, podemos cargarle PDFs de cómo una persona atiende llamadas telefónicas en un Call Center para que la I.A. sepa cómo debe contestarle a los clientes.
Tiene varios componentes, pero en términos simples está formado por los componentes de “USUARIO”, “MODELO” y “MEMORIA” El usuario puede ser una persona u otro sistema que le envía peticiones al modelo, el modelo es el LLM (GPT), y la memoria es la información que contextualiza el modelo.
La forma en cómo se implementan cada uno de estos componentes puede ser más o menos complejo dependiendo de qué se necesita, por ejemplo a veces el modelo sólo necesita una memoria de corto plazo (CHATBOTS) y a veces necesita memoria a largo plazo (REPORTERÍA y ANÁLISIS).
¿Cómo se implementan estos componentes?, necesitamos de LANGCHAIN, un framework de desarrollo que implementa la arquitectura RAG y dependiendo de la volumetría de archivos que se va a contextualizar, en ocasiones es necesario de clústers de procesamiento de BIG DATA, esto último se utiliza sobre todo en las empresas.
Hay mucho más por hablar, desde cómo se evitan las alucinaciones hasta cómo se implementan flujos o agentes, en nuestra conferencia del 4 de octubre podrás conocerlo con mucho más detalle.
Estarás recibiendo en el enlace ZOOM del evento en el grupo oficial de WHATSAPP UNIÉNDOTE DESDE AQUÍ
