Vectorización y Embeddings

[00:00] Inteligencia artificial para negocios, episodio 3, vectorización y embeddings.

Muy buenas a todos y bienvenidos a este episodio número 3 de su podcast Inteligencia Artificial para Negocios, donde tratamos todo lo relacionado con estas nuevas tecnologías, con esas nuevas tendencias enfocado en la inteligencia artificial y sobre todo en los usos prácticos que nos deja en los negocios. Con ustedes su host Iván Acuña y como siempre acompañándonos aquí el señor Luis Martínez del equipo de CIFSA Digital. Antes de que comencemos, recuerden que pueden encontrar todos los productos y servicios dentro de nuestra página web cifsa digital punto com.

Ahí está recién renovada, bastante chula, hecha a mano, hecha a mano sobre todo porque pues siempre se puede sacar mucho más jugo de la tecnología cuando se hace a mano y se piensa en el desarrollo a la medida. Entonces visítenos, ahí encuentren todos los servicios, productos y demás con relación a este mundo que es la inteligencia artificial, pero también está el desarrollo de la medida, automatizaciones, RPAs, etcétera. Señor Luis, vectorización y embeddings.

¿Cómo estás? Buenas tardes.

Buenas tardes. ¿Cómo están todos? Pues por aquí con buenas noticias.

Saludos desde Tik Tok también por ahí que nos que nos han hecho algunas referencias. Hoy nos vamos a poner un poquito más. Ojalá que no, ojalá que lo podamos aterrizar debidamente para ver si nos ponemos más técnicos con el tema de vectorización y embeddings, porque justo hay que contestar la pregunta y cómo le hacen para meter una base de datos y que el asistente pueda contestar desde esa, desde el candor de esa pregunta.

Buscamos responder a ver si lo podemos lograr en 20 minutos de manera concisa. Es un reto para más, más, más que técnico, es un reto de oratoria para nosotros, porque luego se nos descoce el hocico.

Bueno, vectorización. Primero, conceptos básicos. La vectorización para mí en términos muy generales, sin caer en lo técnico, como hemos dicho desde la declaración de intenciones del podcast número uno, es básicamente hacer que el lenguaje humano en términos de base de datos se entienda por la inteligencia artificial a través de coordenadas dentro del universo de posibles registros que tiene.

¿Cómo lo estoy? Déjame volverlo a traducir una vez más. Es la manera en que mucha mucha información de una tabla se pueda hacer entendible para el para la inteligencia artificial y poder llevar así a cabo una.

Poder así llevar a cabo una utilización de esta información a nivel humano. Es decir, entiéndase que no se vectorizan. Un archivo, 10 archivos, 100 archivos.

Estaba bien pensado para millones de archivos, millones de registros o miles de registros al menos. Que en el contexto humano sería como localizar un recuerdo dentro de tu cabecita y buscar dónde está localizado, en qué año y situarlo y traerlo al presente. Eso es como mi definición de una manera muy básica de este concepto de vectorización y tú.

Pues voy a voy a decirlo. Demonios con van a decir al al al término de mi, de mi, de mi expresión, van a decir que demonios, como eres un maldito genio, es tirar vectores de palabras, o sea, líneas rectoras.

Imaginen, o sea, si están viendo este podcast, en la educación, eso del si si está aquí con nosotros.

Deseo que si están viendo este podcast, hayan pasado por el tema de plano cartesiano, los planes cartesianos, tu trazas un vector que es una línea recta en al menos tres dimensiones. O dos depende de los parámetros y esa línea recta va a estar. Va a tener como puntitos, puntitos que se aproximan.

O sea, ese vector está hecho de algo que se llama semántica, o sea que es como el conjunto de palabras que se relacionan con un tema. Y las palabras son los puntitos que van alrededor de esa línea y así lo lo describiría yo, ¿no? Este diferent vectorizar es trazar una línea temática, podría decirse, de una manera bastante desapegada de la de la de la disciplina, de lo técnico y del rigor científico.

Pero yo pondría así como una línea que tira en cierto sentido de cierto tema y que alrededor habitan las palabras que podrían estar relacionadas con esas, con ese tema. Y pues al vectorizar pues lo que haces es trazar relaciones o asociaciones de palabras unas con otras, con muchas condiciones y reglas.

Como ven, se puede pensar que es bastante complejo este concepto. Sin embargo, hay que quedarse con una idea muy sencilla, que es cómo alimento a la inteligencia artificial de mi información en lo específico, porque podemos tener más bien existen en el mercado distintos tipos de inteligencia artificiales que tienen sus ciertas configuraciones dentro de su parámetros generales. No así lo que necesitamos para nuestro propio negocio, porque cada negocio tiene su forma de de llevar a cabo sus propios procesos, sus operaciones, etcétera.

Entonces la vectorización nos ayuda a que le demos un mayor riqueza de información a nuestro asistente de inteligencia artificial para poder así acercarnos más y más a las respuestas que estamos buscando. Entonces este concepto es básico para hacer la personalización de las de los asistentes. Pero ahora, ¿qué son los embeddings?

¿Qué entiendes por ese concepto?

Ah, ok, es como transformar, transformar letras en números con base en un patrón, básicamente.

Y esos números como traducir palabras a números.

Baja y de cierta manera estos números ensamblan en su conjunto como si fueran una especie de coordenadas. ¿Qué sirven dentro del vector para localizarse? Podría de una manera así, muy, muy.

No sé, siento que estoy en examen, pero. Yo lo describiría así, convertir palabras en números. Para que pueda ser entendible por un procesador más fácil.

Y que después te arroje el resultado que tú deseas con base en esa coordenada, con base en esa información. Para poder acercarnos al resultado que es la. La información deseada para nuestro negocio ahora importante.

Sí, sí, pues esto no queda muy claro. Realmente lo que tienen que hacer cuando hay un implementador de inteligencia artificial es compartir su información. Lo mayor digital posible no vale un PDF que está trasladado del mundo físico al.

A través de una foto escaneado. Porque esto se puede perder bastante la información que se va a vectorizar. Entonces la idea es que se tenga el nativo en digital la información para poder así.

Hacer su vectorización y posteriormente hacer uso de esta información a través de los envergues vale. Esto es como que lo más casos prácticos es que se debe de tener en cuenta de estos dos conceptos en lo particular. Ahora, casos prácticos de implementación.

Primero de la vectorización. Los envergues es muy sencillo. Se refiere como a darle el contexto más específico.

Entendíamos, entendamos como la vectorización es toda la información que le puedes dar y el envergues como la solicitud o el permiso de utilizar esa información. Así de una manera muy, muy general. Casos prácticos de la vectorización.

Tengo mucho los registros de soporte y atención a cliente específico, donde los millones y millones de registros o miles, dependiendo del caso de cada cliente, tenga la particularidad de poder ofrecer una asistencia personalizada a cada uno de sus clientes. Es para ello que se requiere la vectorización puntual de todo esta gama de variables que pueden ser N en aquí, en lo en lo específico en usos prácticos. Al menos en lo que yo he visto en mi experiencia, entre más campos, más difícil se hace la vectorización y más lentas hace la respuesta del asistente.

Entonces hay que hacer un balance real entre las variables que vamos a utilizar y las que no para ir descartando y hacer así eficiente en el consumo de esta información.

Ahí, por ejemplo, hay casos, casos prácticos de lo que es embedding y vectorización. Pues tenemos como casos que todos conocemos, ¿no? Podría ser, por ejemplo, no sé si han hecho alguna vez el ejercicio en YouTube de en vez de poner el título del video, ponen una descripción del video.

Ah, no sé, este gol con la cara y te aparece un video de el chicharito metiendo en realidad y el video se llama el gol de Javier Hernández en partido fulano. Y esa en realidad el título ni las etiquetas están relacionadas con gol con la cara, pero podría ser parte de la descripción o los metadatos que están dentro de ese video relacionados semánticamente con ese video. Y entonces por eso es que podemos hacer una una búsqueda por descripción o búsqueda relacionada, no, no necesariamente el título, como a veces nos pasa, por ejemplo, con Spotify, Spotify.

Y a veces si tú haces una búsqueda y te equivocaste en una letra, ya valió madre, no te encuentra el resultado, aunque hayas puesto. O sea, si pones Beatles y lo escribes con zeta, la zeta ya, o sea, aunque es obvio y no hay muchas posibilidades de error, la respuesta de todas maneras puede que te lo marque mal. O no te muestre un resultado.

Esa es una diferencia, creo, importante de un embedding. Otra podría ser pues Spotify, perdón, Netflix. Netflix utiliza mucho, mucho eso de descripción y aproximación con un montón al de datos que van analizando los patrones de vista, los horarios, el dispositivo, la localización.

Si estás en el gimnasio, si estás en la oficina. Depende. Hay varias cosas ahí que pueden usarse como casos prácticos.

En nuestro caso particular, pues es para la lectura o eficientar la lectura de bases de datos de grandes cantidades de registros. O sea, más de 30 mil registros. Y con eso podemos hacer como una agilización con segmentos de base de datos.

Y bueno, ahí entra a otras, otros puntos.

Excelente. Sí, sobre todo es en aquellos negocios. Si estás en la oficina de se haga uso masivo de la información que una simple tabla no te pueda resolver.

Ahí es donde entran este tipo de bases de datos vectorizadas. Básicamente, si no requieres de tanta. Tanto consumo de información no es tan necesaria.

Esto está este concepto de vectorización, no así. De en Bernings, en Bernings es el contexto. Entiéndase, es que como como ampliar más el.

El rango de respuesta de un asistente vale. Entonces casos prácticos es aquel negocio donde se requiera un gan uso de información en específico. Lo tenemos mucho en común entre nuestros gama o portafolio de clientes, los que se dedican al tema financiero por la naturaleza del de la industria también requiere mucha información, variables que se hacen desde una originación hasta llegar al a los plazos de no pago.

Entonces todo esto nos deja un sin fin de información que podemos nos permite o podemos vectorizar para hacer uso de esta de esta información y dar toda la respuesta lo más amplia posible para el usuario y al fin y al final de esta conversación se tenga a una un entendimiento de que si se resolvió la consulta, duda o requerimiento que el usuario fue el que fue el que solicitó al inicio. Entonces entra ahí como los casos prácticos que a mi consideración es más útil. Estos dos conceptos de manera masiva ahora.

Hay varias, varios proveedores de bases de datos de vectorizaciones que están en el mercado, los más conocidos o al menos con el que yo he trabajado, es Pinecone. “Pinecone es una es un proveedor que te permite tanto determinar el número de vectores, el número de bases de datos que vas a utilizar, así como las salidas que vas a ir consumiendo. Pero me estoy viendo muy, muy técnico, pero más sencillo.

Pinecone es para que todo tu información almacene, se almacene primero en sus servidores y luego se traduzca o se traslade hacia vectores y luego tu asistente lo consuma de una manera super rápida. Para que no tengas tu la información en tu vecto, en tu servidor, para que no hagas consultas de manera más en lineal y sea un poco menos, está mucho más lento. Para que tengas miles de millones de posibilidades de respuesta y solamente se vaya por un camino.

O sea, la manera eficiente de introducir estos proveedores de base de datos es con PyCon. Sin embargo, pues existen varias opciones en el mercado, ¿verdad? Lo que sí es que esto te debes de buscar, primero si lo necesitas, si tu proveedor de inteligencia artificial te lo puede dar.

Y segundo, ¿qué es lo que estás buscando? Porque también existen proveedores de bases de datos vectorizadas que sean de open source, que sean gratuitas, que sean más escalables, etcétera. Aquí es.

Básicamente a que se acomode tu implementador o tu desarrollador en in house si lo tienes y con base en ello y trabajando también. Bueno, quieres agregar algo, ¿Luis? Estoy, estoy soltando.

Bájale. No, sí, estoy viendo que la inspiración ha llegado a ti. Este sí, bueno, ahí, por ejemplo, una alternativa painkoines, el la propia plataforma de chat gpt.

Si ustedes este pues pueden, se tienen o se dan la oportunidad de leer la documentación de open ahí en cuanto al apartado de embeddings. Los vector stores. De todo ese apartado de cómo se almacena la información, pues podrán resolver las mejores maneras y las más eficiencia e eficientes, no solo en velocidad, en respuesta, en certeza, sino también en costo.

Porque, bueno, por ejemplo, open ahí tiene su propia plataforma o su propio servicio de embedding. Que, bueno, también lo puedes hacer. Puedes hacer incluso embeddings desde desde la API.

Podrías conectar pine cone con open ahí a través de los servicios de API. Depende de qué es lo que estén necesitando. Y, por ejemplo, ahí en qué casos necesitaríamos, por ejemplo, ¿hacer un embedding?

Cuando se trata de datos muy grandes, ¿no? Porque tenemos dos entradas. Y aquí viene la pregunta del millón.

¿Por qué necesito hacer vectorización? ¿Por qué necesito hacer prompt engineering? O sea, ¿son las mismas cosas?

Este se separa, ¿no se separa? O sea, ¿es lo mismo? Porque, por ejemplo, si yo utilizo ChatGPT, pues yo no más tengo un solo campo para ponerle, envía un mensaje a GPT.

Y listo, ya no tengo de otra manera. Pero le puedo subir archivos. Y entonces esa subida de archivo o esa conexión con algún servicio, pues ya no es el prompt.

Entonces hay que entender un poquito más como esta separación, ¿no? Una cosa es la vectorización de información, y otra cosa es el prompt que yo le doy al motor de inteligencia. Y ahí es donde puedo estar combinando las fuentes de información.

Y pues depende, ¿no? También cómo le hago esas actualizaciones de información. Recuerden, y bueno, aquí viene otro tema también.

Se va a poner sabroso, porque después viene, si quieres que las interacciones participen en el entrenamiento o lo quieres dejar fuera, tanto Google como OpenAI tienen esa opción de encender o apagar el entrenamiento. No estoy seguro si Anthropic lo tiene. Perplexity también lo tiene.

Ahí vienen como diferentes variables que tenemos que estar revisando. En pocas palabras es, yo te doy tu libro de... No sé, tu libro de educación.

De estos, este, tu libro gratuito, ¿no? Te doy tu Atlas haciendo referencias a los noventas. Te doy tu Atlas que no cabe en la mochila.

Entonces lo tengo que ver autorizar para que quepa. Y después viene el como y que te voy a preguntar sobre ese, sobre ese libro. Son, son dos partes.

Y de qué manera te lo puedo estar preguntando. Y de ahí ya podemos sacar tendencias de cuál sería la pregunta más probable que me vas a hacer. Y, en fin, viene, vienen otras cosas, ¿no?

Pero creo que es importante también que puedan explorar esa parte del dashboard de Open AI para que puedan ver esas opciones que hay para hacer el embedding, para vectorizar, para cortar la información, para reciclar la información, para hay un chingo de opciones, básicamente, o sea, pero pues llámenme loco, pero se resuelve leyendo. Ahí está la documentación.

Ahora, final. Costos de este tipo de proveedores de base de datos. El más comercial, que es Pinecone.

Ah, está uno desde gratis, desde que es gratis, gratuito desde cero. Y conforme a como es un servicio de software as a service, de espacio cloud, básicamente vamos a ir subiendo conforme el. El número de.

Gigabytes o despacio es que van se van requiriendo, ¿verdad? Pero. Podemos empezar desde.

Desde cero, que son dos gigabytes que te incluye Pinecone. Lo que sí es que compartirles a la audiencia es muy técnico. Esto sí es, si es si es bastante avanzado usar base de datos de terceros vectorizadas, si hay que tener un nivel de especializado tanto en inteligencia artificial como en vectorización, como en enverins para poder hacer un realmente uso de esta tecnología.

A un muy alto nivel de fe, yo diría, porque de repente llega un momento en que ya no hay manera de. O sea, cuando se hace el embedding. Pues ya se tradujo y no hay manera.

Y cuando se trata, si lo regresamos a traduce Ivan ACuña, CYFSA digital punto com no es anuncio, pero si es anuncio. Y cuando hago esta vectorización de estos dos campos. Me va a dar un 0 1 0 1 0 1 0 1 0 0 0 0 0 0 0.

O sea, entiéndase de esta manera que es la lógica de lo que de lo que sucede. Ahora, ¿cómo regreso esta información? Si yo no soy una inteligencia artificial para leerlo, eso es como lo que nos está diciendo Luis.

Cuando se hace la vectorización de la información, entiéndase que sí te va a arrojar distintos tipos de coordenadas de números 0 y 1. En realidad así funciona. ¿Cómo lo traduzco?

¿Cómo lo hago que le entienda? Entenderlo yo, saber que está. Está siendo correctamente la ingesta de esta información.

Pues no queda más que testing.

Preguntando o cipsa digital punto com y echenos un mensaje y ya ahorrense esos pasos. Esa sería la otra alternativa. Porque sí, sí, se vuelve de repente un tanto cuanto complejo.

Recuerdo que cuando ingresamos a estudiar estos temas, pues hasta el tema propio de la vectorización, porque decía la configuración, no sé, pain count, te decía, ¿cuántos vectores necesitas? Ah, pues OpenAI utiliza 1,456 vectores. Inicialmente, pero pues de ahí dices, ¿cómo chingados es el grafito?

O sea, ¿cómo imaginas 1,456 vectores? Porque pues no estamos hablando de una dimensión física. No es x, y, z, y el movimiento, ¿no?

Es es una cosa diferente, pero bueno, un punto a resaltar de dejando un poco el ver y todo el desmadre de técnico, pues creo que algo muy positivo es que, por ejemplo, tanto open ahí como Claus como Gemini hacen estos embeddings que son procesos irreversibles de traducción de información o de conversión de información. Al ser irreversible, entonces se vuelve, se puede aplicar como un control de seguridad de información. Si hacemos que ese proceso además tenga algo que se llama chong, que no es otra cosa más que dar split cortes, hacer dar cuchillazos a la información para que se divida.

Entonces estás cumpliendo con otro control de seguridad de información. Y a su vez, pues todo esto tiene servicios de credenciales, tiene autenticación. Entonces una de las grandes ventajas de hacer embedding de la información y no dejarlo en el nivel de prompt es que estás garantizando que la información pues tiene un nivel de seguridad bastante, bastante elevado para lo que es el aspecto de la integridad de la información y de la confidencialidad de la información, de la accesibilidad, no, porque se puede caer, ¿no?

Y al menos, por ejemplo, de los servicios que nosotros usamos, lo que va de los últimos 12 meses, sólo hemos tenido unas nueve horas, diez horas de interrupción de por parte de Open AI, pero pues porque fue el día que disfrutamos de el lanzamiento de Zora, que todo mundo estábamos ahí tratando de crear videos que a ver Bob Esponja hablando con Homero Simpson y de todo, sacándole el mayor provecho a la tecnología como Jedi. Y andarle este y se cayeron los servidores, porque hay demasiada la demanda, porque aparte son creaciones de formaciones de gráficos en movimiento. Entonces sí, sí, se cayó el servicio, pero de ahí en fuera.

Esto nos permite garantizar, por ejemplo, en las integraciones que nosotros hacemos, pues que tenemos prácticamente blindada el aspecto de la comunicación de las bases de datos, porque no son las bases de datos que nos manda el cliente. Son bases de datos vectorizadas, tasajeadas y en chingos de numeritos. Y con ello garantizamos la seguridad.

O sea, es también un proceso de seguridad el que se puede hacer con esto.

Ah, lo tienen. Allá nada más me faltó. Por último, el plan de Pinecone, que es el más comercial de todos, está en el gratuito starter.

Incluye solamente dos gigabytes y el estándar y una sola base, creo.

Correcto. Y el estándar está en punto 33 el gigabyte por mes.

Centavos de dólar.

Ah, falta otro concepto que sean los index, los índices dentro de dos vectores para poder localizar. Como ves, es como un, entiendes, es una tabla, super tabla. Pero llevado a un campo como matemático gráfico.

De eso.

Sí, creo que me amé con esa.

Tú fúmale aquí, fúmale aquí e imagina lo siguiente. Dice.

Está vivo y muerto el gato a la vez. Algo así de sencillo son los vectorizaciones.

Bueno, esa.

Si lo que quieren es no tener que tratar todo este tipo de asuntos, meterse en estos pedos, datos, conceptos de vectorización y quieren que ya esté funcionando su propia inteligencia artificial a su negocio, a sus clientes, a sus usuarios. Contáctenos en cipsa digital punto com. Ahí tienen todos los servicios disponibles a la mano.

No es más que mandarle un mensajillo y nos pondremos en contacto con ustedes. Algo más de este tema, ¿señor Luis?

No, pues nada más que. Pues sí, ahórrense ese desman, porque eso es parte del entrenamiento. Ya hay mucho avance en ese sentido.

Ya no estamos en el en la época donde mi plan de mi plan de trabajo, la mitad era de entrenamiento, porque ya no es tan necesario más que para algunos casos muy específicos. Y pues sí, ahórrense esa parte y no se metan en cosas técnicas, aunque está ahí la información, es más fácil acercarse a alguno de los proveedores como nosotros, que pueden integrar soluciones y a en sus desarrollos o hacerle sus desarrollos ya con ia integrada ya nomás. Ustedes asegúrense de que sus usuarios, sus usuarios sepan sus credenciales y su contraseña.

Y eso es todo lo que les va a preocupar.

Y ya al final es cuánto cuesta el valor de la ia. Más bien, cuántas horas hombre en productividad estás dispuesto a ganar o a sacrificar al no tenerlo, ¿verdad? Porque esta revolución, esta revolución vino para quedarse y ser cada vez más fuerte dentro de las empresas, dentro de los negocios.

sibsadigital.com están siempre disponibles en nuestros canales de contacto para poder platicar más de las soluciones a la medida. Muchas gracias a todos. Nos vemos en un próximo episodio de esto que es inteligencia artificial para los negocios.

Hasta luego.

Cuídense.