Productos con IA

Noticias de la semana

• Doomers contra aceleracionistas. De un lado, Dario Amodei y varios CEOs de empresas de IA pidiéndole al Estado que los regule, porque autorregularse solos es regalarle la delantera al que no lo haga. Del otro, Jensen Huang diciendo que esto no es un problema de política sino de ingeniería, y Trump sin ganas de frenar nada mientras China siga corriendo.
• TypeSafe AI. En vez de contestarte una categoría, te devuelve la probabilidad de cada una y la decisión queda de tu lado: si la más alta no llega al umbral que vos elegiste, la mandás a "otros" y sabés que ahí hay algo para arreglar. Está en early access por lista de espera y el acceso llegó en pocos días.
• Gemini hackeó tres empresas. Otro capture the flag que se fue de la caja, igual que el de OpenAI del episodio pasado. La diferencia es que este, una vez adentro, se dio cuenta de lo que estaba haciendo y soltó.

El tema del día: IA adentro de un producto

Hasta acá veníamos hablando de IA para escribir código. Esta vez contamos la otra mitad: una feature que armamos juntos en una empresa de reclutamiento, donde la IA era el producto y la usaba el cliente.

El problema. El cliente abría posiciones parecidas todo el tiempo y le faltaban candidatos. Tenía una base enorme de gente que había aplicado antes, pero llegar a esa base costaba más que volver a publicar el aviso.

Cómo funcionaba una llamada al modelo. Un prompt con las instrucciones, el input, la temperatura, que es cuánta rienda suelta le das, y una estructura de salida fija. Antes le pedías un JSON en el prompt y te contestaba "acá va el JSON" con el JSON adentro. Ahora la estructura te la garantiza el modelo.

Qué es un embedding. Un texto convertido en una lista de números que representa su significado, no sus palabras. Se genera una sola vez por cada cosa que querés indexar y queda guardado en una base de vectores. Después buscás por cercanía: yerba y pava eléctrica quedan cerca aunque no compartan una sola palabra.

Cómo lo armamos. Primero el preprocesamiento: un modelo extrae del CV los datos duros, como idiomas, certificaciones o ubicación, otro extrae lo que se dijo en la entrevista, y aparte se generan los embeddings de la parte blanda, el perfil y las experiencias. Después la búsqueda: la descripción del puesto se convierte en un objeto de requisitos y en un vector, se filtran los candidatos que no cumplen, se ordenan por similitud y se genera con otro prompt la explicación de por qué cada uno encaja.

Lo que se rompió en producción, que fue lo más interesante:

• Filtrar por la negativa. Si no sabés si alguien puede trabajar los lunes, no lo descartes. Descartá solo al que te confirmó que no. Guardar el "no puedo" es tan importante como guardar el "puedo".
• El punto de corte. Nadie sabe si la similitud suficiente es 70 u 82. Terminamos dejando que el cliente eligiera qué tan estricto quería ser, sabiendo que estricto es quedarse sin resultados.
• El candidato comodín. Un solo embedding con toda la experiencia de alguien queda en el medio del espacio y matchea con todo o con nada. Lo resolvimos con un embedding por tipo de experiencia.
• El ruido en el aviso. Si la descripción del puesto menciona que hay almuerzo en la oficina, el vector se va para el lado de los restaurantes. La solución fue pasar el texto antes por un modelo que se quede solo con los requisitos.
• El idioma. Los embeddings prometen funcionar entre idiomas, pero una palabra que en danés sirve para muchas cosas te ensucia el match.
• Las alucinaciones. El modelo te presenta a alguien como carpintero porque en algún lado decía que vendía sillones. Prompt más explícito y una segunda pasada que audite la primera.

Dos cosas quedaron dando vueltas al final. Casi todas las soluciones fueron decisiones de producto y no de arquitectura, porque la tecnología era siempre la misma. Y con un componente probabilístico en el medio, el monitoreo deja de ser burocracia: es la única forma de saber si estás pifiando.

El debate quedó para la próxima.

Música

Music track: Monday Routine by Aventure
Source: freetouse.com/music
No Copyright Vlog Music for Video