EP214: Chatbots con tiempos de respuesta > 30 segundos
En este episodio, Alain Menchaca y Oscar Ramirez abordan los retos que surgen al utilizar chatbots y modelos de lenguaje de gran tamaño (LLMs) en AWS. Discuten cómo cuando las respuestas de los chatbots tardan más de 30 segundos, pueden afectar la experiencia final de los usuarios. Los arquitectos comparten recomendaciones para mejorar la interacción con los chatbots en estos casos, con el objetivo de optimizar la experiencia del usuario final.