Sobre la charla
¿Qué pasa dentro de un modelo de lenguaje cuando procesa una palabra? Esta sesión explora las representaciones internas de los LLMs: cómo los embeddings evolucionan a medida que atraviesan las capas ocultas del modelo, y qué nos dice ese comportamiento sobre la forma en que las máquinas —y quizá nosotros mismos— comprendemos el idioma.
El tema forma parte del trabajo de tesis del ponente en el Posgrado en Ciencias Matemáticas de la Universidad de Sonora.
Temario
- Qué son los embeddings y por qué son la base de los modelos de lenguaje
- Anatomía de un LLM: capas ocultas y flujo de representaciones
- Análisis de la evolución de los embeddings capa por capa
- ¿Comprenden las máquinas como nosotros? Paralelismos con la cognición humana
Dirigido a
Estudiantes y entusiastas de la inteligencia artificial con interés en el funcionamiento interno de los modelos de lenguaje. Se recomienda tener nociones básicas de machine learning.