Charlas: Personalizando LLMs: Guía para “Fine-Tuning” local de modelos Open Source en Español

Friday - May 17th, 2024 12:30 p.m.-1 p.m. in Room 310/311

Presented by:

Description

En el mundo actual, los modelos de lenguaje grandes (LLM, en inglés) están revolucionando cómo interactuamos con la tecnología, permitiendo tener conversaciones, organizar datos, redactar textos, y otras actividades con mínimo esfuerzo humano.

Es probable que al usar algún LLM hayas recibido respuestas incorrectas ¿a qué se debe eso? Durante el entrenamiento de estos modelos, suelen ingerir grandes cantidades de texto sin etiquetar de fuentes como libros, páginas web, foros, los cuales desarrollan un gran entendimiento de conocimiento pero carecen de conocimientos específicos. Por este motivo ajustar modelos (“Fine-Tuning”, en inglés) que han sido pre-entrenados con este gran corpus de datos es crucial para: (1) obtener mejor rendimiento en la calidad de respuestas, y (2) ajustar el modelo a un dominio específico al proporcionar textos específicos para que puedan especializarse.

Entonces, ¿Por qué es necesario entender el “Fine-Tuning” en modelos locales? Dentro de los diversos motivos, uno de los más relevantes es la privacidad de datos. Puesto que al hacer el proceso de “Fine-Tuning” localmente se puede enseñar al modelo datos que son privados, como datos personales, datos clínicos, información confidencial de empresas, etc.

En esta charla, los asistentes aprenderán paso a paso cómo modelos LLM Open Source, como Mixtral-8x7B o Mistral-7B (multilingual), son buenas opciones para aprender a realizar “Fine-Tuning” (especialmente LORA, por su siglas en inglés: LOw Rank Adaptation) y especializarse para el dominio en su propio ordenador. Además, se compartirá el rol de Python del proceso, la aplicación de módulos externos para tener una implementación simple, para realizar “Fine-Tuning” de LLMs.

Conocimientos generales de Data Science son recomendables para seguir la temática con facilidad, aunque se explicará de manera simplificada y yendo por todos los pasos para entender cómo se realiza “Fine-Tuning”. Outline añadido en la sección Notes.