IA segura: instalar y ejecutar LLMs de forma local

El objetivo de este curso es introducir el ámbito de la inteligencia artificial segura dentro de las organizaciones, proporcionando al finalizar una visión práctica sobre cómo desplegar y utilizar modelos de lenguaje (LLM), tanto abiertos como privados, en entornos locales, así como interactuar con datos propios a partir de formatos estándar. Además, se abordarán las normativas vigentes, con especial atención al marco regulatorio definido por la AI Act de la Unión Europea. El curso está dirigido a profesionales interesados en la regulación y gestión de la IA segura, incluyendo perfiles técnicos, responsables tecnológicos, formadores y educadores que deseen iniciarse en esta materia. Debido a los requisitos de procesamiento y al tiempo necesario para la configuración de los sistemas propuestos, se recomienda disponer de un ordenador portátil de alto rendimiento durante la sesión para aprovechar al máximo las herramientas presentadas. En cuanto al contenido, se estudiarán herramientas open source para la ejecución de LLM en entornos locales, junto con los requisitos técnicos necesarios para su implementación, incluyendo la instalación privada en equipos propios mediante modelos de código abierto, la configuración de chatbots y sistemas de gestión sin conexión a Internet, la organización de carpetas de datos, la conexión con bases de datos y las técnicas para interactuar de forma segura y privada con información en formatos estándar. En el ámbito normativo, se analizará la AI Act, abordando aspectos clave como la privacidad de los datos, la clasificación de los sistemas de IA según su nivel de riesgo, las obligaciones de cumplimiento y el régimen sancionador, así como una comparación entre las ventajas y limitaciones de los LLM en la nube frente a su despliegue en entornos locales.