Física (plan 2002) 2022-2

Optativas, Temas Selectos de Física Computacional I

Temas Selectos de Física Computacional I

Machine Learning para Físicos

----------------------------------------------------------------------------------------------------------------

INFORMACIÓN: La primera reunión será el día martes 15 de febrero a las 8:30 am.

HORARIO: El curso se impartirá los días MARTES y JUEVES de 8:30 am a 10:00 am.

VIDEOS: Los videos de las clases estarán disponibles en el canal de YouTube: https://www.youtube.com/channel/UC1FueD_ikRX6mKTH3WQmS_Q

ZOOM Link: Este se enviará por email.

En este momento ya no es posible incorporarse a la lista de oyentes del curso, pero se puede seguir en el canal de YouTube del curso.

----------------------------------------------------------------------------------------------------------------

Este curso proporcionará los conocimientos básicos y las habilidades prácticas de machine learning (ML) que se necesitan para desarrollar actividades de investigación o para seguir una carrera en la industria.

El curso está dirigido a estudiantes interesados en obtener una introducción práctica de ML y su uso en las ciencias físicas. Por un lado, se obtendrán conocimientos introductorios que lo ayudarán a comprender conceptos fundamentales y técnicas avanzadas del ML, como redes neuronales y métodos de kernels, así como técnicas avanzadas de aprendizaje sin supervisión.

Por otro lado, se dará una visión física y matemática de como es que muchas de las herramientas de ML se relacionan directamente con objetos bien conocidos para los físicos, tales como lo son las funciones de Green, simetrías, y ecuaciones de movimiento.

A lo largo del curso, se verán, por ejemplo, aplicaciones de ML en aprendizaje de propiedades físicas y químicas de moléculas, clasificación de imágenes, resolución de la ecuación de Schrödinger usando redes neuronales, creación de campos de fuerzas para moléculas y materiales, entre otras.

Prerequisitos: Los estudiantes interesados en este curso deberán contar con una noción básica de programación en Python. Sería deseable que los alumnos tengan nociones de machine learning (por ejemplo, haber tomado el curso de “Inteligencia Artificial en la Física”), pero no es obligatorio. La parte introductoria del curso es bastante completa.

Durante las últimas semanas del curso, los estudiantes realizarán un proyecto en el cual se pondrán en práctica las técnicas aprendidas.

El curso consta de 30 clases durante el semestre, con un total de 45 horas.
Cada clase tiene una duración de 1:30 horas, incluyendo teoría, implementación y ejercicios.

Evaluación: Tareas 50%, proyecto final 40%, participación 10%

Temario

1. Introducción a Machine Learning
   1. Aprendizaje
      1. Aprendizaje estadístico
      2. Métricas de aprendizaje
      3. El problema del ajuste polinomial
      4. El problema de la dimensionalidad
      5. Teoría de decisión
      6. Teoría de la información
   2. Herramientas numéricas
      1. Python y notebooks (Jupyter and Google Colab)
      2. Diferenciación automática
      3. PyTorch y TensorFlow
      4. Keras
      5. JAX y Julia
   3. Regresión lineal
      1. El bias y la varianza
   4. Aprendizaje sin supervisión
      1. Clustering (k-means)
      2. Reducción de dimensionalidad
         1. PCA
         2. t-SNE
   5. Aplicaciones

2. Redes Neuronales
   1. Bases
      1. El diagrama de cálculo (the computational graph)
      2. Regresión logística
      3. La anatomía de una red neuronal
   2. Entrenando redes neuronales
      1. El espacio de parámetros
      2. Propagación inversa de error (Backpropagation)
      3. Gradiente descendente
      4. Gradiente descendente estocástico
   3. Regularización en redes neuronales
   4. Aspectos prácticos del entrenamiento
   5. Tipos de arquitecturas
      1. Redes neuronales completamente contactadas
      2. Convoluciones y ConvNets
      3. Autoencoders
      4. Redes neuronales recurrentes
         1. GRU
         2. LSTM
      5. Redes neuronales residuales
      6. Redes neuronales sobre grafos (GNN)
   6. Aplicaciones

3. Métodos de kernels
   1. Regresión lineal
   2. Regularización de Tikhonov (Ridge regression)
   3. Máquinas de vectores de soporte (SVM)
   4. Kernels
      1. El “truco” del kernel
      2. Kernel SVMs
      3. Regresión Kernel-ridge (KRR)
      4. Tipos de kernels
   5. Kernels como objetos físicos
      1. Funciones de Green
      2. Relación entre simetrías y KRR
      3. Operador de convolución
   6. Equivalencia entre métodos de kernels y redes neuronales
   7. Aplicaciones

4. Tópicos avanzados de Machine Learning (Generalidades)
   1. Modelos probabilísticos
      1. Máquinas de Boltzmann
      2. Modelos generativos (GANs)
      3. Autoencoders variacionales
   2. Capas explícitas en redes neuronales
      1. Ecuaciones diferenciales neuronales (NODE)
      2. Modelos de equilibrio profundo (DEM)
      3. Nodos equivariantes/covariantes
   3. Reducción de dimensionalidad
      1. Kernel PCA
      2. Aprendizaje de variedades (Manifold Learning)
   4. Machine Learning Cuántico (Quantum Machine Learning)

Bibliografía:

- “Pattern Classification” Duda et al. 2nd ed.

- “Pattern Recognition and Machine Learning”, Christopher M. Bishop

- “The Elements of Statistical Learning: Data Mining, Inference, and Prediction”, Trevor Hastie

- Literatura diversa, principalmente artículos de investigación y Reviews de los temas a discutir.