Ciencias de la Computación (plan 2013) 2023-2

Optativas, Seminario de Ciencias de la Computación A

Enlace: https://cuaieed-unam.zoom.us/j/6688158241?pwd=bmdBUTl5b3VKR3hhRG5pdWpLL1NRUT09

Seminario de Ciencias de la Computación A

NEURONAS Y REDES NEURONALES: MODELOS Y APLICACIONES A LA CIENCIA DE DATOS

Objetivos

1. MODELOS Y ARQUITECTURAS. Analizar modelos y analogías electrónicas de neuronas y redes neuronales que son útiles en inteligencia artificial: se partirá del modelo biológico de Hodgkin-Huxley, para sentar las bases para los modelos electrónicos de FitzHugh-Nagumo, neuronas con osciladores controlados por voltaje, modelos de integración y disparo (spiking neurons) y modelos de McCulloch y Pitts. Se analizarán tres arquitecturas básicas de redes neuronales: Redes de Kohonen, perceptrones multicapa y redes convolucionales.

2. APRENDIZAJE. Mostrar métodos de entrenamiento de redes neuronales, tanto supervisado como no supervisado. Se revisarán: El método de retropropagación y diferentes métricas y algoritmos para el entrenamiento de redes SOM (Self Organizing Maps). Se discutirá el problema de sobre-entrenamiento (over fitting) y se dará acceso al sistema de software LabSOM, desarrollado en nuestro laboratorio, para hacer análisis y visualizaciones con la red neuronal SOM; se introducirá a los alumnos al uso de los sistemas de software Somoclu y Keras usando el lenguaje de programación Python y Notebooks en Google Collaboratory.

APLICACIONES. Ilustrar la utilidad de las redes neuronales en varios dominios de aplicación de la Ciencia de Datos. Solución heurística de problemas NP (e.g. Scheduling) y minería de: trayectorias escolares en la UNAM, análisis de datos del Ranking de Universidades, experimentos de Física Nuclear, bases de patentes (United States Patent and Trade Mark Office), artículos de investigación científica (Ciencia de la Ciencia en las bases de datos de Scopus y Web of Science) y datos sísmicos de yacimientos petroleros.

Formato del Curso

Si los alumnos están de acuerdo, las clases serán grabadas. Se pondrán a disposición y podrán ser consultadas en cualquier momento. La mayor parte de las clases se impartirán sincrónicamente.

Los alumnos serán invitados a desarrollar un proyecto y exponer al grupo sus avances.

Evaluación: Tareas y prácticas de Laboratorio (30%), exposiciones (20%), desarrollo de un proyecto (50%).

Especialistas Invitados

Se invitará a especialistas para que impartirán conferencias en su área de especialidad. Algunas de de los académicos considerados para este semestre son:

Dra. Úrsula X. Iturraran. Facultad de Ciencias.UNAM

Dra. Ibis Lozano Díaz. Centro de Ciencias de la Complejidad, UNAM

Dra. Yohannis Martí Laera, Universidad de la Habana, Cuba

Dr. Nicandro Cruz Ramírez. Centro de Investigación en Inteligencia Artificial, Universidad Veracruzana

Dr. Javier García García. Centro de Ciencias de la Complejidad, UNAM

Dr. Jaime Vega Castro. Instituto Nacional de investigaciones Nucleares

Dr. Ricardo Arencibia Jorge. Centro de Ciencias de la Complejidad, UNAM

Dr. Carlos Ordoñez. Data Science Lab, Houston University, USA.

Dr. Elio V. Atenógenes García. Director del Laboratorio de Ciencia de Datos en el Instituto Nacional de Estadística y Geografía (INEGI)

M. en C. Fernando Tapia Salinas. Doctorado en Ciencia de Datos, INFOTEC. Exdirector de Tecnologías de la Información en TELCEL.

Software

Somoclu. Somoclu is a massively parallel implementation of self-organizing maps.https://github.com/peterwittek/somoclu

Keras.Keras is a high-level neural networks API, written in Python and capable of running on top of TensorFlow, CNTK, or Theano.

LabSOM. Herramienta computacional para el estudio del SOM, Facultad de Ciencias UNAM.. https://github.com/ldnl-unam/labsom

Bibliografía

Dashun Wang, Albert-László Barabási. The Science of Science. Cambridge University Press. February 2021. Online ISBN:9781108610834. DOI: https://doi.org/10.1017/9781108610834.

Michael Nielsen. Neural Networks and Deep Learning. http://neuralnetworksanddeeplearning.com/ 2019.

Ian Goodfellow and Yoshua Bengio and Aaron Courville. Deep Learning. MIT Press, 2016. http://www.deeplearningbook.org/

Raul Rojas. Neural Networks - A Systematic Introduction. Springer-Verlag, Berlin, New-York, 1996. https://page.mi.fu-berlin.de/rojas/neural/

Tom M. Mitchell. Machine Learning. McGraw-Hill. 1ra. Edición 1997. Nils. J. Nilsson. Artificial Intelligence: A new synthesis. Morgan Kaufmann Publishers, Inc. San Francisco California. 1998.

Kohonen T., Self-Organizing Maps, 3ra Edición, Springer-Verlag, 2001.

Wulfram Gerstner, Werner M. Kistler, Richard Naud and Liam Paninski. Neuronal Dynamics. Cambridge University Press. https://neuronaldynamics.epfl.ch/online/index.html

Izhikevich, Eugene M. Dynamical systems in neuroscience. MIT press, 2007.

José Luis Jiménez-Andrade, Yohannis Martí-Laera y Humberto Carrillo-Calvet. Neural longitudinal mapping of Latin American universities performance profiles. Enviado al Journal of Informetrics.

Ruiz-Coronel, A., Jiménez-Andrade, J. L., & Carrillo-Calvet, H. (2020). National Cancer Institute`s scientific production scientometric analysis. Gaceta Médica de México, 156(1), 4–10. https://doi.org/10.24875/GMM.M19000315

Vega-Castro, J., Carrillo-Calvet, H., Jiménez-Andrade, J.L. (2020). Regularization methods vs large training sets Regularization methods vs large training sets. Proceedings of Science, 1–13. DOI: 10.22323/1.372.0028.

Villaseñor, E.A., Arencibia-Jorge, R. & Carrillo-Calvet, H. Multiparametric characterization of scientometric performance profiles assisted by neural networks: a study of Mexican higher education institutions, Scientometrics (2017) 110: 77.

Self-organizing maps with cokriging porosity applied to sand-shale reservoirs using seismic. J. O. Parra, U. Iturrarán, J. S. Parra, J.L., Jiménez, and, H., Carrillo, 2015. EG, Expanded Abstract, http://dx.doi.org/10.1190/segama2015-5837952.1. páginas: 946-1950.0 SEG Technical Program Expanded Abstracts 2015, SEGEAB Editors: Robert Vincent Schneider. ISSN (online): Pages: 5634. Publisher: Society of Exploration Geophysicists. 2015.

Guzmán, MV.; Carrillo, H., Jiménez, J.L.; Villaseñor, E. Bioinformetric studies in TB vaccines researches. Chapter 22, The Art and Science of Tuberculosis Vaccines Development, Oxford University Press, primera edición: 2010, Segunda edición 2014. ISBN 978 983 45088 6. http://tbvaccines.usm.my/finlay/?q=content/chapter-34-bioinformetric-studies-tb-vaccine-research

H. Carrillo, Frank C. Hoppensteadt. Unfolding an Electronic Integrate-and-Fire Circuit. Biological Cybernetics. Volume 102, Number 1 / January, 2010.

Carrillo, H., Mendoza, M., & Ongay, F. (2004). Integrate-and-fire neurons and circle maps. WSEAS Trans Biol Biomed, 1(2), 287-293.

C. Barriga y F. Ongay, H Carrillo. El Modelo de FitzHugh-Nagumo para el Potencial Eléctrico de una Neurona, Aportaciones Matemáticas, Ed. Sociedad Matemática Mexicana, Serie de Comunicaciones 32 (2003) 31- 49.

J. J. Vega, R. Reynoso and H. Carrillo. Effect of signal noise on the learning capability of an artificial neural network, Nuclear Instruments and Methods A (2009), doi:10.1016/j.nima.2009.04.021.

J. J. Vega, R. Reynoso, H. Carrillo Calvet, Learning limits of an artificial neural network. Revista Mexicana de Física, 54 (1) 22–29. Febrero 2008.

Millán V., Atenógenes E., Martínez de la Escalera N., Carrillo H., Informetrical Visualization of Gender Differences in College Performance: an application of ViBlioSOM. Número especial de la revista canadiense, Resources in Feminist Research, dedicado a la educación en México. 2008