La tarea de resolver un problema analítico queda siempre inconclusa. Demostrar la existencia y algunas propiedades básicas de la solución se considera por lo general satisfactorio, pero quedan siempre importantes preguntas por responder. Así, cuando la solución es definida mediante un proceso de límite, usando una integral, por ejemplo, surge el problema de encontrar realmente aproximaciones numéricas a este límite y de estimar la exactitud de estas aproximaciones. Tales cuestiones no sólo son de importancia básica desde el punto de vista teórico, sino que también invitables cuando se desea aplicar el análisis a la descipción y al control de los fenómenos naturales, los cuales pueden describirse en principio sólo de manera aproximada.
Se plantea así el difícil problema de llevar la solución al punto en que puedan obtenerse respuestas numéricas y estimaciones de exactitud.
Recientemente con el avance de la computadoras, los aspectos teóricos y prácticos del análisis numérico han recibido un gran impulso. Estos aspectos son presentados en la literatura. Durante siglos, sin embargo, muchos de los matemáticos más notables, como Newton, Euler y, en particular Gauss, han aportado grandes contribuciones a los métodos numéricos.