La historia de la colección mineralógica se remonta a 1831, con la adquisición, por parte de la Dirección General de Minas, a la Real Academia de Freiberg (Sajonia - Alemania), de 309 ejemplares "Ilustrativos de los caracteres externos de los minerales" como se describen en aquel entonces.

Entre 1831 y 1850 se adquieren, siempre con cargo a la Dirección General de Minas, diversas colecciones, entre las que cabe destacar la de don Ciriaco González Carvajal, Vice-Decano de la Real Audiencia e México (1834), la de don Fausto Fermín De Elhuyar, Director General de Minas y descubridor del wolframio (1835), así como la del Dr. Roatzsch, mineralogista de Freiberg (1841).

En 1850, la totalidad de los ejemplares el Museo, adquiridos por la Dirección General de Minas, era de 4.228 minerales, en gran parte procedentes de minas históricas europeas (Sajonia, Bohemia, Francia, Cornualles) o americanas (Potosí, Guanajuato, Zacatecas, Perú, etc.).

Otras colecciones, también muy importantes, estas ya posteriores a 1850, fueron las de don Felipe Naranjo y Garza, Director de la Escuela, la de don Policarpo Cía, en 1863, la de la Societé de la Nouvelle Montagne, que regaló 78 ejemplares en 1872, la de la Comisión Española en Filadelfia, en las mismas fechas, entre otras.

La Inspección General de Minas de Filipinas remitió a la Escuela 236 ejemplares, en virtud del decreto del Excmo. Sr. Gobernador General de aquellas islas del 8 de julio de 1897.

Otras dos importantes colecciones, adquiridas, respectivamente, en 1887 y 1923, son las de don Amallo Gil y Maestre y don Adolfo Prieto. 

En un principio las colecciones son ordenadas según la normativa de LAPPARENT, cuyo tratado de Mineralogía era a la sazón texto en la Escuela. La labor se realizó por don Luis Ferrat y don Antonio Baselga, profesores de la misma.

Sin duda la donación más importante, y la que mejor se conserva, es la del Marqués de la Ribera, que regaló al Museo los 2.841 ejemplares de la colección del Marqués de Elduayen. Esta colección fue catalogada en 1927, y recientemente (mayo de 1990), completamente revisada, reordenada y exhibida en parte. Por el donante se impuso la condición de que sus minerales deberían exponerse agrupados, con independencia de los del resto del Museo, y expresando su procedencia. La colección del Marqués de Elduayen, en su gran mayoría constituida por ejemplares cristalizados de pequeño tamaño, está ordenada según los criterios de PHILLIPS, aunque en algunos puntos se siguen las ideas de DANA.