La creazione di un sistema archivistico nazionale e di un servizio di archivi in ciascun capoluogo furono sancite dalle leggi del 7 messidoro dell'anno II (25 giugno 1794) e del 5 brumaio dell'anno V (26 ottobre 1796). In Mosella, i primi spazi destinati alla documentazione furono ricavati all'interno del corpo centrale dell'Hôtel de Gouvernement; successivamente, nel 1806, gli archivi del dipartimento furono collocati presso la Prefettura nella sede dell'Hôtel de l'Intendance, mentre solo nel 1881, per esigenze di spazio, fu costruito un edificio autonomo, demolito e sostituito da una sede più ampia e funzionale negli anni 1886-1900. Tra la Prima e la Seconda guerra mondiale i fondi subirono diversi spostamenti (Leipzig nel 1918, Metz, Heidelberg e Spire nel 1944) e furono nuovamente riuniti solo dopo il 1945. Nel 1991 gli archivi sono stati trasferiti nella nuova sede di 10.000 mq. alla periferia Saint-Julien-lès-Metz, capoluogo della regione.