Le ministère des Armées dirigeant l'Armée française trouve son origine dans le « ministère de la Guerre », lui-même issu des services du « secrétariat d'État de la Guerre » de l'Ancien Régime. Il existait également un « ministère de la Marine », héritier du « secrétariat d'État de la Marine » et souvent lié au ministère des Colonies. À partir de 1915, il est créé un sous-secrétariat d'État à l'aéronautique militaire, dont le titre évolue et dont les attributions s'étendent à l'aéronautique civile, et qui devient en 1928 le ministère de l'Air.

En 1948, le « ministère de la Guerre », le « ministère de la Marine » et le « ministère de l'Air » sont regroupés au sein d'un « ministère de la Défense nationale » (parfois intitulé « ministère de la Défense et des Forces armées »), qui, dans certains gouvernements, est assisté de secrétaires d’État chargés respectivement de la Guerre, de la Marine et de l'Air. En 1958, ces secrétariats d'État disparaissent et le ministère prend le nom de « ministère des Armées » au début de la Cinquième République. Il redevient « ministère de la Défense nationale » en juin 1969 sous le ministère de Michel Debré, mais reprend l'appellation de « ministère des Armées » dans le gouvernement suivant. Ce n'est qu'à partir de mai 1974 avec le ministre Jacques Soufflet que le ministère prend son nom de « ministre de la Défense ». En 2017, le ministère reprend le nom « ministère des Armées » sous le gouvernement Édouard Philippe.

En 2009, « la gendarmerie nationale est placée sous l'autorité du ministre de l'Intérieur » pour ses missions civiles tout en restant sous celle du ministre de la défense pour l'exercice de ses missions militaires.