Das Wort stammt von Althochdeutsch marahscalc, zusammengesetzt aus marah, „Pferd, Mähre“ und scalc „Knecht, Diener“. Es bezeichnet ursprünglich den „Roßknecht“. Mit dem Titel seines Herrn steigt – wie auch bei Mundschenk „Tafeldiener“, Kämmerer „Kammerdiener“ – auch seine Bedeutung, zu „Stallmeister“ (Marstaller) und später zu allgemeiner Bedeutung im Sinne „Kommandeur der Reiterei“.
Der Reichserbmarschall war zuständig für das Tragen des Reichsschwertes am Königshof. Johann Wolfgang Goethe, der am 3. April 1764 Augenzeuge der Krönung Josephs II. zum römisch-deutschen König in Frankfurt war, erwähnt dazu:
„Vor allen schwang sich […] der schöne schlanke Erbmarschall auf sein Roß; er hatte das Schwert abgelegt, in seiner Rechten hielt er ein silbernes gehenkeltes Gefäß, und ein Streichblech in der Linken, so ritt er in den Schranken auf den großen Haferhaufen zu, sprengte hinein, schöpfte das Gefäß übervoll, strich es ab und trug es mit großem Anstande wieder zurück. Der kaiserliche Marstall war nunmehr versorgt.“