夏朝和商朝是沒(méi)有將軍一職的，在西周時(shí)期，掌管軍事的官職叫司馬。那時(shí)，軍隊(duì)的數(shù)量并不多，天子只有六軍，諸侯最多不超過(guò)三軍。

到了春秋時(shí)期，各諸侯為了擴(kuò)大勢(shì)力范圍，不斷增加兵力，因此，大國(guó)諸侯常常擁有三軍以上的兵力，在編制上卻只有三軍，只設(shè)三卿，于是，便把擴(kuò)充軍隊(duì)的統(tǒng)帥稱作“將軍”，為將領(lǐng)一軍的意思。隨著軍隊(duì)的數(shù)量越來(lái)越多，將軍也越來(lái)越多。由于作戰(zhàn)時(shí)軍隊(duì)須由一人統(tǒng)率，因此，在將軍中又選拔出“大將軍”或“上將軍”來(lái)全盤指揮。

漢朝以后，由于兵種增多，又有了驃騎將軍、車騎將軍、衛(wèi)將軍等名號(hào)。