1921年7月，中共一大召開時，全國只有50多名黨員。人員少，事務少，所以中央只設了由3人組成的中央局，負責人稱為“書記”。

中共二大、三大時，稱呼有所改變。中共二大、三大，雖然選舉了中央執(zhí)行委員會，但中央機構仍是中央局，負責人則改稱“委員長”。到中共四大時，又改稱“總書記”。

1927年4月，中共五大召開時，中國共產黨已發(fā)展到有黨員5萬多人。中央機關僅有中央局已不足以有效地領導全黨。在五大上，第一次選舉了中央政治局委員、政治局常委、總書記，第一次將決策機關與負責日常工作的機關分為兩個機構。

1933年初，黨中央遷入江西蘇區(qū)。當時全國蘇區(qū)發(fā)展到十幾塊，紅軍達30萬人，黨員也達30萬人。僅設一個總書記已難以領導這樣一個大黨，中央書記處應運而生。書記處負責黨中央的日常工作。既然書記處不止一個人，那么，應有一個總負責人或總書記，遵義會議前是博古，遵義會議后是張聞天。1943年3月，中央機構調整，決定在兩次中央委員會之間，由中央政治局擔負領導整個黨的工作責任，有權決定一切重大問題，政治局選舉毛澤東為主席；書記處則成為根據政治局決定的方針處理日常工作的辦事機關，書記處由毛澤東、劉少奇、任弼時組成，毛澤東為主席，沒有用總書記這個稱謂。這是中共中央第一次用“主席”的稱謂。