公元938年，占領(lǐng)北京的遼太宗將唐幽州城（今北京西南廣安門一帶）升為“南京”，又稱燕京。1012年（開泰元年）改稱南京析津府。街道分大街、小街、火巷、衖通四等。北京建都后的第一條胡同，是三廟街的胡同，位于現(xiàn)北京城內(nèi)西南角，長椿街國華商場的后面。這是900多年前遼代建立的，當時名為檀州街。這條街由于歷史上里共建有３座關(guān)帝廟，后得名三廟街胡同。

到元朝后，規(guī)定大街24步寬，36.96米；小街12步寬，18.5米。南方多用巷，有的胡同可隔火，稱“火巷”。元朝時有火巷384個，胡同129個。從元朝起有胡同稱呼，元雜曲關(guān)漢卿《單刀會》中有“殺出一條血胡同來”。元雜劇《沙門島張生煮海》中，張羽問梅香：“你家住哪里？”梅香說：“我家住磚塔兒胡同?！边^去北京有句老話：“大胡同三千六，小胡同賽牛毛。”元流傳下來有名字的只有磚塔兒胡同。

明清時北京街道，按大小排列是：大街、小街、巷、街、胡同。 明朝時火巷減少到內(nèi)城16個，外城11個，共27個。叫巷的很少，胡同是最多的。明朝的胡同內(nèi)城有900個，外城有300個。明朝人張爵在《京師五城坊巷胡同集》記載，明朝有街巷胡同1170條，稱胡同的約459條。 清內(nèi)城有1300條胡同。清朝朱一新《京師坊巷志稿》提街巷胡同2077條，稱胡同的978條。清代《京師坊巷志稿》統(tǒng)計，當時北京城有胡同2000多條。

民國時期，1931年出版的陳宗藩《燕都叢考》記載：北京共有2623條大街小巷，其中有959條胡同。1944年，日本人多田貞一《北京地名志》記載有3300條街巷胡同。北京解放時有胡同2623條。1951年復興輿地社印行的《北京街道地名錄》，北京有3216條街巷，其中有1039條胡同。六、七十年代有5000多個胡同，死胡同200個。1982年《古今北京》說北京城區(qū)的胡同約有4550多條。1986年《北京街巷名稱錄匯編》說北京有胡同6100條。2003年底，當時東城、西城、崇文、宣武四區(qū)就有胡同1928條。為什么叫胡同呢 ？有4種說法：

1、胡同是浩特的諧音： 蒙古語稱城鎮(zhèn)為“浩特”，比如呼和浩特、二連浩特。蒙古族人入主中原以后，就依照自己的習慣，將中原的城鎮(zhèn)、街巷等稱為“浩特”。后來，“浩特”一詞又被漢人訛讀成了“胡同”。

2、胡同是忽洞的諧音：蒙古語中表示“井”意的詞匯發(fā)音為“忽洞”。今天，內(nèi)蒙古自治區(qū)內(nèi)仍有許多地方以“井”命名，比如賽因忽洞、哈業(yè)忽洞。因為城鎮(zhèn)居民的生活離不開井，因此“井”逐漸成為人們居住地的代稱，“忽洞”也慢慢演變成了“胡同”。

3、胡同是霍通的諧音：最早來源于女真語。女真語把“聚族而居”表達為“霍通”、“火瞳”。在蒙古族人建立元朝以后，“霍通”一詞便流傳開來，并被漢族人譯成了“胡同”。

4、遼太宗升唐幽州城為南京后，街道分大街、小街、火巷、衖通四等，除街為全國通用外，火巷和衖通，都使用了南方街巷的用名?；鹣?，是南方普遍使用的街巷通名。衖通是吳語方言“弄”。古代巷、衖不分，都是巷字。南北朝（420-589年）時，出現(xiàn)了衖的南音“弄”?！芭钡墓抛肿鳌靶i”，吳音念“弄”。南方有雙音字叫法，里弄、弄唐、弄堂、衖堂、衖通。明《老乞大諺解》中，已使用“衚衕”二字，比《京師五城坊巷衚衕集》早77年?！独掀虼蟆烦鰰诟啕惓┢?，即中國的元末?！捌虼蟆敝钢袊缙趯懛ㄊ恰昂础?。巷、衖古字通，在我國漢代，“衖”與“巷”同音，都是東部字，念“虹”。漢以后，“巷”、“衖”的發(fā)音有所變化。唐代，“巷”已讀成和今天一樣的巷音，華北、東北，巷（衖）讀“虹”的古音卻被保留了下來。在遼《龍龕手鏡》里，按古音念巷為閎。《龍龕手鏡》“閎：巷也?！北本┳钤鐚M行介紹的是1560年(明嘉靖三十九年）張爵編《京師五城坊巷衚衕集》。明北京五城33坊。明代胡同寫“衚衕”，清末簡寫“胡同”。明清學者考證，“衚衕”是南方“弄”的音變。

民國后，北京對街道的稱呼基本上是大街、街、胡同、巷（很少），鄉(xiāng)村則是村、務、莊、營等，并增加了一些外地的街名，如里、緯路、經(jīng)路等，不過人們一聽就知使用的是外地街道的稱呼。