大同自古为军事重镇和战略重地，是兵家必争之地。曾发生上千次大小战事。大同境东的马铺山是汉代刘邦与匈奴奋战七昼夜的战场；金沙滩 (属于山西朔州市界)是杨家将血战的疆场。大同在历史上一直是中国北方比较有影响力的大城市之一，素有“三代京华，两朝重镇”之称。 春秋为北方少数游牧民族居住地。
战国赵武灵王初设平城，隶属代郡 秦大同东西分属雁门郡和代郡，并在境内修筑长城。 西汉沿袭秦制，雁门郡属并州，代郡属幽州。白登之围发生于此。 东汉汉明帝时，通光寺建成，大同最早的佛教寺庙。 三国大同为乌桓、鲜卑等部族占据 两晋大同北部为鲜卑族领地。建兴元年(313)拓跋猗卢定盛乐(今内蒙古和林格尔县北)为北都，修秦汉故平城为南都，平城复还故治，属代国。此为大同建都之始，后历经北魏代京，辽，金，元西京，大同共426年建都史。此为大同建都之始，后历经北魏代京，辽，金，元西京，大同共426年建都史。 北魏初期建都于此，称“代京”、“平城”。北魏在平城建都长达97年，历经六帝七世，平城一直是我国北方政治、经济、文化的中心。 唐为云州 五代时作为燕云十六州的一部分割让与辽 辽代，辽在此设西京大同府，为辽国陪都。 金也在此设西京大同府，为金国陪都。辽金时陪都西京再度兴盛于北方，成为中原与北方少数民族交往的中转站，联系各民族的纽带，大同再度辉煌。 元代元初大同仍称西京。改为大同路。 明改路为府，隶属山西布政使司。管辖浑源，应，朔，蔚等四州七县。明朝时大同为十三重镇之一，有藩王封地，并驻重兵，最多时有13.6万人，战马5万多匹，当时有“大同士马甲天下”之说。 清为大同府治。
1949年中华人民共和国成立后划归察哈尔省，并由由大同城区设立大同市， 1953年察哈尔省撤销，大同重新划归山西省 1958年大同县并入 1964年大同县又分出，为地级市。 1993年7月雁北行署撤销，原有县中的7县划归大同市。