三国吴永安三年(260),吴主孙休罢都尉,置建安郡,立昭武镇,后升为昭武县。西晋元康元年(291),惠帝司马衷为避其祖司马昭讳,改名邵武县。其时建安郡属江州管辖。东晋太宁元年(323),又改邵武县为昭阳县(一作武阳)。南朝刘宋永初元年(420),又改邵武县,仍属建安郡。隋开皇九年(589)。全国郡、县俱废,邵武改属泉州(即今福州)。开皇十二年(592),恢复邵武县,并将绥城县(今泰宁县)并入邵武。其时,邵武县属抚州。大业元年(605),抚州改为临川郡,邵武属临川郡。
唐武德四年(621),绥城从邵武分出,复立为县,邵武属建州。贞观元年(627)。建州归江南道管辖。后晋天福元年(936)。改邵武县为昭武县。后汉乾祐元年(948),改昭武县为邵武县。
宋太平兴国四年(979),邵武设军,县为军治,军属福建路辖。同年划邵武财演镇为光泽县。
元至元十三年(1276),改邵武军为邵武路,县为路治,路属福建道管辖。
明洪武元年(1368),改邵武路为邵武府,县为府治,府属福建布政使司管辖。清隶属关系不变。
民国2年(1913),废府存县,属福建省建安道。民国16年废道后直属福建省。民国23年,邵武属第九行政督察区。民国24年9月,属第三行政督察区。
1949年5月,邵武县属福建省建阳专区。1956年建阳专区改南平专区,属之。1970年复名建阳地区,属之。1983年10月,改县为市。1988年建阳专区又改南平专区,属之。
1994年9月,国务院批准撤销南平地区行政公署,设立地级市,属之。
1990年,邵武市辖4个街道办事处、2个镇、13个乡,共19个乡(镇)、街道,即:昭阳、通泰、水北、晒口街道办事处,拿口、和平镇,城郊、水北、屯上、沿山、大竹、吴家塘、卫闽、洪墩、张厝、大埠岗、肖家坊、桂林、金坑乡。
1992年7月,撤销水北、大埠岗2个乡建制,分别设立水北镇、大埠岗镇,其辖区和政府驻地不变。同年11月,撤销洪墩、沿山2个乡建制,分别设立洪墩镇、沿山镇,其辖区和政府驻地不变。
1994年11月,撤销城郊乡建制,设立城郊镇,其辖区和政府驻地不变。撤销屯上乡,设立下沙镇,以原屯上乡行政区域为下沙镇行政区域,镇政府驻地下沙。
1996年3月,撤销卫闽、肖家坊2个乡建制,分别设立卫闽镇、肖家坊镇,其辖区和政府驻地不变。
2000年6月,撤销大竹乡,设立大竹镇,其辖区和政府驻地不变。同年7月,吴家塘农场改制,设立吴家塘镇,以吴家塘乡及吴家塘农场区域为吴家塘镇的行政区域,镇政府驻地吴家塘。
2005年底,邵武市辖4个街道办事处、12个镇、3个乡,共计132个行政村、36个居委会。