乐平在旧石器时代已有人类栖息。春秋战国时期先后隶属于吴、越、楚，初属番(音pan)邑，后属余汗(音gan)县。秦统一中国后实行郡县制，属九江郡余汗县。汉代为余汗县乐安乡。
东汉光和元年(公元178年)建置乐平县，县城立于银城堡(今德兴市银城贩)。因县城“南临乐安江，北接平林”而名“乐平”。辖区包括今乐平、德兴全境和婆源、万年2县部分地区。
东汉兴平二年(195年)，三国矣迁县城至乐安乡亭驻地洎口(今名口镇戴村)，改县名为乐安县。南朝陈天嘉元年(560年)，撤销乐安县建制，辖地划入鄱阳县。太建十三年(581年)以原乐安县辖地建置银城县，县城仍立于洎 口。隋开皇十年(591年)，撤销银城县建制，辖地再度划归鄱阳。唐武德四年(621年)，恢复乐平县建制，隶属江南道饶州。九年(26年)又撤销乐平县建制，辖地仍人隶鄱阳。
唐开元四年(716年)再度重建乐平县，县城立在长乐水口(今众埠镇铜山港口村)，隶属江南西道饶州。二十八年(740年)划出县东北境怀金乡与休宁县回玉乡合并建置婺源县。元和七年(812年)又划出县东北境丹阳乡人隶婺源。中和三年(883年)迁县城至花后镇(今乐平镇)。
南唐升元二年(938年)划出县东境乐平、银山、南部3乡建置德兴县。宋熙宁年间(1068-1077年)又划尽节乡人隶德兴县。
元元贞元年((1295年)升县为州，隶属江浙行省饶州路。
明初，改州为县，改路为府。乐平随饶州府归隶江西行省九江道。正德七年(151：年)，划出县境南部新进乡全部和丰乐乡大部与鄱阳、余干二县划出的部分地区合并建置万年县。
清代乐平县承袭明代建制和隶属关系。
民国元年至三年(1912-1914年)，废府设道，乐平隶属浔阳道(治九江)。民国五年(1916年)撤道，县属省直辖。民国十九年(1930年)，乐平建立县苏维埃政权，属闽浙赣省管辖。闽浙赣省赣东北特委和革命委员会驻乐平。民国二十一年(1932年)，红军撤离后，乐平属于江西省第四行政区(治鄱阳)，民国二十四年((1935年)改为第五行政区(专员公署移至景德镇)。
1949年4月29日，中国人民解放军进驻乐平。乐平县初属赣东北行署乐平专区(驻乐平)。同年10月，专员公署移驻景德镇，改为浮梁专区。1952年10月乐平改属上饶专区。1983年10月，改属景德镇市。1992年9月21日经国务院批准，撤销乐平县，设立乐平市。
