临沂历史悠久，是中华文明的重要发祥地之一。早在四、五十万年以前，人类的祖先就在这块土地上创造了远古文明。

二十万年以前的旧石器时代早期的文化遗存在境内有多处发使用文字符号，现沂河和沭河流域发现的近百处细石器文化遗存，是一、二万年前的人类所创造。

早在5000年以前，这里的人类就开始掌握了酿酒技术，使用砭石治病等。商朝时期，这块土地上就丰存过郯、莒、费诸方国。

周灭商后，鲁国和齐国是周王朝控制东方的重要支柱,临沂地域除分属齐、鲁等国外，见于<<春秋>>的还有颛、阳、向、莒、郯、根牟、於馀丘、杞等国。

春秋时期，除上述古国外，见于<<春秋>>的有启阳，中丘、祝丘、费、防、台、东阳、武城、丘舆、向、次室、蒙、郓、堂阜、盖、艾、纪障、密、鄢陵等20个。这些大城邑的出现，是经济文化发达的标志。

战国时期，域内诸封国先后为齐、楚所兼并，至战国末期，南部属楚，北部属齐。

秦朝统一，地方实行郡县制，全国分为三十六郡，临沂地域属琅琊郡和郯郡。

西汉时，郡国并行。临沂地域分属徐州之琅琊国、东海郡、城阳国和兖州之泰山郡。

东汉承西汉制度，分属徐州之利城郡、东海郡、琅琊郡、琅琊国和兖州之泰山郡、东莞郡、东安郡和城阳国。

三国时期，属魏国。至魏末，分属东海国、琅琊国、东莞郡、泰山郡。

西晋时期，分属徐州之琅琊国、东海郡、兰陵郡、东莞郡、兖州之泰山郡。

晋室南渡后，地域先后属于后赵、东晋、前燕、后燕、南燕、前秦和北魏。

隋朝分属沂州（琅琊郡）泗州（下邳郡）、密州（高州郡）、海州（东州郡）、徐州（彭城郡）。

唐朝分属沂州（琅琊郡）、密州（高密郡）、徐州（彭城郡）。

宋朝分属沂州（琅琊郡）、密州（高密郡）、淮郡军等。宋室南渡后，分属于金朝山东东路的沂州、莒州、邳州、泰安州。

元朝分属兖州府和青州府。清初因之，清雍正十二年（1734年）升沂州为府，置附郭兰山县，降莒州为散州。属沂州府。有兰山、郯城、费县、沂水、蒙阴、日照、莒州6县１州。

中华民国成立后，废府撤州，实行省、道、县三级制。

1913年撤销沂州府，改莒州为莒县。

1914年分山东省为４道，改兰山县为临沂县，临沂地域分属济宁道和胶东道。

1918年撤销。1936年划为山东省第三行政督察专员公署。