今汶上縣境內(nèi)約在15000年前，即有華夏先民在此繁衍聚居。位于城東3千米的東賈柏遺址，是濟(jì)寧境內(nèi)已發(fā)現(xiàn)的最早的新時(shí)器時(shí)代人類文化遺址，距今約7000年左右，是北辛文化的重要代表，屬于原始社會(huì)母系氏族公社的發(fā)展階段。

　　至商代，境內(nèi)置厥國(guó)。周代，先后置郕國(guó)，中都邑、闞邑，周武王封同母弟叔武于郕，公元前501年，魯“定公以孔子為中都宰“。戰(zhàn)國(guó)時(shí)，齊置平陸邑。

　　秦統(tǒng)一中國(guó)，行郡縣制，縣境內(nèi)約分屬薛郡的張縣（治邑在今東平縣霍莊）、無(wú)鹽縣（治邑在今東平縣無(wú)鹽村）。

　　漢宣帝甘露二年（前52年）前后，境內(nèi)始置東平陸縣，隸屬兗州東平國(guó)。此為汶上建縣之始。

　　三國(guó)魏晉，今縣境統(tǒng)屬兗州東平國(guó)（郡）東平陸縣。南朝時(shí)改稱平陸縣、樂(lè)平縣。隨初仍稱平陸縣。

　　唐天寶元年（742）三月，改稱中都縣，移縣城于今治。

　　金貞元元年（1153年）更名汶陽(yáng)縣。金泰和八年（1208年），取”汶水在上（北）”之意，更名汶上縣，此為“汶上”專用地名之始，沿用至今。

疆域：

　　明萬(wàn)歷年間，汶上境域，北至東平界沙河站村，東至寧陽(yáng)縣界西梳村，南至濟(jì)寧州界康莊驛，西至鄆城縣界肖皮口，西北至安山西面的張博士集（今屬梁山縣），西南至孟姑集以西申家海（今屬嘉祥縣），東南至南唐陽(yáng)，東北至琵琶山。最大橫距75公里，最大縱距35公里。此縣界明清時(shí)穩(wěn)定時(shí)間較長(zhǎng)，境域也較大，約為今縣境的2.5倍。

　　民國(guó)時(shí)期，全縣面積1380平方公里，為山東省較大縣之一，曾有“一滕二曹三汶上"之說(shuō)。

　　現(xiàn)在，全且面積877平方公里，南北最大縱距58公里，東西最大橫距35公里，東臨兗州、寧陽(yáng)，西連梁山、嘉祥，南與濟(jì)寧市任城區(qū)接壤，北枕大運(yùn)河,與肥城、東平相望。