天水在夏、商时期属雍州，周孝王十二年（公元前九世纪）赢非子在秦池（今张家川县城南一带）为王室养马有功被封于秦，号赢秦。秦即后世的秦亭，是今天水市辖区见于史籍的最早地名。
秦武公十年（前688年），秦灭圭阝戎、冀戎，置圭阝（今天水市城区）、冀（今甘谷县东）二县，这是中国历史上设置最早的两个县级建置。秦昭王二十八年（279年），设陇西郡。郡县制在今辖区确立。
        西汉武帝元鼎三年（前114年），从陇西、北地二郡析置天水郡。从此有“天水”的名称。
        三国魏文帝黄初元年（220年），一度设秦州。因秦邑而得名，从此有“秦州”的名称。
        西晋始，实行州郡县三级制。晋武帝泰始五年（269年）秦州正式设立，今辖大部分由秦州天水郡辖。南北朝因亡。
        隋唐时，实行州县二级制，秦州地域缩小，地域和今辖区大体相当。元代，秦州辖成纪、秦安、清水3县。
        明代，秦州辖秦安、清水、礼县3县。清雍正七年（1729年），秦州升为直隶州，直隶甘肃省，辖秦安、清水、两当、徽县、礼县5县。
        民国2年（1913年），2月，北洋政府推行省、县二级制，暂存道制。巩秦阶道改称陇南道。撤秦州设天水县。民国3年1月，宁远县改称武山县。6月，陇南道改称渭川道，辖14县。民国16年（1927年）7月，渭川道改称渭川行政区。不久，撤销行政芪，实行纯粹的省县二级制。民国18年（1929年），伏羌县改名甘谷县。民国23年（1934年），甘肃省政府设立天水行政督察区。次年，改称甘肃省第四行政督察区，辖10县。
        1949年8月3日，天水县解放。8月15日，天水分区行政督察区成立。同年12月，天水分区改称天水专区。1950年2月，析天水县置天水市，以城区为天水市的行政区域。
        1953年7月6日，将清水、秦安、庄浪、陇县38乡合并成立张家川回族自治区（1955年10月改称县），属天水专区。1958年4月8日，撤销武都专区，并入天水专区。1961年11月5日，恢复武都专区。
        1969年10月1日，天水专区改称天水地区。（时辖天水市、天水县、甘谷县、武山县、清水县、张川县、秦安县、徽县、两当县、礼县、漳县等1市11县）。
        1985年7月8日，国务院批准，撤销天水地区，实行市管县体制。天水市升为地级市。撤销天水县、将其行政区域并入天水市。天水市设立秦城、北道两区。以天水县西南17乡及原天水市（县级）辖区设秦城区，以天水县东南、西北其余22乡和北道镇设北道区。天水市人民政府驻秦城区。将原天水地区的徽县、两当、西和、礼县划归新成立的陇南地区；漳县划归定西地区。天水市辖两区五县；即秦城、北道两区，秦安、清水、张家川、甘谷、武山等5县。
        经国务院批准，从2005年1月1日起,秦城、北道两区更名为秦州区和麦积区。