湘潭历史悠久，境内已知的最早居民村落遗址，为公元前4400年—前3300年间的大溪文化时期遗址，位于湘潭县老虎坑和堆子山。湘乡市岱子坪遗址亦属公元前2800年—前2300年间的龙山文化时期村落遗址。

商周时期，市境为荆楚之地，越文化的影响较大。从出土的文物看，这里是中原文化和南方文化交汇融合地区。

战国后期，楚从黔中郡划出长沙郡，湘潭市全境属长沙郡。秦统一中国，郡属仍旧。

西汉，刘邦封吴芮为长沙王，继而刘发为长沙王，湘潭全境属长沙国。

东汉初，建湘乡县，划入零陵郡，境内余地属长沙郡。建安二十年（215年），蜀、吴划势力范围，零陵郡属蜀，长沙郡属吴；建安二十四年（219年），吴袭荆州，市境遂均属吴衡阳郡，郡治在今湘潭县古城乡。

晋，市境属衡阳郡，郡治仍在今湘潭县古城乡。当东晋从荆州析出湘州时，境属湘州。

南北朝时期，市境属南朝管辖，属湘州衡阳郡。

隋，市境属潭州长沙郡。唐天宝八年（749年），从隋代的湘潭和衡山两县北部调整出新的湘潭县，并将县治移至洛口（今易俗河镇）。

五代时期，市境为南方马氏所建楚国属地，隶潭州长沙府。

宋朝，市境属荆湖南路潭州，境内开始采金矿。南宋，湘潭县城迁至今湘潭市城正街，境内经济、文化有所发展。绍兴年间，中书舍人胡安国从荆州迁居湘潭碧泉潭，筑碧泉书屋，著书讲学，开一代学风，后人称湖湘学派。湖湘学派对湖南的文化发展影响甚大。元贞元年（1295年），湘乡、湘潭县均升为州，均属湖广行省湖南道天临路。

明，市境属潭州，湘潭、湘乡复为县。明万历、天启年间，湘潭城区街市从宋家桥延至石嘴垴一带，长约７公里，形成沿湘江的带状城市。街市鳞次栉比，江中帆樯云集，沿江建码头10余处，云、贵、川、甘货物通过水、陆路云集于此，南洋货物亦过南岭至此集散。明万历四年（1576年），湘潭县筑城。其城内外商业繁荣，湘潭城区时有“小南京”之称。

清代，市境属长沙府，清顺治五年（1648年），堵胤锡、李过、高一功部收复湘潭，督学大学士何腾蛟率军进驻湘潭组织抗清，后清兵陷城，何被俘七日后被杀，清兵从正月二十一至二十九日屠城，全城死难数万人。清咸丰、同治年间，湘潭城区沿江码头近40座，河、正、后三街并行，店铺5400余家，人称“城厢内外，肩相摩，毂相击，行者不遑趾，居者不暇餐，熙熙攘攘，各乐其业”。此时，湘潭成为江南米市之一。药材业年购销额达800多万两白银，成为全国著名药都之一。当时，有“金湘潭”之称，湘潭县所缴赋税倍于省内他县，又有“天下第一壮县”之称。清光绪二十八年至三十年（1903—1905年），境内创办学堂6所，官费自费留学日本者达几批。西方文化的传入，促进了新思想的产生。光绪年间，猪鬃、玻璃等业出现，特别是钱庄、票号、典当大量出现，在湖南少见，对促进湘潭商业发展有重要作用。1904年，长沙开埠后，湘潭遂成为“寄港地”。民国三年（1914年）境属湘江道，民国十一年（1922年）撤道，属省直管。民国元年（1912年）兴办唯一膏矿公司，河东一带成为当时全国两大石膏产地之一；民国三年（1914年），创办裕生矿业公司，露天开采锰矿。不久，湘潭即以“中国锰都”而著称。随后，小型的电力、采煤、玻璃、机械、造船等工业兴起。同时，开通汉口至湘潭定期班轮，修筑长潭军路，架设长潭电话，进一步加大对外联系。民国二十五年（1936年），资源委员会确定湘潭下摄司为新工业基地，并兴办中央电工厂、中央钢铁厂、中央机器厂、湘江电厂，为湘潭大工业发展奠定了一定基础。

1949年8月9、10日，湘潭、湘乡和平解放，8月22日成立湘潭县人民政府，9月1日成立湘乡县人民政府。

1950年7月，湘潭县城关区改为县级湘潭市，隶属从岳阳迁至湘潭的长沙专署。

1952年10月，长沙专署改称湘潭专署，成立湘潭市人民政府。1950—1952年，湘潭开展一系列社会革命和改革运动。“一五”时期，湘潭市被列为中南地区重点建设城市之一。国家安排在湖南的13个全国重点建设项目，湘潭占5个，投入湘潭的资金达8883.9万元，占全省工业投资总额的18.6％，新建电线厂、江南机器厂、纺纱厂等，扩建湘潭锰矿、湘潭电机厂、湘潭电厂，新的工业建设开始起步。

1953年4月，湘潭市被定为省辖市，1958年9月升格为地级市。1958—1960年，国家对湘潭工业投资达4.497亿元，为“一五”计划期间投资的5倍。湘潭钢铁公司、江麓机械厂、湖南铁合金厂、湘乡铝厂、湘乡水泥厂等重点国营企业均开工兴建，湘潭实现由“商业重镇”向“工业重镇”的跨越式发展。

1965年7月，属邵阳地区管辖的湘乡县改由湘潭地区管辖。

1980年7月，湘潭市由地区代管改为省直管。1983年6月，湘潭地、市机构合并，醴陵、攸县、茶陵、酃县4县划归株洲市管辖；浏阳县划归长沙市管辖；湘潭市辖湘潭、湘乡2县和雨湖、湘江、岳塘、板塘、郊区5区。1984年12月，韶山重新划归湘潭市管辖。1986年9月，湘乡县改市。1990年12月，韶山撤区建市。

1992年6月，湘潭市将4城区和郊区调整为雨湖、岳塘2区。至此，湘潭市辖湘潭县、湘乡市、韶山市和雨湖区、岳塘区。

2007年12月14日，长（沙）株（洲）（湘）潭城市群与武汉城市圈同时被国家发展和改革委员会批准为全国资源节约型和环境友好型社会（“两型社会”）建设综合配套改革试验区，是国家继广东深圳、上海浦东、天津滨海、重庆市和成都市之后，设立的第6个综合配套改革试验区。