扬州一词最早出现于《尚书禹贡》，大禹分天下为九州，其一就为扬州。其余八州为冀州、兖州、青州、徐州、荆州、豫州、梁州、雍州。这里的扬州并不是一个行政区划，而是指一片广大的自然区域。其范围包括今天的江苏省、安徽省、浙江省、福建省，以及广东省的部分地区。至于为何叫“扬州”，《尔雅释地》里说：“江南曰扬州”，公羊疏引李巡云：“江南其气惨劲，厥性轻扬，故曰扬州”。释名云：“扬州州界多水，水波扬也”，释文引太康地记云：“以扬州渐太阳位，天气奋扬，履正含文明，故取名焉”。总之关于“扬州”二字来源的说法很多。
到了西汉，汉武帝刘彻在全国设置十三州刺史部，作为地方的监察机关，其中就有扬州刺史部。其余十二州为交趾、并州、青州、兖州、荆州、幽州、徐州、朔方、益州、凉州、豫州、冀州。这里的扬州范围也很广，是指今天安徽淮水和江苏长江以南、江西、浙江、福建三省，以及湖北、河南的部分地区。而今天的扬州，在当时是属于徐州刺史部的。
东汉时期，州逐渐由地方监察机构演变为地方一级的行政机构。扬州也变成了地方最高行政机构，其治所先后从历阳（今安徽和县）迁到寿春（今安徽寿县）又迁到合肥（今安徽合肥）。
东汉末年分三国，在曹魏和孙吴分别都置有扬州。魏的扬州治所仍在寿春，下辖淮南、庐江二郡，范围大致相当于今天安徽南部。吴国的扬州治所在其都城建邺，下辖丹阳、会稽、建安、庐陵等十四个郡，范围相当于今天江苏和安徽两省南部、浙江、江西、福建以及湖北的部分地区。
西晋统一后，两扬州也合二为一，治所仍在建邺，辖今浙江和江苏安徽两省的南部。永嘉南渡后，又出现了扬州治所与都城同在建康的现象，并持续了整个南朝。此时，现在的扬州隶属于当时的南兖州。
与此同时的北朝，北魏和北齐也先后置有扬州。北魏的扬州大致在河北项城东北，北齐的扬州仍在寿春。
直到隋朝，扬州才是指今天的扬州。
而早在原始社会，今天的扬州这一地方便有了人类活动。在西周时期，周公东征之后，淮夷便在此建立邗国。至于“邗”字，《说文解字》里说：“‘邗’从‘邑’，‘干’音，国名”。在《诗经伐檀》里有“坎坎伐檀兮，置之河之干兮，河水清且涟漪”，其中“干”是“河岸”的意思。所以“邗国”，意为“建立在岸边的方国”。
春秋时期，此地为吴国所有。出于吴晋争霸的需要，吴王夫差于公元前486年在此地开邗沟，筑邗城。邗沟即为最古老的大运河，邗城便是扬州最古老的城池。
战国时期，r