徐州，连云港赣榆讲中原官话，南京，镇江，扬州，淮安，南通，盐城，台州和连云港说江淮官话，而南部苏锡常大部分地区说吴语。这就是所谓的“散装江苏”的原因之一。
众所周知，基本上南京和镇江都属于长江以南，但是他们难道不应该说吴语吗。为什么江淮话占据上风，成为人们的日常交流语言？实际上，这是具有深厚的历史渊源的。
在历史上，南京属于吴地。公元前495年，吴王夫差在南京朝天宫的后山建立冶城，以铸造兵器。后来进行了屡次改建，直到公元229年，东吴的孙权在南京定都。在此期间，南京的母语是初步汉化的中古吴语，人们都讲地道的吴语。
但是，从晋朝以后，特别是永嘉起义和五胡乱华，一切都发生了变化。
五胡乱华后，原来中原的汉人、西晋汉族衣冠仕族臣民纷纷南渡，司马睿在南京（当时称建康）建立东晋，史称“衣冠南渡”。在古代衣冠就是文明的象征，“衣冠南渡”意指中原文化的南迁。这种文化不仅包括服饰，也包括语言。东晋建立后，中原士族带来了洛阳雅言，此后南京一带吴语迅速式微，于是结合着洛阳雅言和吴语的金陵雅音开始形成，南京也逐渐脱离了吴语。
从东晋南北朝到隋朝，金陵雅音进入了一个繁荣的时期，南朝的宋，齐，梁，陈政权继承了金陵雅音，在政治和文化上受到高度尊重。 此时，金陵雅音更接近于正统的中国文化。 隋朝统一中国后，隋文帝杨坚所写的官方韵书是融合了当时洛阳和建康（南京）的发音。从唐代到元代，南京的政治地位起伏不定，影响力不及以前，但经过调整的金陵雅音仍然是中国的官方语言。
然而在明代，金陵雅音却发生了重大的变化。朱元璋定都南京后，谴二十万淮人定居南京， 给南京的语言带来了新鲜的血液。后来，明朝政府先后强制迁移了大量人口充实南京。到了永乐时期，居住在南京的40万居民中几乎有一半是外地人。
在此过程中，由金陵雅音演变而来的南京方言又逐渐与一些江淮方言进行融合。明朝政府以当时的南京音为蓝本，建立了通用的官方语言，这就是同行中国直至近代的南京官话。经过了清朝中后期的修整和民国的复兴之后，南京方言逐渐形成了我们今天所听到的南京话。