桐梓县马鞍山新石器时代人类遗址中也发掘出距今约1.8万年的石器骨器以及丰富的用火遗迹。晚唐时期军阀杨端率军占据了播州，从此揭开了杨氏家族在播州地区长达700多年的割据统治。此后播州尽管名义上归属四川，但实际上四川官府管不着杨氏土司政权。在历时114天的战斗之后割据播州七百余年的杨氏土司政权被消灭。在这种形势下贵州已然成为随时可能用兵的军事要地，而四川则是西南地区的政治经济中心。
遵义作为贵州省第二大城市也是我国历史文化名城：1935年1月中共中央政治局在遵义召开的扩大会议确立了毛泽东同志对党和红军的正确领导，纠正了在此之前党内的错误军事路线，从而在中国革命最危急的关头起到了力挽狂澜的作用。其实遵义有着悠久的历史：在桐梓县岩灰洞旧石器时代人类文化遗址发现的人类牙齿化石经科学测定为距今20.6～24万年。桐梓县马鞍山新石器时代人类遗址中也发掘出距今约1.8万年的石器骨器以及丰富的用火遗迹。
战国时期遵义地处于闻名遐迩的“夜郎国”疆域之内。夜郎国是中国的西南地区少数民族先民建立的一个古国：其实夜郎本名耶朗——所谓耶朗乃是当地土话“唱诵”之意——在祭祀活动中以半朗诵半咏唱的形式，宣读氏族盟誓，因而成为一种口头立法，凡是参加“耶朗”的氏族都是“耶朗”大团体的成员。汉代的时候夜郎国是汉朝西南邻国里最大的一个国家。当汉使者出使夜郎国时夜郎国君曾问汉朝：“你们汉朝大呢?还是我们夜郎国大呢?”从此“夜郎自大”这个典故就被用来形容妄自尊大。
出使夜郎的汉使并不了解夜郎的政体，只看到夜郎王直辖的地区就以为夜郎就只有这么大。事实却是“九真徼外夜蛮夷，举土内属，开境千八百四十里”，只是由于耶朗制下部族相对分散，没汉朝那么大的凝聚力。不过在西南地区夜郎是当之无愧的一方霸主：如今湖南、云南、贵州、四川等地境内都曾发现过夜郎古国的遗迹。夜郎古国和南越、身毒等国长期保持着外贸关系，因而成为由蜀地通往身毒的西南丝绸之路和由南越出海的海上丝绸之路的交汇处。
公元前111年夜郎派兵协同汉朝征伐南越反叛，随后夜郎遣使入朝，汉王朝授予夜郎王金印，此后汉朝开始在夜郎设置郡县，夜郎被纳入汉朝版图。汉朝在夜郎的统治实行的是二元模式：一方面汉朝在当地设置郡县进行管辖，另一方面夜郎王仍拥有相当大的自主权。西汉成帝和平年间夜郎与南方小国发生争斗，汉王朝遣使调解，夜郎王不仅不服从汉朝的调解，还胁迫周边22邑反叛汉王朝。汉廷新上任的牂牁郡守陈立深入夜郎腹地斩杀了名叫兴的夜郎末代国王并平定了其臣属部落的叛乱。
从汉朝起西南夷少数民族地区就被纳入版图，不过当地各部族的酋长们还是拥有相当的自主权。汉代称位于巴蜀以南的云贵高原为南中：长期以来南中地区的各少数民族酋长对中央政府的号令一直时听时不听。三国时期蜀汉丞相诸葛亮采用攻心为上的策略与当地少数民族建立了友好关系。诸葛亮与云贵少数民族建立友好关系更多是依靠个人魅力，然而中原王朝对云贵地区的控制力并没在制度上得到强化。直到唐宋时期云贵地区依然维持着这种天高皇帝远的局面。
唐贞观十三年（公元639年）将隋代的郎州改名为播州，领辖今黔北的大片地域。播州之名历经五代、宋、元到明朝末叶存在了962年，所以人们常习惯用“播州”来代称古代的遵义。晚唐时期军阀杨端率军占据了播州，从此揭开了杨氏家族在播州地区长达700多年的割据统治。北宋时期播州土著杨文贵献地归附。播州归附宋朝后隶属于川峡四路之一的夔州路。元朝在地方行政管理方面首创行省制：在中央设中书省，在地方设行中书省（简称行省）分别进行管辖。
在元代山东、山西、河北和内蒙古等地由中书省直辖，而青藏高原属于宣政院辖地，除此之外在全国范围内一共设有岭北、辽阳、河南江北、陕西、四川、甘肃、云南、江浙、江西、湖广十个行省。元朝在今天的遵义设播州宣慰司进行管辖，但播州杨氏家族仍是当地的“土皇帝”。行省制这种新的地方管理制度在元代初建立时还不完善，所以各地界限也并不明确。明朝对元朝的行省制有所继承和改进：洪武五年(1372年)播州属四川行省，然而洪武十五年(1382年)播州改属贵州都司。
到了洪武二十七年(1394年)播州重新改属四川承宣布政使司。此后播州尽管名义上归属四川，但实际上四川官府管不着杨氏土司政权。永乐十一年（公元1413年）从原来的湖广行省、四川行省、云南行省各拆分出一些地区组成贵州承宣布政使司。至此贵州正式建省。1598年播州土司杨应龙公开作乱，万历皇帝于1600年派遣20多万人进攻播州杨应龙。在历时114天的战斗之后割据播州七百余年的杨氏土司政权被消灭。万历皇帝在灭掉播州杨氏土司政权后在当地改土归流。
为实现对当地的分而治之就将其分割为遵义军民府和平越军民府：前者继续隶属于四川省管辖，后者则划归贵州省管辖。从元朝到明朝再到后来的清朝一直在对行省制度进行改革，而这一过程中的一大趋势就是省份被越划越小：元朝只有十个行省，明朝则将其拆解为两京十三省。清朝入关后对明朝的行省进一步拆分：康熙三年（1664年）将湖广行省拆分为湖北、湖南二省。康熙六年（1667年）将江南省分为江苏、安徽二省。康熙七年（1668年）将陕西省分为陕西、甘肃二省。
清王朝之所以要把行省拆小就是为避免地方督抚因权力过大形成尾大不掉的割据势力。除了直接将某个大省拆分为几个小省之外有时也把大省的某些地区划拨给小省。康熙年间平定三藩之乱后朝廷对西南云贵川地区的控制力度得到加强，于是对云贵地方土司的改土归流工作开始得到大规模的推广，到1725年时清王朝在西南地区的改土归流工作进入高潮时期。这时担任云贵总督的鄂尔泰向雍正皇帝建议对云、贵、川各省进行新的省界划分。
这一时期清政府在西南地区所推行的改土归流工作并不总是在和平状态下进行的，事实上随着改土归流工作的推进使清朝政府军和当地土司武装力量之间的摩擦愈演愈烈。在这种形势下贵州已然成为随时可能用兵的军事要地，而四川则是西南地区的政治经济中心。驻守云贵地区的大军需要四川作为提供粮草的后勤基地，所以改土归流的平稳推进必须确保四川的安全。当时四川省管理的面积非常大：管辖着现在的四川省、重庆市、贵州遵义府以及陕西部分地区。
把遵义从四川划入贵州相当于在四川和贵州之间划出一个缓冲屏障。一旦贵州有变之时平叛大军即可经遵义进入贵州；如果叛军势力强大到一时难以剿灭，那么有遵义作为屏障挡着也可保证四川无虞。另外开发较早的遵义要比当时贵州其他地区发达，所以遵义划入贵州也可以带动贵州的发展。这也符合清王朝一以贯之在大省和小省之间保持政治平衡的策略。雍正五年（1727年）雍正皇帝下诏将遵义府由四川省划归贵州省管辖，同时将原来隶属于贵州的古蔺（现在属于四川泸州的古蔺县）划拨给四川。
