汉武帝亲政以后，首先面临的是如何进一步加强中央集权、巩固封建国家统治的问题。西汉王朝建立七十多年来，虽经高祖、吕后及文、景对异姓王和同姓王的不断打击和削弱，但郡国王侯仍然有不小势力。比如，汉武帝的叔叔梁王刘武，出行完全和天子一样的威风，千乘万骑，“出称警，入言”。他还“招延四方豪杰，自山东游士莫不至”。他自作弩弓数千万，府库金银“且百钜万”，“珠玉宝器，多于京师”（《汉书·文三王传》）。这些诸侯王有的在地方上为非作歹，横行霸道，例如武帝的异母兄弟江都王刘非，“好气力，治宫馆，招四方豪杰，骄奢甚”，他的儿子刘建看上了邯郸梁蚡的女儿，与父亲刘非争风吃醋，结果刘建霸占了梁女，还派人杀死梁蚡，汉王朝管司法的廷尉不敢审理这一案件（《汉书·景十三王传》）。很明显，武帝时这些独霸一方的诸侯王仍是西汉中央政权不小的威胁，同时他们的横行不法，也给各地百姓带来巨大灾难。因此，为巩固西汉政权，缓和阶级矛盾，继续对诸侯王进行打击和削弱，仍为汉武帝政治上的一项重要任务。
    武帝元朔二年（前127年），汉武帝采纳了主父偃的意见，利用颁布“推恩令”的巧妙办法，进一步削弱诸侯王的势力。推恩令规定，诸侯王除以嫡长子继承王位外，还可以推恩将自己的封地再分封给其他子弟，由皇帝制定封号。结果许多大诸侯王国，都被分割成一个一个由郡来管辖的小侯国，这些侯国不再享有政治上的特权，只能收租税。这样，便很自然地使许多有权有势有实力的诸侯王国大大削弱了。如梁国，被分为五，长沙王分为十六，菑川王分为十七，等等。这一法令颁布后，立刻遭到强有力的诸侯国的极力反抗，以淮南王刘安和衡山王刘赐为首的一些王勾结起来，“阴结宾客，拊循百姓，为畔逆事”（《史记·淮南衡山列传》），准备联合向京城进攻，篡夺汉武帝的帝位。武帝元狩元年（前122年），他们的阴谋暴露，汉武帝经过朝廷大臣和诸侯王的联席廷议，决定逮捕刘安，刘安闻风自杀。淮南国和衡山国因此被废除，改为直接由中央管辖的郡。此后，汉武帝又制定了“附益法”和“阿党法”，专门打击那些对朝廷不忠而一味和诸侯王结成逆党的分子。从此以后，诸侯王的势力一落千丈，中央皇权的威胁根本解除了。元鼎五年，汉武帝又一次借故列侯所献助祭的酎（zhòu）金（古代诸侯献给皇帝的贡金）成色和分量不足，夺爵106人。以后连侯国也越来越少了。
    在削弱诸侯王的同时，汉武帝对不法的地方豪强也进行了打击。汉初七十年间，因为禁网疏漏，地主豪强势力得到了很大发展，他们有的勾结诸侯王，有的结党拉帮，形成一股很不易对付的势力。《汉书·游侠列传》说：武帝即位以前，一方面是诸侯王，“皆招宾客以千数”，另一方面就是这些“布衣游侠”剧孟、郭解之徒，“驰骛于闾阎，权行州域，力折公侯”。这种现象，显然不利于中央集权的统治，影响国家政策的施行和危害社会的安定。汉武帝毫不留情地对这些帮社势力进行了严厉打击，他派出许多严于执法的官吏（《汉书》上称为“酷吏”），锄诛不法豪强。例如，王温舒任河内太守，审讯郡中豪强，把这些盘根错节的豪族，连根锄掉，共株连千余家，“大者至族，小者乃死”，家产全部没收。经过这次打击，河内治安大有好转，“郡中无犬吠之盗”。汉武帝对号称“游侠”的豪强势力是毫不手软的。有这样一个故事，曾经“藏命作奸”、“所杀甚众”的不法游侠郭解，汉武帝迁徙各地豪强至长安附近的茂陵时，他通过大将军卫青说情，说他家贫势弱，不够迁徙的条件。汉武帝对卫青说：“郭解一个普通百姓，无官无职，竟然能劳驾一个大将军给他说情，也说明他在地方上的势力了。”仍坚持把他迁徙到京。郭解至京后，仍所为不法，结交私党，终于被汉武帝下令诛杀。汉武帝还往全国派出一批刺史，专门监察各地方豪强的情况，限制“强宗豪雄”的不法行为。经过采取这些措施，地方豪强势力受到了遏制，社会比先前安定多了。
    此外，汉武帝还在兵制和中央行政制度各方面加强了中央集权，削弱地方割据势力，使国家从政治上得到了进一步巩固和强有力的保证。