杨广一反父亲的高压政策，对江南实行怀柔政策。他利用当地望族充当说客，劝谕造反者归顺，兵不血刃就夺回17座城，相当快速而有效地化解了反隋风潮。
他不像父亲那样，任命关陇士人镇压江南士人。他比较注重江南人自治。在他的扬州大总管府中，聚集了一批江南才学之士，比如王胄、诸葛颖、虞世基虞世南兄弟等。他们都是梁、陈旧朝的官员，又是江南大族的代表人物。他们聚集在杨广周围，影响着杨广的行为方式和思维模式，希望杨广能够成为江南地区利益的代言人。
而杨广同样需要培植新的政治势力。
史载，杨广在江南专擅帝国东南一方，势力见涨。他想要夺太子之位，成为天下共主的欲望被激发出来。他曾与亲信谋划夺嫡之事，郭衍说：“若所谋事果，自可以为皇太子；如其不谐，亦须据淮海，复梁、陈之旧。”意思是，夺嫡成功最好，不成功也不怕，以江淮为依托，建立一个割据政权还不是分分钟的事情。杨广深以为然。
开皇二十年（600年），在废立太子的问题上，关陇集团主要成员分裂成两派。一派以高颎为首，拥护太子杨勇；另一派是杨素、宇文述等人，支持另立晋王杨广为太子。后者最终获胜，高颎随即被罢免，关陇集团中的许多元勋遭到杀戮。不过，杨广对帮助自己的关陇势力，时时加以限制和防范。他很重视利用江南士族对关陇势力形成牵制。