不许妃妾美饰。隋文帝曾配止痢药，要用胡粉一两，宫中找不到胡粉。又曾找织成的衣领，宫中也没有。独孤后的妒忌，倒也助成了隋文帝的节俭生活。
皇帝躬行节俭，是改善政治的一个根本条件，隋文帝具备这个条件，在行政上得以有力地推行下列三事。
奖励良吏——五八一年，隋文帝下诏褒扬岐州刺史梁彦光。后来又褒扬相州刺史樊叔略，新丰令房恭懿。五九一年，临颖令刘旷考绩为天下第一，擢升莒州刺史。五九六年，汴州刺史令狐熙考绩第一，赐帛三百匹，布告天下。旧制，京内外长官都有公廨钱，放债取利息。五九四年，下诏公卿以下各官按品级分给职田，停止放债扰民。州县官直接治民，隋文帝采取奖励良吏，给田养廉等措施，虽然官吏未必就此向善称职，但朝廷既明示改善吏治的方向，对民众还是有益的。
严惩不法官吏——隋文帝对待臣下极严，经常派人侦察京内外百官，发现罪状便加以重罚。他痛恨官吏的贪污行为，甚至秘密使人给官吏送贿赂，一受贿赂，立即处死刑。他的儿子秦王杨俊，因生活奢侈，多造宫室，被他发觉，勒令归第（禁闭）。大臣杨素劝谏，说罚得过重。他说，皇子和百姓只有一个法律，照你说来，为什么不别造皇子律？任何人犯罪，都得按法律惩罚。六○○年，他发觉太子杨勇奢侈好色，废黜杨勇，立杨广（隋扬帝）为太子。他依靠一些左右亲信，当作发觉臣下罪过的耳目，这就使得他不能不信谗言、受蒙蔽。杨广奢侈好色，至少同杨勇一样，只因善于伪装，独孤后、杨素都替杨广说好话，终于夺得了太子的地位。杨素广营资产，京城和京外大部会，到处有他的邸店、磨坊、田宅，家里有成千的上等妓妾，又有成千的奴仆，住宅华侈，式样模拟皇宫，隋文帝还以为杨素诚孝，信任有加。隋文帝凭个人权术，察察为明，功臣旧人，多因罪小罚重，杀逐略尽，剩下一个最凶狡的杨素，恰恰就是助杨广杀害他的奸人。吏部尚书韦世康请求退休，对于弟说，禄不可太多，怕多就得早退，年不待衰老，有病就得辞官。这说明当时朝官，有些不愿冒险作官，有些不敢进忠言招祸，能作大官并取得信任的人自然只能是杨素一类的奸人。隋文帝考核官吏，严惩贪污是必要的，但考核流为猜忌，严惩流为苛刻，那就无益而反有害了。不过，由于他执法严明，一般的官吏有所畏惧，贪污行为确是减少些，对民众还是有益的。
改良统治术——隋文帝对待民众比较宽平。五八一年，制定隋律，废除前朝酷刑。民众有枉屈，本县官不理，允许向州郡上告，最后可上告到朝廷。穷苦人虽未必能到朝廷上告，但在对待官吏极严的当时，也多少起些保护民众的作用。五八三年，又删削刑条，务求简要。五九二年，下诏：诸州死罪囚，不得在当地处决，须送大理寺（最高司法机关）复按，按毕，送尚书省奏请皇帝裁定。五九六年，下诏：死罪囚要经过三次奏请才行刑。隋文帝往往小罪重罚，在朝廷上杀官员，对民欢犯死罪，用心却是平恕。六○○年，正是他晚年对待官吏更严、诛杀尤甚的时候，齐州一个小官王伽，送囚人李参等七十余人去京城，行至荣阳，王伽对李参等人说，你们犯国法，受罪是该当的，你们看看护送你们的民夫，多么辛苦，你们于心安么！李参等谢罪。王伽遣散民夫，释放李参等，约定某日都来到京城，说，你们如果失约，我只好代替你们受死。到期都来到，不缺一人。隋文帝听了很惊异，召见王伽，大为叹赏。又召李参等携带妻子入宫，赐宴后宣布免罪，并且下了一道只要官有慈爱之心，民并非难教的诏书，要求官吏学王伽，以至诚待民。《隋书》说他留意民间疾苦。五九四年，关中饥荒，他派人去看百姓所用食品，是豆粉拌糠。他拿食品给群臣看，流涕责备自己无德，命撤消常膳，不吃酒肉。他率领饥民到洛阳就食，令卫士不得驱迫民人，遇见扶老携幼的人群，自己引马避路，好言抚慰。道路难走处，令左右扶助挑担的人。他这些表示，在帝王中确是罕见，因为他深知要巩固政权，首先必须取得民众对自己的好感。
制度方面
战国时，秦孝公、商鞅创立秦制，高度的君主集权精神有异于山东六国。秦始皇统一天下，稍作修补，成为通行全中国的制度。两汉以至南北朝（北周中央官制模仿《周礼》，是例外），基本上沿袭秦制，自然也陆续有不少改革。隋文帝统一天下，综合前代各种制度，有沿有革，厘定成隋制。自唐至清，基本上沿袭隋制，自然也陆续有不少改革。隋文帝所定制度，同秦制一样，都有划时代的意义。
官制——五八一年，隋文帝即帝位，即废北周官制，恢复汉、魏旧制。中央官制有三师、三公及尚书、门下、内史（中书）、秘书、内侍（宦官）五省。管理政务的机构是尚书省。尚书省置令一人，左右仆射各一人，下设吏部、礼部、兵部、都官、度支、工部六曹，每曹设尚书一人。六曹尚书分统三十六侍郎。五八三年，改度支为民部，都官为刑部。左仆射判吏、礼、兵三部事，右仆时判民、刑、工三部事。五省以外，有御史、都水（掌水利，五八三年废）二台，太常（掌礼乐等事）、大理（掌刑法）、国子（掌教育）、将作（掌营造）等十一寺、左右卫（掌禁卫兵）十二府。又置上柱国至都督十一等勋官，特进至朝散大夫七等散官，作为荣誉名号，授给有功劳的文武官。六部尚书分掌全国政务，自隋时定型，一直沿袭到清季。汉、魏以下，州郡县长官得就地自辟僚佐，后魏、北齐已多由吏部选授，隋确立制度，全国任何小官，任用权都操在吏部。就地征辟僚佐，自然多是本地豪强。隋制，县佐须用别郡人，地方长官不得自用僚佐，县佐回避本郡，使本地人不得把持本地政务。这些，都有利于中央集权的进一步加强。地方官制隋以前极为紊乱，南朝有侨州郡县，南、北两朝都滥立州郡县名目，民少官多，耗费甚巨。五八三年，隋文帝废郡一级地方官，只存州县两级。隋炀帝改州为郡，全国有一百九十郡，一千二百五十五县。隋简化地方官制，消除了东晋、南北朝以来的紊乱现象。
礼乐——皇帝祭天地众神、祭祖先以及朝廷吉凶等大事，一切礼乐，历朝相传，都有详备的规定。自孔子以来，儒家以议礼乐为专掌，积累起繁缛的学说，朝廷采用它，与实际政治并无关系，背弃了它，却不成其为中国皇帝。非汉族人做中国皇帝，对汉族传统礼乐，只能加入一些本族的旧惯例，不敢有较大的改变，如果改变较大，就会更显著地被看作“异类”而遭受反对。所以，礼乐有精神上的作用，任何封建朝代都得加以重视，隋文帝从来不喜欢儒学，但对礼乐的重视并不能例外。
东晋和南朝，虽然偏安在长江流域，北方占据者却不得不承认南方是华夏正统。魏孝文帝力求华化，恰好南齐高级士族王肃逃奔到北魏，魏孝文帝极为敬重，请王肃为魏兴礼乐，定制度，尽量模仿南朝。后来梁武帝制礼作乐，声望甚高，大得北方士族的仰慕，连高欢也害怕萧衍老翁。北方士族聚集在山东，北齐时，以邺为中心，文化比魏都洛阳时更高。北齐后主高纬，令薛道衡与诸儒修定五礼，按当时儒学水平来说，大概齐礼仅次于梁礼。至于苏绰、卢辩为宇文泰所造的周礼，在南朝和山东儒生心目中，只是一些陋儒的杜撰，距离正统礼乐甚远。隋文帝以恢复华夏正统为号召，当然要废弃周礼，依照梁礼及齐礼来修定隋礼。
五八一年，隋文帝下诏：祭天祭祖时冕服必须依照《礼经》。所谓依照《礼经》，就是采用北齐冕服。五八五年，命礼部尚书牛弘修五礼（吉、凶、军、宾、嘉），成书一百卷，下诏行新礼。牛弘等人不懂音乐，议定雅乐，积年不成。五八九年，灭陈，得南朝旧乐器及乐工。隋文帝听南朝乐，赞叹说，“此华夏正声也”。牛弘奏称中国旧音多在江南，梁、陈乐合于古乐，请修补以备雅乐。魏、周乐杂有塞外声音，请停止演奏。五九三年，雅乐成。六○二年，命杨素、苏威、牛弘等修定五礼，参加修定的有许善心、虞世基、明克让、裴政、袁朗等人，原来都是南方士族，显然，隋礼大量采用了梁礼。隋文帝并不懂得礼乐，这样做，目的在于从南朝接收华夏正统的地位。
刑律——五八一年，隋文帝命高颎、杨素、裴政等十余人修定刑律。裴政为主要修定人，上采魏、晋旧津，下及齐、梁，沿革轻重，务取平允。废除前世枭（音消xiāo斩后悬首于木上）、（车裂）、鞭等惨刑。除了犯谋叛以上罪，一概不用灭族刑。死刑分绞、斩二等；流刑分一千里、一千五百里、二千里三等，服刑最多不超过五年；徒刑分一年至三年五等；杖刑分六十至一百凡五等；答刑分十至五十凡五等。废前世审囚酷法，规定敲打数不得超过二百。枷和杖，大小都有定式。民有枉屈，得依次上告到朝廷。五八三年，因刑部奏，每年断狱数还多至一万件，隋文帝认为犯罪人多，由于律太严密，命苏威、牛弘等再定新律，删去死罪八十一条，流罪一百五十四条，徒、杖等罪一千多条，剩留五百条，制定：名例、卫禁、职制、户婚、厩库、擅兴、贼盗、斗讼、诈伪、杂律、捕亡、断狱凡十二卷。自此刑律简要，基本上为唐、宋至清各朝所沿用。大理寺设律博士八人，讨论疑狱，全国死罪囚，都得经大理寺复按。五八六年，废除孥戮相坐之法。孥戮见于《汤誓》，连坐创自商鞅，这种野蛮的刑法，至隋始废除，实是法律上的一个大进步。五九六年，规定死罪囚要经过三次奏请，才决定行刑。秦律残刻，汉沿秦律，直到南北朝一脉相承。隋定新律，标“以轻代重，化死为生”的律意，比秦、汉系刑律确有很大的改进。不过，在封建朝代里，法律的条文与法律的使用，有很大出入。隋文帝自己就在朝廷上律外杀官员，并且允许长官对属官，以律轻情（罪情）重为理由，杖责属官。皇帝和长官可以不守法律，官吏对民众能否守法，也就难说了。隋文帝定新律是有进步意义的，但律外施刑，却大大损害了新律的进步作用。
兵制——自魏末至齐，朝廷宿卫兵（鲜卑人）分为六坊。六坊也称六府。坊兵以战争为专业，完全脱离生产。五五○年，齐文宣帝挑选坊兵中最勇健的人，称为“百保鲜卑”，充皇帝的卫士。又挑选勇健汉人，称为“勇士”，充边塞要害地的守兵。字文泰在关中，人力财力都不及北齐，因此创行府兵制，来对抗北齐的精兵。府兵是挑选有勇力的农民充兵。平时，仍从事生产，并免本身租庸调，只在农闲时候受战阵训练。战时，邻居六家供给军需。府兵制既能寓兵于农，又有各级军官督率，自立军籍，不编入民籍，可以随时调发，比完全依靠军饷为生的坊兵制至少有省费的优点。五七三年，周武帝准备灭齐，招募百姓当兵，兔除民籍，《隋书·食货志》说，“是后夏（汉）人半为兵矣”。隋恢复兵农合一的府兵制度，归十二卫大将军统率。周武帝灭齐，坊兵制并无改变。五八�