北周大象二年（580年）十二月十三日，杨坚为相国，总百揆；去都督中外、大冢宰之号，进爵为王；以安陆（今属湖北）等二十郡为隋国，赞拜不名，备九锡之礼。自魏晋以来，权臣篡位之前，都会接受这些殊礼，正是杨坚即将篡夺皇位的有力信号。杨坚还惺惺作态，只接受了王爵和十郡封地，假意推让掉其它殊礼。不过所有的人都很清楚，杨坚早晚要成为皇帝。
到了大象三年（581年）二月，杨坚终于忍不住废周称帝。他穿着黄袍登上皇帝的御座，成为中国历史上第一个黄袍加身的皇帝，并“定黄为上服之尊，建为永制”，从此中国皇帝身穿黄袍成为定制。之后，杨坚大赦天下，改元开皇，立国号为隋，史称隋文帝（隋文帝为谥号，庙号为隋高祖），为隋朝开国皇帝。
夺取皇位后，杨坚计划对付北周宗室诸王，以巩固皇权。群臣中只有宰相李德林一人劝阻。杨坚大骂李德林书生气，此后对李德林的信任减少。杨坚随即对北周宇文氏皇族进行了大肆屠杀，就连九岁的北周静帝宇文阐也没有放过。北周初年，民间有童谣唱道：“白杨树头金鸡鸣，只有阿舅无外甥。”静帝宇文阐为隋氏之甥，逊位而崩，诸舅强盛，正应了这句童谣。据统计，共有五十九名王子皇孙惨死。
比起历代开国皇帝得到至高皇位的艰辛，杨坚几乎是顺利得不能再顺利。对此，清代史学家赵翼曾评价说：“古来得天下之易未有如隋文帝者，以妇翁之亲，值周宣帝早殂，结郑译等矫诏入辅政，遂安坐而攘帝位。”。但对杨坚疯狂屠杀宇文氏皇族，赵翼则表示了非议：“窃人之国而戕其子孙至无遗类，此其残忍惨毒，岂复稍有人心！”所以后来杨坚五个儿子均不得善终，且隋朝为宇文化及（宇文化及与北周宇文氏同姓，但不同宗）所灭，均被视为天道的报应。
然而，即使有铁石一般的心肠，杨坚还是有一个最难面对的人——自己的女儿杨丽华（宇文贇皇后）。杨坚曾经说过：“公主（指杨丽华）于我有大功。”这大功显然是对杨坚登上摄政之位而言，到后来杨坚篡夺北周皇统，杨丽华则对父亲表现出了十足的愤慨。杨坚在女儿面前也觉羞愧，于是改封杨丽华为乐平公主，要求杨丽华改嫁。不料杨丽华誓死不从，改嫁一事就此作罢。杨丽华后在跟随自己的弟弟隋炀帝杨广巡游时病死在张掖。
登上皇位的这一年，杨坚四十岁，刚好步入了不惑之年。不惑的意思，就是明白。实际上，在中国历代皇帝中，杨坚被公认为才智最高的皇帝。
