史載楊堅(jiān)出自關(guān)中高門弘農(nóng)楊氏，自稱是東漢太尉楊震十四世孫，其四世祖楊元壽被北魏任命為武川鎮(zhèn)司馬。
其父楊忠跟隨北周文帝宇文泰起義關(guān)西，因功賜姓普六茹氏，官至柱國、大司空，封隨國公。
死后追贈(zèng)太保，謚號(hào)桓。不過據(jù)陳寅恪的考證，楊堅(jiān)家族可能是山東寒族，其弘農(nóng)楊氏的身份應(yīng)出于偽托；而所謂楊元壽留鎮(zhèn)武川亦是宇文泰為籠絡(luò)部下感情而虛構(gòu)之事。
西魏大統(tǒng)七年六月癸丑夜，楊忠之妻呂氏于馮翊般若寺生下了楊堅(jiān)，據(jù)說當(dāng)時(shí)紫氣充庭，《隋書》記載。
當(dāng)時(shí)有一個(gè)尼姑對(duì)呂氏說，楊堅(jiān)此人不可與常人一樣撫養(yǎng)，所以尼將楊堅(jiān)帶到別館，親自撫養(yǎng)，幼年的楊堅(jiān)為人深沉少言，剛剛進(jìn)入太學(xué)的時(shí)候，即使是十分親密的人也不敢戲弄。
西魏恭帝二年楊堅(jiān)十四歲時(shí)，京兆尹薛善征辟他為功曹，翌年因?yàn)槠涓笚钪业墓诒皇跒樯ⅡT常侍、車騎大將軍、儀同三司，封成紀(jì)縣公。
西魏恭帝四年封為驃騎大將軍，加開府，北周武成元年北周明帝即位，授楊堅(jiān)為右小宮伯，進(jìn)封大興郡公。
武成二年周武帝宇文邕即位，楊堅(jiān)任小宮伯，出任為隨州刺史，進(jìn)位大將軍。后來被調(diào)任京城，在其母身邊侍疾三年，晝夜不離左右，都稱他純孝。
當(dāng)時(shí)宇文護(hù)執(zhí)掌朝政，非常忌憚楊堅(jiān)，多次想要謀害他，幸而有大將軍侯伏、侯壽等人的保護(hù)才得以幸免。
天和三年父親楊忠死后，楊堅(jiān)承襲隨國公的爵位，周武帝聘楊堅(jiān)的長女楊麗華為皇太子妃，對(duì)楊堅(jiān)更加禮重。
齊王宇文憲曾對(duì)武帝說普六茹堅(jiān)相貌非常，我每次見到他，都不覺自失，我怕他不會(huì)久居人下，要早早地除掉他。
武帝說楊堅(jiān)此人只可以作為一個(gè)將領(lǐng)，內(nèi)史王軌突然對(duì)武帝說皇太子赟將來并非社稷之主，普六茹堅(jiān)貌有反相。
武帝十分不悅說帝王自有天命在，旁人又能奈何，楊堅(jiān)知道后十分畏懼，行事小心謹(jǐn)慎，以韜光養(yǎng)晦。
建德四年楊堅(jiān)率水軍三萬，于河橋大敗北齊的軍隊(duì)，建德五年楊堅(jiān)跟從周武帝親征平齊，進(jìn)位為柱國，與齊王宇文憲一起在冀州大破齊任城王高湝，被封為定州總管，很快又轉(zhuǎn)任亳州總管。
宣政元年六月周武帝宇文邕死后，太子宇文赟即位，楊堅(jiān)的長女楊麗華被封為皇后，楊堅(jiān)因?yàn)槭腔屎笾赣謺x升為柱國大將軍、大司馬。
大象初年，楊堅(jiān)官任大后丞、右司武，很快轉(zhuǎn)任大前疑，周宣帝每次外出巡幸，都讓楊堅(jiān)在朝內(nèi)留守，當(dāng)時(shí)周宣帝制定《刑經(jīng)圣制》，法令極其嚴(yán)苛。
楊堅(jiān)因?yàn)榉顕?yán)酷，不是教化約束臣民的好辦法，向周宣帝強(qiáng)烈進(jìn)諫，周宣帝不聽。
楊堅(jiān)的地位和威望日益做大，周宣帝十分忌憚，周宣帝有四位寵幸的姬妾，與楊麗華一起為皇后，諸家爭寵，相互詆毀對(duì)方。
周宣帝發(fā)怒之時(shí)，對(duì)皇后楊麗華說一定要將你家滅族，于是召楊堅(jiān)入宮，對(duì)左右侍衛(wèi)說楊堅(jiān)的臉色稍有變化，就殺了他。
不料楊堅(jiān)到了宮內(nèi)，神情和臉色自若，于是周宣帝沒能殺了他。
最后，楊堅(jiān)想出了兩全之策，通過內(nèi)史上大夫鄭譯向宇文赟透露出自己久有出藩之意，這正合宇文赟的心意，當(dāng)即任命他為亳州總管。
這樣宇文赟放心了，楊堅(jiān)也安心了，他將任亳州總管時(shí)，龐晃勸他就此起兵，建立帝王之業(yè)，楊堅(jiān)握著龐晃的手說時(shí)機(jī)還不成熟啊，至此楊堅(jiān)取周自代的愿望溢于言表。
周宣帝宇文赟自幼生長于宮內(nèi)，不問朝政，沉溺酒色，滿朝文臣武將敢怒而不敢言，宇文赟不但不聽忠臣勸告，反而覺得這皇帝當(dāng)?shù)锰环Q心如意。
大成元年二月十九日，宇文赟下詔傳位于長子宇文闡，并改年號(hào)為大象，自稱天元皇帝，住在后宮，終日與嬪妃宮女們吃喝玩樂。
大象二年五月以楊堅(jiān)為揚(yáng)州總管，以籌備伐陳事宜，將要出發(fā)的時(shí)候，突發(fā)足疾，沒有立即出發(fā)，同年五月，周宣帝病危。
御正下大夫劉昉、內(nèi)史上大夫鄭譯偽造詔書，讓隨國公楊堅(jiān)接受遺命，輔佐朝政。
楊堅(jiān)當(dāng)上大丞相以后就開始了篡奪北周大權(quán)的計(jì)劃。周皇室諸王有很多有實(shí)力的藩王，楊堅(jiān)怕他們時(shí)刻會(huì)生變，以趙王宇文招將要嫁女于突厥為名將他們召來京師長安，防止他們反抗。
宇文赟在天德殿病逝，時(shí)年二十二歲，謚號(hào)宣皇帝，之后周靜帝拜楊堅(jiān)假黃鉞、左大丞相，百官皆聽命于他。
他以正陽宮為丞相府，以鄭譯為長史，劉昉為司馬，設(shè)置丞相府官僚，周宣帝時(shí)，刑政苛酷，人心崩潰而不歸附，朝野沒有堅(jiān)定的志向。
楊堅(jiān)任大丞相后，施政寬和，精簡嚴(yán)苛的法令，躬行節(jié)儉，天下之人心無不歸附于他。
大象二年六月北周宗室中有實(shí)力的趙王宇文招、陳王宇文純、越王宇文盛、代王宇文達(dá)、滕王宇文逌都到了長安。
相州總管尉遲迥自以為是北周的重臣宿將，看到楊堅(jiān)擅政心中不平，于是舉兵東夏，鄖州總管司馬消難、益州總管王謙相繼起兵響應(yīng)。
趙、魏之士，跟從的人非常多，旬日之間，就聚集了十萬兵馬，又宇文胄以滎州、石愻以建州、席毗以沛郡、毗弟叉羅以兗州為根據(jù)地，都響應(yīng)尉遲迥。
楊堅(jiān)命上柱國、鄖國公韋孝寬出兵打敗了尉遲迥，消滅了對(duì)自己有威脅的政敵，司馬消難南逃于陳朝，王謙也被殺死，楊堅(jiān)的這一勝利，穩(wěn)定了內(nèi)部的統(tǒng)治秩序。
雍州牧畢王宇文賢及趙、陳等五王，看到楊堅(jiān)平定了尉遲迥之亂，威望大增，圖謀作亂。
楊堅(jiān)捉拿宇文賢將其斬首，宣布趙王等人的罪行，下詔五王劍履上殿，入朝不趨，來安定五王之心。
接著便以謀反的罪名，先后殺掉了趙王宇文招、越王宇文盛、陳王宇文純、代王宇文達(dá)、滕王宇文逌等、清除了鮮卑族中的反對(duì)力量。
同時(shí)又拉攏元諧、元胄、宇文忻等部分鮮卑貴族，這樣就使楊堅(jiān)集團(tuán)改朝換代的計(jì)劃，不再受到任何阻礙。