隋大业七年，募兵伐辽东，建德补队长。方如军，会邑人孙安祖盗羊，为县令捕劾笞辱，安祖刺杀令，亡抵建德，建德阴舍之。时山东饥，群盗起，乃谋曰：“往文皇帝时，天下盛强，发百万众伐辽东，犹为所败。今水潦为灾，民力囗敝，主上不是恤，而亲驾临辽。且往岁西征，十不一返，今创夷未平，又重发兵，人情危骇，易以摇动。丈夫不死，常建功于世，渠为亡命虏乎！我闻高鸡泊广袤数百里，葭阻奥，可以违难；承间窃出，椎埋掠夺，足以自资。因得聚豪杰，且观时变，以就大计。”安祖然之。建德为招亡兵及民无产者数百，使安祖率之，入高鸡为盗，安祖号“摸羊公”。
时鄃人张金称亦结众万余，依河渚间，蓚人高士达兵千余屯清河鄙上。诸盗往来漳南者多剽杀人，焚乡聚，独不入建德闾，郡县意建德与贼通，捕族其家。建德至河间，闻家屠灭，即率麾下二百人亡归士达。士达自称东海公，以建德为司兵。安祖为金称所杀，其下数千人归建德，众益盛，至万人，犹保高鸡泊。然倾身接物，其执苦与士卒均，由是能致人死力。
十二年，涿郡通守郭绚率兵万人讨士达，士达自以智略不及建德，乃推为军司马，以兵属焉。建德既统众，思用奇厌伏群盗，乃请士达守辎重，自以精兵七千迎绚，诈为亡状。士达取所虏，阳言建德妻子，杀之。建德遗绚书约降，请前驱执贼自效。绚信之，引兵从建德至长河界，欲与盟，兵懈不设备。建德袭杀其军数千人，获马千匹，绚以数十骑去，追斩于平原，献首士达，威振山东。
隋遣太仆卿杨义臣讨破张金称于清河，残党畏诛，复屯啸归建德。义臣乘胜欲遂入高鸡泊，穷划根穴。建德谓士达曰：“隋善将独义臣耳，新破金称，其锋不可当。宜引兵避之，彼欲战不得，军老食乏，乘之可有功。”士达不纳。留建德守壁，身将兵逆战，置酒享士。建德闻，曰：“东海公未捷，遽自矜大，祸至不日矣。隋兵胜，必长驱而来，吾不能独支。”乃留众保壁，帅锐士据险待。后五日，义臣斩士达于阵，追北薄垒，守兵溃。建德不能军，以百余骑走饶阳，饶阳无备，因取之。义臣已杀士达，谓余党不足忧，引去。故建德得还平原，收士达士死胔葬焉。为士达发丧，军皆缟素。招溃卒，得数千人，军复振，自称将军。初，他盗得隋官及士人必杀之，唯建德恩遇甚备，引故饶阳长宋正本为客，尊任之，参决军议。隋郡县吏多以地归之，势益张，兵至十余万。上谷贼王须拔自号“漫天王”，以兵略幽州，战死。其下魏刀儿号“历山飞”，壁深泽，众十万。建德以计袭取之，并有其地。
十三年正月，筑坛场于河间乐寿，自立为长乐王。
十四年五月，更号夏王，建元丁丑，署官属，分治郡县。
七月，隋右翊卫将军薛世雄督兵三万讨之，屯河间七里井，建德以劲兵伏旁泽中，悉拔诸城伪遁。世雄以为畏，稍弛备，建德率敢死士千人袭之。会大雾昼冥，跬不可视，隋军惊，遂溃，相腾藉，死者如丘，世雄引数百骑亡去。尽得其众，获河间丞王琮，劳遣之。琮复婴城，建德进攻未下，而河间食尽，闻炀帝遇杀，琮率吏发丧，乘城大临，建德遣使入吊，琮因请降。建德为退舍，饬馔具。琮率郡属素服面缚军门，建德亲释徽纆，与言隋之亡，琮伏哭极哀，建德亦为泣。麾下或言：“河间久拒守，多杀士，今力穷而下，请烹之。”建德曰：“琮，谊士也，吾方旌擢以励事君者。且往为盗，可妄杀人，今将安百姓，定天下，而害忠臣乎？”即令其军曰：“与琮隙者敢辄摇，罪三族！”乃授琮瀛州刺史。
始都乐寿，号金城宫，备百官，准开皇故事。冬至，大会僚吏，有五大鸟集其宫，群鸟从之。又宗城人献玄圭一，景城丞孔德绍曰：“昔天以是授禹，今瑞与之侔，国宜称夏。”建德然之。改元五凤，以德绍为内史侍郎。
武德元年，宇文化及至魏县，建德谓其纳言宋正本及德绍曰：“吾，隋民也；隋，吾君也。今化及杀之，大逆不道，乃吾仇，欲为天下诛之，何如？”正本等曰：“大王奋布衣，起漳南，隋之列城莫不争附者，以能杖顺扶义、安四方也。化及为隋姻里，倚之不疑，今戕君而移其国，仇不共天，请鼓行执其罪。”建德善之。即引兵讨化及，连战破之。化及保聊城，乃纵撞车机石，四面乘城，拔之。建德入，先谒萧皇后，语称臣。执宇文智及、杨士览、元武达、许弘仁、孟景等，召隋文武官共临斩之，枭首辕门；囚化及并其子，载以槛车，至大陆县斩之。
建德性约素，不喜食肉，饭脱粟加蔬具，妻曹未尝衣纨绮。及为王，妾侍裁十数。每下城破敌，赀宝并散赉将士。至是，得隋宫人尚千数，悉放去；其文武、骁果尚万余，各听所之。乃以诛化及报越王侗，侗封之夏王，遂号大夏。以隋黄门侍郎裴矩为尚书右仆射，兵部侍郎崔君肃为侍中，少府令何稠为工部尚书，余随才署职，委以政事。有愿往关中及东都者，恣听不留，仍给道里费，以兵护出于境。
二年，陷邢、赵、沧三州。复陷冀州，执刺史曲棱，赦之，复以为刺史。八月，陷洺州，虏刺史袁子干，遂迁都焉，更号万春宫。使人如灌津祠先墓，置守冢三十家。又遣使朝侗，因与王世充结欢，北聘突厥，士马益精雄。俄而世充废侗，乃绝之。始建天子旌旗，出入警跸，书称诏。追谥隋炀帝为闵帝，以齐王暕子政道为郧公。义成公主在突厥，遣使迎萧后，建德自将千余骑送之，并献化及首。
未几，连突厥侵相州，刺史吕珉死之。进攻卫州，执河北大使淮安王神通、同安长公主、黎阳守将李世勣，释之。复使世勣守黎阳，馆王、公主，馈以客礼。滑州刺史王轨为奴所杀，奴以首奔建德，建德曰：“奴杀主，大逆。纳之不可不赏，赏逆则废教，将焉用为？”命斩奴而返轨首，滑人德之，遂降，齐、济二州亦降。兖贼徐圆朗闻风送款。
三年，世勣自拔归国，吏白建德诛其父，建德曰：“臣勣，唐臣，不忘其主，忠也。父何罪？”释不问。高祖遣使修好，建德即以公主等归京师。尝执赵州刺史张志昂、邢州刺史陈君宾、大使张道源等，将杀之，国之祭酒凌敬谏曰：“夫犬吠非其主，彼悉力坚守，以穷就禽，伏节士也。今杀之，无以劝。”建德怒曰：“我傅其城，犹不下，劳费士旅，何可赦？”敬曰：“王之大将高士兴抗罗艺于易南，兵未交，士兴即降，王以为可乎？”建德悟，即释之。然其大将王伏宝数持兵，功略在诸帅上，或谗其反，建德杀之。伏宝临死呼曰：“我无罪，王何信谗，自刈左右手乎？”后战数不利。
九月，建德自帅师围幽州，为罗艺所败，艺乘胜袭其营，建德阵营中，填堑而出，败艺众，进薄其城，不能拔，乃还。济阴贼孟海公兵三万，据周桥城以掠河南，建德自击之。会秦王伐东都，其中书舍人刘斌献说曰：“唐据关内，郑王河南，夏有冀方，此鼎足相持势也。今唐悉兵临郑，出入二年，郑人日蹙。二国兵不解，唐强郑弱，势必举郑，郑灭则大夏有齿寒之忧。为大王计，莫若援郑，使郑抗其内，我攻其外，唐之兵必却，唐却而郑完，然后徐观其变。郑若可图，因而取之，并二国兵，乘唐师老，长驱而西，关中可遂有也。”建德曰：“善。”乃遣使聘世充，与连和，会世充亦自乞师，即令其臣李大师、魏处绘来朝，请解郑围，秦王留之不答。
四年，建德克周桥，虏海公，留其将范愿戍之。悉发海公、徐圆朗之众，并兵号三十万救世充，至滑州，世充行台仆射韩弘开城纳之。建德进逼元、梁、管三州，皆陷，遂屯荥阳。运粮溯河西上，舟相属不绝。壁成皋东原，筑营板渚。遣使与世充约期，又遗秦王以书。
三月，王进据虎牢。翌日，以骑五百觇建德营，设伏道侧，独以数骑去贼营三里，觉，贼出骑追之，王渐却，诱至伏所，卒起奋击。贼骑惊，引去，追斩三百级，获其将殷秋、石瓚，乃报建德以书。建德失二将，又闻唐兵精，得书犹豫，顿六十日不敢西。
时世充弟世辩为徐州行台，亦遣将郭士衡、兵数千人从建德，王遣王君廓以轻骑抄其饟，执贼大将张清特。建德惧，人情携骇，其诸将又新破海公，掠获盈给，日夜思归。凌敬说建德曰：“今唐以重兵围东都，守虎牢，我若悉兵济河，取怀州河阳，以重将戍之，然后鸣鼓建旗，逾太行，入上党，传檄旁郡，进壶口以骇蒲津，收河东地，此上策也。且有三利：乘虚扌寿境，师有万全，一也；拓土得众，二也；郑围自解，三也。”建德将从之，而王琬、长孙安世日请兵西，每言必流涕，又阴赍金玉啗诸将，以挠其谋。众乃曰：“凌敬书生，岂知战？”建德乃谢曰：“今士心锐，天赞我也，师将大捷。方用众议，不得如公言。”敬固争，建德怒，命扶出。其妻谏曰：“祭酒计甚善，王盍用之？夫自滏口道乘唐之虚，连营渐进以取山北，因招突厥西抄关中，唐必还师自救，郑难纾矣。今顿兵虎牢下，徒自苦，恐无功。”建德曰：“此非女子所知。且郑朝暮待吾来，既许之，岂可见难而退，且示天下不信。”
五月，建德自板渚出为阵，西薄汜南，属鹊山，亘二十里，鼓而前。郭士衡为游兵。秦王登虎牢城望其军，按甲不战，曰：“贼起山东，未尝见大敌，今度险士嚣，令不肃也；逼城而阵，有轻我心。待其饥，破之果矣。”日中，建德士皆坐列，渴争饮，意益怠。王麾军先登，骑怒，尘大涨，乃率史大奈、秦叔宝缠麾帜，弛出贼阵后，建德军顾而惊，遂大溃。建德被重创，窜牛口谷。车骑将军白士让、杨武威获之，传而西，斩长安市，年四十九。初，其军有谣曰：“豆入牛口，势不得久。”至是果败。
建德妻与其左仆射齐善行以骑数百遁还洺州。余党欲立其养子为主，善行曰：“夏王奄定河朔，号为威强，今一出不复，非天命有归哉？不如委心请命，无为涂炭生民也！”遂分府库散给将士，令各解去。善行乃与右仆射裴矩、行台曹旦率官属及建德妻奉山东地并传国八玺来降。建德起兵至灭凡六年。
赞曰：炀帝失德，天丑其为，生人辜，群盗乘之，如猬毛而奋。其剧者，若李密因黎阳，萧铣始江陵，窦建德连河北，王世充举东都，皆磨牙摇毒以相噬螫。其间亦假仁义，礼贤才，因之擅王僣帝，所谓盗亦有道者。本夫孽气腥焰，所以亡隋，触唐明德，折北不支，祸极凶殚，乃就歼夷，宜哉！