金朝建立，得到辽东渤海杨朴等人的支持，他帮助建立制度，筹划灭辽，所以金在建立政权之初，就已确定了继续抗辽灭辽和取而代之的方针。但是金与辽的战争前后有变化，大致可分为前后两个时期，前期是属于抗辽战争的时期，后期则为统一战争的时期。
攻占辽东京
金太祖完颜阿骨打即帝位后，坚持抗辽斗争。抗辽斗争的宗旨是致辽之罪，以义师征伐无道，这诚如在来流水起兵，申告于天地时所说：“世事辽国，恪修职贡，定乌春、窝谋罕之乱，破萧海里之众，有功不省，而侵侮是加。罪人阿踈，屡请不遣。今将问罪于辽，天地其鉴佑之。”
收国元年正月，金太祖亲自领兵进攻辽统治东北方女真族的重镇黄龙府（今吉林农安），首先攻下达鲁古城（今前郭尔罗斯蒙古族自治县的塔虎城），九月攻下黄龙府。辽天祚帝闻讯率契丹、汉军10余万向金军进讨，金太祖以2万兵迎战。两军战于护步答冈（今黑龙江五常西），辽军大溃，死者相属，天祚帝逃往长春州（今吉林大安西北），辽军主力被击溃，为南下夺取辽东京奠定了基础。
在辽军屡败的情况下，辽统治阶级内部不断发生叛变，各族人民起义和士兵厌战的情绪也不断高涨。当时辽国“军中汹汹，迟疑不行”，溃不成军。辽初对契丹人杀汉人从不加刑，但这时对本族人也不能再信任，“命汉儿遇契丹则杀之”。于是辽之军民纷纷向金归附。阿骨打兴师与天祚帝相反，对内则不断论功行赏，对来归附的各族人民也尽力安抚。收国二年正月，下诏：“自破辽兵，四方来降者众，宜加优恤。自今契丹、奚、汉、渤海、系辽籍女真、室韦、达鲁古、兀惹、铁骊诸部官民，已降或为军所俘获，逃遁而还者，勿以为罪，其酋长仍官之，且使从宜居处。”阿骨打在对辽的问题上有作战的长远打算，对所俘附的东京渤海人多行释放或留养，以便日后为其效用。这些政策在一定程度上得到渤海人等的拥护和支持，起到瓦解敌人的作用。
收国二年闰正月，辽朝的统治进一步分裂，渤海人反辽复国和归顺于金朝的浪潮更加兴起。东京渤海人高永昌据辽东京（今辽宁辽阳）反辽，称大渤海国皇帝，据有辽东50 余州，改元隆基。天祚帝派萧韩家奴、张琳等镇压，高永昌向金求援。高永昌的反辽复国，对辽朝来说是民族的分裂，削弱了辽的力量，有利于金朝，但高永昌复国终于要发展为地方的割据势力，对新兴起的金朝来说是所不能允许的，乘机进讨高永昌是金进军抗辽的一个组成部分。四月，太祖以斡鲁统内外诸军，与蒲察、迪古乃会同咸州路都统斡鲁古，合力讨高永昌。辽为阻止金军南下，派军6万攻昭散城（当在今吉林海龙东南）。金派阿徒罕、乌论石准击辽军，辽军大败，于是斡鲁南下攻沈州（今辽宁沈阳）、东京。五月，高永昌兵败被擒，东京州县尽为金所有，渤海、汉人、易苏馆女真归附，以斡鲁为南路都统。
攻取辽上京
天辅元年（辽天庆七年，1117），金军获悉辽在长春州和泰州（今吉林白城东南）方面没有任何准备，奏闻太祖。太祖决定派斜也取长春州，派宗幹、宗雄攻金山县（今黑龙江齐齐哈尔西），然后两路合攻辽西北重镇泰州。宗幹、宗雄所率领的攻取金山县的队伍，行近白鹰林，获辽哨兵七人，纵其一人回县城。县人闻金大军已到，不战自溃，金军顺利地占领金山县。宗雄以兵三千属宗幹，招集尚未降附的诸部。宗幹择选土人之有才干的，以诏书招谕，于是女古、脾室四部及渤海人都降，接着攻下泰州。
同年九月，辽为抵抗金军西进，招募饥民得2 万多人，其目的是使这些辽东人报怨于女真，叫做“怨军”，以渤海铁州（今辽宁盖县东北）人郭药师为渠帅。这时在辽统治的境内更加骚动。十二月，金军大举进攻，败辽军于蒺藜山（今北镇、义县之北），拔显（今北镇西）、乾（今北镇南）、懿（今彰武西）、徽（今阜新北）、成（今阜新西北）、川（今北票南）、惠（今建平北）等州。天辅二年正月，辽双州（今铁岭西）节度使张崇降。六月，通（今吉林四平）、祺（今辽宁康平东南）、双、辽（今新民东北）等州800余户来归。这时辽上京已处于被包围之势，辽朝的灭亡大局已定。在这种形势下，引起了金、辽、宋之间关系的新变化，从辽朝方面看大势已去，派太傅习泥烈来封太祖为“东怀国皇帝”，目的在于缓兵以求喘息；从宋朝方面看，见金势强大，辽即将灭亡，也在此时派使到金，约定与金夹攻辽。金太祖为把握灭辽的目标，同意与宋联盟。
天辅四年，金决意攻取辽上京（今内蒙古巴林左旗南），上京留守挞不野投降。天祚帝逃往中京（今内蒙古宁城西大名城），金班师。天祚帝在中京大定府，闻辽军败，“昼夜忧惧，潜令内库三局官打包，珠玉珍玩五百余囊，骏马二千匹”，准备逃跑。他还厚颜无耻地说：假若女真军来时，我怕什么，我有很多日行三百五十里的骏马，又与宋是兄弟，和西夏也是舅甥关系，两处都可以去，到那里也不失一生富贵。但当他又听到金军已班师未来进攻时，却又洋洋得意地说：“威德可加，彼何能为，复自纵肆。”这是一张令人可憎的丑恶的亡国者脸谱。
金破辽上京，捣毁了辽朝统治的中心，占有辽过半的土地，金抗辽斗争已取得彻底胜利，即将使金对辽的战争发生转折性的变化。天辅五年（辽保大元年，1121），辽都统耶律余覩来降，得辽虚实。耶律余覩降金，标志着辽契丹贵族内部的分裂，现在的形势已不再是抗辽，而是如何把统一（辽境的）战争进行下去的问题。由金太祖所领导的对辽战争，从此便转向第二个时期的灭辽统一战争。
连克诸京
金太祖以斜也为内外诸军都统，以完颜昱、宗翰、宗幹、宗望、宗磐为副，率大军伐辽。下诏：“辽政不纲，人神共弃。今欲中外一统，故命汝率大军以行讨伐。”又诏：“若克中京，所得礼乐仪仗国书文籍，并先次津发赴阙。”以前的对辽战争是“重吊伐之义”，与民除害，现在则是“欲中外一统”，得辽神器代而统治之。
天辅六年，金军攻克高（今内蒙古赤峰东）、恩（今赤峰南）、回纥（亦当在今赤峰一带）三城，取中京，进据泽州（今河北平泉南）。天祚帝逃往鸳鸯泊（今河北张北西北），斜也与宗翰分道追捕，天祚帝又逃到西京（今山西大同）。金军占领西京后，进而招降了天德（今内蒙古乌拉特前旗北）、云内（今土默特左旗东南）、宁边（今准格尔旗东）、东胜（今托克托）等州、军。原奔逃在辽的纥石烈部长阿踈被擒。天祚帝又逃入夹山（今萨拉齐西北）。六月，金太祖从上京出发，追击天祚帝到大鱼泊（当即鱼儿泺，今内蒙古克什克腾旗西达来诺尔湖），天祚帝又逃去。十二月向燕京（辽南京，今北京）进发，此时燕京小朝廷耶律淳已死，萧德妃出奔，燕京降。金占领燕京，一方面履行与宋订的和约，把燕京六州之地与宋。斡鲁、宗望等继续追捕天祚帝。另一方面，由于已占领原辽汉人的燕云地区，在统治制度上不得不适应新的变化作出新的改变，即在原辽汉人地区仍行汉制，由过去较为单纯的推行猛安谋克制，改为南北面的两种制度并存。天辅七年，金太祖以左企弓为枢密使，设枢密院于广宁（营州治所，今河北昌黎）；改平州（今卢龙）为南京，以张觉为留守，后张觉据南京城叛金，杀左企弓。
同年八月，金太祖死，弟吴乞买即位，是为太宗，基本上继承太祖事业，继续平定张觉，张觉叛军被宗望平定，张觉逃奔于宋。张敦固以南京降，复叛，阇母则执杀张敦固。宗望以平州为鉴，奏请不在汉人地区推行猛安谋克制，保留汉制，与知枢密院事刘彦宗共同裁决大事。
抚夏灭辽
金对当时西北的西夏没有出兵，主要是争取其对金称藩。天会二年（西夏元德五年），金太宗命宗翰、宗望与西夏商议割地议和，把下寨以北、阴山以南的原辽地割给西夏。西夏向金上誓表称臣，接受金朝的主属。
金太宗即位之初，对宋朝守太祖的命令，与西夏议和，这主要是为稳定南京（原平州）的形势以及进一步擒捉辽天祚帝，这是当时灭辽所需要的，也是为巩固金代辽而统治所需要的。金对宋不断派遣使臣通好。
天会二年（辽保大四年）十月，辽天祚帝想逃往天德军，进驻应州西余睹谷。完颜娄室派兵追击。天会三年三月二十日（1125年3月26日），天祚帝被擒，辽亡。金派李用和等充告庆使如宋。金封天祚帝为海滨王，居于长白山东，天会六年（1128）病死。
金灭辽后，继辽与宋对峙。金与辽不同，是个新兴起的政权，这个政权的出现和发展使当时南北双方的政治关系发生了新的变化。当时亦不再是金宋夹攻灭辽，而是金代辽与北宋的和战问题。金代辽而为宗主。