1681年，清政府最终平定了历时8年之久、蔓延半个中国的“三藩之乱”。两年后，清军进占台湾，统一全国。1684年，康熙帝下令开放海禁。南方的战争即将平息，康熙帝便于1682年春出巡东北，就抗击沙俄侵略事宜作出一系列部署：派遣副都统郎谈前往雅克萨附近，了解俄军状况，勘查从水陆两路进军雅克萨的路线；开辟沟通辽河、松花江和黑龙江的运河；在吉林和瑗珲间设立19处驿站，构成陆上运输网络；在辽河上游建造仓库，储存粮食；派遣户部尚书伊桑阿赴宁古塔，督造运输船只和战具；增置黑龙江将军，驻防瑷珲，统领从各地调集的军队就地屯垦；派出先行部队，扫除黑龙江中下游和各条支流上除雅克萨以外的所有沙俄据点。
谋定而后动。在一切准备工作就绪以后，康熙帝于1685年2月任命正红旗满洲都统彭春、副都统郎谈、班达尔沙、黑龙江将军萨布素等为统兵大员，正式发动对沙俄的北征。6月23日，清军约3千人由水陆两路进抵雅克萨城下。遵照康熙旨意，彭春遣人将康熙亲拟谕旨送往城内，要求俄军立即撤出雅克萨地区。城内俄军统领托尔布津执意恃城顽抗。25日晨，一队沙俄援军从上游赶到，未及登岸，即被清军全歼。是日夜，清军乘胜向雅克萨城堡发动凌厉攻势。经过彻夜激战，俄军力不能支，被迫出城乞降，退往尼布楚。
清军收复雅克萨后，摧毁了沙俄强建的城堡，旋即回驻瑷珲。不料，清军刚刚撤走，托尔布津又重新集结兵力，于当年8月再度窜犯雅克萨，在废墟上重建新城堡和防御工事，并四出侵扰周围地区。边警传到北京，康熙帝立即命令黑龙江将军萨布素再次率兵征讨。1686年7月18日，萨布素率清军2千余人逼近雅克萨，致信托尔布津，要求俄人恪守诺言主动撤军，为托尔布津拒绝。清军于是在城外安设炮位，连续数日向城内轰击。战斗进行到第5日，清军的一发炮弹击中城内塔楼，击毙正在楼上督战的托尔布津。城内俄军凭借坚固的工事和精良的火器，仍负隅顽抗。萨布素鉴于清军缺乏攻坚武器，决定停止强攻，改在城外挖长堑建土垒，围困俄军。围城战持续到1686年底，城内俄军已弹尽粮绝，由826人减少到150人。到第二年春天，城中幸存者只剩66人，雅克萨危城已旦夕可下。
但是两次雅克萨战役，清军虽在人数上都具备很明显的优势，却最终都未能攻进雅克萨城。尤其萨布素指挥的第二次战役，清军在进攻上遇到了极大的麻烦，战役进行得尤为吃力。
这一仗打出了太多的问题，大清国精锐武装力量由名将指挥，经过充分的战争动员，打一支半业余的俄国杂牌军。在战争后勤补给、群众基础，甚至战争士气上都占有绝对优势的情况下，居然历经一年不能结束战斗，唯一可以拿出来充当理由的就是俄军装备了这八百余支新式火枪……可以说这一仗打出了大清国的虚假繁荣。很可惜的是，在除鳌拜、平三藩、收台湾的巨大光环笼罩下，康熙帝没有能够认真地思索这个问题。几百俄军，装备几百条火枪可以把数千清军挡在城外，那么如果是他们手里的武器再先进些，人数再众多些呢?
在发动北征的同时，康熙帝一直没有放弃通过外交途径平息干戈的努力，先后委托荷兰访华使臣巴兹和葡萄牙传教士闵明我等，携带国书转交俄国沙皇，要求俄国派遣使团谈判边界争端。当时，俄国在西方为争夺波罗的海出海口正加紧与瑞典的战争准备；在南方1678~1681年的克里米亚战争刚刚结束，新的一场对土耳其的战争又处于一触即发之际；在东方，有限的兵力、军火和粮食用于巩固已占领的西伯利亚广大地区已显得捉襟见肘；在宫廷内部，权力斗争也日趋激化，政局极不稳定。面对现实，权衡缓急，沙皇政府决定在东方暂取守势，以保证向西方的扩张。
1686年11月，俄国信使魏牛高和法俄罗瓦来到北京，向清政府通报沙皇政府决定接受中国方面倡议，派遣使团进行划界谈判，请求解除对雅克萨的围困。康熙帝接受俄国请求，派遣御前侍卫马武等与俄使一同驰赴雅克萨前线，宣布停止攻城，等待谈判划界。1687年5月，围城清军后撤20里。8月，中国军队全部撤离雅克萨，战事到此结束。
1687年9月，以沙皇的御前侍官费·阿·戈洛文为全权大使的俄国代表团抵达贝加尔湖东岸。沙皇政府就谈判事宜先后向使团发布了三次训令。第一次训令颁发于使团出发前夕，规定了三套谈判方案：（1）以黑龙江为界，即占领黑龙江以北地区；(2)以牛满河或精奇里江为界，即占领黑龙江中游北岸；（3)以雅克萨为界，但俄国人得在牛满河和精奇里江地区渔猎。训令强调，如不能达到最低目标，则采取军事行动。这个训令避而不谈已为沙俄侵占的贝加尔湖以东和黑龙江上游的归属问题，反而企图在谈判桌上将俄国人在战场上没能抢到手的黑龙江中下游地区纳入俄国版图。使团行抵贝加尔湖后，收到沙皇派专使送来的第二次训令。时值俄国人在克里米亚对土耳其发动的战争中遭受重大挫折，为了早日稳定远东局势，沙皇政府指示戈洛文在上述三套方案不能为中国方面接受时，则提议中俄双方均不在雅克萨设堡、移民和驻军，以换取对俄国人占领尼布楚的承认。1688年7月，沙俄外交事务衙门派出的秘书官罗吉诺夫向戈洛文传达了沙皇的第三道训令，指示戈洛文如果清政府不愿在边境谈判，则授权罗吉诺夫直接去北京订立条约。俄方事先拟定了4个条约草案，其中第4个草案提出了俄国方面的最低条件，即答应撤出包括尼布楚在内的“达斡尔地方”（即黑龙江地区)。
1687年11月，戈洛文派信使柯罗文前往北京，通报俄国使团行止，建议以色楞格斯克作为两国谈判地点，要求中国政府迅速派出使团。康熙帝接到通报后，立即决定以领侍卫内大臣索额图为首席代表，率领中国使团前往色楞格斯克。在给使团的谕旨中康熙帝指出，沿江地区历来为我国边民居住之地，如不将俄人驱逐出境，边疆终不得安宁。他强调：“尼布楚、雅克萨、黑龙江上下，及通此江之一河一溪，皆我所属之地，不可少弃之于鄂罗斯”，要求收回被沙俄侵占的所有中国领土。
1688年5月30日，索额图使团从北京启程。7月初行抵喀尔喀蒙古的领地时，发生了一件意外的事情：厄鲁特蒙古的准噶尔汗噶尔丹，兴兵进攻喀尔喀蒙古的土谢图汗和呼图克图。使团北上的道路因战事被截断，索额图不得不折返北京，并派员通知俄国方面，延期改地再行谈判。
1689年初，罗吉诺夫受戈洛文派遣来到北京，和清政府商定改以尼布楚作为谈判地点。清政府立即组织了第二个谈判使团，仍以索额图为首席代表。针对噶尔丹叛乱后出现的复杂局面，为了阻止沙俄与噶尔丹勾结，避免陷入两线作战的不利境地，集中精力平定噶尔丹叛乱，康熙帝重新研究了对俄谈判方针，向索额图等指出：“今以尼布楚为界，则鄂罗斯遣使贸易无栖托之所，势难相通。尔等初议时，仍当以尼布楚为界，彼使者若恳求尼布楚，可即以额尔古纳为界”，要求中国使团在必要时不惜让出贝加尔湖以东的尼布楚地区，以便早日达成和议。
1689年6月13日，索额图使团再次离开北京，经过49天的长途跋涉，于7月31日抵达尼布楚，在石勒喀河南岸安营扎寨。8月19日，戈洛文率领俄国使团进入尼布楚城。经过两天的磋商，双方就会谈的时间、地点和方式达成了协议。
关于这次谈判要达成的任务，中方准备了三套预案。第一，以勒拿河至北冰洋为界。勒拿河的源头位置大致在现在的中国新疆边界以北。退而求其次，沿外兴安岭北支一直延伸到极北的大海深处。第三就是以贝加尔湖向北延伸进北冰洋。当然，朝廷还有最后的底牌，实在谈不拢，上述三地都可以不要，并让出尼布楚，收回雅克萨，以额尔古纳河和乌第河为界，保持黑龙江和乌苏里江流域的完整，保留包括库页岛在内的最东部国土。
8月22日清晨，两国使臣在同一时刻分从石勒喀河岸和尼布楚城中步入会场，举行第一次正式会议。会场设在距尼布楚城与中国木船停泊的河岸同样远近的临时搭建的旷野帐篷中。帐篷的俄国一侧，地上铺着鲜艳的土耳其地毯，桌上铺着华贵的波斯台毯，摆着精致的时钟和银制容器，戈洛文神志傲慢地南向坐在铺着黄缎面的安乐椅上。俄国人的用心在于先声夺人。中国一侧地上铺着席子，中间放着长条板凳，索额图和其他6名使臣端坐在长凳上，朴素、自然、没有任何华丽的陈设。帐幕外十俄丈处，双方各300名卫士携带刀剑斧钺列队两旁。河岸上和城墙下，两国各500名官兵严阵以待。双方使臣互致问候后，戈洛文先发制人，诬指中国军队侵犯沙皇陛下国界，诡称尼布楚、雅克萨等地自古以来即为沙皇陛下所领有，从未受过中国管辖，要求两国以黑龙江划界，江北归属俄国，江南划归中国。索额图断然拒绝了这个荒谬的方案，指出黑龙江流域以及贝加尔湖以东历来就是中国领土，要求以勒拿河和贝加尔湖作为中俄国界。双方就这两个方案辩论了一整天，没有获得任何结果。
8月23日，两国使臣举行第二次会谈。戈洛文初则坚持前议，继则抛出第2套方案，提出以牛满河划界，但中国方面必须承担俄国在雅克萨之战中的损失。按照这个方案，雅克萨以及雅克萨东南一千余里土地仍应让给俄国。索额图一方面明确表示不能接受这一方案，一方面主动作出让步，表示可以把尼布楚等地让归俄国，即在石勒喀河北岸，两国以尼布楚为界，南岸则以音果达河、楚库河、色楞格河为界。缺乏外交谈判经验的中国代表一下子就摊开了底牌，让出了尼布楚，戈洛文虽然感到喜出望外，但仍企图索取更高的要价，一口拒绝了中国的提议，并抛出了第3个划界方案：以精奇里江作为两国界河。这个方案与康熙预先划定的最后界线距离太远，索额图等不得不郑重声明：除尼布楚以外，再无别的边界可以接受。
为逼迫沙俄让步索额图当即传令，三军开拔，围困尼布楚！中俄会谈的形势急转直下，双方均开始备战，并不断有援军赶来。索额图命令萨布素起水陆各军三千人包围戈洛文部，清军将士在城外展旗列阵，戒备森严。尼布楚城内的哥萨克骑兵帕什卡·沙波尼科夫奉命出城打探情况，被协同清军作战的温科特人所部碎尸处死。两国武装冲突如箭在弦，一触即发。
在谈判陷入僵局的时候，中国代表团中的两个特殊人物，西方耶稣会士徐日升和张诚出面斡旋。他们往返于两国使团的营地之间，传达各自的建议、意见和驳辩，促成两国代表在会外继续接触。中国方面为了早日达成和议，先是提议以尼布楚以东的绰尔纳河为界，继而向东退让到格尔必齐河上，均未为俄国接受。俄国方面在中国一再退让之后，先是抛出了将雅克萨划归俄国，以东地区划归中国的提案，继而提议以雅克萨作为“中立地带”，两国均不驻军设防，也遭中国拒绝。
此时，俄使戈洛文还想做最后的抗争，他托人给索额图带信，称若是清军决议开战，沙皇也会尽快派重兵来，两国最终兵戎相见恐怕难出胜负。索额图回复：“俄国距此路途遥远，即便从雅克萨发兵，自有大军重重围阻，两年内绝不能开赴此地。”此时，清军在尼布楚城外集结各部一万两千余人，在这种情况下，戈洛文不得已提出让步求和。
此外正值双方相持不下之际，尼布楚附近爆发了当地布里亚特人和温科特人的反俄起义，直接威胁到俄国在贝加尔湖以东地区的统治地位。俄国使团迫于形势，不得不接受了俄军撤出雅克萨和以格尔必齐河作为两国边界的方案。中国方面也作出让步，同意将喀尔喀蒙古与西伯利亚接壤的中俄中段边界的划分问题，以及兴安岭与乌第河之间土地的归属问题搁置待议。
经过长达16天的艰巨谈判，中俄双方在一切重大问题上全面地达成了协议。9月7日，两国代表团举行第三次正式会谈。下午6时，中俄《尼布楚条约》签署仪式隆重举行，首先由双方使臣分别在条约的拉丁文正本并各自在以本国文字缮写的副本上签字盖印；随后由索额图和戈洛文代表两国使团庄严宣誓：永远信守条约义务；最后双方互换条约文本。仪式结束后，乐声大作，两国卫队鸣枪示天，欢庆中俄关系史上这一划时代的文献正式缔结。
