本来徐世昌主张由李纯担任，皖系全力反对，梁士诒也被安福系反对。
段想要王揖唐担任，王是安福系首领，西南护法就是反对安福国会，王揖唐自然不是一个适当人选。
徐世昌也不同意王揖唐为代表，称王是众议院议长，与梁士诒是参议院议长同样不适宜于担任议和总代表。
最后徐接受了梁士诒的意见。梁北返前在香.港曾和唐绍仪见过面，唐表示朱启钤是个适当人选。徐便提出朱为总代表。
王揖唐和朱启钤都是徐世昌的拜门学生，王后来变成段的死党，而朱则是旧交通系，所以和徐仍保持良好关系。
对于朱启钤为北方总代表，也曾遭致西南方面一些人的反对。
南方非常国会中约有一百名议员联名通电指责北方增兵陕、闽两省，缺乏和谈诚意；同时认为朱启钤是安福国会的副议长，又是洪宪王朝的帝制犯，表示反对。
南北双方既然在和谈前意见分岐而不能调和，因此和谈的进度非常迟缓。
这时，五国公使在北京接触频繁，准备向南北双方提出措词严厉的第二次劝告。
这个消息传出后，使段和主战派大感不安，南北的主和力量大为增加，议和问题才得急转直下。
一九一八年十二月二十九日，北方议和代表团朱启钤、吴鼎昌、王克敏、施愚、方枢、汪有龄、刘恩格、李国珍、江绍杰、徐佛苏等十人由北京动身南下。南方议和代表团唐绍仪、章士钊、胡汉民、缪嘉寿、曾彦、郭椿森、刘光烈、王伯群、彭允彝、饶鸣銮、李述膺等十一人也于一九一九年一月二十五日到达上海。
上海和会于一九一九年二月二十日上午开幕，旧德国总会会场这天布置一新，南北总代表各引所属代表鱼贯入场，相对而坐。双方代表多为旧识，如今相聚一堂，各有不同心情。
开会后先由南方总代表唐绍仪致辞说：“国内战争至今日告一结束，但推厥祸源，外力实有以助长之，旧武人派苟不借助外力，则金钱无自来，军械无从购，兄弟阋墙早言归于好矣。何至兵连祸结，延至今日，使人民痛苦，至于此极。今北方已经觉悟，开诚言和，舍旧谋新，请自今始！”
北方总代表朱启钤也接着致辞说：“民国成立以来，国家政权多握于武力派之手，故战争纷乱，迄无宁岁。迩者时势所趋，潮流所迫，将化干戈为玉帛，换刀剑以赎牛，一切干羽戈矛，皆应视为过去陈旧之骨量。从此战争当无从再起，和平统一，请视诸斯！”
南北代表致辞后，双方全体代表遂起座向国旗行礼，并欢呼中华民国万岁，和平统一万岁！然后进茶点，略作寒暄而散。
二十一日正式开会，南方总代表唐绍仪首先提出陕西停战问题，双方共同推定了久居陕西的山西人、旧国会议员张瑞玑到陕西监督停战。
北方总代表朱启钤承诺立即电告北京政.府切实办到陕西停战，如果不能办到，北方议和代表愿意全体辞职以谢国人。双方代表决议催促张瑞玑兼程赴陕执行监视职权。
二十二日唐绍仪又提出停止参战借款，取消参战军和宣布中日密约等问题，朱启钤也当即承诺电达北京政.府请示。
朱出发前，徐世昌一再叮嘱他努力促成议和，因此在态度上对南方表现得很迁就，姿态也很高。安福系本就反对和谈，便借此大做文章，提出朱的意见不能代表全体，这就使得朱的处境愈发艰难。
在和会开始时，西方外交团也对北京政.府发出质问：为什么世界战争已经停止，中国还要招募参战军？是不是用以对内作战？
二十二日北京政.府答复外交团说：中国已经进行和议，不会再有内战。
徐世昌借了外交团有压力，劝段祺瑞将参战军移交陆军部管辖。因为陆军总长靳云鹏也是段系的大将，段没表示反对，但却遭到段的另一位大将，和靳云鹏水火不容的徐树铮的坚决反对。
这时候，徐世昌曾拟就一套裁兵计划。全国军队有一百三十八万人，军费占去国家财政收入的五分之四，这种负担，是任何一个政.府都无法承受。
徐的计划是在和平实现后，统一的中国即向国际银行团借款裁兵，把全国军队缩减为五十万人。裁兵完成后，进一步实行军民分治，军人不得兼任省长。这个计划既可减少军费支出，又可以削弱地方，加强中央政.府的控制力。
徐树铮毕竟足智多谋，他针对徐世昌的计划，向段献策，提出“保存参战军用以监督裁兵”。这样既可以拒绝南方取消参战军的要求，又免外交团的责难。
南方代表要求停止继续参战借款，段自然也不肯答应，徐世昌无力反对。因此，北京政.府以财政困难，军费无着为理由拒绝了南方的要求。
关于陕西的情况，由于南方代表和陕西靖国军方而没有直接的联络，陕西靖国军和南方代表通消息只能靠邮局寄递。
唐绍仪在二月下旬所接到靖国军的报告还是这个月上旬寄邮的。
根据这些报告，北军管金聚部由凤县攻占宝鸡，继续向凤翔进攻。奉军由潼关、吊桥移向兴平、武功。刘镇华的镇嵩军则进攻盩厔。张锡元部则进攻渭南。
这说明徐世昌虽然下过停战命令，陈树藩部阳奉阴违，并未执行。而段祺瑞则继续透过参陆办公处调兵遣将。
二月二十五日唐绍仪因为陕西战争并未停止，所以向北方代表团提出严厉的质询，要求撤换反停战协议、破坏和平的陕西督军陈树藩。
二十六日唐绍仪又接到靖国军一月中旬的报告靖国军在北军强大的攻势下，先后退出乾县、盩厔、郿县、扶风。同时北军还向凤翔、岐山、蒲城、富平进攻。
南方代表团大为震动，乃宣布北方不履行停战诺言，从二十六日起停开正式会议，改开谈话会。同时郑重向北方声明，在北京政.府未撤换陈树藩以前，不讨论其它案件。