于是，关于“二十一条”的诸多条款“适时”地泄露出去，各大报纸都刊登出日本向中国要求秘密谈判的消息，甚至外国报纸的驻京访员也纷纷撰写长电回国。美国、俄国、英国都致电该国驻日公使，要求日本外务省提供中日秘密谈判的内容，尤其是日方提出的具体条款。日方在国际压力下，只好将其中较为普通的十一条以正式文书的形式通知各国。几乎就是在同时，段祺瑞对于日本的这次秘密谈判做出及时回应，他的回应非常简洁：不谈，开打。2月1日，段祺瑞联合冯国璋等十九省将军致电北洋政府：“有图破坏中国之完全者，必以死力拒之，中国虽弱，然国民将群起殉国。”2月2日，外交总长陆徵祥、次长曹汝霖等与日本驻华公使日置益、日本公使馆参赞小幡酉吉等人开始秘密谈判，在谈判过程中，日方不断使用外交讹诈、武力恫吓等方式相威逼，谈判一度陷入僵局。袁世凯不得不在3月19日召开对日会议，在会上，段祺瑞依然态度强硬，表示“二十一条”的所有条款均不能接受。4月26日，日方代表提出“最后修正案”，但也只做出了些微让步，此时国内反对“二十一条”的呼声日渐高涨，段祺瑞也更加公开地反对“二十一条”，于是，袁世凯和段祺瑞两个对比鲜明的政客形象开始出现：一个唯唯诺诺，一个振臂高呼。谈判进行得拖拖拉拉，5月2日，参谋总长黎元洪、陆军总长段祺瑞、海军总长刘冠雄率部远赴关岳庙宣誓，以示军人誓死卫国。