掌握政权之后便着手重建自己的军队，而这时保定陆军学校的校长蒋方震提出编练“模范团”以重整军威，袁世凯便采纳了这个意见。所谓“模范团”，就是从各师中抽调各级军官分别充当军官和士兵，建制为团，训练半年后派到各师充当军官，以改造优化军队中的军官结构。
最开始的时候，袁世凯打算让云南来京的蔡锷(日本士官学校的高才生，辛亥革命时任云南都督)担任“模范团”团长，但这一提议因遭到北洋系将领的反对而作罢。袁克定在听说此事后，便也想学习袁世凯当年小站练兵的经历，于是他就向老头子提出由他来担任“模范团”团长。袁世凯开始觉得不妥，袁克定便说自己在德国的时候，发现德国皇族在国内只能担任军职，不得干涉内政，这是一个值得效仿的好办法。
袁世凯到觉有这个办法有可取之处，于是找来徐世昌、杨士琦、杨度等人前来商议，一众谋士对建立模范团一事都表示同意。只是在团长人选上，袁世凯试探性地问道：“华浦要睡到中午才起床，芝泉也经常不到衙署办公，王士珍年纪又大，北洋暮气已深，实在难有可用之人。”
杨士琦笑道：“当年大总统可以破格提拔冯华浦和段芝泉，今天何妨不拘一格呢？人才有的是，大总统拣选一下就是了”