霖之命，首先率马队一千五百人进驻奉天省城，设司令部于小南门万福客栈。

民国元年（1912年）1月1日，中华民国临时政府在南京成立，赵尔巽由清王朝的东三省总督摇身一变成了奉天都督，张作霖当上了第二十七师师长，汤玉麟任骑兵第二十七团团长。

民国二年（1913年）2月28日，汤玉麟升任第五十三旅旅长。

民国五年（1916年）4月，张作霖与冯德麟合谋赶走奉天将军兼巡按使段芝贵，袁世凯被迫任命张作霖署理奉天将军兼巡按使（同年7月改为奉天督军兼省长）。

张作霖在登上“奉天王”的宝座后，认识到再依靠几个绿林兄弟逞蛮勇已远远不够了，于是重用袁金凯、王永江、王树翰、孙百斛等一批文人治理奉天。

汤玉麟身为五十三旅旅长兼省城密探队司令，依然不改绿林土匪习气，他带头在公馆开设赌局，从中抽头。

他的部下也都目无军纪，横行街市，开设赌局，作奸犯科，欺压群众，敲诈勒索，土匪习气十分严重。

张作霖任命王永江为奉天省警务处处长，大刀阔斧地整肃军风军纪，依法缉拿违法乱纪官兵，并严令封闭赌局，矛头直指汤玉麟部。

汤玉麟对王永江极为反感。他认为天下是我们用枪杆子打来的，王永江凭什么管军人？

当王永江下令逮捕汤部不法者宗某时，汤玉麟怒不可遏，立即枪杀两名执法法警，造成军警冲突案，以此向张作霖施加压力，要求撤换王永江，遭到断然拒绝。

张作霖教训汤玉麟说：“枪杆子能打天下，光靠我们这些大老粗却不能治理天下，治理天下要靠人才，你们懂得什么！ 汤玉麟受到训斥后，很不服气。

民国六年（1917年）春节，按照惯例，二十七师、二十八师要分别请省城文武高级官员吃年茶以联络感情。

初五这天，二十八师请客没有请王永江。

初六这天，二十七师请客又没有王永江。张作霖在二十八师吃年茶时，没有见到王永江，觉得有些不对劲，二十七师吃年茶又没有见到王永江，不免有些恼火，忍不住问道：“为什么不请王处长？”

谁也没有吭声，张作霖接着又说：“二十八师不请王处长，我不好说什么，你们怎么也不请王处长呢？”

孙烈臣连忙打圆场说：“我们忘请了，改日再专请他吧！您别生气。”

张作霖厉声说：“我看上的人，你们就反对，我用定了这个姓王的啦