1912年，赵尔巽为了拉拢张作霖对付革命党人，他对张作霖说道：“雨亭，你这样想是对的，我们都是皇帝的臣子，不竭尽忠心，而二三其德，能算人吗？你再看看那些革命党人蓝天蔚、张榕等，是日本留学生，吴景濂是京师大学毕业，人家能看得起你的出身吗？充其量也不过是利用利用罢了。”张作霖听后，则诚惶诚恐地对赵尔巽说道：总督大人叫我怎样干，我就怎样干！



1912年，老奸巨猾的东三省总督赵尔巽为了为了对付革命党人，一面把保安会的参谋总长袁金铠安排到革命队伍中当探子，打听详实，一面则是派袁金铠暗自对绿林出身的张作霖进行拉拢，



当时，袁金铠找到了张作霖，询问了他对张榕等人的看法，并问他将来会怎么做，张作霖则对袁金铠表示，他只总督赵尔巽得命令是从，此外什么都没有。



袁金铠听后，十分高兴，便带着张作霖去见东三省总督赵尔巽，将张作霖讲的话全部复述给了赵尔巽，赵尔巽听后，则十分高兴，便对张作霖进行了肯定和陈赞，张作霖则当即向东三省总督赵尔巽表忠诚。



这之后，三人便开始密谋除掉张榕，而张榕本人则对袁金铠、赵尔巽、张作霖三人的勾结则无觉察和警惕。


1912年1月23日，袁金铠出面邀请张榕赴大西关平康里的德义楼吃饭，席间袁金铠佯称张作霖有意参加革命，张榕为此十分高兴，便在酒席上，言语相劝张作霖能够参加革命，酒宴完毕后，袁金铠先前告辞，让张榕与张作霖二人继续到蜚红馆继续详谈革命事宜。



于是乎，张榕与张作霖二人便来到了蜚红馆，到了地之后，二人聊了一会儿，张作霖借故说自己有要事要处理一下，便先行离开，留下张榕一人待在蜚红馆。


而就在张作霖前脚走了没多久，突然从屋外走进来两个士兵，这两个士兵向张榕行礼，张榕以为这两个士兵是来找张作霖的，便对他们二人说道：“你们统领刚走。



然而就在张榕刚将这句话说完，这两个士兵突然脸色一变，将手中的枪支掏出，对着张榕突然开枪，张榕猝不及防，来不及躲避，被击中而亡，时年仅仅28岁。




原来这两个士兵都是张作霖事先安排好的，待张作霖先行离开，这两个士兵才冲了进来，开枪将张榕打死。



张榕被赵尔巽、张作霖，袁金铠合谋暗杀。他的尸体曾没有人收殓，过了好长一段时间后才被收殓下葬。



民国成立后，南京临时政府为张榕举行了隆重的追悼会，孙中山先生赞誉他为“关东革命第一人”，表彰他为东北民主革命做出的牺牲与贡献。