东北三省从清朝末年以来，就以生产土匪闻名。这有它的历史根源。它是甲午、庚子两次战乱的产物，是清朝反动统治黑暗腐败、对人民残酷压迫和剥削，以及日、俄帝国主义对东北侵略和荼毒所造成的结果。
东三省的土匪多数骑马，所以又叫马胡子。它有反对反动统治的一面，但也有危害社会秩序、破坏生产力的一面。清末东北的绿林，主要形成于甲午、庚子以迄甲辰这10年之间。其所盘踞的地区多在辽河下游及辽西各县，也就是甲午、庚子以及甲辰各次战乱的受害严重的地区。由于兵灾之后，地方糜烂，田野荒芜，民不聊生，社会上呈现极度动荡不安的状态。一些游手好闲的青壮年就要铤而走险，同时，战后的一些散兵游勇流散到社会上无所事事，这也是产生胡匪的一大来源。于是就有别具野心的不逞之徒利用这个机会，竖起绿林的旗号，啸聚徒众，称霸一方，俨然形成了独立王国，为所欲为，莫可谁何。
当年，啸聚辽宁一带的匪众主要分为以下几帮：
首先是趁火打劫、浑水摸鱼的冯麟阁。冯是海城县的衙役出身，为人贪残狠毒，利欲熏心，他看到社会动荡不安，认为有机可乘，就趁火打劫，浑水摸鱼。为了欺骗群众，笼络人心，他打起杀富济贫的幌子，纠合地方上的流氓赌棍、散兵游勇等在盘山县的田庄台、辽中、台安、锦州、彰武一带横行霸道，抢劫淫掠，为害一方。解放后为我人民政府镇压的大汉奸张海鹏和曾当过绥远都统的汲金纯，都是他得力的助手。他的徒众经常有百八十人出没各地，最多时能啸聚到几千人。
第二是骄横强悍、独树一帜的杜立山。杜是辽中县人，家境贫困，为人豪爽。据说，他有8个老婆，都非常剽悍，杜和他的老婆都能骑马打枪，百发百中。他在辽中县能纠合徒众千余人，枪马俱全，自立一帮。杜在各匪首中是最年幼的一个，但他的势力最大，声威最盛。伪满有名的汉奸于芷山，原来就是他手下的健将。
第三是具有政治野心的张作霖。张本是宋庆所部毅军的一个骑兵小头目，跟兽医官学了些兽医知识，退伍后回海城县高坎村开一小兽医庄。他因经常给各匪帮医马疾，因而同各匪帮都有所接触，到后来社会上都说张作霖是匪徒的窝主，所以也就迫使他走上了绿林的道路。当时张的势力同其他各匪帮比较起来，还是很薄弱的，徒众最多不过数百人。但张的几个助手都很强悍，如曾经毒害热河老百姓的热河都统汤玉麟(绰号汤二虎)、曾当过察哈尔都统和伪满内阁总理的张景惠和曾做过吉林督军的张作相等都是张作霖的得力助手。汤玉麟在捕盗营当兵，原是个赌棍出身，为了闯光棍，用烧红的铁通条烫自己的肋骨，眉头不皱，谈笑自若；张景惠原是个豆腐匠，后拉起一小帮；张作相是泥瓦匠出身，在锦州也拉起一小帮。后来他们都投到张作霖的旗帜之下，入了大帮。张作霖在帮中本来是后起，他的势力所以扩展得那样快，和他手下这三员健将是有直接关系的。
第四是认贼作父、卖国求荣的金万福。金原是小站北洋新军的一个小头目，因过不惯军队的纪律生活，回到家乡海城县后，见到当地土匪势力很大，而且可以为所欲为，于是就纠合一批流氓、恶棍、赌徒等成立匪帮，自己当上了头目。但他因为人少力弱，便拜冯麟阁为老大哥，等于冯麟阁的一个别动队，惟冯之马首是瞻。
第五是混入匪帮进行间谍活动的日本人王小辫子。所谓王小辫子，就是甲午战争时在旅顺口被杀死的日本间谍田老二的同伙“王老板”(日本名字已记不清了)，他是甲午战争后日本潜伏下来的特务机关长。另有一个助手叫林大辫子，日本原名叫津久居。他们都是日本现役军官，潜伏在中国作间谍活动。两人和众匪首拉拢勾结，为各匪帮供应枪械子弹等，自己也成立一小帮，跟着各匪帮活动。
以上这几帮马胡子都是在庚子前后生成和发展起来的。冯麟阁的资格最老，除金万福拜他为老大哥外，杜立山和张作霖都算是他的晚辈。杜立山有个本族叔父名叫杜泮林，是辽中县的一个举人，给众匪首出谋划策，俨然是他们的军师，除因年龄关系，和冯麟阁以弟兄相称外，张作霖、金万福都拜他为义父。各匪帮初起时，抢劫财物，烧杀淫掠，无恶不作。庚子以后，他们的做法有所转变，基本上是各据一方，各有自己的势力范围，已不以一家一户的抢劫为主，而是与地方富绅、地主勾结，并与官吏互相默契，各在所盘踞的地方实行保险，即保证在所保险的界内不发生绑票抢劫案件，而由界内居民按月摊派一切费用。这样，地方上虽然可以苟安于一时，但是劳动人民的负担就越发沉重了。
甲午战争后，东三省成为帝俄和日本两大侵略势力的角逐场。日本因被帝俄联合法、德两国强迫归还辽东半岛而始终不甘心，一直在进行阴谋活动，想实现它的所谓“大陆”政策。因此，日本秘密派遣现役军人潜入东三省及内蒙等地勾结和组织土匪，并挑拨汉、蒙族之间的关系。王小辫子就是负有勾结和组织土匪任务的一个现役军人。在甲午战争前，他是在旅顺口和山东威海卫一带刺探我国海军情报的大间谍。战后，他又混入东北匪帮之内，极尽拉拢勾结利用之能事。他的助手林大辫子是日本士官学校学员，辛亥革命前曾自称是关东厅守备队驻瓦房店的一个联队长。王、林两人为勾结和利用土匪所下的功夫很深，所起的作用也很大。王小辫子和冯麟阁、张作霖结为盟兄弟，金万福因与冯的关系也常同王接触，后来成为密友。这几个匪首都称王为大爷，惟杜立山不然。杜与王不相往来，因为杜立山的第三个老婆王氏就是甲午战争时在小平岛杀死日本间谍田老二的那个英雄女子。他在众匪首宴会中见到了王小辫子以后，王氏即将王小辫子的一些情况说给了杜立山，所以杜对王小辫子始终保持着警惕，拒绝和他接近。
杜立山虽是冯麟阁的晚辈，但他与冯的关系比较深，冯对杜也较亲近。杜曾劝冯说：“王小辫子是一个日本间谍，他所以要混到我们这里来，是不怀好意的；我们过去不得已走上了土匪的路，这已经是很难看的了，再受日本间谍利用做个卖国贼，那岂不更是留骂名于千古吗！”后来，冯把杜劝他的这番话告诉了金万福。金听后，一方面在表面上对冯进行敷衍，另一方面对王不但不戒备，反而更加密切了。王听到金的诉说后，更是利用种种手段把金紧紧地笼络在他的手中，使金完全听从他的摆布。金在王的吹拍之下，更加得意忘形地劝冯说：“人生在世，总要有个出头露面的日子吧，我们搞这种勾当，到什么时候才算完呢？这能有什么好下场呢？”接着他就把王的情况介绍给冯，说：不错，王确实是个日本人。他因为在军队中犯过错误，不愿回日本，就流落到这里和我们混在一起。我虽然和他认识在后，但是他很相信我，对我无话不说，可说是相印以心。他过去在陆军中当过将官，有好多同学同事和三井洋行老板有关系，我们和他多接近，不但现在的枪械子弹容易解决，而且将来我们缺钱有钱，缺人有人，哪里有这样好的借重呢！我看我们应该想开一点，日本固然是中国的仇敌，但这和我们个人又有什么相干呢！我们要为自己的前途打算，不要听杜立山这个小子胡说八道。杜立山耳朵软，听老婆的话就信以为真，太没有汉子气了。我们应打定个人的主意，不要三心二意，摇摆不定。金的这番话虽然打动了冯的利欲念头，但杜立山劝说他的话已先入为主。是留骂名于千古呢，还是贪图快意于一时呢？冯一时难于决断，因此对王小辫子也就采取不即不离、亦即亦离的态度。
后来，杜立山的忠告终究未战胜日本间谍处心积虑的勾引，冯麟阁对王小辫子虽然存有戒心，但仍逃不出王的魔掌。金、冯两个匪首终于在日本的指使下，出动他们的骑匪破坏东清铁路工程，并扬言除非帝俄拿出巨额代价，否则绝不停止扒路活动。帝俄侦知这种情况，派便衣人员设法把冯捕去，押赴西伯利亚下狱，但为时不久，又由王小辫子收买中国通事(即翻译)刁义廷从西伯利亚监狱中把冯营救出来。冯回到奉天，仍旧干他的老勾当。从此以后，冯、金同帝俄结下了深仇，却一头扎进了日本间谍王小辫子的怀抱。
甲辰日俄战争中，日军在辽阳南首山一役遭俄军抗击，屡攻不下，伤亡惨重，结果利用冯麟阁、金万福所部骑匪数千人组成了所谓“忠义军”(当时人称为花膀子队)，从辽河以西挺进，抄袭首山的右侧背。俄军出于不意，放弃首山，向北败退。日军乘胜长驱北上，俄军一败涂地，不可收拾，日俄战争胜负之局，由此也就决定了。冯、金两匪部帮助日本袭击俄军，使首山战役转败为胜，因而决定了整个战局，立下很大的功劳，日本天皇奖赏他们两人宝星勋章，并电请清政府将这两个匪首收编重用。不久冯、金两人就被清政府擢用为奉天省巡防营统领和帮统。虽然如此，冯麟阁多少总还有一点民族气节，以后渐渐地与日本疏远下来，惟有金万福一心甘愿作汉奸，所以他的帮统衙门里用了大量的日本顾问为其出谋划策。金所部巡防营驻在铁岭、开原一带，常在辖区内兴风作浪，敲诈撞骗，设赌抽头，在奉天绑票勒赎，不过是由土匪变成了官匪。
张作霖对各匪首均采取不即不离的态度。他是个机警过人、别有野心的人物。庚子变乱之后，他看到这样干下去是不会有好结果的，就同张景惠等几个得力伙伴计议说：“我们长此在绿林中吃黑饭，前途暗淡，是毫无出路的。我看不如用我们现有的这点实力作本钱，向官家讨价，弃暗投明，总比这样继续干下去有些出路。”当时他的几个伙伴都表示同意，并且说：“只要当家的(匪中黑话，即首领之意)有好办法，打定主意，我们无不惟命是听。”张接着说：“只要大家愿意，我自有道理。不过在未实现以前，必须严守秘密，如果泄露出去，不但事情要失败，而且更要被绿林朋友耻笑。你们也许听说了吧？盛京将军增祺前些日子已派人去关内接家眷来奉天，这就是我们的大好机会。将来增的眷属从此经过，我们要连人带物都给劫下来，但不准乱动，到时听我的命令行事，违者就要以手枪相见。”
果然，不久增祺的老婆和随护人员乘着十几辆马车行至新立屯附近一条荒僻路径，就被张作霖早已埋伏的匪众截住，将大小官弃所携带的枪械子弹以及数十件箱柜全都劫了下来，连人带物一并押解到新立屯街上。他们把掳来的人员车马都安顿停当，单给增的老婆和她的贴身侍者安置在一间很好的房舍里，并用最好的鸦片烟款待增的老婆和随行人员。这些人看到这帮土匪非常温和，很容易接近，心中有些莫名其妙。张作霖又亲身招待随行的几个重要人员躺在床上吸鸦片烟，还表观出唉声叹气的样子，并说：“咳，现在我们的国家如此软弱，受尽了外人的欺凌，真使我有说不出来的伤痛！我们所以当上土匪，也是被逼上梁山的！”增太太的随行人员，看到张谈吐如此文雅和满腹牢骚的情景，料定其中必有文章，其中一个比较有地位的人搭讪说：“我们很同情你的处境，我想我们将军来到奉天一定会有办法的，你们也一定会有出头露面的那一天。”接着又说：“请原谅我不懂规矩，不知道应该怎样称呼，请问您贵姓？”张答说：“我就是张作霖。”这几个人一听是张作霖，倒抽一口冷气，一时都很愕然。这些人过去听说张作霖是奉天著名的匪首，生得身魁力大，面貌凶恶，今天真个见了面，却是这样一个儒雅温和、文质彬彬的二十六七岁的青年，暗中觉得有些诧异。张作霖接着就把自己的身世和为什么会走上绿林这条路的前因后果，很坦率地说出来，言下流露出一股愤懑不平之意，并故意对盛京将军增祺表示怨恨，说增到任不久，不弄清真假虚实，就要严拿法办，使我们有口难辩，不过我们干这个勾当早已将生命置之度外了。那个随员接着说：“依我之愚见，长此同官家作对，毕竟是没有好处的。为了个人的前途，我看你们弃暗投明，才是正路。”随后又问张：“假如有这样的机会，尊意如何呢？”张回答说：“我已说过了，我们是万不得已才当上土匪的，假如能得到机会为国家效命，是正合我们心愿的。不过听说增将军这个人很固执，我们现在还很难使他改变态度。”张接着又问：“你们究竟是哪一部分的？那位太太又是谁？请放心，我们保证不会加害你们。”带头的那个人思索片刻说：“待我回禀太太一声，取得她的同意再同你谈。”这位随员立即去见增太太，把和张作霖的谈话经过述说一遍。增太太当时考虑，一来为了解除眼前急难，二来为了替增祺去一地方治安的大患，论公论私都应见张一面。她和随行人员商议决定之后，准备与张一见。张入室行了个大礼参拜，低首站立着说：“张作霖冒犯夫人，愿听吩咐。”增太太看张对自己很恭敬，也很谦逊，就对他说：“我明白告诉你吧，我就是增将军的夫人。我们这次是由京城来到奉天，路过此地。我原在省城时，就听说绿林各帮与增将军为难，特别是你的声名最大。现在路上巧逢，想不到你这样对待我们。适才听到随行人员报告关于你过去的一切和你的愿望，我很同情你。我看你是一个很有为的青年，而且又有这样一部分力量，假如你能很快地改邪归正，弃暗投明，前途一定是不可限量的，我想你一定会愿意这样做吧？只要你能保证我们一行平安到达奉天，我也保证向增将军建议收编你们这一部分力量为奉天地方效劳，既有利于地方治安，你们也有了出路。你看这样好吗？”张立即称谢，并说：“假使我张作霖能带众弟兄投到增将军麾下，为国家效命，有生之日决不能忘掉增太太的大恩。”随即辞出与张景惠等说明，并命令匪众把所劫的东西连同枪械子弹照数交还随行人员查点清楚，寸草未动。增太太和随行人员更大受感动，并拿出5锭纹银赏给张的部众。张婉言谢绝说：“只要我们有出头露面的一天，那就殁世难忘了。”增太太一行人等随即离开新立屯，平安回到了奉天。
