（此事载于民间私撰《魏略》）建安二年-建安三年（197年-198年），马腾和韩遂成为仇敌后，马腾率先攻击韩遂，韩遂败走。后韩遂又召集部下进攻马腾，杀死了马腾的妻儿（马腾结发妻子和嫡长子-待考），两人争战不休，谁也不能吞并谁。建安四年（199年），荀彧曾经告诉曹操：“关中势力分散，只有马超（一说马腾）跟韩遂的实力最强”。
让曹操劝服马超、韩遂。曹操于是上表任命钟繇为侍中、代理司隶校尉，持节督关中诸军，将后方事务委托给他，特别授予他不受制度拘束的权力。钟繇到达长安后，在凉州牧韦端协助下，致信马腾、韩遂等人，为他们陈述利弊祸福，马腾、韩遂都送自己的世子到朝廷为人质（马腾的嫡次子，马超不知名的兄弟）。建安五年-建安六年（200年-201年），曹操与袁绍展开官渡之战。
为安抚马腾、韩遂，暂时缓和后顾之忧，朝廷召拜腾为征南将军、韩遂为征西将军，允许他们开府辟召掾属，可此时的马超却未有一官半职。建安七年（202年），乘曹操进兵河北，关中空虚之际，袁尚派郭援与高干协同南匈奴单于呼厨泉大军略取河东，此时关中由司隶校尉钟繇镇守，势单力薄，于是钟繇写信给马腾、韩遂，述说其中的厉害关系，又派张既、傅干等人去劝说。
马腾于是派马超率领万余人入关中助战，朝廷任命马超为司隶校尉督军从事，讨伐郭援、高干等。郭援亲率大军渡过汾河时，马超率领自己的军队在郭援渡河过一半的时候截杀。作战过程中，马超的脚部中箭受伤，但马超没有退缩，用布裹住受伤的脚，继续领军作战，大破袁军，马超部将庞德亲手将郭援斩 杀，随后高干和单于呼厨泉投降。
这次的英勇作战，使得马超被后世称为“虎臣罴士”曹操担任丞相时，曾想招揽马超入朝为官，但马超没去，后来平阳大战胜利后，封马超为徐州刺史，但马超依旧没去赴任。于是曹操改封马超为谏议大夫。这场战役后，匈奴臣服东汉多年，未敢觊觎。而著名的“文姬归汉”，就发生在此战后不久。建安八年-建安九年间（203年-204年），马超随父亲马腾屯聚三辅，防备北边的胡族贼寇，东边的逆乱张白骑，善待士人推举贤才，怜悯救援百姓们的身家性命，三辅的人民都非常爱戴马腾军。
建安十年-建安十二年间（205年-207年），高干又召集旧部再次造反于并州，曹操派张既征集马腾、韩遂、马超等西方诸将，大破高干、张晟军，斩杀了反叛的卫固等人。朝廷召拜马腾为前将军、槐里侯、假节，马超也随父亲屯兵于槐里。建安十三年（208年），马腾一来与韩遂不和，二来觉得自己年老，在张既的劝说下入朝为官，被朝廷任命为九卿之一的卫尉。
马超的两个弟弟马休，马铁也被封奉车都尉、骑都尉，唯独马超留守凉州，被封为偏将军、都亭侯，统领马腾的部队，割据原来马家势力所在的“三辅”，依旧屯兵于槐里。建安十四年（209年），曹操与孙刘联军展开赤壁之战，鉴于马超和韩遂之间的博弈，虽然对曹操有威胁，却没有做出进攻曹操的行动。建安十五年（210年），周瑜跟孙权提出攻占两川联合马超围攻曹操，但计策未实施就病逝了，而周瑜的计划中并没有联合韩遂，足以说明马超当时在北方的威望和实力。
建安十六年（211年）三月，曹操派遣钟繇、夏侯渊率领军队出河东，试图经过马超等凉州军阀的领地进攻汉中张鲁，以马超、韩遂为首的关西军阀都怀疑曹操要攻打吞并凉州。马超料到这是曹操的假道灭虢之计，利用自己在关中西北的政治威望，联合凉州诸将起兵反抗曹操。率领十万人马（包括曾经击败斩杀李傕的张横、梁兴、安定的杨秋、河东的侯选、程银、李堪、马玩、成宜）推举韩遂为都督，屯聚于渭河、潼关，建列营寨。
曹操派遣曹仁率领夏侯渊、钟繇等前往拒守，因为忌惮精悍的关西兵，曹操下令让诸将坚壁固守，不要擅自进攻，等待曹操大军的支援。据《魏略》记载，起初，马超为了拉拢韩遂一起反曹时，为了尽量拉拢，凉州第一势力的韩遂，对韩遂说过“之前司隶校尉钟繇，让我进攻吞并韩将军，关东人的话不能再相信了，现在为了抵抗曹操吞并我们，我决定放弃父亲，以韩将军为父亲，韩将军也应当放弃儿子，以超为儿子”韩遂也对反对自己的女婿阎行说：“关中诸位将领不谋而合，似乎是上天安排的。
期间还曾拉拢刘雄鸣势力，但遭到拒绝，被马超率兵击破，投靠了曹操。七月，曹操率领中原大军亲自西征，与马超联军在潼关夹关对峙。八月，曹操从潼关北渡黄河，派遣徐晃、朱灵等率领四千人夜渡蒲阪津，马超知道后，派遣梁兴率领五千兵进攻徐晃，但被徐晃击退，徐晃占据河西设立营寨， 曹操亲自率军从潼关北渡，前队刚过，曹操和许褚以及虎士百余人断后，马超突然率领步骑万馀杀到，全军大乱，但曹操仍然坐在胡床上不起身。
