侯、北宫伯玉等人的邀请，起兵反叛。
况且他的女儿、女婿都是吴臣，他至于向什么皇长子效忠吗？
但他没想到的是，他虽然没有回信，但曹操却又给他写了一封信，而且这封信被马腾的斥候截获了。在这封信里，曹操信誓旦旦的说，就按你说的办，击败马腾之后，我就回益州，凉州就拜托文约了。
马腾大惊失色，立刻派人质问韩遂：你究竟和曹操约定了什么？
韩遂开始没当回事，拿出曹操给他的前两封信，并表示自己只回了一封信，没有和曹操做任何约定。可是他很快就发现这几封信中有多种解释，而他根本无法让马腾相信他的解释。
韩遂进退两难。他和马腾之间的联盟本来就不甚坚固，现在更是百口难辩。他很想抽身而走，以示自己对武都没有野心，但他偏偏又不能走。一是武都地理重要，一旦落入曹操之手，对他非常不利；二是一旦马腾怀疑他，他在凉州就孤立了，必然要面对马腾、牛辅和鲁肃的夹击。
万般无奈之下，韩遂提出一个解决之道：亲自进攻曹操，将曹操赶出武都，以证清白。
马腾很勉强的答应了，退守上禄，由韩遂率部赶往下辩，进攻曹操。他自己则为韩遂筹集粮草，随时准备接应。在与羌氐商量筹措粮