，以代理下邳(今江苏睢宁西北)太守，自屯兵小沛，招兵买马，扩充实力，与朝中反曹势力遥相呼应。东海(今江苏郯城)变民首领昌稀等，及周围郡县纷纷归附刘备，刘备部队很快发展至数万人，又派使者与袁绍媾结联盟，形成对曹操的严重威胁。并击败了前来讨伐的司马长史刘岱和中郎将王忠，暂且取得徐州、下邳地区，作为休养和发展的基地。
建安五年(200年)正月，车骑将军董承等企图刺杀曹操的计划泄露，董承、王子服、种辑皆被屠灭三族，唯参与密谋的刘备侥幸逃脱，且势力越来越大。曹操亲自征讨刘备，刘备惊悉曹操军将至，亲率数十骑出城观察，果然望见曹军旌旗，只得仓猝应战，被曹军击溃，刘备妻子被俘。曹操接着攻陷下邳，迫降了。刘备则逃到邺城(今河北临漳西南)投奔了袁绍。
曹操赞赏为人，拜其为偏将军，礼遇甚厚。不久却觉察心神不定，无久留之意，便对与关系甚好的张辽说：“卿试以情问之”。张辽去问，叹息道：“吾极知曹公待我厚，然吾受刘将军厚恩，誓以共死，不可背之。吾终不留，吾要当立效以报曹公乃去”(《三国志·蜀书·传》)。张辽将的这番话转告曹操，曹操闻后，不但没有怨恨，反而认为他有仁有义，更加器重他。
建安五年(200年)，官渡之战爆发，二月，冀州牧袁绍调动十多万人马进军黎阳(今河南滑县东北)，征伐曹操并派大将颜良进围白马，攻东郡太守刘延，以保障主力渡河南进。刘延告急请援。四月，曹操为解除侧翼威胁，北救刘延。谋士荀攸建议：“今兵少不敌，分其势乃可。公到延津，若将渡兵向其后者，绍必西应之，然后轻兵袭白马，掩其不备，颜良可擒也”(《三国志·魏书·武帝传》)，曹操依行其计。袁绍闻曹兵渡河，果然分兵向西，挺进延津。曹操趁机引兵向白马疾进，及距白马10余里时，颜良大为震惊，仓促迎战。曹操派张辽、为先锋，率部进击。跃马阵前，远远望见颜良麾盖(大将所乘戎车，设幢麾、张盖)，直冲过去，在万众之中刺死颜