后来，曹休经常跟随曹操四处征伐，曾在“天下骁锐”的虎豹骑中担任宿卫之职。

建安二十三年（218年），刘备率领诸将起兵攻汉中，另派遣将军吴兰攻击下辨。

曹休遂被任命为骑都尉，与议郎辛毗一起担任主帅曹洪的参军，且和偏将军曹真、雍州刺史张既等随曹洪进军征讨。

曹操在出征前对曹休说：“你虽名为参军，但就是这支军队的主帅。”曹洪得知此令后，也把军中事务委托给曹休负责。

刘备见曹军进至下辨，于是遣张飞屯驻于固山一带，声称要切断曹军的后路。

曹洪与诸将进行商议后，都对是否继续进军犹豫不决，曹休说：“贼兵若真有意断我粮道，就应该隐蔽地行动，暗中设伏。如今却先虚张声势，说明这只是刘备等人的疑兵之计。”

曹洪听从了他的建议，进兵击破吴兰，张飞其后果然退走。

建安二十四年（219年），刘备军于定军山，斩杀曹军统帅夏侯渊。

曹操遂亲征汉中，刘备坚守险要，曹军难以攻克，逃亡的士兵越来越多，曹操只得命令各路军退回。

曹魏代汉后，曹休继去世的夏侯惇主持与孙吴对峙的江淮间军务，以功进封安阳乡侯。

魏文帝曹丕亲征孙权，军至广陵，曹休进位征东大将军、假黄钺，督张辽诸军击败吴将吕范等，拜扬州牧。

此时军事方面大将，中军大将军曹真、镇军大将军陈群、征东大将军曹休、抚军大将军司马懿四人，辅佐曹丕。

曹休为长平侯，迁大司马，仍然负责对孙吴的攻防战事。

曹休之策，兵分二路伐吴，一路由种云率领，自汉水而下，向江陵以南，一路由曹休率领，兵向寻阳及皖。

曹休为诈降所诱，孤军深入，被陆逊统帅的吴军在夹石击败，损兵万余、车乘万余辆，幸为接应的贾逵援助，得以退守石亭。

曹休运气不好，又被鱼肠剑暗杀，已经卧床不起，江淮军事大权，曹丕委托种云负责。