故事发生在绿江市。丁潮受人指使绑架了绿江市建筑业巨头丽都集团总裁张大洋，市公安局副局长马云山指挥刑警队，成功解救了人质，受到政法委陈副书记的高度评价。丁潮在医院莫名其妙地死去，这让刑警支队副支队长常健非常恼火，他认为丁潮的案子和三年前杀害了三名警察的“蓝平大侠案”有关。
市公安局为了加强队伍建设，调整市局督察大队，常健被调到督察大队当队长，他想不通。他曾经发誓不破获“蓝平大侠案”枉穿一回警服。公安局长梁云鹏命令常健上任，说常健是当兵的出身，应该明白军令如山倒！常健走马上任，他到督察大队后处理的第一个群众投诉案件是江平分局警侦科长向东平介入黄金鼎和其妻单柯红的家庭纠纷，向东平的岳父是常健的老上级政法委陈副书记；在处理这起案件时，常健与他的老战友、市局副局长马云山发生了激烈的冲突，他认为常健对江平分局有成见。但令他宽慰的是，局党委自始至终支持他，督察队员们由衷地拥护他，许许多多普通民警自觉地接受他们的督察，老百姓从心里称赞他们。
金鼎集团和张大洋的丽都集团为竞争“金鹰大厦”工程相互较劲。在侦破丁潮案件取得进展之时，常健的妹妹青青神秘地被招聘到金鼎集团当了一个部门的经理。常健要青青退出金鼎集团，青青不听与常健产生芥蒂。电视台记者萧小娜主持“警视聚焦”栏目，经常到督察队采访，这使青青对哥哥产生误解。
常健被栽赃陷害有口难辩，被迫停止工作。熊伟刚不相信师傅会收人贿赂。常健是个要强的人，一气成病，妻子春雪本来就有病，因看护常健，旧病复发，妹妹因为进不了电视台，和常健怄气离家出走，常健家危机重重。危难中，拔刀相助的是两个亮丽的女性，一个是督察大队女警官葛梅，一个是电视台女主持人萧小娜。葛梅给予常健的支持让同事议论纷纷。萧小娜倾慕常健的刚直不阿，坦然照顾病危的常健妻子。
向东平依靠岳父，屡屡违反纪律，最终走向死亡的境地。“卧底”在黄金鼎内部的姜冲提供了黄金鼎诬陷常健的证据，常健重新回到岗位。躲在幕后的黄金鼎狗急跳墙，买凶暗杀常健，结果聪明反被聪明误，自己却一步步走向自掘的坟墓。青青被黄金鼎的同伙绑架，熊伟刚在和罪犯搏斗中英勇牺牲。马云山在最后的危情时刻，选择了忏悔和反省，揭开了“蓝平大侠”之谜。
《警中警》写的不单单是督察警，它歌颂的是人民警察中的优秀分子，市公安局长梁云鹏，江平分局刑警大队长熊伟刚，虽然犯过错误但最终用生命捍卫了人民警察荣誉的原江平分局局长尚兵……是他们用鲜血和生命捍卫着共和国的大厦，用正义和法律清除那些变质和黑势力分子，用赤胆忠诚呵护着亿万百姓的生命和幸福生活。