1950年8月，合水县人民检察署成立。1955年2月，在合水县第一届第二次人民代表大会上，合水县人民检察署正式更名为合水县人民检察院，成为独立行使检察权的法律监督机关。1958年11月，合水县人民检察院建制撤销。1962年1月，建制再次恢复。1966年5月，“文化大革命”开始，“打、砸、抢、抄、抓”之风日盛，合水县检察院当即受到暴力冲击，随后机构被撤销，人员被遣散，业务实际上被取消，直至1976年10月“四人帮”反革命集团被粉碎。1978年3月，五届全国人大一次会议通过的宪法决定重新设置人民检察院。4个月后，合水县人民检察院在几间土坯房挂牌设立，并在县委和上级检察机关的坚强领导下，在县人大及其常委会的有力监督下，在县政府、县政协和社会各界的关心支持下，开始正常履行宪法和法律赋予的各项检察职能。

合水县人民检察院坐落于西华北街新民西路5号，占地面积4049㎡。机关内设办公室、第一检察部、第二检察部、第三检察部、政治部5个职能部门，并设派驻乡镇检察室6个（西华池镇、老城镇、太白镇、何家畔镇、店子乡、段家集乡）。共有干警51人，配备班子成员4名，设检察长1人、副检察长2人、主任科员1人。其中员额检察官10人，检察官助理8人，书记员6人，司法警察3人，司法行政人员2人，工勤人员5人，聘用制书记员10人，公益性岗位5人，临聘人员2人。科级以上干部20人。设机关党支部1个，配备支部书记、副书记各1名，支部委员5名。共有党员41名，成立党小组4个，其中在职党员29名，退休党员14名。

合水县人民检察院主要行使下列职权：一是依照法律规定对有关刑事案件行使侦查权；二是对刑事案件进行审查，批准或者决定是否逮捕犯罪嫌疑人；三是对刑事案件进行审查，决定是否提起公诉，对决定提起公诉的案件支持公诉；四是依照法律规定提起公益诉讼；五是对诉讼活动实行法律监督；六是对判决、裁定等生效法律文书的执行工作实行法律监督；七是对监狱、看守所的执法活动实行法律监督；八是法律规定的其他职权。