一、客体要件
本罪侵犯的客体是公共安全。即不特定多数人生命、健康或重大财产的安全。同放火一样，决水也是一种危险性很大的犯罪方法。俗话说，“水火无情”，水利设施一旦遭受破坏，水势失控，顷刻就可能便无数良田被淹，大量财物付诸东流，甚至使不特定多数人溺死于非命。因此决水罪历来是严厉打击的重点犯罪之一。
二、客观要件
本罪在客观方面表现为实施危害公共安全的决水行为。这是决水罪区别于放火、爆炸、投毒等犯罪的主要标志。
所谓决水是指足以便水流横溢、泛滥成灾的行为。决水行为既可以表现为积极的作为，如炸毁堤坝、堵塞水道、破坏水闸、破坏防水设备等；也可以表现为消极的不作为，如洪水来临时，水库管理人员不及时开放泄洪闸，或者不关闭防水堤的闸门。以不作为方式构成决水犯罪的，行为人必须负有特定的作为义务，并且有能力履行这种特定的作为义务而不履行。行为人实施的决水行为只要足以危害公共安全，就应以决水罪论处；如果仅是为个人利益或局部利益，擅自开闸放水、挖渠引水，尚不足以危害公共安全的，不应以决水罪论处。
决水的手段多种多样，如使用各种工具或机械挖掘，用爆破的方法破坏等。无论采用何种手段都不影响本罪的成立。实践中发生的炸毁堤坝决水的案件，实质上是利用水的作用，而不是直接靠爆破的力量使不特定多数人的生命、健康或重大公私财产遭受损害的，因而仍属决水罪，而不宜定爆炸罪。
决水行为必须危害公共安全，才构成决水罪。如果决水行为不足以危害不特定多数人的生命、健康或重大公私财产的安全，如农民之间为争水浇地，擅自扒开水渠放水，致渠水漫溢，危害不大的，不宜定决水罪。鉴于决水罪具有严重的危害性，因此刑法规定，实施决水行为只要足以危害公共安全，即使尚未造成致人重伤、死亡或者便公私财产遭受重大损失的严重后果，也构成决水罪。
三、主体要件
本罪的主体为一般主体，即达到法定刑事责任年龄、具有刑事责任能力的人均可构成。根据本法第17条第2款的规定，已满14周岁不满16周岁的人，犯决水罪不负刑事责任。
四、主观要件
本罪在主观方面表现为故意，包括直接故意和间接故意。即行为人明知其决水行为会危害公共安全，并且希望或者放任危害公共安全的结果发生。实施决水罪的动机可能有多种，如泄愤报复、嫁娲于人等。