古代中國的水軍也和世界其他國家壹樣，早期的裝備和陸軍裝備沒什麽區別。陸上的軍隊用刀槍弓弩，船上的軍隊也壹樣用刀槍弓弩。早期的水戰，也不以擊沈敵船為主要目的，而是盡量殺死敵船上的人員，交戰雙方的士兵往往在戰船互相靠近時，跳到敵船上進行搏鬥，以占領敵船為目的。
為了適應這種接舷戰，早在戰國時期，壹種獨特的水戰武器——鉤拒出現了，據說鉤拒是魯班給楚國水軍發明的，有人認為“鉤”、“拒”是兩種工具，也有人認為是壹種工具，這種工具可以在壹方占優勢時鉤住敵方戰船，使敵方無法逃走，也可在壹方處於劣勢時，將敵船擋住，使其無法追擊。
隨著時代的發展，戰船上的武器開始由擊斃敵人向擊毀敵船的方向發展。人們往往給弓弩配備火箭，用來燒毀敵船。大型的床弩也被擡上了戰船，發射巨大的箭，來摧毀敵船上的建築。後來拋石機也被裝備上船。拋石機拋出的巨石，對於戰船具有很大的破壞力，是壹種水戰的利器。
但是拋石機用於水戰，也有很多缺點，陸戰當中，拋石機主要用來攻城守城，攻城時，拋石機面對的目標是靜止不動的城墻;守城時，拋石機面對的目標是成群的敵方步兵，打擊這樣的目標，對於準確性的要求不高，但是水戰中，戰船是能夠活動的，而且相對來說目標較小，拋石機很難擊中，因此威力就發揮不出來了。
為了彌補拋石機的缺點，南北朝時期出現了壹種利用杠桿原理制成的武器，叫做拍桿。拍桿是我國古代獨有的水戰武器，其外形類似拋石機，即在戰船的兩舷或頭尾架起壹根長木棍，木棍的壹端拴著壹塊大石頭，另壹端有數根繩索。
使用時，拉動繩索，使拴有巨石的壹端高高翹起，然後戰船駛近敵船，再放松繩索。巨石在重力作用下狠狠砸向敵艦，完全可以破壞木制戰船的船體，拍桿可以說是把用於遠距離作戰的拋石機改裝成了近戰武器。
隨著火器的普及，各種火藥武器也參加了水戰。明代有種類繁多的水戰火器，除了火槍、火炮之外，還有各種火箭、爆炸性火器等等，明代有壹種能沈在水底的原始觸發性水雷，叫做“混江龍”，還有壹種漂雷，叫做“水底龍王炮”。這都是很有創意的水戰武器。
清代的水戰武器基本沿襲明代，也是冷熱兵器混用。熱兵器沒有明朝的繁多種類，主要就是鳥槍、小型火炮、爆炸性火罐等，這樣的裝備，遇上當時西方國家裝有幾十上百門火炮的木制風帆戰艦，結局當然是悲劇性的。