50年代初中国曾引进6架苏联别-6水上飞机,但不足以满足海军的各种需要。航空工业部于1968年开始筹建水上飞机设计所。同年12 月,国家批准了命名为“水轰-5”的研制方案。研制工作由水上飞机设计研究所和哈尔滨飞机厂共同承担,此一方案首批试制三架。
1970 年2 月,水轰-5总体设计完成。同年10 月发出生产图纸,并开始试制。1971年,装出供静力试验用的01号原型机,以110%的设计载荷达到并超过全机静强度破坏试验的技术要求。1973年12月,供试飞用的水轰-5总装完成,为02号原型机,同月实施首次地面滑行。1974年10月,运抵试飞现场。航空工业部和海军司令部联合组成试飞办公室,具体领导试飞工作。1975 年5月至1976年3月,在湖北荆门漳河水库下水,先后进行滑水试验30小时,完成28个项目的静水试验和滑行试验,还成功地进行了4次预起飞。
1976年4月3 日,水轰-5首次水上起降试飞典礼隆重举行。上午10 时,飞机在水面上起飞,承担这次任务的是海军航空兵某部飞行中队长黄星辉等7人,时间长度为23分钟,首次水上起降试飞获得成功。
首飞之后,又制造出首批4 架飞机。1985 年底,4 架飞机均完成了从湖北到湖南的三角航线试飞。1985 年11月到12月,在18 个飞行日的试飞中,飞机出勤率和科目试飞成功率达100%,实现了无故障飞行。1986 年后,该机种交付海军使用,开始接替陈旧的别-6和青-6型水上飞机。1987年,水轰-5飞机荣获国家科技进步一等奖。大兴安岭火灾后,水轰-5灭火机改型开始研制。