王义夫出生于辽宁省。他小的时候就酷爱打弹弓，每天放学后，他都会拿着弹弓到家附近的一个公园里打鸟。渐渐地，王义夫喜欢上了枪。
有一次，军人出身的父亲去辽阳武装部看望老战友时带上了王义夫，结果王义夫喜欢上了武装部墙上挂着的一排步枪。临走的时候，王义夫缠着父亲非要把枪扛回家，无奈之下，父亲只好向一位熟悉的连长借了一杆鸟枪。
有了枪的王义夫，一有空就拽着父亲扛着鸟枪到农村打麻雀和野兔。父亲看到儿子这么喜欢枪，就花了65元钱给王义夫买了杆新鸟枪。当时65元钱，对于王义夫全家来说，可是一个月的生活费，但父亲硬是咬着牙拿出来了。
王义夫的枪法进步得很快，一次辽阳武装部的部长看过王义夫打枪后，提议将他送到辽阳市业余体校进行培养。进入业余体校不到半年，王义夫迎来了省队选拔。但进入省队不久，由于名额有限，王义夫就只能回家了。
回家后的王义夫每天骑着自行车到业余体校训练。当时，他拿了一个高压锅，半袋子粮食，一点油，背了几棵白菜，就住在靶场看枪库的不到10平方米的小屋里。
王义夫每天都坚持训练两个小时以上，就这样，王义夫的成绩逐步提高了。过了不久，辽宁队的两个老队员到辽阳市蹲点寻找射击的苗子，发现王义夫打得不错，就推荐给了省队的教练陈进元。
就这样，1978年，王义夫第二次进入省队。这时，他的成绩提高很快，仅半年时间，就在石家庄拿到了全国冠军，从此，王义夫开始了6进奥运、荣辱沉浮的世界冠军生涯。
1982年，在第九届亚洲运动会射击比赛中，王义夫获自选手枪慢射铜牌；同年在第四十三届世界射击锦标赛中获自选手枪慢射第六名；1984年在第23届奥运会上获得男子自选手枪慢射铜牌；1988年汉城奥运会，由于求胜心切，王义夫在手枪慢射决赛中仅取得第7名。
1991年世界杯总决赛，获气手枪冠军；1992年在第25届奥运会上获男子气手枪金牌，自选手枪银牌。1996年亚特兰大奥运会，男子气手枪决赛上，由于体力不支，王义夫最后一枪仅打出6.5环，最终以0.1环的微弱差距屈居亚军。
看到金牌从指间滑过，王义夫昏倒在地……2000年悉尼奥运会，王义夫再次出征，成为中国第一位连续5次参加奥运会的运动员，打出590环，以两环之差负于法国名将杜莫林，夺得男子气手枪银牌。
