1991年进入福建省龙岩市少体校练举重；1995年进入北京体育大学
学习、训练，教练谢勇；1999年入选国家队。
来自龙岩的张湘祥早年成名，悉尼奥运会上，他和队友吴文雄分获56公斤级第三和第二名。据陈文斌教练透露，悉尼奥运会之后，张湘祥备受伤病的困扰，因为严重的腰伤，从2003年到2006年他都没有进行系统的训练，比赛也很少。在陈文斌教练接手他的训练之后，从2006年开始他的训练逐渐系统，成绩也开始稳步提高。在年龄和体重增长之后，他从56公斤级升级来到了62公斤级，成绩从刚恢复训练的310公斤到目前的330公斤，复出后，他的最好成绩是去年世界杯举重赛的亚军。
2008年04月20日 ，“名乐杯”2008全国男子举重锦标赛暨奥运会选拔赛在泉州侨乡体育馆开赛，首日进行了56公斤和62公斤两个级别的比赛。福建选手夺得三金一铜牌，其中沉寂多年的名将张湘祥发挥出色，一举夺得62公斤级抓举挺举和总成绩三枚金牌，雅典奥运会亚军吴美锦仅仅收获一枚56公斤级抓举铜牌。
　　 在下午进行的56公斤级的比赛，湖南小将龙清泉异军突起，他以抓举132公斤挺举160公斤总成绩292公斤力压诸多名将获得总成绩冠军，此外他还获得了挺举单项冠军。广西名将李争尽管也举起了292公斤的总重量，但由于体重原因不得不屈居亚军，李争以133公斤的成绩获得抓举冠军。福建名将吴美锦仅仅以129公斤获得抓举第三，他在挺举中也只举起了155公斤，此后两次冲击164公斤未果，最终只获得总成绩第四。
晚上的62公斤级比赛竞争得异常激烈，在这个级别上，有实力争夺奥运入场券的选手有7名之多。由于比赛的重要性，毛角、丘乐、乐茂盛、张平等名将纷纷在抓举开把重量上三次试举落马。悉尼奥运会季军张湘祥则发挥稳定，以抓举144公斤、挺举176公斤、总成绩320公斤的成绩力压世锦赛冠军杨帆获得三项冠军。他的总成绩超过第二名足足10公斤，显示了良好的状态，为自己争夺北京奥运会入场券增加了重要的砝码。
正是因为运动成绩的突出，张湘祥成为福建省第13届运动会火炬手。“当时，我跑上主席台，将火炬传递给卢书记。卢书记把火炬交给石智勇，石智勇点燃了圣火盆。”张湘祥回忆起当时的情景满是甜蜜，“那是我第一次跑火炬，心中充满了神圣感。”

2001年 广东全运会56公斤级总成绩世界青年纪录，295
2007年 全国锦标赛62公斤级冠军 总成绩：310公斤
2007年 世界大学生锦标赛62公斤级三项冠军
2007年 全国冠军赛62公斤级冠军 总成绩：311公斤
2007年 举重世界杯62公斤级亚军
2006年 全国冠军赛62公斤级亚军 总成绩：307公斤

2008年北京奥运会举重男子62公斤级决赛在北京航空航天大学体育馆开始角逐。中国名将张湘祥表现神勇，他以总成绩319公斤成功夺取冠军。