林生祥毕业于台南二中、淡江大学，在就读大学期间创立观子音乐坑并担任吉他手兼主唱。返回美浓后，观子音乐坑改组为交工乐队，担任吉他、月琴、三弦手兼主唱。交工乐队解散后，为出版《临暗》专辑组成生祥与瓦窑坑3乐团，担任吉他手兼主唱。之后以人数不定型态的形式，担任“生祥与乐团”吉他手、月琴手兼主唱，随后更名生祥乐队。 2003年交工乐队解散后，林生祥继续与笔手锺永丰搭档词曲；自专辑《种树》起，多与日本吉他手大竹研一起创作音乐。2010年春天经由大竹研的推荐，创作团队加入贝斯手早川彻，自《大地书房》专辑起开始合作。2011年夏天在赴日本富士摇滚音乐祭表演前，打击手吴政君加入。2012年7月因球友算笔画，认为“生祥乐队”大吉，因此团队更名生祥乐队。2012年开始委托造制琴师刘志伟制造六弦月琴、川畑完之（Kanaji Kawabaka）制作电月琴，量身订作出一把独有的月琴。 2015年录制反空污概念双专辑《围庄》，包括“我庄三部曲”中的二部曲“围庄”和三部曲“动身”，参与乐人包括大竹研、早川彻、福岛纪明、吴政君、黄博裕。 围庄概念双唱片由于未获得唱片公司投资，因此于2016年在网络平台上寻求募资。 《围庄》双专辑于2016年5月21日出版，并于2016年10月起进行校园巡回，最终获得金曲奖评审团奖。 2017年林生祥和王昭华合作，制作《大佛普拉斯》电影原声带，获得金马奖最佳原创电影歌曲、金曲奖最佳单曲制作人。