许效舜生于台湾基隆市暖暖区，其父许义隆曾为基隆市议员。许效舜曾当过基隆地方法院法警五年，工作期间考上华视编剧班，加入基隆话剧社，报考兰陵剧坊演员训练班，也在电视台当二、三线演员。

他与李优君于1992年结婚，曾被称为“美女与野兽”的婚姻；李并于1995年诞下女儿。2001年，李与女儿因移民，居于加拿大；因观念不同，与2005年8月4日台湾《苹果日报》误传李过世的消息，被女方认为是许恶意中伤，两人已于该月底签字离婚，家族事业亦同样走下坡。

2006年6月起，他在基隆市暖暖区东势街开设“舜子的家—─石头族茶栈”算命店，替客人算命。他笃信佛教。他亦有收藏住家附近的大小珍奇石头的习惯，由他对家族与祖家店子的命名可体会到，许对石头有另一份情结。

2011年，许效舜与小他24岁的“小铁”再婚，并育有一子，取名为“许甘丹”。

1980年，他接到第一个通告，是担任台视连续剧《江湖夜雨十年灯》临时演员。

1989年，他在兰陵剧坊三位创办人之一的金士杰引荐之下，在王伟忠制作的华视综艺节目《连环泡》演出短剧单元〈中国电视史〉之〈军教篇〉（扮演一个傻兵）而走红。

1991年，他首度主持综艺节目，即《连环泡》。

1994～1995年，开始拉一些新进演员接秀，当时练习制造道具、编剧、美术一手包办，奠定他从事笑匠的路。成名前期曾投靠王伟忠，至“石头家族”成立前已成为独当一面的谐星与主持。

因许与澎恰恰在三立台湾台《铁狮玉玲珑》节目内角色受欢迎之势，在2001年2月24日与马世莉为首，一众班底（主要是1988年《连环泡》节目内的演员）成立“石头家族”艺人经纪公司，主力搞笑综艺表演和节目，成员有洪都拉斯、白云、郭子乾、九孔、马国毕、杨丽音、高明伟、陈为民、江冠宏、罗敏瑜、王彩桦、何妤玟、于緁等。公司分经纪部、编剧组、制作组等，在综艺节目的收视上曾独当一面，家族成员主要在三立台湾台《黄金夜总会》演出。

2002年5月，许与家族成员离开三立、跳槽MUCHTV，投放在午间时段节目《台湾乐丽屋》，但是至2002年10月就停播，惨赔新台币600多万元。发展不顺，导致一直亏损，只能以周边事业（冰品店、治尿酸饮品等）补上维持；而且由此一直缺乏固定舞台；至2005年11月26日，旗下艺人的合约刚好到期时，以解除合约、各奔前程为名，解散家族。