关于多罗汉的来历，除了参加第一次佛经结集的五百比丘之说外，还有说为跟随释迦牟尼听法传道的五百弟子的。在《贤愚经》、《报恩经》等经中，另有种种说法。五百罗汉，一般指佛释迦去世后参加第一次经结集的五百比丘，以大迦叶和阿难首。至于五百比丘的其他人，除知名的十大弟子外，一般没有名号的记载。然而，在我国流传的五百罗汉却都有名号，这在佛经中是找不到的根据的，是宋人的附会之说。

有一猎人张网捕住五百只雁，并全部杀死。五百只雁因闻法功德而转生三十三天(即忉利天)。《报恩经》卷四说，古代有一国王想食雁肉，命猎人捕雁。正好有五百只大雁飞 过，雁王误落网中，猎人大喜，准备杀之，忽心中不忍，放了雁王。国王听说后便不再食雁肉。国王即阿阇世王，雁王即佛，一雁为阿难，其余即五百罗汉。另据古代印度传说 ，在憍萨里国有五百强盗占山为王，后与官军交战，全部被俘。他们被挖下双眼后放逐到山林。强盗在林中绝望地奔跑，呼号。佛陀听到后，大发慈悲，用神药使他们复明。五百强盗从此弃恶扬善，皈依佛门，进行脱胎换骨的改造，心后均修得正果。成为五百罗汉。

在中国汉地自东晋竺昙猷居住天台山时，古老相傅云：天台悬崖上有佳精舍是得道者所居。有石桥跨涧而横石断人。猷洁斋累日，度桥见精舍神僧，因共烧香中食。神僧谓猷曰：却后十年自当来此，于是而反见《高僧传》十二。后世遂有石桥寺五百应真之说。《天台山志》引五百应真居方广寺感应异记云：「永嘉长史全亿，画半千罗汉形像。」到五代时，五百罗汉的尊崇特别兴盛。吴越王钱氏造五百铜罗汉于天台山方广寺。显德元年(954)道潜禅师得吴越钱忠懿王的允许，迁雷峰塔下的十六大士像于净慈寺，创建五百罗汉堂。

宋太宗雍熙二年(985)造罗汉像五百十六身(十六罗汉与五百罗汉)，奉安于天台山寿昌寺。宋仁宗供施石桥五百应真的敕书载《天台山志》。各地寺院也多建五百罗汉堂。宋苏轼集中有元符三年(1100)为祖堂和尚作的《广东东莞县资福寺五百罗汉阁记》(见《东坡文集》后集20)。后人又附会地列举五百罗汉的名字，其实都是没有根据的。由于十六罗汉住世护法的传说，引起汉地佛教徒对于罗汉的深厚崇敬，于是又有五百罗汉的传说。