据广州旧志记载，周惠王令楚熊子。恽统治岭南，南海臣服于楚，作楚庭以朝，所以广州又称楚庭。关于五羊的由来及其传统有三个版本。
版本之一：周夷上八年（公元前887年），广州曾一度出现连年灾荒田野荒芜，农业失收，民不聊生。一天，南海的天空忽然传来一阵悠扬的音乐，出现了五朵彩色祥云，上有五位仙人，身穿五色彩衣，分别骑着不同毛色的山羊，羊口衔着一茎六出的优良稻穗，降临楚庭。仙人把稻穗给了广州人，并祝愿此处永无饥荒。祝罢仙人腾空飞逝，五只仙羊化为石头留在广州山坡。从此，广州便成了岭南最富庶的地方。这就是广州有“五羊城”、“羊城”、“穗城”名称的由来。
版本二：五仙降临的情形差不多，但传说中的时间是南海人高固为楚威王相的时候，即战国周显王时期。
版本三：晋朝时，吴修为广州刺史，还未到任，有五仙人骑五色羊，背着五谷来到广州州治的厅堂上。吴修于是在厅堂上绘五仙人像以示祥瑞纪念，并且称广州为“五仙城”。现在的广州惠福西路五仙观据说就是五仙人降临之地，广州人为了纪念五仙人专门修建了五仙观，在大殿内还有五仙和五羊的塑像。这个版本的唯一漏洞，就是吴修还未到任，怎么看得到已经来到广州州治厅堂上的五仙样貌，并且在厅堂上绘出来？
而据《广东通志》记载，五仙观的观址历代曾多次迁建。宋代时在十贤坊（今北京路省财厅一带），南宋后期至元代在古西湖畔（今教育路一带）。明洪武十年（公元1377年），布政使赵嗣坚持将原五仙观改作广丰库，于今惠福路坡山现址再建五仙观。在今五仙观的东侧，还有一块巨大的江砂岩似脚印状的凹穴，称为“仙人拇迹”（即仙人脚印）。
听起来这也有点太不严肃了，仙人们的降临之地一忽儿被搬到这，一忽儿被搬到那，搬来搬去还搬出了个脚印来了，未免有些儿戏。不过，反正是有个他们落脚的地方，以供大家伙儿纪念也就是了。有趣的还是那个脚印，有这么天真可喜的一说，大家也就天真可喜地认可了。屈大钧的《广东新语》里说：“‘穗石洞有一巨石，广可四五丈，上有拇迹，迹中碧水泓然，虽旱不竭，似有泉眼在其下，亦一异也。”明清两代，这个“仙人拇迹”还先后以“穗石洞天”和“五仙霞洞” 被列入羊城八景呢。广州人在这一档子事上的“求其”（随随便便兼漫不经心）和天真，令人若尔。
至于最后落脚到惠福路的五仙观，在解放前就已经荒废了，建国后才重加修葺，可是五羊山人像和五头石羊未能在观内复原。倒是在越秀公园用一百三十多块花岗岩石雕了一座巨大的五羊雕像，据说，光是主羊头部的那块石料就有四千多斤重。
五仙的坐骑为什么是羊，而不是其他狮子老虎大象之类，有人做过研究，一直研究到原始社会时期，并且说可能是由广州地区原始民族的图腾崇拜而来。那时我国南方曾经存在过五支姜姓的部族，都以羊作为自己氏族的图腾，用黄、红、黑、白、紫五种颜色相区别，他们崇拜羊，认为羊是吉祥的象征，给他们带来了幸福。其中，又以在广州地区从事原始农业的“黄羊”一支最为兴盛，传说他们最拿手的就是种水稻，还是高产的，由此过上了较好的生活。
