“餠”这个叫法最早出现在战国时期的《墨子》《韩非子》等典籍当中，说明2000多年前，人们已经开始制饼食用。公元前2世纪的汉代，张骞使团自西域大宛国引进了一种名为“胡麻（即芝麻）”的植物且被人们广泛传播种植。那时，中原腹地与中亚地区交流日趋频繁，受到对方喜爱烧烤饼食的影响，人们将“胡麻”作为辅料，创新出了“胡麻饼”。东汉的刘熙在《释名》中提到“胡饼（即胡麻饼）”也被人们称作“大漫冱（即没有棱角，模糊不清的意思）”，“以胡麻著上”。说的就是这种饼浑圆无馅，表面撒满芝麻。

又香又酥的胡麻饼以别样风味在一众饼食里脱颖而出，成为了当时很多名流贵族的“新宠”。西晋时期的《续汉书》记载东汉时期的汉灵帝痴迷食用这种饼，因此引发了都城人追崇的热潮。到了唐代，生活更为富足的人们改良了汉代胡麻饼的做法：将面粉、酥油、蜜糖和五香盐作为配料，以温水和面再行发酵，并在饼坯表面撒上“胡麻”和“胡仁（即核桃仁）”，刷上糖色。这样制作出来的胡麻饼口感更为酥香可口。

改进后的麻饼在长安城声名鹊起，一时风头无两。当时长安城的“饼肆（即专卖饼食的店铺）”中，“胡饼肆”数量是最多的。著名诗人白居易任刺史时，还惦念着“胡饼肆”的胡麻饼，仿着做了一些，赠予好友杨归厚，并且赋诗道：“胡麻饼样学京都，面脆油香新出炉。寄于饥谗杨大使，尝香得似辅兴无”。唐代还盛行“立春”节气食胡饼之风。据近代历史学家向达在《唐代长安与西域文明》中记载当时朝廷有在“立春之时”向大臣和皇亲国戚分赏胡饼的习俗。日本僧人圆仁也在《入唐求法巡礼记》中记录唐代开成六年正月六日“立春”“命赐胡饼、寺粥”“时行胡饼，俗家依然”。

此外，相传胡麻饼第一次被更名为“麻饼”是在唐代之后的五代十国时期。据宋人胡三省为《资治通鉴》注解时称，五代十国时期的后赵皇帝石虎喜欢食用胡麻饼，却不喜欢此饼的名字，源于其为羯族。中原地区的人们一直将羯族归入“胡人”一类，“胡人”这种称呼本就有贬低和排外之意，不符合石虎当时的身份。于是，石虎下令将胡麻饼更名为“麻饼”。不过，此后的人们在很长一段时间里，依旧习惯称呼这种饼为“胡饼”或者“胡麻饼”。

随着两宋时期的经济文化日趋繁荣，民间糕点制作工艺有了更长足的进步。唐代延续下来的名为“饼师”的职业，使得糕点商业化称为了可能。根据《东京梦华录》等典籍记载，北宋时期的开封城胡饼店，出售的胡麻饼“品种繁杂，新样满麻”，还兼卖“门油、菊花、宽焦、侧厚、油碢、髓饼”等物产。这些胡饼店每日五更天（天快亮时）开张，三五个人围着一张案板，从早到晚，忙的不亦乐乎。规模大一些的胡饼店甚至能够同时启用五十余个炉子烤制胡麻饼，如今想来都觉得叹为观止。

其后的元代食俗与宋代接近，胡麻饼也没有得到较大的革新。仅有《居家必用事类全集》中提到了胡麻饼新品种“山药胡饼”及其制法。