最初的打油诗是用俚语方言组合的粗中见俏、拙中带笑的有“顺口溜”味儿的民间口头文学。相传，打油诗的鼻祖是唐代一个叫张打油的村夫。他的代表作是《咏雪》：“天上一笼统，井上黑窟窿，黑狗身上白，白狗身上肿。”据说他在一个大雪天在一家财主的院墙上题诗云：“大雪飘飘落九霄，地上人间尽琼瑶，有朝一日天晴了，使扫帚的使扫帚，使锹的使锹。”那财主很生气，要打他。这张打油说，别打别打，我再做一首，如不好我就认打罚。于是就有了这首《咏雪》。后来，有个当官的听说张打油有诗才，就召他去既席赋诗，吟赋不好就打。此时南阳城正被围困，张打油随口吟道：“十万军马困南阳，外无救兵内无粮，有朝一日城破了，哭爹的哭爹，哭娘的哭娘。”这当官的哭笑不得，只得放张打油走了。
到了宋代，有幅名画叫三驼图，上面的题诗是：“张驼提盒去探亲，李驼遇见问缘因，赵驼拍手哈哈笑，原来世上无直人。”这也是打油诗的格局，但已经是针砭时弊，暗含讥讽了。
清末有位皇亲叫奕诓的，为表达对慈禧插手朝政搅的国事家事一团糟的不满，画了一幅画，上面只有一只脚，题诗云：“老生避脚（搅）实堪哀，竭力经营避脚台，避脚台高三百尺，高三百尺脚仍来。”当然，因诗获罪，奕诓夫妇最终还是被狠毒无比的慈禧害的气绝身亡。
到了民国时期，随着书刊报纸的普及，文化传播的深度和广度加强，特别是新文化运动的兴起，打油诗也被赋予了更强的时代特色，例如，鲁迅先生在上世纪三十年代，就以带调侃打油味儿的《自嘲》来表达他对右翼文化“围剿”的淡定与蔑视：“运交华盖欲何求，未敢翻身已碰头。破帽遮颜过闹市，漏船载酒泛中流。横眉冷对千夫指，俯首甘为孺子牛。躲进小楼成一统，管它冬夏与春秋。”
还有，民国时期的山东军阀韩复榘是个有名的大老粗，他也留下了为后人捧腹的“佳句”：“远看泰山黑乎乎，上边细来下边粗，有朝一日倒过来，下边细来边粗。”这比张打油还粗的打油诗，虽没什么意义，可因是山东省韩主席所作而流传为笑谈。
抗战时期，在日本侵略者占据的北平，伪军汉奸横行。著名画家齐白石老人画了一幅“不倒翁”图，题诗曰：“锦纶乌沙俨然官，不倒原来泥半团，将汝忽然来打破，其中何处有心肝！”
文革之初，红卫兵揪斗一位老干部，给他戴高帽子游街并责令他写“认罪书”，据说，这位老干部苦中作乐地写到：“失势的凤凰不如鸡，我堂堂的部长耍猴戏，若问理由是什么？我没唱革命样板戏。”
有时候，打油诗能够更加强劲地折射现实，更加直接地参与社会生活。一九七六年丙辰清明，天安门广场悼念周总理声讨“四人帮”的众多诗词中，就不乏打油诗格局的檄文，如，《向总理请示》：“黄浦江上有座桥，江桥腐朽已动摇，江桥摇，眼看要垮掉，请指示，是拆还是烧？”句中的“江桥摇”系暗指江青、张春桥、姚文元。又如，《问答》：“蚍蜉撼大树，摇又摇，‘我的力量大，知道不知道？’大树说，‘我知道，一个报两个校，几个小丑嗷嗷叫。’”这是暗指为“四人帮”所控制的当时的《人民日报》和北大、清华两校的写作班子。
由于打油诗的大众化和批判性，再加上它的活泼调侃、机敏俏皮、朗朗上口，犹如诗中的“小品”，自成体系，给我们以启迪、警示、批评、指正，使我们不断自省、自新、自制。
当然，并不是所有的打油诗都有积极意义，但有些也能折射一定的社会现实和时代背景。比如，文革中，有学生考试不会，在试卷上“打油”到：“你得零来我得圈，两个鸡蛋炒一盘，改善生活不花钱儿。”恢复高考之初，有考生不会答题，便在考卷上写：“儿子出题难，孙子监场严，爷爷不会答，只好交白卷。”
愿打油诗常在常新。愿她的警世、激励、鞭策作用一直根植于社会生活中间。
