兖州少陵公园位于中御街北路，路西，占地150亩，始建于1985年，是为纪念唐代著名诗圣杜甫而建的。园名系著名书法家舒同题写。公园名曰“少陵”，源自杜甫自号“少陵野老”。杜甫曾三次来兖州省亲，探望在兖州做司马的父亲杜闲，并与“诗仙”李白相会于兖州，赋下不朽诗篇，传为千古佳话。
“东郡趋庭日，南楼纵目初。浮云连海岱，平野入青徐。孤嶂秦碑在，荒城鲁殿馀。从来多古意，临眺独踌躇。”杜甫的《登兖州城楼》一诗，被人们广为传诵，更被兖州人世代吟唱，并将李杜共登临赋诗的城南楼称为“少陵台”以纪念这位伟大的诗人。