羊山，位于金乡县西北12.5千米，长1.5千米，宽1.0千米，呈东西走向，平均海拔48米，主峰海拔96米，因其处于嘉祥群山之阳而得名阳山，又因山势如羊，20世纪60年代，改名为羊山。鲁西南战役中最著名、最艰苦的一战羊山集战斗就是在这里展开的。
1947 年6 月30 日夜，晋冀鲁豫野战军司令员刘伯承、政委邓小平率领第一、二、三、六4个纵队共12万余人，悄然突破国民党军的黄河防线，进入鲁西南，发起鲁西南战役。从此拉开了南下大别山的战略进攻序幕。
国民党军在解放军渡过黄河之后，抽调大批兵力围堵。蒋介石的意图是以五十五师坚守郓城，吸引刘邓大军屯兵城下，以东路军结成重点攻势，从巨野向西袭击刘邓大军侧背，和西路军形成钳击之势，迫使刘邓大军背水作战。企图将刘邓大军消灭于黄河和运河交叉之三角地带，或将刘邓大军重新逼回黄河以北。针对此情况，刘邓大军采取“攻其一点，诱敌来援，啃其一边，各个击破”的战术。首先歼灭了郓城和西路弱敌，开辟战场，攻取了定陶、曹县等地，接着分割包围东路敌军，取得了六营集大捷。至此，在鲁西南地区的敌军，只剩下了龟缩于羊山集的敌第六十六师一个半旅。这个师装备精良，战斗力较强，又依托山地，企图凭险死守待援。7 月15 日，刘邓第二、第三纵队发起对羊山集的进攻。但因该处守军以羊山作依托，南侧地形低洼、积水较多，虽经两天激战，进展不大。此时，蒋介石得知整编第三十二师等部连续被歼和羊山集整编第六十六师告急等情况，于19 日飞抵开封坐镇指挥，从西安、洛阳、豫北、山东、汉口等地抽调七个整编师又两个旅向鲁西南驰援。20 日，国民党第二兵团司令王敬久在蒋介石的严令督促下，立即派五十八师和一一九旅及国防部调来的1 个炮兵营、1 个战车连，由五十五师师长鲁道源指挥，在飞机、坦克掩护下由金乡北上，企图解羊山集之围。刘伯承、邓小平为争取先机之利，以独立第一、第二旅进至万福河阻援，将敌一一九旅和由羊山集出来接应的1 个团全歼。接着，集中第二、第三、第六纵队于27 日对羊山集发起总攻，战至28 日晚战斗结束，俘获敌六十六师中将宋瑞珂、少将参谋长郭雨林、副参谋长王开石、一八五旅旅长余焕淘等，全歼整编第六十六师师部及2 个旅。据不完全统计，整个鲁西南战役共歼敌4 个整编师及9 个半旅共6 万余人。仅羊山集战斗就毙伤俘敌军官兵23452 人，击落敌机2 架，摧毁坦克2 辆，缴获轻重武器一大批。在这次战斗中，湖西地区出动数万民兵支前，出动担架6800 余副，大车3900 余辆，支援面粉610 万余斤，油3600 余斤，鞋1.7 万余双，圆满地完成了各项支前任务。鲁西南战役的胜利，为刘邓大军千里跃进大别山开辟了道路，揭开了人民解放军战略反攻的序幕。
为缅怀在鲁西南战役和羊山集战斗中英勇献身的革命先烈，1952年金乡县委、县政府在战场遗址——金乡县羊山集建成了羊山烈士陵园。陵园依山就势建于羊山战斗遗址的主峰羊头之上，气势宏伟，占地面积140亩，2009年扩建为510亩，现陵园内主要建有鲁西南战役纪念馆、王杰纪念馆、将军碑廊、兵器广场、烈士公墓、烈士墓群、刘邓大型雕塑、烈士纪念塔等建筑物。烈士墓群中长眠着在羊山战斗中牺牲的108 位有名姓的革命烈士，其中营职以上干部28 位。烈士公墓中安葬在羊山战斗中牺牲的无名烈士8500多名。烈士纪念塔建在海拔96米的羊山头上，塔高17.5米。塔的正面“革命烈士纪念塔”七个镏金大字是毛主席的亲笔字，塔的背面是1952年刘伯承元帅为鲁西南战役的亲笔题词：“人民解放军鲁西南战役乃打开了战略反攻挺进长江的前门。阵亡将士受到人民的纪念永垂不朽！”
羊山烈士陵园1988年被山东省政府批准为“全省重点烈士纪念建筑物保护单位”； 2001年被国务院批准为“全国重点烈士纪念建筑物保护单位”；2009年先后被中宣部、国家国防教育办公室批准为“全国爱国主义教育基地”和“国家国防教育示范基地”；2019年被国务院核准为第八批“全国重点文物保护单位”。羊山烈士陵园现已成为集褒扬、教育、旅游、服务为一体的大型花园式陵园，每年接待前来瞻仰、旅游的群众多达200余万人次，已成为鲁西南地区著名的革命传统教育基地及红色旅游经典景区。
1974 年，中共金乡县委、县政府在羊山烈士陵园内建成羊山战役纪念馆（舒同题词）并对外开放。1996 年12 月，经山东省民政厅（鲁民函〔1996〕288 号）批准，保留羊山革命烈士陵园牌子，同时将“羊山战役纪念馆”更名为“鲁西南战役纪念馆”。1997 年7 月，在鲁西南战役胜利50 周年之际，正式举行了“鲁西南战役纪念馆”（刘华清题词）揭牌仪式。2007 年6 月又在馆内兴建了一座总长为91 米、建筑面积为390 平方米的碑廊。2009 年，中共金乡县委、县人民政府又将原馆拆除重建。在原馆纪念塔前新设刘邓大型雕像一座。2011 年4 月完成馆内布展工作并正式开放。
新馆规模宏大，占地123 亩，总建筑面积6000 余平方米。包括全景画馆和鲁西南战役陈列馆两部分。鲁西南战役全景画馆高19.47米，寓意战役发生在1947年，直径达44米，布展面积达1520平方米，是目前国内最大的全景画馆之一。全景画是由多位全国著名的美术家用了将近一年时间绘制完成的史诗式艺术长卷，配以地面塑形和声、光、电、3D等现代高科技表现手法，全面再现当年羊山决战的壮烈情景。鲁西南战役陈列馆采用目前流行的庭院式，通透式的建筑风格，分为东西两个展厅，整个展馆格调庄重、舒展大气，陈列资料丰富创作精细，内容详实，布展面积达2200平方米，分序厅、战前态势、鏖战鲁西南、羊山攻坚战、挺进大别山、革命英烈、战役影响等部分，采用文字、图片、实物、雕塑、幻影成像等形式，全面展现鲁西南战役以及羊山决战的详细过程，真实再现了刘伯承、邓小平率领的晋冀鲁豫野战军在中共中央、中央军委和毛主席带领下，运筹帷幄、纵横驰骋，突破国民党军的黄河防线，鏖战鲁西南，挺近大别山的壮阔场景，反映人民解放军战略反攻，千里跃进大别山的重大历史意义。让人充分体验到战争的残酷与无情，唤起人们更加珍视现在的稳定与和平。鲁西南战役纪念馆于1992 年4 月被山东省人民政府、山东省文物局公布为全省重点文物保护单位，2009 年9 月被中共中央宣传部公布为全国爱国主义教育基地。