到台湾后，阎先生做的第一件事是辞去了“国防部长”和“行政院长”。辞职是他自愿的，阎先生是个明白人，他之前曾经说过一句话：“需要我，赶也赶不走；不需要我，留也留不住。”
阎锡山昔日历任秘书迄今在世的仅有两位，一位是现居台湾的运城人氏原馥庭，另一位是现居太原的原省人大常委会副主任、省政协文史资料研究委员会主任、著名历史学者李蓼源。
到现在原馥庭仍保留一口浓重的山西口音。从抗战开始一直到1960年阎锡山去世，他担任秘书20多年，一直没有离开过阎锡山。2004年他曾把从大陆去的山西老乡特地请到台北市一家山西饭店吃午饭。他说这是同为山西人的徐永昌从太原带来的厨子开的，几十年来虽几经易手，老板换了好几位，不过饭店的山西风味倒是始终如一地保持下来了。
原老感叹说：“战乱时分，老百姓受的苦，遭的罪，那真是一言难尽。所以咱们中国能有今天，不容易啊，两岸同胞都要倍加珍惜！”
这是原先生的肺腑之言。
在此番做东及次年参加台北山西同乡会暮归故里的日子里，原先生在各种场合谈到了他当初追随阎锡山离开山西后的经历。
原馥庭回忆说：
我迄今还记得很清楚，阎先生接到代总统李宗仁从南京发来电报的那天，是1949年的3月29日。那时候国共双方决定4月1日在北平举行和谈，李宗仁特地召集阎先生与居正、白崇禧、张治中等人去南京，在代表团启程前夕，商讨和谈问题。当时太原大战在即，阎先生在各种场合都高调宣示，决意与太原共存亡，他从内心是不愿意在这样紧要的关头离开的。但是李代总统专电邀请他前往南京商谈国是，他不去也不成。后来有的人写文章说他是说一套，做一套，让部下留在太原与共军拼命，自己找个借口溜掉了。有好几本书上都这样丑化阎锡山，说他装腔作势，要和大家共存亡，但事实上，就在三军将士受其蒙蔽，为其卖命的时候，阎锡山却偷偷搭乘专机逃出太原，一去不回头！为了掩人耳目，尽快脱身，他甚至连一向心爱的五妹子也弃之不顾了。还有本书里说，到了1949年3月初，太原空中交通已被解放军炮火所控制，只有西门外洪沟小飞机场尚能使用，阎锡山便急电在南京的军事代表杨爱源，叫杨向美国大使司徒雷登请求，向代总统李宗仁提议，调他为行政院长，但李不同意，未能实现。到3月下旬，阎锡山又打了一个电报给铨叙部部长贾景德说：‘为拯救晋民，咱拟在中央占一位置，名位高下，在所不计，副主席亦可。’贾向李代总统请求，先去一电，请其来京，俾脱险境，李许可了。
原馥庭先生认为以上诸种说法毫无根据，纯属诬蔑丑化阎锡山人格的妄测之言。当时连他们几位跟随阎先生同赴南京的人员，也全都以为要不了三五天就会回来，出发前连家也没顾得上回一趟，亲人也没顾得上见一面打个招呼就走了。“拿我本人来说，自那天匆匆一走，父母天各一方，阴阳永隔，连一对亲生儿女，也是几十年后才偷偷摸摸从台湾跑到香港见上一面。”
阎锡山的另一位留在大陆的秘书李蓼源先生也在《阎锡山离晋去台始末》一文中，记述了阎锡山试图从南京返回太原所做的种种努力：“但四野炮兵第1师高射炮部队的到来封锁了太原的天空，也断绝了阎锡山回家的路。太原守军发去电报说机场全部被毁，飞机已无法降落，阎锡山最终才放弃了返回太原的计划。”
关于阎锡山离开太原的情形，我们还是听听他本人在日记中是怎么说的吧。
1949年3月29日：“李代总统电召赴京，商决党国大事。晚8时抵南京。”
4月11日：“去奉化。蒋总裁云：‘太原固重要，太原是国家一隅，若国家不保，太原亦无法保存，望你多留南京，做团结工作。’”
4月12日：“返京。参加和谈会议。李代总统亦一再嘱多留京。”
4月18日：“中国国民党中央执监委员及政治委员会委员于广州联席会议，电邀赴穗，同谋挽救危亡。”
4月19日：“太原飞机场不能降落。接太原梁代主席化之电称，请勿再图返省，解救危急，只有大量空军，希望能使飞虎队用国家空军名义大量出动。”
4月21日：“复接梁代主席化之电话，共军增加炮兵部队甚多，恐城陷在即，目前已经应处理之人及事，处理完毕。职一定遵命集体自杀，并本尸体不见敌人面之昭示，一切准备妥当。复接阎慧卿电话云：一定遵命率家人自杀，并焚其家屋，请勿为念。”
4月22日：“由京到沪，以无线电话，继续指挥作战，并勉励全体文武干部，成功是国家民族的需要，成仁是自己的收获。所愧者，不能与大家共同牺牲，惟我一定要对得起大家。”
4月23日：“10点后，与太原联络中断。于联络中断之前，太原表示：一定巷战到底。”
4月24日：“太原失守。又接在穗中委全体电促速往穗，共商国是。原拟先飞溪口再飞穗，后因机场不易降落，改定先行飞穗。”
原馥庭说在山西当首领不容易，从辛亥革命到1949年，山西一直处于战火中，没有安顿下来。光是1912到1927北洋15年，山西就被进攻过10次。比如1925年冯玉祥就曾占领大同13个县中的大部分；北伐之初，张作霖也占了大同好几个月，不过后来马上被打退回去。他还谈到阎先生有4个秘书，一个是北部五台山的代表，一个是娘子关的代表，一个是东部的代表，原馥庭则是运城的代表。这是因为不同工作需要配备的，也是让周围人看，阎锡山能把各方面都照顾好，不偏不倚。山西像一个小国家，要让身边人都拥护他，也要花很多心思才行。在外人眼里，阎锡山这个“山西王”很风光，但在原先生这样的身边人看来，阎锡山其实是个劳碌命，这一辈子做官做得很苦。也许是因为对这一切已经厌倦，阎锡山也很早就决定离开台北，搬到山上去住。他就是要主动做出退出政治的姿态。
原馥庭回忆说，有一次，台北市长高玉树想到山上看阎锡山，下了车站在那儿等。高玉树并不是蒋介石的人，可是阎也不见。原馥庭只好对高玉树说：“对不起，阎先生不在山上。”那时候政治气氛也十分敏感，他不想让情报人员以为他拉帮结伙。
原馥庭晚年在回忆阎锡山的文章里写道：
在台北待了半年后，阎先生带着我们随行人员四五十人搬到台北市郊的菁山居住。菁山原是日本人废弃的茶园，一片荒芜，山上的荒草长到了一人多高，当地的老人都割草挑担卖到造纸厂。日本人占领台湾时，山上还有游击队。这里非常偏僻，交通不便，平时进城要步行30分钟才能到达公路。附近也没有村落，也没有电灯、电话、自来水。走山路的时候，经常看见野兔四处乱窜。
阎先生租了这块地，盖了9间房子，以茅草为顶，竹片糊泥为墙，房子十分简陋，台风又把草顶给吹掉了。有一次屋里还漏了雨，我们就撑了一把大伞，挂到他床上头，所以阎先生还有过打着伞睡觉的经历。
为了对抗台风和地震，阎先生后来想起了自己家乡山西的窑洞。我们让工人就地取材，用石头水泥又建了5间房。当时蒋介石给他阳明山的另一套日本人留下的好房子让他住，阎先生谢绝了。
当时，山上没有电灯，没有自来水，喝的是用竹管接的泉水。不久，蒋氏夫妇上山去探望他，路况很差，车子颠簸不已。回到台北后，蒋介石就让人装了一个军用电话，以解决和外界的联络问题。陈纳德和夫人陈香梅来山上探望阎先生时，赠了他一台发电机，可是阎先生为了节省用油，仍然点蜡烛工作，直到3年后电力接通。
为了改善生活，我们自己在山上养猪养鸡耕地，一梯一梯地种橘子。跟随他到台湾的侍从人员有四五十位，阎先生用钱也很仔细，一个人一个月在大厨房的伙食大约是100块。这个标准吃了大概有10年，也没有涨过。后来厨子说大家吃得太苦了，阎先生听了这话，才又加了点钱买肉。刚一增加伙食标准，阎先生就走了。当时很多卫队的青年人跟着他到了台湾，他也用不了那么多警卫，为了替大家张罗生计，他还曾开过印刷厂。但后来他也养不起这么多人，很多老部属也就慢慢地离开了。
那时候我也多少有些动摇，犹豫着该不该继续在山上待下去。当时一个朋友希望我到台北一个机关里做事。有一天我跟阎先生提了此事，他听罢沉默了许久，说了句：“你不能离开我。”我就又留了下来。
阎锡山在菁山一住就是10年，一心读书写作，非重大的活动不轻易进城。他生活很有规律，每天早晨7点起床，然后写作。午饭后休息两小时，下午会见客人，或者读书、思考问题，晚上22点准时入睡。
1959年，阎锡山77岁。一天晚上，他伏案写作完毕，准备上床休息时，忽感心脏不适。第二天，便到台湾大学附属医院检查身体。经医生诊断，已患有比较严重的心脏病，医生劝他住院治疗。他在医院住了一个多月，因记挂着他尚未完稿的《三百年的中国》一书，没等痊愈，便匆匆赶回了菁山。
外界都以为阎先生是“山西王”，很有钱，但到了台湾来看，他的生活非常简单，家庭也是非常普通的。不知为什么，阎先生和家人并不亲近。阎先生的第一位太太在太原抗战第二年就去世了；后来又娶了一位，这位夫人和他同岁，家里非常有钱，她没有生孩子。他们向来不住在一起，阎先生只有星期六下午才和太太见一面。这样好多年了，我们也不能问。我记得是1952年左右，这位夫人也去世了。他的孩子很早就去了美国，也很少回台湾。
搬到山上后，他几乎很少出门。他的生活非常规律，头一天晚上我们把他第二天的日程安排好：几点几分干什么，给这个人10分钟，等等。他不愿意浪费一点点时间。除了侄子阎志昭偶尔来访外，他的主要精力都用在写文章上。不过，他的写作方式是“动脑不动手”，每天他起床后，总有一个人坐在办公室听候他的命令，他口述自己的想法，我们几个记录、整理。比如某天他有感而发，就让我们写下这句：“喜怒不形于色，深沉可，阴险不可。”他睡觉时，身旁有支钢笔，有什么感想，他也随时写出来，交给我们整理。
阎先生平素话不多，阎先生的会客室门上写着三个大字：“持得住。”我们和他一句都不敢多嘴。跟随他这么多年，我几乎没有几张和阎先生的照片，因为不敢张嘴提这样的要求怕打扰他。我记得有一年他请了一位客人来吃饭，客人还没有来，副官拿相机给我们拍了一张合影，单独照相的机会几乎没有。
有的朋友来信对他说：“你在台湾寂寞，可以参加宗教活动。”阎先生回信说：“我一天到晚忙得很，我估计再有三年五年，我把该写的写完了，我并不寂寞。”
有人对我开玩笑说：“阎锡山是前世五台山的老和尚，你是今世的小和尚。”
阎先生一直患有心脏病，但他那时把注意力都放在他的《三百年的中国》一书上，所以医生劝他住院他不肯。
1960年5月20日，蒋先生有一个庆祝会，阎先生因为重感冒加上气喘，就没有参加。第二天，他的身体就出了状况，浑身出汗，在床上坐也不行、躺也不行，我们把台大医院的内科主任请来，医生让他马上进医院接受治疗。等到了医院，人已经不行了。
阎先生的墓地就选在他生前居住的菁山草庐后，我们挑了两样东西随他下葬：一支是他平时记东西用的钢笔，非常普通；还有一把剪刀——他生前一个人闲着想事情的时候，经常拿这把剪刀剪胡子。
山西省地方志办公室副主任曹振武与原馥庭多有交往，后撰《爱国老人原馥庭》一文，发表在《党史文汇》2010年第1期上。摘引如下：
原馥庭系山西省河津县和井村（现属万荣县）人，民国三年（公元1914年）生，现已97岁。山西大学中文系毕业。抗日战争时任第二战区司令部秘书。1949年将一双儿女留在原籍，同夫人去了台湾，任阎锡山首席秘书。阎锡山逝世后调任台湾当局少将参议。李登辉上台后搞台独，原馥庭坚决反对，愤而辞职。
原馥庭身居海岛，心系大陆，无时不在思念故土。两岸隔绝数十年，骨肉生死难明，原馥庭唯恐今生难见亲人一面，于1989年与夫人携晚辈到香港，同在大陆离散40年的子女团聚6天，以慰天各一方，梦寐思念之情。1993年，两岸关系初晴，冰山渐消，原馥庭回到离别44年的和井村扫墓祭祖。此后他几乎每年皆回山西探望，受到省地县乡各级领导和家乡父老的热烈欢迎。
原馥庭亲眼见到祖国大陆由贫变富，由弱变强，山西经济、文化、社会建设突飞猛进，人民生活丰衣足食并日益提高的事实，甚为感动。1998年他参观万家寨引黄济晋水利工程时，赋诗盛赞山西党政领导其功不在禹下：“石楼临晴空，南眺出千里，人怜山气佳，予叹禹功美。”参加山西大学承办的“近代史研讨会”后，他赴五台山参观，途经忻口见抗日战场遗迹，回想此役有4万余官兵为国牺牲，至感悲痛，泣不成声。此后，友人邀他再游五台山，他婉言相谢，实则是不忍再看忻口伤心之地。他说：“忻口战役坚持23天，牵制日军速战速决三月亡华之妄想，亦使南京得以从容西迁，功不可没。是国共合作共同抗击敌寇的典型之战，后人不可忘记。”