李书城与阎锡山都是留学日本士官学校的同学，在中原大战期间李书城曾经在山西与阎锡山反目。
当时宁汉合流之后，唐生智于1928年从日本回国后，投靠了蒋介石，但在他心里却时时有着反蒋的念头。为此唐生智把阎锡山作为主要联合的对象，于是他派李书城长期住晋。1929年3月，唐在倒桂战争中，根据蒋的命令，策动被编入桂系的旧部反桂拥蒋，逼走长期驻在华北的白崇禧，南京政府任命唐为第五路军总指挥。5月，蒋又任命唐生智为军事参议院院长，令唐率部沿陇海路西进讨冯。唐在此次战争中首挫宋哲元部，在西北军西撤潼关过程中起了重要作用。但他知道这样做只是为蒋介石“火中取栗”，心里的反蒋之意并没有打消。在韩复榘、石友三、马鸿逵等背叛冯玉祥投靠蒋介石之后，感到备受歧视，唐生智也把他们算成是自己反蒋的同盟者，因之也与他们建立了联系。此时国民党内的改组派看到了他的态度，委派唐生智为“护党救国军”第四路军总指挥，石友三为第五路军总指挥。唐生智又委派袁士权（华选）到山西联系阎锡山，表示只要阎同意反蒋，就拥护阎为领袖。李书城为促进阎锡山、冯玉祥联手反蒋，经常奔走其间，为之出谋划策。他们认为，拥护阎锡山主政，冯玉祥主军，汪精卫主党，在北平另组新政府，可以最后消灭蒋政权。但阎锡山老谋深算，对冯玉祥不放心，总想把冯放在身边，便于操纵。他认为冯玉祥是一只猛虎，如果一旦放出笼子，将来就很难控制了。
李书城当时是唐生智的总参议，他奉唐生智之命由北平到太原拜访阎锡山，代表唐生智与阎锡山共商反蒋之策。而当时冯玉祥在韩复榘、石友三叛变投蒋之后，蒋介石以国府的名义讨伐冯玉祥，冯的心情可想而知。在这种情况下，阎锡山一面电冯下野出洋，一面委托李书城到陕西华阴劝冯玉祥到山西，与阎锡山再商倒蒋。冯玉祥怕上了阎锡山的当，自己不想去，先派他的参谋长邓哲熙等先到太原与阎锡山面商。邓哲熙在回忆时说，冯告诉我：“只要阎能够共同反蒋，除去不能应允亲到山西这一个条件以外，阎其余的条件都可以接受。”邓受命之后，由潼关渡河，刚到对岸的风陵渡，正巧遇见李书城。邓告诉李书城，冯玉祥不能考虑赴晋。李说，他已经与阎说好，现在马上过河见冯玉祥。李听到阎部的重要将领孙楚等人说，冯不接受阎的劝告，无意出洋。李书城当即表示，如果阎决心与冯一起出洋，他可以去见冯面劝。孙楚等立即把李书城的话报告给阎锡山。阎锡山闻讯大喜，第二天就派汽车送李到风陵渡口，让他过黄河去见冯。李书城与冯玉祥本是旧友，早在1924年间，冯玉祥联合胡景翼、孙岳发动北京政变，倒吴佩孚囚禁曹锟，曾由黄郛出来组织摄政内阁，李书城就是由孙岳推荐而担任内阁中的陆军总长的。从那个时候起，李就与冯相识。李是同盟会员，辛亥革命时期李书城曾任黄兴的参谋长。冯对李向来很尊重，此时又遇韩、石叛变，正在伤心愁苦的时候，见李书城远道而来，深表欢迎。李与冯谈话的基本意思是，蒋自从打垮李宗仁以后，其排除异己更见毒辣，唐生智和两广方面，连同阎锡山在内，都想反蒋。但唐生智对你（冯玉祥）素有恶感，……唐一定要先打垮你才会反蒋。目下桂系新败之余，蒋的气焰正盛，你要反蒋没有帮手，形势对你不利……我看阎的为人尚称诚实，他现在约你一同出洋，你何不趁此机会躲闪一下，和他出洋走走，我也可以陪你同去。这样做于你有利。你在军事上威望很高，但在政治方面还要树立威望。你出国后，把军队交给将领，力量还是整个的，蒋绝不敢打他们。你在国外与外国的政治家往来接触，取得些联络，有时对国内发表一些政治言论，借以增高声望。不出半年，国内反蒋之战必起，那时你回到国内重新掌握自己的军队，其他的反蒋势力一定会推崇你。你振臂一呼，蒋介石非垮不可。冯玉祥听了这番谈话，沉思许久，决定赴晋见阎面商，不久遂于1929年6月21日连同妻女偕李书城渡过黄河来到山西。
冯玉祥到山西后，先住在晋祠（1929年6月25日至9月29日），后转移至五台县建安村，当时阎锡山派了一个多营的卫队将冯玉祥软禁了起来。冯玉祥作为领兵打仗的统帅自无法容忍，但他组织逃跑亦被阎锡山的卫队发现并拦阻。邓哲熙在回忆中说：“因为是李书城劝冯到晋与阎锡山共商反蒋的，现在阎对冯如此，李书城心中甚为不安，也每日打坐习静，表示一定要在建安村住下去，与冯玉祥一同坐监。这时主张阎、冯联合反蒋而又对阎有说话资格的人，除了李书城外，还有山东名流王鸿一。王亦是与冯相识多年，素受冯的尊敬。李、王二人因之常常向阎进言，冯玉祥痛恨阎锡山背信，愤而绝食，经李书城、王瑚（冯玉祥的顾问）等人力劝，冯才复食。”冯玉祥在1929年10月25日的日记中写到：“4时，晓园、定五、煜如、竹坡、铁老均来劝，并谓百川（阎锡山字）已觉悟，不日即可发电主张和平。谈至五时，伊等均力挽会餐，余以情面难却，乃略进粥。计绝食已72小时矣！”
经过这一系列的事情，李书城对阎锡山的为人已经看得非常清楚了，觉得他出尔反尔、背信弃义，尽管李书城明白阎锡山的用意，但非堂堂正正，不是君子所为，内心极其反感，遂与之反目。
