张国焘于1938年叛变投靠国民党，在蒋介石的要求下，张国焘正式加入了“国民政府军事委员会调查统计局”(简称“军统局”)，任特种政治问题研究所主任，少将军衔。在军统局里，这可是-个不小的官职。所以，不少原国民党特务都对张国焘嫉妒得要命。因为当时在军统局里，只有戴笠和郑介民是中将级，其他最多也只是少将。张国焘也确实十分得意，由于蒋介石还给了他一个军委会中将委员的空头衔，所以，他去军委会开会时，便穿上军服，挂上中将领章。但他也挺知趣，到军统局工作时，特别是去见戴笠时，大都穿便服。据曾任军统局七处处长的沈醉回忆说：“有一次，戴笠约了几个处长去吃饭，也邀了他，我们都是挂少将领章，只有他一个人挂中将领章，他便感到有点尴尬，因为别人虽只挂少将，但权力都比他大，他只是限于研究范围，所以大家在谈日常工作时，他一言不发。”
张国焘在中共党内近18年，对于中共的所有内情基本掌握。对此，沈醉回忆说：“戴笠企图利用张国焘过去在中共的地位和关系，大搞对中共组织内部进行打入拉出的阴谋活动。最初对张国焘寄以极大的希望，满以为只要他能卖一点力气，便可以把共产党搞垮；张国焘说要在陕甘宁边区设立一些策反站，戴笠马上照他的计划办理。真是要人给人，要钱给钱。这时张国焘不仅是戴笠宴客时座上最受欢迎的嘉宾，也是戴笠引为最得意的部属。他每次请客准备邀请张国焘去参加时，往往先告诉他的朋友，并且用很骄傲的口吻先向朋友们介绍说：'明天你来吃饭时，便可以看到共产党里面坐第三把交椅的人物了!'”
戴笠虽然如此器重张国焘，但对张国焘是存有一定戒心的。据沈醉说：“军统局一切重要会议不邀张参加，对他有点敬而远之。可能防止他对军统也来'研究'吧！军统中许多科长一级的中等骨干都没有和张国焘往来过。有的只闻其名，未见其人。我由于负责总务工作，与各单位都得往来，除不过问各单位业务外，凡涉及生活方面的问题，我都能过问。不过我当时对张国焘主持的那个研究室却不感兴趣，几年中我才去过两三次。”
军统特务对张国焘处处存有戒心，派往他家照顾生活的勤杂人员，都是经过主管总务的沈醉一一挑选的。这些人既照顾他的生活，也“兼顾”他的思想和言行。也许张国焘意识到了这一点，所以为了表示他对国民党的忠诚，不使人有所怀疑，他在会客室与客人会面时，从不把门关上，有时还故意放大声音说话，在自己家里也不得不做出如此表演，令他痛苦不堪。尽管如此，他知道自己寄人篱下，只能处处加倍小心。
张国焘为了博得戴笠的好感，使出浑身解数为戴笠卖命。上任伊始，张国焘首先抓特种政治问题研究室的组建工作。经过一段时间的筹备，研究室基本上搭起了架子。研究室下设秘书室、联络组、研究组，另外还设一个招待所。秘书室设秘书1人、助理秘书1人。特研室的工作主要是用来对付共产党的。特研室办起来后，张国焘做的第一件事就是办一个训练特务的学习班，名曰：“特种政治工作人员训练班”。训练班的课程主要有蒋介石的言论集、中共问题、马列主义之批判、情报学等等。张国焘亲自担任马列主义之批判这门课，每周两小时，内容主要是如何从思想上、理论上反共。他把共产党最擅长的思想教育和理论教育方法搬到了为国民党训练特务的特训班上，而且下了很大功夫备课，很卖力气地讲给学员听。但效果如何呢？雷啸岑在《我所知道的张国焘先生》一文中回忆说：“经过四小时讲课后，学员们的反应态度很冷淡，总是不如对某位教师所讲的爱听；张国焘即将某教师发给学员的讲义，详加审阅，乃知其内容全系声张武力剿共的那套理论，幼稚可笑，然很受学员们欢迎，张国焘深感失望。即不再前往授课了。”
特务们不仅不喜欢他的课，连他这个人也觉得讨厌了。据张之楚说：“在特种工作人员训练班第一期结业典礼的时候，典礼一毕，教官、学生以及军统局有关负责人在一起聚餐，戴笠、张国焘均在场。正当入席的时候，别的教官都互相关照，彼此打招呼入席，唯独没有一个人请张国焘入席。张国焘的处境极为尴尬，坐不是，站不是，不知所措。后来戴笠见了，才忙过来，请张国焘入席。”
