當然，從不跟風和盲從的胡適，在對蔣某人寄以厚望的同時，顯然是有所保留的。
在日本的這段時間，胡適仔細讀了那幾個月的報紙，瞭解國內的情況，他後來說過，他理解吳稚暉等一班文人出來主張“清黨反.共”，有重要的“歷史意義”。顯然，這個時候的胡適，和蔡元培一樣，是站在蔣介石一邊的。
有一天，在帝國大旅館裏，胡適遇着剛從上海來的哈佛大學教授赫貞先生(manly??o.??hudson)。談話間，赫貞說他在上海與宋子文交談過，認爲“最近中國的政變是一個大反動!”
胡適不同意他們的看法，曾爲蔣介石辯護，說：“我這十個月在歐洲美洲，不知道國內的詳細情形。但我看最近的政變，似乎不像宋子文先生說的那樣簡單吧？蔣介石將軍清黨反.共的舉動能得着一班元老的支持。你們外國朋友也許不認得吳敬恆(按，即吳稚暉)蔡元培是什麼人，但我知道這幾個人，很佩服他們的見識與人格。這個新政府能得到這一班元老的支持，是站得住的。”
胡適對吳稚暉、蔡元培是信賴的，認定他們不會輕率做出選擇。
在日本觀望了20余天後，胡適對國內風雲變幻的政局大致有了認識，心裏有了一些底數，想到自己的很多友人，諸如蔡元培、吳稚暉等，都得到了重用，覺得自己不至於被怎麼樣。便訂了船票，決定回國。
1927年5月17日，胡適從日本回到上海。下船就收到顧頡剛的一封長信。
顧在信中，說：“我以十年來追隨的資格，摯勸先生一句話：萬勿回北京去。現在的北京內閣，先生的熟人甚多，在這國民革命的時候，他們爲張作霖辦事，明白是反革命。先生一到北京去，他們未必不拉攏，民衆是不懂寬容的，或將因爲他們而累及先生……這是我和淚相勸的一件事，請先生聽我罷！”
顧頡剛在“萬勿到北京去”幾個字的下面，都加有密圈，可見他是多麼擔心自己敬愛的老師的安全。
也難怪，胡適曾爲陳炯明仗義執言，曾鼓吹“好政府主義”，當過段祺瑞政府的善後會議議員，反對沒收清宮，這些都可以當作“反革命”行爲看。而他在北京的朋友，又多爲軍閥的僚屬和政客。在這國民革命的熱浪中，“反革命”的罪名逃得掉嗎？胡適自己也清楚，北京這個時候是絕對不能回的，他只能留在上海。
那時的北洋政府，已是風雨飄搖，財源早已枯竭。北京各大學長時間發不出薪金，教員生活狀況糟。政治環境也很惡劣，連續發生“三一八”慘案等多起屠殺請願學生和民衆的事件。
此時，大批文化人便紛紛南下逃荒避難，或投效革命，或尋求新的棲身之所。原來新月社和《現代評論》的一班人馬也紛紛南下，徐志摩、聞一多、梁實秋、饒孟侃、余上沅、丁西林、葉公超、及潘光旦、邵洵美等新老社員，都先後匯聚於上海。
新月社是中國現代文學史上影響較大的一個文學社團，於1923年成立於北京，是五四以來最大的以探索新詩理論與新詩創作爲主的文學社團。是一個涉及政治、思想、學術、文藝各領域的派別，在思想上和行動上都追求進步，參加者有梁啓超、胡適、徐志摩、余上沅、丁西林、林徽因等人。
《現代評論》，是一本綜合週刊，1924年12月13日在北京創刊，王世傑負責編輯，主要撰稿人有燕樹棠、高一涵、周鯁生、陳西瀅、陳翰笙、張奚若、李四光、胡適、唐有壬等，多爲留學英、美的教授學者。徐志摩、丁西林、凌叔華、聞一多、沈從文、胡也頻等亦有文學創作在該刊發表。內容涉及政治、經濟、法律、文藝、哲學、教育、科學等各方面。
這些文人聚到一起就要做些文人乾的事，愛張羅事的徐志摩見到從日本取道回國的胡適，覺得機不可失。
胡適曾於1923年左右參與新月社的早期活動，是當時的主要成員之一。此時，聞一多、趙太侔、余上沅、梁實秋、饒孟侃等人已陸續來到上海，而潘光旦、張禹九、劉英士等人也新從海外歸來，故友新知的慫恿和支持使辦《晨報》副刊辦到灰心的徐志摩，重新燃起了開書店辦雜誌的熱望，希冀着擁有自己的一塊文學陣地。
刊登在《申報》上的《新月書店啓事》，委實道出了新月同人的這種迫切心情：“我們許多朋友，有的寫了書沒有適當的地方印行，有的擱了筆已經好久了。要鼓勵出版事業，我們發起組織新月書店，一方面印書，一方面代售。預備出版的書，都經過嚴格的審查，販來代售的書，也經過鄭重的考慮。如果因此能在教育和文化上有點貢獻，那就是我們的榮幸了。”
胡適回國後不久，新月社的人們便聯絡商議，由大家招股集資，籌辦一個新月書店。因爲胡適的的聲望和威信，大家推胡適爲董事長，張禹九任經理。
於是，6月30日的《申報》上登出了一則廣告：“新月書店開張啓事本店設在上海華龍路法國公園附近麥賽而蒂羅路一五九號，定於七月一號正式開張，略備茶點，歡迎各界參觀，尚希賁臨賜教爲盼。”
新月書店的開辦，以徐志摩關係多、人事熟，因而出力也最多。胡適掛着董事長的名義，自要多盡一點股東的義務。答應把《白話文學史》修改出來，給新月書店出版。
這部書，原是1921年冬天，胡適在教育部舉辦的第三屆國語講習所講授“國語文學史”的講稿。第二年又到天津去講，他住在旅館裏，把這“國語文學史”的稿子修改了一遍。後來，北京文化學社竟把這本講義排印了出來，封面上印着錢玄同題寫的書名，書前有黎錦熙寫的“代序”，儼然是一本正式出版物了。胡適得知以後，覺得“拿這種見解不成熟，材料不完備，匆匆趕成的草稿出來問世”，自己感到“十分難爲情”，便決心修改這部書。這次修改，幾乎是重寫。而且把“白話文學”的範圍放得很大，實際上是寫一部中國文學史。
由於書店剛開創，稿子催得緊，胡適“隨寫隨付排印”，仍是匆匆趕成胡適自己也仍有諸多的不滿意。但這部書，是用近代科學方法來研究和整理中國古代文學史的第一部著作，草創之功還是十分可嘉的。只是始終未能續完，又是“半部書”。