宋文帝劉義隆即位後，拜驃騎將軍、散騎常侍、開府儀同三司，遷荊州刺史。元嘉六年，因王弘上表推薦劉義康獲徵召入朝任侍中、都督揚南徐兗三州諸軍事、司徒、錄尚書事，領平北將軍、南徐州刺史，與王弘共同輔理朝政，不過其時王弘多病且常常有意謙讓，故朝事基本上都由劉義康決定。元嘉九年王弘死後，劉義康又領揚州刺史。宋文帝常年寢疾，屢經危殆。劉義康提醒宋文帝檀道濟日後恐難以控制。於是，在元嘉十二年，宋文帝劉義隆下詔讓檀道濟入朝。同年，加封劉義康爲太子太傅。元嘉十三年，宋文帝劉義隆病重，憶起劉義康的提醒，便將檀道濟處死，並殺檀道濟諸子及大將高進之等。第二天，大赦天下。
劉義康履職盡責，銳意文案，糾剔是非，莫不精盡。宋文帝劉義隆非常倚重和信賴劉義康，凡是劉義康所上奏的事情都得到允許，刺史以下官員都由劉義康決定任免，甚至連生殺大事也經常由他決定。於是劉義康獨掌朝事，勢傾天下。但劉義康並未懈怠，依然努力，內外衆事，皆專決施行。宋文帝劉義隆有虛勞疾，寢頓積年，劉義康服侍宋文帝劉義隆吃藥，盡心侍奉，湯藥飲食，都要嘗一嘗再進獻給皇帝。有時，劉義康連夜不睡覺、數日不解衣。
劉義康的親信左長史劉斌、從事中郎王履、主簿劉敬文及祭酒孔胤秀見宋文帝劉義隆病重，便公開表示應該冊立長君，祈求劉義康以宰相之名準備顧命詔書，而且還揹着劉義康到尚書儀曹那裏取晉康帝繼位之事的文獻。宋文帝劉義隆病好後，祠部尚書何尚之將這些事偷偷稟報給皇帝，皇帝聽到後非常生氣，又詢問尚書儀曹的上司尚書僕射孟顗、左丞謝元等人，才徹底知道這些事。而且劉斌等人肆無忌憚，圖謀將劉義康推上帝位，廣結朋黨全力支持宰相劉義康，同時誣陷異己。從此皇帝劉義隆就對宰相劉義康產生了不滿情緒，但剛開始劉義康對此還渾然不知，他想讓劉斌任丹陽尹，話還沒有說完皇帝劉義隆就起了疑心，立即拍板讓劉斌任吳郡太守。後來會稽太守羊玄保請求還朝，劉義康又想讓劉斌接任，特地去向宋文帝詢問繼任人選，宋文帝當時還未想好，倉促間對劉義康說已決定任用王鴻。元嘉十六年，劉義康進大將軍，領司徒，辟召掾屬，與宋文帝嫌隙日益加深。自元嘉十六年秋季起，宋文帝劉義隆再也沒有去過劉義康的東府，至此，皇帝和宰相之間的矛盾已經顯現，宋文帝開始擔心出現禍亂，而劉義康也對自己的未來有了疑慮。
元嘉十七年十月的一天，劉義康急匆匆趕往皇宮，這次皇上召入宮中留宿也沒說是什麼重要事情，難道會出什麼大事嗎？劉義康邊想邊走，心中忐忑不安。
劉義康走到中書省，六名衛兵將其攔住並軟禁在中書省。
軟禁期間，桂陽侯劉義融、新喻侯劉義宗帶來皇帝劉義隆下的《罪劉湛》詔並當場宣讀：劉湛階藉門蔭，少叨榮位，往佐歷陽，奸詖夙著。謝晦之難，潛使密告，求心即事，久宜誅屏。朕所以棄罪略瑕，庶收後效，寵秩優泰，逾越倫匹。而兇忍忌克，剛愎靡厭，無君之心，觸遇斯發。遂乃合黨連羣，構扇同異，附下蔽上，專弄威權，薦子樹親，互爲表裏。邪附者榮曜九族，秉理者推陷必至！旋觀奸慝，爲日已久，猶欲弘納遵養，冀或悛革。自邇以來，凌縱滋甚，悖然懟容，罔所顧忌，險謀潛計，闢睨兩宮。豈唯彰暴國都，固亦達於四海！比年七曜違度，震蝕表災，侵陽之徵，事符幽顯。縉紳含憤，義夫興嘆！昔齊魯不網，禍傾邦國，昭宣電斷，漢祚方延。便收付廷尉，肅明刑典！
在聽到詔書上劉湛等人的罪狀後，劉義康驚恐萬分，當場潸焉出涕，徹底心灰意冷，立即寫了一個奏書，讓桂陽侯劉義融代爲上奏，請求退職，但在中書省軟禁期間一直未得到皇上准許。
同時，皇帝劉義隆下詔公佈劉湛的罪行，在獄中就地處決劉湛，同時誅殺了劉湛的兒子劉黯、劉亮、劉儼以及劉湛的黨羽劉斌、劉敬文、孔胤秀等八人，下令將尚書庫部郎何默子等五人，流放到廣州，廢王履於家，下令大赦，但還是沒有釋放劉義康。
祕書監徐湛之被大將軍彭城王劉義康恩寵，並和劉湛等人十分投機、關係密切。皇帝收付劉湛及其同夥後，事情牽連到徐湛之，皇帝劉義隆知曉後大怒，要對徐湛之處以極刑。徐湛之既擔憂又害怕想不出其他辦法，只有去求母親會稽長公主。
會稽長公主是高祖的嫡長女兒，母親是武敬皇后臧愛親。爲皇帝劉義隆所敬重，無論家事大小，必先徵求她的意見而後行。皇帝劉義隆西征謝晦時，讓長公主留守京城臺內入居宮中，統管六宮事物。長公主一有不如意就號哭，皇帝劉義隆十分忌憚她的所爲。當初高祖寒微時家裏非常貧窮簡陋，曾親自去新洲砍荻草，收藏有打補丁的粗布衣裳，都是敬皇后親手縫作的。高祖顯貴後將補丁衣裳交給會稽長公主說：“後代子孫如果有驕縱奢侈而無節制者，可將這些衣服拿給他們看。”
會稽長公主當日就趕往皇宮，見到皇帝劉義隆後，只在皇帝劉義隆龍榻下嚎啕大哭，根本不對皇帝劉義隆行君臣禮。她用一個錦袋裝着高祖的粗布補丁衣裳，將衣裳取出並扔在地上給皇帝劉義隆看，說道：“你們家本來貧窮低賤，這是我母親爲你父親縫的粗布衣裳，如今有一頓飽飯就想殘害我的兒子！”
皇帝劉義隆聽到這些話，心立即軟了，也大哭起來，徐湛之由此得以保全性命。
收付劉湛後，劉義康被軟禁在中書省十多天，只有桂陽侯劉義融、新喻侯劉義宗、祕書監徐湛之前來慰問。其他人怕引火上身，不敢前來探視。
祕書監徐湛之提着酒菜看望劉義康，“舅父幾日多有煎熬，湛之前來看望舅父！”
劉義康看到徐湛之提着酒菜心頭的恐懼油然而生，擔心是皇上御賜的毒酒。