這時候，他的好友及同科舉子，在總理衙門任職的張元濟，在琉璃廠開設了通藝學堂，專授英語。他開始本來是決定去學的，不久他的另一個友人劉樹屏，在內城設立了專修日文的學堂。想到從文字角度，中國人學日文要容易得多，西文要籍均有日文譯本，他最後選擇了後者。
藉助劉樹屏的學館，他與好友王式通等成立了“東文學社”，聘師輔導。因爲學日文不是爲了語言交流而在於讀書，他乾脆徑直借用中日詞典，邊學邊試着將日文書譯成中文。先後翻譯了《萬國地誌》序及《俄土戰史》的部分章節，收到了事半功倍的效果。雖然對講日語很生，但在文字上很快便“文從自順”。
在以後的日子裏，譯日文的本領，竟成了他得心應手的技藝，也使他終身受益。
這一年，發生了撼動中國的政治大事件——“戊戌變法”。
戊戌變法，也稱百日維新、維新變法、維新運動。
我們在前邊說過了，1898年6月11日，以光緒皇帝頒佈“明定國是”詔書爲標誌，變法正式開始。變法期間，光緒帝先後發佈了一系列的變法詔令，除舊佈新。
其主要內容是：改革政府機構，裁撤冗官，任用維新人士；鼓勵私人興辦工礦企業；開辦新式學堂吸引人才，翻譯西方書籍，傳播新思想；創辦報刊，開放言論；訓練新式陸軍海軍；科舉考試廢除八股文，取消多餘的衙門和無用的官職。
也正如本書前面所說，主持變法的是一幫書生，不是做事的人，不知道做事難。所謂書生意氣，以爲只要有皇帝發號司令，只要他們想變，就什麼都能變。在一百天多一點的時間裏，光緒皇帝和康有爲、梁啓超、譚嗣同等人，一共頒佈的新政的詔令和諭旨，就有一百八十多個。
本來，執掌實權的慈禧太后對於維新變法開始還冷眼觀之。但一衆熱血的維新派這時頭腦發熱，竟異想天開的想要把慈禧太后和反對維新變法的官僚們一舉從權力的中心踢出局，使年輕皇帝光緒真正親政。慈禧太后當然不能坐以待斃。
1898年9月21日，慈禧太后等發動政變，光緒帝被囚至中南海瀛臺。腥雨欲來，聞訊的維新派中，康有爲、梁啓超分別遠循法國、日本。唯有譚嗣同寧死不逃，願以性命喚醒國人，與康廣仁、林旭、楊深秀、楊銳、劉光第共6人被清廷問斬於北京菜市口刑場。中國上層政治變革“百日維新”宣告失敗，前後僅僅歷時103天。
“戊戌六君子”的死極大地觸動了蔡元培。他對維新人士的精神當然是感佩有加的，這些同齡人的那一腔熱血和犧牲的精神，以及他們所胸懷的抱負喚起了他的強烈共鳴。
對於一身俠氣的譚嗣同，蔡元培更是格外佩服，他幾年後的一封信中還念念不忘地寫下了這樣的話：“蓋元培所慕者，獨譚嗣同耳。苦康、梁之首事而逃，經元善之電奏而逃，則固所唾棄不屑者也，況其無康、經之難而屑屑求免也乎。且夫避禍者，所以求生也。充求生之量，必極之富貴利達。”
無論從哪方面來說，蔡元培都應當是堅定的維新派。讓人不解的是，他本人幾乎沒有參與維新變法的什麼活動，因此也就沒有受到牽連。
其一，在“戊戌變法”前後，維新派的人士在先進的知識界以及朝廷中，可謂風光一時。由於梁啓超與譚嗣同等人當時在社會上知名度已經很高了，假使真的變法成功，從權位上來說，將是未來朝堂上炙手可熱、翻雲覆雨的人物。質樸而耿介的蔡元培不願被世人說自己“攀龍附鳳”，讀書人的孤傲和自尊，使他“恥相依附，不往納交”而敬而遠之。特別是看到有些新派人士，一旦身據高位，便目空一切，不可一世，讓他覺得這些人“不足以當大事”。
他在《自寫年譜》這樣寫道：“康有爲氏與譚嗣同、楊銳、劉光第、林旭諸氏被任用，勵行新政，我雖表同情，然生性不喜趕熱鬧，未嘗一訪康氏。我與梁氏雖爲鄉試同年，但亦未與見面。”
其二，蔡元培總是隱隱感到，這種用上層政治鬥爭改變國家命運的策略並不是拯治國家的一付回春妙藥，在他看來，中國的問題是深入骨髓的。“不先培養革新之人才，而欲以少數人弋取政權，排斥頑舊，不能不情見勢絀”，這是蔡元培肚子裏的想法。
他認爲這些維新變法的志士們並沒有建立起什麼羣衆基礎，而只想憑一己之力、少數精英的奮鬥，用最省事兒的辦法、最小的代價，動點兒小小的外科手術，就想給中國來個改天換地，這是很不現實。
有記載，新政期間，詔開“經濟特科”，選拔“洞達中外時務”之特殊人才。蔡元培因供職宗人府的同鄉葛寶華的薦舉，而被傳去應試。這應該是蔡和維新派唯一的關聯。
但無論如何，維新派是在救國救民，出發點和落腳點都是好的。當“戊戌六君子”血灑菜市口的噩耗傳來，蔡元培在目睹政治鬥爭的殘酷的同時，也看清楚了清王朝的掌權者醜惡嘴臉。
君君臣臣，父父子子，所謂綱常有道。以往，蔡元培雖對朝政多有不滿，但往往認爲是臣工昏庸和不作爲。眼見最高的統治者只顧自己的既得權位，置國家和民族的利益予不顧，而冥頑到了極點。這讓蔡元培對這個君、這個王朝徹底失望了。
戊戌變法和新政如同一場春夢，在腥風血雨中煙消雲散。往昔熱心維新的友朋已作鳥獸散，就連做事穩健的好友張元濟也被革職出京。
蔡元培再也沒有心思在北京當官了，斷然於1898年秋天離開北京南歸。蔡元培這種舉動，很容易讓人懷疑他是康梁同黨，但他絲毫不作辯解。
此行，其實是在和他一直以來走的仕途之路的告別之旅。
經過十天的行程，1898年10月26日，蔡元培和家人從京城回到了闊別多年的紹興老家。
深秋時節，比起秋風瑟瑟，一派蕭殺景象的京城來，家鄉顯得格外溫馨、平靜、怡然。
蔡元培家住的筆飛仿是有故事的。傳說書法大家王羲之曾住於此處，有一老姬，不厭其煩常來此求王羲之題扇面，後要到處炫耀。有一次，王羲之實在是不耐煩了，竟將筆隨手拋出。筆卻一飛沖天，筆飛仿便是來源於此。這故事聽起來很像是神話，但附近有戒珠寺，山門內有王羲之的塑像，據說這寺先前曾是王羲之的宅院。