在傳統教育之下當了多年的好學生，對過往的那一套學堂的教學方式，蔡元培可謂是瞭如指掌也深喑其弊。哪兒些方面需要除舊更新，哪兒些方面需要堅持和發揚廣大，已經過較長時間思考的他，早就心中有數。
一進入角色，他便毫不猶豫地幹了以下幾件事：
一是延請名師，進行最好的“軟件”建設。
在接辦學校的第六天，便將所聘教員名單報知府熊起磻批示：由馬用錫、薛炳爲經學、詞學教員，馬冋章、馮學書爲詞學教員，賞乃勳、褚閏生爲蒙學教員，藍寅、俞墉、陳鳳鏘爲英文教員，戴儒珍爲法文教員，杜煒孫爲算學、物理教員，壽輔清爲算學教員。
這些教員，都是當時紹興“極一時之選”的人物。蔡元培還不惜重金聘請外籍教員，如學堂先後聘請日本人中川外雄、藤鄉擔任日文和體操教員，月薪高達50圓。
二是購置教學儀器和設備，就是“硬件”建設。
平時一有機會，蔡元培總是託人求購各種新書和有關教學儀器設備。
1899年6月，校董徐樹蘭前往上海，蔡元培即託其購買日本教育社物理、化學、助力器械及化學藥品和動物標本，並寫信給上海的張元濟，託其代購南洋公學所編書籍。
此外，還曾託徐樹蘭之子徐顯愍從日本東京購得日本所制小學物理器械第二號1組，共33種；化學器械二號1組，包括藥品共31種；化學標本1組，40種；庶物標本1組，200種；動物標本乙號1組，85種；植物標本乙號1組，105種；礦物標本乙號1組，65種；另三球儀1架，三角及兩腳定規3具，助力器模1組，8種，立體幾何和平面幾何教具各l組。
由於蔡元培堅持不懈的努力，中西學堂成爲當時紹興藏書最豐、教學儀器設備最好的一所新式學校。
三是進行合理的學制分類。
中西學堂根據國學程度的高低把學生分爲三齋，分別教授不同程度的國學課程，第一齋爲蒙學齋，第二齋爲詞學齋，第三齋爲理學齋。同時，學生又可按自己算學、外語的程度，到不同的級別去聽相關的課程。例如，有的學生根據其國學程度被列在第三齋，但外國語可到第二齋就讀，算學可到第一齋學習，並不受原來所在齋的限制。
能夠有效面對學生起步不同的現狀，這在今天的眼光看來，也是極爲合理的。
四是進行極爲嚴格的管理。
中西學堂的學生每天早晨5點起牀、盥洗，6點喫早飯；上午7點外語及算學各班上課，12點喫午飯；下午2點起，國學各班上課，6點體操，7點晚飯；8點餘課，9點就寢。
有制度還要有監管執行的人，蔡元培聘請人品誠篤的胡鍾生爲監學，在學堂大門左傍闢一房間，監視學生出入，另每一齋派一國學教員督導學生攻讀。這可真是得了中國私塾嚴格管教風格的真傳。
最有意義的一件事，就是增設課程。
在蔡元培執掌校務期間，中西學堂的課目已經大致包含了中國深淺層次不同的國學，以及外文、數學、物理學、化學、動植物學和體操等與世界現代教育接軌的科目。從課程所涵蓋的知識面上來看，已經完全突破了傳統中式經典教育的內容。
這充分體現了蔡元培的教學理念：——傳播廣博、先進的文化新知。
曾任國民政府第一任教育部長、行政院祕書長，也是北京大學歷史上任職時間最長的校長的蔣夢麟，在回憶自己在中西學堂，學到的新知識對他產生的震撼時寫道：
“我在中西學堂裏首先學到的一件不可思議的事是地圓學說。我一向認爲地球是平的。後來先生又告訴我，閃電是陰電和陽電撞擊的結果，並不是電神的鏡子裏發出來的閃光；雷的成因也相同，並非雷神擊鼓所生。這簡直使我目瞪口呆。
“從基本物理學我又學到雨是怎樣形成的。巨龍在雲端張口噴水成雨的觀念只好放棄了。瞭解燃燒的原理以後，我更放棄了火神的觀念。過去爲我們所崇拜的神佛，像是烈日照射下的雪人，一個接着一個融化。這是我瞭解一點科學的開端，也是我思想中怪力亂神思想的結束。“
可見當時的中國，科學知識方面的落後，也足以證明，蔡元培正在進行着的事業是何等的偉大。
鑑於當時學堂教術不一，課本不定。蔡元培模仿外國學堂評議之例，於1899年11月發起組織紹興府學堂學友會，集合有志之士，推動紹興地區的教育改革。
學友會相約，凡“已通國文溥通學，而究心教術，不沾沾於利祿者”，均引爲同志。
規定學友權責爲：
二、學友有志學習算學及外國語者，可住學堂，並可不付膳金，但須爲學堂編寫教科書，或任檢束學生之責；
三、住學堂的學友須以每月15日在學堂集議，無論遠近，都須到會；
四、學友住學堂而自願編寫教科書，書成，經各學友評議，足爲善本者，即由學堂出資付刻，但仍署編者名。
這注定是個做大事的人。在任紹興中西學堂總理的兩年裏，蔡元培不僅僅是在努力做個稱職的校長，還時刻關心着整個紹興地區，乃至放眼天下，心繫浙江、全國的教育。
同年12月，蔡元培撰寫一文，努力宣傳其教育救國的主張。
指出：“由今之道，毋變今之俗，雖薈千聖之粹言，臚五洲之良法，爲拙御易車，爲拙庖更刀，必無濟矣。且今天下志士，所抵掌奮譚，爲保國強種之本者，非學堂也哉。”
他呼籲紹興所屬八縣改變各自爲政的做法，籌集紹興八縣公款，統一興辦學校。在府城設高級、中級學堂各一所，各縣城均設一初級學堂，爲本省和全國的教育改革樹一模範。
但是，革新的路不會是平坦的。在中西學堂的校長任上，時間一長，蔡元培這位翰林校長就幾乎快把舊派人士們全給惹惱了。
中西學堂裏所聘用的教授西學的教員，如馬用錫、杜亞泉、胡道南等人，由於受西方思想影響，常常會在課堂上向學生們灌輸“民權”、“女權”等當時世界上的流行的思想和主張。對“君尊民卑”“男重女輕”等傳統觀念大加駁斥，有時甚至激烈地主張革新政治、改良社會。這樣一些言行，很自然的引起校內另外一些傳統守舊派教員的強烈不滿，新舊思想的碰撞是不可避免的。
比如，每天午餐飯桌上，學堂的教員們聚在一起難免談及社會風俗和當下的時政。這時，新派的教員就顯得人多勢衆、氣勢囂張，他們既衝動而又富於激情。相較之下，傳統派的教員就顯得勢單力薄，拙於應對，每每在和新派教員的辯論中居於下風，在學生面前也就大失面子。
面對新派的囂張氣焰，守舊派的教員們很不甘心，他們認爲這是由於蔡校長引進新課目、縱容新風氣導致的結果。便跑去向校董徐樹蘭告狀，尋求支持。
徐樹蘭雖然是個開通之人，但在總體上還是傾向傳統派的。對學校的情況不能說完全不知情，也不能沒有自己的看法，只是礙於蔡元培是自己請的，又那麼努力的做事，而不便干涉。聽了這些人的話，感覺到後果是很可怕。特別是戊戌變法的被取締，造成的一種恐怖的氣氛之下，不能不有所顧忌。
庚子年正月二十六日，他給蔡元培寫信，要求蔡元培將當月二十一日清廷的一道有關“正人心”的“上諭”抄錄，並掛到學堂的禮堂中。
這則“上諭”的內容，是清廷鎮壓“戊戌變法”後向同情變法的維新人士發出的一道警告，裏面指斥同情與支持變法者爲“援引匪人，心懷叵測”，警告士人們今後“自當以名教綱常爲己任，以端學術而正人心”。徐樹蘭借這個舉措來表明自己的立場，同時也是對蔡元培的警誡。
蔡元培和徐樹蘭有特殊情誼，對徐也是很尊重的，但每個人做事都有自己的底線，而底線是不能突破的。沒有別的選擇，蔡元培只能斷然拒絕徐樹蘭信中的要求。
他在復徐樹蘭的信中毫不客氣地指出，這個上諭“皆黎邙之鬼所爲”，“豈有取頑固者之言而崇奉之之理”，他表示自己寧願辭職，也不做違心之事，他甚至敢冒天下之大不違而直言道，“雖迫之以白刃而不從。蓋元培所慕者，獨譚嗣同耳”。
明知不能說服徐樹蘭，也不想讓自己這個“忘年交”爲難，蔡元培於寫信的當日即離開紹興，前往嵊縣。這大概是蔡元培教育生涯中第一次辭職，後經他人從中調解一番，蔡元培不久才又重回紹興，繼續留任中西學堂總理。
在此期間，蔡元培還兼任着嵊縣剡山書院和諸暨麗澤書院的院長，爲時均一年。在前述辭職期間，他曾到嵊縣剡山書院做了幾次講演，並認真地爲剡山書院制定了“書約”。
在“書約”中，有這樣的話；治學“當以益己、益世爲宗旨”，士人應擺脫“應試求官之積習，而急致力於有用之學”。
每次講演，他都以自己的切身經歷現身說法，策勵讀書人適應時代的變遷。
此外，他還以鄉賢身份，受聘於嘉善縣寧紹會館的董事。雖然一身這麼多兼職，但他對此同樣很用心，多次前往襄理館務。對會館的註冊及擬定規章，不遺餘力，成爲他辦學之外的又一公益。