1927年是中國的多事之秋，四一二事變，株連了許多進步的知識分子，劉海粟也上了桂系軍閥和上海共進會的通緝名單，只得往日本避難。7月，已是大學院院長的蔡元培寄來手書，催促劉海粟盡快回國。

　　在上海蔡元培的家中，他們共同討論上海美專的前景問題。劉海粟早就有個心愿，那就是去歐洲考察藝術，將自文藝復興以來的歐洲藝術，進行分析、研究，以為我所用。討論中，劉海粟懷著期待的心情，向蔡元培袒露了自己的心愿。

　　“你的想法不錯，去歐洲的事不是太難，我會全力相助，不過……”蔡元培神色黯然，蹙著眉頭，說：“只是你沒有財產，費用從何而來呢？”

　　劉海粟一心只想出國考察，至于出國開支，卻一點也沒有想到，經蔡元培提醒，不免憂郁起來。可是，時隔不久，便接到蔡元培來信，大學院正式聘請他為特約撰述員，這樣便可每月享有160元的津貼，在國外生活雖不算富裕，可是，再也不用為布帛菽粟而犯愁了。劉海粟接信后喜形于色，立即致信表示謝意：

　　“嘗自傲曰：生平無師，唯公是我師矣，故敬仰之誠，無時或移。今更蒙許由大學院派赴歐洲研究，足見先生愛我之切，亦無時或易也。感激之情，更非區區楮墨所可表于萬一。”

　　出國前，劉海粟特意來到蔡宅，以親耳聆聽先生的教誨。

　　“在歐洲考察，不僅僅是繪畫，還應接觸各種姐妹藝術、各種流派的藝術風格。兼收并蓄，師法西人之長，但又要保持東方人氣質，中國畫的神韻，不可丟棄中華文明的根。綜合思考、升華、變化，你的畫才會有魅力，否則不中不西，消化不良，斷難有成就。”

　　“先生金玉良言，我一定牢記！”

　　“我看過你的許多作品，你不是那樣淺薄的人，我很放心。你走后，美專的工作除校董會勤加督促具體指導之外，我建議組織一個委員會來問事，免得癱瘓，等到準備工作就緒，再著手此事，要辦切實！”蔡元培周到細致的安排，令劉海粟心中不時涌動著春意般的暖意。

　　1928年底，蔡元培為劉海粟主持出國前的畫展，他還和史量才、鄭午昌、賀天捷、倪貽德等為畫展特刊撰寫文章。次年2月24日，蔡元培設宴為劉海粟餞行。席間，劉海粟動情地回顧：“自提出出國考察以來，先生勞神焦思，照拂備至，直使赴歐成行，先生所作的一切，讓后生一輩子都難以忘懷。”蔡元培聽到這里，臉上露出淺淺的笑容，擺擺手說：

　　“這不是為了你，也不是為了我和大學院，而是為了很需要大藝術家來振興美育的祖國，這項使命只能托附于中年人青年人身上。為這些人挺身請命，披荊斬棘，是老年人的義務！”

　　劉海粟到了巴黎后，幾乎每天都要到盧浮宮去觀摩名作。他還和著名畫家如畢加索、馬蒂斯、凡·東根交流藝術等。他在巴黎舉辦的個人畫展很成功，法國著名評論作家路易·賴魯阿特意為畫展作了《序言》。他的油畫《盧森堡之雪》還為法國政府所購買。

　　劉海粟就要回國了，可是歸國的經費又發生了困難，沒有辦法只得去信向蔡元培求助。蔡元培接信后，于1931年7月11日，致信教育部長李書華：

　　“劉君到歐后，歷在法、意、德、瑞諸國展覽講演，備受歡迎，近有《雪景》一幅被選入魯克爽堡美術館，益令人注意。現劉君擬束裝回國，而川費不敷，欲請部匯給壹萬法朗。如蒙終始玉成，曷勝同感，專此奉商。”

　　劉海粟回到上海后，立即去拜訪蔡元培，對他為自己所做的一切表示衷心的感謝。先生卻不經意地說：“勿要這樣。”可是，當劉海粟談起中國現代畫展的事時，卻又是那么的專心致志，唯恐漏聽了一句。劉海粟說：“我在法國佛蘭克府中國學院講授《中國繪畫的六法論》時，曾在學院內辦了小型的畫展。沒想到消息竟傳到柏林，德國東方藝術協會、普魯士美術院、國家美術圖書館、柏林大學、東方博物館等聯名邀請我到德國柏林，并派人來和我協談。在西歐，日本藝術很流行，他們雖然知道中國藝術很有魅力，但是畢竟知之不多，甚至不知道日本畫是源于中國畫藝。為了加深他們印象，我當場作了一幅《松鷹》圖，頗獲佳評。他們一定要讓我于1934年去柏林舉辦中國現代畫展。”

　　聽到這里，蔡元培高興地說：“好啊，中國藝術早該走出國門了。海粟啊，我支持你去德國舉辦畫展，你盡快擬出個計劃來。”不久，便成立柏林中國美術展覽籌備委員會，成員有蔡元培、葉恭綽、李石曾、狄平子、劉海粟、徐悲鴻等，蔡元培為主任委員，葉恭綽為副主任委員。蔡元培對這次畫展作了許多具體的指導，諸如，作品征集、目錄編譯、籌劃資金、裝裱款式、作品運輸等，都一一過問。

　　1933年12月，劉海粟在德國舉辦畫展，一時間觀者如潮，轟動整個歐洲，捷克、荷蘭、瑞士、英國紛紛來人來電，要求移展。可是，畫展經費已經用盡，國內又頻頻催促返程，所在國的中國外交官又不予幫助，就是這樣，劉海粟還是克服困難，堅持作了巡回展覽，觀眾竟達百萬人次以上。1935年7月，劉海粟載譽回國，柏林中國美術展覽籌備委員會在上海華安大廈八樓舉辦宴會，為劉海粟洗塵。蔡元培致了熱情洋溢的歡迎詞，稱贊說：劉海粟舉辦的中國現代畫展，已經“獲得無上光榮與極大成功。”所做“各事縝密，尤為可佩。”