一八九五年十月三十日祖父和陳少白、鄭士良一起來到碼頭，日本貨輪廣島丸正準備返航，三個人立即買票上船。 船行途中遇上了大風，經過十四天的顛簸航行，於十一月十二日到達神戶。

第二天，他們從當地的報紙上看到了「支那革命黨孫逸仙抵日」的消息，這說明廣州起義已經引起了國際上的關注。

祖父非常興奮，對陳少白和鄭士良說：「革命二字，出於《易經》，『湯武革命順乎天而應乎人』語。此與我們排滿宗旨相符，即以革命稱吾黨可也。」「革命」比過去沿用的「造反」、「起義」、「光復」等用語更為恰當。

橫濱興中會成立

在神戶，祖父他們沒有下船第二天船又駛往橫濱。 到了橫濱，三人在這裏都舉目無親不知該投住到娜裏，祖父忽然想起了上次在這裏見到的譚發，他陳少白和鄭士良留在碼頭，自己一個人去找經營服裝店的譚發。

見到讀發後，祖父說明了來意，藉發很快幫助祖父他們租到了房子。

祖父一到橫濱就先著手興中會的組織工作，這也是廣州起義得出的教訓。 馮鏡如和他的弟弟馮紫珊、譚發他們召集了二十多比特革命衕誌在文經印刷店二樓開會，宣佈了興中會橫濱分會成立，選舉馮鏡如做會長，會址設在橫濱上下町一百七十五番。 但由於清廷用喪權唇國的條約和日本媾和，興中會在日本的活動仍需要秘密進行，為了防備密探每次開會時，都由馮鏡如年僅十四歲的兒子馮自由去送信。

祖父到了日本不久，清廷和日本複交，清廷的公使即將到日本，人們都在傳說日本政府可能會按照清政府的意思引渡革命黨人，祖父在日本難以開展革命活動，於是决定去夏威夷。

要離開日本時祖父卻是身無分文，只好向興中會的同志們借錢，但許多衕誌有心無力也有些衕誌不願出借，馮紫珊看到祖父借不到錢，實在看不過去，自己拿出了五百元交紿了祖父。 這是當時祖父從事推翻滿清皇帝和幾千年封建帝制的革命僅可以動用的，而且是借來的五百元。

祖父拿出一百元交給陳少白，作為留在日本開展活動和日常的費用，因為陳少白沒有取得入美的簽證； 又給了鄭士良一百元，派他以合法的身分再回香港進行革命組織的重建工作。 而祖父剪去了辦子，穿上了西裝，留起了鬍鬚，有人說這時的祖父像一個乾淨利索的法國人。