甲午战争中国的败北，以及《马关条约》的签订，客观上日语翻译的需求量大为增加，而中国人也迫切渴望了解和学习日本。 梁启超《论学日本文之益》，最早于1899年作为《清议报》社评发表。

    1897年，京师同文馆开始着手筹备东文馆的开设事宜。与京师同文馆东文馆南北呼应，广东同文馆东文馆也开馆，两广总督谭钟麟、广州将军保于是呈交光绪皇帝酌拟章程、筹加经费的奏折。

    当时广东同文馆学生只会英语，对于日语俄语却并不了解，于是准备选拔聪明伶俐，年十四岁以上，二十岁以下者，共三十人学习。光绪皇帝还派出使日本大臣裕庚聘得长谷川雄太郎。

    京师、广东二馆开设东文馆为何馆名不叫“日文馆”呢？

    据认为，受华夷思想的影响，认为日本不过“蕞尔三岛”之小国，耻于将中日并称，因此用“东”代替“日”字。还有的解释为，东文馆成立前，同文馆已有的四种外国语（英、俄、法、德）均为西语，取馆名为“东文”是出于与 “西文”相对之意。其实清代称日本，或以全称“日本（国）”，或以略称“东”，但几乎不用单个“日”字。  

    当时中国总共聘请两个日语教师，杉几太郎到京师同文馆为东文教习。

    杉几太郎，明治七年（1874）出生于日本冈山县，时事新报社社长福泽舍次郎的门生，同时入学庆应义塾。甲午战争时期，为时事新报社第一随军记者，战争结束后作为《时事纸》的北京通信员来到北京。福泽的夫人为当时日本驻清公使林董的长女，因此杉几太郎被招为东文教习，或者与公使林董不无关系。

    广东同文馆的日语教学是由日本人长谷川雄太郎来担任的。长谷川雄太郎号飞卿，庆应元年（1865）出生，原籍日本群马县邑乐郡馆林町。十岁开始先习英学，后修汉学。曾任职文武馆。1888年赴上海，入岸田吟香所经营的上海乐善堂，从事中国问题研究，并一边学习汉语。甲午战争前，曾收集中国军备、军事情报，与七里恭三郎共同编写了《清国军备总览》，以资日本当局参考。1894年经福岛安正推荐，入参谋本部。1895年任陆军翻译官，因功叙勋八等，获白色桐叶章。甲午战争结束后，与宫岛大八、大屋半一郎等在东京创设汉语学校，自任校长。1897年退出陆军部。

    1896年11月， 清朝向日本文部省提出代聘日本人教习，文部省最后指定了长谷川熊太郎。次年2月13日长谷川雄太郎起程，于3月3日到达广州。他的《广东赴任始末》对其受聘赴华过程有更详细的记录。

    京师同文馆东文馆首届学生为12人，大约招收两届学生。相比之下，广东同文馆东文馆学生较多。计划是“暂挑三十名”，教习甄别后，正学、附学各十名，其他可造就者也仍可留馆继续学习。第一届学生数为27名，经长谷川雄太郎甄别挑选并最后于1901年应考22人，他们是：董长锐、莫矜、周佑生、杨永贞、马光援、黄瀚、许国钧、许国铭、张天民、黄仲、田乃登、贺建声、杨佑、王敬秋、王懋谦、煦增、舒鹏、张晋、倪敏敷、刘世全、冯宝璀、周庆慈。1901年，又有金殿勋、马永宽等第二届学生入学。

    广东同文馆东文馆最早使用的日语教科书是日本人新保磐次所著的面向日本小学生的《小学读本寻常科》，长谷川雄太郎自行编纂面向中国人的日语教科书《日语入门》。这是清末最早一部专为中国人学习日语所编写的教材。