1916年夏,叶圣陶与胡墨林女士幸福地结合,一个美满的家庭诞生了。胡墨林,浙江杭州人。父亲早逝,由姑母胡铮子抚养。北京女子师范学校毕业后,在南通女子师范学校任教。1911年,王伯祥认识了计硕民先生,茗谈之际,叶圣陶亦在座。
计先生回家后,与其岳母及妻姐胡铮子女士谈起叶圣陶,说可与内侄女胡墨林议婚。于是由王伯祥、顾颉刚为媒交通信息,互换庚帖及相片,议定婚期。到结婚之日,两人才始见面。婚后,他送胡夫人去南通,自己仍回上海任教。婚后十四年,他这样回忆说:“我与妻结婚是由人家作媒的,结婚以前没有会过面,也不曾通过信。结婚以后两情颇投合。那时大家当教员,分散在两地,一来一往的信在半途中碰头,写信等信成为盘踞心窝的两件大事。到现在十四年了,依然很爱好。对方怎样的好是彼此都说不出的,只觉很适合,更适合的情形不能想象,如是而已。”