一九三六年五月，骆宾基由哈尔滨逃亡到上海，开始埋头写作长篇小说《边陲线上》，这是他创作生涯的开端。一九三七年六月，在上海《东方快报》上发表《高尔基永远活在我们心中》，是为处女作。一九三七年十月，在《呐喊》上发表《大上海的一日》，因细腻地表现抗战来临时上海市民的面貌而获好评。上海沦陷后，去浙东进行抗日宣传工作并入党。
一九三九年，在绍兴主编刊物《战旗》，一九四〇年去皖南新四军军部。十月返浙江，与组织失去联系，只得独自漂泊桂林，埋头创作。这期间创作相当活跃，写有中篇小说《东战场别动队》，报告文学《夏忙》，中篇小说《吴非有》，短篇小说《寂寞》等，并出版长篇小说《边陲线上》。不久去香港，在茅盾主编的《笔谈》上发表小说《一个倔强的人》，并护理病中的萧红，直至一九四二年一月二十二日萧红病逝后方离港重返桂林。后来又写了《萧红小传》。
一九四二年至一九四四年，他在桂林先后发表长篇小说《幼年》，著名短篇小说集《北望园的春天》等。