生于山形县。虽然出自贫寒之家，却升入了培养上层小学教师这一阶级的山形县师范学校，从该校毕业后做小学教师。因加入共产党指导下的教育工会而遭逮捕。因出版日记《教室的记录》（1937，共著）而被剥夺做教师的资格。又因从事生活作文运动，而被判罪缓期执行。战后做教育杂志编集工作。1951年著《新作文教室》，同年参加“日本作文会”的建立工作。此后至到去世为止，竭尽全力于生活作文的复兴和发展。

战后的1948年他出版了植根于自己少年时代的体验和庶民的儿童们的生活的短篇作品集《有些久远的故事》，以此确立了作家的地位。在儿童文学创作不景气时代的1954年，出版《铁城少年》。这部长篇小说集中描写了在与劳动工会结成相交织的事件和事件的解决过程中成长起来的少年群像。国分一太郎以这部小说获儿童文学者协会第五届儿童文学奖。代表作还有《苹果园里的四天》（1955）、《爷爷出场》（1972）等。小峰书店1967年出版了《国分一太郎儿童文学集》全六卷。