阿廖沙（即童年高尔基）很小的时候,父亲得病死了，母亲带着他回到外公外婆家。
阿廖沙母亲的到来引起了大舅米哈伊尔与小舅雅科夫的争斗，他们怕母亲来讨要嫁妆，闹着分家，一家人打成一团。阿廖沙初步认识到外公家弥漫着的相互仇恨的气氛。大舅捉弄老裁缝格里戈里，让侄子把烧得滚烫的顶针放在格里戈里手边，不料却被外公无意中戴上，外公把孙子抽了一顿。阿廖沙因为把桌布放到染桶里也被外公狠狠打了一顿，打的过程中，所有的人都幸灾乐祸，连母亲也因害怕外公而不敢阻止他，只有外婆一人护着阿廖沙。打过阿廖沙后，外公来看他，给他讲起自己年轻时候在伏尔加河畔当纤夫时的情景，阿廖沙觉得外公像一朵云彩似的迅速地长大，由一个干瘦的小老头变成童话中的大力士。挨打之后，阿廖沙结识了小伙子茨冈，他成了阿廖沙最好的朋友，每次阿廖沙挨打时，他总把胳膊伸出去帮他挡着。每逢礼拜六，他带着阿廖沙做各种各样的游戏。他擅长跳舞，幻想着有一副好嗓子。阿廖沙非常爱他，但他却被两个舅舅强迫着扛沉重的橡木十字架去坟地，中间绊倒后，被十字架压在下面，因失血过多死掉了。
茨冈死后，阿廖沙更加依恋外婆。睡觉前，给外婆开玩笑，外婆给他讲上帝与小鬼的故事。外婆是阿廖沙最喜欢的人。
“外婆到来之前，我仿佛在昏睡，仿佛躲在黑暗中。她的出现唤醒了我，使我见到了光明，她把我周围的一切联结起来，把这一切编织成色彩缤纷的花边图案。她很快就成了我终生的朋友，成了我最贴心的人。她最理解我，也是我最珍贵的人，这是因为她对世界充满了无私的爱。这种爱使我感到充实，使我在艰难的岁月里充满了坚强的力量。”外婆知道的故事、诗歌、传说、童话多得不计其数，阿廖沙听的入了迷。
一天晚上，家里突然失了火，家里人惊慌失措，外婆却非常勇敢，用一只空袋子蒙着头，身上批着马被，毫不畏惧地冲进火里，从里面抱出一只水桶大的盛满硫酸盐的瓶子，又镇定地指挥别人灭火。大火后，又忍着巨痛去接生孩子。
一开春，舅舅们就分了家，外公为自己买了一所新房，阿廖沙仍跟着外公外婆住。这是一段节奏平缓的日子，阿廖沙接触的人只有外公外婆。外婆向他讲述自己的身世。外婆也是孤儿，母亲一贫如洗，而且是个残废，为了生活，外婆跟随母亲四处流浪、乞讨，后来靠外婆织花边维持生活。外公也讲起小时侯与法国兵相处的事情。这段时间外公开始教阿廖沙识字。外公老病复发，动手打了外婆，阿廖沙感到无法忍受。
宁静的日子很快被打破，两个舅舅为了分外公家产，联合起来到外公外婆家闹事，尤其是大舅米哈伊尔，喝醉酒就闹事，整夜在房子周围转来转去,带来帮手把马林果丛和酸栗树统统拔掉，捣毁浴室，砸坏玻璃。一次拿粗大的木根砸门，外公集合了两个房客及酒店老板的妻子对付他。为帮儿子，外婆的胳膊被舅舅打断，阿廖沙无比仇恨舅舅。
接下来又是一段单调的日子，外婆每天祈祷，外公也每天祈祷。阿廖沙认为外婆的上帝仁慈、有同情心，外公的上帝却拒人于千里之外，让人望而生畏。阿廖沙喜欢外婆的上帝，讨厌外公的上帝，故意抓住外公祈祷时的失误捉弄他。这时期阿廖沙经常同街上的孩子打架，因为这些孩子做出的恶作剧令他无法容忍。这时，为外公干了一辈子活的老匠人格里戈里因双目失明被舅舅解雇，沦落为乞丐，阿廖沙为此感到难堪。
外公突然卖掉原有房子在别处买了房子。在这里阿廖沙结识了许多人。有外号为“好事儿”的房客，有伪装成马车夫抢劫教堂的的彼得伯伯，有奥甫相尼科家的三个孩子。阿廖沙与他们都建立了友谊，但同“好事儿”的关系最为密切。“好事儿”是一个整天忙着做实验的药剂师，对人生有透彻的感悟，经常指导阿廖沙观察生活中的细枝末节，教给他人生的道理。“在我看来院子里平淡无奇没什麽值得留心的东西。但经他轻轻一推，或者三言两语指点一下，我所看到的一切就不同了，仿佛这些东西都具有独特的意义，因而给我留下的印象也就特别深。”但“好事儿”终因不被周围人理解而被外公赶走，阿廖沙非常生气但毫无办法。
百无聊赖之中，母亲回来了。在几个城市呆了很长时间又生了一个孩子后，走投无路的她又回到外公家。她开始教阿廖沙认字，让他背许许多多的诗。外公强迫母亲改嫁，母亲拼命反抗，外公异常生气，将气愤转嫁到外婆身上，毒打外婆，发针深深地插进外婆头皮。阿廖沙为外婆报仇，将外公最喜欢的圣徒像剪碎。
阿廖沙被母亲送进了学校，但不久因出水痘被迫休学在家。因发愁母亲的婚事，外婆开始酗酒并向阿廖沙讲述父亲与母亲的往事。不久，母亲看上了一个学测量学的学生并坚持要嫁给他。阿廖沙不喜欢继父与新的祖母，不想让母亲改嫁但毫无办法。母亲改嫁后，阿廖沙继续与外公外婆住在一起，他开始长大，拥有了自己的自信。阿廖沙又回到学校，但老师不喜欢他，只有主教赏识他。他因拿了一卢布买童话书被母亲打了一顿。继父对母亲很不好，用脚踢她，阿廖沙与继父拼命，又被送回外公家。
外公破产了，阿廖沙与外婆相依为命，通过三年级考试后他不再上学，开始自己养活自己。他结识了许多伙伴，他们互相帮助，一起捡破烂，扯木材。八月，母亲去世了，外公说阿廖沙不是奖章，不能老挂在他的脖子上。于是，阿廖沙便走向人间，外出谋生去了。