当德顺爷爷活着的时候，加林便起了心思，要给爷爷写一部小说。起初他把这看成了是一件很简单的事情，既可以消遣，又可以愉悦。从德顺爷爷去世到现在，加林也只是零碎地整理了一些资料，将县志民国部分进行了认真地阅读，摘抄了不少东西。
这次勤学答应为他出书，加林写书的动力更大了，而真正到了加林下笔落墨时，他却不知道如何运笔。
这天晚上，加林忙完工作后，就坐在床头一直吸烟，吸着吸着，他便皱起了眉头，心想，自己写自己最熟悉的人，怎么就下不了笔呢？“写不出来时不硬写！”鲁迅在告诫加林。一想起鲁迅，加林的脸就红了起来，他都感到有点无地自容的样子。
这时，加林回忆起了上高一临放暑假时发生的一件事。那天下午，加林帮贾老师抄写完学生的操行评语后，就在贾老师的办公室里和贾老师谈起了鲁迅，加林有点不知天高地厚地对贾老师说道，“贾老师，光明报上‘读点鲁迅’的专栏我差不多每期都看过，还抄了不少东西。书店里人民出版社出版的鲁迅作品单行册《呐喊》、《彷徨》、《朝花夕拾》、《准月风谈》，还有上海人民出版社出版的知识青年读物《鲁迅杂文选（上下两册）》我都买了。李和霖的《鲁迅的生平及作品介绍》及人民文学出版社重版的许广平的《欣慰的纪念》，我都看过了。贾老师我一直在想，鲁迅起先不过是一个学医的，他在东京留学时，一次在电影上看到外国侵略者屠杀我同胞时才从医学救国转向文学救国，唤起民众，他后来才涉猎文学，竟被世人冠以文豪，这是不是有点夸大其词呢？”加林试着把自己的想法说给了贾老师。贾老师听后没有表态，点了一下头，只是让他把话说完，“我想他的学识可能和你也差不多吧，只不过是烟可能比你抽得多些。”贾老师听了以后，并没有指责加林什么。贾老师万万没有想到加林竟自不量力地评价起了鲁迅先生。伟大领袖毛主席读了一辈子书，都非常崇拜鲁迅，这让贾如斌老师如何表态才好呢？贾如斌便来到书柜跟前，细心地翻着书，过了一会，他拿给加林一本书，还有一个厚厚的工作笔记本，语气凝重地说道：“加林，这本书你读过吗？”贾老师说着，便把书递给加林，加林接过书一看，是人民文学出版社出版的单行本《中国小说史略》，加林随即说道，“我没有看过！”贾老师和蔼地对加林说，“咱们今天先不急着谈鲁迅先生，等你把这本看完后，我们再好好地谈谈他。为了便于你阅读，这本词典（《现代汉语词典＜征求意见稿＞》）你带上，我再给你一个生字本。”贾老师又给加林一个本子，这是三个工作笔记本在一块攒着的。
加林硬是利用一个暑假，一个字一个字地读完了这本书，大脑没有一点头绪。书中鲁迅引用的资料，光书名就够加林记的，书里面的生字比比皆是，好在贾老师给他的生字本，里面的生字有页码有注释，没有的生字词典里面基本都有。从那以后，加林对鲁迅先生的敬意油然而生，再也不敢说鲁迅一个不字了。每当加林想起这件事时，就赧颜汗下。
到了德顺爷爷二周年忌日的这一天，深秋季节，天高云淡，大地被青纱帐笼罩着，庄稼到了成熟时期，玉米缨子的颜色由红、黄、白变成了棕色，高粱和谷子的穗穗都头朝着下。
加林和明楼、魁星、三星爷父三个去了德顺爷爷的坟头。他们四人先用锨把坟头圆了圆，然后铲出祭台前面的杂草。四人这才跪在坟头的祭台前点燃了香蜡纸表，高明楼还特意从布兜里掏出了一盒卷烟点着后，放在祭台上，又拿出一瓶店台酒，跪着洒在祭台前。
加林从化纸的那一刻起，就构思好了小说的开头，一回来他就动笔，直到晚上十一点，脚跟前，玩了几个纸团团，稿纸写了十几张，加林都感到不满意，茶几周围扔了无数烟头。
加林头绪很乱，只好和衣而睡。睡在炕上的加林，大脑里在不断地浮现着德顺爷爷生前的斑斑点点，有的是他知道的，有的别人说给他的，他还常去高明楼那里以了解德顺爷爷更多的情况。他现在就是不断地将大脑里面的信息，进行梳理，通过大脑这个再生产的加工厂，把这些信息有机地编织成一部锦绣文章。
这段时间以来，加林一闲下来就在回忆着他和德顺爷爷的一些往事，有时想起来能让他哭上整整一宿。他一但有了文字冲动就立即用笔记录下来。有时一连几天，竟写不了一个字，有时一写起来，就像看了一场上下集的电影，三四个小时，不一会儿就从笔下划过，他一点也感觉不到累。就这样，不到半年的时间，高加林就把德顺爷爷的一生，勾画出了个轮廓。十岁离父，十五离母，随即给大户揽工，走西口，过黄河，穿沙漠，越长城，直到解放。土改后，铁心跟党走，积极入社，第一个站起来，拥护人民公社化、食堂化。学大寨老当益壮，被授予“新愚公”的称号。
加林对德顺爷爷的生平进行不断地采访挖掘，村子里上了年纪的人，加林一个都不放过，他一有时间就回来和他们进行反复交谈，尽量收集关于德顺爷爷的信息。
这天夜里，高加林望着跟前这凝聚着德顺爷爷大公无私的用红旗和五星标旌的奖状，不禁潸然泪下。
德顺爷爷上山以后，高明楼在整理他干大的遗物时，在一个牛皮袋子里，找出了一沓子奖状。高明楼仔细地一张一张地看完，从五十年代末到八十年代初，德顺老汉几乎年年都有奖状，有的年份不止一张。可他从不在人面前显摆。他把奖状看成和他的生命一样，在他看来，大队每授予他的一张奖状，比给他一担麦子，一百元钱还要金贵。每当他对过去的人生有过悔恨时，他就把这些奖状拿出来，一张一张地看着，他就像淮海战役支前的那位老汉能将车辕上用小刀刻的渠渠道道串成故事一样，他都能讲出每张奖状背后战天斗地的辉煌历程。因而他认为他的人生是充实的，他能对得起高家村的子孙后代。现在高家村的山山水水，沟沟道道，哪一块，哪一处没有他的踩过的足印，没有他淌过的汗水。
高明楼感到这些奖状对加林写小说会有帮助，就连同牛皮袋子，一块给了加林。
加林把收集到德顺爷爷的信息，不断地进行筛选，提升，再通过理性化处理。终于拟了二十个章节的标题。
加林以纪实文学的表现手法来写小说，他的初稿就先从第一章《血光之灾》写起：（这里只录前几个自然段以食读者）
中华民国五年（即1916年）二月十六日（正月十四）这一天，天气晴朗，风和日丽。延州县西北的一个古镇永坪镇又到了一年一度秧歌节，永坪及周边一带的百姓，接踵而至，人山人海前来镇上围看扭秧歌，人群中你喊我叫，欢声一片。
秧歌队伍，扭扭捏捏，执扇舞绸，在“伞头”的引导下“走场”，一会儿走个 “四门斗底阵”，一会儿走个“黑虎掏心阵”，还有“十二莲灯”“窑葫芦”等，每次变阵都会引起围观者的喝彩。
秧歌队前面，锣鼓铿锵响亮，唢呐激越昂扬，极壮声色。秧歌队的后面，踩高跷、骑竹马、耍狮子。最后面队尾，男扮女装，穿着华彩衣裳，都是些扮相古怪，面目峥嵘的蛮汉蛮婆。
正当人们兴高采烈地的时候，不知谁大喊了一声，“土匪来了！”话音刚落，还不等人们反应过来，就见匪首高豁子率百余匪徒骑马拿刀，从望窑堡（即今子长县瓦窑堡）方向疾驰而来，冲向人群。看秧歌的，扭秧歌的喊声一片，摔倒的、踏伤的不计其数，百姓们顿时遭了大劫。土匪过后，永坪镇如同遭了一场大地震。
十七日土匪直奔刘马家圪塔。十八日午后，攻入县城，当日晚上又至文安驿，次日便向南流窜。土匪所到之处，杀人放火，抢劫财物，无恶不作。这次延州全县被土匪杀害者达700多人，其中就有德顺的父亲。（资料来源于《延川县志》）
安葬了父亲，欠了一大堆债，十岁出头的德顺和母亲申氏相依为命，他的苦难人生也就从这里开始了……
加林的思绪，一会儿如奔腾的大江大河，一会儿如狂泻的高山飞瀑，一会儿如涌动的竹笋；一会儿如刺破长空的汽笛，他在不断地厘清思路，伴随着手指的移动，满腹情感旋即凝结在稿纸上。
加林写起东西随意性很大，写材料是这样，写起小说也是如此，每当灵感来到的时候，他就随便拿起一张纸，乱画一起，过一段时间再在原基础上进行不断修改、再构思谋篇，直到稿子改的连加林自己都看着困难时，他才重新誊写一遍，就这样，加林反复几次，抄了写，写了抄。
他的初稿没有统一的编码，都是活页，用回形针间隔着。
加林一有时间，就写，想起德顺爷就写，他要把他对德顺爷爷的情感都倾注在文字里……
《黄土地上的苍生》这部长篇小说加林初定五十到六十万字，他从德顺爷爷的父亲遇害写起，一直写到德顺爷爷上山。