碑文所产生的错觉
日军进攻南京时，五台山为中国守军的高射炮阵地，由国民政府宪兵和警察驻守在这里，五台山小学是当时安全区内难民收容所之一。
纪念碑给人一种错觉，似乎这里仅仅是遇难者丛葬地，而没有发生大规模屠杀。事实是怎样的呢？
1937年12月13日，南京陷落后，上海派遣军与第十军各师团、旅团及联队按照松井石根《攻占南京要领》的指令，逐级下达了“扫荡”命令，并划分了各部队在城内的扫荡区域。
日军步兵第七联队的3个步兵大队负责在城西部地区展开“扫荡”。其“扫荡”区域大致为：东至中山路、鼓楼一线；北至山西路、模范马路一线；西至西康路、清凉山一线；南至汉中路一线。
从12月13日夜到24日，日军步兵第七联队反复在鼓楼及五台山一带进行“扫荡”，枪杀无辜。未及撤退、驻守在五台山负责防空的近千名炮兵和警察被包围在五台山附近。史料记载，战士们被迫缴械后，当即被日军就近圈禁起来，后来大部被押往江边屠杀，还有一部分与难民一起被集中枪杀在五台山阵地附近。
时属步兵第七联队第一中队的一等兵水谷庄在日记中写道：“（12月16日）上午，和中队长两人去宿舍北边山上的寺院。这像是历史悠久的古寺，首先就被其巨大的规模所震撼。从遗留的文件、物品判断，这里曾是敌人宪兵第二团所在地，储存了很多不像是宪兵队而是战斗部队的武器弹药，还发现了一挺水冷式重机枪。其他还有数不清的未开包的被服等物资，都堆放在巨大的古树下。下午，中队去难民区扫荡。在难民区街道的交叉路口安排上了刺刀的哨兵并封锁了交通，各中队按照分配好的区域扫荡。所有引人注目的年轻人几乎都被赶了出来，按孩子玩开火车游戏的窍门，都被圈在绳子围成的范围内，周围押送的士兵端着上了刺刀的枪。各中队都抓了几百人，第一中队人数虽然少得可怜，也强行拉来了一百几十人。紧接着就来了许多像是母亲、妻子的家人，哭泣着哀求放人。立刻放了被认作市民的人，枪毙了36人。他们都拼命地哭着乞求饶命，但也没办法，即便分不清真假，这也是不得已的，多少也会有些可怜的牺牲品。因为军司令官松井大将发布了命令，要彻底扫荡抗日分子和残兵败卒，所以扫荡是极严厉的……”(1)
日军在被其杀害的中国人尸体旁留影
该联队第二中队的上等兵井家又一在12月16日的日记中也记载：“上午10时出去扫荡残敌，缴获了一门高射炮。下午又出去抓来335名年轻的家伙。抓走了难民中像是败兵的人。这些人中间也可能确实有军属……350名败兵被带到扬子江边，让其他士兵把他们全枪毙了。在这冬月十四的皎洁月光下，是什么原因让这些人踏上不归路的呢？是作为宣扬皇道的牺牲品而去的吧。日本军司令部命令，杀死所有的年轻人，以防止他们再度成为抗日的力量。”(2)
日军步兵联队战斗详报所附“步兵第七联队12月13日—24日在南京城内扫荡成果表”记载，“扫荡”期间，该联队共“ （刺）杀残敌6670名”，并缴获大量武器装备。
当时躲避在五台山小学的姜永和，目击了日军在五台山的暴行，他说：“那时我们全家都去了五台山小学的难民区……记得是日军刚进城就来到了这个难民区。日军把男青年带到外面，让他们排好队，检查头上帽子的痕迹、手掌和肩上的茧子什么的。稍微有点疑问的人就被从队伍里拉出来，集中在别的地方，留下的人发给‘良民证’。女人们说‘那个人是我的丈夫’‘是我的儿子’，把有些被拉出的人救了下来。有个女人见到一个男人被抓，就把她妈叫来，自己装成媳妇，母女俩一起求情救下了他。有家属的人被放了回去。虽说是难民区，但绝不是安全的……有消息说，从队伍里拉出来的人被送上卡车带到挹江门外，用机枪打死了。这是从邻居的大人那里听来的，因为害怕，我没敢去看。”(3)
时年15岁的受害人夏瑞荣回忆说：“日本兵进南京的第三天，也就是15日，几个日本兵带着一个汉奸来了。汉奸说：‘大家都到五台山难民区去！’我们被日本兵用枪逼着，不得不马上离开了家。一家五口和邻居们一起去三公里外的上海路五台山小学避难。……从家里去难民区的路上，到处都是尸体。在严冬的大冷天里被剥了衣服的裸体妇女肚子剖开着，肠子流了一地，大肚子的女人也光着身子死了。我看到了几十具尸体，一路上都有。在珠江路，我看到许多烧焦的尸体，汽油味直冲鼻子。路边挨在一起的房子都在烧，火星乱飞。傍晚到了难民区五台山小学。教室和走廊里男女混杂，难民挤得动也不能动，躺也不能躺。这个学校是美国基督教办的学校，现在还保留在原来的地方。第二天16日，十几个日本兵进了教室，把二三十岁的男人从房间里拉出去，开始检查有士兵嫌疑的人。我因为是15岁，也被拉了出去，和年轻人一起检查有没有帽子痕迹，手上有没有老茧。我因为没有帽子痕迹，总算没事。被枪逼着排在操场上的男人上了两三辆卡车的车斗，挤得满满的。三个武装的日本兵拿着上刺刀的枪，乘上卡车。人一满，卡车就出发了。他们被带到哪里去不知道，但大家都在传，说他们被机枪杀了。下一天17日，日本兵又来了，和昨天一样把年轻人拉出去，用枪逼着乘上卡车跑了。我从教室里看着操场上的情形，被带走的男人一个也没有回来……”(4)
目击者称，五台山周围堆放的尸体有2米多高，鲜红血液带着浓浓的腥味汇成小渠，从高处不断流下……