提起“双鸭山”地名的由来，可谓众说不一。那么，双鸭山这一地名到底何时因何而得呢？据采集的史料记载：清代宣统二年（1910年）间，双鸭山地域仍是一片人迹罕至的荒山野岭。当时，被人称为“山里”。常进“山里”的是些挖棒槌（人参），采草药或打野鹿角的人。采山打猎的人为了识别进山的路途和方向，就开始对足迹所至、目光所及的山峰、河流、沟谷随意起了一些名字。到了民国三年，也就是1914年4月，吉林省依兰道富锦县行政公署向吉林省行政公署呈报发现煤苗的公文，在公文所附的《富锦县煤矿地点略图》上，把位于安邦河东岸、海拔406.5米的一对山岭（即双鸭山）标名为“双崖子山”，图中还出现了“土顶子山”、“安邦河”、“吗蹄河”、“七星磖子山”等字样的地名。这是至今所见到的双鸭山地域最早的标有山河名称的图说。
二十多年后，也就是1938年，日本出版的《东满之矿业》—书中记载：“富锦炭田：炭田赋存区域，目前称为双鸭山，在富锦市南约108公里……”。由此可见，“双崖子山”不晚于1938年已有“双鸭山”的称谓了，并由过去的单指一山的山名，演变成泛指整个含煤区域的地名了。
在历史上，“双鸭山”山名还有“双牙山”（像两颗牙齿）、“双丫山”（像树丫杈）、“双鸭子山”（如一对卧鸭）等称谓，其来由大概都与“双崖子山”一样，都和山的形状相关联，或为音同字异所致。
双鸭山矿区地处偏远，开发较晚，叫法混乱。见于文字记载的，1930年前，民国批核矿商开采时多称“七星砬子煤矿”、“马蹄河煤矿”、“安邦河流域”。1931年“九一八”事变后，伪满时期多称“富锦炭田”。1943年成立“富锦炭田事务所”，后改称“富锦矿业所”，此间也有以上述机构名称泛指双鸭山产煤区域的。
1947年7月1日双鸭山矿务局正式成立。据当年矿山开发者回忆，当时在煤矿命名上出现过多种意见，有说依旧称叫富锦矿业所，有说应叫集贤煤矿局（当时地属集贤），有说以煤田区域叫双鸭山煤矿局……最后依鹤岗“矿务局”的称谓，起名为“双鸭山矿务局”，经向合江省政府汇报同意，就这样定名了。“双鸭山”从此有了正式的称谓，并因煤而兴。1952年新中国第一台苏式康拜因采煤机在双鸭山投用，首创单机月产1.2万吨的全国纪录，受到中央办公厅贺电嘉奖，全国各大报纸、广播电台屡报双鸭山矿区的高产喜讯，“双鸭山”遂名扬全国。
1954年5月双鸭山矿务局被划为中直企业后，遂于当年7月成立“双鸭山矿区人民政府”（相当县级、政企合一）；到1956年5月25日成立“双鸭山市”（县级，政企合一）的时候，“双鸭山”这一地名已经广为人知、名扬天下了。