中国科学院山西煤炭化学研究所的前身是中国科学院煤炭研究室，于1954年在大连中国科学院石油研究所（即现在的中国科学院大连化学物理研究所）挂牌成立。1961年，煤炭研究室扩建为中国科学院煤炭化学研究所并开始向太原搬迁。1978年9月改名为中国科学院山西煤炭化学研究所并沿用至今。

建所以来，山西煤化所以满足国家能源战略安全、社会经济可持续发展以及国防安全的战略性重大科技需求为使命，以协调解决煤炭利用效率与生态环境问题和重点突破制约国家战略性新兴产业发展的材料瓶颈为目标，围绕煤炭清洁高效利用和新型炭材料制备与应用开展定向基础研究、关键核心技术和重大系统集成创新，逐渐由一个只有64人的实验室，发展壮大为从基础研究到工艺过程开发直至产业化的体系较为完备且在国内外相关领域具有重要影响力的现代化研究所。截至2019年底，山西煤化所共有在职职工487人。其中科技人员413人、科技支撑人员28人，包括研究员及正高级工程技术人员74人、副研究员及高级工程技术人员128人。国家万人计划入选者3人；国家杰青科学基金获得者2人；百千万人才工程国家级人选3人；科技部创新人才推进计划4人；山西省学术带头人11人。

山西煤化所是1981年国务院学位委员会批准的首批博士、硕士学位授予单位之一，现有博士生导师49人，硕士生导师76人，设有化学、化学工程与技术、材料科学与工程3个一级学科博士、硕士研究生培养点；物理化学、材料学、化学工程、化学工艺、工业催化5个二级博士、硕士研究生培养点；材料与化学工程1个全日制专业硕士授权点，并设有1个化学专业一级学科博士后流动站。共有在学研究生390人（其中硕士生175人、博士生215人）。在站博士后6人。 

山西煤化所将以人才队伍优化为核心，以重大项目实施为牵引，以对外合作交流为窗口，以创新平台建设为保障，全面实施“率先行动”计划，在国家创新体系建设中，积极发挥国立科研机构引领示范作用，不断加快现代化研究所建设步伐。

山西煤化所在各个历史时期为国家洁净能源与先进材料技术研发与产业化以及国家经济建设和科学技术发展做出了突出贡献，共计获得全国科学大会奖、国家发明奖、国家科技进步奖、中国科学院科技成果奖、发明奖、自然科学奖、杰出成就奖以及省部级成果奖232项，国家授权专利525项。