目前，地面瞬变电磁法凭借其优势已被广泛用于煤矿水文地质勘查中，然而，在野外实际勘探中，复杂地形环境常导致发射源几何形状的改变与信号接收偏差，降低了勘探精度。为此，采用理论分析、数值模拟和实际地形数据分析相结合的方式，系统研究了复杂地形条件下电性源与磁性源瞬变电磁场的响应特征。首先，基于二阶后退欧拉离散的矢量有限元正演模拟技术，详细探讨了山峰和山谷地形位于接收点和发射源位置时，对两种源系统的影响规律。结果表明：电性源系统会出现响应变号现象，源导线位置高于周围地形时响应增强，反之则被削弱；而磁性源无变号现象，但响应变化规律与电性源类似。其次，利用实测地形数据，采用四面体网格建立与实际地形高度吻合的三维正演模型。模拟结果显示：早期响应曲线能够清晰反映地形细节，曲线形态与地形特征一致；而晚期响应则逐渐趋于平缓，体现了深部背景的影响。研究成果可为复杂地形条件下瞬变电磁法的勘探装置布设、数据采集、处理和解释提供理论指导，对提高煤矿水文地质勘探精度具有重要意义。