DEM分辨率对提取东北地区坡度的影响研究

刘佳轩; 高瑞; 师黎静

doi:10.11899/zzfy20210202

DEM分辨率对提取东北地区坡度的影响研究

doi: 10.11899/zzfy20210202

刘佳轩^1,,
高瑞^2, ,,
师黎静¹

1.
中国地震局工程力学研究所，地震工程与工程振动重点实验室，哈尔滨 154200
2.
黑龙江科技大学，建筑工程学院，哈尔滨 154200

基金项目: 国家重点研发计划（2018YFC1504601）；国家自然科学基金面上项目（51978635）

详细信息

作者简介:
刘佳轩，男，生于1995年。硕士研究生。主要从事工程抗震方面的研究。E-mail：liujiaxuanhit@163.com

通讯作者:
高瑞，男，生于1993年。硕士研究生。主要从事工程抗震方面的研究。E-mail：gaoruihy@163.com

计量
- 文章访问数: 154
- HTML全文浏览量: 105
- PDF下载量: 12
- 被引次数: 0
出版历程
- 收稿日期: 2021-04-26
- 刊出日期: 2021-06-30

Research on the Influence of DEM Resolution on the Slope Extraction in Northeast, China

Liu Jiaxuan^1
,,
Gao Rui^{2
, ,},
Shi Lijing¹

1.
Key Laboratory of Earthquake Engineering and Engineering Vibration, Institute of Engineering Mechanics, China Earthquake Administration, Harbin 154200, China
2.
Department of Civil Engineering, Heilongjiang University of Science and Technology, Harbin 154200, China

摘要

摘要: 目前国内外广泛采用的坡度-等效剪切波速关系模型中，坡度主要基于30″分辨率数字高程数据的提取。DEM分辨率对坡度的提取具有重要影响，且对于不同地区、地貌单元的影响不同。本文以我国东北地区1″、3″、30″分辨率DEM为基础，分别提取研究区域内公里网格点的百分比坡度，分析不同分辨率下提取坡度差异的原因。区分平原、丘陵和山地统计分析坡度随分辨率变化特征，通过比较多种拟合模型的拟合优度和坡度分级平均相对差值，给出不同分辨率下的最佳坡度转换关系。研究结果表明，坡度体现计算面积的平均特性，随着分辨率的增大，栅格计算面积减小，导致坡度有所差异，区域坡度变化越大差异越大；在我国东北地区，随着DEM分辨率的降低，坡度-频率分布曲线向低坡度段移动，且均值、方差及值域变小，不同地貌的坡度-频率分布曲线向低坡度方向移动，且峰值区域变窄，其中平原地貌变化趋势性显著，丘陵次之，山地最小；平原及山地地貌最佳坡度拟合为线性拟合，丘陵地貌下1″、3″与30″分辨率下最佳坡度拟合分别为线性拟合和多项式拟合。
- DEM分辨率 /
- 地貌 /
- 坡度 /
- 坡度转换 /
- 场地分类
Abstract: The regional site classification method based on the slope has been successfully applied. The relationship model of slope-equivalent shear wave velocity based on 30 arc-second DEM is widely used at home and abroad. DEM resolution influences the extraction of the slope, and this influence is different in varying regions and landforms. Based on 1 arc-second, 3 arc-second, and 30 arc-second resolution DEM in Northeast China, this paper extracts the percentage slopes of the kilometer grid points and analyzes the reasons for the different slopes. Analyzing the characteristics of slope change with resolution in varying landforms, comparing the goodness of fit and the average relative difference, the best grade conversion relationship for different resolutions is selected. The results indicate the slope reflects the average characteristics of the calculated area. As the resolution increases, the grid area for slope calculation becomes smaller, which is the main reason for the different slopes. And the greater the slope of the area, the more significant the difference. With the decrease of DEM resolution, the frequency distribution curve of slope shifts to the low slope section, and the mean, variance, and range of values become smaller. The frequency distribution curves of varying landforms also move to the low slopes section, and the peak area becomes narrower. Among them, the changing trend of plain landforms is significant, followed by hills and mountains. The best fits for the slopes of plain and mountainous landforms are linear fitting. The best fits for slopes of 1 arc-second, 3 arc-seconds and 30 arc-seconds of hilly landforms are linear fitting and polynomial fitting, respectively.
- DEM resolution /
- Landform /
- Slope /
- Slope conversion /
- Site classification

HTML全文

引言

随着城市地下空间的不断开发和利用，基坑工程数量日益增多，为分析基坑引起的变形(李平等，2010)，数值模拟方法得到广泛应用。目前，针对基坑开挖分析的岩土工程软件较多，如ABAQUS、ANSYS、FELAC、ADINA等，如果对软件适用性缺乏了解、应用不当，将造成分析结果不可靠，甚至产生错误结论。Hashash等(2010)、Grande(1998)、Potts等(2001)及徐中华等(2010)根据不同本构模型下基坑开挖变形结果与实测资料的对比分析，得出具有实用价值的研究成果，但这些成果多适用于特定土体条件下的工程，普遍使用性较差。Potts等(2002)指出，用于基坑工程数值模拟的土体本构模型既应能刻画分析问题特点，又应简单易实现。蒋明镜等(2012)基于PFC^2D和FLAC^3D软件对Mohr-Coulomb模型、Drucker-Prager模型在基坑分析中的适用性进行探讨。秦会来等(2012)对比分析基于ABAQUS软件修正剑桥模型和Mohr-Coulomb模型的基坑开挖二维数值模拟结果，认为Mohr-Coulomb模型不能反映加卸载模量差异和土体压硬性，故不适用于基坑开挖引起的变形模拟。但目前鲜有开展ABAQUS软件内置本构模型(Mohr-Coulomb模型、Drucker-Prager模型、修正剑桥模型)的基坑开挖变形三维数值模拟可靠性分析。笔者以ABAQUS软件为平台，分析内置本构模型对基坑开挖变形数值分析结果的影响，讨论内置本构模型数值模拟结果的合理性，在此基础上分析基于修正剑桥模型的开挖方式和二维简化分析模型的影响，并对比三维模型和二维模型模拟结果，论证基坑稳定性分析二维简化分析模型的适用条件，本文相关分析结论对基于ABAQUS软件的基坑开挖变形数值分析具有一定参考价值。

1.   模型建立

为简化分析，在弹性均匀半空间内，建立长120m、宽120m、高20m的分析模型，顶面为自由边界，侧面与底面均为约束边界(图 1)。考虑边界效应对基坑开挖变形静力分析的影响，基坑开挖于分析模型地表中央，且基坑平面长20m、宽20m，设计开挖深度5m，可确保消除边界效应(管俊峰等，2017)。分析模型介质为黏性土，其中土体弹性模量取25.2MPa，粘聚力30kPa，密度1.8g/cm³，对数体积模量k取0.04，泊松比v取0.35，λ取0.2，应力比M取1.2，初始屈服面а₀取0，β默认为1，流应力比K取1。初始孔隙比取1。(李广信，2004)。

图 1 分析模型大样图

Figure 1. Detail drawing of analysis model

下载: 全尺寸图片幻灯片

分析模型采用八节点六面体(费康等，2013)单元(C3D8、全局尺寸5m×5m)进行离散，由于基坑处及附近土体变形较大，采用较小尺寸单元(C3D8、尺寸1m×1m×1m)进行离散，离散过程中采用单精度偏移措施将小尺寸单元逐渐过渡到大尺寸单元，分析模型有限元离散大样如图 2。

图 2 有限元离散分析模型大样图

Figure 2. Detail drawing of finite element discrete analysis model

下载: 全尺寸图片幻灯片

2.   数值模拟结果分析

根据开挖基坑实际自应力状态，采用以下分析步骤模拟整个施工过程：①首先对模型施加重力荷载，使模型在自重应力作用下稳定建立自重应力场，并清除历史上自重作用造成的位移；②采用ABAQUS软件中的单元生死功能(Model change)开挖相应土体，并进行基坑开挖变形分析。变形分析结果分别为基坑开挖引起的地表沉降变形、基坑侧壁水平位移及坑底隆起变形，地表沉降变形、基坑侧壁水平位移及坑底隆起变形沿地表路径DE、坑底路径BC、基坑侧壁路径AB给出(图 3)。

图 3 定义变形曲线路径图

Figure 3. Defination of deformation curve path

下载: 全尺寸图片幻灯片

2.1   本构模型对基坑变形模拟结果的影响

不同本构模型下基坑开挖产生的地表沉降变形、基坑侧壁水平位移及坑底隆起变形分别如图 4-图 6所示。

图 4 地表路径DE沉降模拟结果(不同本构模型)

Figure 4. DE settlement simulation results of ground pit surface path (Different constitutive models)

下载: 全尺寸图片幻灯片

图 5 基坑侧壁路径AB水平位移模拟结果(不同本构模型)

Figure 5. Simulation results of horizontal displacement of foundation pit sidewall path AB (Different constructive models)

下载: 全尺寸图片幻灯片

图 6 坑底路径BC隆起模拟结果(不同本构模型)

Figure 6. Simulation results of BC uplift of the bottom pit path (Different constructive models)

下载: 全尺寸图片幻灯片

由图 4-图 6可知，在基坑开挖未支护的情形下，Mohr-Coulomb本构模型与Drucker- Prager本构模型模拟结果基本一致，基坑侧壁地表边缘在开挖后出现隆起变形，侧壁水平变形形态为内胀腹形，坑底隆起形态呈拱形，底角处隆起量最小，中部隆起量最大，这主要因为开挖基坑周边的土体未出现塑性变形区，Mohr-Coulomb模型与Drucker-Prager模型模拟基坑开挖在弹性变形范围内的变形量相等；修正剑桥模型模拟得到的地表变形在基坑侧壁地表边缘也为隆起变形，但侧壁顶隆起量小于Mohr-Coulomb本构模型与Drucker-Prager本构模型模拟结果，最大值出现在边缘附近，基坑侧壁水平位移变化表现为向基坑倾覆，坑底隆起形态呈拱形，底角处隆起量最小，中部隆起量最大，这是因为以Mohr-Coulomb为屈服或破坏准则的理想弹塑性本构模型不能反映加卸载模量的差异及土体压硬性，由此可知，修正剑桥模型沉降区域大于Mohr-Coulomb本构模型与Drucker-Prager本构模型模拟结果，坑底隆起差异不明显，且基坑侧壁水平位移变形特征较合理，表明修正剑桥模型较Mohr-Coulomb本构模型与Drucker-Prager本构模型更适用于模拟基坑开挖变形分析。

2.2   三维模型与二维简化分析模型对比

为简便计算，实际分析中常对大型基坑问题进行简化处理，将实际的三维问题简化为二维问题。为检验此处理方法的可靠性，笔者建立长300m、宽120m、高20m的分析模型，应用ABAQUS软件进行基坑开挖变形分析时，设计的开挖宽度、深度、荷载边界条件、有限单元网格划分与前文模型一致，本构模型均采用修正剑桥模型模拟，改变基坑模型长度，使长宽比分别为1:1、3:1、5:1、7:1及10:1。变形分析结果分别为基坑开挖引起的地表沉降变形、基坑侧壁水平位移及坑底隆起变形，观测路径与前文路径相同(图 3)。长宽比为10:1的分析模型如图 7。

图 7 分析模型大样图

Figure 7. Detail drawing of analysis model

下载: 全尺寸图片幻灯片

为简化分析，常取基坑长边中轴线截面(图 7(a)中A′B′C′)为二维简化分析模型。分析模型采用四节点四边形单元(CPE4、近似全局布种取5)进行离散，由于基坑处及附近土体变形较大，采用较小尺寸单元(CPE4、近似单元布种取1)进行离散，离散过程中采用单精度偏移措施将小尺寸单元逐渐过渡到大尺寸单元。

采用ABAQUS软件对不同长宽比的三维基坑模型及二维简化分析模型进行基坑开挖变形分析，结果如图 8-图 10。

图 8 地表路径DE沉降模拟结果(不同分析模型)

Figure 8. DE settlement simulation results of ground pit surface path (Different constitutive models)

下载: 全尺寸图片幻灯片

图 9 基坑侧壁路径AB水平位移模拟结果(不同分析模型)

Figure 9. Simulation results of horizontal displacement of foundation pit sidewall path AB (Different constitutive models)

下载: 全尺寸图片幻灯片

图 10 坑底路径BC隆起模拟结果(不同分析模型)

Figure 10. Simulation results of BC uplift of the bottom pit path

下载: 全尺寸图片幻灯片

由图 8-图 10可知，当基坑长宽比小于5:1时，二维简化分析模型基坑变形模拟结果明显区别于三维模型模拟结果；长宽比大于等于5:1时，二维简化分析模型基坑变形模拟结果与三维模型模拟结果相近；基坑长宽比达10:1时，二维简化分析模型基坑变形模拟结果与三维模型模拟结果一致。由此可认为，当基坑长宽比不小于5:1时，可采用二维简化分析模型模拟基坑变形。

3.   结论

本文通过分析基坑开挖引起的地表沉降变形、基坑侧壁水平位移及坑底隆起变形，研究ABAQUS软件内置本构模型及二维简化分析模型对基坑开挖数值模拟结果的影响，并给出基坑开挖三维模型简化成二维模型的适用条件，主要研究结论如下：

(1) 使用Mohr-Coulomb模型和Drucker-Prager模型进行三维基坑模拟时，如果土体未发生屈服变形，这两种本构模型模拟结果一致。

(2) 修正剑桥模型沉降区域大于Mohr-Coulomb本构模型与Drucker-Prager本构模型模拟结果，坑底隆起差异不明显，且基坑侧壁水平位移变形特征较合理，表明修正剑桥模型较Mohr-Coulomb本构模型与Drucker-Prager本构模型更适用于模拟基坑开挖变形分析。

(3) 当长宽比不小于5:1时，可采用二维简化分析模型进行基坑开挖变形分析。

图 1 东北地区不同分辨率下高程数据模型图

Figure 1. Elevation maps of 1 arc second, 3 arc second, and 30 arc second resolution in the Northeast, China

下载: 全尺寸图片幻灯片

图 2 计算高程梯度变化率的像元窗口

Figure 2. 3×3 unit schematic diagram of slope calculation point

下载: 全尺寸图片幻灯片

图 3 东北地区不同分辨率下坡度图

Figure 3. Slope maps of 1 arc second, 3 arc second, and 30 arc second resolution in the Northeast, China

下载: 全尺寸图片幻灯片

图 4 不同DEM分辨率下的坡度统计

Figure 4. Slope statistics of different DEM resolutions

下载: 全尺寸图片幻灯片

图 5 地貌分布图

Figure 5. Landform distribution map

下载: 全尺寸图片幻灯片

图 6 不同分辨率下不同地貌单元坡度-频率分布曲线

Figure 6. Slope-frequency distribution curves of different topography at different resolutions

下载: 全尺寸图片幻灯片

图 7 不同地貌单元不同分辨率下坡度转换结果

Figure 7. Conversion results of DEM slopes with different resolutions under different landforms

下载: 全尺寸图片幻灯片

表 1 不同地貌单元回归模型拟合参数及评价参数（1″与30″分辨率下）

Table 1. Fitting and evaluation parameters of regression models for different landforms (1 arc second and 30 arc second)

地貌单元类型	拟合模型	拟合参数				R²	Δ_mean	K
地貌单元类型	拟合模型	a	b	c	d	R²	Δ_mean	K
平原	线性函数	0	0.085 63	—	—	0.313 40	0.535 7	0.585 0
	多项式函数	0.114 600	−0.154 80	0.090 50	0	0.322 20	0.763 9	0.421 7
	幂函数	0.047 160	0.658 50	0	—	0.080 00	0.892 3	0.089 6
丘陵	线性函数	0	0.132 57	—	—	0.552 50	0.320 8	1.722 2
	多项式函数	0.259 270	−0.736 80	0.711 46	0	0.610 81	0.486 5	1.255 5
	幂函数	0.043 249	0.329 23	0	—	0.077 8	0.842 3	0.092 3
山地	线性函数	0	0.199 24	—	—	0.598 49	0.345 1	1.734 2
	多项式函数	0.445 110	−0.996 52	0.686 59	0	0.687 30	0.714 8	0.961 5
	幂函数	0.079 990	0.287 73	0	—	0.092 45	0.965 3	0.095 7

下载: 导出CSV

表 2 不同地貌单元回归模型拟合参数及评价参数（3″与30″分辨率下）

Table 2. Fitting and evaluation parameters of regression models for different landforms (3 arc second and 30 arc second)

地貌	拟合模型	拟合参数				R²	Δ_mean	K
地貌	拟合模型	a	b	c	d	R²	Δ_mean	K
平原	线性函数	0	0.180 0	—	—	0.313 40	0.106 7	2.937 20
	多项式函数	0.485 0	−1.476 0	1.646	0	0.322 20	0.324 4	0.993 20
	幂函数	0.160 0	0.713 0	0	—	0.080 00	0.525 9	0.152 10
丘陵	线性函数	0	0.246 0	—	—	0.552 50	0.385 1	1.434 70
	多项式函数	0.449 0	−1.695 0	2.337	0	0.610 81	0.410 1	1.489 40
	幂函数	0.082 1	0.465 0	0	—	0.077 80	0.579 9	0.134 10
山地	线性函数	0	0.279 8	—	—	0.598 49	0.354 1	1.690 10
	多项式函数	0.635 0	−2.104 0	2.366	0	0.687 30	0.716 0	0.959 90
	幂函数	0.103 6	0.360 2	0	—	0.092 45	0.782 7	0.118 11

下载: 导出CSV

表 3 不同地貌单元不同分辨率下坡度转换公式

Table 3. The slope conversion formula of different resolution DEM for different landforms

地貌单元类型	与30″的转换关系
地貌单元类型	1″（i=1″）	3″（i=3″）
平原	$ {S_{30}} = {\text{0}}{\text{.085 63}}{S_{{i}}} $	$ {S_{30}} = {\text{0}}{\text{.18}}{S_{{i}}} $
丘陵	$ {S_{30}} = {\text{0}}{\text{.132 57}}{S_{{i}}} $	$ {S_{30}} = {\text{0}}{\text{.449}}{S_{{i}}}{{ - 1}}{\text{.695}}{S_{{i}}}^{\text{2}}{\text{ + 2}}{\text{.337}}{S_{{i}}}^{\text{3}} $
山地	$ {S_{30}} = {\text{0}}{\text{.199 24}}{S_{{i}}} $	$ {S_{30}} = {\text{0}}{\text{.279 8}}{S_{{i}}} $

下载: 导出CSV

参考文献(19)

[1]	李昕蕾, 2020. 基于多因素的区域场地分类方法研究. 哈尔滨: 中国地震局工程力学研究所. Li X. L., 2020. Regional site classification method based on multiple factors. Harbin: Institute of Engineering Mechanics, China Earthquake Administration. (in Chinese)
[2]	刘飞, 范建容, 崔兆岩等, 2019. 基于DEM分形特征的坡度尺度变换模型. 山地学报, 37(1): 129—136 Liu F., Fan J. R., Cui Z. Y., et al., 2019. A model of re-scaling slope based on DEM fractal feature. Mountain Research, 37(1): 129—136. (in Chinese)
[3]	刘利峰, 2018. DEM分辨率对白马小流域坡度与坡向提取的影响. 山西水土保持科技, (2): 10—12 doi: 10.3969/j.issn.1008-0120.2018.02.005 Liu L. F., 2018. DEM resolving capability influence on extract slope and aspect in Baima minor watershed. Soil and Water Conservation Science and Technology in Shanxi, (2): 10—12. (in Chinese) doi: 10.3969/j.issn.1008-0120.2018.02.005
[4]	刘晓, 赵荣, 梁勇等, 2017. 顾及地貌与DEM分辨率的坡度算法适应性研究. 测绘科学, 42(3): 29—34 Liu X., Zhao R., Liang Y., et al., 2017. Research of algorithms for deriving slope based on different geomorphic types and DEM resolution. Science of Surveying and Mapping, 42(3): 29—34. (in Chinese)
[5]	乔之轩, 2019. 基于DEM的多分辨率水文特征提取. 北京: 北京林业大学. Qiao Z. X., 2019. Multi-resolution hydrological feature extraction based on DEM. Beijing: Beijing Forestry University. (in Chinese)
[6]	师动, 朱奇峰, 杨勤科等, 2020. DEM分辨率对坡度算法选择影响的分析. 山地学报, 38(6): 935—944 Shi D., Zhu Q. F., Yang Q. K., et al., 2020. DEM resolution influence on slope algorithm selection. Mountain Research, 38(6): 935—944. (in Chinese)
[7]	史大成, 2009. 基于GIS的场地分类新方法研究. 哈尔滨: 中国地震局工程力学研究所. Shi D. C., 2009. Study on new methods of site classification based on GIS. Harbin: Institute of Engineering Mechanics, China Earthquake Administration. (in Chinese)
[8]	土祥, 王春梅, 庞国伟等, 2018. 黄土丘陵沟壑区坡度尺度效应空间分异分析. 山地学报, 36(6): 964—972 Tu X., Wang C. M., Pang G. W., et al., 2018. On the spatial differentiation of scale effect of slopes in Loess Hill and Gully Region, China. Mountain Research, 36(6): 964—972. (in Chinese)
[9]	王英, 龚家国, 贾仰文等, 2019. 基于不同分辨率DEM提取坡度值的转换关系研究. 水利水电技术, 50(8): 45—51 Wang Y., Gong J. G., Jia Y. W., et al., 2019. Study on conversion relationship of slope information extracted from different resolution DEM. Water Resources and Hydropower Engineering, 50(8): 45—51. (in Chinese)
[10]	吴效勇, 2019. 基于多因素的地震影响场研究. 北京: 中国地震局地震预测研究所. Wu X. Y., 2019. Study on seismic influence field based on multi-factors. Beijing: Institute of Earthquake Forecasting, China Earthquake Administration. (in Chinese)
[11]	Grohmann C. H., 2015. Effects of spatial resolution on slope and aspect derivation for regional-scale analysis. Computers & Geosciences, 77: 111—117.
[12]	Horn B. K. P., 1981. Hill shading and the reflectance map. Proceedings of the IEEE, 69(1): 14—47. doi: 10.1109/PROC.1981.11918
[13]	Mukherjee S., Mukherjee S., Garg R. D., et al., 2013. Evaluation of topographic index in relation to terrain roughness and DEM grid spacing. Journal of Earth System Science, 122(3): 869—886. doi: 10.1007/s12040-013-0292-0
[14]	Olaya V., 2009. Basic land-surface parameters. Developments in Soil Science, 33: 141—169.
[15]	Thompson E. M., Wald D. J., Worden C. B., 2014. A Vs30 map for California with geologic and topographic constraints. Bulletin of the Seismological Society of America, 104(5): 2313—2321. doi: 10.1785/0120130312
[16]	Thornley J. H. M., 1976. Mathematical models in plant physiology. London: Academic Press, 86—110.
[17]	Wald D. J., Earle P. E., Lin K. W., et al., 2006. Challenges in rapid ground motion estimation for the prompt assessment of global urban earthquakes. Bulletin of the Earthquake Research Institute, 81: 273—281.
[18]	Walker J. P., Willgoose G. R., 1999. On the effect of digital elevation model accuracy on hydrology and geomorphology. Water Resources Research, 35(7): 2259—2268. doi: 10.1029/1999WR900034
[19]	Wang C. M., Yang Q. K., Guo W. L., et al., 2012. Influence of resolution on slope in areas with different topographic characteristics. Computers & Geosciences, 41: 156—168.