• ISSN 1673-5722
  • CN 11-5429/P

DEM分辨率对提取东北地区坡度的影响研究

刘佳轩 高瑞 师黎静

蒋进, 周正华, 董青, 邱兆文, 肖妍珊, 魏鑫. 土体本构模型及简化模型对基坑开挖变形数值分析结果的影响[J]. 震灾防御技术, 2020, 15(2): 285-292. doi: 10.11899/zzfy20200206
引用本文: 刘佳轩,高瑞,师黎静,2021. DEM分辨率对提取东北地区坡度的影响研究. 震灾防御技术,16(2):237−244. doi:10.11899/zzfy20210202. doi: 10.11899/zzfy20210202
Jiang Jin, Zhou Zhenghua, Dong Qing, Qiu Zhaowen, Xiao Yanshan, Wei Xin. Influence of Constitutive Model and Simplified Model on Pit Deformation[J]. Technology for Earthquake Disaster Prevention, 2020, 15(2): 285-292. doi: 10.11899/zzfy20200206
Citation: Liu Jiaxuan, Gao Rui, Shi Lijing. Research on the Influence of DEM Resolution on the Slope Extraction in Northeast, China[J]. Technology for Earthquake Disaster Prevention, 2021, 16(2): 237-244. doi: 10.11899/zzfy20210202

DEM分辨率对提取东北地区坡度的影响研究

doi: 10.11899/zzfy20210202
基金项目: 国家重点研发计划(2018YFC1504601);国家自然科学基金面上项目(51978635)
详细信息
    作者简介:

    刘佳轩,男,生于1995年。硕士研究生。主要从事工程抗震方面的研究。E-mail:liujiaxuanhit@163.com

    通讯作者:

    高瑞,男,生于1993年。硕士研究生。主要从事工程抗震方面的研究。E-mail:gaoruihy@163.com

Research on the Influence of DEM Resolution on the Slope Extraction in Northeast, China

  • 摘要: 目前国内外广泛采用的坡度-等效剪切波速关系模型中,坡度主要基于30″分辨率数字高程数据的提取。DEM分辨率对坡度的提取具有重要影响,且对于不同地区、地貌单元的影响不同。本文以我国东北地区1″、3″、30″分辨率DEM为基础,分别提取研究区域内公里网格点的百分比坡度,分析不同分辨率下提取坡度差异的原因。区分平原、丘陵和山地统计分析坡度随分辨率变化特征,通过比较多种拟合模型的拟合优度和坡度分级平均相对差值,给出不同分辨率下的最佳坡度转换关系。研究结果表明,坡度体现计算面积的平均特性,随着分辨率的增大,栅格计算面积减小,导致坡度有所差异,区域坡度变化越大差异越大;在我国东北地区,随着DEM分辨率的降低,坡度-频率分布曲线向低坡度段移动,且均值、方差及值域变小,不同地貌的坡度-频率分布曲线向低坡度方向移动,且峰值区域变窄,其中平原地貌变化趋势性显著,丘陵次之,山地最小;平原及山地地貌最佳坡度拟合为线性拟合,丘陵地貌下1″、3″与30″分辨率下最佳坡度拟合分别为线性拟合和多项式拟合。
  • 随着城市地下空间的不断开发和利用,基坑工程数量日益增多,为分析基坑引起的变形(李平等,2010),数值模拟方法得到广泛应用。目前,针对基坑开挖分析的岩土工程软件较多,如ABAQUS、ANSYS、FELAC、ADINA等,如果对软件适用性缺乏了解、应用不当,将造成分析结果不可靠,甚至产生错误结论。Hashash等(2010)Grande(1998)Potts等(2001)徐中华等(2010)根据不同本构模型下基坑开挖变形结果与实测资料的对比分析,得出具有实用价值的研究成果,但这些成果多适用于特定土体条件下的工程,普遍使用性较差。Potts等(2002)指出,用于基坑工程数值模拟的土体本构模型既应能刻画分析问题特点,又应简单易实现。蒋明镜等(2012)基于PFC2D和FLAC3D软件对Mohr-Coulomb模型、Drucker-Prager模型在基坑分析中的适用性进行探讨。秦会来等(2012)对比分析基于ABAQUS软件修正剑桥模型和Mohr-Coulomb模型的基坑开挖二维数值模拟结果,认为Mohr-Coulomb模型不能反映加卸载模量差异和土体压硬性,故不适用于基坑开挖引起的变形模拟。但目前鲜有开展ABAQUS软件内置本构模型(Mohr-Coulomb模型、Drucker-Prager模型、修正剑桥模型)的基坑开挖变形三维数值模拟可靠性分析。笔者以ABAQUS软件为平台,分析内置本构模型对基坑开挖变形数值分析结果的影响,讨论内置本构模型数值模拟结果的合理性,在此基础上分析基于修正剑桥模型的开挖方式和二维简化分析模型的影响,并对比三维模型和二维模型模拟结果,论证基坑稳定性分析二维简化分析模型的适用条件,本文相关分析结论对基于ABAQUS软件的基坑开挖变形数值分析具有一定参考价值。

    为简化分析,在弹性均匀半空间内,建立长120m、宽120m、高20m的分析模型,顶面为自由边界,侧面与底面均为约束边界(图 1)。考虑边界效应对基坑开挖变形静力分析的影响,基坑开挖于分析模型地表中央,且基坑平面长20m、宽20m,设计开挖深度5m,可确保消除边界效应(管俊峰等,2017)。分析模型介质为黏性土,其中土体弹性模量取25.2MPa,粘聚力30kPa,密度1.8g/cm3,对数体积模量k取0.04,泊松比v取0.35,λ取0.2,应力比M取1.2,初始屈服面а0取0,β默认为1,流应力比K取1。初始孔隙比取1。(李广信,2004)。

    图 1  分析模型大样图
    Figure 1.  Detail drawing of analysis model

    分析模型采用八节点六面体(费康等,2013)单元(C3D8、全局尺寸5m×5m)进行离散,由于基坑处及附近土体变形较大,采用较小尺寸单元(C3D8、尺寸1m×1m×1m)进行离散,离散过程中采用单精度偏移措施将小尺寸单元逐渐过渡到大尺寸单元,分析模型有限元离散大样如图 2

    图 2  有限元离散分析模型大样图
    Figure 2.  Detail drawing of finite element discrete analysis model

    根据开挖基坑实际自应力状态,采用以下分析步骤模拟整个施工过程:①首先对模型施加重力荷载,使模型在自重应力作用下稳定建立自重应力场,并清除历史上自重作用造成的位移;②采用ABAQUS软件中的单元生死功能(Model change)开挖相应土体,并进行基坑开挖变形分析。变形分析结果分别为基坑开挖引起的地表沉降变形、基坑侧壁水平位移及坑底隆起变形,地表沉降变形、基坑侧壁水平位移及坑底隆起变形沿地表路径DE、坑底路径BC、基坑侧壁路径AB给出(图 3)。

    图 3  定义变形曲线路径图
    Figure 3.  Defination of deformation curve path

    不同本构模型下基坑开挖产生的地表沉降变形、基坑侧壁水平位移及坑底隆起变形分别如图 4-图 6所示。

    图 4  地表路径DE沉降模拟结果(不同本构模型)
    Figure 4.  DE settlement simulation results of ground pit surface path (Different constitutive models)
    图 5  基坑侧壁路径AB水平位移模拟结果(不同本构模型)
    Figure 5.  Simulation results of horizontal displacement of foundation pit sidewall path AB (Different constructive models)
    图 6  坑底路径BC隆起模拟结果(不同本构模型)
    Figure 6.  Simulation results of BC uplift of the bottom pit path (Different constructive models)

    图 4-图 6可知,在基坑开挖未支护的情形下,Mohr-Coulomb本构模型与Drucker- Prager本构模型模拟结果基本一致,基坑侧壁地表边缘在开挖后出现隆起变形,侧壁水平变形形态为内胀腹形,坑底隆起形态呈拱形,底角处隆起量最小,中部隆起量最大,这主要因为开挖基坑周边的土体未出现塑性变形区,Mohr-Coulomb模型与Drucker-Prager模型模拟基坑开挖在弹性变形范围内的变形量相等;修正剑桥模型模拟得到的地表变形在基坑侧壁地表边缘也为隆起变形,但侧壁顶隆起量小于Mohr-Coulomb本构模型与Drucker-Prager本构模型模拟结果,最大值出现在边缘附近,基坑侧壁水平位移变化表现为向基坑倾覆,坑底隆起形态呈拱形,底角处隆起量最小,中部隆起量最大,这是因为以Mohr-Coulomb为屈服或破坏准则的理想弹塑性本构模型不能反映加卸载模量的差异及土体压硬性,由此可知,修正剑桥模型沉降区域大于Mohr-Coulomb本构模型与Drucker-Prager本构模型模拟结果,坑底隆起差异不明显,且基坑侧壁水平位移变形特征较合理,表明修正剑桥模型较Mohr-Coulomb本构模型与Drucker-Prager本构模型更适用于模拟基坑开挖变形分析。

    为简便计算,实际分析中常对大型基坑问题进行简化处理,将实际的三维问题简化为二维问题。为检验此处理方法的可靠性,笔者建立长300m、宽120m、高20m的分析模型,应用ABAQUS软件进行基坑开挖变形分析时,设计的开挖宽度、深度、荷载边界条件、有限单元网格划分与前文模型一致,本构模型均采用修正剑桥模型模拟,改变基坑模型长度,使长宽比分别为1:1、3:1、5:1、7:1及10:1。变形分析结果分别为基坑开挖引起的地表沉降变形、基坑侧壁水平位移及坑底隆起变形,观测路径与前文路径相同(图 3)。长宽比为10:1的分析模型如图 7

    图 7  分析模型大样图
    Figure 7.  Detail drawing of analysis model

    为简化分析,常取基坑长边中轴线截面(图 7(a)中A′B′C′)为二维简化分析模型。分析模型采用四节点四边形单元(CPE4、近似全局布种取5)进行离散,由于基坑处及附近土体变形较大,采用较小尺寸单元(CPE4、近似单元布种取1)进行离散,离散过程中采用单精度偏移措施将小尺寸单元逐渐过渡到大尺寸单元。

    采用ABAQUS软件对不同长宽比的三维基坑模型及二维简化分析模型进行基坑开挖变形分析,结果如图 8-图 10

    图 8  地表路径DE沉降模拟结果(不同分析模型)
    Figure 8.  DE settlement simulation results of ground pit surface path (Different constitutive models)
    图 9  基坑侧壁路径AB水平位移模拟结果(不同分析模型)
    Figure 9.  Simulation results of horizontal displacement of foundation pit sidewall path AB (Different constitutive models)
    图 10  坑底路径BC隆起模拟结果(不同分析模型)
    Figure 10.  Simulation results of BC uplift of the bottom pit path

    图 8-图 10可知,当基坑长宽比小于5:1时,二维简化分析模型基坑变形模拟结果明显区别于三维模型模拟结果;长宽比大于等于5:1时,二维简化分析模型基坑变形模拟结果与三维模型模拟结果相近;基坑长宽比达10:1时,二维简化分析模型基坑变形模拟结果与三维模型模拟结果一致。由此可认为,当基坑长宽比不小于5:1时,可采用二维简化分析模型模拟基坑变形。

    本文通过分析基坑开挖引起的地表沉降变形、基坑侧壁水平位移及坑底隆起变形,研究ABAQUS软件内置本构模型及二维简化分析模型对基坑开挖数值模拟结果的影响,并给出基坑开挖三维模型简化成二维模型的适用条件,主要研究结论如下:

    (1) 使用Mohr-Coulomb模型和Drucker-Prager模型进行三维基坑模拟时,如果土体未发生屈服变形,这两种本构模型模拟结果一致。

    (2) 修正剑桥模型沉降区域大于Mohr-Coulomb本构模型与Drucker-Prager本构模型模拟结果,坑底隆起差异不明显,且基坑侧壁水平位移变形特征较合理,表明修正剑桥模型较Mohr-Coulomb本构模型与Drucker-Prager本构模型更适用于模拟基坑开挖变形分析。

    (3) 当长宽比不小于5:1时,可采用二维简化分析模型进行基坑开挖变形分析。

  • 图  1  东北地区不同分辨率下高程数据模型图

    Figure  1.  Elevation maps of 1 arc second, 3 arc second, and 30 arc second resolution in the Northeast, China

    图  2  计算高程梯度变化率的像元窗口

    Figure  2.  3×3 unit schematic diagram of slope calculation point

    图  3  东北地区不同分辨率下坡度图

    Figure  3.  Slope maps of 1 arc second, 3 arc second, and 30 arc second resolution in the Northeast, China

    图  4  不同DEM分辨率下的坡度统计

    Figure  4.  Slope statistics of different DEM resolutions

    图  5  地貌分布图

    Figure  5.  Landform distribution map

    图  6  不同分辨率下不同地貌单元坡度-频率分布曲线

    Figure  6.  Slope-frequency distribution curves of different topography at different resolutions

    图  7  不同地貌单元不同分辨率下坡度转换结果

    Figure  7.  Conversion results of DEM slopes with different resolutions under different landforms

    表  1  不同地貌单元回归模型拟合参数及评价参数(1″与30″分辨率下)

    Table  1.   Fitting and evaluation parameters of regression models for different landforms (1 arc second and 30 arc second)

    地貌单元类型拟合模型拟合参数R2ΔmeanK
    abcd
    平原线性函数00.085 630.313 400.535 70.585 0
    多项式函数0.114 600−0.154 800.090 5000.322 200.763 90.421 7
    幂函数0.047 1600.658 5000.080 000.892 30.089 6
    丘陵线性函数00.132 570.552 500.320 81.722 2
    多项式函数0.259 270−0.736 800.711 4600.610 810.486 51.255 5
    幂函数0.043 2490.329 2300.077 80.842 30.092 3
    山地线性函数00.199 240.598 490.345 11.734 2
    多项式函数0.445 110−0.996 520.686 5900.687 300.714 80.961 5
    幂函数0.079 9900.287 7300.092 450.965 30.095 7
    下载: 导出CSV

    表  2  不同地貌单元回归模型拟合参数及评价参数(3″与30″分辨率下)

    Table  2.   Fitting and evaluation parameters of regression models for different landforms (3 arc second and 30 arc second)

    地貌拟合模型拟合参数R2ΔmeanK
    abcd
    平原线性函数00.180 00.313 400.106 72.937 20
    多项式函数0.485 0−1.476 01.64600.322 200.324 40.993 20
    幂函数0.160 00.713 000.080 000.525 90.152 10
    丘陵线性函数00.246 00.552 500.385 11.434 70
    多项式函数0.449 0−1.695 02.33700.610 810.410 11.489 40
    幂函数0.082 10.465 000.077 800.579 90.134 10
    山地线性函数00.279 80.598 490.354 11.690 10
    多项式函数0.635 0−2.104 02.36600.687 300.716 00.959 90
    幂函数0.103 60.360 200.092 450.782 70.118 11
    下载: 导出CSV

    表  3  不同地貌单元不同分辨率下坡度转换公式

    Table  3.   The slope conversion formula of different resolution DEM for different landforms

    地貌单元类型与30″的转换关系
    1″(i=1″)3″(i=3″)
    平原$ {S_{30}} = {\text{0}}{\text{.085 63}}{S_{{i}}} $$ {S_{30}} = {\text{0}}{\text{.18}}{S_{{i}}} $
    丘陵$ {S_{30}} = {\text{0}}{\text{.132 57}}{S_{{i}}} $$ {S_{30}} = {\text{0}}{\text{.449}}{S_{{i}}}{{ - 1}}{\text{.695}}{S_{{i}}}^{\text{2}}{\text{ + 2}}{\text{.337}}{S_{{i}}}^{\text{3}} $
    山地$ {S_{30}} = {\text{0}}{\text{.199 24}}{S_{{i}}} $$ {S_{30}} = {\text{0}}{\text{.279 8}}{S_{{i}}} $
    下载: 导出CSV
  • [1] 李昕蕾, 2020. 基于多因素的区域场地分类方法研究. 哈尔滨: 中国地震局工程力学研究所.

    Li X. L., 2020. Regional site classification method based on multiple factors. Harbin: Institute of Engineering Mechanics, China Earthquake Administration. (in Chinese)
    [2] 刘飞, 范建容, 崔兆岩等, 2019. 基于DEM分形特征的坡度尺度变换模型. 山地学报, 37(1): 129—136

    Liu F., Fan J. R., Cui Z. Y., et al., 2019. A model of re-scaling slope based on DEM fractal feature. Mountain Research, 37(1): 129—136. (in Chinese)
    [3] 刘利峰, 2018. DEM分辨率对白马小流域坡度与坡向提取的影响. 山西水土保持科技, (2): 10—12 doi: 10.3969/j.issn.1008-0120.2018.02.005

    Liu L. F., 2018. DEM resolving capability influence on extract slope and aspect in Baima minor watershed. Soil and Water Conservation Science and Technology in Shanxi, (2): 10—12. (in Chinese) doi: 10.3969/j.issn.1008-0120.2018.02.005
    [4] 刘晓, 赵荣, 梁勇等, 2017. 顾及地貌与DEM分辨率的坡度算法适应性研究. 测绘科学, 42(3): 29—34

    Liu X., Zhao R., Liang Y., et al., 2017. Research of algorithms for deriving slope based on different geomorphic types and DEM resolution. Science of Surveying and Mapping, 42(3): 29—34. (in Chinese)
    [5] 乔之轩, 2019. 基于DEM的多分辨率水文特征提取. 北京: 北京林业大学.

    Qiao Z. X., 2019. Multi-resolution hydrological feature extraction based on DEM. Beijing: Beijing Forestry University. (in Chinese)
    [6] 师动, 朱奇峰, 杨勤科等, 2020. DEM分辨率对坡度算法选择影响的分析. 山地学报, 38(6): 935—944

    Shi D., Zhu Q. F., Yang Q. K., et al., 2020. DEM resolution influence on slope algorithm selection. Mountain Research, 38(6): 935—944. (in Chinese)
    [7] 史大成, 2009. 基于GIS的场地分类新方法研究. 哈尔滨: 中国地震局工程力学研究所.

    Shi D. C., 2009. Study on new methods of site classification based on GIS. Harbin: Institute of Engineering Mechanics, China Earthquake Administration. (in Chinese)
    [8] 土祥, 王春梅, 庞国伟等, 2018. 黄土丘陵沟壑区坡度尺度效应空间分异分析. 山地学报, 36(6): 964—972

    Tu X., Wang C. M., Pang G. W., et al., 2018. On the spatial differentiation of scale effect of slopes in Loess Hill and Gully Region, China. Mountain Research, 36(6): 964—972. (in Chinese)
    [9] 王英, 龚家国, 贾仰文等, 2019. 基于不同分辨率DEM提取坡度值的转换关系研究. 水利水电技术, 50(8): 45—51

    Wang Y., Gong J. G., Jia Y. W., et al., 2019. Study on conversion relationship of slope information extracted from different resolution DEM. Water Resources and Hydropower Engineering, 50(8): 45—51. (in Chinese)
    [10] 吴效勇, 2019. 基于多因素的地震影响场研究. 北京: 中国地震局地震预测研究所.

    Wu X. Y., 2019. Study on seismic influence field based on multi-factors. Beijing: Institute of Earthquake Forecasting, China Earthquake Administration. (in Chinese)
    [11] Grohmann C. H., 2015. Effects of spatial resolution on slope and aspect derivation for regional-scale analysis. Computers & Geosciences, 77: 111—117.
    [12] Horn B. K. P., 1981. Hill shading and the reflectance map. Proceedings of the IEEE, 69(1): 14—47. doi: 10.1109/PROC.1981.11918
    [13] Mukherjee S., Mukherjee S., Garg R. D., et al., 2013. Evaluation of topographic index in relation to terrain roughness and DEM grid spacing. Journal of Earth System Science, 122(3): 869—886. doi: 10.1007/s12040-013-0292-0
    [14] Olaya V., 2009. Basic land-surface parameters. Developments in Soil Science, 33: 141—169.
    [15] Thompson E. M., Wald D. J., Worden C. B., 2014. A Vs30 map for California with geologic and topographic constraints. Bulletin of the Seismological Society of America, 104(5): 2313—2321. doi: 10.1785/0120130312
    [16] Thornley J. H. M., 1976. Mathematical models in plant physiology. London: Academic Press, 86—110.
    [17] Wald D. J., Earle P. E., Lin K. W., et al., 2006. Challenges in rapid ground motion estimation for the prompt assessment of global urban earthquakes. Bulletin of the Earthquake Research Institute, 81: 273—281.
    [18] Walker J. P., Willgoose G. R., 1999. On the effect of digital elevation model accuracy on hydrology and geomorphology. Water Resources Research, 35(7): 2259—2268. doi: 10.1029/1999WR900034
    [19] Wang C. M., Yang Q. K., Guo W. L., et al., 2012. Influence of resolution on slope in areas with different topographic characteristics. Computers & Geosciences, 41: 156—168.
  • 加载中
图(7) / 表(3)
计量
  • 文章访问数:  154
  • HTML全文浏览量:  105
  • PDF下载量:  12
  • 被引次数: 0
出版历程
  • 收稿日期:  2021-04-26
  • 刊出日期:  2021-06-30

目录

/

返回文章
返回