基于雙輸入序列到序列模型的井眼軌跡實時智能預測方法

李臻 宋先知,2 李根生,2 張洪寧 祝兆鵬 王正 劉慕臣

1.中國石油大學(北京)石油工程學院；2.油氣資源與工程全國重點實驗室；3.中國石化石油工程技術研究院；4.中國石油大學(北京)機械與儲運工程學院

0 引言

提高井眼軌跡預測精準度和時效性有助于提高儲層鉆遇率、保障鉆井安全，但井眼軌跡影響因素眾多且高度非線性，井下力學行為極其復雜，往往難以準確預測。國內外專家學者針對井眼軌跡預測問題進行了廣泛研究，取得了深刻認識。白家祉等［1］和高德利［2］分別基于縱橫彎曲梁理論和加權殘值法系統地總結了底部鉆具組合力學分析方法，用于預測井眼軌跡；潘起峰等［3］建立了地層力計算新方法，并將其用于指導鉆頭與地層相互作用下的井眼軌跡預測；Hajianmaleki M 等［4］、Walker B 等［5］利用有限元分析、能量法等建立了井眼軌跡預測模型；劉修善等［6-7］通過研究曲線結構先后建立了井眼軌跡的幾何外推預測模型。盡管井眼軌跡預測研究已經較為深入，但目前仍存在一定局限，例如，幾何外推模型僅考慮了曲線幾何關系，未考慮底部鉆具組合受力變形以及鉆井參數的影響，預測精度仍需提高；力學模型機理復雜，假設條件較多，在許多環境下無法滿足［8］，同時鉆頭與地層之間復雜的相互作用機制尚未完全明確，仍需借助大量實鉆數據以確定部分經驗系數，其使用也受到一定限制。

近年來，人工智能技術取得了長足發展，其具備多源、多模態、多尺度建模能力［9］，在復雜數據處理、非線性擬合等方面具有顯著的優越性，已作為一種新的研究范式逐漸應用到鉆井領域中［10］，包括井眼軌道優化設計［11］、機械鉆速預測［12］、儲層物性參數反演［13］、鉆井風險預警［14］等方面。在井眼軌跡預測上，王延江等［8］、馬玉鳳等［15］、袁野［16］利用支持向量機以井眼曲率、鉆進方式、井斜角和方位角為輸入特征進行了井眼軌跡預測，對井斜角預測效果比較好。孟慶華等［17］將井眼軌跡時間序列進行了小波分析重構，并將分解所得序列作為輸入來建立神經網絡預測模型。

當前，關于井眼軌跡智能預測的研究較為有限，使用的智能算法也相對陳舊，多為離線模型，未充分考慮地層性質、底部鉆具組合結構等非時序特征，預測精度存在進一步提升空間；此外，目前使用的智能模型均為多對一或一對一的預測范式，在進行多步預測時往往效果較差；同時鉆井環境復雜多變，離線模型無法利用實時數據，模型存在滯后性，泛化能力不足［18］。因此亟需一種高精度、高效率的井眼軌跡預測方法。本文將采用以下對策進行針對性研究：(1)針對機理模型機制復雜，假設條件多、難以同時滿足的問題，擬采用機器學習算法，建立端到端的預測模型。(2)針對當前智能模型未能具體考慮非時序特征，無法實現序列預測的難題，擬引入并改造自然語言處理領域廣泛應用的序列到序列模型(Sequence to Sequence)來解決軌跡多步預測的難題并提升預測精度［19］。底部鉆具組合結構、地層性質、鉆進方式等非時序特征是井眼軌跡的重要影響參數［20］，但并非數值類型，無法直接輸入模型之中，常規的做法是進行獨熱(one-hot)編碼將其數值化［21］，然而隨著特征類型的增多，編碼特征維度將會迅速增加，使網絡結構變得稀疏，造成模型精度降低。為此，本文在獨熱編碼數值化的基礎上加入嵌入層(Embedding)來處理非時序特征，實現數據降維，改善模型結構［22-23］。(3)針對當前智能模型多為離線模型，無法適應井下環境變化的難題，擬通過增量訓練，建立模型動態更新機制，實時預測井眼軌跡。

1 數據處理

數據質量是影響神經網絡模型性能和泛化能力最顯著的因素［24］，甚至超過了模型本身結構的影響，因此對數據進行處理，建立一個優質數據集至關重要。

1.1 數據清洗

本文數據來源于國內某區塊平臺的12 口井，包含實時錄井、測井與鉆具組合等約40 余種類型的參數。該區塊地層一共分為9 層，底部造斜工具采用了單彎螺桿鉆具組合和旋轉導向系統，鉆頭均采用同款PDC 鉆頭，因此本次構建模型時無需考慮鉆頭因素的影響。

測斜數據通常每隔30 m 或10 m 記錄一次，為了與其他工程參數統一深度間隔，便于模型訓練，并使模型具備1 m 間隔的連續預測能力，需要對測斜數據進行插值連續化處理，此外連續化還能擴充原有數據集，增強智能模型性能。常用的插值方法有圓柱螺線法、最小曲率法［25］、三次樣條插值法等，3 種方法的精度從工程應用上來說并無明顯差別，其中三次樣條插值曲線更加光滑［26］，適合神經網絡訓練，本文選擇三次樣條曲線進行測斜數據插值連續化。

時序數據通常由傳感器實時采集，難免存在異常和缺失的情況，需要進行數據處理。本文采用深度學習領域常用的3σ異常值檢測和線性填充方法進行時序數據清洗，對非時序數據采用獨熱編碼數值化。

1.2 特征優選

影響井眼軌跡的因素眾多，可分為地層性質(可鉆性、巖性、自然造斜特性等)、底部鉆具組合(鉆頭類型，鉆具類型，穩定器數量、位置、間距等)、井眼形狀(井斜方位、井眼曲率等)以及鉆井工藝參數(鉆壓、鉆速、轉速等)四部分［20］。然而在進行網絡訓練時，特征并非越多越好，過多的輸入特征可能會增加訓練時間、造成特征冗余等問題，從而導致模型性能降低。因此有必要進行特征優選，以提高模型性能。

相關性分析是機器學習任務中廣泛采用的特征優選方法，但這僅是對數值從統計學角度進行直觀分析，而鉆井領域數據與井眼軌跡之間關系復雜，非線性強，因此還需結合鉆井領域知識進行特征選擇，對機理解釋尚不清晰的參數可從數據角度采用相關性分析進行優選。Spearman 相關系數能在一定程度上衡量非正態分布、非線性特征之間的相關性，符合鉆井領域數據特征［27］，在實際應用中，可由下式計算。

式中，ρ為Spearman 相關系數，其絕對值越接近1，變量之間的相關性越強；di為第i個數據對應的排序位次差值；n為數據數量。

本文采用Spearman 相關系數來計算井斜角和方位角與各參數之間的相關性，計算結果如圖1所示，可以看出，sigma 指數和dc指數的相關性較低，但二者可以在一定程度上反映地層可鉆性。另外，地層密度、自然伽馬、孔隙度相關系數也較低，但這3 種測井數據可以反映地層性質的變化，因此以上5 種參數也作為輸入特征。

圖1 Spearman 相關系數分析結果Fig.1 Results of Spearman correlation coefficient analysis

地層對井眼軌跡有著顯著影響，可總結為地層造斜力，但井下地層情況往往十分復雜，地層造斜力不僅與傾角、走向等地層自身性質有關，還與鉆頭類型、井斜方位、鉆壓等外界作用條件密切相關，使得地層造斜力至今仍難以精確表征。對于已有歷史井資料的特定區塊，傾角、走向等地層性質在一定程度上可由已鉆井歷史軌跡參數反映［8］。此外，地層分層通常是根據地層巖性、構造、沉積環境等進行劃分，可以反映地層性質的變化，也能對其進行定性表征。因此本文使用歷史軌跡參數、地質隨鉆測井參數和地層分層來表征特定區塊地層對井眼軌跡的影響。

綜上分析，最終優選出井深、垂深、井斜角、方位角、井眼曲率、鉆壓、鉆速、轉盤轉速、鉆井液密度、sigma 指數、dc指數、聲波時差、電阻率、泥質含量、地層密度、自然伽馬、孔隙度共17 種時序特征和鉆進方式、地層分層、底部鉆具組合類型3 種非時序特征。鉆進方式：造斜(滑動鉆進)、穩斜(復合鉆進)、降斜(滑動鉆進)；地層分層：J2z、J1y、chang1、chang2、chang3、chang4、chang5、chang6、chang7；底部鉆具組合類型：直螺桿鉆具、1.25°單彎雙穩螺桿鉆具、1.5°單彎單穩螺桿鉆具、旋轉導向鉆具組合。

1.3 非時序特征獨熱編碼

鉆進方式、地層分層、底部鉆具組合類型需要進行數值化處理。最廣泛使用的方法是獨熱編碼，通過“0”和“1”兩種數值來定義特征的不同取值。首先，將同一特征的所有可能取值按序排列，均用“0”填充，然后將某一時刻的真實取值定義為“1”。

獨熱編碼數值化后的特征維度取決于該特征的取值范圍。當非時序特征種類過多時，獨熱編碼后的維度會迅速增加，并且除了當前時刻取值為“1”，其余位置均為“0”。這會產生一個異常稀疏的矩陣，而稀疏矩陣會對神經網絡模型性能產生較大的影響，特別是對于RNN、LSTM 等時序性神經網絡，這可能是造成現有井眼軌跡智能預測模型未具體考慮非時序特征的原因之一。本文將在模型建立部分探討解決獨熱編碼產生的特征高維稀疏性問題的方法。

1.4 評價指標

均方根誤差RMSE可用于評估數據的波動程度，平均絕對誤差MAE則更好地反映了誤差的實際情況，最大誤差ME可以表示預測誤差的最大值。因此采用RMSE、MAE和ME作為模型評價指標，計算公式如下。

式中，yi為第i個樣本的預測值，為第i個樣本的真實值，n為樣本數。

2 模型建立

如前所述，井眼軌跡時序性和序列性特征顯著，屬于一段序列預測另一段序列的問題，因此選擇序列到序列模型框架進行建模，選擇具有記憶功能的長短期記憶網絡LSTM 作為編碼器和解碼器的模型基礎。

2.1 長短期記憶網絡LSTM 原理

LSTM 是一種循環神經網絡，通過引入門控機制來控制信息的保留與舍棄，被用來解決長序列訓練過程中的信息丟失問題，比傳統BP 神經網絡更能提取時間序列信息［28］。

2.2 序列到序列模型原理

序列到序列模型最早由Sutskever 于2014 年提出［19］，克服了循環神經網絡在多對多序列預測上的局限，解決了輸入和輸出序列長度不對等的問題，被谷歌成功應用到機器翻譯之中。該模型由編碼器(Encoder)和解碼器(Decoder)構成，模型基礎通常選擇LSTM、GRU、RNN 等循環神經網絡，輸入序列通過編碼器進行編碼，完成編碼后，編碼器會保留最后的隱藏狀態并傳遞給解碼器，該狀態經過訓練提取了輸入序列的特征信息；解碼器首先輸入一個開始信號，然后接收編碼器最后的隱藏狀態作為自己的初始狀態，經過訓練，輸出標簽y1和新的隱藏狀態，并將y1作為下一個時刻的輸入，不斷重復此過程，直至輸出結束信號標簽yT，結束預測。

2.3 整體模型結構設計

由于輸入特征包含時序和非時序兩種不同類型的數據，模型需要設計雙輸入結構：將編碼器分為時序編碼器和非時序編碼器兩部分，時序特征直接輸入時序編碼器；非時序特征先由獨熱編碼數值化，再通過嵌入層轉化為低維稠密向量輸入非時序編碼器。最后將兩部分編碼器的編碼信息合并起來，輸入解碼器逐步解碼，生成輸出序列。解碼器選擇了雙向LSTM(Bi-LSTM)神經網絡［29］，該網絡由兩個獨立的LSTM 組成，分別對應正序和逆序輸入序列，因此具備了正反雙向提取特征的能力，能夠解決步長過長而導致的前部信息遺忘問題。模型結構設計如圖2 所示。

圖2 雙輸入序列到序列模型(Di-S2S)結構Fig.2 Structure of the Di-S2S model

2.3.1 時序編碼器

時序編碼器采用LSTM 作為模型基礎。訓練方法與LSTM 模型相同，但不同之處在于需要舍棄最后時刻LSTM 單元的輸出yT，而保留隱藏狀態hT，作為解碼器LSTM 單元的初始狀態。

2.3.2 非時序編碼器

非時序編碼器在時序編碼器的基礎上加入了嵌入層(Embedding)，用以處理高維的獨熱編碼特征。鉆進方式、地層分層等非時序特征首先通過獨熱編碼數值化，此時的特征是高維稀疏的，將此高維稀疏矩陣輸入嵌入層進行降維，轉化為稠密的數字向量再輸入到LSTM 編碼單元中。對嵌入層的介紹如下。

深度學習能在圖像分割、時間序列預測、自然語言處理等領域優于其他機器學習算法，嵌入層Embedding 發揮了不可或缺的作用［30］，其本質是進行空間映射，通過模型訓練，將高維稀疏的離散變量用低維稠密向量表達，實現數據降維。圖3 為嵌入層訓練示意圖，計算公式如下。

圖3 嵌入層訓練結構Fig.3 Embedded layer training structure

式中，KN×M為獨熱編碼輸入矩陣；WM×V為嵌入層系數矩陣，由模型訓練得到；ZN×V為嵌入層輸出矩陣；N、M、V為數據維度，當M>V時，便能實現數據的降維。

在本文的具體操作中，將嵌入層的輸出維度設置為3，分別表征鉆進方式、地層分層和鉆具組合結構。嵌入層的系數矩陣可初始化為0 或1，隨著訓練的進行，系數矩陣會隨誤差反向傳播而不斷學習更新，最終訓練出鉆進方式、地層分層和鉆具組合結構的最佳數字向量表達。相比于主成分分析等其他降維方法，嵌入層的獨特優勢在于其系數矩陣能夠“嵌入”到神經網絡模型之中，隨著訓練進行而不斷更新，將信息損失降至最低，泛化性和魯棒性更強。

最終將嵌入層輸出的三維稠密向量輸入非時序編碼器的神經網絡單元進行編碼，保留隱藏狀態，作為解碼器LSTM 單元的初始狀態。

2.3.3 解碼器

將時序和非時序編碼器的最終隱藏狀態拼接作為解碼器的初始狀態，解碼器的輸入由初始狀態和上一時刻LSTM 單元的隱藏狀態決定。解碼長度設置為待預測序列長度，取預測序列的最后一個值作為模型最終輸出。

雙輸入序列到序列模型(Di-S2S)總的訓練計算公式如下。

時序編碼器：

非時序編碼器：

解碼器：

式中，Ht,time和Ht,nontime分別代表時序編碼器和非時序編碼器的隱藏狀態；Wtime、btime，Wnontime、bnontime，W′、b′分別為時序編碼器、非時序編碼器和解碼器神經網絡單元的權重矩陣和偏置向量；Kt,nontime為非時序特征獨熱編碼后的數值向量；WN×M為非時序編碼器嵌入層系數矩陣，Zt,nontime表示嵌入層輸出的稠密向量；表示解碼器神經網絡單元的初始狀態，表示解碼器神經網絡單元任一時刻的隱藏狀態。

2.4 模型實時更新機制

本文采用增量訓練［18］的方法結合滑動窗口進行實時軌跡預測。首先，使用區域歷史數據訓練出基礎模型，當實測數據更新時，在相鄰兩個實測點數據之間進行插值得到連續化軌跡參數。然后，將連續化軌跡參數和其他特征一起輸入基礎模型并使用滑動窗口讀取數據進行增量訓練，在每次迭代時更新模型權重并進行一次預測。在下一次增量訓練時，模型將以當前權重作為起點進行梯度下降尋優，具體流程見圖4。

2.5 實現過程

本文方法可分三步實現。首先是數據集建立。收集并處理鉆-測-錄井多源數據，按照時序特征和非時序特征劃分，對時序特征進行異常值檢測、缺失值填充等數據預處理，對非時序特征采用獨熱編碼數值化，完成特征優選。

其次是模型訓練。將時序特征與非時序特征分別輸入Di-S2S 模型的時序編碼器和非時序編碼器進行訓練和超參數調優。解碼序列長度設置為待預測序列長度，取最后時刻的預測值作為模型輸出。

最后是進行模型的實時更新。首先使用區域歷史井數據訓練出離線模型，并以此為基礎，通過實測數據插值連續化和增量訓練，采用滑動窗口法進行滑動訓練，實現井眼軌跡的實時預測，流程如圖5所示。

圖5 Di-S2S 模型預測井眼軌跡流程Fig.5 Workflow of well trajectory prediction by Di-S2S model

3 結果與分析

3.1 超參數優選

為了提高模型的泛化能力，采用11 口鄰井加測試井前10%井段作為訓練集，采用測試井后90%井段作為測試集。根據前期預實驗結果，選擇實測點已鉆井段上部150 m 的數據預測實測點下部15 m 未鉆井段的軌跡參數。激活函數設置為tanh，訓練批次設置為64，迭代次數設置為128。

對Di-S2S 模型網絡結構參數進行優選，具體包括：神經元數量，隱藏層數，是否雙向解碼。共設計12 種參數組合，如表1 所示。

表1 Di-S2S 模型網絡結構超參數優選Table 1 Optimal table of network hyperparameters of Di-S2S model

統一訓練64 輪，根據與實測點的均方根誤差、平均絕對誤差和最大誤差3 種評價指標進行優選。預測結果如表2 所示。

表2 不同參數下模型預測結果Table 2 Structure parameters of model network

由表2 預測結果可知，井斜角整體預測誤差低于方位角，這可能是由于本區塊不同井之間的井斜角變化趨勢相似，智能模型容易學習到井斜角變化的趨勢；而不同井之間方位角的變化可能很大，變化趨勢也不盡相同，因此預測難度比井斜角更大。此外，當模型結構偏簡單時，解碼器采用單向解碼模型性能更優，而隨著模型網絡結構不斷加深時，解碼器采用雙向解碼預測精度更高。通過對比模型表現，模型6 的井斜角和方位角預測誤差均最低，平均絕對誤差分別為0.36°和0.66°，且模型復雜度較低，因此最終選擇模型6 作為最優模型進行后續分析。

3.2 結果分析

隨機交叉選擇5 種數據集組合，利用最優模型進行軌跡參數預測，結果如表3 和圖6、圖7 所示。

表3 Di-S2S 模型在W1 井造斜段和穩斜段的預測誤差對比Table 3 Prediction errors of Di-S2S model for the buildup and hold sections of Well W1

圖6 W1 井井眼軌跡預測結果Fig.6 well trajectory prediction results of Well W1

圖7 W1 井井斜角、方位角絕對誤差隨井深分布Fig.7 Absolute error distribution of well inclination and azimuth with depth in Well W1

以W1 井為例，測試集包含造斜段和穩斜段，共3 203 m，其中實測點333 個，全井段井斜角預測值與實測值平均絕對誤差和最大誤差分別為0.23°和2.32°；方位角預測值與實測值的平均絕對誤差和最大誤差分別為0.52°和3.12°。雖然造斜段整體誤差略高于穩斜段，但平均絕對誤差相差較小?？傮w來看，造斜段和穩斜段的誤差范圍都處于較低水平，說明模型對造斜段和穩斜段均具有較好的預測效果。井斜角和方位角預測值與真實值非常接近，變化趨勢也很吻合，平均絕對誤差均小于0.6°。

在相同參數條件下分別對W1～W5 井進行預測，如表4 所示，結果表明，5 口井的井斜角和方位角與實測點的平均絕對誤差均低于1°，其中井斜角平均絕對誤差小于0.5°，證明本文提出的Di-S2S 模型具有較好的泛化性能。

表4 Di-S2S 模型對5 口井井眼軌跡預測誤差Table 4 well trajectory prediction errors of Di-S2S model for 5 wells

3.3 模型對比

為了驗證Di-S2S 模型的性能，將Di-S2S 模型與BP(時序特征按時間順序單輸入)、BP-one-hot(時序特征-非時序特征獨熱編碼雙輸入)、LSTM(時序特征單輸入)、LSTM-one-hot(時序特征-非時序特征獨熱編碼雙輸入)、LSTM-Embedding(時序特征-非時序特征獨熱編碼+嵌入層雙輸入)模型進行了對比分析。

以W1 井為例，優選各模型的最優參數組合進行對比。BP、BP-one-hot、LSTM、LSTM-one-hot 模型單層神經元數可取16、32、64，隱藏層數可取1、2、3；LSTM-Embedding 模型隱藏層數可取1、2、3，時序與非時序部分神經元數均取16、32；Di-S2S 采用3.1 節的最優參數組合。模型對比結果如表5 和圖8 所示。

表5 采用不同模型得到的井斜角、方位角預測誤差對比Table 5 Prediction errors of well inclination and azimuth of different models

根據表5 和圖8 可知，Di-S2S 模型預測的井斜角和方位角平均絕對誤差、均方根誤差最??；方位角最大誤差也最小，盡管井斜角最大誤差偏高，但在圖8(a)誤差分布圖中可以發現，Di-S2S 模型的井斜角誤差主要集中在0.5°以內，僅有8 個點超過了1°，且僅有1 個點超過了2°。綜合表現來看，Di-S2S 模型表現最優。相比之下，BP 模型井斜角預測表現較好，最大誤差僅為1.88°，但方位角預測表現較差。LSTM 模型方位角預測精度高于BP 模型，提升了33%，但井斜角精度不如BP 模型。由于井眼軌跡在井下是復雜的三維變化，井斜角和方位角預測精度同樣重要，必須統籌考慮。因此，Di-S2S 模型更適合進行現場應用。

無論是BP-one-hot 模型還是LSTM-one-hot 模型，加入獨熱編碼后的預測誤差均增大，LSTM 模型尤其敏感，如圖8 所示。對比LSTM-Embedding 模型和LSTM-one-hot 模型可以發現，使用嵌入層后，模型預測誤差顯著下降，幅度超過70%。此外，LSTM-Embedding 模型的表現還優于LSTM 模型，井斜角平均絕對誤差降低16%，方位角平均絕對誤差降低7%，這既說明了嵌入層能夠顯著改善模型的稀疏性，同時也證明了地層分層、鉆進方式和鉆具組合等非時序特征對模型性能確有提升作用，在建立智能模型時需予以考慮。

3.4 實時更新模型預測結果

以第3.1 節優選的Di-S2S 模型為基礎，采用增量訓練的方式建立了該模型的動態更新機制，預測結果和誤差分布如表6 和圖9 所示。

表6 采用離線模型與實時更新模型預測的井斜角、方位角誤差對比Table 6 Prediction errors of well inclination and azimuth of offline and real-time updating models

圖9 W1 井Di-S2S 實時更新模型絕對誤差分布Fig.9 Absolute error distribution of Di-S2S real-time updating model in Well W1

采用實時更新模型預測井斜角和方位角誤差均顯著降低，二者平均相對誤差分別為0.12%和0.13%。其中井斜角平均絕對誤差、最大誤差及均方根誤差分別為0.09°、0.55°和0.14°，較Di-S2S 離線模型分別降低61%、76%和61%；方位角的平均絕對誤差、最大誤差及均方根誤差分別為0.17°、1.79°和0.26°，較Di-S2S 離線模型分別降低67%、43%和62%。并且從圖9 可以看出，隨著訓練不斷進行，絕對誤差逐漸降低，模型對環境的適應性越來越強。

4 結論

(1)提出了一種基于雙輸入序列到序列模型的井眼軌跡智能預測方法。設計了時序特征和非時序特征雙輸入結構，通過嵌入層將高維非時序獨熱編碼特征轉化為3 維稠密向量，分別表征鉆進方式、地層分層和鉆具組合結構對軌跡參數的影響，解決了高維非時序特征造成的網絡結構稀疏問題，有效提高了井眼軌跡的預測精度。

(2)基于增量訓練構建了模型的動態更新機制，更能適應復雜多變的井下真實環境，預測精度得到了明顯提升。此外，使用GeForce RTX 3060 顯卡進行單次數據訓練僅需4 s 左右，滿足現場應用的時效性，可為井眼軌跡的實時監測/預測與控制提供一定技術基礎。

(3)模型對于地層因素的考慮還較為簡單，如何更加具體地考慮地層造斜特性，提升模型的遷移性能還有待進一步研究。此外，進一步細化底部鉆具組合的編碼形式(例如編碼穩定器個數與管柱尺寸等)，也是下一步完善模型的方向。

(4)當前考慮的非時序特征有限，未來應考慮更多非時序性特征，在大區域數據集上進行訓練和測試，以進一步驗證該方法的有效性。

致謝

中國石油大學(北京)廖勤拙副教授在本文撰寫過程中提出了寶貴的指導意見，張誠愷博士對本研究提出了誠懇的建議，在此一并表示感謝。