應用雙曲空間特征融合的姓名消歧方法研究

武南南，郭澤浩，趙一鳴，甄紫旭，王文俊，柳研

（1.天津大學 智能與計算學部, 天津 300354; 2.安徽大學 計算機科學與技術學院, 安徽 合肥 230039）

隨著互聯網數據的爆炸式增長，數據庫的容量與信息大量增加。由于自然語言的多義性、復雜性和模糊性，出現了許多同名不同義的信息，這使得在數據庫中迅速地查找準確信息成為了一項挑戰。比如在論文期刊搜索相關專業的研究人員最新研究工作時，會出現屬于不同學者，卻有著相同學者姓名的文獻，從而導致將不同學者所著文獻誤認為同一個人所寫，降低了搜索文獻的效率，影響了用戶的使用體驗。為了降低姓名歧義帶來的影響，國內外學者對姓名消歧進行了一系列研究。

姓名消歧是指消除跨文檔情況下的人名歧義性，把相同的人名按照現實世界的不同實體進行分類，從而把信息有效地組織和聚類后提供給用戶[1]。

目前常見的姓名消歧方法有以下幾種：部分研究人員基于數據特征進行姓名消歧[2-6]，他們使用區分度較大的特征（如人物傳記、E-mail、職業等），對特征進行提取，排除無關特征，最后選擇合適的算法（如聚類算法）得到消歧結果；而部分研究人員基于額外信息進行姓名消歧[7-9]，此類研究大多通過利用網絡上的公開資源（如維基百科、Freebase等）構建新的規則和類別，豐富人物特征，結合社會屬性進行分類達到消歧的目的；隨著網絡表示學習的興起[10-15]，部分研究人員提出使用網絡表示方法來進行重名消歧[16]，此研究使用文獻數據集構建網絡，利用學習得到網絡表示的相似性進行作者重名消歧。目前這些方法通常在歐氏空間中嵌入節點，因為歐氏空間具有直觀友好的特點，使得模型十分簡單并且運行效率可觀[17-18]。

在現實世界中，更多的網絡會同時包括多種網絡結構特征，如Lee等[19]表明大多數機器學習應用中的數據表示分布可能位于平滑流形而非歐氏空間上；Gulcehre等[20]提出的 HAT則使用龐加萊球流形（Poincaré manifold）設計了雙曲圖注意力操作。實驗證明，在低維情況下，雙曲模型相對于傳統歐氏空間模型可以更好地學習網絡表示，得到更優的節點分類和鏈接預測效果。這表明使用單一網絡表示會造成網絡表示質量的下降，從而影響網絡對齊性能。因此，本文以不同空間的網絡表示學習為切入點，提出了融合多空間特征的網絡對齊模型（geometry interaction network alignment, GINA），基于多源網絡信息，對高度重合的2個網絡中的重名人員進行身份識別，并在此基礎上細分為中文語境下的重名人員身份識別和英文語境下的中外論文身份識別2個實證場景，利用不同研究成果數據構建科研人員多源合作網絡，對重名科研人員身份進行識別。

1 GINA模型

1.1 模型結構

為了解決現有網絡對齊方法大多使用歐氏空間網絡表示學習來進行網絡對齊，不能很好地捕捉現實世界網絡中常見的層次結構信息，而僅使用雙曲空間又無法較好地區分統一層級的邊緣節點這一系列問題，本文通過不同空間的信息交互，提出了融合多空間特征的網絡對齊模型GINA。GINA的整體框架如圖1所示。

圖1 GINA模型整體框架Fig.1 Overall framework of GINA model

CINA模型主要由4個部分組成：1) 首先是多空間表示學習，給定2個輸入網絡Gs和Gt，為了同時學習網絡空間中的規則結構和層級結構特征，本模型對原始網絡在不同幾何空間上進行卷積來獲取網絡中節點的鄰居信息，得到每個節點的歐氏空間嵌入表示和雙曲空間嵌入表示。2) 由于Gs和Gt2個網絡的嵌入表示是在不同潛在空間分別學習的，空間分布會有差異，因此本模型實現了跨空間映射，將2個網絡的歐氏空間和雙曲空間的嵌入分別映射至相同幾何空間的潛在空間中。3) 基于映射之后的網絡嵌入，本模型對每個網絡的歐氏空間網絡嵌入和雙曲空間網絡嵌入進行融合，以促進2個幾何空間之間的信息交互，達到捕捉不同結構特征的目的。4) 最后，為了完成網絡對齊任務，本文使用一個多層感知機來預測任意一對來自Gs和Gt的節點對之間是否存在錨鏈接。

1.2 多空間表示學習

不同的幾何空間對不同數據的適配程度千差萬別。如歐氏空間較為平直，十分適合表示均勻規律的數據結構；而雙曲空間隨著曲率的變化，空間密度也會發生變化，越靠近邊緣空間密度越高，適合表示樹狀結構或具有一定層次關系的數據。而現實世界中的網絡數據往往同時包含多種結構特征，因此本文同時學習網絡的歐氏空間嵌入表示和雙曲空間嵌入表示來獲取不同特征。通?；诰W絡表示學習的網絡對齊方法為了使學到的網絡嵌入包含節點之間的關系和網絡的結構信息，都會以重建網絡為目標來學習網絡的嵌入表示。而雙曲空間中的網絡表示與傳統的歐氏空間方法不盡相同，因此接下來本文將分別詳細介紹歐氏空間和雙曲空間的網絡嵌入方法。

歐氏空間網絡嵌入每個網絡可以用鄰接矩陣A和節點特征矩陣X（如果節點沒有特征，可以是單位矩陣）表示，X中的每一行xi表示節點的特征。對鄰接矩陣A進行歸一化：

式中：I為單位矩陣，D∈Rn×n為對角度矩陣。

為了得到歐氏空間中的網絡結構表示，本文需要對輸入特征矩陣進行圖卷積，它遵循以下前饋傳遞：

式中：為指定層的歐氏空間參數矩陣；σ(·)為一個非線性函數，如：ReLU(·) = max(0, ·)；Zl∈Rn×d為第l層的節點嵌入矩陣，輸入層Z0=X；d為每一個節點嵌入的維度。該前饋傳遞通過歸一化后的鄰接矩陣來使每個節點獲取其鄰居節點的信息，從而學習網絡結構。

雙曲空間網絡嵌入本模型想要得到網絡在雙曲空間中的嵌入表示，但因為歐氏空間中使用的基本操作（如矩陣的加法、乘法和非線性變換）在雙曲空間中不能保持相同的性質，所以無法在雙曲空間中直接進行圖卷積。如雙曲空間的M?bius加法不能保持交換律和結合律的性質[21]。因此，一般的做法是將操作移至“切線空間”[22-23]。

由于初始節點特征屬于歐氏空間，本文首先將其映射到雙曲空間。使用o={1,0,···,0}∈Hd表示Hd中的原點，滿足〈o,(0,xi)〉L=0，本文將其用作執行切線空間操作的參考點。因此，(0,xi)可以被視為T0Hd中的一個點，將其映射至雙曲空間Hd：

式中expo是一個指數映射函數。

因此，對于給定的網絡，一個(l+ 1)層GCN在雙曲空間中生成節點嵌入矩陣的前饋傳遞為

式中：為第l層的雙曲空間參數矩陣，?為雙曲線性變換，AGG(·)為雙曲空間的鄰域聚合操作，σ?(·)為雙曲非線性激活函數。接下來本文將詳細介紹這幾個操作的定義與實現。

1）雙曲線性變換：歐氏空間的變換是通過矩陣向量乘法來實現的，因此本文利用對數和指數映射來實現雙曲流形的線性變換。即先用對數映射將雙曲空間中的點映射到切空間，然后在切空間上做線性變換，再用指數映射將切空間中的向量投影回雙曲流形：

2）雙曲鄰域聚合：在線性變換后，模型需要通過聚合來獲取鄰居的結構和特征信息。如節點vi通過權值(wj)j∈N(i)聚合來自其鄰居的信息(vj)j∈N(i)。類似于雙曲線性變換，對于給定的網絡嵌入(xiH,xHj)，本文通過將它們映射到原點的切線空間，使用連接和歐幾里德多層感知器（multilayer perceptron，MLP）計算它們之間的權重，具體計算方式為

3）雙曲非線性激活函數：本文使用非線性激活來學習非線性變換，這在GCN中很重要，可以防止多層網絡崩潰為單層網絡：

式中σ(·)為一個非線性激活函數，如ReLU(·)。

損失函數對于通過式(2)和式(4)得到的輸出嵌入，本模型通過最大化正邊的概率和最小化負邊的概率來學習網絡結構。在對輸入網絡進行負采樣后，損失函數可以定義為

式中：η(·)為計算邊(vi,vj)存在概率的歐氏空間sigmoid函數；p(hi,hj) =1/(edL(hi,hj)2-τ+1)為計算雙曲空間中存在邊的概率的函數；τ為超參數；P(v)為噪聲分布，一般P(v) ～，其中dv為節點v的度。

通過不同幾何空間的圖卷積網絡表示學習，可以分別得到網絡Gs和Gt在歐氏空間中的節點表示Zs、Zt和在雙曲空間中的節點表示Hs、Ht。

1.3 跨空間映射

由于節點的嵌入表示Zs和Zt、Hs和Ht在嵌入過程中被映射到不同的潛在空間，在語義和空間上下文方面可能會有很大的差異，網絡對齊模型的常見做法是利用已知錨鏈接集合M，通過約束錨鏈接之間的距離學習一個映射函數?(·)，使用?(·)將其中一個網絡的嵌入表示映射至另一個網絡的空間分布中，如圖2所示。由于本模型分別學習了歐氏空間和雙曲空間的網絡嵌入表示，為了降低模型映射損失，本文對歐氏空間嵌入Zs和Zt使用歐氏空間映射，對雙曲空間嵌入Hs和Ht使用雙曲空間映射，將其分別映射至相同的潛在空間。

圖2 跨空間映射Fig.2 Cross-space mapping

對于Zs和Zt，本方法固定其中一個網絡嵌入Zt并且通過學習一個映射函數?E(·)將另一個網絡嵌入Zs映射至和Zt相同的空間，映射函數通過使用已知的錨鏈接∈M進行約束得到：

式中：‖·‖F為2個網絡嵌入表示之間的歐氏空間距離矩陣，ΓE為?E(·)的參數。

同理，本文固定Ht并將Hs映射至Ht相同的空間。不同的是，對于雙曲空間網絡嵌入需要使用雙曲空間映射函數?H(·)。雙曲空間映射函數類似于式(4)，并且同樣通過錨鏈接約束，利用雙曲空間的距離函數dL得到，具體公式為

整合2個空間的損失函數可以得到跨空間映射的整體損失函數：

該步驟通過最小化錨鏈接之間的距離，使學習出的4個網絡表示盡可能地在各自空間擁有相同的分布和語義。

1.4 跨空間融合

在得到分布映射后的多空間嵌入表示Zs、Zt和Hs、Ht后，為了同時獲取到歐氏空間和雙曲空間嵌入網絡結構表示的特點，本模型對不同幾何空間的嵌入表示進行融合。由于雙曲空間的嵌入表示并不能直接與歐氏空間的嵌入表示進行交互，需要將不同空間的嵌入表示進行幾何空間映射，而歐氏空間映射至雙曲空間會產生較大的信息損失，因此本文采用將雙曲空間嵌入表示利用對數映 射映射至切線空間的方式進行空間融合。具體來說，本文分別融合了從歐氏空間和雙曲空間中學習到的Gs和Gt的信息：

本文在其中添加了一個超參數，即融合空間系數λ來控制不同幾何空間的構成重要程度。在特征融合之后，節點嵌入不僅通過交互學習整合不同空間的幾何特征，而且會保持原始空間的屬性和結構信息。因此，本模型就可以得到包含規則結構特征和層級結構特征的2個網絡的最終網絡嵌入表示S和T。

1.5 錨鏈接預測

式中：Na()和Na()分別為和鄰居中的已知錨節點，N()和N()分別為和的鄰居。因此，直觀來說sim(·, ·)可以用來衡量和可能是相應錨節點的概率，通過篩選節點間的sim即可對訓練節點進行補充。該規則遵循一個直觀的假設，即如果不同網絡中的2個節點共享更多的公共節點作為它們的鄰居，那么它們很有可能成為潛在的錨節點。

在數據補償后，本文利用一個多層感知機來構造判別器：

式中：[· || ·]為嵌入的串聯，W和b為可訓練參數，為潛在錨鏈接集。在判別器中輸入節點對的嵌入信息，就可以得到二分類概率，即該節點對是否為錨鏈接。本文使用已知的錨鏈接集M和交叉熵作為損失函數來訓練此判別器，訓練完成后輸入待預測節點對的網絡嵌入就可以得到網絡對齊的最終預測結果。

2 實驗與結果

2.1 數據集描述

2.1.1 項目論文數據集與學位論文數據集

論文數據由自然科學基金項目成果論文數據和高校學位論文數據組成。自然科學基金項目成果論文數據爬取于國家自然科學基金基礎研究知識庫，由2000—2020年間包含2 052所高校及各類研究機構的763 311篇中外論文數據構成，其中包括中文論文335 140篇，英文論文428 171篇。

中文學位論文數據爬取自萬方數據網，時間跨度為1980—2020年，涉及全國2 740所高校共計2 258 597條記錄。

2.1.2 專利數據集

專利數據由高校中文專利數據和企業中文專利數據組成，數據均爬取自萬方數據網。本文主要使用高校中文專利數據，數據時間跨度為1985—2020年，涵蓋了全國2 740所高校共計4 206 687條記錄。

2.2 數據預處理

本文對上述3個數據集進行數據清洗，對無效數據進行處理，如爬取字段為空、數據間夾雜額外符號以及部分不完整數據等情況，并對分隔符與存儲方式等格式進行統一。

而后本文對論文數據依照語言環境進行劃分，由于實證場景需要，本文將自然科學基金項目論文數據中的中文論文與英文論文進行篩選分離，同時將學位論文數據與自然科學基金項目中文論文數據合并。由此本文將上述數據重新分為3組：學位論文數據與自然科學基金項目中文論文數據、自然科學基金項目英文論文數據、高校中文專利數據，并將3組數據各自整理為相同的格式以便于構建網絡使用。

2.3 網絡構建

基于2.2節處理的數據集，本文針對實證場景構建了中文論文合作網絡、英文論文合作網絡和中文專利合作網絡等3個網絡。接下來本節將詳細介紹這3個網絡的構建流程。

2.3.1 中文論文網絡與英文論文網絡構建

本文基于第1組學位論文數據與自然科學基金項目中文論文數據構建中文論文合作網絡Gzh。本文構建網絡均為無向圖，構建規則遵循：

1）在項目論文中，本文以論文作者為節點，論文合作關系為邊，其中節點屬性為成果數量、所屬機構、學科大類、專業等，邊屬性為合作關系以及合作次數。

2）在學位論文中，本文以論文作者及其導師為節點，指導關系為邊，與項目論文共同構建網絡，網絡屬性與項目論文一致。

3）由于重名現象十分廣泛，本文構建的所有網絡均以姓名、機構以及學科共同確定一個人員實體。

通過上述規則，本文構建出中文論文合作網絡Gzh，包含3 144 640個作者節點及4 660 835條合作邊。

本文基于第2組自然科學基金項目英文論文數據構建英文論文合作網絡Gen，基本規則與中文項目論文類似，區別在于本文統一將英文姓名處理為全小寫名+姓的形式，便于人員實體定位。

通過類似規則，本文構建出英文論文合作網絡Gen，包含1 300 145個作者節點及6 506 572條合作邊。

2.3.2 專利網絡構建

本文基于第3組高校中文專利數據構建中文專利合作網絡GP-zh，構建規則與中文論文合作網絡類似，以發明人為節點，發明合作關系為邊，其中節點屬性為發明數量、所屬機構（專利權人）、專利分類等，邊屬性為合作關系及合作次數。

通過上述規則，本文構建出中文專利合作網絡GP-zh，包含2 453 313個作者節點及13 248 894條合作邊。

2.3.3 基于網絡對齊構建實驗數據集

本文在中文論文合作網絡、英文論文合作網絡和中文專利合作網絡的基礎上，根據實證需求，構建了2個網絡對齊數據集。表1總結了數據集的信息。

表1 網絡對齊數據集的描述Table 1 Description of network alignment datasets

構建論文—專利網絡論文-專利網絡使用北京市區域的合作網絡。經過區域劃分和篩選并利用人員實體構建錨鏈接后，本文得到了由北京中文論文合作網絡和北京中文專利合作網絡構成的網絡對齊數據集。該網絡對齊數據集中2個網絡分別包含45 976個節點、134 069條邊和76 120個節點、404 211條邊，同時該數據集包含18 965個錨鏈接，其中7 914個錨鏈接連接的節點為重名人員，部分網絡可視化如圖3所示，其中上半部分為中文論文合作網絡，下半部分為中文專利合作網絡。

圖3 論文—專利實證網絡對齊Fig.3 Paper-patent network alignment

構建中文—英文網絡中文-英文網絡使用北京市的中文論文合作網絡和英文論文合作網絡構建網絡對齊數據集。通過劃分整理，得到的數據集中2個網絡分別包含45 976個節點、134 069條邊和94 874個節點、864 988條邊。在進行構建錨鏈接時，本文先將中文姓名轉換為與英文論文中姓名格式相同的拼音。在轉換過程中本文發現，有2 193個節點出現了拼音重名的現象，常見于“張偉”和“張薇”等姓名，因此本文在節點屬性中標注出該節點原有中文名以用于區分。

在轉換后，該數據集包含17 222個錨鏈接，其中10 204個錨鏈接連接的節點為重名人員，部分網絡可視化如圖4所示，其中上半部分為中文論文合作網絡，下半部分為英文論文合作網絡。

圖4 中文—英文實證網絡對齊Fig.4 Chinese-English network alignment

2.4 實證方案

針對真實世界人員身份識別這一場景，本文提出了2種實證方案：1)基于中文論文合作網絡和中文專利合作網絡的網絡對齊來探究中文語境下不同網絡中的身份識別問題；2)基于中文論文合作網絡和英文論文合作網絡的網絡對齊來探究英文語境下同屬性網絡中的中英文身份識別問題。接下來本文將分別介紹這2種實證方案。

2.4.1 重名人員身份識別

針對重名人員身份識別這一實證場景，本文利用中文論文合作網絡和中文專利合作網絡構建了一組網絡對齊數據集，并在該數據集上使用本文提出的方法進行實驗，探究網絡對齊在中文重名人員身份識別中的效果。

本場景實驗主要流程如下：首先將輸入數據整理為鄰接矩陣的形式，將數據輸入模型訓練，利用訓練結果進行網絡對齊。為了避免屬性對重名人員網絡對齊的影響，本實驗在訓練時將不使用屬性信息。本文將錨鏈接通過是否重名進行劃分，無重名人員作為訓練集，重名人員作為測試集使用。為了驗證重名人員身份識別效果，在錨鏈接預測時本文對同一姓名的多個節點進行采樣，即采樣錨節點為正樣本、除錨節點外其他同名節點為負樣本。

2.4.2 中外論文身份識別

針對中外論文身份識別這一實證場景，本文利用中文論文合作網絡和英文論文合作網絡構建了一組網絡對齊數據集，并在該數據集上使用本文提出的方法進行實驗，探究網絡對齊對中英文重名人員身份識別的效果。

本節實驗流程與2.4.1幾乎完全相同，對錨鏈接依照是否重名進行劃分采樣，同時使用不同λ進行對比實驗。唯一的區別是在錨鏈接預測時，本節使用的是拼音相同的節點采樣。

2.5 實驗結果分析

2.5.1 重名人員身份識別實驗結果分析

經過實驗，本文得到了2種參數下GINA在整體數據和部分常見重名姓名上的實驗指標，如圖5所示?？梢钥吹?，本文模型在僅使用歐氏空間網絡表示（λ= 0）進行網絡對齊時效果較差，而融合多空間特征（λ= 0.5）的情況下不僅在整體數據上準確率提高了27.2%，在常見姓名上也有不錯的表現。并且融合多空間特征網絡對齊可以精準地對在層次結構中處于不同層次的人員實體進行區分，如本實驗將同名的來自北京航空航天大學的王同學，來自北京交通大學的王老師和來自清華大學的王教授，在另一個網絡中的數十個同名人員中精確地匹配到了對應實體。

圖5 論文—專利實證網絡對齊結果Fig.5 Result of paper-patent network alignment

同時本文對重名較多的姓名“張某”進行了可視化分析，給出了熱度圖對比實驗結果，如圖6所示。圖6中橫坐標為中文論文合作網絡中該姓名的不同人員實體，縱坐標為中文專利合作網絡中該姓名的不同人員實體，熱度圖中的小方塊顏色代表該橫縱坐標對應2個人員實體的預測值，顏色越深代表該2個人員為同一實體的概率更高。由于熱度圖橫縱坐標的人員排列順序是一致的，因此在熱度圖上對角線的方塊顏色越深則證明網絡對齊的效果越好。其中圖6(a)為融合多空間特征網絡對齊（λ= 0.5），圖6(b)僅使用歐氏空間網絡對齊（λ= 0），可以明顯看到λ= 0時對角線顏色雖然略深，但與其他節點區分度較小，混淆節點偏多；而λ= 0.5時對角線十分清晰，顏色區分度較高，且混淆節點較少，證明了融合多空間特征網絡對齊對處于不同層級的人員實體具有較好的區分能力。

在進行細化探究時本文還發現，數據中有部分定義為不同實體的用戶，在網絡對齊結果中擁有較高的錨鏈接預測概率。研究發現該現象可能為如下2種原因造成：

1)該實體同時掛名于不同機構，如北京郵電大學的劉某，與同名的來自某電力公司技術研究院的劉某在實驗中的錨鏈接預測概率為83.2%，經調查發現其二人為同一人員實體，在學術研究過程中由于身兼數職或學術合作而掛名至其他機構。

2)該實體由于畢業晉升等原因轉換身份，如首都醫科大學的張某和首都醫科大學附屬北京世紀壇醫院的張某在實驗中的錨鏈接預測概率為72.5%，調查發現其二人也為同一人員實體。此種現象在醫學領域尤其顯著，因為在其他領域工作的畢業生大部分不會再以研究人員的身份出現。

根據上述規律，本文對其余預測為錨鏈接的負樣本進行了簡單篩查，共找到121名具有上述2種情況的研究人員。因此本文認為，網絡對齊在身份識別領域有著十分重要的作用，可以很大程度上消除數據歧義；同時網絡對齊還可以幫助識別隨時間變化的身份，從而追蹤科研人員的職業發展路徑。

2.5.2 中外論文身份識別實驗結果分析

經過實驗，實驗結果如圖7所示，圖7中展示了2種λ參數下GINA在整體數據和部分常見重名姓名上的對齊準確率等指標。由圖7可知，融合多空間特征（λ= 0.5）的GINA模型在整體數據上比單一空間準確率提高了24.9%?？梢钥吹?，雖然為了對齊英文數據集需要將漢字轉換為拼音，增加了重名人員數量，提高了對齊難度，如同樣來自北京科技大學的王某和汪某均出現在2個網絡中，但本文方法依然可以在融合多空間特征時準確地對其進行識別。

同時本文對中文-英文實證網絡中重名較多的“Wang某”使用熱力圖進行了可視化分析，其中圖8(a)為融合多空間特征網絡對齊（λ=0.5），圖8(b)僅使用歐氏空間網絡對齊（λ= 0）?？梢钥吹浇Y果與上一節類似，λ= 0時節點間區分度較低，對應節點預測準確率較差；λ= 0.5時對應節點預測值與非對應節點區分明顯，對應節點預測準確率提升明顯。

圖8 中文—英文實證網絡對齊熱力圖Fig.8 Heatmap of Chinese-English network alignment

3 結束語

本文基于網絡表示學習的相關研究，提出了融合雙曲空間和歐氏空間特征的網絡對齊模型GINA。提出重名人員身份識別和中外論文身份識別2個實證場景，并在構建的中文論文合作網絡、中文專利合作網絡和英文論文合作網絡的基礎上，兩兩對齊分別構建了中文語境和英文語境的網絡對齊數據集，使用GINA模型在2個場景上進行實驗驗證。通過對數據的分析和對實驗結果的探究，證明了網絡對齊可以幫助姓名消歧和身份識別，也證明了實證場景的有效性以及本文模型的適用性。