AAAI 2024 | 基于關系感知異構圖Transformer的用于藥物-藥物相互作用預測的雙通道學習框架

doctorwangfovn 2024-09-02 發布于山東

展開全文

今天給大家介紹發表在AAAI 2024上的一篇論文：

Dual-Channel Learning Framework for Drug-Drug Interaction Prediction via Relation-Aware Heterogeneous Graph Transformer

01 前言

近年來，基于網絡的藥物-藥物相互作用（DDI）預測技術主要集中于分析DDI相關網絡的局部結構，但往往忽視了藥物節點之間間接連接的重要性，這種整體視角的缺失可能導致預測精度的下降。此外，處理生物醫學知識圖譜和藥物分子圖中存在的異構信息仍然是提升DDI預測性能的一個主要挑戰。為了克服這些限制，本研究提出了一種基于Transformer的關系感知圖表示學習框架TIGER。該框架能夠有效地學習異構圖中的長距離依賴和高階結構，并捕捉節點對之間多樣化的語義關系。TIGER利用雙通道網絡整合藥物分子圖和生物醫學知識圖的信息，顯著提高了DDI預測的準確性。實驗結果表明，TIGER在多個數據集上的表現優于現有方法，展示了其在DDI預測任務中的有效性。

02 方法

識別新型藥物-藥物相互作用（DDI）在藥理學中具有重要意義，因為藥物之間的相互作用可能會帶來嚴重的醫療風險。近年來，已經提出了多種基于網絡的技術來預測DDI，但這些方法大多關注網絡內部的局部結構，常常忽視藥物節點之間間接連接的整體視角。此外，有效處理生物醫學知識圖譜和藥物分子圖中的異構信息仍然是提升DDI預測性能的關鍵挑戰。為了解決這些問題，本文提出了一種基于Transformer的關系感知圖表示學習框架（TIGER）用于DDI預測。TIGER利用Transformer架構的優勢，有效地捕捉異構圖中的長距離依賴和高階結構。

TIGER模型分為三個部分：數據收集和處理、關系感知異構圖Transformer和DDI預測。如下圖1所示即為TIGER模型的基本框架結構。

圖1 TIGER整體框架圖

2.1 數據處理

TIGER模型使用生物醫學知識圖譜（BKG）和藥物分子圖作為輸入。對于BKG，作者采用了三種提取子圖的方法，分別是基于k-子樹的提取器、基于DeepWalk的提取器和基于概率的提取器。這些方法可以有效地提取出與藥物相互作用相關的重要信息，保證模型在處理不同類型的網絡時具有良好的魯棒性。

2.2 關系感知異構圖Transformer

自注意力機制是Transformer架構的核心組件，能夠有效地捕捉序列中的長距離依賴關系。然而，傳統的自注意力機制主要關注位置信息，忽視了節點對之間不同類型關系的特性。此外，遠程節點之間通常缺乏顯式關系，且一個節點對可以具有多種關系。為了應對這些挑戰，作者在TIGER中引入了關系感知自注意力機制：（1）通過最短路徑距離來建立遠距離節點之間的關系；（2）將每種關系視為一條獨特的邊，解決多重關系的問題。首先，通過將節點度嵌入與節點嵌入相加，為每個節點特征中加入節點度的位置嵌入，以獲得初始節點特征。

x_v^{(0)}=x_v z_{\operatorname{deg}(v)}, \forall v \in V

關系感知自注意力計算公式如下：

\operatorname{RAttn}\left(x_v\right)=\sum_{u \in V} \frac{\sum_{c \in C} f\left(x_v, x_u, r_{v \Leftrightarrow u}^c\right)}{\sum_{w \in V} \sum_{c \in C} f\left(x_v, x_w, r_{v \Leftrightarrow w}^c\right)} \phi\left(x_u\right)

2.3 DDI預測

將兩個藥物的表示拼接并輸入MLP以預測鏈接預測分數:

p_{i j}=\operatorname{MLP}\left(h_i \| h_j\right)

在完成特征提取后，TIGER將兩個藥物的表示拼接并輸入到多層感知器（MLP）中，以預測鏈接預測分數。所有DDI對的交叉熵損失表示為：

\mathcal{L}_{\text {label }}=-\sum_{(i, j) \in Y} y_{i j} \log \left(p_{i j}\right) \left(1-y_{i j}\right) \log \left(1-p_{i j}\right)

為了確保獲得鑒別的藥物雙通道表示，在藥物雙通道表示hi上使用了Jensen-Shannon (JS)互信息(MI)估計器，并使用二元交叉熵損失：

\mathcal{L}_{M I}^{h g}=\frac{1}{n n_{\text {neg }}}\left(\sum_{i \in D}^n \log \left(\mathcal{D}\left(h_i, g_i\right) \sum_{k \in D}^{n_{\text {neg }}} \log \left(\mathcal{D}\left(h_i, \tilde{g_k}\right)\right)\right)\right)

TIGER模型的最終目標函數為：

\mathcal{L}=\mathcal{L}_{\text {label }} \beta_1 \mathcal{L}_{M I}^{h g} \beta_2 \mathcal{L}_{M I}^{h s}

03 實驗

3.1 對比實驗

為了驗證TIGER的有效性，作者選取了三種類型的基線方法進行對比實驗，包括基于分子圖的方法（如SSI-DDI、Molormer）、基于生物醫學知識圖譜的方法（如KGNN、KG2ECapsule）以及基于多層次的方法（如Bi-GNN、MIRACLE和MDDNN）。同時，作者比較了三種子圖提取方法的性能。實驗結果顯示：(i) 在處理低密度數據集時，基于概率的提取器（PageRank）效果較好；(ii) 對于密集數據集，基于DeepWalk的提取器表現更佳；(iii) 基于k-子樹的提取器在不同類型的網絡中展現出良好的魯棒性，盡管可能會導致一定的精度損失。具體結果見表1。

表1 不同模型的性能對比

3.2 消融實驗

為了進一步驗證知識圖譜和分子圖對模型預測的互補信息，作者進行了消融實驗。結果顯示，生物醫學知識圖譜（BKG）對DDI預測任務的貢獻更大，同時使用BKG和分子圖能夠使模型獲得最佳性能。如下圖2所示，消融實驗結果表明，結合兩種數據源的信息可以顯著提升模型的預測準確性。

圖2 消融對比

04 結論

本文介紹了一種新型的雙通道關系感知圖轉換模型TIGER，旨在預測藥物-藥物相互作用（DDI）。TIGER通過聯合表示學習藥物分子圖和生物醫學知識圖譜，能夠有效捕捉長距離依賴和高階結構，這對于準確的DDI預測至關重要。此外，TIGER在處理圖中的多種關系方面表現出色，為DDI預測提供了有價值的見解，增強了對藥物相互作用背后復雜生物系統的理解。通過大量實驗驗證，TIGER在多個真實數據集上的表現優于現有方法，展示了其在DDI預測任務中的有效性和潛力。

論文鏈接：

https://ojs./index.php/AAAI/article/view/27777

供稿：寧梓維

審核：李洋

排版：王天賜寧梓維