Rangowe modelowanie sekwencji chorób wątroby

1. Wstęp

Odkrywanie regularności w wielowymiarowych zbiorach danych lub w bazach danych jest jednym z głównych celów analizy eksploracyjnej lub metod rozpoznawania obrazów [1], [2]. Odkrywanie trendów w temporalnych bazach danych jest szczególnie interesującym problemem związanym z wieloma ważnymi zastosowaniami.

Odpowiednia standaryzacja danych jest wymagana przed stosowaniem narzędzi analizy eksploracyjnejdanych. Dane kliniczne w standaryzowanej postaci reprezentowane są jako wektory cech o tej samej wymiarowości lub jako punkty w wielowymiarowej przestrzeni cech. Poszczególne wzorce w danych są reprezentowane jako separowalne zbiory wektorów cech lub jako konstelacje punktów w przestrzeni cech.

Metody analizy regresyjnej grają znaczącą rolę w eksploracji danych [3]. Model regresyjny może opisywać zależność jednej cechy od wybranego podzbioru innych cech. Metoda regresji rangowej może być zastosowana do podobnych celów [4], [5], [6]. Modele rangowe są szczególnie użyteczne wtedy, gdy wartości cechy zależnej nie mogą być zmierzone precyzyjnie. Zamiast wartości cechy zależnej może być dostępna tylko informacja, że wartość rozpatrywanej cechy jest większa u wybranego pacjenta w porównaniu z drugim pacjentem. Na tej podstawie budowane są rangowe (porządkowe) relacje pomiędzy wektorami cech reprezentującymi wybrane pary pacjentów. Takie relacje porządkowe mogą być traktowane jako wiedza priori o wzorcach ukrytych w danych. W tym kontekście, indukcja modeli rangowych ze zbiorów danych może być traktowana jako problem rozpoznawania obrazów. Indukowane modele rangowe mogą być stosowane dla celów prognozy lub wspierania decyzji.

Metoda indukcji liniowych modeli rangowych ze zbiorów wektorów cech wraz z relacjami porządkowych pomiędzy wybranymi pacjentami została opisana we wcześniejszych publikacjach [4] [5]. Metoda ta bazuje na minimalizacji wypukłych i odcinkowo-liniowych (CPL) funkcji kryterialnych. Właściwości tej metody w kontekście analizowania przyczynowej sekwencji chorób wątroby są analizowane w prezentowanej publikacji. Wektory cech z hepatologicznej bazy danych sytemu Hepar oraz wiedza dodatkowa w postaci sekwencji przyczynowo-skutkowej chorób wątroby zostały użyte w projektowaniu liniowej transformacji rangowej [7].

2. Wektory cech oraz zorientowane dipole

Weźmy pod uwagę zbiór danych C zbudowany z m wektory cech x_j=[x_j1,...x_jn]^T które są indeksowane w ustalony sposób:

(1)

Wektory x_j należą do n-wymiarowej przestrzeni cech. F[n] (x_jF[n]). Składowa x_ji wektora x_j jest wartością liczbową pomiaru diagnostycznego i-tej cechy x_i (i=1,...,n) pacjenta O_j (j=1,...,m). Wektory cech x_j są typu mieszanego jeżeli reprezentują różnego typu pomiary diagnostyczne (x_i{0,1}) lub (x_iR)).

Niech symbol "" oznacza relację "follows" ("następuje po"), która jest spełniona wewnątrz uporządkowanych par {x_j, X_j'} (j<j') wektorów cech x_j i x_j' z indeksami z pewnego zbioru J:

(2)

Relacja x_jx_j' pomiędzy wektorami cech x_j i x_j' oznacza, że wektor x_j' następuje po wektorze x_j w pewnej sekwencji. Ta relacja powinna być określona na bazie pewnej informacji dodatkowej o zbiorze wybranych (niekoniecznie wszystkich) par wektorów cech x_j. Na przykład, lekarz może porównać dwu pacjentów i stwierdzić, że jeden z nich znajduje się w bardziej zaawansowanym stadium badanego schorzenia.

(3)

gdzie w=[w₁,...,w_n]^T jest wektorem wag.

Rodzina relacji (2) definiuje pewien wzorzec sekwencyjny S(x) wektorów x_j w przestrzeni cech F[n] (x_jF[n]).

Definicja 1: Wzorzec sekwencyjny S(x) jest liniowy w przestrzeni cech F[n] wtedy i tylko wtedy, gdy istnieje taki n-wymiarowy wektor wag w (w Rⁿ), że spełnione są poniższe implikacje:

(4)

gdzie J jest zbiorem par indeksów (j, j') uporządkowanych par wektorów cech {x_j, x_j'} (j<j').

Procedura odkrywania liniowych wzorców sekwencyjnych S(x) oraz projektowania odwzorowań rangowych może być oparta na koncepcji dipoli {x_j, x_j'} (j<j') dodatnio lub ujemnie zorientowanych [4], [5].

Definicja 2: Uporządkowana para {x_j, x_j'} (j<j') wektorów cech x_j i x_j' tworzy dodatnio zorientowany dipol {x_j, x_j'} ((j,j'J⁺), wtedy i tylko wtedy, gdy x_jx_j'.

(5)

Definicja 3: Uporządkowana para {x_j, x_j'} (j<j') wektorów cech x_j i x_j' tworzy ujemnie zorientowany dipol {x_j, x_j'} ((j,j'J^-), wtedy i tylko wtedy, gdy x_jx_j..

(6)

Definicja 4: Odwzorowanie liniowe y(w)=w^Tx (3) jest w pełni rangowe wtedy i tylko wtedy, gdy

(7)

gdzie J⁺ i J^- są zbiorami par indeksów (j, j') odpowiednio pozytywnie oraz negatywnie zorientowanych dipoli {x_j, x_j'} (j<j'), gdzie J⁺J^-=J, J⁺J^-=Ø.

3. Projektowanie modeli rangowych za pomocą minimalizacji funkcji kryterialnych typu CPL

Wprowadźmy zbiór dodatni R⁺ oraz zbiór ujemny R^- różnic wektorów cech r_jj'=(x_j'-x_j) utworzone odpowiednio na bazie zbiorów indeksów J⁺ (6) oraz J^- (7).

(8)

Interesuje nasz możliwość separacji zbiorów R⁺ i R^- za pomocą hiperpłaszczyzny H(w) przechodzącej przez początek układu współrzędnych przestrzeni cech F[n].

(9)

Definicja 5: Zbiory R⁺ i R^- (8) są separowalne przez hiperpłaszczyznę H(w) (9) wtedy i tylko wtedy, gdy zachodzą poniższe nierówności

(10)

Jeżeli wszystkie powyższe nierówności są spełnione dla pewnego wektora w, wtedy hiperpłaszczyzna H(w) (9) separuje zbiory R⁺ i R^- (8).

Lemat 1: Odwzorowanie liniowe y(w)=w^Tx (3) jest w pełni rangowe (7) wtedy i tylko wtedy, gdy hiperpłaszczyzna H(w) (9) separuje (9) zbiory R⁺ i R^-(8).

Dowód: Jeżeli hiperpłaszczyzna H(w) (9) separuje (9) zbiory R⁺ i R^- (8), to wtedy wszystkie rangowe nierówności (7) są zachowane ma prostej y(w)=w^Tx (3). Z drugiej strony, spełnienie wszystkich nierówności (7) zapewnia spełnienie relacji (10).

Projektowanie separującej hiperpłaszczyzny H(w) (9) może być oparte na minimalizacji wypukłej i odcinkowo-liniowej (CPL) funkcji kryterialnej, która jest podobna do perceptronowej funkcji kryterialnej [2]. Wprowadźmy w tym celu pozytywna φ_jj'⁺(w) i φ_jj'^- (w) negatywną funkcje kary:

(11)

(12)

Funkcja kryterialna Φ(w) jest dodatnio ważoną sumą funkcji kary φ_jj'⁺ (w) i φ_jj'^- (w):

(13)

gdzie γ_jj' (γ_jj'>0) jest dodatnim parametrem (cena) związanym z dipolem {x_j, x_j'} (j<j').

Φ(w) (13) jest wypukłą i odcinkowo-liniową (CPL) funkcją jako suma tego typu funkcji φ_jj'⁺(w) i φ_jj'^-(w). Algorytmy wymiany rozwiązań bazowych, zbliżone do programowania liniowego, pozwalają znaleźć minimum funkcji Φ(w) w sposób efektywny nawet w przypadku dużych, wielowymiarowych zbiorów R⁺ i R^- (8) [7]:

(14)

Optymalny wektor parametrów w^* oraz wartość minimalna Φ^* funkcji kryterialnej Φ(w) (13) może być stosowana w rozwiązywaniu wielu problemów rangowej analizy danych. W szczególności, wektor w^* wyznaczający najlepszą linię rangową y(w^*)=(w^*)^Tx (3) może być znaleziony w ten sposób.

Wartość minimalna Φ^* funkcji kryterialnej Φ(w) (13) może być używana jako miara stopnia liniowości wzorca sekwencyjnego (Def. 1) w danej przestrzeni cech .

Lemat 2: Wartość minimalna Φ^* funkcji kryterialnej Φ(w) (13) jest równa zeru wtedy i tylko wtedy, gdy wzorzec sekwencyjny S(x) (Def. 1) jest liniowy.

Dowód: Jeżeli istnieje taki wektor w^*, że kolejność punktów y_j(w^*) na linii y(w^*)=(w^*)^Tx  jest w pełni zgodna (7) z relacjami "", wtedy zbiory R⁺ i R^-(8) są odseparowane (10) przez hiperpłaszczyznę H(w^*) (9). W tym przypadku, wartość minimalna Φ^* funkcji Φ(w) (13) jest równa zeru jak to wynika z teorii rozpoznawania obrazów [1]. Z drugiej strony, jeżeli wartość (14) funkcji kryterialnej (13) jest równa zeru w punkcie w^*, wtedy wartości nieujemnych funkcji kary φ_jj'⁺(w) i φ_jj'^-(w)muszą być także równe zeru. To oznacza, że zbiory R⁺ i R^- (8) mogą być odseparowane (10) przez hiperpłaszczyznę H(w^*) (9). W rezultacie, kolejność punktów y_j(w^*) na linii y(w^*)=(w^*)^Tx jest w pełni zgodna (7) z relacjami ""(5) i (6).

4. Sekwencja zbiorów uczących

Załóżmy, że kliniczna baza danych zawiera opisy m pacjentów O_j(k) (j=1,...m) etykietowanych zgodnie z ich diagnozą kliniczną ω_k(k=1,...K). Każdy pacjent O_j(k) jest reprezentowany przez n-wymiarowy wektor cech x_j(k). Wektor cech x_j(k)  reprezentuje j-tego pacjenta O_j(k) przypisanego do k-tej jednostki chorobowej ω_k. Zbiór uczący C_k zawiera m_k etykietowanych wektor cech x_j(k), które zostały przypisane do k-tej jednostki chorobowej (klasy) ω_k:

(15)

gdzie I_k jest zbiorem indeksów j wektorów cech x_j(k) przypisanych do k-tej klasy ω_k.

Zbiory uczące C_k zostały uszeregowane w poniższą sekwencję przyczynowo-skutkową:

(16)

gdzie symbol "C_k-1→C_k" oznacza, że "schorzenie ω_k następuje po ω_k-1" lub "schorzenie jest przyczyną". W sekwencji (16) zostało zastosowane spójne indeksowanie zbiorów C_k oraz schorzeń ω_k. Oznacza to, że:

(17)

Relacja przyczynowa "C_k→C_k'" (17) pomiędzy zbiorami uczącymi C_k i C_k' może być użyta w celu określenia relacji "" (2) pomiędzy wektorami cech x_j(k) (x_j(k)C_k) i x_j' (k') (x_j'(k)C_k ) (15):

(18)

(19)

Zauważmy, że nie istnieje rangowa relacja "" (2) pomiędzy wektorami cech x_j(k) i x_j'(k) z tego samego zbioru uczącego C_k.

Możemy założyć, że indeksy j wektorów cech x_j(k) są spójne ze zbiorami uczącymi C_k (15). Oznacza to, że zbiór C₁ zawiera m₁ pierwszych wektorów cech x_j(k), zbiór C₂ zawiera m₂ kolejnych wektorów x_j(k), itd. W konsekwencji, zachodzi poniższa relacja spójnego indeksowania:

(20)

Lemat 3: W przypadku spójnego indeksowania (20), linia y(w)=w^Tx (3) jest w pełni rangowa (7) wtedy i tylko wtedy, gdy zbiór R⁺(8) różnic wektorów cech r_jj'=(x_j'-X_j) jest usytuowany po dodatniej stronie hiperpłaszczyzny H(w) (9):

(21)

Dowód: Relacje (19) i (20) gwarantują, że wszystkie dipole {x_j, x_j'} dodatnio zorientowane (Def. 2) oraz, że zbiór negatywny R^- (8) jest pusty (R^-=ø). W rezultacie wektor w definiuje taką hiperpłaszczyznę H(w), która separuje (10) zbiory R⁺ i R^- (8). Oznacza to, że założenia Lematu 1 są spełnione.

Załóżmy, że zbiór R⁺ (8) jest kompletny tj. zawiera wszystkie dodatnio zorientowane dipole {x_j, x_j'}, które mogą być wygenerowane z dwu zbiorów uczących C₁ i C₂ (15) zgodnie z relacją C₁→C₂ (16) i przy spójnym indeksowaniu (20)

(22)

Definicja 6: Dwa zbiory uczące C₁ i C₂ (15) są liniowo separowalne wtedy i tylko wtedy, gdy słuszne są poniższe nierówności:

(23)

gdzie θ (θR¹) jest progiem.

Powyższe parametry definiują hiperpłaszczyznę H(w,θ) w przestrzeni cech, gdzie:

(24)

Liniową separowalność (23) dwu zbiorów uczących C₁ i C₂ (15) można związać z pełną rangowością (Def. 4) odwzorowania liniowego y(w)=w^Tx (3).

Twierdzenie 1: Odwzorowanie liniowe y(w)=w^Tx (3) jest w pełni rangowe (7) zgodnie z kompletnym zbiorem R⁺ (22) wtedy i tylko wtedy, gdy istnieje taki próg θ', że hiperpłaszczyznę H(w,θ') (24) separuje dwa zbiory uczące C₁ i C₂ (15).

Dowód: Jeżeli odwzorowanie liniowe y(w)=w^Tx (3) jest w pełni rangowe (7), to

(25)

Zdefiniujmy dodatni θ⁺(w) oraz negatywny próg θ^-(w) na linii prostej y(w)=w^Tx:

(26)

(27)

(28)

Próg θ' może być zdefiniowany jak poniżej:

(29)

Można bezpośrednio zweryfikować, że hiperpłaszczyzna H(w,θ') (24) separuje zbiory uczące C₁ i C₂ (15).

Z drugiej strony, hiperpłaszczyzna H(w,θ') separującą zbiory C₁ i C₂ (15) wyznacza taką linię y(w)=w (3), która jest w pełni rangowa (7). Jak wynika z definicji liniowej separowalności (23), każdy element r_jj'= x_j'(2) - x_j(1) zbioru R⁺ (22) spełnia relację (21).

5. Przyczynowa sekwencja chorób wątroby

Baza danych systemu Hepar zawiera opisy pacjentów z przewlekłymi chorobami wątroby ω_k (k=1,...K) [7]. Wektory cech x_j z tej bazy danych są typu mieszanego, jakościowo-ilościowego. Wektory te zawierają zarówno liczbowe rezultaty testów laboratoryjnych (x_iR) jak również oznaki i symptomy danego pacjenta (x_i{0,1}). Każdy z wektorów x_j cech zawierał stałą liczbę n składowych (cech) x_i, gdzie n ≈ 200. W oparciu o wiedzę lekarzy część cech x_i została pominięta i w rezultacie wektory cech x_j(k) przypisane poszczególnym jednostkom chorobowym ω_k miały wymiarowość n=62. Wyszczególnione poniżej jednostki chorobowe ω_k zostały uwzględnione przy formowaniu siedmiu (K=7) zbiorów uczących C_k.(15) z bazy danych systemu Hepar:

Zbiory danych C_k (30) tworzą sekwencję przyczynowo-skutkową C₁→C₂→.....→C₇ (16), zgodną ze specjalistyczną wiedzą medyczną. Na bazie tej sekwencji została zbudowana relacja rangowa "" (2) pomiędzy wektorami cech (18). Taka relacja rangowa pozwoliła zarówno zdefiniować zorientowane dipole {x_j, x_j'} (5) (6) jak również zbiór dodatni R⁺ i zbiór ujemny R^- (8) różnic wektorów r_jj'(x_j'-x_j). Zbiory R⁺ i R^- zostały użyte w konstrukcji wypukłej i odcinkowo-liniowej (CPL) funkcji kryterialnej Φ(w) (13). Optymalny wektor parametrów w^* (14), tworzący minimum funkcji kryterialnej Φ(w) (13) pozwala na zdefiniowanie modelu rangowego (3), który może być używany dla celów prognostycznych:

(31)

Procedury selekcji cech pozwalają określić takie cechy x_i, które są najbardziej znaczące w prognozowaniu dalszych stanów pacjenta, oraz pominąć cechy nieistotne. Rozwiązanie problemu selekcji cech może być także oparte na minimalizacji wypukłej i odcinkowo-liniowej (CPL) funkcji kryterialnej Φ(w) (13) [7].

Model liniowy spełnia relacje rangowe (4) dla dużej części wektorów cech x_j:

(32)

W rezultacie, sekwencja przyczynowo-skutkowa (16) zbiorów uczących C_k (30) jest w dużej części zachowana przez model (31). Zgodnie z tym modelem, każdy ze zbiorów uczących C_k (30) is transformowany w zbiór C_k' punktów y_j(k) na linii rangowej :

(33)

Zbiory C_k' mogą zostać scharakteryzowane przez wartości średnie μ_k i wariancje σ_k²:

(34)

i

(35)

Rezultaty obliczeń z modelem (31) opartym na zbiorach C_k (30) są zestawione w Tabeli 1:

Tabela 1. Wartości średnie μ_k i wariancje σ_k² zbiorów C_k' (33).

(36)

gdzie α i β są parametrami skalowania.

Możemy zauważyć, że implikacje rangowe (32) nie zależą od liniowego skalowania (36) modelu.

(37)

Optymalne wartości α* i β* parametrów skalujących zostały wyznaczone przez minimalizację sumy (α,β) różnic |k-α(w^*)^Tx_j(k)+β| dla wszystkich wektorów cech x_j(k):

(38)

Zauważmy, że (α,β) jest także funkcją wypukłą i odcinkowo-liniową. Tak więc algorytmy wymiany rozwiązań bazowych mogą być zastosowane do efektywnego wyznaczenia wartości α^* i β^* tworzących minimum funkcji (α,β). Rezultaty oceny wyskalowanego modelu pokazane są w Tabeli 2 i na Rys. 1.

 Tabela 2. Wartości średnie μ_k i wariancje σ_k² zbiorów C_k' (33) otrzymanych z modelu (31) po jego skalowaniu (36) zgodnie z optymalnymi parametrami α^* i  β^*.

Rys 1: Graficzna prezentacja wartości średnich µ_k i wariancji σ_k² zbiorów C_k' (33) uzyskanych z modelu (31) po skalowaniu (36) zgodnie z optymalnymi parametrami α^* i β^*.

Liniowy model rangowy y=α^*(w^*)^Tx+β^* może być używany we wspieraniu diagnostyki nowego pacjenta x₀. Lokowanie się punktu y₀=α^*(w^*)^Tx₀+β^* na prostej rangowej (30) może dostarczyć cennych informacji diagnostycznych o pacjencie x₀. W przypadku modelu wyskalowanego (Rys. 1) możemy oczekiwać, że punkt reprezentujący nowego pacjenta x₀ z k-tej jednostki chorobowej ω_k będzie miał wartość bliską k.

5. Uwagi końcowe

Liniowy model rangowy może być indukowany ze zbiorów uczących C_k (15) na bazie dodatkowej wiedzy medycznej w postaci sekwencji przycznowo-skutkowej jednostek chorobowych ω_k (k=1,...,K). Relacja rangowa "" (2) pomiędzy wektorami cech x_j(k) z różnych zbiorów uczących. C_k i C_k' została zdefiniowana (18) na podstawie sekwencji przycznowo-skutkowej (16). Taka relacja rangowa pozwala zdefiniować zarówno zorientowane dipole {x_j, x_j'} (5) (6) jak również zbiór dodatni R⁺ i zbiór ujemny R^- (8) różnic wektorów r_jj'=(x_j'-X_j).

Zbiory R⁺ i R^- (8) zostały użyte dla celów skonstruowania wypukłej i odcinkowo-liniowej (CPL) funkcji kryterialnej Φ(w) (13). Optymalny wektor parametrów w^* (14) wyznaczający minimum funkcji Φ(w) (13) definiuje liniowy model rangowy (31), który może być użyty dla celów prognostycznych. Na przykład, na bazie modelu rangowego mogą być oparte badania przesiewowe ukierunkowane na wyodrębnienie grup pacjentów wysokiego ryzyka, których należy poddać bardziej szczegółowym badaniom diagnostycznym.

Duże znaczenie praktyczne może też mieć wyodrębnienie tych cech x_i, które miały największy wpływ na rozwój schorzeń w analizowanych grupach pacjentów. Tego typu zagadnienia mogą być rozwiązywane w ramach problemu selekcji cech przy wykorzystaniu wypukłych i odcinkowo-liniowych (CPL) funkcji kryterialnych.

Praca częściowo finansowana z projektu KBN 3T11F01130, projektu 16/St/2007 z IBIB PAN, oraz z projektu W/II/1/2007 Politechniki Białostockiej.

Bibliography