Bayes şəbəkələri: tərif, nümunələr və necə işləyirlər

Mündəricat:

Bayes şəbəkələri: tərif, nümunələr və necə işləyirlər
Bayes şəbəkələri: tərif, nümunələr və necə işləyirlər
Anonim

İnanc, qərar şəbəkəsi, Bayesian (ian) modeli və ya ehtimalla idarə olunan asiklik qrafik modeli istiqamətləndirilmiş asiklik qrafik (DAG) vasitəsilə dəyişənlər dəstini və onların şərti asılılıqlarını təmsil edən variant sxemidir (statistik modelin bir növü).).

Məsələn, Bayes şəbəkəsi xəstəliklər və simptomlar arasında ehtimal əlaqələrini təmsil edə bilər. Sonuncunu nəzərə alaraq, şəbəkə müxtəlif xəstəliklərin olma ehtimalını hesablamaq üçün istifadə edilə bilər. Aşağıdakı videoda hesablamalarla Bayes inanc şəbəkəsinin nümunəsini görə bilərsiniz.

Image
Image

Effektivlik

Effektiv alqoritmlər Bayes şəbəkələrində nəticə çıxara və öyrənə bilər. Dəyişənləri (nitq siqnalları və ya zülal ardıcıllığı kimi) modelləşdirən şəbəkələrə dinamik şəbəkələr deyilir. Qeyri-müəyyənlik altında problemləri təmsil edə və həll edə bilən Bayes şəbəkələrinin ümumiləşdirmələrinə təsir diaqramları deyilir.

Essensiya

Rəsmi olaraqBayes şəbəkələri, qovşaqları Bayes mənasında dəyişənləri təmsil edən DAG-lardır: onlar müşahidə olunan dəyərlər, gizli dəyişənlər, naməlum parametrlər və ya fərziyyələr ola bilər. Çünki çox maraqlıdır.

Bayes şəbəkəsi nümunəsi

İki hadisə otun islanmasına səbəb ola bilər: aktiv çiləyici və ya yağış. Yağış çiləyicinin istifadəsinə birbaşa təsir göstərir (yəni yağış yağanda çiləyici adətən qeyri-aktiv olur). Bu vəziyyət Bayes şəbəkəsi ilə modelləşdirilə bilər.

Tipik formula
Tipik formula

Simulyasiya

Bayes şəbəkəsi onun dəyişənləri və onların əlaqələri üçün tam model olduğu üçün onlar haqqında ehtimal sorğularına cavab vermək üçün istifadə edilə bilər. Məsələn, digər məlumatlar (sübut dəyişənləri) müşahidə edildikdə dəyişənlərin alt çoxluğunun vəziyyəti haqqında bilikləri yeniləmək üçün istifadə edilə bilər. Bu maraqlı proses ehtimalsal nəticə adlanır.

A posteriori dəyişənlərin alt çoxluğu üçün dəyərlər seçərkən kəşf tətbiqləri üçün universal kifayət qədər statistika verir. Beləliklə, bu alqoritmi mürəkkəb məsələlərə Bayes teoreminin avtomatik tətbiqi mexanizmi hesab etmək olar. Məqalədəki şəkillərdə Bayes inanc şəbəkələrinin nümunələrini görə bilərsiniz.

Praktik Bayes şəbəkəsi
Praktik Bayes şəbəkəsi

Çıxış Metodları

Ən ümumi dəqiq nəticə çıxarma üsulları bunlardır: müşahidə olunmayanı (inteqrasiya və ya toplama yolu ilə) aradan qaldıran dəyişənlərin aradan qaldırılmasıməbləği məhsula ayırmaqla sorğu olmayan parametrləri bir-bir qeyd edin.

Hesablamaları önbelleğe alan "ağac"ın yayılmasına klikləyin ki, birdən çox dəyişən sorğulana bilsin və yeni sübutlar sürətlə yayılsın; və rekursiv uyğunluq və/və ya axtarış, bu, məkan və zaman arasında uzlaşmaya imkan verir və kifayət qədər yer istifadə edildikdə dəyişənlərin aradan qaldırılmasının effektivliyinə uyğun gəlir.

Bütün bu üsullar şəbəkənin uzunluğundan eksponent olaraq asılı olan xüsusi mürəkkəbliyə malikdir. Ən ümumi təxmini nəticə çıxarma alqoritmləri mini-seqmentin aradan qaldırılması, siklik inancın yayılması, ümumiləşdirilmiş inancın yayılması və variasiya üsullarıdır.

Şəbəkələrin növləri
Şəbəkələrin növləri

Şəbəkə

Bayes şəbəkəsini tam dəqiqləşdirmək və beləliklə, birgə ehtimal paylanmasını tam şəkildə təmsil etmək üçün hər bir X node üçün X-in valideynlərinə görə X üçün ehtimal paylanmasını təyin etmək lazımdır.

Valideynləri tərəfindən şərti olaraq X-in paylanması istənilən formada ola bilər. Diskret və ya Qauss paylamaları ilə işləmək adi haldır, çünki bu, hesablamaları asanlaşdırır. Bəzən yalnız paylama məhdudiyyətləri məlum olur. Daha sonra məhdudiyyətlər nəzərə alınmaqla ən yüksək entropiyaya malik olan vahid paylanmanı müəyyən etmək üçün entropiyadan istifadə edə bilərsiniz.

Eyni şəkildə, dinamik Bayes şəbəkəsinin spesifik kontekstində latentin müvəqqəti təkamülü üçün şərti paylanmavəziyyət adətən nəzərdə tutulan təsadüfi prosesin entropiya dərəcəsini artırmaq üçün təyin edilir.

Bayes etibar şəbəkəsi
Bayes etibar şəbəkəsi

Müşahidə olunmayan dəyişənlərin mövcudluğu nəzərə alınmaqla, ehtimalı (və ya arxa ehtimalı) birbaşa maksimuma çatdırmaq çox vaxt çətin olur. Bu xüsusilə Bayesian qərarlar şəbəkəsi üçün doğrudur.

Klassik yanaşma

Bu problemə klassik yanaşma, müşahidə edilən məlumatlardan asılı olaraq müşahidə olunmayan dəyişənlərin gözlənilən dəyərlərinin hesablanmasını ümumi ehtimalın (və ya arxa dəyərin) maksimumlaşdırılması ilə əvəz edən gözləntilərin maksimumlaşdırılması alqoritmidir. dəyərlər düzgündür. Orta müntəzəmlik şəraitində bu proses parametrlərin maksimum (və ya maksimum a posteriori) dəyərlərində birləşir.

Parametrlərə daha dolğun Bayes yanaşması onları əlavə müşahidə olunmayan dəyişənlər kimi nəzərdən keçirmək və müşahidə edilən verilənləri nəzərə alaraq bütün qovşaqlar üzrə tam posterior paylanmanı hesablamaq və sonra parametrləri inteqrasiya etməkdir. Bu yanaşma bahalı ola bilər və böyük modellərlə nəticələnə bilər ki, bu da klassik parametr tənzimləmə yanaşmalarını daha əlçatan edir.

Ən sadə halda, Bayes şəbəkəsi ekspert tərəfindən müəyyən edilir və sonra nəticə çıxarmaq üçün istifadə olunur. Digər tətbiqlərdə, müəyyən etmək vəzifəsi bir insan üçün çox çətindir. Bu zaman verilənlər arasında Bayes neyron şəbəkəsinin strukturu və lokal paylanmaların parametrləri öyrənilməlidir.

Bayes şəbəkələri
Bayes şəbəkələri

Alternativ üsul

Strukturlaşdırılmış öyrənmənin alternativ metodu optimallaşdırma axtarışından istifadə edir. Bu, qiymətləndirmə funksiyasının və axtarış strategiyasının tətbiqini tələb edir. Ümumi qiymətləndirmə alqoritmi BIC və ya BDeu kimi təlim datası verilmiş strukturun arxa ehtimalıdır.

Balı maksimuma çatdıran strukturu qaytaran hərtərəfli axtarış üçün tələb olunan vaxt dəyişənlərin sayında supereksponensialdır. Yerli axtarış strategiyası struktur qiymətləndirməsini təkmilləşdirmək üçün artan dəyişikliklər edir. Fridman və onun həmkarları istənilən strukturu tapmaq üçün dəyişənlər arasında qarşılıqlı məlumatdan istifadə etməyi düşünürdülər. Onlar valideyn namizədlər dəstini k qovşaqla məhdudlaşdırır və onları hərtərəfli araşdırır.

BN-ni dəqiq öyrənmək üçün xüsusilə sürətli üsul problemi optimallaşdırma problemi kimi təsəvvür etmək və tam ədədli proqramlaşdırmadan istifadə etməklə həll etməkdir. Tam ədəd proqramına (İP) kəsici müstəvilər şəklində həll zamanı dövrilik məhdudiyyətləri əlavə edilir. Belə bir üsul 100 dəyişənə qədər problemləri həll edə bilər.

Qrafiklər və şəbəkələr
Qrafiklər və şəbəkələr

Problemin Həlli

Minlərlə dəyişənli problemləri həll etmək üçün fərqli yanaşma lazımdır. Bunlardan biri əvvəlcə bir sifariş seçmək və sonra bu sıraya görə optimal BN strukturunu tapmaqdır. Bu, mümkün sifarişin axtarış məkanında işləməyi nəzərdə tutur, bu, şəbəkə strukturlarının sahəsindən daha kiçik olduğu üçün rahatdır. Sonra bir neçə sifariş seçilir və qiymətləndirilir. Bu üsul ortaya çıxdıdəyişənlərin sayı çox olduqda ədəbiyyatda ən yaxşısı mövcuddur.

Digər üsul, MLE-lərin bağlandığı parçalana bilən modellərin alt sinfinə diqqət yetirməkdir. Sonra yüzlərlə dəyişən üçün ardıcıl struktur tapa bilərsiniz.

Məhdud eni üç sətir olan Bayes şəbəkələrinin tədqiqi dəqiq, şərh edilə bilən nəticə çıxarmaq üçün lazımdır, çünki sonuncunun ən pis mürəkkəbliyi k ağac uzunluğunda eksponensialdır (eksponensial zaman fərziyyəsinə görə). Bununla belə, qrafikin qlobal xüsusiyyəti olaraq, öyrənmə prosesinin mürəkkəbliyini xeyli artırır. Bu kontekstdə K-ağacından effektiv öyrənmə üçün istifadə edilə bilər.

Qısa şəbəkə
Qısa şəbəkə

İnkişaf

Bayes Etibar Şəbəkəsinin inkişafı çox vaxt DAG G-nin yaradılması ilə başlayır ki, X G-ə münasibətdə yerli Markov xassəsini təmin etsin. Bəzən bu səbəbli DAG olur. G-də hər bir dəyişənin ana-anaları üzərində şərti ehtimal paylanmaları qiymətləndirilir. Bir çox hallarda, xüsusən də dəyişənlər diskret olduqda, əgər X-in birgə paylanması bu şərti paylanmaların məhsuludursa, onda X-ə münasibətdə Bayes şəbəkəsinə çevrilir. G.

Markovun "düyün yorğanı" düyünlər dəstidir. Markov yorğanı qovşağı eyni adlı düyünün qalan hissəsindən müstəqil edir və onun paylanmasını hesablamaq üçün kifayət qədər bilikdir. X, G-yə münasibətdə Bayes şəbəkəsidir, əgər hər bir qovşaq şərti olaraq bütün digər qovşaqlardan müstəqildirsə, onun Markovianını nəzərə alaraq.yorğan.

Tövsiyə: