مدل مخفی مارکوف و بهترین الگوریتمهای آموزش ( نسخه کامل و آپدیت شده )
مدل مخفی مارکوف و بهترین الگوریتمهای آموزش ( نسخه کامل و آپدیت شده )
مدلهای آماری
مدل پنهان مارکوف
مدلسازی سیگنال
معماری مدل پنهان مارکوف
مدل مخفی مارکوف
مدل مخفی مارکوف و الگوریتمهای آموزش
کاربرد مدل مخفی مارکوف
مدل مخفی مارکوف و بهترین الگوریتمهای آموزش
(نسخه کامل و آپدیت شده)
Hidden Markov Model and Training Algorithms
چکیده:
یکی از مسائلی که در پردازش سیگنال توجهات را به خود معطوف نموده است، مدلسازی سیگنال است. انتخابهای مختلفی برای مدل کردن سیگنال و خصوصیات آن وجود دارد. از یک دیدگاه می توان مدلهای سیگنال را به دو دسته مدلهای معین و مدلهای آماری تقسیم بندی نمود. مدلهای معین عمدتا برخی خواص شناخته شده سیگنال را مورد استفاده قرار می دهند. در این حالت تشکیل مدل سیگنال سرراست است و تنها کافی ست مقادیر پارامترهای مدل تخمین زده شود. در مدلهای آماری سعی در ایجاد مدل با استفاده از خواص آماری سیگنال است.
مدلهای گاوسی، زنجیره مارکوف و مدل مخفی مارکوف از جمله این روشها هستند. فرض اساسی در مدلهای آماری این است که می توان خواص سیگنال را به شکل یک فرآیند تصادفی پارامتری مدل نمود. مدل مخفی مارکوف در اواخر دهه 1960 میلادی معرفی گردید و در حال حاضر به سرعت در حال گسترش دامنه کاربردها می باشد. دو دلیل مهم برای این مساله وجود دارد. اول اینکه این مدل از لحاظ ساختار ریاضی بسیار قدرتمند است و به همین دلیل مبانی نظری بسیاری از کاربردها را شکل داده است. دوم اینکه مدل مخفی مارکوف اگر به صورت مناسبی ایجاد شود می تواند برای کاربردهای بسیاری مورد استفاده قرار گیرد.
کلمات کلیدی:
مدلهای آماری
مدل پنهان مارکوف
مدلسازی سیگنال
معماری مدل پنهان مارکوف
مقدمه
مدل پنهان مارکوف ( Hidden Markov Model) یک مدل مارکوف آماری است که در آن سیستم مدل شده به صورت یک فرایند مارکوف با حالت‌های مشاهده نشده (پنهان) فرض می‌شود. یک مدل پنهان مارکوف می‌تواند به عنوان ساده‌ترین شبکه بیزی پویا در نظر گرفته شود.در مدل عادی مارکوف، حالت به طور مستقیم توسط ناظر قابل مشاهده‌است و بنابراین احتمال‌های انتقال بین حالت‌ها تنها پارامترهای موجود است. در یک مدل پنهان مارکوف، حالت به‌طور مستقیم قابل مشاهده نیست، اما خروجی، بسته به حالت، قابل مشاهده‌است. هر حالت یک توزیع احتمال روی سمبل‌های خروجی ممکن دارد. بنابراین دنبالهٔ سمبل‌های تولید شده توسط یک مدل پنهان مارکوف اطلاعاتی دربارهٔ دنبالهٔ حالت‌ها می‌دهد.
توجه داشته باشید که صفت ‘پنهان’ به دنبالهٔ حالت‌هایی که مدل از آنها عبور می‌کند اشاره دارد، نه به پارامترهای مدل؛ حتی اگر پارامترهای مدل به‌طور دقیق مشخص باشند، مدل همچنان ‘پنهان’ است.مدلهای پنهان مارکوف بیشتر به‌دلیل کاربردشان در بازشناخت الگو، مانند تشخیص صدا و دست‌خط، تشخیص اشاره و حرکت، برچسب‌گذاری اجزای سخن، بیوانفورماتیک و… شناخته‌شده هستند.
مدل پنهان مارکوف در حالت گسسته جز خانوادهٔ مسائل ظرف‌ها قرار می‌گیرد. به طور مثال از ربینر ۱۹۸۹: ظروف x1،x2،x3… و توپهای رنگی y1,y2,y3… را در نظر می‌گیریم، که نفر مقابل دنباله‌ای از توپ‌ها را مشاهده کرده ولی اطلاعی از دنبالهٔ ظرف‌هایی که توپ‌ها از آنها انتخاب‌شده ندارد. ظرف n ام با احتمالی وابسته به ظرف n-1 ام انتخاب می‌شود و چون به انتخاب ظرف‌های خیلی قبل‌تر وابسته نیست یک فرایند مارکوف است.
فهرست مطالب
چکیده: 3
کلمات کلیدی: 4
شرح ازنظر مسائل ظرف‌ها 5
معماری مدل پنهان مارکوف 5
شکل 1 : 6
زیر معماری کلی یک نمونه HMM 6
مسایلی که به کمک مدل پنهان مارکوف حل می‌شود 6
حل مسایل 7
Annotation: 7
classification: 7
Consensus: 7
Training 7
یادگیری 8
یک مثال ملموس 8
شکل 2 : 10
کاربردهای مدل پنهان مارکوف 11
تشخیص گفتار 11
ترجمه ی ماشینی 11
پیش بینی ژن 11
هم‌تراز کردن توالی 11
تشخیص فعالیت 11
تاشدگی پروتئین 11
تشخیص چهره 11
تاریخچه 11
انواع مدل پنهان مارکوف 11
فرایند مارکوف گسسته 12
شکل 3 : 12
مرتبه مدل مارکوف 13
1- مدل مارکوف مرتبه صفر 14
2- مدل مارکوف مرتبه اول 14
3- مدل مارکوف مرتبه m ام 14
شکل چهار: 15
مدل مارکوف مرتبه اول برای مثال 2 15
شکل 5 : 16
خروجی مثال 2 16
مدل مخفی مارکوف (HMM) 16
انواع مدلهای مخفی مارکوف و HMM پیوسته 19
مدل مخلوط گاوسی 21
فرضیات تئوری مدل مخفی مارکوف 22
مساله ارزیابی و الگوریتم پیشرو (forward) 24
شکل 6 : مساله ارزیابی و الگوریتم پیشرو 25
مساله کد گشایی و الگوریتم ویتربی (Viterbi Algorithm) 27
مساله یادگیری 28
معیار بیشترین شباهت((Maximum Likelihood (ML) 29
الگوریتم بام- ولش 29
الگوریتم حداکثر سازی امید ریاضی (Expectation Maximization) 31
روش مبتنی بر گرادیان 32
استفاده از مدل HMM در شناسایی گفتار 33
استفاده از HMM در شناسایی کلمات جداگانه 34
آموزش 35
شناسایی 35
منابع 37