Posts

Showing posts from November, 2021

Understanding the Bias-Variance Tradeoff

Image
  Understanding the Bias-Variance Tradeoff Prediction လို့ပြောလိုက်တာနဲ့ Bias နဲ့ Variance တို့က တွဲပြီးပါလာပါတယ်။ Prediction Error တွေကို အကောင်းဆုံးကိုင်တွယ်နိုင်ဖို့ကတော့ Bias နဲ့ Variance ကိုသေသေချာချာ လိုတိုးပိုလျော့ (Tradeoff) လုပ်တတ်ဖို့ပါပဲ။ ဒီလိုလုပ်တတ်သွားမယ်ဆိုရင်တော့ Overfitting နဲ့ Underfitting Error တွေကို ကောင်းကောင်း ကြီးကိုင်တွယ်လာနိုင်မှာပါ။ Let's GO !! Bias and Variance ဆက်စပ်ပုံ Bias ဆိုတာဘာလဲ Bias ဆိုတာဗျာ ကျွန်တော်တို့ရဲ့ model က တစ်ခုခုကို predict လုပ်လိုက်တယ်ဆိုရင် ခန့်မှန်းပီးထွက်လာတဲ့ အဖြေနဲ့ ရှိပြီးသား အဖြေမှန် နှစ်ခုကို တိုက်ကြည့်လို့ ရလာတဲ့ ကွာခြားချက်ကို ဆိုလိုတာဖြစ်ပါတယ်။ High Bias ဖြစ်မယ်ဆိုရင် ကိုယ့်ရဲ့ model က oversimplify အလုပ်ခံရပြီးတော့ Underfit ဖြစ်သွားပါတယ်။ Variance ဆိုတာဘာလဲ Variance ဆိုတာက ကျွန်တော်တို့  predict ပြီးထွက်လာတဲ့ အဖြေက variable ဖြစ်နေတာကိုဆိုလာတာဖြစ်ပါတယ်။ variable ဖြစ်နေတာကို ဘယ်လိုပြောရမလဲဆိုရင်.. အမ် .. data တွေက ပြန့်ကျဲနေတာလို့ပြောရမှာ။  High Variance ဖြစ်နေမယ်ဆိုရင် ဘာကိုတွေ့ရမလဲဆိုတော့ ကိုယ့် ထည့်လိုက်တဲ့ တခါမှမမြင်ဖူးတဲ

Activation Function များအကြောင်း

Image
  Activation Function များအကြောင်း Activation Function တွေကို Transfer Function လို့လည်းခေါ်ကြပါတယ်။ Activation Function တွေကို Neural Network တွေမှာ Node တစ်ခုရဲ့ output ကိုရယူလိုတဲ့ အခါမှာသုံးကြပါတယ်။ Node တွေရဲ့ output ဟာ Activation Function တွေရဲ့ input မဟုတ်လား။ Neural Network တွေမှာ ဘာလို့ activation function ကိုသုံးတာလဲ Network တွေကနေ ထွက်လာတဲ့ output value တွေကို ဒါကကိုလိုချင်တဲ့ ပုံစံဟုတ်လားမဟုတ်လား စီစစ်တာမျိုးတွေမှာသုံးပါတယ်။ ထွက်လာတဲ့ value တွေကို 0 နဲ့ 1 ကြားထဲကတန်ဖိုးအဖြစ် ပြောင်းလဲလိုက်တာမျိုး၊ တခါတလေ positive value ပဲလိုချင်လို့ပြောင်းပစ်လိုက်တာမျိုး၊ -1 နဲ့ 1 ကြားပဲလိုချင်လို့ ပြောင်းလဲတာမျိုးတွေ အစသဖြင့် အမျိုးမျိုးသုံးကြပါတယ်။ Activation Function ကို နှစ်မျိုးခွဲလို့ရပါတယ်။ (1) Linear Activation Function (2) Non-linear Activation Function ဆိုပြီး ဖြစ်ပါတယ်။ Linear or Identity Activation Function အောက်ပါပုံမှာ မြင်ရတာကတော့ Linear ဖြစ်နေတဲ့ မျဉ်းတစ်ကြောင်း ဖြစ်ပါတယ်။ Output တွေကို ထိုမျဉ်းပေါ်မှာပဲ ဖော်ပြတာဖြစ်ပါတယ်။ Linear Function Equation ကတော့ f(x) = x Range ကတော့

K-Nearest Neighbors Algorithm အကြောင်း

Image
K-Nearest Neighbors Algorithm အကြောင်း KNN Alogrithm ဆိုတာက လွယ်ကူတယ်၊ ရိုးရှင်းတယ် ပြီးတော့ supervised learning မှာသုံးတဲ့ algorithm တစ်မျိုးဖြစ်ပါတယ်။ KNN ကို Classification problems တွေနဲ့ Regression problems တွေမှာတွေ့ရတတ်ပါတယ်။ Supervised Learning အကြောင်းတစေ့တစောင်း Supervised Learning ဆိုတာ Unsupervised Learning ရဲ့ ဆန့်ကျင်ဘက် ဖြစ်ပါတယ်။ Label တပ်ထားတဲ့ data တွေကိုစက်ကိုနားလည်အောင်သင်ပေးတာ ဖြစ်ပါတယ်။ ဉပမ- ကျွန်တော်တို့ငယ်ငယ်က မိဘတွေက ခွေးပုံလေးတွေ ဝက်ပုံလေးတွေကို ဒါခွေးဖြစ်ပါတယ်၊ ဒါဝက်ဖြစ်ပါတယ် ဆိုပြီး သင်ကြားပေးခဲ့ပါတယ်။ ဒါဟာ supervised learning ရဲ့ နမူနာတစ်ခုဖြစ်ပါတယ်။ အဲ့လိုသင်ပေးလိုက်တော့ ကျွန်တော်တို့က ခွေးကိုမြင်ရင် "ခွေး" ဆိုပြီး သိလာခဲ့ပါတယ်။ စက်ကိုသင်ပေးရာမှာလည်း ထိုနည်းပါပဲ။ pig Classification problem Classification problem တွေမှာက တိကျတဲ့ အဖြေတွေပါရှိပါတယ်။ ဉပမာ - pizza ပေါ်မှာ နံနတ်သီးထည့်တာ ကြိုက်လေ့ရှိတဲ့ အသက်အရွယ်ကို survey ကောက်ပီး စမ်းသပ်ကြည့်တာပေါ့။ ဒါက classification problem ဖြစ်တာကြောင့် တိကျတဲ့ output ပဲထွက်လာမှာဖြစ်ပါတယ်။ ကြားထဲက မသေချာတဲ့ အဖြေတေ