မြန်မာ-အင်္ဂလိပ် AI ဘာသာပြန်စနစ်တစ်ခု တည်ဆောက်ခြင်း - Gemma-4 ကို Fine-tuning ပြုလုပ်ခြင်း
← Researchresearch

မြန်မာ-အင်္ဂလိပ် AI ဘာသာပြန်စနစ်တစ်ခု တည်ဆောက်ခြင်း - Gemma-4 ကို Fine-tuning ပြုလုပ်ခြင်း

Large Language Model (LLM) တွေဟာ ဘာသာစကားနားလည်ခြင်း၊ စာသားထုတ်လုပ်ခြင်းနဲ့ ဘာသာပြန်ဆိုခြင်းတို့မှာ သိသိသာသာ တိုးတက်လာပါသည်။


ဒါပေမဲ့ ဘာသာစကားအားလုံးအတွက် စွမ်းဆောင်ရည်တူညီနေခြင်းတော့ မဟုတ်ပါဘူး။ အထူးသဖြင့် မြန်မာဘာသာစကားလို Language Resources နည်းပါးတဲ့ ဘာသာစကားတွေအတွက် အရည်အသွေးကောင်းမွန်တဲ့ AI Translation System တွေ တည်ဆောက်ဖို့ အခွင့်အလမ်းနဲ့ စိန်ခေါ်မှုတွေ ရှိနေဆဲဖြစ်ပါသည်။ အခြေအနေကို အခြေခံပြီး Google ရဲ့ Gemma-4 ကို အသုံးပြုပြီး မြန်မာ-အင်္ဂလိပ် နှစ်ဘာသာအပြန်အလှန်ဘာသာပြန်နိုင်တဲ့ Model တစ်ခုကို Fine-tuning ပြုလုပ်ခဲ့ပါသည်။ ဒီစမ်းသပ်မှုမှာ Hugging Face ရဲ့ FineTranslations Dataset၊ Unsloth Framework နဲ့ QLoRA နည်းပညာတို့ကို အသုံးပြုခဲ့ပြီး Model ရဲ့ ဘာသာပြန်အရည်အသွေးကို COMET နဲ့ chrF++ Metrics တွေဖြင့် အကဲဖြတ်ခဲ့ပါသည်။ ပြုလုပ်ခဲ့သော research မှ Model ရွေးချယ်မှုကနေ Training နဲ့ Evaluation ရလဒ်တွေအထိ လုပ်ဆောင်ခဲ့တဲ့ လုပ်ငန်းစဉ်ကို မျှဝေသွားမှာ ဖြစ်ပါတယ်။


၁။ Gemma-4 ကို ဘာကြောင့် ရွေးချယ်ခဲ့သလဲ။


ဒီ research ရဲ့ အဓိကအခြေခံက Gemma-4 ဖြစ်ပါသည်။ Gemma-4 ဟာ Goole DeepMind မှ ထုတ်ဝေထားတဲ့ Open-weight Model Family တစ်ခုဖြစ်ပြီး Language Understanding, Reasoning နဲ့ Multimodal Processing တို့အတွက် ရည်ရွယ်တည်ဆောက်ထားပါတယ်။ Open-weight Model ဖြစ်တဲ့အတွက် Model Weights တွေကို ရယူပြီး ကိုယ်ပိုင် Hardware ပေါ်မှာ အသုံးပြုခြင်း၊ Fine-tuning ပြုလုပ်ခြင်းတို့ လုပ်ဆောင်နိုင်ပါသည်။


Architecture နဲ့ Model Variants


Gemma-4 မှာ Model Size နဲ့ Architecture မတူညီတဲ့ Variants တွေ ပါဝင်ပါသည်။


E2B နှင့် E4B: Memory နဲ့ Compute Efficiency ကို အလေးထားတဲ့ Compact Model များ။

12B: ပိုမိုကြီးမားတဲ့ Dense Architecture ကို အခြေခံထားတဲ့ Model။

26B A4B: Mixture-of-Experts (MoE) Architecture ကို အသုံးပြုထားတဲ့ Model။

31B: Dense Architecture ကို အသုံးပြုထားတဲ့ Model။


ဒီ research မှာတော့ unsloth/gemma-4-E2B-it ကို အသုံးပြုခဲ့ပါတယ်။


E2B ရဲ့ စိတ်ဝင်စားစရာကောင်းတဲ့ အချက်တစ်ခုက Per-Layer Embeddings (PLE) နဲ့ Hybrid Attention Architecture တို့ ပါဝင်ခြင်းဖြစ်ပါသည်။


Hybrid Attention ဆိုတာ စာသားအနီးအနားက အချက်အလက်တွေကို အာရုံစိုက်တဲ့ Local Attention နဲ့ ပိုမိုကျယ်ပြန့်တဲ့ Context ကို ကြည့်နိုင်တဲ့ Global Attention တို့ကို ပေါင်းစပ်အသုံးပြုခြင်း ဖြစ်ပါသည်။


ဒါ့အပြင် Gemma-4 ဟာ Text ကိုသာမက Image နဲ့ Audio Input တွေကိုပါ ကိုင်တွယ်နိုင်တဲ့ Multimodal Model Family တစ်ခုဖြစ်ပါသည်။


ဘယ်ဘာသာစကားတွေကို Support လုပ်သလဲ။


Gemma-4 ကို ဘာသာစကား ၁၄၀ ကျော်နဲ့ လေ့ကျင့်ထားပါတယ်။ ဒါကြောင့် English လို အသုံးများတဲ့ ဘာသာစကားတွေအပြင် အခြားဘာသာစကားများအတွက်ပါ အခြေခံ Language Understanding စွမ်းရည်တွေ ရရှိထားပါသည်။


ဒါပေမဲ့ ဘာသာစကားအားလုံးမှာ စွမ်းဆောင်ရည်တူညီတယ်လို့ မဆိုနိုင်ပါဘူး။ Training Data ပမာဏနဲ့ အရည်အသွေးပေါ်မူတည်ပြီး ရလဒ်တွေ ကွာခြားနိုင်ပါသည်။


ဒါကြောင့် မြန်မာဘာသာစကားအတွက် သီးခြား Fine-tuning ပြုလုပ်ပြီး ဘာသာပြန်အရည်အသွေး ဘယ်လောက်တိုးတက်လာနိုင်သလဲဆိုတာကို စမ်းသပ်ဖို့ ရည်ရွယ်ခဲ့ပါသည်။


Model: Gemma-4 E2B - Unsloth


၂။ Training Data - FineTranslations


Machine Translation Model တစ်ခုရဲ့ အရည်အသွေးဟာ Training Data နဲ့ အလွန်နီးစပ်တဲ့ ဆက်နွယ်မှုရှိပါသည်။


ဒီ Project မှာ FineTranslations Dataset ကို အခြေခံအသုံးပြုခဲ့ပါသည်။


FineTranslations ဟာ Hugging Face က ထုတ်ဝေထားတဲ့ Multilingual Translation Dataset တစ်ခုဖြစ်ပြီး ဘာသာစကား ၅၀၀ ကျော်နဲ့ Parallel Text Data တွေ ပါဝင်ပါသည်။


ဒီ Dataset ကို FineWeb2 မှ ရရှိတဲ့ မူရင်းဘာသာစကားစာသားတွေကို Gemma 3 27B အသုံးပြုပြီး English ဘာသာသို့ ဘာသာပြန်ကာ ဖန်တီးထားခြင်း ဖြစ်ပါသည်။


ဒီ Project မှာ Dataset ထဲက မြန်မာဘာသာစကားနဲ့ သက်ဆိုင်တဲ့ Data တွေကို ရွေးချယ်အသုံးပြုခဲ့ပါသည်။


မူလရည်ရွယ်ချက်အရ Document ပေါင်း ၁.၅၅ သန်းခန့်ကို အသုံးပြုဖို့ ပြင်ဆင်ခဲ့ပြီး လက်ရှိ Training Log အရ Training Examples 1,162,346 ခု ပါဝင်ပါသည်။


Data တွေကို အောက်ပါအချက်အလက်တွေအပေါ် အခြေခံပြီး ပြင်ဆင်ခဲ့ပါသည်။


Source Text - မူရင်းစာသား။

Target Text - ဘာသာပြန်ထားတဲ့ စာသား။

Source Language - မူရင်းဘာသာစကား။

Target Language - ရည်ရွယ်ထားတဲ့ ဘာသာစကား။


ဒီ Research ရဲ့ ရည်ရွယ်ချက်က ဘာသာပြန်ခြင်း နှစ်မျိုးစလုံးကို သင်ကြားပေးဖို့ ဖြစ်ပါသည်။


Burmese → English

English → Burmese


Dataset ရဲ့ မူလပုံစံမှာ English သို့ ဘာသာပြန်ထားတဲ့ Data တွေကို အဓိကထားတဲ့အတွက် English → Burmese Data တွေကို Reverse Pair အဖြစ် ပြောင်းလဲထည့်သွင်းထားပါက Dataset Preparation အပိုင်းမှာ အဲဒီလုပ်ငန်းစဉ်ကိုလည်း မှတ်တမ်းတင်ထားဖို့ လိုအပ်ပါသည်။


Synthetic Translation Data ရဲ့ အားသာချက်နဲ့ အားနည်းချက်


FineTranslations ရဲ့ အားသာချက်က ဘာသာစကားအများအပြားအတွက် ကြီးမားတဲ့ Parallel Dataset ကို ရရှိနိုင်ခြင်း ဖြစ်ပါသည်။


ဒါပေမဲ့ ဘာသာပြန်ထားတဲ့ စာသားတွေကို AI Model တစ်ခုက ထုတ်လုပ်ထားတာဖြစ်တဲ့အတွက် အမှားအယွင်းနဲ့ သဘာဝမကျတဲ့ အသုံးအနှုန်းအချို့ ပါဝင်နိုင်ပါသည်။


အထူးသဖြင့် မြန်မာဘာသာစကားလို အရည်အသွေးမြင့် Human Translation Data နည်းပါးတဲ့ ဘာသာစကားတွေအတွက် ဒီအချက်ကို ထည့်သွင်းစဉ်းစားဖို့ လိုအပ်ပါသည်။


ဒါကြောင့် Dataset အရွယ်အစားတစ်ခုတည်းကိုသာ အားကိုးမနေဘဲ Data Quality ကိုလည်း အရေးကြီးတဲ့ အချက်တစ်ခုအဖြစ် သတ်မှတ်ထားပါသည်။


၃။ Fine-tuning နည်းပညာ - Unsloth နှင့် QLoRA


Gemma-4 ကို Fine-tuning ပြုလုပ်ရာမှာ Unsloth Framework နဲ့ QLoRA နည်းပညာကို အသုံးပြုခဲ့ပါသည်။


QLoRA ကို နားလည်ဖို့ Model တစ်ခုလုံးကို ပြန်လည်လေ့ကျင့်စရာမလိုဘဲ လိုအပ်တဲ့ Parameters အနည်းငယ်ကိုသာ ပြုပြင်နိုင်တယ်လို့ စဉ်းစားနိုင်ပါသည်။


ဒီနည်းလမ်းမှာ မူလ Model Weights တွေကို 4-bit အဖြစ် Quantization ပြုလုပ်ပြီး LoRA Adapter တွေကို Training လုပ်ပါသည်။


LoRA Adapter ဆိုတာ မူလ Model ရဲ့ Parameters တွေကို အပြည့်အဝ ပြောင်းလဲမယ့်အစား သင်ယူနိုင်တဲ့ Parameter အနည်းငယ်ကို ထပ်ပေါင်းထည့်ထားခြင်း ဖြစ်ပါသည်။


ဒီလိုလုပ်ဆောင်ခြင်းအားဖြင့် GPU Memory အသုံးပြုမှုကို လျှော့ချနိုင်ပြီး Model တစ်ခုလုံးကို Fine-tuning ပြုလုပ်တာထက် ပိုမိုထိရောက်တဲ့ Training လုပ်ငန်းစဉ်ကို ရရှိနိုင်ပါသည်။


အသုံးပြုခဲ့တဲ့ LoRA Configuration

Quantization : 4-bit

LoRA Rank: 16

LoRA Alpha: 16LoRA

Dropout: 0

Target Modules:all-linear

Trainable Parameters: 59.7M


Model Parameters စုစုပေါင်း 5.18 Billion ခန့်ရှိပေမဲ့ Training ပြုလုပ်ခဲ့တဲ့ Parameters က 59.7 Million ခန့်သာ ရှိပါသည်။


ဒါဟာ စုစုပေါင်း Parameters ရဲ့ 1.15% ခန့် ဖြစ်ပါတယ်။


Training မှာ Unsloth ရဲ့ Optimized Implementation၊ Gradient Checkpointing နဲ့ Hugging Face TRL ရဲ့ SFTTrainer ကို အသုံးပြုခဲ့ပါသည်။


Hardware အနေနဲ့ NVIDIA H100 GPU ကို အသုံးပြုထားပါသည်။


၄။ Model ကို ဘယ်လို Evaluation လုပ်ခဲ့သလဲ။


Training Loss ကျဆင်းလာတာနဲ့ Model ရဲ့ ဘာသာပြန်အရည်အသွေး တိုးတက်လာတယ်လို့ တန်းပြီး မဆုံးဖြတ်နိုင်ပါဘူး။


ဒါကြောင့် Training ပြုလုပ်နေစဉ် Model က ထုတ်ပေးတဲ့ ဘာသာပြန်စာသားတွေကို သီးခြား Evaluation ပြုလုပ်ခဲ့ပါတယ်။


ဒီ Project မှာ COMET နဲ့ chrF++ Metrics နှစ်မျိုးကို အသုံးပြုခဲ့ပါတယ်။


chrF++ - ဘာသာပြန်စာသား ဘယ်လောက်တူသလဲ။


chrF++ ဟာ Model ရဲ့ ဘာသာပြန်စာသားနဲ့ မှန်ကန်တဲ့ Reference Translation ကို နှိုင်းယှဉ်ပေးတဲ့ Metric ဖြစ်ပါသည်။


ဥပမာ လူတစ်ယောက်က "ကျွန်တော် အရမ်းပျော်ပါတယ်" လို့ ဘာသာပြန်ထားပြီး AI က "ကျွန်တော် အလွန်ပျော်ရွှင်ပါတယ်" လို့ ထုတ်ပေးတယ်ဆိုပါစို့။


စာလုံးချင်း တိတိကျကျ မတူပေမဲ့ တချို့ Character နဲ့ Word အပိုင်းအစတွေ တူညီနေပါတယ်။


chrF++ က ဒီလိုတူညီမှုတွေကို Character N-grams နဲ့ Word N-grams တွေအပေါ် အခြေခံပြီး တွက်ချက်ပေးပါတယ်။


ရိုးရိုးပြောရရင် AI ရဲ့ ဘာသာပြန်စာသားက Reference စာသားနဲ့ ဘယ်လောက်ဆင်တူသလဲဆိုတာကို တိုင်းတာပေးတာ ဖြစ်ပါတယ်။


Score မြင့်လေလေ စာသားတူညီမှု ပိုများလေလေ ဖြစ်ပါတယ်။


COMET - ဘာသာပြန်အဓိပ္ပာယ် ဘယ်လောက်မှန်သလဲ။


COMET ကတော့ Neural Network အခြေခံထားတဲ့ Translation Evaluation Metric ဖြစ်ပါတယ်။


chrF++ နဲ့ မတူတာက COMET ဟာ စာသားတူညီမှုကိုသာ အဓိကမထားပါဘူး။


မူရင်းစာသား၊ Reference Translation နဲ့ AI ရဲ့ ဘာသာပြန်စာသားတို့ကို အသုံးပြုပြီး ဘာသာပြန်အရည်အသွေးနဲ့ အဓိပ္ပာယ်ဆိုင်ရာ တူညီမှုကို အကဲဖြတ်ဖို့ ကြိုးစားပါသည်။


ဥပမာ -


Reference: "I am very happy."

AI Translation: "ကျွန်တော် အလွန်ဝမ်းသာပါတယ်။"


Reference နဲ့ AI Translation တို့ဟာ စာလုံးချင်း မတူပေမဲ့ အဓိပ္ပာယ်တူညီနိုင်ပါတယ်။


ဒီလိုအခြေအနေမျိုးမှာ COMET က စာလုံးတူညီမှုတစ်ခုတည်းထက် ပိုမိုကျယ်ပြန့်တဲ့ အချက်အလက်တွေကို အသုံးပြုပါတယ်။


ဒီ Project မှာ အသုံးပြုခဲ့တဲ့ Metric Model က Unbabel/wmt22-comet-da ဖြစ်ပါတယ်။


ရိုးရိုးရှင်းရှင်းပြောရရင် chrF++ က စာသားဘယ်လောက်တူသလဲဆိုတာကို ကြည့်ပြီး COMET က ဘာသာပြန်အရည်အသွေးနဲ့ အဓိပ္ပာယ်ဆိုင်ရာ မှန်ကန်မှုကို ပိုမိုအာရုံစိုက်ပါတယ်။


Metric နှစ်မျိုးကို တွဲဖက်အသုံးပြုခြင်းအားဖြင့် Model ရဲ့ ဘာသာပြန်အရည်အသွေးကို မတူညီတဲ့ ရှုထောင့်နှစ်ခုကနေ လေ့လာနိုင်ပါတယ်။


၅။ ကနဦး Evaluation ရလဒ်များ


Training ပြုလုပ်နေစဉ် Step 50၊ 100 နဲ့ 150 တို့မှာ Evaluation ပြုလုပ်ခဲ့ပါတယ်။


လက်ရှိရရှိထားတဲ့ ရလဒ်တွေကတော့ -


Training Step: 50 chrF++ : 38.03 COMET: 0.7878


Training Step: 100 chrF++ : 37.67 COMET: 0.7813


Training Step: 150 chrF++ : 35.90 COMET: 0.7213



Step 50 မှာ COMET 0.7878 နဲ့ chrF++ 38.03 ရရှိခဲ့ပါတယ်။


ဒါပေမဲ့ Step 100 နဲ့ 150 မှာ Score တွေ ဆက်တိုက်ကျဆင်းလာတာကို တွေ့ရပါတယ်။


ဒီနေရာမှာ စိတ်ဝင်စားစရာကောင်းတဲ့ အချက်တစ်ခု ရှိပါတယ်။


Training Loss က ကျဆင်းနေပေမဲ့ Evaluation Score တွေကတော့ ကျဆင်းလာပါတယ်။


ဒီလိုဖြစ်ရခြင်းရဲ့ ဖြစ်နိုင်တဲ့ အကြောင်းရင်းတစ်ခုက Overfitting ဖြစ်ပါတယ်။ Model ဟာ Training Data တွေကို ပိုမိုမှတ်မိလာပေမဲ့ မမြင်ဖူးသေးတဲ့ စာသားအသစ်တွေကို ဘာသာပြန်တဲ့အခါ အရည်အသွေး ကျဆင်းလာနိုင်ပါတယ်။


ဒါပေမဲ့ လက်ရှိရလဒ်တွေနဲ့ Overfitting ဖြစ်နေပြီလို့ အတည်ပြုဖို့တော့ မလုံလောက်သေးပါဘူး။


Evaluation မှာ Sample 150 ခုကိုသာ အသုံးပြုထားတာကြောင့် ပိုမိုကြီးမားတဲ့ Test Set နဲ့ ထပ်မံစစ်ဆေးဖို့ လိုအပ်ပါတယ်။


လက်ရှိရလဒ်တွေကို အကောင်းဆုံး Model ရဲ့ နောက်ဆုံးစွမ်းဆောင်ရည်အဖြစ် မဟုတ်ဘဲ ကနဦးတွေ့ရှိချက်တွေအဖြစ်သာ သတ်မှတ်ထားပါတယ်။


၆။ နောက်ထပ်လုပ်ဆောင်သွားမယ့်အရာများ


ဒီ Project ဟာ လက်ရှိမှာလည်း ဆက်လက်စမ်းသပ်ပြီး ပိုမိုကောင်းမွန်အောင် ပြုပြင်နေဆဲ ဖြစ်ပါတယ်။


နောက်ထပ်အဆင့်တွေမှာ အဓိကထား လုပ်ဆောင်သွားမယ့်အရာတွေကတော့ -


Dataset Quality ကို ပိုမိုကောင်းမွန်အောင် စစ်ဆေးခြင်း။

Learning Rate နဲ့ LoRA Rank တို့ကို ထပ်မံစမ်းသပ်ခြင်း။

Burmese → English နဲ့ English → Burmese ကို သီးခြား Evaluation ပြုလုပ်ခြင်း။

ပိုမိုကြီးမားတဲ့ Test Set အသုံးပြုခြင်း။

လူသားဘာသာပြန်သူတွေရဲ့ အကဲဖြတ်မှုကို ထည့်သွင်းခြင်း။

မူရင်း Gemma-4 Model နဲ့ Fine-tuned Model တို့ကို တူညီတဲ့ Test Set ပေါ်မှာ နှိုင်းယှဉ်ခြင်း။


အထူးသဖြင့် Human Evaluation ဟာ အရေးကြီးပါတယ်။ Automatic Metrics တွေက ဘာသာပြန်အရည်အသွေးကို ခန့်မှန်းပေးနိုင်ပေမဲ့ လူသားတစ်ယောက်ရဲ့ အမြင်နဲ့ သဘာဝကျမှု၊ အဓိပ္ပာယ်တိကျမှုတို့ကို အပြည့်အဝ အစားထိုးနိုင်တာ မဟုတ်ပါဘူး။


နိဂုံးချုပ်


ဒီ Project ဟာ Gemma-4 ကို အခြေခံပြီး မြန်မာ-အင်္ဂလိပ် ဘာသာပြန်ဆိုမှုအတွက် ကိုယ်ပိုင် AI Model တစ်ခု တည်ဆောက်ဖို့ ကြိုးစားထားတဲ့ စမ်းသပ်မှုတစ်ခု ဖြစ်ပါတယ်။


Unsloth နဲ့ QLoRA ကို အသုံးပြုပြီး Model Parameters ရဲ့ 1.15% ခန့်ကိုသာ Fine-tuning ပြုလုပ်နိုင်ခဲ့ပါတယ်။


ကနဦး Evaluation ရလဒ်တွေက စိတ်ဝင်စားစရာကောင်းပေမဲ့ Training Step တိုးလာတာနဲ့အမျှ Validation Score ကျဆင်းလာတဲ့အတွက် ထပ်မံစမ်းသပ်ဖို့ လိုအပ်နေပါတယ်။


ဒီစမ်းသပ်မှုကနေ သိရှိရတဲ့ အရေးကြီးဆုံးအချက်တစ်ခုက Model တစ်ခုရဲ့ ဘာသာပြန်အရည်အသွေးဟာ Model Size နဲ့ Training Data ပမာဏတစ်ခုတည်းအပေါ် မမူတည်ဘဲ Data Quality၊ Training Strategy နဲ့ Evaluation Method တွေအပေါ်လည်း မူတည်နေခြင်း ဖြစ်ပါတယ်။


မြန်မာဘာသာစကားအတွက် ပိုမိုကောင်းမွန်တဲ့ AI နည်းပညာတွေ တည်ဆောက်နိုင်ဖို့ ဒီ Reseachကို ဆက်လက်လေ့လာပြီး တိုးတက်အောင် လုပ်ဆောင်သွားဖို့ ရည်ရွယ်ထားပါသည်။


References

1.Gemma-4 Technical Report (2026) — Gemma-4 ရဲ့ Architecture၊ Model Design နဲ့ Multimodal Capabilities အကြောင်း။

https://arxiv.org/abs/2607.02770

2.LoRA: Low-Rank Adaptation of Large Language Models (2021) — LoRA နည်းပညာရဲ့ မူရင်း Research Paper။

https://arxiv.org/abs/2106.09685

3.QLoRA: Efficient Finetuning of Quantized LLMs (2023) — 4-bit Quantization နဲ့ Parameter-efficient Fine-tuning အကြောင်း။

https://arxiv.org/abs/2305.14314

4.COMET: A Neural Framework for MT Evaluation (2020) — Neural Network အခြေခံ Machine Translation Evaluation နည်းပညာ။

https://aclanthology.org/2020.emnlp-main.213/

5,chrF++: Words Helping Character N-grams (2017) — Character နဲ့ Word N-grams ကို ပေါင်းစပ်အသုံးပြုတဲ့ Translation Evaluation Metric။

https://aclanthology.org/W17-4770/

6.FineTranslations Dataset (2026) — Multilingual Parallel Translation Dataset ရဲ့ မူရင်းအကြောင်းအရာနဲ့ Dataset Construction။

https://huggingface.co/datasets/HuggingFaceFW/finetranslations

7.Unsloth Documentation — Efficient Fine-tuning Implementation နဲ့ Training Configuration။

https://unsloth.ai/docs/

8.Hugging Face TRL Documentation — Supervised Fine-tuning Trainer နဲ့ Training Workflow။

https://huggingface.co/docs/trl/