DiffusionART: Video AI-ஐ Train பண்ண 12 மடங்கு குறைவான GPU Cost போதும் - இது என்ன Trick?

என்ன நடந்தது?#

KlingAI Research Team-ல இருந்து ஒரு Paper வந்திருக்கு, பேருக்கே ஒரு Marvel Villain Name மாதிரி இருக்கு - DiffusionART. Full Form பார்த்தா, Diffusion Reinforcement with Aggregation-First Reward Tilting-ன்னு இன்னும் பெரிய பேரு. பெருசா கவலைப்படாதீங்க, இதுல Real Problem என்ன-ன்னு பார்ப்போம். Stable Diffusion, Midjourney Style Tools, HunyuanVideo மாதிரி Video Models எல்லாம் Diffusion-ன்னு ஒரு Technique-ஐ வெச்சு தான் Work பண்ணும். அதாவது, Model ஒரு Random Noise-ல Start ஆகி, அதை Step-by-Step Clean பண்ணி கடைசியா ஒரு Photo அல்லது Video-ஆ மாத்தும்.

இந்த Models-ஐ இன்னும் நல்லா Instructions Follow பண்ண வெக்க, அல்லது அழகான Output தர வெக்க, Companies Reinforcement Learning (RL) பயன்படுத்துது. இது Game-Playing AI-க்கு பயன்படுத்துற அதே Idea தான். Model-க்கு ஒரு Reward Score கொடுக்கறோம் - Output எவ்ளோ நல்லா இருக்குன்னு, அதுக்கு ஏத்த மாதிரி Model தானா Improve ஆகிடும்.

Problem என்னன்னா, இப்போ இருக்குற RL Fine-tuning Methods ரெண்டு வகையா பிரிஞ்சிருக்கு - ஒண்ணு Slow & Safe, மற்றொண்ணு Fast ஆனா Unstable. இந்த Paper இந்த ரெண்டு பக்கத்துக்கும் ஒரு Middle Ground கண்டுபிடிச்சிருக்கு. இந்த Paper-ஐ Hugging Face-ல huggingface.co/papers/2610.12572 இங்க பார்க்கலாம், அங்க 47 Upvotes வாங்கியிருக்கு - ஒரு Dense Technical Paper-க்கு இது நல்ல Signal தான்.

இது எப்படி Work செய்யும்? (அதாவது + உதாரணம்)#

Diffusion Model-ஐ Train பண்ணுறதை ஒரு Cricket Coach, ஒரு Batsman-க்கு Training கொடுக்குறதா நினைச்சுக்கோங்க. ஒவ்வொரு Ball-க்கு அப்புறமா Coach, "அந்த Shot நல்லா இருந்துது" அல்லது "அது தப்பு"-ன்னு மட்டும் சொல்றார், ஆனா Technique-ல எந்த Part-ஐ Fix பண்ணணும்-ன்னு Exact-ஆ சொல்லமாட்டார்.

Flow-GRPO-ன்னு ஒரு Old Method இருக்கு, அது ஒவ்வொரு Shot-ஐயும் Frame-by-Frame Replay பண்ணி, எந்த Movement தப்பு-ன்னு Exact-ஆ கண்டுபிடிக்க Try பண்ணும். இது Thorough-ஆ இருக்கும், ஆனா Extremely Slow. ஒவ்வொரு Ball-க்கும் Full Video Review பண்ணி Grip-ஐ மட்டும் Slightly Adjust பண்ணுறது மாதிரி.

DiffusionNFT-ன்னு இன்னொரு Method இருக்கு, இது அந்த Step-by-Step Replay-ஐ Skip பண்ணுறதால Fast-ஆ இருக்கும். ஆனா Paper சொல்றபடி, EMA (Exponential Moving Average)-ன்னு ஒரு Setting-ஐ Carefully Tune பண்ணாம போனா இது Unstable ஆயிடும். EMA அதாவது Coach-க்கு ஒரு Memory Trick - Feedback-ஐ Time-க்கு ஏத்த மாதிரி Smooth பண்ணுறது. இதை தப்பா Tune பண்ணா, Batsman-ட Technique ரொம்பவே தப்பு ஆயிடும்.

DiffusionART என்ன பண்ணுதுன்னா, ஒரு Prompt-க்கு வர்ற எல்லா Rewards-ஐயும் முதலே Combine பண்ணி, ஒரே "Improvement Direction"-ஆ Set பண்ணிடுது. இதனால Model-க்கு Confusing Signals வராது, EMA-ல Fine-tuning பண்ண தேவையே இல்லாம போயிடும். Simple-ஆ சொன்னா, ஒவ்வொரு Ball-க்கும் தனியா Feedback கொடுக்காம, ஒரு Over முடிஞ்சதும் Overall Pattern-ஐ பார்த்து ஒரே Clear Instruction கொடுக்குற மாதிரி.

Paper என்ன Results சொல்லுது?#

HunyuanVideo-13B-ன்னு ஒரு 13 Billion Parameter Video Generation Model-ல இந்த Method-ஐ Test பண்ணிருக்காங்க. Visual Quality, Motion Quality-ன்னு ரெண்டு Reward Types-ஐ Equal-ஆ Weight பண்ணி பார்த்திருக்காங்க.

Result என்னன்னா, DiffusionART அதே Late-Stage Reward Level-ஐ, DiffusionNFT-ஐ விட 12.02 மடங்கு குறைவான GPU Hours-ல, Flow-GRPO-Fast-ஐ விட 11.72 மடங்கு குறைவான GPU Hours-ல அடைஞ்சிருக்கு. அதுக்கு மேல, அதே Training Time-ல Reward Score 28.8% மற்றும் 53.0% அதிகமா கிடைச்சிருக்கு. இது Image மட்டும் இல்ல, Video Generation-லயும் Per-Task Tuning இல்லாம Work பண்ணுதுன்னு Paper Claim பண்ணுது.

இந்தியாவுல / நம்ம Phone-ல என்ன மாறும்?#

நேர்மையா சொன்னா, இந்த Technology Straightaway உங்க Phone-க்கு வராது. இது Developer Level Research - Model-ஐ Train பண்ணுற Companies, Researchers-க்கு பயன்படுற Tool.

ஆனா Indirect-ஆ Effect இருக்கு. இந்தியாவுல Jio-வோட Compute Infrastructure, அல்லது Startups Rented GPU Servers (AWS, Google Cloud, அல்லது Local Indian Cloud Providers) மேல AI Model Train பண்ணுறப்போ, GPU Hours தான் Biggest Cost. அது Dollars-ல Charge ஆகும், INR-ல பார்த்தா பெரிய Amount.

ஒரு Small Indian AI Startup, Image அல்லது Video Generation Tool Build பண்ணும்போது, Fine-tuning-க்கே Lakhs of Rupees செலவு ஆகும். இந்த Method Claim பண்ணுற மாதிரி 10-12 மடங்கு Efficiency கிடைச்சா, அது Startup-க்கு Game-Changer. குறைவான Budget-லயே நல்ல Model Train பண்ண முடியும் - இது Funding குறைவா இருக்குற Indian AI Teams-க்கு பெருசா உதவும்.

அதுமட்டும் இல்லாம, Differentiable Reward Model தேவை இல்லாதது ஒரு Plus Point. அதாவது, Complex Mathematical Setup இல்லாம, Simpler Reward Signals-வெச்சே இதை Use பண்ண முடியும்-ன்னு Paper சொல்றது, Engineering Team Size குறைவா இருக்குற Startups-க்கு பயன்படும்.

நீங்க இப்போ என்ன பண்ணுங்க?#

இப்போதைக்கு இது Early-Stage Research தான் - GitHub-ல 6 Stars, Hugging Face-ல 47 Upvotes மட்டும் இருக்கு. எந்த Product-ம் இன்னும் இதை Use பண்ணல.

ஆனா நீங்க ஒரு AI/ML Student அல்லது Developer-ஆ இருந்தா, இந்த Paper-ஐ ஒரு Reading List-ல வெச்சுக்குங்க. Diffusion Model Training, Reinforcement Learning-ல Interest இருந்தா, GitHub Repo-வையும் ஒரு Look போடுங்க. Code Open-ஆ கிடைக்குது.

Startup Founder-ஆ இருந்தா, இந்த Space-ல வர்ற New Efficient Training Methods-ஐ Follow பண்ணிக்கிட்டே இருங்க. அடுத்த 6-12 Months-ல இதுல Progress இருந்தா, அதை Early-ஆ Adopt பண்ணினா Cost Advantage கிடைக்கும்.

Step-by-Step பார்த்தா இது எப்படி நடக்கும்?#

இதை ஒரு Simple Flow-ஆ பிரிச்சி பார்த்தா புரியுது. முதல் Step-ல, Diffusion Model ஒரு Prompt-க்கு பல Images அல்லது Videos Generate பண்ணும் - Example-ஆ, "ஒரு பெண் Chennai Beach-ல Walk பண்றா" என்ற Prompt-க்கு Model 8 அல்லது 16 Different Outputs தரும். ரெண்டாவது Step-ல, ஒவ்வொரு Output-க்கும் ஒரு Reward Model Score கொடுக்கும் - Visual எவ்ளோ Clean, Motion எவ்ளோ Natural-ன்னு பார்த்து. மூன்றாவது Step தான் DiffusionART-ஓட Twist - அந்த எல்லா Scores-ஐயும் தனித்தனியா Treat பண்ணாம, ஒரே Prompt-ஓட எல்லா Rewards-ஐயும் முதலே Aggregate பண்ணி ஒரு Single "Improvement Direction" உருவாக்கும்.

நாலாவது Step-ல, இந்த Direction-ஐ வெச்சு Model-ஓட Weights Update ஆகும் - ஆனா இது Trust-Region-Masked Second Update-ன்னு ஒரு Safety Check-ஓட தான் நடக்கும். அதாவது, Model ஒரே நேரத்துல ரொம்ப Drastic-ஆ மாறிடாம, ஒரு Limit-க்குள்ள தான் Adjust ஆகும். இதுதான் EMA Tuning-க்கு Replacement-ஆ Work பண்ணுது. ஐந்தாவது Step-ல இந்த Whole Cycle திரும்ப திரும்ப நடக்கும் - ஒவ்வொரு Round-லயும் Model ஒரு Little Bit Better ஆகிடும். Paper Claim பண்றபடி, இந்த Cycle HunyuanVideo-13B மாதிரி Big Models-லயும் Stable-ஆ, Per-Task Tuning இல்லாம நடக்குது.

இதை நம்ம ஊர் உதாரணத்துல சொன்னா, ஒரு Madurai College-ல Badminton Coach, ஒவ்வொரு Student Shot-ஐயும் தனியா Correct பண்ணாம, Whole Batch-ஓட Common Mistake-ஐ ஒரே Instruction-ஆ கொடுக்குற மாதிரி. Time மிச்சம், Confusion குறைவு, ஆனா Result அதே Level-ல வரும். இதே Logic தான் GPU Training-க்கும் Apply ஆகுது - குறைவான Steps, குறைவான Confusion, அதே Quality.

Developers Common-ஆ பண்ற தப்புகள் + அடுத்து என்ன நடக்கும்?#

Indian AI Developers இந்த மாதிரி New Training Methods பார்க்கும்போது பண்ற முதல் தப்பு - Paper Results-ஐ நேரடியா தங்க Project-க்கு Apply பண்ணிடலாம்-ன்னு நினைக்கறது. DiffusionART-ஓட 12x Efficiency Claim HunyuanVideo-13B மாதிரி ஒரு Specific Large Model-க்கு, Specific Reward Setup-க்கு Test பண்ணப்பட்டது. உங்க Startup வேற Model Size, வேற Reward Type Use பண்ணினா, அதே Exact Numbers வராது. Code GitHub-ல Open-ஆ இருந்தாலும், அதை Production-ல Direct-ஆ Plug பண்ணிடலாம்-ன்னு Assume பண்ணாதீங்க - இன்னும் 6 Stars மட்டும் தான் இருக்குற Early Repo, Battle-Tested இல்ல.

இரண்டாவது Common Mistake - EMA Tuning-க்கு பதில் Trust-Region Masking Use பண்ணும்போது, அது "Zero Configuration" Solution-ன்னு நினைச்சு எந்த Monitoring வைக்காம Train பண்ணுறது. Paper சொல்றது EMA-ஐ Tune பண்ண வேண்டிய Burden குறையும்-ன்னு, Training-ஐ முழுசா Unsupervised-ஆ விடலாம்-ன்னு இல்ல. Coimbatore-ல இருக்குற ஒரு Small AI Team, இந்த மாதிரி New Method-ஐ First Time Use பண்ணும்போது, Loss Curves-ஐ Regular-ஆ பார்த்து, Reward Score Drop ஆகுதான்னு Check பண்ணிகிட்டே இருக்கணும். இல்லைன்னா, Efficient-ஆ இருக்குற Method கூட Silent-ஆ Fail ஆகிடும்.

அடுத்து என்ன Expect பண்ணலாம்-ன்னு பார்த்தா, இந்த மாதிரி Efficient RL Methods அடுத்த சில Months-ல Image Generation Tools-க்கு மேல, Text-to-Video, Text-to-Speech Models-க்கும் Extend ஆகலாம். Flow-GRPO, DiffusionNFT, இப்போ DiffusionART-ன்னு ஒரு Pattern பார்த்தா, Companies Training Cost-ஐ குறைக்குற Research-ல Heavy-ஆ Invest பண்றாங்கன்னு Clear-ஆ தெரியுது. Indian Developers இந்த Space-ல Survive பண்ண, Paper Read பண்றது மட்டும் போதாது - Small Scale Experiments பண்ணி, உங்க Own Reward Setup-க்கு இது Work ஆகுதான்னு Test பண்ணிப் பார்க்கிறதுதான் சரியான அடுத்த Step.