మెటా తాజాగా మ్యూస్ గ్లిమ్మర్ అనే 30 బిలియన్ పరామీటర్లతో కూడిన ఓపెన్ వెయిట్ AI మోడల్ను విడుదల చేసింది. ఈ మోడల్ను Apache 2.0 లైసెన్స్ కింద అందుబాటులోకి తీసుకువచ్చింది, దీని ద్వారా డెవలపర్లు స్వేచ్ఛగా ఉపయోగించి తమ అవసరాలకు అనుగుణంగా అభివృద్ధి చేసుకోవచ్చు.
లోకల్ AI వినియోగంపై దృష్టి
మ్యూస్ గ్లిమ్మర్ ప్రత్యేకంగా లోకల్ డివైస్లపై పనిచేయడానికి రూపొందించబడింది. ఇది ఒకే GPU ఉన్న Mac లేదా PCలో కూడా సాఫీగా నడుస్తుంది. దీంతో క్లౌడ్ కనెక్షన్ లేకపోయినా AI ఆధారిత పనులను నిర్వహించుకోవచ్చు. కోడింగ్ అసిస్టెంట్లు, టాస్క్ ఆటోమేషన్ ఏజెంట్లు మరియు ఇతర AI అప్లికేషన్లలో దీనిని ఉపయోగించవచ్చు.
శిక్షణ విధానం
మెటా ఈ మోడల్ను మూడు ప్రధాన దశల్లో ట్రైన్ చేసింది:
- ప్రీ-ట్రైనింగ్ దశలో పెద్ద మోడల్ నుంచి డేటాను డిస్టిలేషన్ పద్ధతిలో ఉపయోగించింది
- మిడ్-ట్రైనింగ్ దశలో లాంగ్ కాంటెక్స్ట్ మరియు ఏజెంట్ ఆధారిత డేటాతో శిక్షణ ఇచ్చింది
- పోస్ట్-ట్రైనింగ్ దశలో ఫైన్ ట్యూనింగ్ మరియు రీన్ఫోర్స్మెంట్ లెర్నింగ్ ఉపయోగించింది
ముఖ్య ఫీచర్లు
మ్యూస్ గ్లిమ్మర్ మోడల్కు పలు అధునాతన సామర్థ్యాలు ఉన్నాయి:
- మల్టీ-స్టెప్ టాస్క్ ఎగ్జిక్యూషన్
- ఖచ్చితమైన టూల్ కాలింగ్
- లాంగ్-హోరైజన్ రీజనింగ్
- ఎర్రర్ రికవరీ సామర్థ్యం
- టెక్స్ట్ మరియు ఇమేజ్లతో పని చేసే మల్టీమోడల్ సపోర్ట్
- 100 కంటే ఎక్కువ భాషల సపోర్ట్
పనితీరు
మెటా ప్రకారం, మ్యూస్ గ్లిమ్మర్ తన సైజ్ కేటగిరీలో ఉన్న ఇతర AI మోడళ్లతో పోలిస్తే మంచి పనితీరును చూపింది. రీజనింగ్, కోడింగ్ మరియు ఏజెంటిక్ టాస్క్లలో ఇది పోటీ సామర్థ్యాన్ని ప్రదర్శించింది.
లోకల్ డివైస్లకు ఆప్టిమైజేషన్
ఈ మోడల్ను కన్స్యూమర్ హార్డ్వేర్పై నడిచేలా ప్రత్యేకంగా ఆప్టిమైజ్ చేశారు:
- క్వాంటైజేషన్ ద్వారా మెమరీ అవసరాన్ని 55GB నుంచి 20GB లోపలికి తగ్గించారు
- స్పెక్యులేటివ్ డీకోడింగ్ టెక్నాలజీ ద్వారా స్పీడ్ను గణనీయంగా పెంచారు
మ్యూస్ గ్లిమ్మర్ మోడల్ Hugging Face ప్లాట్ఫారమ్లో డౌన్లోడ్కు అందుబాటులో ఉంది. త్వరలో llama.cpp, MLX, ExecuTorch వంటి టూల్స్తో కూడా ఉపయోగించుకోవచ్చు.
ఈ విడుదలతో లోకల్ AI వినియోగం మరింత విస్తరించనుంది. క్లౌడ్పై ఆధారపడకుండా వ్యక్తిగత డివైస్లపై AI మోడళ్లను నడపడం ద్వారా ప్రైవసీ, స్పీడ్ మరియు యాక్సెస్బిలిటీ మెరుగుపడుతుంది.