अब तक के बड़े भाषा मॉडल (LLMs) ने आर्टिफिशियल इंटेलिजेंस की दुनिया में क्रांति ला दी है। यह मॉडल शानदार टेक्स्ट जनरेशन और समस्या हल करने में माहिर हैं, लेकिन एक बड़ी कमी अब तक बनी हुई थी—यह तेजी से जवाब तो दे सकते हैं, लेकिन बिना गहराई में सोचे-समझे। यानी, जब आप कोई सवाल पूछते हैं, तो यह बिना दोबारा सोच-विचार किए एक बार में जवाब दे देते हैं।
हालांकि, “Slow Thinking” जैसी कुछ नई तकनीकों ने इसे सुधारने की कोशिश की है। उदाहरण के लिए, “Chain-of-Thought” (CoT) जैसी रणनीतियाँ बड़े सवालों को छोटे-छोटे हिस्सों में तोड़कर हल करने की कोशिश करती हैं। लेकिन समस्या यह है कि यह मॉडल पहले से दिए गए स्थिर (Static) ज्ञान पर निर्भर रहते हैं और नए डेटा को सोचने के दौरान शामिल नहीं कर पाते। इसका असर तब दिखता है जब कोई सवाल रीयल-टाइम अपडेट या कई स्तरों पर सोचने की जरूरत करता हो, जैसे कि मल्टी-हॉप क्वेश्चन आंसरिंग या जटिल कोड जनरेशन।
अब AI को मिलेगा नया दिमाग—CoAT!
इस समस्या को हल करने के लिए Qihoo 360 की Digital Security Group के रिसर्चर्स ने “Chain-of-Associated-Thoughts (CoAT)” नाम का नया फ्रेमवर्क पेश किया है। यह मॉडल दो बड़े इनोवेशन लेकर आया है:
- एसोसिएटिव मेमोरी मेकैनिज्म – यह एक खास तकनीक है, जो इंसानों की तरह ज्ञान को जोड़ने का काम करती है। आमतौर पर, पारंपरिक AI मॉडल पहले से तय डेटा को एक बार में लोड कर लेते हैं, लेकिन CoAT यह तय करता है कि कौन-सा ज्ञान कब एक्टिवेट करना है। इसे ऐसे समझें कि जैसे कोई गणितज्ञ सवाल हल करते समय तभी किसी थ्योरम को अप्लाई करता है, जब उसकी जरूरत पड़ती है।
- स्मार्ट MCTS एल्गोरिदम – यह एल्गोरिदम चार-चरणीय प्रक्रिया अपनाता है:
- सही जानकारी चुनना
- जानकारी को और विस्तार देना
- उसकी क्वालिटी चेक करना
- फाइनल जवाब को अपडेट करना
यह तरीका एक फीडबैक लूप बनाता है, जिससे AI लगातार अपने जवाब को सुधार सकता है और नई जानकारी को शामिल कर सकता है।
CoAT का जादू – कैसे बदल जाएगा AI?
CoAT में एक खास तरह की “डुअल-स्ट्रीम रीजनिंग आर्किटेक्चर” होती है। जब भी कोई सवाल आता है, यह दो तरह से सोचता है—एक तरफ यह पहले से तय किए गए लॉजिक को फॉलो करता है और दूसरी तरफ एक मेमोरी बैंक रखता है, जिसमें नए आइडिया जोड़ता जाता है।
इसके अलावा, CoAT हर जवाब को दो चीजों के आधार पर स्कोर देता है:
- जवाब की क्वालिटी (Fg)
- जानकारी की प्रासंगिकता (Fa)
एक बैलेंस बनाए रखने के लिए इन दोनों स्कोर को कंट्रोल करने के लिए एक पैरामीटर (β) दिया गया है, जिससे यह सुनिश्चित होता है कि केवल जरूरी जानकारी ही जुड़े, न कि कोई बेकार का डेटा।
परफॉर्मेंस में CoAT ने सबको पीछे छोड़ा!
CoAT की परफॉर्मेंस को कई टेस्ट्स पर परखा गया और नतीजे शानदार रहे। इस फ्रेमवर्क को कई मुश्किल टास्क्स पर आजमाया गया, जैसे:
- क्वालिटेटिव असेसमेंट: यानी जटिल सवालों के जवाब कितने अच्छे हैं। यहां CoAT ने ChatGPT और Qwen2.5-32B जैसे बड़े मॉडल्स को पीछे छोड़ दिया। खास बात यह रही कि CoAT ने नैतिक (Ethical) और कानूनी (Regulatory) पहलुओं को भी अपने जवाब में शामिल किया, जो दूसरे मॉडल नहीं कर पाए।
- नॉलेज-इंटेंसिव क्वेश्चन आंसरिंग: हॉटपॉटQA और 2WikiMultiHopQA जैसे डेटा सेट्स पर CoAT का परीक्षण किया गया, जहां इसने NativeRAG, IRCoT, HippoRAG और KAG जैसे अन्य RAG मॉडल्स से बेहतर प्रदर्शन किया।
- कोड जनरेशन: जब इसे Qwen2.5-Coder-7B-Instruct और Qwen2.5-Coder-14B-Instruct जैसे फाइन-ट्यून किए गए कोडिंग मॉडल्स से मुकाबला कराया गया, तो CoAT ने इन्हें भी पीछे छोड़ दिया। यह मॉडल कोडिंग टास्क्स जैसे HumanEval और MBPP में शानदार निकला।
यह भी पढ़े – 👉 गूगल ने AI से जुड़ा सबसे बड़ा वादा तोड़ा! अब AI का इस्तेमाल जंग के लिए होगा?