أجرت شركة أبل، بالتعاون مع باحثين من جامعة كاليفورنيا في سان دييغو، دراسة حديثة تسلط الضوء على أسلوب مبتكر لتحسين جودة الإجابات التي تولدها نماذج اللغة الكبيرة (LLMs) في مجالات معينة.
ونظرت الدراسة أيضاً في نماذج الانتشار المطبقة على التنبؤ بطي البروتين وتشفيره، في إطار بحثي وصف بأنه واسع الأفق ومثير للاهتمام.
ويقوم هذا النموذج المعروف باسم LaDiR على الجمع بين كلا النهجين: فهو يعتمد على الانتشار أثناء عملية الاستدلال، ثم يقوم بتوليد الناتج النهائي بشكل انحداري ذاتي.
ويعمل النظام عبر تشغيل عدة مسارات الاستدلال بالتوازي، حيث يقوم كل منها بتشغيل عملية الانتشار الخاصة به، مع آلية تدفعها لاستكشاف احتمالات مختلفة، مما ينتج عنه مجموعة متنوعة من الإجابات المرشحة.
وخلال مرحلة الاستدلال، يقوم النموذج بإنشاء سلسلة من كتل الاستدلال المخفية، تبدأ كل منها كنمط عشوائي (أو ضوضاء) ويتم تحسينها تدريجياً لتصبح خطوة أكثر تماسكاً.
وبمجرد تحديد النموذج أنه أكمل مرحلة التفكير، ينتقل إلى توليد الإجابة النهائية بشكل انحداري تلقائي، رمزاً واحداً في كل مرة.
وتكمن الفكرة الأساسية في قدرة LaDiR على تشغيل العديد من مسارات التفكير هذه بالتوازي، مع آلية تشجعها على استكشاف احتمالات مختلفة لتجنب تقاربها جميعاً على نفس الفكرة وتوسيع نطاق الاحتمالات. وتؤكد الدراسة أن LaDiR ليس نموذجاً جديداً بحد ذاته، بل هو إطار عمل مبني على نماذج لغوية موجودة، حيث يغير طريقة تفكيرها في حل المشكلة، بدلاً من استبدالها بالكامل
