يعد انحدار LASSO، المعروف أيضًا باسم تسوية L1، أسلوبًا شائعًا يستخدم في النمذجة الإحصائية والتعلم الآلي لتقدير العلاقات بين المتغيرات وإجراء التنبؤات. LASSO تعني عامل الانكماش والاختيار الأقل مطلقًا.
الهدف الأساسي من انحدار LASSO هو إيجاد توازن بين بساطة النموذج ودقته.
ويحقق ذلك عن طريق إضافة حد جزائي إلى نموذج الانحدار الخطي التقليدي، والذي يشجع الحلول المتفرقة حيث تضطر بعض المعاملات إلى أن تكون صفرًا تمامًا.
تجعل هذه الميزة LASSO مفيدة بشكل خاص لاختيار الميزة، حيث يمكنها التعرف تلقائيًا على المتغيرات غير ذات الصلة أو الزائدة عن الحاجة والتخلص منها.
ما هو انحدار لاسو؟
انحدار لاسو هو أسلوب التنظيم. يتم استخدامه على طرق الانحدار للتنبؤ أكثر دقة. يستخدم هذا النموذج الانكماش. الانكماش هو حيث يتم تقليص قيم البيانات نحو نقطة مركزية باعتبارها المتوسط.
يشجع إجراء الحبل على النماذج البسيطة والمتفرقة (أي النماذج ذات المعلمات الأقل). يعد هذا النوع المحدد من الانحدار مناسبًا تمامًا للنماذج التي تعرض مستويات عالية من العلاقة الخطية المتعددة أو عندما تريد أتمتة أجزاء معينة من اختيار النموذج، مثل تحديد المتغير/إزالة المعلمة.
يستخدم انحدار Lasso تقنية التنظيم L1 (ستتم مناقشتها لاحقًا في هذه المقالة). يتم استخدامه عندما يكون لدينا المزيد من الميزات لأنه يقوم تلقائيًا باختيار الميزات.
وفيما يلي شرح خطوة بخطوة لكيفية عمل انحدار LASSO:
نموذج الانحدار الخطي: يبدأ انحدار LASSO بنموذج الانحدار الخطي القياسي، والذي يفترض وجود علاقة خطية بين المتغيرات المستقلة (الميزات) والمتغير التابع (الهدف). يمكن تمثيل معادلة الانحدار الخطي على النحو التالي: رمز makefileCopy y = β₀ + β₁x₁ + β₂x₂ + ... + βₚxₚ + ε حيث:
yهو المتغير التابع (الهدف).
β₀, β₁, β₂, ..., βₚهي المعاملات (المعلمات) التي سيتم تقديرها.
x₁, x₂, ..., xₚهي المتغيرات المستقلة (الميزات).
εيمثل مصطلح الخطأ.
تسوية L1 : يقدم انحدار LASSO عقوبة إضافية بناءً على القيم المطلقة للمعاملات. مصطلح التنظيم L1 هو مجموع القيم المطلقة للمعاملات مضروبة في معلمة الضبط λ: رمز scssCopy L₁ = λ * (|β₁| + |β₂| + ... + |βₚ|) حيث:
λهي معلمة التنظيم التي تتحكم في مقدار التنظيم المطبق.
β₁, β₂, ..., βₚهي المعاملات.
دالة الهدف: الهدف من انحدار LASSO هو العثور على قيم المعاملات التي تقلل مجموع الفروق المربعة بين القيم المتوقعة والقيم الفعلية، مع تقليل مصطلح التنظيم L1 أيضًا: رمز makefileCopy حيث Minimize: RSS + L₁:
RSSهو مجموع المربعات المتبقية، الذي يقيس الخطأ بين القيم المتوقعة والقيم الفعلية.
تقليص المعاملات: من خلال إضافة مصطلح التنظيم L1، يمكن أن يؤدي انحدار LASSO إلى تقليص المعاملات نحو الصفر. عندما λتكون كبيرة بما فيه الكفاية، يتم دفع بعض المعاملات إلى الصفر بالضبط. تجعل خاصية LASSO هذه مفيدة لاختيار الميزات، حيث تتم إزالة المتغيرات ذات المعاملات الصفرية بشكل فعال من النموذج.
معلمة الضبطλ : يعد اختيار معلمة التنظيم λأمرًا بالغ الأهمية في انحدار LASSO. تزيد القيمة الأكبر λمن مقدار التنظيم، مما يؤدي إلى دفع المزيد من المعاملات نحو الصفر. على العكس من ذلك، فإن القيمة الأصغر λتقلل من تأثير التنظيم، مما يسمح لعدد أكبر من المتغيرات بالحصول على معاملات غير صفرية.
ملاءمة النموذج: لتقدير المعاملات في انحدار LASSO، يتم استخدام خوارزمية التحسين لتقليل الدالة الهدف. يتم استخدام تنسيق النسب بشكل شائع، والذي يقوم بتحديث كل معامل بشكل متكرر مع تثبيت المعاملات الأخرى.
يوفر انحدار LASSO إطارًا قويًا لكل من التنبؤ واختيار الميزات، خاصة عند التعامل مع مجموعات البيانات عالية الأبعاد حيث يكون عدد الميزات كبيرًا. من خلال تحقيق التوازن بين البساطة والدقة، يمكن لـ LASSO تقديم نماذج قابلة للتفسير مع إدارة مخاطر التجاوز بشكل فعال.
تجدر الإشارة إلى أن LASSO هو مجرد نوع واحد من تقنيات التنظيم، وهناك متغيرات أخرى مثل انحدار Ridge (تنظيم L2) والشبكة المرنة
معنى لاسو
كلمة “LASSO” تعني L east A bsolute S تقلص وS انتخاب O perator. إنها صيغة إحصائية لتنظيم نماذج البيانات واختيار الميزات