6 أنواع من نماذج الانحدار في التعلم الآلي يجب أن تعرفها

مقدمة

الانحدار الخطي والانحدار اللوجستي نوعان من تقنيات تحليل الانحدار التي تستخدم لحل مشكلة الانحدار باستخدام التعلم الآلي. وهي من أبرز تقنيات الانحدار. ولكن ، هناك العديد من أنواع تقنيات تحليل الانحدار في التعلم الآلي ، ويختلف استخدامها وفقًا لطبيعة البيانات المعنية.

تشرح هذه المقالة الأنواع المختلفة من الانحدار في التعلم الآلي ، وتحت أي شرط يمكن استخدام كل منها. إذا كنت جديدًا في تعلم الآلة ، فستساعدك هذه المقالة بالتأكيد في فهم مفهوم نمذجة الانحدار.

ما هو تحليل الانحدار؟

تحليل الانحدار هو أسلوب نمذجة تنبؤية يحلل العلاقة بين الهدف أو المتغير التابع والمتغير المستقل في مجموعة البيانات. يتم استخدام الأنواع المختلفة لتقنيات تحليل الانحدار عندما يُظهر الهدف والمتغيرات المستقلة علاقة خطية أو غير خطية بين بعضها البعض ، ويحتوي المتغير المستهدف على قيم مستمرة. يتم استخدام تقنية الانحدار بشكل أساسي لتحديد قوة المتنبئ ، واتجاه التنبؤ ، والسلاسل الزمنية ، وفي حالة علاقة السبب والنتيجة.

تحليل الانحدار هو الأسلوب الأساسي لحل مشاكل الانحدار في التعلم الآلي باستخدام نمذجة البيانات. إنه ينطوي على تحديد أفضل خط ملائم ، وهو الخط الذي يمر عبر جميع نقاط البيانات بحيث يتم تقليل مسافة الخط من كل نقطة بيانات.

أنواع تقنيات تحليل الانحدار

هناك العديد من أنواع تقنيات تحليل الانحدار ، ويعتمد استخدام كل طريقة على عدد العوامل. تتضمن هذه العوامل نوع المتغير المستهدف وشكل خط الانحدار وعدد المتغيرات المستقلة.

فيما يلي تقنيات الانحدار المختلفة:

1. الانحدارالخطي
2. الانحدار اللوجستي
3. انحدار ريدج
4. انحدار لاسو
5. الانحدار متعدد الحدود
6. الانحدار الخطي بايزي

الأنواع المختلفة من الانحدار في تقنيات التعلم الآلي موضحة أدناه بالتفصيل:

1. الانحدار الخطي

يعد الانحدار الخطي أحد أكثر أنواع الانحدار الأساسية في التعلم الآلي . يتكون نموذج الانحدار الخطي من متغير توقع ومتغير تابع مرتبط خطيًا ببعضهما البعض. في حالة احتواء البيانات على أكثر من متغير مستقل واحد ، فإن الانحدار الخطي يسمى نماذج الانحدار الخطي المتعددة.

تُستخدم المعادلة الموضحة أدناه للإشارة إلى نموذج الانحدار الخطي:

ص = م س + ج + هـ

حيث m هو ميل الخط ، و c هو تقاطع ، و e يمثل الخطأ في النموذج.

مصدر

يتم تحديد أفضل خط ملائم من خلال تغيير قيم m و c. خطأ التوقع هو الفرق بين القيم المرصودة والقيمة المتوقعة. يتم تحديد قيم m و c بطريقة تعطي أدنى خطأ توقع. من المهم ملاحظة أن نموذج الانحدار الخطي البسيط يكون عرضة للقيم المتطرفة. لذلك ، لا ينبغي استخدامه في حالة البيانات ذات الحجم الكبير.

2. الانحدار اللوجستي

الانحدار اللوجستي هو أحد أنواع تقنيات تحليل الانحدار ، والتي تستخدم عندما يكون المتغير التابع منفصلاً. مثال: 0 أو 1 ، صواب أو خطأ ، إلخ. وهذا يعني أن المتغير المستهدف يمكن أن يحتوي على قيمتين فقط ، ويشير المنحنى السيني إلى العلاقة بين المتغير الهدف والمتغير المستقل.

تستخدم وظيفة Logit في الانحدار اللوجستي لقياس العلاقة بين المتغير المستهدف والمتغيرات المستقلة. يوجد أدناه المعادلة التي تشير إلى الانحدار اللوجستي.

logit (p) = ln (p / (1-p)) = b0 + b1X1 + b2X2 + b3X3…. + bkXk

حيث p هو احتمال حدوث الميزة.

مصدر

لاختيار الانحدار اللوجستي ، كأسلوب تحليل الانحدار ، تجدر الإشارة إلى أن حجم البيانات كبير مع حدوث تساوي تقريبًا للقيم التي تأتي في المتغيرات المستهدفة. أيضًا ، يجب ألا يكون هناك علاقة خطية متعددة ، مما يعني أنه يجب ألا يكون هناك ارتباط بين المتغيرات المستقلة في مجموعة البيانات.

3. ريدج الانحدار

مصدر

هذا نوع آخر من أنواع الانحدار في التعلم الآلي والذي يستخدم عادة عندما يكون هناك ارتباط كبير بين المتغيرات المستقلة. هذا لأنه ، في حالة البيانات متعددة الخطوط الخطية ، تعطي تقديرات المربعات الصغرى قيمًا غير متحيزة. ولكن ، في حالة وجود علاقة خطية متداخلة عالية جدًا ، يمكن أن يكون هناك بعض قيمة التحيز. لذلك ، يتم إدخال مصفوفة التحيز في معادلة Ridge Regression. هذه طريقة انحدار قوية حيث يكون النموذج أقل عرضة للتركيب الزائد.

يوجد أدناه المعادلة المستخدمة للإشارة إلى انحدار ريدج ، حيث يؤدي إدخال λ (لامدا) إلى حل مشكلة العلاقة الخطية المتعددة:

β = (X ^ {T} X + λ * I) ^ {- 1} X ^ {T} ص

تحقق من: 5 تطبيقات متطورة لتعلم الآلة

4. انحدار اللاسو

يعد Lasso Regression أحد أنواع الانحدار في التعلم الآلي الذي يقوم بالتنظيم جنبًا إلى جنب مع اختيار الميزة. يحظر الحجم المطلق لمعامل الانحدار. نتيجة لذلك ، تقترب قيمة المعامل من الصفر ، وهو ما لا يحدث في حالة Ridge Regression.

نتيجة لذلك ، يتم استخدام اختيار الميزة في Lasso Regression ، والذي يسمح بتحديد مجموعة من الميزات من مجموعة البيانات لبناء النموذج. في حالة انحدار Lasso ، يتم استخدام الميزات المطلوبة فقط ، ويتم جعل الميزات الأخرى صفرًا. هذا يساعد في تجنب فرط في النموذج. في حالة كون المتغيرات المستقلة متداخلة للغاية ، فإن انحدار اللاسو يختار متغيرًا واحدًا فقط ويجعل المتغيرات الأخرى تتقلص إلى الصفر.

مصدر

فيما يلي المعادلة التي تمثل طريقة انحدار اللاسو:

N ^ {- 1} Σ ^ {N} _ {i = 1} و (x_ {i} ، y_ {I} ، α ، β)

5. انحدار متعدد الحدود

يعد الانحدار متعدد الحدود أحد أنواع تقنيات تحليل الانحدار في التعلم الآلي ، وهو نفس الانحدار الخطي المتعدد مع القليل من التعديل. في الانحدار متعدد الحدود ، يتم الإشارة إلى العلاقة بين المتغيرات المستقلة والتابعة ، أي X و Y ، بالدرجة n.

إنه نموذج خطي كمقدر. تستخدم طريقة التربيع الأقل متوسطًا في الانحدار متعدد الحدود أيضًا. أفضل خط ملائم في الانحدار متعدد الحدود يمر عبر جميع نقاط البيانات ليس خطًا مستقيمًا ، ولكنه خط منحني ، والذي يعتمد على قوة X أو قيمة n.

مصدر

أثناء محاولة تقليل متوسط ​​الخطأ التربيعي إلى الحد الأدنى والحصول على أفضل خط ملائم ، يمكن أن يكون النموذج عرضة للتركيب الزائد. يوصى بتحليل المنحنى نحو النهاية حيث يمكن أن تعطي كثيرات الحدود الأعلى نتائج غريبة في الاستقراء.

تمثل المعادلة أدناه الانحدار متعدد الحدود:

ل = β0 + β0x1 + ε

قراءة: أفكار مشروع التعلم الآلي

6. الانحدار الخطي بايزي

يعد الانحدار البايزي أحد أنواع الانحدار في التعلم الآلي الذي يستخدم نظرية بايز لمعرفة قيمة معاملات الانحدار. في طريقة الانحدار هذه ، يتم تحديد التوزيع اللاحق للسمات بدلاً من إيجاد المربعات الصغرى. الانحدار الخطي Bayesian هو مثل كل من الانحدار الخطي والانحدار ريدج ولكنه أكثر استقرارًا من الانحدار الخطي البسيط.

مصدر

تعلم دورات AI و ML عبر الإنترنت من أفضل الجامعات في العالم - الماجستير ، وبرامج الدراسات العليا التنفيذية ، وبرنامج الشهادة المتقدم في ML & AI لتسريع حياتك المهنية.

خاتمة

بالإضافة إلى طرق الانحدار المذكورة أعلاه ، هناك العديد من أنواع الانحدار الأخرى في التعلم الآلي ، بما في ذلك Elastic Net Regression ، JackKnife Regression ، Stepwise Regression ، و Ecological Regression.

يمكن استخدام هذه الأنواع المختلفة من تقنيات تحليل الانحدار لبناء النموذج اعتمادًا على نوع البيانات المتاحة أو تلك التي تعطي أقصى قدر من الدقة. يمكنك استكشاف هذه التقنيات أكثر أو يمكنك متابعة دورة التعلم تحت الإشراف على موقعنا على الإنترنت .

إذا كنت مهتمًا بمعرفة المزيد عن التعلم الآلي ، فراجع برنامج IIIT-B & upGrad's Executive PG في التعلم الآلي والذكاء الاصطناعي المصمم للمهنيين العاملين ويقدم أكثر من 450 ساعة من التدريب الصارم ، وأكثر من 30 دراسة حالة ومهمة ، IIIT -ب حالة الخريجين ، 5+ مشاريع التخرج العملية العملية والمساعدة في العمل مع الشركات الكبرى.