أشجار القرار في التعلم الآلي: الوظائف والتصنيف والإيجابيات والسلبيات

على كل شخص أن يتخذ قرارات في حياته. هذه القرارات تعتمد على الموقف. يساعد اتخاذ القرار الصحيح في مواجهة الموقف بأفضل طريقة ، وحل المشكلة بأكثر الطرق مباشرة. في مرحلة الطفولة ، ستتمحور معظم قراراتك حول ما تأكله والأشياء المتعلقة بمدرستك.

عندما تكبر ، تبدأ قراراتك في أن يكون لها تأثير أكثر خطورة ليس فقط على حياتك ولكن أيضًا على الآخرين أيضًا. في مرحلة ما من حياتك ، ستتخذ قرارات تتعلق بحياتك المهنية أو عملك. هذا القياس هو تعريفك بمفهوم شجرة القرار في التعلم الآلي.

ما هي شجرة القرار؟

للبدء ، دعنا نخبرك أن شجرة القرار هي نموذج أو أداة تنبؤية تدعم القرارات. من المعروف تقديم استنتاجات دقيقة باستخدام التصاميم أو نماذج التصميم أو التمثيلات التي تتبع هيكلًا شبيهًا بالشجرة. الهدف الأساسي لهذا النموذج أو نموذج التعلم الآلي هو النظر في سمات معينة للهدف ، ثم اتخاذ القرارات على أساس تلك السمات.

تتبع معظم القرارات في شجرة القرارات العبارات الشرطية - if and else. لكي يكون نموذج شجرة القرار أفضل من غيره ، سيكون له هيكل أعمق وقواعد أكثر تعقيدًا تحكمه. إنه أحد أكثر نماذج التعلم الخاضع للإشراف المفضلة في التعلم الآلي ويستخدم في عدد من المجالات. يمكن أن يبدو مثل مخطط انسيابي مصمم مع مراعاة التقنيات الحسابية لضمان إجراء التقسيم وفقًا للظروف.

هيكل مخطط التدفق هذا بسيط للغاية. يحتوي على عقدة جذر تعمل كأساس لبناء النموذج. بعد ذلك ، تُظهر بعض العقد والفروع الداخلية ميزات أو اختبارات ونتائج الاختبارات ، على التوالي. تمثل العقدة الطرفية مجموعة ذات قيم مماثلة لتلك القيم التي يتم تحقيقها عند اتخاذ قرارات بشأن السمات ذات الصلة.

تجد أشجار القرارات استخداماتها بشكل أساسي في مشاكل التصنيف والانحدار. يتم استخدامها لإنشاء نماذج تنبؤية آلية تخدم أكثر من عدد قليل من التطبيقات ليس فقط في تطبيقات خوارزمية التعلم الآلي ولكن أيضًا في الإحصائيات وعلوم البيانات واستخراج البيانات من بين مجالات أخرى. تقدم هذه الهياكل القائمة على الأشجار بعضًا من أكثر النماذج التنبؤية دقة والتي يمكن تفسيرها بسهولة وأكثر استقرارًا من معظم النماذج التنبؤية الأخرى.

على عكس النماذج الخطية التي لا تصلح إلا لعدد معين من المشكلات ، يمكن أيضًا استخدام النماذج القائمة على أشجار القرار في رسم خرائط للعلاقات غير الخطية. لا عجب أن أشجار القرار تحظى بشعبية كبيرة. أحد الأسباب المهمة جدًا لذلك هو مدى سهولة فهم نموذج شجرة القرار النهائي. يمكنه أن يصف بوضوح ما كان وراء التنبؤ. وهي أيضًا أساس الأساليب التعاونية أو التجميعية الأكثر تقدمًا ، بما في ذلك تعزيز التدرج والتعبئة والغابات العشوائية وغيرها.

كيف تحدد شجرة القرار؟

الآن بعد أن طورنا فهمًا أساسيًا للمفهوم ، دعنا نحدده لك. شجرة القرار هي خوارزمية تعلم آلي خاضعة للإشراف يمكن استخدامها لحل المشاكل القائمة على التصنيف والمسائل القائمة على الانحدار. دعونا نرى كيف يتم استخدامه للتصنيف.

لنفترض أن هناك مجموعة بيانات نعمل عليها حاليًا. نقوم بإنشاء خطة ثنائية الأبعاد يمكن تقسيمها إلى مناطق مختلفة بحيث يتم تخصيص النقاط في كل منطقة لنفس الفصل. يتم الإشارة إلى التقسيمات أو الانقسامات بحرف فريد. هذه شجرة ثنائية نعمل عليها هنا.

الآن ، هناك أشياء مختلفة في شجرة القرار هذه ليس لها تمثيل مسبق ولكن تم إنشاؤها باستخدام بيانات التدريب المقدمة إلينا. تتضمن هذه الأشياء عدد العقد التي ستحتوي عليها هذه الشجرة ، وموقعها على الحافة ، وهيكلها. لن ننشئ الشجرة من الصفر هنا. سوف نتحرك للأمام فقط ، مع الأخذ في الاعتبار أن شجرتنا موجودة بالفعل.

الآن ، كيف يمكننا تصنيف نقاط الإدخال الجديدة؟ علينا فقط التحرك أسفل الشجرة للقيام بذلك. أثناء العبور ، سنستمر في طرح سؤال حول نقطة البيانات عند الوصول إلى كل عقدة. على سبيل المثال ، عندما نطرح هذا السؤال على العقدة الجذرية ، فإن الإجابة ستسمح لنا بالتفرع إلى اليمين أو اليسار. القاعدة العامة هي أنه إذا كان السؤال المطروح صحيحًا في حالة استيفاء الشرط المطروح في الشرط ، فعلينا أن نتفرع إلى اليسار. إذا لم يكن ذلك صحيحًا ، فعلينا أن نتفرع بشكل صحيح. إذا أخذتنا حالتنا إلى العقدة اليسرى ، فسنعرف الفئة التي يجب تعيين نقطة إدخال لها.

عندما يتعلق الأمر بكيفية عرض شجرة القرار ، فهناك بعض الأشياء التي لا ينبغي نسيانها أبدًا. لا توجد قاعدة أو ضرورة تنص على أنه يتعين علينا التناوب بين إحداثيات شجرة القرار أثناء اجتيازها. يمكننا اختيار استخدام ميزة أو بُعد واحد فقط. علينا أن نضع في اعتبارنا أنه يمكن استخدام أشجار القرار مع مجموعة بيانات من أي بُعد. لقد أخذنا بيانات ثنائية الأبعاد في مثالنا ، لكن هذا لا يعني أن أشجار القرار مخصصة لمجموعات البيانات ثنائية الأبعاد فقط.

الخروج: أنواع الشجرة الثنائية

هل سبق لك أن شاركت في مسابقة عشرين سؤالاً؟ إنه مشابه تمامًا لكيفية عمل أشجار القرار. دعنا نكتشف كيف؟ الهدف النهائي للعبة Twenty Questions هو معرفة الشيء الذي يفكر فيه الشخص الذي يجيب على الأسئلة أثناء الإجابة على الأسئلة. لا يمكن الإجابة على الأسئلة إلا بنعم أو لا.

أثناء تقدمك في اللعبة ، ستعرف من الإجابات السابقة الأسئلة المحددة التي يجب طرحها للوصول إلى الإجابة الصحيحة قبل انتهاء اللعبة. شجرة القرار هي سلسلة الأسئلة التي تساعدك في الوصول إلى الإجابة النهائية عن طريق إرشادك لطرح المزيد من الأسئلة ذات الصلة.

هل تتذكر كيف يتم توجيهك إلى الشخص الذي تريد التحدث إليه في شركة عن طريق البريد الصوتي؟ تتحدث أولاً إلى المساعد المحوسب ثم تضغط على سلسلة من الأزرار على هواتفك وتدخل بعض التفاصيل حول حسابك قبل أن تصل إلى الشخص الذي تريد التحدث إليه في المقام الأول. قد تكون هذه تجربة مزعجة بالنسبة لك ولكن هذه هي الطريقة التي تستخدم بها معظم الشركات أشجار القرار لمساعدة عملائها في الوصول إلى القسم المناسب أو التحدث إلى الشخص المناسب. اقرأ أيضًا 6 أنواع من التعلم الخاضع للإشراف يجب أن تعرفه.

كيف تعمل شجرة القرار؟

هل تفكر في كيفية إنشاء شجرة قرارات مثالية؟ كما أشرنا سابقًا ، فإن أشجار القرار هي فئة من الخوارزميات المستخدمة لحل مشكلات التعلم الآلي التي تنتمي إلى أنواع التصنيف والانحدار. يمكن استخدامه لكل من المتغيرات الفئوية وكذلك المستمرة.

تحتوي هذه الخوارزمية على طريقة بسيطة للمضي قدمًا - فهي تقسم مجموعة البيانات أو عينات البيانات إلى مجموعات مختلفة من البيانات مع مشاركة كل مجموعة بيانات معًا في نفس السمات. تستخدم أشجار القرار عددًا من الخوارزميات لأغراض مختلفة - حدد الانقسام ، والمتغيرات الأكثر أهمية ، وأفضل قيمة للنتيجة التي يمكن أن تنتج المزيد من التقسيمات الفرعية.

عادةً ما يتضمن سير عمل شجرة القرار تقسيم البيانات إلى مجموعة بيانات تدريب واختبار ، وتطبيق الخوارزميات ، وتقييم أداء النموذج. دعونا نفهم كيف يعمل مع مثال بسيط للغاية. لنفترض أننا نريد التحقق مما إذا كان الشخص مناسبًا لوظيفة أم لا. سيكون هذا جذر الشجرة.

ننتقل الآن إلى ميزات أو سمات الشجرة ، والتي ستشكل العقد الداخلية. بناءً على هذه السمات ، سيتم اتخاذ القرارات - تشكيل فروع الشجرة. دعونا نفترض افتراض آخر هنا. المعلمة للشخص الذي يعتبر مناسبًا للوظيفة هي خبرته لمدة 5 سنوات أو أكثر. سيتم إجراء القسمة الأولى على هذه المعلمة التي حددناها للتو.

نحن بحاجة إلى المزيد من مجموعات المعلمات لمزيد من الانقسام. يمكن أن تكون هذه المعلمات عنهم ينتمون إلى فئة عمرية معينة أم لا ، ويحملون درجة معينة أم لا ، وما إلى ذلك. تظهر النتائج بأوراق الشجرة ، بخلاف الجذور والأغصان. الأوراق لا تنقسم وتصور القرارات. ستساعدك هذه الشجرة على تحديد ما إذا كان المرشح مناسبًا للوظيفة أم لا.

كما ذكرنا سابقًا ، فإن لشجرة القرار تمثيلها الخاص الذي يمكّنها من حل مشكلة بالنسبة لنا. لها جذور وعقد داخلية وفروع وأوراق ، كل منها يخدم غرضًا معينًا أو يقوم بعمل معين. ستساعدك هذه الخطوات على تمثيل الشجرة:

1. يتميز جذر الشجرة بالإصدار الأمثل لأفضل سمة
2. قسِّم بيانات العينة إلى مجموعات فرعية باستخدام السمات المناسبة. تأكد من أن المجموعات الفرعية الجديدة أو مجموعات البيانات لا تحمل قيمًا مختلفة لنفس السمة
3. كرر الخطوتين السابقتين حتى تحصل على أوراق كل فرع في شجرة قرارك

شجرة التصنيف أو الانحدار (CART)

دعونا نأخذ مثالا على ذلك. تخيل أننا مُنحنا مهمة تصنيف المرشحين للوظائف على أساس بعض السمات المحددة مسبقًا لضمان اختيار المرشحين المستحقين فقط في نهاية العملية. يعتمد قرار اختيار المرشح على وقت حقيقي أو حدث محتمل. كل ما نحتاجه هو شجرة قرارات لإيجاد المعايير الصحيحة للتصنيف. تعتمد النتائج على كيفية إجراء التصنيف.

التصنيف ، كما نعلم جميعًا ، يحتوي على خطوتين. تتضمن الخطوة الأولى بناء نموذج عشوائي على مجموعة بيانات العينة. تتضمن الخطوة الثانية التنبؤ - يتم تنفيذ النموذج الذي تم تدريبه في الخطوة الأولى للتنبؤ بالاستجابة لبيانات معينة.

الآن ، هناك مواقف معينة يكون فيها المتغير المستهدف هو رقم حقيقي ، أو يتم اتخاذ قرارات بشأن بيانات مستمرة. قد يُطلب منك إجراء تنبؤ بشأن سعر عنصر ما بناءً على تكلفة العمالة. أو قد يُطلب منك تحديد راتب المرشح بناءً على راتبه السابق ومجموعة المهارات والخبرة وغيرها من المعلومات ذات الصلة.

ستكون قيمة القيمة المستهدفة في هذه المواقف إما قيمة حقيقية أو قيمة مرتبطة بمجموعة بيانات مستمرة. سنستخدم نسخة الانحدار من شجرة القرار لحل هذه المشكلات. ستأخذ هذه الشجرة في الاعتبار الملاحظات التي تم إجراؤها على ميزات الكائن وتدريب النموذج على عمل تنبؤات وتوفير ناتج مستمر يكون منطقيًا تمامًا.

دعونا نتحدث الآن عن بعض أوجه التشابه والاختلاف بين التصنيف وأشجار قرار الانحدار. تُستخدم أشجار القرار كنماذج تصنيف في المواقف التي تكون فيها المتغيرات المستهدفة ذات طبيعة قاطعة. القيمة التي تحصل عليها مجموعة بيانات التدريب عند ذروة عقدة طرفية تساوي القيمة التي تم تلقيها عندما نأخذ نمطًا من الملاحظات لهذا القسم المعين. في حالة إضافة أي ملاحظة جديدة إلى هذا القسم من الشجرة ، سنستبدلها بقيمة الوضع ، ثم نقوم بالتنبؤ.

من ناحية أخرى ، يتم استخدام أشجار القرار كنماذج انحدار عندما تكون المتغيرات المستهدفة جزءًا من مجموعة بيانات مستمرة. القيمة المتلقاة في نفس النقطة التي ناقشناها لأشجار التصنيف ، هي القيمة المتوسطة للملاحظات في هذا القسم عندما يتعلق الأمر بأشجار الانحدار.

هناك بعض أوجه التشابه أيضًا. يستخدم كلا نموذجي شجرة القرار نهجًا ثنائيًا متكررًا ويقسم المتغيرات المستقلة إلى مناطق لا تتداخل مع بعضها البعض وتكون محددة. في كلتا الشجرتين ، يبدأ التقسيم من أعلى الشجرة ، وتكمن الملاحظات في منطقة واحدة. قسمت هذه الملاحظات المتغيرات إلى فرعين. هذا التقسيم هو عملية مستمرة تفسح المجال لشجرة كاملة النمو.

قراءة: أفكار مشروع التعلم الآلي

كيف تتعلم نموذج CART؟

هناك بعض الأشياء المهمة التي يتعين عليك القيام بها لإنشاء نموذج CART. وتشمل هذه اختيار متغيرات الإدخال وكذلك نقاط التقسيمات بطريقة يتم بناء الشجرة بشكل صحيح. يتم استخدام الخوارزمية الجشعة التي تقلل من دالة التكلفة لاختيار متغيرات الإدخال وكذلك نقاط التقسيم.

يتم إنهاء انقباض الشجرة بمساعدة معيار الإيقاف المحدد مسبقًا. يمكن لمعيار الإيقاف أن يذكر أي شيء ، مثل عدد حالات التدريب التي تم تعيينها للعقد الطرفية للشجرة.

1. خوارزمية جشعة : يجب تقسيم مساحة الإدخال بشكل صحيح لبناء شجرة ثنائية. التقسيم الثنائي العودي هو الخوارزمية الجشعة المستخدمة لهذا الغرض. إنها طريقة عددية تتضمن اصطفاف القيم المختلفة. ثم يتم استخدام دالة التكلفة لمحاولة واختبار عدة نقاط تقسيم. يتم اختيار نقطة القسمة بأقل تكلفة. تُستخدم هذه الطريقة لتقييم جميع نقاط القسمة بالإضافة إلى متغيرات الإدخال.

2. تقليم الشجرة : يؤدي معيار الإيقاف إلى تحسين أداء شجرة قرارك. لجعلها أفضل ، يمكنك محاولة تقليم الشجرة بعد التعلم. يخبر عدد الأقسام التي تحتوي عليها شجرة القرار الكثير عن مدى تعقيدها. الجميع يفضل الأشجار التي هي أبسط من غيرها. إنهم لا يفرطون في البيانات ، ويمكن فك تشفيرها بسهولة.

أفضل طريقة لتقليم شجرة هي النظر إلى كل عقدة ورقية ومعرفة كيفية تأثير إزالتها على الشجرة. تتم إزالة العقد الورقية عندما يتطلب هذا الإجراء انخفاضًا في دالة التكلفة. عندما تعتقد أنه لا توجد طريقة يمكنك من خلالها تحسين الأداء بشكل أكبر ، يمكنك إيقاف عملية الإزالة هذه. تشمل طرق التقليم التي يمكنك استخدامها

3. معيار الإيقاف : يجب أن يكون لطريقة التقسيم الجشعة التي ذكرناها سابقاً أمر أو شرط إيقاف لمعرفة متى يجب التوقف. المعيار الشائع هو أخذ عدد المثيلات التي تم تخصيص كل عقدة طرفية لها. إذا تم الوصول إلى هذا الرقم ، فلن يحدث التقسيم ، وستعتبر هذه العقدة هي العقدة الأخيرة.

على سبيل المثال ، لنفترض أن معيار الإيقاف المحدد مسبقًا مذكور في خمس حالات. يوضح هذا الرقم أيضًا الكثير عن دقة الشجرة وفقًا لبيانات التدريب. إذا كان الأمر دقيقًا جدًا أو دقيقًا ، فسيؤدي ذلك إلى زيادة التجهيز ، مما يعني ضعف الأداء.

كيف تتجنب التداخل الزائد في شجرة القرار؟

تتعرض معظم أشجار القرار للتجهيز الزائد. يمكننا بناء شجرة قرارات قادرة على تصنيف البيانات بطريقة مثالية ، أو يمكن أن يكون لدينا موقف لا نملك فيه أي سمات للقسمة. لن يعمل هذا بشكل جيد مع مجموعة بيانات الاختبار ؛ ومع ذلك ، فإنه يناسب مجموعة بيانات التدريب. يمكنك اتباع أي من الطريقتين اللتين سنذكرهما لتجنب هذا الموقف.

يمكنك إما تقليم الشجرة إذا كانت كبيرة جدًا أو إيقاف نموها قبل أن تصل إلى حالة فرط التجهيز. في معظم الحالات ، يوجد حد محدد للتحكم في نمو الخصلة يذكر العمق وعدد الطبقات والأشياء الأخرى التي يمكن أن تحتويها. سيتم تقسيم مجموعة البيانات التي تحتاج الشجرة إلى التدريب عليها إلى مجموعة بيانات اختبار ومجموعة بيانات تدريب. سيكون لكلتا مجموعتي البيانات هاتين أعماق قصوى على أساس مجموعة بيانات التدريب وسيتم اختبارها مقابل مجموعة بيانات الاختبار. يمكنك أيضًا استخدام التحقق المتبادل مع هذا النهج.

عندما تختار تقليم الشجرة ، فإنك تختبر الإصدارات المقطوعة للشجرة مقابل الإصدار الأصلي. إذا كانت الشجرة المشذبة تعمل بشكل أفضل من نسختها عندما يتعلق الأمر بالاختبار مقابل مجموعة بيانات الاختبار ، فلن تكون الأوراق متاحة للشجرة طالما استمرت هذه الحالة.

معرفة المزيد عن: شجرة القرار في R.

مزايا نهج أشجار القرار

1. يمكن استخدامه مع البيانات المستمرة وكذلك الفئوية.
2. يمكن أن تقدم نواتج متعددة
3. يمكنه تفسير النتائج الدقيقة ، ويمكنك تحديد مدى موثوقية الأشجار والثقة بها
4. باستخدام هذه الطريقة ، يمكنك استكشاف البيانات والعثور على المتغيرات المهمة والعثور على العلاقات بين المتغيرات المختلفة لتقوية المتغيرات المستهدفة وبناء ميزات جديدة في وقت أقل كثيرًا.
5. من السهل فهمها وشرحها للآخرين
6. إنه مفيد في تنظيف البيانات. بالمقارنة مع الطرق الأخرى ، لا يستغرق الأمر وقتًا طويلاً حيث لا يوجد تأثير للقيم المفقودة والقيم المتطرفة عليه بعد نقطة معينة
7. لا تتأثر كفاءة وأداء أشجار القرار بالعلاقات غير الخطية بين الميزات
8. لا يستغرق الأمر وقتًا طويلاً لإعداد البيانات لأنها لا تحتاج إلى استبدال القيمة المفقودة وتطبيع البيانات والمزيد.
9. إنه نهج غير حدودي. لا علاقة له بتصميم المصنفات وترتيبها للمساحة

عيوب أشجار القرار

1. يمكن لبعض المستخدمين بناء أشجار قرارات معقدة للغاية ، حتى لو كانت ترضيهم. لا تعمم هذه الأشجار البيانات كما تفعل الأشجار الأبسط.
2. غالبًا ما يتم إنشاء الأشجار المنحازة بسبب سيطرة فئات معينة. هذا هو سبب أهمية موازنة بيانات العينة قبل استخدامها
3. في بعض الأحيان هذه الأشجار ليست مستقرة للغاية. يمكن أن تؤدي اختلافات البيانات إلى إنشاء شجرة لا تتناسب مع الفاتورة. يشار إلى هذا الشذوذ باسم التباين. يمكن التعامل معها باستخدام التعزيز والتعبئة.
4. لا يمكنك أن تتوقع الحصول على أفضل شجرة قرار باستخدام خوارزميات جشعة. للتخلص من هذه المشكلة ، يمكنك تدريب عدة أشجار.

خاتمة

تناقش هذه المدونة جميع الأشياء المهمة التي يحتاج المتعلم إلى معرفتها حول أشجار القرار. بعد قراءة هذه المدونة ، سيكون لديك فهم أفضل للمفهوم ، وستكون في وضع أفضل لتنفيذه في الحياة الواقعية.

إذا كنت مهتمًا بمعرفة المزيد حول التعلم الآلي والذكاء الاصطناعي ، فراجع IIIT-B & upGrad's دبلوم PG في التعلم الآلي والذكاء الاصطناعي المصمم للمهنيين العاملين ويقدم أكثر من 450 ساعة من التدريب الصارم ، وأكثر من 30 دراسة حالة ومهمة ، حالة خريجي IIIT-B ، أكثر من 5 مشاريع تكميلية عملية ومساعدة وظيفية مع أفضل الشركات.