5 tipi di algoritmi di classificazione nell'apprendimento automatico [2022]

introduzione

L'apprendimento automatico è uno degli argomenti più importanti dell'Intelligenza Artificiale. È ulteriormente suddiviso in apprendimento supervisionato e non supervisionato che può essere correlato all'analisi dei dati etichettati e non etichettati o alla previsione dei dati. In Supervised Learning abbiamo altri due tipi di problemi aziendali chiamati Regressione e Classificazione.

La classificazione è un algoritmo di apprendimento automatico in cui otteniamo i dati etichettati come input e dobbiamo prevedere l'output in una classe. Se ci sono due classi, allora si chiama Classificazione Binaria. Se sono presenti più di due classi, si parla di classificazione multiclasse. Negli scenari del mondo reale tendiamo a vedere entrambi i tipi di classificazione.

In questo articolo analizzeremo alcuni tipi di algoritmi di classificazione insieme ai loro pro e contro. Ci sono così tanti algoritmi di classificazione disponibili, ma concentriamoci sui 5 algoritmi seguenti:

1. Regressione logistica
2. K Vicino più vicino
3. Alberi decisionali
4. Foresta casuale
5. Supporta le macchine vettoriali

1. Regressione logistica

Anche se il nome suggerisce Regressione, è un algoritmo di classificazione. La regressione logistica è un metodo statistico per classificare i dati in cui sono presenti una o più variabili o caratteristiche indipendenti che determinano un risultato misurato con una variabile (TARGET) che ha due o più classi. Il suo obiettivo principale è trovare il modello più adatto per descrivere la relazione tra la variabile Target e le variabili indipendenti.

Professionisti

1) Facile da implementare, interpretare ed efficiente da addestrare in quanto non fa supposizioni ed è veloce nelle classificazioni.

2) Può essere utilizzato per la classificazione multiclasse.

3) È meno incline all'overfitting ma si adatta troppo in set di dati ad alta dimensione.

contro

1) Overfit quando le osservazioni sono inferiori alle caratteristiche.

2) Funziona solo con funzioni discrete.

3) I problemi non lineari non possono essere risolti.

4) Difficile apprendere schemi complessi e di solito le reti neurali li superano.

2. K Vicino più vicino

L'algoritmo K-nearest neighbors (KNN) utilizza la tecnica "feature similarity" o "neest neighbors" per prevedere il cluster in cui cade un nuovo punto dati. Di seguito sono riportati i pochi passaggi in base ai quali possiamo comprendere meglio il funzionamento di questo algoritmo

Passaggio 1 : per implementare qualsiasi algoritmo in Machine learning, abbiamo bisogno di un set di dati pulito pronto per la modellazione. Supponiamo di avere già un set di dati pulito che è stato suddiviso in set di dati di addestramento e test.

Passaggio 2 − Poiché abbiamo già i set di dati pronti, dobbiamo scegliere il valore di K (intero) che ci dice quanti punti dati più vicini dobbiamo prendere in considerazione per implementare l'algoritmo. Possiamo imparare a determinare il valore k nelle fasi successive dell'articolo.

Passaggio 3 : questo passaggio è iterativo e deve essere applicato per ciascun punto dati nel set di dati

1. Calcola la distanza tra i dati del test e ogni riga di dati di allenamento utilizzando una qualsiasi delle metriche di distanza
2. Distanza euclidea
3. Distanza di Manhattan
4. Distanza Minkowski
5. Distanza di Hamming.

Molti data scientist tendono a utilizzare la distanza euclidea, ma possiamo conoscere il significato di ciascuna nella fase successiva di questo articolo.

Dobbiamo ordinare i dati in base alla metrica della distanza che abbiamo utilizzato nel passaggio precedente.

Scegli le prime K righe nei dati ordinati trasformati.

Quindi assegnerà una classe al punto di test in base alla classe più frequente di queste righe.

Passaggio 4 : fine

Professionisti

1. Facile da usare, capire e interpretare.
2. Tempo di calcolo rapido.
3. Nessuna ipotesi sui dati.
4. Elevata precisione delle previsioni.
5. Versatile: può essere utilizzato sia per problemi di classificazione che di regressione.
6. Può essere utilizzato anche per problemi multiclasse.
7. Abbiamo solo un parametro Hyper da modificare nella fase di ottimizzazione di Hyperparameter.

contro

1. Computazionalmente costoso e richiede memoria elevata poiché l'algoritmo memorizza tutti i dati di addestramento.
2. L'algoritmo diventa più lento all'aumentare delle variabili.
3. È molto sensibile a caratteristiche irrilevanti.
4. Maledizione della dimensionalità.
5. Scegliere il valore ottimale di K.
6. Il set di dati di classe sbilanciato causerà problemi.
7. Anche i valori mancanti nei dati causano problemi.

Leggi: Idee per progetti di apprendimento automatico

3. Alberi decisionali

Gli alberi decisionali possono essere utilizzati sia per la classificazione che per la regressione in quanto possono gestire dati sia numerici che categoriali. Scompone il set di dati in sottoinsiemi o nodi sempre più piccoli man mano che l'albero viene sviluppato. L'albero decisionale ha un output con nodi decisione e foglia in cui un nodo decisionale ha due o più rami mentre un nodo foglia rappresenta una decisione. Il nodo più in alto che corrisponde al miglior predittore è chiamato nodo radice.

Professionisti

1. Semplice da capire
2. Visualizzazione facile
3. Meno dati Interpretazione
4. Gestisce dati sia numerici che categoriali.

contro

1. A volte non generalizzo bene
2. Instabile alle modifiche nei dati di input

4. Foreste casuali

Le foreste casuali sono un metodo di apprendimento d'insieme che può essere utilizzato per la classificazione e la regressione. Funziona costruendo diversi alberi decisionali e genera i risultati prendendo la media di tutti gli alberi decisionali in Regressione o votazione a maggioranza in Problemi di classificazione. Puoi sapere dal nome stesso che un gruppo di alberi è chiamato Foresta.

Professionisti

1. Può gestire grandi set di dati.
2. Riporterà l'importanza delle variabili.
3. Può gestire i valori mancanti.

contro

1. È un algoritmo di scatola nera.
2. Previsione lenta in tempo reale e algoritmi complessi.

5. Supporta le macchine vettoriali

La macchina vettore di supporto è una rappresentazione del set di dati come punti nello spazio separati in categorie da uno spazio o una linea chiara il più lontano possibile. I nuovi punti dati sono ora mappati nello stesso spazio e classificati in modo da appartenere a una categoria in base al lato della linea o alla separazione in cui cadono.

Professionisti

1. Funziona meglio negli spazi ad alta dimensione.
2. Utilizza un sottoinsieme di punti dati di addestramento nella funzione decisionale che lo rende un algoritmo efficiente in termini di memoria.

contro

1. Non fornirà stime di probabilità.
2. Può calcolare le stime di probabilità utilizzando la convalida incrociata ma richiede molto tempo.

Leggi anche: Carriera nell'apprendimento automatico

Conclusione

In questo articolo abbiamo discusso dei 5 algoritmi di classificazione, delle loro brevi definizioni, pro e contro. Questi sono solo alcuni degli algoritmi che abbiamo trattato, ma ci sono algoritmi più preziosi come Naive Bayes, Neural Networks, Ordered Logistic Regression. Non si può dire quale algoritmo funzioni bene per quale problema, quindi la migliore pratica è provarne alcuni e selezionare il modello finale in base alle metriche di valutazione.

Se sei interessato a saperne di più sull'apprendimento automatico, dai un'occhiata al Diploma PG di IIIT-B e upGrad in Machine Learning e AI, progettato per i professionisti che lavorano e offre oltre 450 ore di formazione rigorosa, oltre 30 casi di studio e incarichi, IIIT- B Status di Alumni, oltre 5 progetti pratici pratici e assistenza sul lavoro con le migliori aziende.