AIエンジニアが2022年に学ぶべきトップディープラーニングモデルタイプ
公開: 2021-01-01目次
序章
ディープラーニングは、教師なしおよび教師あり変換、特徴抽出、分類、およびパターン分析のために、非線形情報処理のさまざまなレイヤーを活用する機械学習手法です。
非線形の情報処理となると、それは異なる階層層で構成されます。 ここで、いくつかの低レベルの概念は、高レベルの概念を定義することができます。 教師あり学習は、トレーニングセットを機械学習する形式であり、トレーニングのフェーズ中にシステムに入力として一連の例が送信されます。
各入力には出力値のラベルが付いているため、一連の入力が提供されたときにシステムは出力を認識します。 一方、教師なし学習では、入力はそれが属するクラスでラベル付けされません。 したがって、共通の特性を検索し、内部の知識に基づいて必要な変更を加えることにより、データを開発および編成するのはシステム次第です。
人工ニューラルネットワークは浅いです。 したがって、画像、自然音声、情報検索、人間のような情報処理アプリケーションなどの日常的なアプリケーションに見られるような複雑なデータを処理することはできません。 これらの種類のアプリケーションには、深層学習モデルが最適です。 ディープラーニングの助けを借りて、少ない労力でマシンのデータパターンを分類、認識、分類することができます。
関連記事：トップディープラーニングテクニック
深層学習モデルのタイプ
深層学習モデルは進化しており、それらのほとんどは人工ニューラルネットワークに基づいています。 それらの中で最も重要なのは畳み込みニューラルネットワーク（CNN）です。 また、深い生成モデルで層ごとに編成された潜在変数と命題論理も含まれています。
オートエンコーダ
これは、さまざまなコーディングパターンから学習できる人工ニューラルネットワークです。 オートエンコーダは、最も単純な形式の入力層、隠れ層、または出力層を備えた多層パーセプトロンに似ています。 出力層は、出力層と同じ数のノードを所有します。 出力ベクトルに基づいてターゲット値を予測することはありません。 代わりに、オートエンコーダはその入力を予測できます。 この学習メカニズムの概要は次のとおりです。
各入力xについて、
- すべての隠れ層と出力層でフィードフォワードを通過させることにより、アクティベーションを計算します
- 計算値間の偏差を検出するために適切な誤差関数を利用します
- エラーを逆伝播して重みを更新する
- 満足のいく出力が生成されるまで、タスクを繰り返します
隠れ層のノードが入出力ノードよりも少ない場合、最後の隠れ層のアクティブ化は、入力の圧縮表現と見なされます。 隠れ層ノードの数が多い場合、オートエンコーダーは恒等関数を学習し、ほとんどの場合役に立たないことがわかります。
ディープビリーフネット
これは、典型的な多層パーセプトロンを備えた極小値および非凸目的関数を処理するためのソリューションを提供します。 これは、他の層と相互接続された潜在変数の複数の層で構成される代替タイプの深層学習と考えることができます。 これは、ボルツマンマシンの制限付きバージョンです。
ここで、各サブネットワークの非表示レイヤーは、ネットワークの隣接レイヤーの可視入力レイヤーとして機能します。 したがって、最下位の可視レイヤーがネットワークの隣接レイヤーのトレーニングセットになります。 したがって、ネットワークのすべての層を貪欲に独立してトレーニングできます。 深層構造の各層は、深層構造の各層をトレーニングするための観測変数として隠れた変数を利用します。 ディープビリーフネットワークをトレーニングするためのアルゴリズムは次のとおりです。
- 入力ベクトルを考慮に入れる
- ボルツマンマシンのトレーニングに入力ベクトルを使用して、重み行列を取得します
- ネットワークの2つの下位層をトレーニングするために重み行列を使用します
- ネットワークRBMを使用して、隠れユニットの平均アクティベーションとサンプリングを通じて新しい入力ベクトルを生成します。
- ネットワークの上位2層に到達するまで、この手順を繰り返します。
また読む：ディープラーニングとニューラルネットワーク
畳み込みニューラルネットワーク（CNN）
これは、フィードフォワードに基づく多層パーセプトロンの別の変形です。 それは、視覚野のすべての重複領域に応答するように個々のニューロンを編成します。 これは、入力画像を取得し、画像内のさまざまな側面/オブジェクトの学習可能なバイアスと重みに重要性を割り当てることができる深層学習アルゴリズムの1つです。
それはお互いを区別することができます。 CNNでの前処理の必要性は、他の分類アルゴリズムと比較すると非常に低くなっています。 CNNは、これらの特性とフィルターを学習する機能を備えています。
CNNは、次の主要なカテゴリの1つです。
オブジェクトの検出
画像分類
画像認識
顔認識など
これらは、CNNが広く使用できる数少ない分野の一部です。
画像分類の場合、CNNは入力画像を受け入れて処理し、さまざまなカテゴリで分類を行います。 コンピューターは入力画像をピクセルの配列として視覚化し、それは画像解像度の変数です。 技術的には、CNNモデルは、トレーニングとテスト用のフィルターを備えたいくつかの畳み込み層を介して各入力画像を対象とします。
最初のレイヤーは畳み込みと呼ばれ、入力画像から特徴を抽出するために割り当てられます。 畳み込みは、入力データの小さな正方形を使用して画像の特徴を学習できるため、ピクセル間の関係を維持できます。 画像行列とフィルターまたはカーネルの2つの入力を取得して、数学演算を実行します。
画像のたたみ込みにさまざまなフィルターが用意されている場合、エッジ検出、シャープニング、フィルターによるぼかしなどの操作を実行できるようになります。
過去数年間で、コンピュータビジョンの分野はかなりの進歩を遂げました。 最大の進歩の1つはCNNです。 ディープCNNは、ジェスチャ認識、自動運転車、Facebookに投稿された写真の友達の自動タグ付け、顔のセキュリティ機能、自動ナンバープレート認識で使用される最も洗練されたコンピュータービジョンアプリケーションに進化しました。
リカレントニューラルネットワーク
これは、前のステップの出力を現在のステップへの入力として供給することができる一種のニューラルネットワークです。 従来のニューラルネットワークの入力と出力は、互いに独立しています。 ただし、文中の連続する単語を予測する必要がある場合は、前の単語を覚えておく必要があります。
RNNの出現は、隠れ層の助けを借りてこの問題を解決することを約束します。 RNNの重要な機能の1つは、いくつかの情報を順番に記憶できる隠し状態です。
RNNには、計算に関するすべての情報を記憶できるメモリが装備されています。 すべての入力に対して同じパラメーターを使用して、すべての入力または非表示レイヤーで同じタスクを実行し、目的の出力を生成できます。 これにより、他のニューラルネットワークとは対照的に、パラメータの複雑さが大幅に軽減されます。
最終的な考え
勾配の計算は、現在のステップだけでなく、前のステップにも依存します。 いくつかのアプリケーションで使用される双方向リカレントニューラルネットワークと呼ばれるバリアントがあります。 ここで、ネットワークは以前の出力と予想される将来の出力を考慮に入れます。 複数の隠れ層を導入することにより、双方向の単純なリカレントニューラルネットワークで深層学習を実現できます。
深層学習技術、機械学習について詳しく知りたい場合は、機械学習と深層学習におけるIIIT-BとupGradのPG認定を確認してください。これは、働く専門家向けに設計されており、240時間以上の厳格なトレーニング、5つ以上のケーススタディを提供します。 ＆アサインメント、IIIT-B同窓生のステータスとトップ企業との仕事の支援。