ゼロから学ぶAIの概念

1 ニューラルネットワーク レッスン 4 件

1. レッスン チャレンジ 3 件 Pythonで学ぶニューロンと活性化関数 純粋なPythonで人工ニューロンを作ります。入力の重み付き和にバイアスを足し、sigmoidやReLUに通します。
2. レッスン チャレンジ 3 件 Pythonで学ぶ順伝播と損失関数 小さなニューラルネットワークに入力を層ごとに通し、二乗誤差と交差エントロピーで誤差を測ります。
3. レッスン チャレンジ 5 件 Pythonで学ぶ勾配降下法と誤差逆伝播法 勾配降下法でニューロンを学習させます。連鎖律で各重みが損失にどう影響するかを求め、坂を下るように進みます。
4. レッスン チャレンジ 4 件 Pythonで学ぶニューラルネットワークの最適化手法：SGD、Momentum、Adam 同じ関数を少しずつ最小化しながら、通常の勾配降下法、Momentum、Adamを比べます。

2 機械学習 レッスン 4 件

5. レッスン チャレンジ 3 件 Pythonで学ぶ機械学習のためのデータ準備 Min-max正規化とzスコア標準化で特徴量をスケーリングし、行列の掛け算を手で計算します。
6. レッスン チャレンジ 4 件 Pythonで学ぶ線形回帰とロジスティック回帰 最小二乗法で直線を当てはめ、ロジスティック回帰でスコアを確率に変換します。
7. レッスン チャレンジ 6 件 Pythonで学ぶ分類の基礎：Softmaxとk近傍法 Softmaxでスコアをクラスの確率に変え、交差エントロピーで評価し、k近傍法で点を分類します。
8. レッスン チャレンジ 2 件 Pythonで学ぶコサイン類似度とk-meansクラスタリング コサイン類似度で2つのベクトルの似ている度合いを測り、ラベルのないデータをk-meansでグループ分けします。

3 TransformerとLLM レッスン 3 件

9. レッスン チャレンジ 3 件 Pythonで学ぶトークン化：語彙、one-hot、バイトペアエンコーディング 言語モデルと同じようにテキストを数値に変えます。語彙を作り、単語をone-hotで表し、BPEでサブワードのトークンを学習します。
10. レッスン チャレンジ 4 件 Pythonで学ぶAttentionとSelf-Attention Query、Key、Valueを使ってscaled dot-product attentionを手計算し、GPTのようにcausal maskを加えます。
11. レッスン チャレンジ 2 件 Pythonで学ぶ言語モデルのテキスト生成：TemperatureとTop-k 言語モデルが次のトークンをどう選ぶかを、純粋なPythonでlayer normalization、temperature、top-kサンプリングを使って確かめます。

4 古典的AIと強化学習 レッスン 3 件

12. レッスン チャレンジ 4 件 Pythonで学ぶ探索とゲームAI：A*とミニマックス A*探索でグリッド上の最短経路を見つけ、ミニマックスでゲームの最善手を選びます。
13. レッスン チャレンジ 2 件 Pythonで学ぶマルコフ連鎖と探索・活用のトレードオフ マルコフ連鎖で将来の状態を予測し、epsilon-greedyバンディットで探索と活用のバランスを取ります。
14. レッスン チャレンジ 2 件 Pythonで学ぶ強化学習：価値反復法とQ学習 エージェントにゴールへの行き方を教えます。価値反復法で状態の価値を計算し、Q学習で試行錯誤から学びます。