実行できるPythonガイド

Pythonで学ぶAIの概念

ニューラルネットワーク、機械学習、Transformer、古典的AIの仕組みを、AIライブラリを使わない短い実行可能なPythonレッスンで学べます。

14件の実行可能なサンプル

純粋なPythonで人工ニューロンを作ります。入力の重み付き和にバイアスを足し、sigmoidやReLUに通します。

小さなニューラルネットワークに入力を層ごとに通し、二乗誤差と交差エントロピーで誤差を測ります。

勾配降下法でニューロンを学習させます。連鎖律で各重みが損失にどう影響するかを求め、坂を下るように進みます。

同じ関数を少しずつ最小化しながら、通常の勾配降下法、Momentum、Adamを比べます。

Min-max正規化とzスコア標準化で特徴量をスケーリングし、行列の掛け算を手で計算します。

最小二乗法で直線を当てはめ、ロジスティック回帰でスコアを確率に変換します。

Softmaxでスコアをクラスの確率に変え、交差エントロピーで評価し、k近傍法で点を分類します。

コサイン類似度で2つのベクトルの似ている度合いを測り、ラベルのないデータをk-meansでグループ分けします。

言語モデルと同じようにテキストを数値に変えます。語彙を作り、単語をone-hotで表し、BPEでサブワードのトークンを学習します。

Query、Key、Valueを使ってscaled dot-product attentionを手計算し、GPTのようにcausal maskを加えます。

言語モデルが次のトークンをどう選ぶかを、純粋なPythonでlayer normalization、temperature、top-kサンプリングを使って確かめます。

A*探索でグリッド上の最短経路を見つけ、ミニマックスでゲームの最善手を選びます。

マルコフ連鎖で将来の状態を予測し、epsilon-greedyバンディットで探索と活用のバランスを取ります。

エージェントにゴールへの行き方を教えます。価値反復法で状態の価値を計算し、Q学習で試行錯誤から学びます。