Lộ trình học

Khái niệm AI từ con số không

Nơ-ron, huấn luyện, hồi quy, phân lớp, attention, sinh văn bản, tìm kiếm và học tăng cường: mỗi ý tưởng một bài học ngắn, theo sau là các thử thách.

14 bài học · 47 thử thách

Bắt đầu lộ trình →

1 Mạng nơ-ron 4 bài học

  1. Bài học 3 thử thách Nơ-ron và hàm kích hoạt trong Python Xây dựng một nơ-ron nhân tạo bằng Python thuần: tổng có trọng số của đầu vào cộng bias, rồi đưa qua sigmoid hoặc ReLU.
  2. Bài học 3 thử thách Lan truyền xuôi và hàm mất mát trong Python Đưa đầu vào qua một mạng nơ-ron nhỏ từng lớp một, rồi đo sai số bằng bình phương sai số và cross-entropy.
  3. Bài học 5 thử thách Gradient descent và lan truyền ngược trong Python Huấn luyện một nơ-ron bằng gradient descent: dùng quy tắc chuỗi để biết mỗi trọng số ảnh hưởng đến mất mát ra sao, rồi bước xuống dốc.
  4. Bài học 4 thử thách Bộ tối ưu mạng nơ-ron: SGD, Momentum và Adam trong Python So sánh gradient descent thường, momentum và Adam bằng cách tối thiểu hóa cùng một hàm từng bước một.

2 Machine learning 4 bài học

  1. Bài học 3 thử thách Chuẩn bị dữ liệu cho machine learning trong Python Co giãn đặc trưng bằng chuẩn hóa min-max và z-score, và tự nhân ma trận bằng tay.
  2. Bài học 4 thử thách Hồi quy tuyến tính và hồi quy logistic trong Python Khớp một đường thẳng bằng bình phương tối thiểu, rồi biến một điểm số thành xác suất bằng hồi quy logistic.
  3. Bài học 6 thử thách Cơ bản về phân lớp: Softmax và k-láng giềng gần nhất trong Python Biến điểm số thành xác suất của các lớp bằng softmax, đánh giá bằng cross-entropy và phân lớp điểm bằng k-láng giềng gần nhất.
  4. Bài học 2 thử thách Cosine similarity và phân cụm k-means trong Python Đo mức giống nhau của hai vector bằng cosine similarity và gom nhóm dữ liệu không nhãn bằng k-means.

3 Transformer và LLM 3 bài học

  1. Bài học 3 thử thách Tokenization: từ vựng, one-hot và byte pair encoding trong Python Biến văn bản thành số như các mô hình ngôn ngữ: xây dựng từ vựng, mã hóa one-hot và học token con bằng BPE.
  2. Bài học 4 thử thách Attention và self-attention trong Python Tự tính scaled dot-product attention với query, key và value, rồi thêm causal mask như GPT.
  3. Bài học 2 thử thách Mô hình ngôn ngữ sinh văn bản thế nào: temperature và top-k trong Python Xem mô hình ngôn ngữ chọn token tiếp theo ra sao: layer normalization, temperature và lấy mẫu top-k bằng Python thuần.

4 AI cổ điển và học tăng cường 3 bài học

  1. Bài học 4 thử thách Tìm kiếm và AI trò chơi: A* và minimax trong Python Tìm đường ngắn nhất trên lưới bằng A* và chọn nước đi tốt nhất trong trò chơi bằng minimax.
  2. Bài học 2 thử thách Chuỗi Markov và bài toán khám phá - khai thác trong Python Dự đoán trạng thái tương lai bằng chuỗi Markov và cân bằng giữa khám phá và khai thác với bandit epsilon-greedy.
  3. Bài học 2 thử thách Học tăng cường: value iteration và Q-learning trong Python Dạy một tác tử đi tới đích: tính giá trị trạng thái bằng value iteration, rồi học chúng qua thử và sai với Q-learning.
Học tiếp: Mạng nơ-ron từ con số 0