Hướng dẫn Python có thể chạy

Khái niệm AI với Python

Tìm hiểu cách mạng nơ-ron, machine learning, Transformer và AI cổ điển hoạt động qua các bài Python ngắn, chạy được và không dùng thư viện AI.

14 ví dụ có thể chạy

Xây dựng một nơ-ron nhân tạo bằng Python thuần: tổng có trọng số của đầu vào cộng bias, rồi đưa qua sigmoid hoặc ReLU.

Đưa đầu vào qua một mạng nơ-ron nhỏ từng lớp một, rồi đo sai số bằng bình phương sai số và cross-entropy.

Huấn luyện một nơ-ron bằng gradient descent: dùng quy tắc chuỗi để biết mỗi trọng số ảnh hưởng đến mất mát ra sao, rồi bước xuống dốc.

So sánh gradient descent thường, momentum và Adam bằng cách tối thiểu hóa cùng một hàm từng bước một.

Co giãn đặc trưng bằng chuẩn hóa min-max và z-score, và tự nhân ma trận bằng tay.

Khớp một đường thẳng bằng bình phương tối thiểu, rồi biến một điểm số thành xác suất bằng hồi quy logistic.

Biến điểm số thành xác suất của các lớp bằng softmax, đánh giá bằng cross-entropy và phân lớp điểm bằng k-láng giềng gần nhất.

Đo mức giống nhau của hai vector bằng cosine similarity và gom nhóm dữ liệu không nhãn bằng k-means.

Biến văn bản thành số như các mô hình ngôn ngữ: xây dựng từ vựng, mã hóa one-hot và học token con bằng BPE.

Tự tính scaled dot-product attention với query, key và value, rồi thêm causal mask như GPT.

Xem mô hình ngôn ngữ chọn token tiếp theo ra sao: layer normalization, temperature và lấy mẫu top-k bằng Python thuần.

Tìm đường ngắn nhất trên lưới bằng A* và chọn nước đi tốt nhất trong trò chơi bằng minimax.

Dự đoán trạng thái tương lai bằng chuỗi Markov và cân bằng giữa khám phá và khai thác với bandit epsilon-greedy.

Dạy một tác tử đi tới đích: tính giá trị trạng thái bằng value iteration, rồi học chúng qua thử và sai với Q-learning.