คู่มือ Python ที่รันได้

แนวคิด AI ด้วย Python

เรียนรู้ว่าโครงข่ายประสาทเทียม แมชชีนเลิร์นนิง Transformer และ AI แบบดั้งเดิมทำงานอย่างไร ผ่านบทเรียน Python สั้น ๆ ที่รันได้และไม่ใช้ไลบรารี AI

ตัวอย่างที่รันได้ 14 รายการ

สร้างนิวรอนเทียมด้วย Python ล้วน: ผลรวมถ่วงน้ำหนักของอินพุตบวกไบแอส แล้วส่งผ่าน sigmoid หรือ ReLU

ส่งอินพุตผ่านโครงข่ายประสาทเทียมขนาดเล็กทีละชั้น แล้ววัดความคลาดเคลื่อนด้วยค่าคลาดเคลื่อนกำลังสองและ cross-entropy

ฝึกนิวรอนด้วย gradient descent: ใช้กฎลูกโซ่หาว่าน้ำหนักแต่ละตัวส่งผลต่อความสูญเสียอย่างไร แล้วก้าวลงเนิน

เปรียบเทียบ gradient descent ธรรมดา, momentum และ Adam โดยหาค่าต่ำสุดของฟังก์ชันเดียวกันทีละขั้น

ปรับสเกลฟีเจอร์ด้วย min-max normalization และ z-score standardization และคูณเมทริกซ์ด้วยมือ

ลากเส้นตรงให้พอดีข้อมูลด้วยวิธีกำลังสองน้อยที่สุด แล้วแปลงคะแนนเป็นความน่าจะเป็นด้วย logistic regression

แปลงคะแนนเป็นความน่าจะเป็นของแต่ละคลาสด้วย softmax ประเมินด้วย cross-entropy และจำแนกจุดด้วย k-nearest neighbors

วัดว่าเวกเตอร์สองตัวคล้ายกันแค่ไหนด้วย cosine similarity และจัดกลุ่มข้อมูลที่ไม่มีป้ายกำกับด้วย k-means

แปลงข้อความเป็นตัวเลขแบบที่โมเดลภาษาทำ: สร้างคลังคำ เข้ารหัสคำแบบ one-hot และเรียนรู้ token ย่อยด้วย BPE

คำนวณ scaled dot-product attention ด้วยมือจาก query, key และ value แล้วเพิ่ม causal mask แบบ GPT

ดูว่าโมเดลภาษาเลือก token ถัดไปอย่างไร: layer normalization, temperature และการสุ่มแบบ top-k ด้วย Python ล้วน

หาเส้นทางที่สั้นที่สุดบนตารางด้วยการค้นหา A* และเลือกตาเดินที่ดีที่สุดในเกมด้วย minimax

ทำนายสถานะในอนาคตด้วยห่วงโซ่มาร์คอฟ และสร้างสมดุลระหว่างการสำรวจกับการใช้ประโยชน์ด้วย bandit แบบ epsilon-greedy

สอนเอเจนต์ให้ไปถึงเป้าหมาย: คำนวณค่าของแต่ละสถานะด้วย value iteration แล้วเรียนรู้ค่าเหล่านั้นจากการลองผิดลองถูกด้วย Q-learning