Mọi bài học

Khóa học

AI lớp 11: AI tạo sinh và kỹ thuật tác nhân

Dựng ứng dụng LLM với prompt, API, truy xuất và công cụ, rồi kiểm tra an toàn.

Học các bài theo thứ tự. Cuối cùng em đếm token, so sánh văn bản theo độ giống embedding, và giải thích lấy mẫu cùng cửa sổ ngữ cảnh. Em viết prompt có cấu trúc và so sánh các phiên bản prompt bằng ca kiểm thử. Em tìm lỗi và rủi ro trong mã do AI viết, và viết bài kiểm thử mà mã đó phải qua. Em lấy JSON có cấu trúc khớp lược đồ, dựng chatbot có giới hạn chi phí, và dựng ứng dụng trả lời từ tài liệu rồi nêu nguồn. Em dựng tác nhân với công cụ giới hạn và quy tắc dừng, bảo vệ ứng dụng khỏi tiêm prompt, dựng bộ kiểm thử tự động, và phát hành trợ lý nghiên cứu bám nguồn.

Cách dùng các bài học này

  • Bắt đầu ở bài có chữ Làm việc này. Tự làm được dòng dưới tiêu đề thì mới đi tiếp.
  • Chơi Trò chơi trước. Rồi làm Bài kiểm tra. Đúng 8/10 câu thì đạt. Phiếu bài tập ở trên giấy. Đáp án ở phía dưới.
  • Mỗi bài xây trên bài trước. Giữ một bộ kiểm thử cho mỗi ứng dụng và chạy nó sau mỗi lần đổi.
  • Các bài lập trình dùng Python. Chỉ dùng dịch vụ AI thầy cô cho phép, giữ khóa API ngoài mã, đặt giới hạn chi phí, và không bao giờ gửi dữ liệu cá nhân cho mô hình.

Mỗi bài có trò chơi, bài kiểm tra và phiếu bài tập.

0/36

Nền tảng LLM

  1. 1Token và từ vựngĐếm token và giải thích vì sao token quan trọng.
    • Tách văn bản thành token bằng tokenizer thật.
    • So sánh số token giữa các ngôn ngữ.
    • Nối token với chi phí và giới hạn ngữ cảnh.
  2. 2EmbeddingSo sánh văn bản theo độ giống embedding.
    • Lấy embedding từ một mô hình.
    • Tính độ tương đồng cosine.
    • Xếp câu theo nghĩa, không theo từ chung.
  3. 3LLM sinh văn bản thế nàoGiải thích LLM sinh văn bản thế nào: lấy mẫu, nhiệt độ và cửa sổ ngữ cảnh.
    • Giải thích dự đoán token kế tiếp.
    • Đổi nhiệt độ và so sánh kết quả.
    • Cho thấy chuyện gì xảy ra khi văn bản vượt cửa sổ ngữ cảnh.
  4. 4Tiền huấn luyện và tinh chỉnhPhân biệt tiền huấn luyện, tinh chỉnh và tinh chỉnh theo lệnh.
    • Nói mỗi bước dùng dữ liệu gì.
    • Giải thích phản hồi từ người.
    • Nói vì sao mô hình có mốc kiến thức.

Kỹ thuật prompt

  1. 5Prompt có cấu trúcViết prompt có cấu trúc, gồm vai, việc, quy tắc và định dạng.
    • Tách chỉ dẫn khỏi dữ liệu đầu vào.
    • Nêu định dạng đầu ra.
    • So sánh prompt có cấu trúc và prompt không có cấu trúc.
  2. 6Vài ví dụLàm kết quả tốt hơn bằng vài ví dụ.
    • Thêm hai hoặc ba ví dụ.
    • Chọn ví dụ phủ các trường hợp biên.
    • Đo mức đổi trên một bộ kiểm thử.
  3. 7Ràng buộcDùng ràng buộc để giới hạn độ dài, giọng và định dạng.
    • Đặt giới hạn độ dài và mức đọc.
    • Bảo mô hình làm gì khi không biết.
    • Kiểm kết quả với từng ràng buộc.
  4. 8Kiểm thử promptViết ca kiểm thử và so sánh các phiên bản prompt.
    • Viết hai mươi đầu vào kiểm thử kèm kết quả mong đợi.
    • Chấm hai phiên bản prompt.
    • Giữ phiên bản thắng.

Lập trình với AI

  1. 9Sinh mãSinh mã chạy được từ một đặc tả rõ.
    • Viết đặc tả với đầu vào, đầu ra và ví dụ.
    • Sinh mã từ đặc tả đó.
    • Chạy mã trên các ví dụ.
  2. 10Xem lại mã AIXem lại mã do AI viết và tìm lỗi cùng rủi ro.
    • Kiểm trường hợp biên và cách xử lý lỗi.
    • Phát hiện hàm và thư viện bịa.
    • Phát hiện mã không an toàn, như bí mật trong mã nguồn.
  3. 11Kiểm thử trướcViết bài kiểm thử mà mã AI phải qua.
    • Viết bài kiểm thử bằng pytest.
    • Để AI viết mã cho qua các bài đó.
    • Thêm một bài kiểm thử cho mỗi lỗi tìm được.
  4. 12Gỡ lỗi với AISửa một lỗi với AI và giải thích cách sửa.
    • Làm một ví dụ nhỏ cho thấy lỗi.
    • Hỏi AI về nguyên nhân, không chỉ cách sửa.
    • Giải thích vì sao cách sửa có tác dụng.

API cho LLM

  1. 13Lần gọi API đầuGửi một yêu cầu chat qua API và đọc câu trả lời.
    • Nạp khóa API từ môi trường.
    • Gửi yêu cầu bằng SDK.
    • Đọc câu trả lời và lượng token đã dùng.
  2. 14Tin hệ thống và tin người dùngDùng tin hệ thống và tin người dùng.
    • Đặt quy tắc vào tin hệ thống.
    • Đặt dữ liệu người dùng vào tin người dùng.
    • Giữ lịch sử cuộc trò chuyện.
  3. 15Đầu ra có cấu trúcLấy JSON có cấu trúc khớp lược đồ.
    • Định nghĩa một lược đồ JSON.
    • Yêu cầu đầu ra theo lược đồ đó.
    • Kiểm đầu ra và thử lại khi sai.
  4. 16ChatbotDựng chatbot có lịch sử và giới hạn chi phí.
    • Giữ lịch sử cuộc trò chuyện.
    • Cắt tin cũ cho vừa ngữ cảnh.
    • Dừng khi chạm giới hạn chi phí.

Sinh có truy xuất

  1. 17Vì sao truy xuấtGiải thích vì sao truy xuất và bám nguồn làm giảm câu trả lời bịa.
    • Hỏi mô hình về một tài liệu nó chưa thấy.
    • Thêm tài liệu rồi hỏi lại.
    • Vẽ đường ống: truy xuất trước, sinh sau.
  2. 18Chia đoạnChia tài liệu thành đoạn.
    • Chia theo kích thước và cho chồng lên.
    • Chia theo đề mục.
    • Giữ nguồn và số trang với mỗi đoạn.
  3. 19Tìm kiếm vectorDùng tìm kiếm vector để tìm đoạn gần câu hỏi nhất.
    • Nhúng các đoạn và lưu lại.
    • Lấy các đoạn khớp nhất với câu hỏi.
    • Đo tần suất tìm đúng đoạn.
  4. 20Hỏi đáp tài liệuDựng ứng dụng trả lời từ tài liệu rồi nêu nguồn.
    • Đặt các đoạn đã truy xuất vào prompt.
    • Bắt mỗi nhận định phải có nguồn.
    • Kiểm nguồn có trỏ đúng đoạn thật.

Công cụ AI và tác nhân

  1. 21Gọi công cụĐể mô hình gọi một hàm công cụ.
    • Mô tả một công cụ bằng lược đồ.
    • Chạy công cụ mà mô hình yêu cầu.
    • Gửi kết quả lại cho mô hình.
  2. 22Lập kế hoạchLập kế hoạch: chia việc thành bước mà mô hình chạy được.
    • Xin mô hình một kế hoạch trước.
    • Chạy kế hoạch từng bước một.
    • Kiểm mỗi bước trước khi đi tiếp.
  3. 23Trạng thái và trí nhớGiữ trạng thái và trí nhớ về việc tác nhân đã làm.
    • Lưu mỗi bước và kết quả của nó.
    • Tóm tắt lịch sử dài.
    • Quyết định tác nhân nên quên gì.
  4. 24Tác nhân có kiểm soátDựng tác nhân với công cụ giới hạn và quy tắc dừng.
    • Chỉ cho phép công cụ an toàn, chỉ đọc.
    • Giới hạn số bước.
    • Hỏi người trước mọi hành động làm đổi thứ gì đó.

AI tạo sinh đa phương thức

  1. 25Sinh ảnhGiải thích mô hình khuếch tán sinh ảnh thế nào.
    • Giải thích thêm nhiễu và bỏ nhiễu.
    • Giải thích chữ dẫn ảnh thế nào.
    • Bàn về sự đồng ý và bản quyền của ảnh sinh ra.
  2. 26Thị giác và ngôn ngữHỏi mô hình về một ảnh bằng thị giác và ngôn ngữ.
    • Gửi một ảnh kèm câu hỏi.
    • Nhận một mô tả có cấu trúc.
    • Tìm một chi tiết mô hình nói sai.
  3. 27Tiếng nóiĐổi tiếng nói thành chữ và chữ thành tiếng nói.
    • Chép một đoạn ghi âm ngắn.
    • Đo tỉ lệ lỗi từ.
    • Sinh tiếng nói và ghi rõ do AI tạo.
  4. 28Nguyên mẫu đa phương thứcDựng nguyên mẫu đa phương thức dùng hai loại đầu vào.
    • Chọn hai đầu vào, như giọng nói và ảnh.
    • Nối chúng trong một ứng dụng.
    • Thử với năm người dùng.

Độ tin cậy và an toàn

  1. 29Ảo giácPhát hiện ảo giác: câu trả lời mà nguồn không chứng minh được.
    • Đối mỗi nhận định với nguồn.
    • Gọi mô hình lần nữa để gắn cờ nhận định không có nguồn.
    • Đo tần suất câu trả lời được nguồn chứng minh đầy đủ.
  2. 30Tiêm promptBảo vệ ứng dụng khỏi tiêm prompt.
    • Viết tấn công giấu trong dữ liệu người dùng và trong tài liệu.
    • Tách chỉ dẫn đáng tin khỏi văn bản không đáng tin.
    • Giới hạn công cụ mà một tấn công có thể chạm.
  3. 31Đánh giáChấm đầu ra bằng tiêu chí và bộ kiểm thử.
    • Viết một thang chấm.
    • Chấm bằng tay và bằng mô hình.
    • Xem chúng đồng ý thường đến mức nào.
  4. 32Bộ kiểm thửDựng bộ kiểm thử tự động cho một ứng dụng LLM.
    • Phủ độ đúng, định dạng, an toàn và chi phí.
    • Chạy bằng một lệnh.
    • Cho bản dựng thất bại khi điểm giảm.

Xưởng sản phẩm AI

  1. 33Đặc tả sản phẩmViết người dùng, tính năng và thước đo thành công.
    • Chọn một bộ tài liệu nghiên cứu đã được duyệt.
    • Viết người dùng và câu hỏi của họ.
    • Đặt mục tiêu cho độ đúng, nguồn và chi phí.
  2. 34Dựng đường ốngDựng đường ống truy xuất, câu trả lời và nguồn.
    • Lập chỉ mục tài liệu.
    • Trả lời kèm nguồn.
    • Chạy bộ kiểm thử.
  3. 35Nói tôi không biếtBắt ứng dụng nói tôi không biết khi thiếu bằng chứng.
    • Nhận ra khi truy xuất không tìm được gì hữu ích.
    • Trả lời «Nguồn không nói» thay vì đoán.
    • Thử bằng câu hỏi mà tài liệu không trả lời được.
  4. 36Trợ lý nghiên cứu AIPhát hành và trình bày trợ lý nghiên cứu bám nguồn.
    • Triển khai ứng dụng cho lớp.
    • Trình bày điểm độ đúng, bám nguồn, an toàn và chi phí.
    • Giải thích giới hạn của nó.