Semua pelajaran

Kursus

AI kelas 11: AI generatif dan rekayasa agen

Bangun aplikasi LLM dengan prompt, API, retrieval, dan alat, lalu uji keamanannya.

Kerjakan pelajarannya berurutan. Di akhir, kamu bisa menghitung token, membandingkan teks lewat kemiripan embedding, dan menjelaskan sampling serta jendela konteks. Kamu bisa menulis prompt terstruktur dan membandingkan versi prompt dengan kasus uji. Kamu bisa meninjau kode yang ditulis AI dan menulis tes yang harus dilalui kode itu. Kamu bisa mendapat JSON yang cocok dengan skema, membangun chatbot dengan batas biaya, dan membangun aplikasi yang menjawab dari dokumen serta mengutipnya. Kamu bisa membangun agen dengan alat terbatas dan aturan berhenti, mempertahankan aplikasi dari injeksi prompt, membangun rangkaian tes otomatis, dan merilis asisten riset yang berdasar sumber.

Cara pakai pelajaran ini

  • Mulai di pelajaran yang bertanda Lakukan ini. Lanjut kalau kamu bisa mengerjakan sendiri baris di bawah judul.
  • Mainkan Permainan dulu. Lalu kerjakan Kuis. 8 dari 10 benar untuk lulus. Lembar kerja ada di kertas. Jawaban ada di bawah.
  • Setiap pelajaran membangun pelajaran sebelumnya. Simpan kumpulan tes untuk tiap aplikasi dan jalankan setelah tiap perubahan.
  • Pelajaran coding memakai Python. Pakai hanya layanan AI yang disetujui gurumu, jauhkan kunci API dari kodemu, tetapkan batas pengeluaran, dan jangan pernah kirim data pribadi ke model.

Setiap pelajaran punya permainan, kuis, dan lembar kerja.

0 dari 36

Dasar LLM

  1. 1Token dan kosakataHitung token dan jelaskan mengapa token penting.
    • Tokenisasi teks dengan tokenizer sungguhan.
    • Bandingkan jumlah token di berbagai bahasa.
    • Hubungkan token dengan biaya dan batas konteks.
  2. 2Kemiripan embeddingBandingkan teks lewat kemiripan embedding.
    • Ambil embedding dari sebuah model.
    • Hitung kesamaan kosinus.
    • Urutkan kalimat menurut makna, bukan menurut kata yang sama.
  3. 3Sampling, temperature, dan jendela konteksJelaskan sampling, temperature, dan jendela konteks.
    • Jelaskan prediksi token berikutnya.
    • Ubah temperature dan bandingkan hasilnya.
    • Tunjukkan apa yang terjadi saat teks melewati jendela konteks.
  4. 4Pretraining, fine-tuning, dan instruction tuningBedakan pretraining, fine-tuning, dan instruction tuning.
    • Sebut data yang dipakai tiap langkah.
    • Jelaskan umpan balik dari orang.
    • Sebut mengapa model punya batas pengetahuan.

Rekayasa prompt

  1. 5Prompt terstrukturTulis prompt terstruktur dengan peran, tugas, aturan, dan format.
    • Pisahkan instruksi dari data masukan.
    • Tentukan format keluaran.
    • Bandingkan prompt terstruktur dan prompt yang tidak terstruktur.
  2. 6Contoh few-shotPerbaiki keluaran dengan contoh few-shot.
    • Tambahkan dua atau tiga contoh.
    • Pilih contoh yang mencakup kasus tepi.
    • Ukur perubahannya pada kumpulan tes.
  3. 7Panjang, nada, dan formatBatasi panjang, nada, dan format.
    • Tetapkan batas panjang dan tingkat bacaan.
    • Beri tahu model apa yang dilakukan saat tidak tahu.
    • Periksa keluaran terhadap tiap batasan.
  4. 8Kasus uji dan versi promptTulis kasus uji dan bandingkan versi prompt.
    • Tulis dua puluh masukan tes beserta hasil yang diharapkan.
    • Beri skor pada dua versi prompt.
    • Simpan versi yang menang.

Pemrograman berbantuan AI

  1. 9Kode yang berjalan dari spesifikasiDapatkan kode yang berjalan dari spesifikasi yang jelas.
    • Tulis spesifikasi dengan masukan, keluaran, dan contoh.
    • Hasilkan kode dari spesifikasi itu.
    • Jalankan kode itu pada contoh.
  2. 10Kode yang ditulis AITemukan bug dan risiko dalam kode yang ditulis AI.
    • Periksa kasus tepi dan penanganan galat.
    • Temukan fungsi dan pustaka yang dikarang.
    • Temukan kode yang tidak aman, seperti rahasia di dalam sumber.
  3. 11Tes yang harus dilalui kode AITulis tes yang harus dilalui kode AI.
    • Tulis tes dengan pytest.
    • Minta AI menulis kode agar tes itu lulus.
    • Tambahkan tes untuk tiap bug yang kamu temukan.
  4. 12Perbaiki bug dengan AIPerbaiki bug dengan AI dan jelaskan perbaikannya.
    • Buat contoh kecil yang menunjukkan bug itu.
    • Minta AI penyebabnya, bukan hanya perbaikannya.
    • Jelaskan mengapa perbaikan itu berhasil.

API LLM

  1. 13Permintaan chat dan balasannyaKirim permintaan chat dan baca balasannya.
    • Muat kunci API dari lingkungan.
    • Kirim permintaan dengan SDK.
    • Baca balasan dan pemakaian token.
  2. 14Pesan sistem dan pesan penggunaPakai pesan sistem dan pesan pengguna.
    • Taruh aturan di pesan sistem.
    • Taruh masukan pengguna di pesan pengguna.
    • Simpan riwayat percakapan.
  3. 15JSON yang cocok dengan skemaDapatkan JSON yang cocok dengan skema.
    • Definisikan skema JSON.
    • Minta keluaran yang mengikuti skema itu.
    • Validasi keluaran dan coba lagi jika gagal.
  4. 16Chatbot dengan batas biayaBangun chatbot dengan riwayat dan batas biaya.
    • Simpan riwayat percakapan.
    • Potong pesan lama agar muat di jendela konteks.
    • Berhenti saat batas biaya tercapai.

Generasi dengan retrieval

  1. 17Mengapa berdasar sumberJelaskan mengapa berdasar sumber mengurangi jawaban yang dikarang.
    • Tanya model tentang dokumen yang belum pernah dilihatnya.
    • Tambahkan dokumen itu dan tanya lagi.
    • Gambar alur ambil dulu, lalu hasilkan.
  2. 18Pecah dokumen menjadi potonganPecah dokumen menjadi potongan.
    • Pecah menurut ukuran dengan bagian yang tumpang tindih.
    • Pecah menurut judul.
    • Simpan sumber dan halaman bersama tiap potongan.
  3. 19Potongan terdekat dengan pertanyaanTemukan potongan yang paling dekat dengan pertanyaan.
    • Buat embedding potongan dan simpan.
    • Ambil kecocokan teratas untuk sebuah pertanyaan.
    • Ukur seberapa sering potongan yang benar ditemukan.
  4. 20Menjawab dari dokumen dan mengutipnyaBangun aplikasi yang menjawab dari dokumen dan mengutipnya.
    • Taruh potongan yang diambil ke dalam prompt.
    • Wajibkan kutipan untuk tiap klaim.
    • Periksa bahwa kutipan menunjuk ke bagian yang nyata.

Alat AI dan agen

  1. 21Model memanggil fungsiBiarkan model memanggil sebuah fungsi.
    • Jelaskan sebuah alat dengan skema.
    • Jalankan alat yang diminta model.
    • Kirim hasilnya kembali ke model.
  2. 22Langkah yang bisa dijalankan modelPecah tugas menjadi langkah yang bisa dijalankan model.
    • Minta model membuat rencana lebih dulu.
    • Jalankan rencana itu satu langkah demi satu langkah.
    • Periksa tiap langkah sebelum lanjut.
  3. 23Yang sudah dilakukan agenCatat apa yang sudah dilakukan agen.
    • Simpan tiap langkah dan hasilnya.
    • Ringkas riwayat yang panjang.
    • Putuskan apa yang sebaiknya dilupakan agen.
  4. 24Agen dengan alat terbatas dan aturan berhentiBangun agen dengan alat terbatas dan aturan berhenti.
    • Izinkan hanya alat yang aman dan hanya-baca.
    • Batasi jumlah langkah.
    • Tanya orang sebelum tindakan yang mengubah sesuatu.

AI generatif multimodal

  1. 25Model difusi membuat gambarJelaskan bagaimana model difusi membuat gambar.
    • Jelaskan menambah dan menghilangkan noise.
    • Jelaskan bagaimana teks mengarahkan gambar.
    • Bahas izin dan hak cipta untuk gambar yang dihasilkan.
  2. 26Pertanyaan tentang gambarAjukan pertanyaan tentang gambar kepada model.
    • Kirim gambar bersama sebuah pertanyaan.
    • Dapatkan deskripsi yang terstruktur.
    • Temukan detail yang salah menurut model.
  3. 27Ucapan ke teks dan teks ke ucapanUbah ucapan menjadi teks dan teks menjadi ucapan.
    • Transkripsi rekaman yang pendek.
    • Ukur tingkat kesalahan kata.
    • Hasilkan ucapan dan beri label bahwa itu buatan AI.
  4. 28Prototipe dengan dua jenis masukanBangun prototipe yang memakai dua jenis masukan.
    • Pilih dua masukan, misalnya suara dan gambar.
    • Hubungkan keduanya dalam satu aplikasi.
    • Uji dengan lima pengguna.

Keandalan dan keamanan

  1. 29Jawaban yang tidak didukung sumberDeteksi jawaban yang tidak didukung sumber.
    • Periksa tiap klaim terhadap sumber.
    • Pakai panggilan model kedua untuk menandai klaim yang tidak didukung.
    • Ukur seberapa sering jawaban didukung sepenuhnya.
  2. 30Injeksi promptPertahankan aplikasi dari injeksi prompt.
    • Tulis serangan yang disembunyikan di masukan pengguna dan dokumen.
    • Pisahkan instruksi tepercaya dari teks yang tidak tepercaya.
    • Batasi alat yang bisa dijangkau serangan.
  3. 31Skor dengan rubrik dan kumpulan tesBeri skor keluaran dengan rubrik dan kumpulan tes.
    • Tulis rubrik penilaian.
    • Beri skor dengan tangan dan dengan model.
    • Periksa seberapa sering keduanya setuju.
  4. 32Rangkaian tes otomatisBangun rangkaian tes otomatis untuk aplikasi LLM.
    • Cakup akurasi, format, keamanan, dan biaya.
    • Jalankan dengan satu perintah.
    • Gagalkan build saat skor turun.

Studio produk AI

  1. 33Pengguna, fitur, dan ukuran keberhasilanTulis pengguna, fitur, dan ukuran keberhasilan.
    • Pilih kumpulan dokumen riset yang disetujui.
    • Tulis pengguna dan pertanyaan mereka.
    • Tetapkan target untuk akurasi, kutipan, dan biaya.
  2. 34Retrieval, jawaban, dan kutipanBangun retrieval, jawaban, dan kutipan.
    • Buat indeks dokumen.
    • Jawab dengan kutipan.
    • Jalankan rangkaian tes.
  3. 35Katakan saya tidak tahuBuat aplikasi mengatakan saya tidak tahu saat bukti tidak ada.
    • Deteksi saat retrieval tidak menemukan yang berguna.
    • Jawab «Sumber tidak mengatakan ini», jangan menebak.
    • Uji dengan pertanyaan yang tidak bisa dijawab dokumen.
  4. 36Asisten riset yang berdasar sumberRilis dan presentasikan asisten riset yang berdasar sumber.
    • Sebarkan aplikasi untuk kelasmu.
    • Presentasikan skor untuk akurasi, berdasar sumber, keamanan, dan biaya.
    • Jelaskan batasnya.