Semua pelajaran

Kursus

AI tahun 11: AI generatif dan kejuruteraan ejen

Bina aplikasi LLM dengan prompt, API, retrieval, dan alat, kemudian uji keselamatannya.

Buat pelajaran mengikut turutan. Di akhir, kamu boleh mengira token, membandingkan teks melalui keserupaan embedding, dan menerangkan sampling serta tetingkap konteks. Kamu boleh menulis prompt berstruktur dan membandingkan versi prompt dengan kes ujian. Kamu boleh menyemak kod yang ditulis AI dan menulis ujian yang mesti dilalui kod itu. Kamu boleh mendapat JSON yang sepadan dengan skema, membina chatbot dengan had kos, dan membina aplikasi yang menjawab daripada dokumen serta memetiknya. Kamu boleh membina ejen dengan alat terhad dan peraturan berhenti, mempertahankan aplikasi daripada suntikan prompt, membina suite ujian automatik, dan mengeluarkan pembantu penyelidikan yang berasaskan sumber.

Cara guna pelajaran ini

  • Mula pada pelajaran yang bertanda Buat ini. Teruskan bila kamu boleh buat sendiri baris di bawah tajuk.
  • Main Permainan dulu. Kemudian jawab Kuiz. 8 daripada 10 betul untuk lulus. Lembaran kerja ada di kertas. Jawapan ada di bawah.
  • Setiap pelajaran dibina di atas pelajaran sebelumnya. Simpan set ujian untuk setiap aplikasi dan jalankannya selepas setiap perubahan.
  • Pelajaran pengekodan guna Python. Guna hanya perkhidmatan AI yang guru luluskan, jauhkan kunci API daripada kod, tetapkan had perbelanjaan, dan jangan hantar data peribadi kepada model.

Setiap pelajaran ada permainan, kuiz dan lembaran kerja.

0 daripada 36

Asas LLM

  1. 1Token dan Perbendaharaan KataKira token dan terangkan mengapa token penting.
    • Tokenkan teks dengan tokenizer sebenar.
    • Bandingkan bilangan token merentas bahasa.
    • Hubungkan token dengan kos dan had konteks.
  2. 2Keserupaan EmbeddingBandingkan teks melalui keserupaan embedding.
    • Dapatkan embedding daripada model.
    • Kira keserupaan kosinus.
    • Susun ayat mengikut makna, bukan mengikut perkataan yang sama.
  3. 3Sampling, Temperature, dan Tetingkap KonteksTerangkan sampling, temperature, dan tetingkap konteks.
    • Terangkan ramalan token seterusnya.
    • Ubah temperature dan bandingkan output.
    • Tunjukkan apa yang berlaku bila teks melebihi tetingkap konteks.
  4. 4Pretraining, Fine-tuning, dan Instruction TuningBezakan pretraining, fine-tuning, dan instruction tuning.
    • Sebut data yang digunakan setiap langkah.
    • Terangkan maklum balas daripada orang.
    • Sebut mengapa model ada had pengetahuan.

Kejuruteraan prompt

  1. 5Prompt BerstrukturTulis prompt berstruktur dengan peranan, tugas, peraturan, dan format.
    • Asingkan arahan daripada data input.
    • Nyatakan format output.
    • Bandingkan prompt berstruktur dan prompt yang tidak berstruktur.
  2. 6Contoh Few-shotPerbaiki output dengan contoh few-shot.
    • Tambah dua atau tiga contoh.
    • Pilih contoh yang merangkumi kes pinggir.
    • Ukur perubahan pada set ujian.
  3. 7Panjang, Nada, dan FormatHadkan panjang, nada, dan format.
    • Tetapkan had panjang dan tahap bacaan.
    • Beritahu model apa yang perlu dibuat bila tidak tahu.
    • Semak output terhadap setiap had.
  4. 8Kes Ujian dan Versi PromptTulis kes ujian dan bandingkan versi prompt.
    • Tulis dua puluh input ujian dengan hasil yang dijangka.
    • Beri markah kepada dua versi prompt.
    • Simpan versi yang menang.

Pengekodan berbantu AI

  1. 9Kod yang Berjalan daripada SpesifikasiDapatkan kod yang berjalan daripada spesifikasi yang jelas.
    • Tulis spesifikasi dengan input, output, dan contoh.
    • Jana kod daripada spesifikasi itu.
    • Jalankan kod itu pada contoh.
  2. 10Kod yang Ditulis AICari pepijat dan risiko dalam kod yang ditulis AI.
    • Semak kes pinggir dan pengendalian ralat.
    • Cari fungsi dan pustaka yang direka.
    • Cari kod yang tidak selamat, seperti rahsia dalam sumber.
  3. 11Ujian yang Mesti Dilalui Kod AITulis ujian yang mesti dilalui kod AI.
    • Tulis ujian dengan pytest.
    • Minta AI menulis kod supaya ujian itu lulus.
    • Tambah ujian untuk setiap pepijat yang kamu cari.
  4. 12Baiki Pepijat dengan AIBaiki pepijat dengan AI dan terangkan pembaikan itu.
    • Buat contoh kecil yang menunjukkan pepijat itu.
    • Minta AI sebabnya, bukan hanya pembaikan.
    • Terangkan mengapa pembaikan itu berjaya.

API LLM

  1. 13Permintaan Chat dan BalasanHantar permintaan chat dan baca balasan.
    • Muat kunci API daripada persekitaran.
    • Hantar permintaan dengan SDK.
    • Baca balasan dan penggunaan token.
  2. 14Mesej Sistem dan Mesej PenggunaGuna mesej sistem dan mesej pengguna.
    • Letak peraturan dalam mesej sistem.
    • Letak input pengguna dalam mesej pengguna.
    • Simpan sejarah perbualan.
  3. 15JSON yang Sepadan dengan SkemaDapatkan JSON yang sepadan dengan skema.
    • Takrifkan skema JSON.
    • Minta output yang mengikut skema itu.
    • Sahkan output dan cuba lagi jika gagal.
  4. 16Chatbot dengan Had KosBina chatbot dengan sejarah dan had kos.
    • Simpan sejarah perbualan.
    • Potong mesej lama supaya muat dalam konteks.
    • Berhenti bila had kos dicapai.

Penjanaan dengan retrieval

  1. 17Mengapa Berasaskan SumberTerangkan mengapa berasaskan sumber mengurangkan jawapan yang direka.
    • Tanya model tentang dokumen yang belum pernah dilihatnya.
    • Tambah dokumen itu dan tanya lagi.
    • Lukis aliran ambil dahulu, kemudian jana.
  2. 18Pecah Dokumen kepada KetulanPecah dokumen kepada ketulan.
    • Pecah mengikut saiz dengan bahagian yang bertindih.
    • Pecah mengikut tajuk.
    • Simpan sumber dan halaman bersama setiap ketulan.
  3. 19Ketulan Paling Hampir dengan SoalanCari ketulan yang paling hampir dengan soalan.
    • Buat embedding ketulan dan simpan.
    • Ambil padanan teratas untuk satu soalan.
    • Ukur berapa kerap ketulan yang betul dijumpai.
  4. 20Jawab daripada Dokumen dan PetikBina aplikasi yang menjawab daripada dokumen dan memetiknya.
    • Letak ketulan yang diambil ke dalam prompt.
    • Wajibkan petikan untuk setiap dakwaan.
    • Semak bahawa petikan menunjuk ke bahagian yang nyata.

Alat AI dan ejen

  1. 21Model Memanggil FungsiBiarkan model memanggil satu fungsi.
    • Terangkan satu alat dengan skema.
    • Jalankan alat yang diminta model.
    • Hantar hasilnya kembali kepada model.
  2. 22Langkah yang Model Boleh JalankanPecah tugas kepada langkah yang model boleh jalankan.
    • Minta model buat pelan dahulu.
    • Jalankan pelan itu satu langkah demi satu langkah.
    • Semak setiap langkah sebelum teruskan.
  3. 23Apa yang Ejen Sudah BuatCatat apa yang ejen sudah buat.
    • Simpan setiap langkah dan hasilnya.
    • Ringkaskan sejarah yang panjang.
    • Putuskan apa yang ejen patut lupa.
  4. 24Ejen dengan Alat Terhad dan Peraturan BerhentiBina ejen dengan alat terhad dan peraturan berhenti.
    • Benarkan hanya alat yang selamat dan baca sahaja.
    • Hadkan bilangan langkah.
    • Tanya orang sebelum tindakan yang mengubah sesuatu.

AI generatif multimodal

  1. 25Model Resapan Membuat ImejTerangkan bagaimana model resapan membuat imej.
    • Terangkan menambah dan membuang hingar.
    • Terangkan bagaimana teks memandu imej.
    • Bincang kebenaran dan hak cipta untuk imej yang dijana.
  2. 26Soalan tentang ImejTanya model soalan tentang imej.
    • Hantar imej bersama satu soalan.
    • Dapatkan penerangan yang berstruktur.
    • Cari butiran yang model salah faham.
  3. 27Pertuturan ke Teks dan Teks ke PertuturanTukar pertuturan kepada teks dan teks kepada pertuturan.
    • Transkrip rakaman yang pendek.
    • Ukur kadar ralat perkataan.
    • Jana pertuturan dan labelkannya sebagai buatan AI.
  4. 28Prototaip dengan Dua Jenis InputBina prototaip yang guna dua jenis input.
    • Pilih dua input, seperti suara dan imej.
    • Sambungkan keduanya dalam satu aplikasi.
    • Uji dengan lima pengguna.

Kebolehpercayaan dan keselamatan

  1. 29Jawapan yang Sumber Tidak SokongKesan jawapan yang sumber tidak sokong.
    • Semak setiap dakwaan terhadap sumber.
    • Guna panggilan model kedua untuk tanda dakwaan yang tidak disokong.
    • Ukur berapa kerap jawapan disokong sepenuhnya.
  2. 30Suntikan PromptPertahankan aplikasi daripada suntikan prompt.
    • Tulis serangan yang disembunyikan dalam input pengguna dan dokumen.
    • Asingkan arahan yang dipercayai daripada teks yang tidak dipercayai.
    • Hadkan alat yang serangan boleh capai.
  3. 31Markah dengan Rubrik dan Set UjianBeri markah output dengan rubrik dan set ujian.
    • Tulis rubrik pemarkahan.
    • Beri markah dengan tangan dan dengan model.
    • Semak berapa kerap keduanya setuju.
  4. 32Suite Ujian AutomatikBina suite ujian automatik untuk aplikasi LLM.
    • Liputi ketepatan, format, keselamatan, dan kos.
    • Jalankan dengan satu arahan.
    • Gagalkan binaan bila markah jatuh.

Studio produk AI

  1. 33Pengguna, Ciri, dan Ukuran KejayaanTulis pengguna, ciri, dan ukuran kejayaan.
    • Pilih koleksi dokumen penyelidikan yang diluluskan.
    • Tulis pengguna dan soalan mereka.
    • Tetapkan sasaran untuk ketepatan, petikan, dan kos.
  2. 34Retrieval, Jawapan, dan PetikanBina retrieval, jawapan, dan petikan.
    • Indeks dokumen.
    • Jawab dengan petikan.
    • Jalankan suite ujian.
  3. 35Katakan Saya Tidak TahuBuat aplikasi mengatakan saya tidak tahu bila bukti tiada.
    • Kesan bila retrieval tidak jumpa yang berguna.
    • Jawab «Sumber tidak mengatakan ini», jangan meneka.
    • Uji dengan soalan yang dokumen tidak boleh jawab.
  4. 36Pembantu Penyelidikan yang Berasaskan SumberKeluarkan dan bentangkan pembantu penyelidikan yang berasaskan sumber.
    • Sebarkan aplikasi untuk kelas kamu.
    • Bentangkan markah untuk ketepatan, berasaskan sumber, keselamatan, dan kos.
    • Terangkan hadnya.