Tüm dersler

Kurs

11. sınıf yapay zeka: üretken yapay zeka ve ajan mühendisliği

İstemler, API'ler, getirme ve araçlarla LLM uygulamaları kur, sonra güvenlik için test et.

Dersleri sırayla çalış. Sonunda token sayarsın, metinleri gömme benzerliğiyle karşılaştırırsın ve örnekleme ile bağlam pencerelerini açıklarsın. Yapılandırılmış istemler yazarsın ve istem sürümlerini test durumlarıyla karşılaştırırsın. Yapay zekanın yazdığı koddaki hataları ve riskleri bulur, kodun geçmesi gereken testleri yazarsın. Şemayla eşleşen yapılandırılmış JSON alırsın, harcama sınırı olan bir sohbet botu kurarsın ve belgelerden yanıt verip kaynak gösteren bir uygulama kurarsın. Sınırlı araçları ve bir durma kuralı olan bir ajan kurarsın, bir uygulamayı istem enjeksiyonuna karşı korursun, otomatik bir test takımı kurarsın ve kaynaklara dayanan bir araştırma asistanı yayınlarsın.

Bu dersleri nasıl kullanırsın

  • Bunu yap yazan dersten başla. Başlığın altındaki satırı kendin yapınca devam et.
  • Önce Oyunlar. Sonra Sınav. 8/10 doğru ile geçersin. Çalışma kağıtları kağıt üzerinde. Yanıtlar en altta.
  • Her ders bir öncekinin üstüne kurulur. Her uygulama için bir test kümesi tut ve her değişiklikten sonra çalıştır.
  • Kod dersleri Python kullanır. Yalnızca öğretmeninin onayladığı yapay zeka hizmetlerini kullan, API anahtarlarını kodun dışında tut, bir harcama sınırı koy ve kişisel veriyi asla bir modele gönderme.

Her derste oyunlar, sınav ve çalışma kağıtları vardır.

0/36

LLM temelleri

  1. 1Token ve sözlükToken say ve neden önemli olduklarını açıkla.
    • Metni gerçek bir tokenizer ile tokenlara ayır.
    • Token sayılarını diller arasında karşılaştır.
    • Tokenları maliyet ve bağlam sınırına bağla.
  2. 2GömmeMetinleri gömme benzerliğiyle karşılaştır.
    • Bir modelden gömmeler al.
    • Kosinüs benzerliğini hesapla.
    • Cümleleri ortak sözcüklere göre değil, anlama göre sırala.
  3. 3LLM nasıl üretirBir LLM'in nasıl ürettiğini açıkla: örnekleme, sıcaklık ve bağlam pencereleri.
    • Sonraki token tahminini açıkla.
    • Sıcaklığı değiştir ve çıktıları karşılaştır.
    • Metin bağlam penceresini aşınca ne olduğunu göster.
  4. 4Ön eğitim ve ayarÖn eğitimi, ince ayarı ve yönerge ayarını ayırt et.
    • Her adımın hangi veriyi kullandığını söyle.
    • İnsanlardan gelen geri bildirimi açıkla.
    • Bir modelin neden bir bilgi kesim tarihi olduğunu söyle.

İstem mühendisliği

  1. 5Yapılandırılmış istemlerRol, görev, kurallar ve biçim içeren yapılandırılmış bir istem yaz.
    • Yönergeleri girdi verisinden ayır.
    • Çıktı biçimini belirt.
    • Yapılandırılmış ve yapılandırılmamış bir istemi karşılaştır.
  2. 6Az örnekÇıktıyı az örnekle iyileştir.
    • İki veya üç örnek ekle.
    • Uç durumları kapsayan örnekler seç.
    • Değişimi bir test kümesinde ölç.
  3. 7KısıtlarKısıtlarla uzunluğu, tonu ve biçimi sınırla.
    • Uzunluk ve okuma düzeyi sınırları koy.
    • Modele bilmediğinde ne yapacağını söyle.
    • Çıktıları her kısıta göre kontrol et.
  4. 8İstem testleriTest durumları yaz ve istem sürümlerini karşılaştır.
    • Beklenen sonuçlarla yirmi test girdisi yaz.
    • İki istem sürümünü puanla.
    • Kazanan sürümü tut.

Yapay zeka destekli kodlama

  1. 9Kod üretAçık bir belirtimden çalışan kod üret.
    • Girdiler, çıktılar ve örneklerle bir belirtim yaz.
    • Ondan kod üret.
    • Kodu örneklerde çalıştır.
  2. 10Yapay zeka kodunu inceleYapay zekanın yazdığı koddaki hataları ve riskleri bul.
    • Uç durumları ve hata işlemeyi kontrol et.
    • Uydurma işlevleri ve kütüphaneleri fark et.
    • Güvensiz kodu fark et, örneğin kaynakta gizli anahtarlar.
  3. 11Önce testlerYapay zeka kodunun geçmesi gereken testleri yaz.
    • pytest ile testler yaz.
    • Yapay zekaya bu testleri geçen kod yazdır.
    • Bulduğun her hata için bir test ekle.
  4. 12Yapay zeka ile hata ayıklaBir hatayı yapay zeka ile düzelt ve düzeltmeyi açıkla.
    • Hatayı gösteren küçük bir örnek yap.
    • Yapay zekadan yalnızca düzeltme değil, nedenler iste.
    • Düzeltmenin neden işe yaradığını açıkla.

LLM API'leri

  1. 13İlk API çağrısıBir API sohbet isteği gönder ve yanıtı oku.
    • API anahtarını ortamdan yükle.
    • Bir SDK ile istek gönder.
    • Yanıtı ve token kullanımını oku.
  2. 14Sistem ve kullanıcı iletileriSistem ve kullanıcı iletilerini kullan.
    • Kuralları sistem iletisine koy.
    • Kullanıcı girdisini kullanıcı iletilerine koy.
    • Bir konuşmanın geçmişini tut.
  3. 15Yapılandırılmış çıktıŞemayla eşleşen yapılandırılmış JSON al.
    • Bir JSON şeması tanımla.
    • Ona uyan çıktı iste.
    • Çıktıyı doğrula, olmazsa yeniden dene.
  4. 16Sohbet botuGeçmişi ve harcama sınırı olan bir sohbet botu kur.
    • Konuşma geçmişini tut.
    • Eski iletileri bağlama sığsın diye kısalt.
    • Harcama sınırına ulaşınca dur.

Getirmeyle üretim

  1. 17Neden getirmeGetirme ve kaynağa dayanmanın uydurma yanıtları neden azalttığını açıkla.
    • Modele hiç görmediği bir belgeyi sor.
    • Belgeyi ekle ve yeniden sor.
    • Önce getirme, sonra üretme hattını çiz.
  2. 18Parçalara bölmeBelgeleri parçalara böl.
    • Örtüşmeyle boyuta göre böl.
    • Başlıklara göre böl.
    • Her parçayla kaynağı ve sayfayı sakla.
  3. 19Vektör aramaVektör aramayla soruya en yakın parçaları bul.
    • Parçaların gömmesini al ve sakla.
    • Bir soru için en iyi eşleşmeleri getir.
    • Doğru parçanın ne sıklıkla bulunduğunu ölç.
  4. 20Belge soru-cevapBelgelerden yanıt verip kaynak gösteren bir uygulama kur.
    • Getirilen parçaları isteme koy.
    • Her iddia için bir kaynak iste.
    • Kaynakların gerçek pasajlara işaret ettiğini kontrol et.

Yapay zeka araçları ve ajanlar

  1. 21Araç çağırmaModelin bir araç işlevi çağırmasını sağla.
    • Bir aracı şemayla tanımla.
    • Modelin istediği aracı çalıştır.
    • Sonucu modele geri gönder.
  2. 22PlanlamaPlan yap: bir görevi modelin çalıştırabileceği adımlara böl.
    • Önce modelden bir plan iste.
    • Planı birer adım çalıştır.
    • Devam etmeden her adımı kontrol et.
  3. 23Durum ve bellekDurum ve bellekle ajanın ne yaptığını izle.
    • Her adımı ve sonucunu sakla.
    • Uzun geçmişleri özetle.
    • Ajanın neyi unutması gerektiğine karar ver.
  4. 24Kontrollü ajanSınırlı araçları ve bir durma kuralı olan bir ajan kur.
    • Yalnızca güvenli, salt okunur araçlara izin ver.
    • Adım sayısına üst sınır koy.
    • Bir şeyi değiştiren her eylemden önce bir kişiye sor.

Çok modlu üretken yapay zeka

  1. 25Görüntü üretimiDifüzyon modellerinin görüntüyü nasıl ürettiğini açıkla.
    • Gürültü eklemeyi ve çıkarmayı açıkla.
    • Metnin görüntüyü nasıl yönlendirdiğini açıkla.
    • Üretilen görüntüler için onay ve telif hakkını tartış.
  2. 26Görme ve dilGörme ve dille bir görüntü hakkında modele soru sor.
    • Bir görüntüyü bir soruyla birlikte gönder.
    • Yapılandırılmış bir betim al.
    • Modelin yanlış bildiği bir ayrıntıyı bul.
  3. 27KonuşmaKonuşmayı metne, metni konuşmaya çevir.
    • Kısa bir kaydı yazıya dök.
    • Sözcük hata oranını ölç.
    • Konuşma üret ve yapay zeka yaptı diye işaretle.
  4. 28Çok modlu prototipİki tür girdi kullanan çok modlu bir prototip kur.
    • İki girdi seç, örneğin ses ve görüntü.
    • Onları bir uygulamada bağla.
    • Beş kullanıcıyla test et.

Güvenilirlik ve güvenlik

  1. 29HalüsinasyonlarHalüsinasyonları bul: kaynakların desteklemediği yanıtlar.
    • Her iddiayı kaynaklara göre kontrol et.
    • Desteklenmeyen iddiaları işaretlemek için ikinci bir model çağrısı kullan.
    • Yanıtların ne sıklıkla tam desteklendiğini ölç.
  2. 30İstem enjeksiyonuBir uygulamayı istem enjeksiyonuna karşı koru.
    • Kullanıcı girdisine ve belgelere gizlenmiş saldırılar yaz.
    • Güvenilir yönergeleri güvenilmez metinden ayır.
    • Bir saldırının hangi araçlara ulaşabileceğini sınırla.
  3. 31DeğerlendirmeÇıktıları ölçütler ve test kümeleriyle puanla.
    • Bir puanlama ölçeği yaz.
    • Elle ve bir modelle puanla.
    • Ne sıklıkla uyuştuklarını kontrol et.
  4. 32Test takımıBir LLM uygulaması için otomatik bir test takımı kur.
    • Doğruluk, biçim, güvenlik ve maliyeti kapsa.
    • Tek bir komutla çalıştır.
    • Puanlar düşünce derlemeyi başarısız yap.

Yapay zeka ürün stüdyosu

  1. 33Ürün belirtimiKullanıcıları, özellikleri ve başarı ölçülerini yaz.
    • Onaylı araştırma belgelerinden bir derleme seç.
    • Kullanıcıları ve sorularını yaz.
    • Doğruluk, kaynak ve maliyet için hedefler koy.
  2. 34Hattı kurGetirme, yanıtlar ve kaynaklardan oluşan hattı kur.
    • Belgeleri dizinle.
    • Kaynak göstererek yanıtla.
    • Test takımını çalıştır.
  3. 35Bilmiyorum deKanıt yokken uygulamanın bilmiyorum demesini sağla.
    • Getirme yararlı bir şey bulamayınca bunu fark et.
    • Tahmin etmek yerine «Kaynaklar bunu söylemiyor» diye yanıtla.
    • Belgelerin yanıtlayamadığı sorularla test et.
  4. 36Yapay zeka araştırma asistanıKaynaklara dayanan bir araştırma asistanını yayınla ve sun.
    • Uygulamayı sınıfın için dağıt.
    • Doğruluk, kaynağa dayanma, güvenlik ve maliyet puanlarını sun.
    • Sınırlarını açıkla.