Όλα τα μαθήματα

Σειρά μαθημάτων

ΤΝ Β΄ Λυκείου: Παραγωγική ΤΝ και μηχανική πρακτόρων

Φτιάξε εφαρμογές LLM με προτροπές, API, ανάκτηση και εργαλεία. Μετά δοκίμασέ τες για ασφάλεια.

Κάνε τα μαθήματα με τη σειρά. Στο τέλος, μπορείς να μετράς tokens, να συγκρίνεις κείμενα με ομοιότητα ενσωματώσεων και να εξηγείς τη δειγματοληψία, τη θερμοκρασία και τα παράθυρα συμφραζομένων. Μπορείς να γράφεις δομημένη προτροπή και να συγκρίνεις εκδοχές της προτροπής με περιπτώσεις δοκιμής. Μπορείς να ελέγχεις κώδικα ΤΝ και να γράφεις δοκιμές που ο κώδικας ΤΝ πρέπει να περνά. Μπορείς να παίρνεις JSON που ταιριάζει σε σχήμα, να φτιάχνεις chatbot με όριο κόστους και να φτιάχνεις εφαρμογή που απαντά από έγγραφα και τα παραπέμπει. Μπορείς να φτιάχνεις ελεγχόμενο πράκτορα με περιορισμένα εργαλεία και κανόνα στάσης, να υπερασπίζεσαι μια εφαρμογή από έγχυση προτροπής, να φτιάχνεις αυτόματη σουίτα δοκιμών και να παραδίδεις αγκυρωμένο βοηθό έρευνας ΤΝ.

Πώς να χρησιμοποιείς αυτά τα μαθήματα

  • Ξεκίνα από το μάθημα που λέει Κάνε αυτό. Προχώρα όταν μπορείς να κάνεις μόνος σου τη γραμμή κάτω από τον τίτλο.
  • Πρώτα παίξε τα Παιχνίδια. Μετά κάνε το Κουίζ. 8 από 10 σωστές για να περάσεις. Τα Φύλλα εργασίας είναι σε χαρτί. Οι απαντήσεις είναι κάτω.
  • Κάθε μάθημα στηρίζεται στο προηγούμενο. Κράτα ένα σύνολο δοκιμών για κάθε εφαρμογή και τρέξε το μετά από κάθε αλλαγή.
  • Τα μαθήματα κώδικα χρησιμοποιούν Python. Χρησιμοποίησε μόνο υπηρεσίες ΤΝ που εγκρίνει ο δάσκαλός σου, κράτα τα κλειδιά API έξω από τον κώδικα, βάλε όριο εξόδων και μην στέλνεις ποτέ προσωπικά δεδομένα σε ένα μοντέλο.

Κάθε μάθημα έχει παιχνίδια, κουίζ και φύλλα εργασίας.

0 από 36

Βάσεις των LLM

  1. 1Tokens και λεξιλόγιοΜέτρα tokens και εξήγησε γιατί μετράνε τα tokens και το λεξιλόγιο.
    • Χώρισε κείμενο σε tokens με ένα πραγματικό εργαλείο διαχωρισμού.
    • Σύγκρινε πόσα tokens έχει κάθε γλώσσα.
    • Σύνδεσε τα tokens με το κόστος και τα όρια συμφραζομένων.
  2. 2ΕνσωματώσειςΣύγκρινε κείμενα με ομοιότητα ενσωματώσεων.
    • Πάρε ενσωματώσεις από ένα μοντέλο.
    • Υπολόγισε την ομοιότητα συνημιτόνου.
    • Κατάταξε προτάσεις κατά το νόημα, όχι κατά τις κοινές λέξεις.
  3. 3Πώς παράγουν τα LLMΕξήγησε πώς παράγουν τα LLM: τη δειγματοληψία, τη θερμοκρασία και τα παράθυρα συμφραζομένων.
    • Εξήγησε την πρόβλεψη του επόμενου token.
    • Άλλαξε τη θερμοκρασία και σύγκρινε τις εξόδους.
    • Δείξε τι γίνεται όταν το κείμενο περνά το παράθυρο συμφραζομένων.
  4. 4Προεκπαίδευση και ρύθμισηΞεχώρισε την προεκπαίδευση, τη λεπτή ρύθμιση και τη ρύθμιση με οδηγίες.
    • Πες ποια δεδομένα χρησιμοποιεί κάθε βήμα.
    • Εξήγησε την ανατροφοδότηση από ανθρώπους.
    • Πες γιατί ένα μοντέλο έχει όριο γνώσης.

Μηχανική προτροπών

  1. 5Δομημένες προτροπέςΓράψε μια δομημένη προτροπή με ρόλο, έργο, κανόνες και μορφή.
    • Χώρισε τις οδηγίες από τα δεδομένα εισόδου.
    • Δήλωσε τη μορφή της εξόδου.
    • Σύγκρινε μια δομημένη προτροπή και μία χωρίς δομή.
  2. 6Λίγα παραδείγματαΒελτίωσε την έξοδο με λίγα παραδείγματα.
    • Πρόσθεσε δύο ή τρία παραδείγματα.
    • Διάλεξε παραδείγματα που καλύπτουν τις ακραίες περιπτώσεις.
    • Μέτρησε την αλλαγή σε ένα σύνολο δοκιμών.
  3. 7ΠεριορισμοίΒάλε περιορισμούς σε μήκος, τόνο και μορφή.
    • Βάλε όρια μήκους και επιπέδου ανάγνωσης.
    • Πες στο μοντέλο τι να κάνει όταν δεν ξέρει.
    • Έλεγξε κάθε έξοδο απέναντι σε κάθε περιορισμό.
  4. 8Δοκιμές προτροπώνΓράψε δοκιμές προτροπών: περιπτώσεις δοκιμής για να συγκρίνεις εκδοχές της προτροπής.
    • Γράψε είκοσι εισόδους δοκιμής με το αναμενόμενο αποτέλεσμα.
    • Βαθμολόγησε δύο εκδοχές της προτροπής.
    • Κράτα την εκδοχή που κερδίζει.

Προγραμματισμός με βοήθεια ΤΝ

  1. 9Παραγωγή κώδικαΠαρήγαγε κώδικα που δουλεύει από μια σαφή προδιαγραφή.
    • Γράψε μια προδιαγραφή με εισόδους, εξόδους και παραδείγματα.
    • Παρήγαγε κώδικα από αυτή.
    • Τρέξε τον στα παραδείγματα.
  2. 10Έλεγχος κώδικα ΤΝΈλεγξε κώδικα ΤΝ και βρες σφάλματα και κινδύνους.
    • Έλεγξε ακραίες περιπτώσεις και χειρισμό σφαλμάτων.
    • Εντόπισε επινοημένες συναρτήσεις και βιβλιοθήκες.
    • Εντόπισε μη ασφαλή κώδικα, όπως μυστικά στον πηγαίο κώδικα.
  3. 11Πρώτα οι δοκιμέςΓράψε πρώτα δοκιμές που ο κώδικας ΤΝ πρέπει να περνά.
    • Γράψε δοκιμές με pytest.
    • Βάλε την ΤΝ να γράψει κώδικα που τις περνά.
    • Πρόσθεσε μια δοκιμή για κάθε σφάλμα που βρίσκεις.
  4. 12Αποσφαλμάτωση με ΤΝΚάνε αποσφαλμάτωση με ΤΝ: διόρθωσε ένα σφάλμα και εξήγησε τη διόρθωση.
    • Φτιάξε ένα μικρό παράδειγμα που δείχνει το σφάλμα.
    • Ζήτα από την ΤΝ τις αιτίες, όχι μόνο μια διόρθωση.
    • Εξήγησε γιατί η διόρθωση δουλεύει.

API των LLM

  1. 13Πρώτη κλήση APIΚάνε μια πρώτη κλήση API: στείλε αίτημα συνομιλίας και διάβασε την απάντηση.
    • Φόρτωσε το κλειδί API από το περιβάλλον.
    • Στείλε ένα αίτημα με ένα SDK.
    • Διάβασε την απάντηση και τη χρήση των tokens.
  2. 14Μηνύματα συστήματος και χρήστηΧρησιμοποίησε μηνύματα συστήματος και μηνύματα χρήστη.
    • Βάλε τους κανόνες στο μήνυμα συστήματος.
    • Βάλε την είσοδο του χρήστη στα μηνύματα χρήστη.
    • Κράτα το ιστορικό της συνομιλίας.
  3. 15Δομημένες έξοδοιΠάρε δομημένες εξόδους: JSON που ταιριάζει σε σχήμα.
    • Όρισε ένα σχήμα JSON.
    • Ζήτα έξοδο που το ακολουθεί.
    • Έλεγξε την έξοδο και ξαναπροσπάθησε αν αποτύχει.
  4. 16ChatbotΦτιάξε ένα chatbot με ιστορικό και όριο κόστους.
    • Κράτα το ιστορικό της συνομιλίας.
    • Κόψε τα παλιά μηνύματα για να χωρούν στα συμφραζόμενα.
    • Σταμάτα όταν φτάσει το όριο κόστους.

Παραγωγή με ανάκτηση

  1. 17Γιατί ανάκτησηΕξήγησε γιατί η ανάκτηση αγκυρώνει τις απαντήσεις και μειώνει τις επινοημένες.
    • Ρώτα ένα μοντέλο για ένα έγγραφο που δεν έχει δει ποτέ.
    • Πρόσθεσε το έγγραφο και ρώτα ξανά.
    • Σχεδίασε τη διαδρομή: πρώτα ανάκτηση, μετά παραγωγή.
  2. 18Κόψιμο σε κομμάτιαΚόψε τα έγγραφα σε κομμάτια.
    • Κόψε κατά μέγεθος, με επικάλυψη.
    • Κόψε κατά επικεφαλίδες.
    • Κράτα την πηγή και τη σελίδα σε κάθε κομμάτι.
  3. 19Διανυσματική αναζήτησηΧρησιμοποίησε διανυσματική αναζήτηση για να βρεις τα κομμάτια που είναι πιο κοντά σε μια ερώτηση.
    • Φτιάξε ενσωματώσεις των κομματιών και αποθήκευσέ τες.
    • Ανάκτησε τις καλύτερες αντιστοιχίες για μια ερώτηση.
    • Μέτρησε πόσο συχνά βρίσκεται το σωστό κομμάτι.
  4. 20Απαντήσεις από έγγραφαΦτιάξε εφαρμογή που απαντά από έγγραφα και τα παραπέμπει.
    • Βάλε τα ανακτημένα κομμάτια στην προτροπή.
    • Ζήτα παραπομπή για κάθε ισχυρισμό.
    • Έλεγξε ότι οι παραπομπές δείχνουν αληθινά αποσπάσματα.

Εργαλεία ΤΝ και πράκτορες

  1. 21Κλήση εργαλείωνΆσε ένα μοντέλο να καλέσει ένα εργαλείο, δηλαδή μια συνάρτηση.
    • Περίγραψε ένα εργαλείο με ένα σχήμα.
    • Τρέξε το εργαλείο που ζητά το μοντέλο.
    • Στείλε το αποτέλεσμα πίσω στο μοντέλο.
  2. 22ΣχεδιασμόςΣχεδίασε: χώρισε μια εργασία σε βήματα που ένα μοντέλο μπορεί να τρέξει.
    • Ζήτα από το μοντέλο πρώτα ένα σχέδιο.
    • Τρέξε το σχέδιο ένα βήμα τη φορά.
    • Έλεγξε κάθε βήμα πριν συνεχίσεις.
  3. 23Κατάσταση και μνήμηΧρησιμοποίησε κατάσταση και μνήμη για να παρακολουθείς τι έχει κάνει ένας πράκτορας.
    • Αποθήκευσε κάθε βήμα και το αποτέλεσμά του.
    • Συνόψισε τα μακριά ιστορικά.
    • Αποφάσισε τι πρέπει να ξεχάσει ο πράκτορας.
  4. 24Ελεγχόμενος πράκτοραςΦτιάξε έναν ελεγχόμενο πράκτορα με περιορισμένα εργαλεία και κανόνα στάσης.
    • Επίτρεψε μόνο ασφαλή εργαλεία μόνο για ανάγνωση.
    • Βάλε ταβάνι στον αριθμό των βημάτων.
    • Ρώτα ένα άτομο πριν από κάθε ενέργεια που αλλάζει κάτι.

Πολυτροπική παραγωγική ΤΝ

  1. 25Παραγωγή εικόνωνΕξήγησε την παραγωγή εικόνων: τα μοντέλα διάχυσης φτιάχνουν εικόνες.
    • Εξήγησε την προσθήκη και την αφαίρεση θορύβου.
    • Εξήγησε πώς το κείμενο οδηγεί την εικόνα.
    • Συζήτησε τη συγκατάθεση και τα πνευματικά δικαιώματα για παραγόμενες εικόνες.
  2. 26Όραση και γλώσσαΧρησιμοποίησε όραση και γλώσσα για να κάνεις σε ένα μοντέλο ερωτήσεις για μια εικόνα.
    • Στείλε μια εικόνα με μια ερώτηση.
    • Πάρε μια δομημένη περιγραφή.
    • Βρες μια λεπτομέρεια που το μοντέλο την έχει λάθος.
  3. 27ΟμιλίαΜετέτρεψε ομιλία σε κείμενο και κείμενο σε ομιλία.
    • Απομαγνητοφώνησε μια σύντομη ηχογράφηση.
    • Μέτρησε το ποσοστό λάθος λέξεων.
    • Παρήγαγε ομιλία και σήμανέ την ως φτιαγμένη από ΤΝ.
  4. 28Πολυτροπικό πρωτότυποΦτιάξε ένα πολυτροπικό πρωτότυπο που χρησιμοποιεί δύο είδη εισόδου.
    • Διάλεξε δύο εισόδους, όπως φωνή και εικόνα.
    • Σύνδεσέ τες σε μία εφαρμογή.
    • Δοκίμασέ το με πέντε χρήστες.

Αξιοπιστία και ασφάλεια

  1. 29ΠαραισθήσειςΕντόπισε παραισθήσεις: απαντήσεις που οι πηγές δεν στηρίζουν.
    • Έλεγξε κάθε ισχυρισμό απέναντι στις πηγές.
    • Χρησιμοποίησε μια δεύτερη κλήση μοντέλου για να σημάνεις ό,τι δεν στηρίζεται.
    • Μέτρησε πόσο συχνά η απάντηση στηρίζεται πλήρως.
  2. 30Έγχυση προτροπήςΥπερασπίσου μια εφαρμογή από έγχυση προτροπής.
    • Γράψε επιθέσεις κρυμμένες στην είσοδο του χρήστη και στα έγγραφα.
    • Χώρισε τις έμπιστες οδηγίες από μη έμπιστο κείμενο.
    • Περιόρισε σε ποια εργαλεία θα μπορούσε να φτάσει μια επίθεση.
  3. 31ΑξιολόγησηΚάνε αξιολόγηση: βαθμολόγησε εξόδους με ρουμπρίκες και σύνολα δοκιμών.
    • Γράψε μια ρουμπρίκα βαθμολόγησης.
    • Βαθμολόγησε με το χέρι και με ένα μοντέλο.
    • Έλεγξε πόσο συχνά συμφωνούν.
  4. 32Σουίτα δοκιμώνΦτιάξε μια αυτόματη σουίτα δοκιμών για μια εφαρμογή LLM.
    • Κάλυψε ακρίβεια, μορφή, ασφάλεια και κόστος.
    • Τρέξε την με μία εντολή.
    • Κάνε την κατασκευή να αποτύχει όταν πέφτουν οι βαθμοί.

Στούντιο προϊόντος ΤΝ

  1. 33Προδιαγραφή προϊόντοςΓράψε την προδιαγραφή προϊόντος: τους χρήστες, τις λειτουργίες και τα μέτρα επιτυχίας.
    • Διάλεξε μια συλλογή εγκεκριμένων εγγράφων έρευνας.
    • Γράψε τους χρήστες και τις ερωτήσεις τους.
    • Βάλε στόχους για ακρίβεια, παραπομπές και κόστος.
  2. 34Χτίσε τη ροήΧτίσε τη ροή ανάκτησης, απαντήσεων και παραπομπών.
    • Ευρετηρίασε τα έγγραφα.
    • Απάντησε με παραπομπές.
    • Τρέξε τη σουίτα δοκιμών.
  3. 35Πες δεν ξέρωΚάνε την εφαρμογή να λέει δεν ξέρω όταν λείπουν τα στοιχεία.
    • Εντόπισε πότε η ανάκτηση δεν βρίσκει τίποτα χρήσιμο.
    • Απάντησε «Οι πηγές δεν το λένε» αντί να μαντέψεις.
    • Δοκίμασέ το με ερωτήσεις που τα έγγραφα δεν μπορούν να απαντήσουν.
  4. 36Βοηθός έρευνας ΤΝΠαράδωσε και παρουσίασε έναν αγκυρωμένο βοηθό έρευνας ΤΝ.
    • Δημοσίευσε την εφαρμογή για την τάξη σου.
    • Παρουσίασε τις βαθμολογίες της για ακρίβεια, αγκύρωση, ασφάλεια και κόστος.
    • Εξήγησε τα όριά της.