Ένα σημαντικό ερώτημα για όλες τις εφαρμογές AI είναι η συνάφεια των χαρακτηριστικών AI, καθώς το πεδίο της τεχνητής νοημοσύνης εξελίσσεται γρήγορα. Για να διασφαλίσετε ότι η εφαρμογή σας παραμένει σχετική, αξιόπιστη και ανθεκτική, πρέπει να την παρακολουθείτε, να την αξιολογείτε και να την βελτιώνετε συνεχώς. Εδώ έρχεται ο κύκλος ζωής της γενετικής τεχνητής νοημοσύνης.
Ο κύκλος ζωής της γενετικής τεχνητής νοημοσύνης είναι ένα πλαίσιο που σας καθοδηγεί στα στάδια ανάπτυξης, υλοποίησης και συντήρησης μιας εφαρμογής γενετικής τεχνητής νοημοσύνης. Σας βοηθά να ορίσετε τους στόχους σας, να μετρήσετε την απόδοσή σας, να εντοπίσετε τις προκλήσεις σας και να εφαρμόσετε τις λύσεις σας. Επίσης, σας βοηθά να ευθυγραμμίσετε την εφαρμογή σας με τα ηθικά και νομικά πρότυπα του τομέα σας και των ενδιαφερόμενων μερών σας. Ακολουθώντας τον κύκλο ζωής της γενετικής τεχνητής νοημοσύνης, μπορείτε να διασφαλίσετε ότι η εφαρμογή σας προσφέρει πάντα αξία και ικανοποιεί τους χρήστες σας.
Σε αυτό το κεφάλαιο, θα:
- Κατανοήσετε τη Μετατόπιση Παραδείγματος από MLOps σε LLMOps
- Τον Κύκλο Ζωής των LLM
- Εργαλεία Κύκλου Ζωής
- Μετρήσεις και Αξιολόγηση Κύκλου Ζωής
Τα LLMs είναι ένα νέο εργαλείο στο οπλοστάσιο της Τεχνητής Νοημοσύνης. Είναι εξαιρετικά ισχυρά σε εργασίες ανάλυσης και δημιουργίας για εφαρμογές, ωστόσο αυτή η δύναμη έχει συνέπειες στον τρόπο που οργανώνουμε τις εργασίες AI και Κλασικής Μηχανικής Μάθησης.
Με αυτό, χρειαζόμαστε ένα νέο Παραδείγμα για να προσαρμόσουμε αυτό το εργαλείο δυναμικά, με τα σωστά κίνητρα. Μπορούμε να κατηγοριοποιήσουμε τις παλαιότερες εφαρμογές AI ως "ML Apps" και τις νεότερες εφαρμογές AI ως "GenAI Apps" ή απλά "AI Apps", αντανακλώντας την κυρίαρχη τεχνολογία και τεχνικές που χρησιμοποιούνται εκείνη την εποχή. Αυτό μετατοπίζει την αφήγησή μας με πολλούς τρόπους, δείτε την ακόλουθη σύγκριση.
Παρατηρήστε ότι στα LLMOps, εστιάζουμε περισσότερο στους Προγραμματιστές Εφαρμογών, χρησιμοποιώντας τις ενσωματώσεις ως βασικό σημείο, χρησιμοποιώντας "Models-as-a-Service" και σκεπτόμενοι τα ακόλουθα σημεία για μετρήσεις.
- Ποιότητα: Ποιότητα απάντησης
- Βλάβη: Υπεύθυνη AI
- Ειλικρίνεια: Βάση απάντησης (Έχει νόημα; Είναι σωστή;)
- Κόστος: Προϋπολογισμός λύσης
- Καθυστέρηση: Μέσος χρόνος για απάντηση σε tokens
Πρώτα, για να κατανοήσουμε τον κύκλο ζωής και τις τροποποιήσεις, ας σημειώσουμε το επόμενο infographic.
Όπως μπορείτε να παρατηρήσετε, αυτό είναι διαφορετικό από τους συνήθεις κύκλους ζωής του MLOps. Τα LLMs έχουν πολλές νέες απαιτήσεις, όπως Prompting, διαφορετικές τεχνικές για τη βελτίωση της ποιότητας (Fine-Tuning, RAG, Meta-Prompts), διαφορετική αξιολόγηση και ευθύνη με υπεύθυνη AI, και τέλος, νέες μετρικές αξιολόγησης (Ποιότητα, Βλάβη, Ειλικρίνεια, Κόστος και Καθυστέρηση).
Για παράδειγμα, δείτε πώς δημιουργούμε ιδέες. Χρησιμοποιώντας την τεχνική prompt engineering για να πειραματιστούμε με διάφορα LLMs και να εξερευνήσουμε δυνατότητες για να δοκιμάσουμε αν η Υπόθεσή τους θα μπορούσε να είναι σωστή.
Σημειώστε ότι αυτό δεν είναι γραμμικό, αλλά ενσωματωμένοι κύκλοι, επαναληπτικοί και με έναν γενικό κύκλο.
Πώς θα μπορούσαμε να εξερευνήσουμε αυτά τα βήματα; Ας δούμε λεπτομερώς πώς θα μπορούσαμε να χτίσουμε έναν κύκλο ζωής.
Αυτό μπορεί να φαίνεται λίγο περίπλοκο, ας επικεντρωθούμε πρώτα στα τρία μεγάλα βήματα.
- Δημιουργία Ιδεών/Εξερεύνηση: Εξερεύνηση, εδώ μπορούμε να εξερευνήσουμε σύμφωνα με τις επιχειρηματικές μας ανάγκες. Δημιουργία πρωτοτύπων, δημιουργία ενός PromptFlow και δοκιμή αν είναι αρκετά αποτελεσματικό για την Υπόθεσή μας.
- Δημιουργία/Ενίσχυση: Υλοποίηση, τώρα, αρχίζουμε να αξιολογούμε για μεγαλύτερα σύνολα δεδομένων, εφαρμόζουμε τεχνικές όπως Fine-tuning και RAG, για να ελέγξουμε την ανθεκτικότητα της λύσης μας. Αν δεν είναι, η επανεφαρμογή της, η προσθήκη νέων βημάτων στη ροή μας ή η αναδιάρθρωση των δεδομένων μπορεί να βοηθήσει. Μετά τη δοκιμή της ροής μας και της κλίμακας μας, αν λειτουργεί και ελέγξουμε τις Μετρικές μας, είναι έτοιμη για το επόμενο βήμα.
- Λειτουργικοποίηση: Ενσωμάτωση, τώρα προσθέτουμε Συστήματα Παρακολούθησης και Ειδοποιήσεων στο σύστημά μας, υλοποίηση και ενσωμάτωση εφαρμογής στην Εφαρμογή μας.
Στη συνέχεια, έχουμε τον γενικό κύκλο της Διαχείρισης, εστιάζοντας στην ασφάλεια, τη συμμόρφωση και τη διακυβέρνηση.
Συγχαρητήρια, τώρα η εφαρμογή AI σας είναι έτοιμη και λειτουργική. Για πρακτική εμπειρία, δείτε το Contoso Chat Demo.
Τώρα, ποια εργαλεία θα μπορούσαμε να χρησιμοποιήσουμε;
Για εργαλεία, η Microsoft παρέχει την Azure AI Platform και το PromptFlow για να διευκολύνει και να κάνει τον κύκλο σας εύκολο να υλοποιηθεί και έτοιμο να ξεκινήσει.
Η Azure AI Platform, σας επιτρέπει να χρησιμοποιήσετε το AI Studio. Το AI Studio είναι μια διαδικτυακή πύλη που σας επιτρέπει να εξερευνήσετε μοντέλα, δείγματα και εργαλεία. Διαχείριση των πόρων σας, ροές ανάπτυξης UI και επιλογές SDK/CLI για ανάπτυξη με βάση τον κώδικα.
Το Azure AI σας επιτρέπει να χρησιμοποιήσετε πολλούς πόρους, για να διαχειριστείτε τις λειτουργίες σας, τις υπηρεσίες, τα έργα, τις ανάγκες αναζήτησης με βάση διανύσματα και βάσεις δεδομένων.
Δημιουργήστε, από Proof-of-Concept(POC) μέχρι εφαρμογές μεγάλης κλίμακας με το PromptFlow:
- Σχεδιάστε και Δημιουργήστε εφαρμογές από το VS Code, με οπτικά και λειτουργικά εργαλεία
- Δοκιμάστε και βελτιώστε τις εφαρμογές σας για ποιοτική AI, με ευκολία.
- Χρησιμοποιήστε το Azure AI Studio για Ενσωμάτωση και Επανάληψη με το cloud, Push και Deploy για γρήγορη ενσωμάτωση.
Καταπληκτικά, τώρα μάθετε περισσότερα για το πώς δομείται μια εφαρμογή για να χρησιμοποιήσει τις έννοιες με την Εφαρμογή Contoso Chat, για να δείτε πώς η Cloud Advocacy προσθέτει αυτές τις έννοιες σε επιδείξεις. Για περισσότερο περιεχόμενο, δείτε την Ignite breakout session!
Τώρα, δείτε το Μάθημα 15, για να κατανοήσετε πώς Η Ανάκτηση Ενισχυμένης Δημιουργίας και οι Βάσεις Δεδομένων Διανυσμάτων επηρεάζουν τη Γενετική Τεχνητή Νοημοσύνη και πώς να δημιουργήσετε πιο ελκυστικές Εφαρμογές!
Αποποίηση ευθύνης:
Αυτό το έγγραφο έχει μεταφραστεί χρησιμοποιώντας την υπηρεσία μετάφρασης AI Co-op Translator. Παρόλο που καταβάλλουμε προσπάθειες για ακρίβεια, παρακαλούμε να γνωρίζετε ότι οι αυτοματοποιημένες μεταφράσεις ενδέχεται να περιέχουν λάθη ή ανακρίβειες. Το πρωτότυπο έγγραφο στη μητρική του γλώσσα θα πρέπει να θεωρείται η αυθεντική πηγή. Για κρίσιμες πληροφορίες, συνιστάται επαγγελματική ανθρώπινη μετάφραση. Δεν φέρουμε ευθύνη για τυχόν παρεξηγήσεις ή εσφαλμένες ερμηνείες που προκύπτουν από τη χρήση αυτής της μετάφρασης.