Đọc đến đây, bạn có thể bạn sẽ nhận ra viết prompt đôi khi khá phức tạp. Liệu có cách nào để tự động hóa việc này (viết prompt để tạo ra các prompt khác)? Phương pháp Automatic Prompt Engineering (APE) chính là giải pháp. Cách tiếp cận này không chỉ giảm bớt sự can thiệp của con người mà còn giúp nâng cao hiệu suất của mô hình trong nhiều tác vụ khác nhau.
Bạn sẽ yêu cầu một mô hình tạo ra nhiều câu lệnh (prompts) hơn. Bạn sẽ đánh giá chúng, có thể điều chỉnh những câu lệnh tốt. Và lặp lại quy trình.
Ví dụ, bạn có thể sử dụng kỹ thuật thiết kế câu lệnh tự động (automatic prompt engineering) để hỗ trợ huấn luyện một chatbot cho một cửa hàng trực tuyến bán áo thun theo chủ đề ban nhạc (merchandise t-shirt webshop). Chúng ta muốn tìm hiểu tất cả các cách khác nhau mà khách hàng có thể diễn đạt yêu cầu đặt hàng mua một chiếc áo thun merchandise của ban nhạc.
Viết câu lệnh (prompt) sẽ tạo ra các biến thể đầu ra. Trong ví dụ này, tôi đang sử dụng gemini-pro để tạo ra 10 hướng dẫn. Xem Bảng 15:
Prompt: Chúng tôi có một cửa hàng trực tuyến bán áo thun theo chủ đề ban nhạc, và để huấn luyện một chatbot, chúng tôi cần nhiều cách diễn đạt khác nhau để đặt hàng: "Một chiếc áo thun Metallica cỡ S". Tạo ra 10 biến thể, cùng ngữ nghĩa nhưng giữ nguyên ý nghĩa.
Output
1. Tôi muốn mua một chiếc áo thun Metallica cỡ nhỏ.
2. Tôi có thể đặt một chiếc áo thun Metallica cỡ nhỏ không?
3. Tôi muốn mua một chiếc áo thun Metallica cỡ nhỏ.
4. Một chiếc áo thun Metallica, cỡ nhỏ, làm ơn.
5. Tôi muốn một chiếc áo thun Metallica cỡ nhỏ.
6. Tôi muốn đặt hàng một chiếc áo thun Metallica cỡ nhỏ.
7. Áo thun Metallica cỡ nhỏ, một cái làm ơn.
8. Tôi đang tìm một chiếc áo thun Metallica cỡ nhỏ.
9. Bạn lấy cho tôi một chiếc áo thun Metallica cỡ nhỏ được không?
10. Một chiếc áo thun Metallica cỡ nhỏ, làm ơn.
Bảng 15. Sử dụng LLM để tạo câu lệnh
Đánh giá tất cả các câu lệnh bằng cách chấm điểm chúng dựa trên một chỉ số được chọn. Ví dụ, bạn có thể sử dụng BLEU (Bilingual Evaluation Understudy) hoặc ROUGE (Recall-Oriented Understudy for Gisting Evaluation).
Chọn câu lệnh ứng viên có điểm đánh giá cao nhất. Câu lệnh này sẽ là câu lệnh cuối cùng bạn có thể sử dụng trong ứng dụng phần mềm hoặc chatbot của mình. Bạn cũng có thể điều chỉnh câu lệnh được chọn và đánh giá lại.