Trách nhiệm chính

Nghiên cứu, xây dựng hệ thống Content Safety & Guardrails bao gồm: input/output moderation, phát hiện prompt injection & jailbreak, phát hiện và che (redact) PII, kiểm soát chủ đề, giảm thiểu hallucination.
Xây dựng hoặc fine-tune các moderation/guard model (như classifier, Llama Guard...) tối ưu cho tiếng Việt và đa ngôn ngữ.
Thiết kế guardrails framework tích hợp vào pipeline agent/RAG và API serving (sử dụng NeMo Guardrails, Guardrails AI hoặc hệ thống tự xây), tối ưu độ trễ của lớp safety.
Xây dựng benchmark safety và quy trình red-teaming: bao gồm bộ dữ liệu đánh giá, adversarial testing tự động và theo dõi các attack patterns mới.
Cân bằng giữa tính an toàn và hữu ích: đo lường và giảm over-refusal, tinh chỉnh policy theo từng sản phẩm.
Phối hợp với các team sản phẩm và pháp lý để định nghĩa taxonomy và policy nội dung phù hợp với thị trường Việt Nam và quốc tế.

Yêu cầu công việc

Có từ 2 đến trên 4 năm kinh nghiệm về NLP/ML Engineering.
Đã có kinh nghiệm xây dựng hệ thống text classification/moderation hoặc làm việc về LLM safety.
Thành thạo Python, PyTorch và hệ sinh thái transformers.
Có kinh nghiệm fine-tune các model phân loại và LLM.
Hiểu rõ các attack vector đối với hệ thống LLM: prompt injection, jailbreak, data exfiltration và các kỹ thuật phòng thủ tương ứng.
Kinh nghiệm xây dựng dataset (labeling, synthetic data generation) và đánh giá model với trade-off precision/recall.
Kinh nghiệm đưa model lên production: xây dựng API, monitoring và đánh giá liên tục.
Tiếng Anh đọc hiểu tốt.

Yêu cầu ưu tiên

Mức lương

AI Engineer (Middle/Senior), GreenNode