นักวิจัยความปลอดภัย AI

คุณต้องพำนักอยู่ในกัวลาลัมเปอร์ / หุบเขากลัง และมีสิทธิ์ทำงานในมาเลเซียอยู่แล้ว การทำงานประจำวันทำจากระยะไกลภายใน KL ได้ แต่คุณจะต้องเข้าสำนักงาน KL ของเราเมื่อธุรกิจต้องการ เราไม่สนับสนุนวีซ่าหรือการย้ายถิ่นฐาน

เปิดรับการทำงานแบบพาร์ทไทม์ และเรายินดีรับใบสมัครฝึกงานสำหรับตำแหน่งนี้

สมัครผ่านแบบฟอร์มใบสมัครสั้นๆ ของเรา ใบสมัครที่ส่งทางอีเมลจะไม่ได้รับการพิจารณา

การโจมตี LLM และเอเจนต์อัตโนมัติพัฒนาไปทุกสัปดาห์ ทั้งการเจาะระบบ (jailbreak) แบบใหม่ เทคนิค injection แบบใหม่ และรูปแบบการขโมยข้อมูลแบบใหม่ ในฐานะนักวิจัยความปลอดภัย AI คุณจะติดตามภูมิทัศน์นี้ล่วงหน้าก่อนลูกค้าของเรา จำลองการโจมตีกับการติดตั้งใช้งานโมเดลจริง และทำงานร่วมกับทีมวิศวกรรมเพื่อเปลี่ยนสิ่งที่ค้นพบให้เป็นตัวตรวจจับที่ส่งเข้าไปป์ไลน์การตรวจสอบได้ภายในไม่กี่วัน ไม่ใช่ไม่กี่ไตรมาส นี่คือบทบาทนักวิจัยที่ประจำหน้างานลูกค้า คุณอาจถูกส่งไปประจำกับลูกค้าในช่วงนำร่องและการตรวจสอบด้านความปลอดภัย ครั้งละไม่เกินสามสัปดาห์ เพื่อให้คำแนะนำด้านความเสี่ยงใหม่ๆ ด้วยตนเอง

• วิจัยและจำลองเทคนิคการโจมตีใหม่ๆ ต่อ LLM และเอเจนต์อัตโนมัติ ได้แก่ prompt injection, jailbreak, การขโมยข้อมูล และการใช้การเรียกเครื่องมือในทางที่ผิด
• ออกแบบชุดการประเมินและเครื่องมือ red-team เพื่อทดสอบตัวตรวจจับของ Obiguard เองกับการโจมตีรูปแบบใหม่อย่างต่อเนื่อง
• แปลงผลการวิจัยเป็นข้อกำหนดตัวตรวจจับสำหรับระบบใช้งานจริงและองค์ประกอบนโยบาย โดยทำงานใกล้ชิดกับทีมวิศวกรรม
• เผยแพร่บทสรุปภายในและภายนอกเกี่ยวกับสิ่งที่ค้นพบที่สำคัญ เพื่อเสริมสถานะของ Obiguard ในฐานะผู้ให้บริการที่ขับเคลื่อนด้วยงานวิจัย
• จับคู่ประเภทการโจมตีและตัวตรวจจับใหม่ๆ กับกรอบการปฏิบัติตามกฎระเบียบที่เกี่ยวข้อง (NIST AI RMF, ISO 42001, EU AI Act)
• ให้คำแนะนำลูกค้าเกี่ยวกับความเสี่ยงใหม่ๆ ในช่วงนำร่องและการตรวจสอบด้านความปลอดภัย

• พื้นฐานที่แข็งแกร่งด้าน ML/NLP งานวิจัยด้านความปลอดภัยเชิงประยุกต์ หรือแมชชีนเลิร์นนิงเชิงปรปักษ์ ทั้งในแวดวงวิชาการหรืออุตสาหกรรม
• มีประสบการณ์ตรงในการเขียนพรอมต์ ปรับแต่ง หรือ red-team LLM
• คุ้นเคยกับการอ่านและจำลองผลที่ค้นพบจากงานวิจัยและการเปิดเผยข้อมูลด้านความปลอดภัย
• สื่อสารสิ่งที่ค้นพบทางเทคนิคได้อย่างชัดเจนทั้งกับวิศวกรและผู้มีส่วนได้ส่วนเสียที่ไม่ใช่สายเทคนิค
• เขียนโปรแกรมด้วย Python ได้อย่างชำนาญ และคุ้นเคยกับการสร้างเครื่องมือประเมินผลอย่างรวดเร็วตั้งแต่ต้น
• พร้อมสำหรับการประจำหน้างานลูกค้าเป็นเวลานาน บทบาทนี้เป็นบทบาทที่ประจำหน้างานลูกค้า โดยต้องไปประจำสถานที่ครั้งละไม่เกินสามสัปดาห์ในระหว่างการทำงานกับลูกค้าที่กำลังดำเนินอยู่

• ผลงานตีพิมพ์หรือบทสรุปสาธารณะเกี่ยวกับความปลอดภัยของ LLM/เอเจนต์ แมชชีนเลิร์นนิงเชิงปรปักษ์ หรือ red-teaming
• ประสบการณ์กับ CTF, bug bounty หรืองานวิจัยด้านความปลอดภัยอย่างเป็นทางการ
• คุ้นเคยกับเฟรมเวิร์กเอเจนต์ (LangGraph, AutoGen, เครื่องมือบน MCP)