ModelsMô hình mở và riêng tư, xây dựng cho văn bản tiếng Mã Lai, tiếng Anh và pha trộn

Các mô hình nhỏ cho
quản trị AI, chạy
ngay nơi dữ liệu của bạn ở.

Các mô hình chuyên biệt tìm dữ liệu cá nhân và đánh giá văn bản theo chính sách của bạn. Dùng chúng trong Obiguard, hoặc chạy trên máy chủ của riêng bạn.

Bắt đầu miễn phíChạy on-prem →
01
Tích hợp sẵn trong Obiguard

Bật một mô hình làm rào chắn bảo vệ trong portal. Không có endpoint nào cần quản lý.

Phù hợp nhất cho: Các đội không bị giới hạn về lưu trú dữ liệu.
Xem rào chắn bảo vệ →
02
Đánh giá được lưu trữ

Các mô hình được cung cấp qua API HTTP tương thích OpenAI. Hãy trao đổi với chúng tôi về việc kiểm thử một mô hình trên mẫu dữ liệu của bạn trước khi cam kết.

Phù hợp nhất cho: Các đội đang đánh giá mô hình trước khi cam kết.
Liên hệ chúng tôi →
03
On-prem

Chạy cùng các mô hình đó trong mạng của bạn, với cùng một API. Chỉ URL endpoint thay đổi.

Phù hợp nhất cho: Ngân hàng, viễn thông, chính phủ và bất kỳ ai cần giữ dữ liệu tại chỗ.
Trao đổi với đội kinh doanh →
Các mô hình

Chọn mô hình
phù hợp với công việc.

Mọi mô hình có sẵn đều là một rào chắn bảo vệ của Obiguard và có thể chạy on-prem. Hãy kiểm thử trên mẫu dữ liệu của bạn trước, rồi chuyển vào trong mạng khi bạn sẵn sàng. Các mô hình đánh dấu Dự kiến nằm trong lộ trình.
obi-lookout
Trọng số mở

Tìm dữ liệu cá nhân và bảo mật trong văn bản tiếng Mã Lai, tiếng Anh và pha trộn.

  • ✓Che giấu dữ liệu cá nhân trước một lệnh gọi LLM
  • ✓Quét tài liệu và nhật ký trò chuyện
  • ✓Cung cấp cho các rào chắn bảo vệ PII của Guardian
LoạiBộ phân loại tokenKích thước0.3BChạy trênChỉ CPU · 2 vCPUTriển khaiRào chắn bảo vệ · On-prem
Dùng làm rào chắn bảo vệOn-prem →
Xem trên Hugging Face ↗
obi-sieve
Riêng tư

Bộ lọc CPU nhanh cho nội dung độc hại, tục tĩu, khiêu dâm và jailbreak trong văn bản tiếng Mã Lai, tiếng Anh và pha trộn.

  • ✓Giảm chi phí judge bằng cách lọc trước
  • ✓Sàng lọc mọi prompt trên CPU
  • ✓Tiếng Mã Lai, tiếng Anh và pha trộn
LoạiBộ phân loại embeddingKích thướcEmbedding + headsChạy trênChỉ CPU · 4 GB RAMTriển khaiRào chắn bảo vệ · On-prem
Dùng làm rào chắn bảo vệOn-prem →
obi-parry
Dự kiến

Phát hiện các nỗ lực prompt injection trong đầu vào của người dùng và tài liệu được truy xuất.

  • ✓Bảo vệ các pipeline RAG
  • ✓Bảo vệ đầu vào công cụ của tác tử
  • ✓Chặn các chỉ dẫn ẩn
LoạiBộ phân loại encoderKích thước0.1BChạy trênChỉ CPU · 1 vCPUTriển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
obi-warden
Riêng tư

Đánh giá văn bản theo một biện pháp kiểm soát được viết ra. Đưa cho nó chính sách bằng ngôn ngữ thông thường và nó trả về một kết luận.

  • ✓Các biện pháp kiểm soát PDPA của Singapore và Malaysia
  • ✓Kiểm tra dữ liệu nhạy cảm PCI DSS
  • ✓GDPR và các biện pháp kiểm soát tuyên bố thực phẩm của Malaysia
  • ✓“Quy tắc riêng” trong Protections
LoạiJudge sinh văn bản nhỏKích thước4BChạy trênGPU 8 GB (4-bit) hoặc CPU lượng tử hóaTriển khaiRào chắn bảo vệ · On-prem
Dùng làm rào chắn bảo vệOn-prem →
obi-arbiter
Dự kiến

Đưa ra kết luận kèm lý giải bằng văn bản, cho nhật ký kiểm toán. Suy luận bằng tiếng Mã Lai và tiếng Anh.

  • ✓Các trường hợp được nâng cấp và ở ranh giới
  • ✓Giải thích sẵn sàng kiểm toán
  • ✓Hỗ trợ người xem xét
LoạiLLM suy luậnKích thước8BChạy trênGPU 16 GBTriển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
obi-compass
Dự kiến

Ánh xạ các biện pháp kiểm soát của bạn với các điều khoản của PDPA, RMiT và PCI-DSS.

  • ✓Xây dựng ma trận biện pháp kiểm soát – điều khoản
  • ✓Chỉ ra các khoảng trống về độ phủ
  • ✓Trả lời câu hỏi của kiểm toán viên “điều này được phủ ở đâu?”
LoạiMô hình truy xuấtKích thướcEmbedding + rerankerChạy trênChỉ CPU · 4 GB RAMTriển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
obi-notary
Dự kiến

Kiểm tra từng câu của một câu trả lời với nguồn mà nó trích dẫn.

  • ✓Kiểm tra câu trả lời có căn cứ cho mọi ứng dụng RAG
  • ✓Phát hiện các tuyên bố không có cơ sở
  • ✓Rà soát nội dung quy định
LoạiBộ phân loại kiểm chứng thông tinKích thước0.1BChạy trênChỉ CPU · 2 vCPUTriển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
obi-tracer
Dự kiến

Phát hiện công thức, bí quyết và bí mật bị rò rỉ bằng độ tương đồng, mà không gửi chúng đi đâu.

  • ✓Phát hiện rò rỉ bí mật thương mại
  • ✓Lấy dấu vân tay tài liệu của riêng bạn
  • ✓Hoạt động hoàn toàn ngoại tuyến
LoạiBộ so khớp n-gram và embeddingKích thướcBộ so khớpChạy trênChỉ CPU · 2 GB RAMTriển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
obi-scribe
Dự kiến

Soạn thảo các bài viết có căn cứ và bản ghi phát hiện bám sát nguồn của chúng.

  • ✓Bản nháp tin tức quy định
  • ✓Bản ghi phát hiện của Scout và SOC
  • ✓Luôn trích dẫn nguồn
LoạiLLM sinh văn bảnKích thước8B–14BChạy trênGPU 16 GBTriển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
obi-sleuth
Dự kiến

Phân loại cảnh báo SOC và viết bản tóm tắt như một nhà phân tích sẽ viết.

  • ✓Phân loại cảnh báo
  • ✓Tóm tắt sự cố
  • ✓Chạy trong mạng SOC
LoạiLLM suy luậnKích thước8BChạy trênGPU 16 GBTriển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
obi-seeker
Dự kiến

Chuyển một câu hỏi bằng ngôn ngữ thông thường thành truy vấn trên nhật ký và dữ liệu quản trị của bạn.

  • ✓Hỏi nhật ký kiểm toán của bạn
  • ✓ClickHouse và Postgres
  • ✓Chỉ đọc theo thiết kế
LoạiLLM hỗ trợ mãKích thước7BChạy trênGPU 8 GB (4-bit)Triển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
obi-herald
Dự kiến

Một trợ lý cách ly mạng (air-gapped) giải thích sự cố và phát hiện cho đội của bạn.

  • ✓Hỏi Obi, ngoại tuyến
  • ✓Thuật lại sự cố
  • ✓Không có dữ liệu nào rời khỏi mạng của bạn
LoạiLLM sinh văn bảnKích thước8B–20BChạy trênGPU 16 GBTriển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
obi-tailor
Dự kiến

Một mô hình được tinh chỉnh trên dữ liệu và chính sách của riêng bạn, giao kèm benchmark trên các trường hợp của bạn.

  • ✓Thuật ngữ và loại tài liệu của bạn
  • ✓Huấn luyện lại theo lịch
  • ✓Kèm báo cáo benchmark
LoạiAdapter theo từng khách hàngKích thướcLoRA adapterChạy trênGiống mô hình cơ sởTriển khaiChưa phát hành
Nằm trong lộ trình. Hãy cho chúng tôi biết nếu bạn cần.
Số liệu phần cứng là mức định cỡ điển hình. Chúng tôi sẽ xác nhận theo khối lượng của bạn trong giai đoạn thử nghiệm.
On-prem

Bạn nhận được gì khi
mô hình chạy ở phía bạn.

Không cần kết nối ra ngoài. Văn bản của bạn không bao giờ rời khỏi mạng, và bạn quyết định khi nào cập nhật.
Container image
Một image cho mỗi mô hình, kèm endpoint kiểm tra tình trạng.
Trọng số mô hình
Các bản phát hành có phiên bản, mỗi bản kèm kết quả đánh giá.
Giấy phép
Các mô hình riêng tư được cấp phép cho bạn và không bao giờ được công bố.
Cập nhật
Các bản phát hành có phiên bản, để bạn tự chọn thời điểm chuyển đổi.
Hướng dẫn triển khai
Định cỡ phần cứng, ví dụ Kubernetes và Docker, và danh sách kiểm tra mạng cho đội bảo mật của bạn.
Hỗ trợ
Một đầu mối liên hệ cụ thể, và hỗ trợ tinh chỉnh ngưỡng trên chính tài liệu của bạn.
Câu hỏi thường gặp · Models

Những
câu hỏi thường gặp.

Đang lên kế hoạch triển khai on-prem? Hãy cho chúng tôi biết khối lượng và phần cứng của bạn, chúng tôi sẽ định cỡ giúp.

Gửi email cho đội kinh doanh →
Tôi có thể tải xuống những mô hình nào?[01]
obi-lookout là mô hình mở và được công bố trên Hugging Face. obi-sieve và obi-warden là mô hình riêng tư: bạn có thể dùng chúng làm rào chắn bảo vệ của Obiguard hoặc chạy on-prem theo giấy phép. Các mô hình đánh dấu Dự kiến nằm trong lộ trình và chưa được phát hành.
Dữ liệu của tôi có rời khỏi mạng khi chạy on-prem không?[02]
Không. Các mô hình on-prem chạy hoàn toàn trong môi trường của bạn và không cần kết nối ra ngoài. Đánh giá được lưu trữ dành cho dữ liệu bạn thoải mái gửi cho chúng tôi, và chúng tôi khuyên dùng mẫu dữ liệu tổng hợp hoặc không nhạy cảm.
Làm thế nào để chuyển từ đánh giá được lưu trữ sang on-prem?[03]
API là như nhau. Bạn trỏ ứng dụng của mình đến endpoint riêng thay vì endpoint của chúng tôi, và không có gì khác trong mã của bạn thay đổi.
Các mô hình hỗ trợ những ngôn ngữ nào?[04]
Tiếng Mã Lai, tiếng Anh, và cả hai trộn lẫn trong cùng một văn bản, như cách mọi người viết tin nhắn và email. Hãy xem benchmark của từng mô hình để biết phạm vi chính xác và giới hạn.
Các mô hình có thay thế được việc rà soát tuân thủ không?[05]
Không. Chúng sàng lọc và tạo bằng chứng cho đội tuân thủ của bạn. Vẫn cần một người ký duyệt.
Bắt đầu

Dùng trong Obiguard.
Chạy ở phía bạn.

Kiểm thử một mô hình trên mẫu dữ liệu của bạn. Khi sẵn sàng giữ dữ liệu trong nội bộ, cùng API đó chạy ngay trong mạng của bạn.

Bắt đầu miễn phíTrao đổi với đội kinh doanh →