Skip to content

Latest commit

 

History

History
256 lines (203 loc) · 16.4 KB

File metadata and controls

256 lines (203 loc) · 16.4 KB

⚠️ This is an auto-generated translation. For the latest version, see the English README. Community corrections welcome!

🇺🇸 English | 🇨🇳 简体中文 | 🇯🇵 日本語 | 🇰🇷 한국어 | 🇪🇸 Español | 🇧🇷 Português | 🇩🇪 Deutsch | 🇫🇷 Français | 🇷🇺 Русский | 🇮🇳 हिन्दी | 🇹🇷 Türkçe | 🇻🇳 Tiếng Việt | 🇮🇹 Italiano | 🇸🇦 العربية | 🇮🇱 עברית


failproof ai

FailproofAI%2Ffailproofai | Trendshift

npm CI Supply Chain Discord Reddit Docs License

Bản dịch: 简体中文 · 日本語 · 한국어 · Español · Português · Deutsch · Français · Русский · हिन्दी · Türkçe · Tiếng Việt · Italiano · العربية · עברית

Quan sát và thực thi cho mọi harness mà agents của bạn chạy. Bất kể agents của bạn chạy ở đâu, chúng tôi đều nhìn thấy — và chúng tôi có thể từ chối. Failproof kết nối 12 agent harness — các CLI viết mã như Claude Code và Codex, các gateway chat như Hermes, các trợ lý tự lưu trữ như OpenClaw — ghi lại mọi lần chạy và chặn các lệnh công cụ nguy hiểm trước khi chúng thực thi. 40 chính sách tích hợp sẵn. Độ trễ bằng không. Chạy cục bộ.

Failproof AI in action


Các harness được hỗ trợ

Mười hai harness trong hai lớp — mười CLI viết mã, và hai cổng chat và trợ lý (Hermes, OpenClaw). Cùng các sự kiện, cùng chính sách, cùng lịch sử phiên, bất kể agents của bạn chạy trong cái nào.

Các agents chạy trong cái nào đó khác báo cáo thông qua Python SDK, cung cấp cho bạn theo dõi, phiên và kiểm toán. Thực thi ở đó cần một hook trong runtime của riêng bạn — liên hệ với chúng tôi và chúng tôi sẽ ánh xạ nó.

{/* A 6-column table instead of inline runs: table columns never re-wrap, so the grid stays 2×6 at any window width (scrolling on very narrow screens instead of collapsing into ragged orphan rows). */}

Claude Code OpenAI Codex GitHub Copilot Cursor Agent OpenCode Pi
Hermes OpenClaw Factory Droid Devin CLI Antigravity CLI Goose

Cài đặt

npm install -g failproofai
failproofai policies --install   # hoặc chỉ chạy `failproofai` và chấp nhận lời nhắc lần đầu
failproofai

40 chính sách tích hợp sẵn sẽ kích hoạt ngay lập tức. Dashboard tại localhost:8020. Tắt lời nhắc lần đầu với FAILPROOFAI_NO_FIRST_RUN=1.


Những gì nó chặn

Chính sách Những gì nó chặn
sanitize-api-keys Các khóa API bị rò rỉ vào bối cảnh của agent
block-env-files Đọc các tệp .env và tệp bí mật khác
warn-repeated-tool-calls Agent lặp lại trên cùng một lệnh gọi
block-sudo Nâng cao đặc quyền
warn-destructive-sql DROP, TRUNCATE, DELETE không bị giới hạn
block-terraform / block-kubectl Thay đổi không được xem xét đối với cơ sở hạ tầng trực tiếp
block-rm-rf Xóa tệp đệ quy
block-force-push / block-push-master git push --force, đẩy trực tiếp đến main

Năm cái đầu tiên áp dụng cho bất kỳ agent nào có thể gọi một công cụ. Ba cái cuối cùng là những ưa thích của nhà phát triển — các CLI viết mã là lớp harness mà chúng tôi bao quát sâu nhất.

Tất cả 40 chính sách tích hợp sẵn


Chính sách của riêng bạn

Thả một tệp vào .failproofai/policies/ — nó tải tự động, không cần cờ. Cam kết nó và toàn bộ nhóm của bạn sẽ nhận được nó khi pull tiếp theo.

import { customPolicies, deny, allow } from "failproofai";

customPolicies.add({
  name: "no-production-writes",
  match: { events: ["PreToolUse"] },
  fn: async (ctx) => {
    if (ctx.toolInput?.file_path?.includes("production"))
      return deny("Writes to production paths are blocked.");
    return allow();
  },
});

Ba quyết định có sẵn cho mọi chính sách:

Quyết định Hiệu ứng
allow() Cho phép hoạt động
deny(message) Chặn nó — thông báo được gửi lại cho agent
instruct(message) Cho phép nó thực hiện, nhưng thêm ngữ cảnh vào lời nhắc tiếp theo của agent

Hướng dẫn chính sách tùy chỉnh


Quan sát

Thực thi là một nửa. Nửa còn lại là xem agent thực sự đã làm gì.

Chạy failproofai mà không có đối số và nó sẽ phục vụ một dashboard tại localhost:8020 đọc lịch sử chạy đã có trên máy của bạn — không tài khoản, không đăng ký, không có gì rời khỏi hộp. Bạn sẽ nhận được danh sách phiên, chuỗi lệnh gọi mô hình, lệnh gọi công cụ và quyết định hook bên trong mỗi lần chạy, những gì bị chặn và chính sách nói với agent điều gì, và kiểm toán ngoại tuyến (failproofai audit) quét lịch sử của bạn để tìm các mẫu rủi ro và gợi ý các chính sách để dừng chúng.

Dashboard cục bộ · Đọc một trace · Kiểm toán cục bộ

Failproof AI Observability là phía được lưu trữ của cùng một mô hình dữ liệu, dành cho các nhóm chạy agents trên một lfleet: mọi lần chạy từ mọi harness ở một nơi, một biểu đồ thực thi với các sub-agents song song trên làn đường riêng của họ, độ trễ p50/p95/p99 cho các mô hình, công cụ và hook, theo dõi chi phí mỗi mô hình và cửa sổ ngữ cảnh, theo dõi lỗi, SQL trên các trace của riêng bạn với các dashboard có thể chia sẻ, các đánh giá được tính điểm bởi dịch vụ của riêng bạn, các kiểm toán được lên lịch biến các lỗi định kỳ thành các phát hiện được hỗ trợ bằng bằng chứng, và cảnh báo được định tuyến đến Slack, email hoặc một webhook đã ký. Tự lưu trữ trong cluster của riêng bạn có sẵn trên gói Enterprise.

Phiên · Kiểm toán · Đặt lịch demo


Tài liệu

Bắt đầu
Quickstart Cài đặt, kết nối một harness, xem lần chạy đầu tiên
Khái niệm Cách hoạt động của hệ thống hook
Các harness được hỗ trợ Tất cả 12 và những gì mỗi cái có thể thực thi
Quan sát
Phiên Theo dõi một lần chạy: mô hình, công cụ, lỗi, độ trễ
Đọc một trace Những gì biểu đồ thực thi đang cho bạn biết
Kiểm toán Tìm các mẫu lỗi trên nhiều phiên
Dashboard cục bộ localhost:8020, không cần tài khoản
Thực thi
Chính sách tích hợp sẵn Tất cả 40 chính sách với các tham số
Chính sách tùy chỉnh Viết của riêng bạn
Cấu hình Các phạm vi cấu hình và quy tắc hợp nhất
Cài đặt agent của riêng bạn
Python SDK Báo cáo các lần chạy từ một agent mà không có harness
Policy SDK Tham chiếu allow / deny / instruct

Giấy phép

MIT với Commons Clause — miễn phí cho mục đích sử dụng nội bộ và cá nhân; bán lại thương mại của failproofai yêu cầu một thỏa thuận riêng. Xem LICENSE để biết toàn bộ văn bản.


Đóng góp

Xem CONTRIBUTING.md. Các chính sách mới, trường hợp cạnh và bản dịch đều được chào đón.

Xây dựng trước khi bạn bắt đầu. Chạy bun install && bun run build trước tiên. Kho này chạy các hook của failproofai trên chính nó, và chúng giải quyết nhập failproofai so với gói dist/ được biên dịch — mà không cần xây dựng bạn sẽ gặp Cannot find package 'failproofai' lỗi hook. Xây dựng lại sau khi thay đổi src/. Xem Xây dựng trước khi các hook dev trong repo sẽ hoạt động.


Được xây dựng với ❤️ bởi befailproof.ai tại SF và Bengaluru.