NousResearch/agent-governance-toolkit

🌍 English | 日本語 | 简体中文 | 한국어

!Agent Governance Toolkit

Agent Governance Toolkit

<p align="center"> <strong> 📖 <a href="https://microsoft.github.io/agent-governance-toolkit">문서 사이트</a> · 🚀 <a href="#get-started-in-90-seconds">빠른 시작</a> · 📦 <a href="https://pypi.org/project/agent-governance-toolkit/">PyPI</a> · 📝 <a href="CHANGELOG.md">변경 로그</a> </strong> </p>

[!IMPORTANT]

공개 미리보기 — Microsoft 서명, 프로덕션 품질 릴리스. GA 이전에 호환성이 깨지는 변경이 있을 수 있습니다.

피드백은 GitHub 이슈를 열어주세요.

[!TIP]

v3.5.0이 출시되었습니다! Bedrock 어댑터, 프롬프트 방어 개선, 거버넌스 강화가 포함된 최신 안정 릴리스입니다. 변경 로그 →

AI 에이전트를 위한 런타임 거버넌스 — 결정론적 정책 시행, 제로 트러스트 신원, 실행 샌드박싱, 자율 에이전트를 위한 SRE. OWASP Agentic 위험 10개 전부를 13,000개 이상의 테스트로 다룹니다.

모든 스택과 호환 — AWS Bedrock, Google ADK, Azure AI, LangChain, CrewAI, AutoGen, OpenAI Agents 등 20개 이상. Python · TypeScript ·.NET · Rust · Go.

이것이 무엇인지 (그리고 아닌 것)

하는 일: 에이전트 프레임워크와 에이전트가 수행하는 작업 사이에 위치합니다. 모든 도구 호출, 리소스 접근, 에이전트 간 메시지는 실행 전에 정책에 대해 평가됩니다. 결정론적이며 확률적이지 않습니다.

하지 않는 일: 이것은 프롬프트 가드레일이나 콘텐츠 조정 도구가 아닙니다. LLM 입력/출력이 아닌 에이전트 행동을 관리합니다. 모델 수준 안전을 위해서는 Azure AI Content Safety를 참조하세요.

Agent Action ──► Policy Check ──► Allow / Deny ──► Audit Log    (< 0.1 ms)

중요한 이유: 프롬프트 기반 안전("규칙을 따라주세요")은 레드팀 테스트에서 26.67%의 정책 위반율을 보입니다. AGT의 결정론적 애플리케이션 계층 시행: 0.00%.

90초 안에 시작하기

# 1. 설치
pip install agent-governance-toolkit[full]

# 2. 설치 확인
agt doctor

# 3. OWASP 준수 확인
agt verify

# 4. 런타임 증거 확인 (가능한 경우)
agt verify --evidence./agt-evidence.json

# 5. 약한 런타임 증거에 대해 CI 실패
agt verify --evidence./agt-evidence.json --strict

# 6. 에이전트 보안 태세 레드팀 테스트
agt red-team scan./prompts/ --min-grade B --strict

그런 다음 첫 번째 작업을 관리합니다:

from agent_os.policies import PolicyEvaluator, PolicyDocument, PolicyRule, PolicyCondition, PolicyAction, PolicyOperator, PolicyDefaults

evaluator = PolicyEvaluator(policies=[PolicyDocument(
    name="my-policy", version="1.0",
    defaults=PolicyDefaults(action=PolicyAction.ALLOW),
    rules=[PolicyRule(
        name="block-dangerous-tools",
        condition=PolicyCondition(field="tool_name", operator=PolicyOperator.IN, value=["execute_code", "delete_file"]),
        action=PolicyAction.DENY, priority=100,
    )],
)])

result = evaluator.evaluate({"tool_name": "web_search"})    # ✅ 허용
result = evaluator.evaluate({"tool_name": "delete_file"})   # ❌ 결정론적으로 차단

<details> <summary><b>TypeScript</b></summary>

import { PolicyEngine } from "@microsoft/agent-governance-sdk";

const engine = new PolicyEngine([
  { action: "web_search", effect: "allow" },
  { action: "shell_exec", effect: "deny" },
]);
engine.evaluate("web_search"); // "allow"
engine.evaluate("shell_exec"); // "deny"

</details>

<details> <summary><b>.NET</b></summary>

using AgentGovernance;
using AgentGovernance.Extensions.ModelContextProtocol;
using AgentGovernance.Policy;

var kernel = new GovernanceKernel(new GovernanceOptions
{
    PolicyPaths = new() { "policies/default.yaml" },
});

var result = kernel.EvaluateToolCall("did:mesh:agent-1", "web_search",
    new() { ["query"] = "latest AI news" });
// result.Allowed == true

builder.Services.AddMcpServer().WithGovernance(options => options.PolicyPaths.Add("policies/mcp.yaml"));

</details>

<details> <summary><b>Rust</b></summary>

use agent_governance::{AgentMeshClient, ClientOptions};

let client = AgentMeshClient::new("my-agent").unwrap();
let result = client.execute_with_governance("data.read", None);
assert!(result.allowed);

</details>

<details> <summary><b>Go</b></summary>

import agentmesh "github.com/microsoft/agent-governance-toolkit/agent-governance-golang"

client, _ := agentmesh.NewClient("my-agent",
    agentmesh.WithPolicyRules([]agentmesh.PolicyRule{
        {Action: "data.read", Effect: agentmesh.Allow},
        {Action: "*", Effect: agentmesh.Deny},
    }),
)
result := client.ExecuteWithGovernance("data.read", nil)
// result.Allowed == true

</details>

전체 워크스루: quickstart.md — YAML 정책, OPA/Rego, Cedar 지원으로 10분 만에 제로에서 관리되는 에이전트까지.

🌍 다른 언어로도 제공: 日本語 | 简体中文 | 한국어]

제공되는 기능

스택과 호환

전체 목록: 프레임워크 통합 · 빠른 시작 예제

OWASP Agentic Top 10 — 10/10 커버

전체 매핑: OWASP-COMPLIANCE.md · 규제 정렬: EU AI Act, NIST AI RMF, Colorado AI Act

성능

거버넌스는 작업당 < 0.1 ms를 추가합니다 — LLM API 호출보다 약 10,000배 빠릅니다.

참고: 이 수치는 정책 평가만 측정합니다. 분산 다중 에이전트 배포에서는 에이전트 간 메시지에 대한 암호화 검증 및 메시 핸드셰이크에 약 5–50ms가 추가됩니다. 전체 분석은 제한 사항 — 성능을 참조하세요.

전체 방법론: BENCHMARKS.md

설치

5개 언어 패키지 모두 핵심 거버넌스(정책, 신원, 신뢰, 감사)를 구현합니다. Python은 전체 스택을 제공합니다. 자세한 언어별 적용 범위는 언어 패키지 매트릭스 를 참조하세요.

<details> <summary><b>개별 Python 패키지</b></summary>