VetoNet,
AI Agent Security の研究プロダクト。
AI Agent の振る舞いを多層検証する、Nortiq Labs の研究開発プロダクト。自社プロダクト開発の技術基盤として、お客様の AI 実装にもその知見を還元しています。
なぜ AI Security か。
WHY · AI AGENT SECURITY
生成 AI が業務の中核に入った今、「AI の出力を、誰がどう検証するか」が経営課題に直結します。LLM は確率的に振る舞うため、従来のルールベース監査ではカバーしきれない判断が日々生まれている。VetoNet はその検証レイヤを構築するための研究です。
研究の現状と、公開方針。
STATUS · IN PROGRESS
三層の検証アーキテクチャを設計中
入力検証 / モデル出力検証 / 人間レビューを直列に挟む、多層的な検証レイヤを試作しています。各層が異なる粒度で AI の判断を捕捉する構造を目指しています。
社内 PoC を反復中
外部公開や商用導入の前に、Nortiq 内部で運用する AI ツールへ組み込み、検出率・偽陽性率・運用負荷を計測しています。実運用に耐えるオーバヘッドかどうかを最優先で検証中。
Whitepaper で段階公開
完成を待たず、設計思想、脅威モデル、評価指標を順次ホワイトペーパとして公開していく予定です。クローズドな研究ではなく、コミュニティと議論しながら磨いていく方針です。
技術的詳細
Multi-Agent システム上に Veto Agent を別立てで実装し、他の Agent の出力を 7 種類の検証器に通します。検証器は Rust で実装された高速モジュール (構文・形式・コスト系のルールベース検証) と、Python の LLM ベース検証器 (事実性・一貫性・業務適合の意味論的検証) の組み合わせ。前段で安価に弾けるものは Rust 層で落とし、判断が必要なものだけを LLM 層に流すことで、レイテンシとコストのバランスを取っています。
業務に AI を入れる前に、
検証レイヤの議論をしませんか。
営業日 24時間以内に担当者よりご返信します。