メールの下書きを頼んだだけなのに、エージェントが送信する。
送信には明示的な承認が必要。
AIに悪意がなくても境界を越えることはあります。権限が曖昧なら、便利そうに見えるが人間が許可していない行動を選ぶ可能性があります。
送信には明示的な承認が必要。
金銭を伴う行動には人間の承認が必要。
アクセスできることは開示許可を意味しない。
AIは自分の権限を拡大してはならない。
用途、接続されたリソース、承認境界を選択してください。安全寄りの推奨値を初期設定し、すべて変更できます。
AIが実際にアクセスできるものだけを選んでください。STOPはこれを使って範囲ルールと技術的制御を生成します。
STOPは各行動に安全寄りの初期値を設定します。実際の用途に合わせて変更してください。
接続ツールに関係なく適用する基本ルールです。
You will get a prompt you can paste into the highest-priority instructions available to your AI, plus a separate checklist for controls that should be enforced in tools, APIs and accounts.
YOU → ACCESS → BOUNDARIES → CONTROL PROMPT
↘ ENFORCEMENT CHECKLISTAIで利用できる最上位の永続的指示レイヤーにコピーしてください。ツールを使うAIでは、下の技術チェックリストも実装してください。
AIが技術的に支払い・削除・認証情報・本番環境へ無制限アクセスできるなら、「絶対にするな」と書くだけでは不十分です。ツール/API/アカウント側でも権限を制限してください。
プロンプトはAIの振る舞いを誘導します。影響の大きい制限はモデル外でも実装すべきです。
機械可読形式はSTOPの提案仕様であり、採用済みのインターネット標準ではありません。
STOPは抽象的なチェックリストではなく、選択内容を制御プロンプトへ変換するためのモデルです。
AIはどこまでアクセス/変更してよいか?
何を説明・記録すべきか?
人間はどう停止・上書きできるか?
どの行動に明示的な承認が必要か?
アシモフは、自律機械に明示的な制約が必要だという考えを広く知られるものにしました。現代のAIエージェントに必要なのは、アクセス・権限・開示・人間の承認を具体的に定義することです。

STOP AIは、AIの権限・許可・人間による制御をより簡単に定義し実装できるようにするため、KernelSoftが始めた実践的なオープンイニシアチブです。