禁止ではなく、制御を

AIにアクセス権を与える前に、
ルールを与える。

AIがアクセスできる対象と、人間の承認が必要な行動を選ぶだけ。STOP AIがその選択から、すぐ使える制御プロンプトと、プロンプト外で実装すべき技術的チェックリストを生成します。

● 無料 · アカウント不要 · アップロードなし · ブラウザ内で実行
AIが質問に答えるだけで、ツールやアカウントを使ったり外部で行動したりできないなら、まだSTOPは必要ないかもしれません。チャットの外で権限を持つときに価値が出ます。
なぜAIにルールが必要?

「タスク」と「許可」は同じではありません。

AIに悪意がなくても境界を越えることはあります。権限が曖昧なら、便利そうに見えるが人間が許可していない行動を選ぶ可能性があります。

下書き ≠ 送信

メールの下書きを頼んだだけなのに、エージェントが送信する。

送信には明示的な承認が必要。

解決 ≠ 購入

問題解決を頼んだら、勝手にアップグレードを購入する。

金銭を伴う行動には人間の承認が必要。

アクセス ≠ 共有

非公開ファイルを読めるため、その一部を別サービスへ送る。

アクセスできることは開示許可を意味しない。

タスク ≠ 権限拡大

権限が足りないので、別エージェントを作成したり追加アクセスを取得する。

AIは自分の権限を拡大してはならない。

制御プロンプトを作成

AIができることを選ぶだけ。すぐ使えるルールを生成します。

用途、接続されたリソース、承認境界を選択してください。安全寄りの推奨値を初期設定し、すべて変更できます。

1 · AIを何に使っていますか?

2 · 何にアクセスできますか?

AIが実際にアクセスできるものだけを選んでください。STOPはこれを使って範囲ルールと技術的制御を生成します。

3 · どの行動に承認が必要ですか?

STOPは各行動に安全寄りの初期値を設定します。実際の用途に合わせて変更してください。

4 · 共通の安全ルール

接続ツールに関係なく適用する基本ルールです。

THE OUTPUT IS THE PRODUCT

You will get a prompt you can paste into the highest-priority instructions available to your AI, plus a separate checklist for controls that should be enforced in tools, APIs and accounts.

YOU → ACCESS → BOUNDARIES → CONTROL PROMPT
                     ↘ ENFORCEMENT CHECKLIST
なぜ「STOP」?

生成されるすべてのルールの背後にある4つの問い。

STOPは抽象的なチェックリストではなく、選択内容を制御プロンプトへ変換するためのモデルです。

S

Scope

AIはどこまでアクセス/変更してよいか?

T

Transparency

何を説明・記録すべきか?

O

Override

人間はどう停止・上書きできるか?

P

Permission

どの行動に明示的な承認が必要か?

アシモフから実用的な制御へ

フィクションのロボットには法則がありました。現実のAIには運用上の境界が必要です。

アシモフは、自律機械に明示的な制約が必要だという考えを広く知られるものにしました。現代のAIエージェントに必要なのは、アクセス・権限・開示・人間の承認を具体的に定義することです。

STOP AIを運営しているのは?

KernelSoftが始めたオープンな取り組みです。

STOP AIは、AIの権限・許可・人間による制御をより簡単に定義し実装できるようにするため、KernelSoftが始めた実践的なオープンイニシアチブです。

kernelsoft.devを見る