T36 · Autonomous Onchain Economy
自ら稼ぎ、支払うsystemの境界はどこか？
- 練習する能力
- AI LiteracyBuilderSystem Thinking
- 実践
- ウォレット、予算、戦略、リスクエンジン、ワンクリック停止、完全なログを備えた卒業課題のエージェントを完成させる。
- AI Lab
- AI にエージェントの事故対応計画を書かせ、自分で訓練を行い、モデルが暴走した際に停止まで何分かかるか測る。
現実の問題
前の章を合わせると、次のものができました。
walletを持ち（T34）、toolでchainを調べ（T33）、全動作が提案、検証、simulation、実行、照合を通ります（T32、T35）。データを買って支払い、研究結果を売って収入を得ます。
ある月、初めて収入が支出を超えました。
会議で、これは今、何なのか？ と問われます。
哲学でなく、具体的な四つのengineeringと法的な問いです。
- wallet資金は会社のものか、それともsystemのものか？
- 誰が何人で、どれほど早く止められるか？
- 明日全額を失ったら誰が払うか？
- 地域の規則に違反したら誰の責任か？
答えられず、大きくなるまで走らせてから考えようと提案します。
この章はその提案に反対します。 四つの答えは公開前にsystemへ定める必要があります。特に停止方法が不明なsystemは、大きいほど止まりません。
思考実験
社員が一人で、その社員がsoftwareの会社と考えます。
数百年の会社制度と比較します。
| 会社の問い | 答え | Agentでは |
|---|---|---|
| ownerは誰か | 株式登録 | 鍵またはsmart accountの支配権 |
| 停止できる人 | 取締役会、法定代表者 | switch保有者と人数 |
| 損失の負担 | 有限責任 | 対応物なし。chainに有限責任はない |
| 違法行為の責任 | 法人と実支配者 | 公開した人 |
| 行為の証明 | 帳簿と監査 | audit logとchain記録 |
第三が最重要の違いです。
有限責任は出資額で損失を限定する重要な制度で、損失の上限が定まるためriskを取れます。
Agentにはありません。wallet残高を全て失い得て、承認枠があればさらに失います。誰も上限を付けないので、自ら付けます。
自治はswitchでなく、三つの独立した問いです。
- 意思決定の自治：何をするか自ら決められるか？
- 資金の自治：いくら使うか自ら決められるか？
- 存続の自治：停止を拒めるか？
前二つは価値のために与えられます。第三は絶対に与えません。 停止拒否は自治でなく制御喪失です。
あなたが決める
configへ自治の境界を定めます。
結果を観察する
四者択一でなく、自治の連続した水準であり、上がるたび制約が増えます。
| 水準 | できること | 必須の制約 | 最大損失 |
|---|---|---|---|
| L0 読み取り | query、分析、助言 | 出典記録 | 0 |
| L1 提案 | 構造化案、人が実行 | Schema、Validator | 0 |
| L2 予算内実行 | 枠内の自主実行 | 十層、session key、停止 | 枠と未取消し承認 |
| L3 自己収支 | 収入と支出優先順位 | L2と収支帳簿・照合 | 枠と再投入収入 |
T32と同じ軸を資金へ落とし、規則も同じです。
検証できる水準までしか進めません。
どの水準でも、次は一定です。
自治は無制約ではありません。価値は制約の設計で決まります。
configを他人に見せ、最大損失を計算できるかで検証します。できなければ境界はありません。
モデルを作る
一、Agent Treasury：収入と支出を分ける
収入を持つと、支出toolから貸借対照表を持つ存在へ変わり、帳簿を分けます。
| 収入 | 支出 | |
|---|---|---|
| source | service fee、task commission | データ、計算、Gas、モデルcall |
| 記帳時点 | chainで受取確認後 | chainで支払確認後 |
| 帰属 | task、利用者 | task、資源種類 |
| 照合key | transaction hash | transaction hash |
三つの実践規則です。
第一、収入を自動的に予算へ入れません。 別残高へ置き、人か定期規則による明示操作で運用予算へ移します。誤送金などが自動で支出上限を増やさないためです。
第二、Gasを別計量します。 一つの業務taskに帰属しなくても実費です。省くと粗利は正でも残高が減ります。
第三、hashを冪等keyにします。 T16の通り、callbackが何回来ても一収支を一回だけ記帳します。
二、kill switchの四条件
一つでも欠けると、本当の停止ではありません。
- モデルを通らない起動経路
- 既定で拒否
- 状態の永続化
- 外部から起動可能
モデルを通らない経路。 注入や制御喪失したモデルが停止を妨げないよう、判断に参加せず、触れないchannelを使います。
既定で拒否。 停止中は即拒否し、queueへ入れません。再開時に滞留操作が一斉に出ると、停止しないより悪くなります。
状態の永続化。 restart後も停止し、人の明示操作だけで再開します。crash後に自動再開するswitchは、最も必要なとき失効します。
外部から起動可能。 運用、monitoring、HTTP endpointから起動し、内部login後のbuttonだけにしません。
訓練も必須です。決定から停止確認までの実時間を定期的に測ります。未訓練のswitchはないswitchと区別できず、T30の意図した不変条件破壊と同じ原則です。
三、責任表：四つの答えを書く
会議の話でなく、文書にします。
| 問い | 明記するもの |
|---|---|
| 資産帰属 | 支配者、multisigなどの形式と閾値 |
| 停止権 | 人、人数、最長時間、訓練記録 |
| 損失負担 | 他人に示せる最大損失、負担者、上限 |
| 規則への責任 | 公開主体、対象地域、明確にしない行為 |
第三の、他人に計算を示すことが良い自己確認です。
最大損失 = wallet残高
+ 全ての未取消し承認枠
+ session keyの残枠
+ 操作可能な利用者資金（他人の資金を管理する場合）一項でも数値を入れられなければ境界はありません。
四、Part B全体を閉じる
Technical Crypto OSの最後の章です。六段階は、一つの問いの六層に答えます。
| 段階 | 答えるもの |
|---|---|
| 一・mental model | chainの保存内容と取引 |
| 二・contract engineering | 誰でも呼べ、変更できない規則 |
| 三・full-stack application | 実際に使える製品 |
| 四・DeFi engineering | 金融機構と壊れる境界 |
| 五・インフラと安全 | 公開翌日の資金喪失を防ぐ |
| 六・AI engineering | 信頼性の低いcomponentを不可逆systemへ安全に参加させる |
六段階を貫く線を示します。
- 不可逆
- だから先にsimulation
- だから不変条件
- だから境界
- だから停止可能
不可逆性がこのstackの特異性です。 所有権を誰も取消せない価値と、誤りも取消せない難しさの両方を生みます。Fork、不変条件、脅威モデル、simulation、policy、停止は、同じ性質への応答です。
何と呼ぶか
Agentの使用可能資産と収支帳簿です。
収入は明示的に予算へ移し、Gasを別計量し、hashで冪等照合します。
読み取り、提案、予算内実行、自己収支の連続した水準です。
上がるごとに制約を追加し、検証できる水準まで進みます。
全実行を即停止します。モデル非経由、拒否既定、永続化、外部起動の四条件が必要です。
定期訓練で決定から停止確認までを実測します。
wallet、未取消し承認、鍵の残枠、操作可能な利用者資金の合計です。
計算できなければ境界がありません。
資産、停止、損失、規則への責任という四問の書面です。
法務文書だけでなくengineeringの前提で、特に停止権が設計を決めます。
実践
Part Bの最終成果で、卒業制作 の技術線の中心です。新規コードより、既存成果を動き、止まり、説明できる一つの経路へ接続します。
全項目に印を付け、一つでも欠ければ未完です。
| component | 出典 | 合格確認 |
|---|---|---|
| walletと鍵 | T27、T34 | chainの枠がchain外の日上限より小さい |
| tool | T33 | Schemaの六要素が全てある |
| 提案とValidator | T32 | 五悪意案を全拒否 |
| policy engine | T34 | コードでなくconfigに規則 |
| simulationとrisk | T35 | 拒否案は実行へ到達不可 |
| 実行と照合 | T35 | 実結果との差を確認し、超過alert |
| kill switch | 本章 | 四条件と訓練 |
| audit log | T32、T34 | 以下の四問に答える |
| 収支帳簿 | 本章 | hashによる冪等性と照合 |
最大損失をREADMEの第一行へ書きます。
全項を計算し、数字を入れられない項がsystemの穴です。有限の数にしてから進めます。
停止訓練を計時します。
通常稼働して提案を送り、モデル非経由で停止し、新実行ゼロの確認まで測り、restart後も停止と確認して、人が明示再開します。
READMEへ時間を書きます。最重要の指標で、事故時の損失下限にほぼ対応します。
logの四問を検証します。
任意の過去案で、提案者、許可・拒否理由、実行内容、実行後残高を答えます。
一問でも答えられなければ不足です。
一pageの責任説明を書きます。
帰属、停止権の人・人数・時間、最大損失、明確にしない行為を、各三～五行で記します。
コード以上に理解を示すpageです。
越えない条件：T28～T30の安全確認と最大損失算出の前に、実資産を接続しません。この教材で繰り返した、最後の確認です。
AI Lab
計画を書かせます。
Agent構成とpolicy configを添付します。次の事故対応を作ってください。
1. 異常案を出し続けるが、全て検証を通る
2. injectionで未知addressへ払おうとする
3. 価格sourceが故障または操作される
4. 実結果がsimulationと大きく違う
5. 不明sourceの大額入金など異常収入
6. 私が見逃したと考える六番目の状況
各状況に発見方法、担当者、即動作、事後調査を書きます。
即動作は具体endpoint callかcommandで、関係者へ連絡だけでは不十分です。第六を開けておくと、T30の外部upgradeや鍵失効直前に更新担当なしなど、teamの未知の案を出せます。
実際に訓練します。 第一か第二をtestnetで作り、計画通り実行して測ります。
| 記録 | 意味 |
|---|---|
| 発見時間 | 異常から人が知るまで |
| 決定時間 | 知ってから停止を決めるまで |
| 発効時間 | 起動から新実行ゼロの確認まで |
| 合計 | 真の応答時間 |
AI推定と比べると差は大きいことが多く、実測が真の値です。
担当欄が人でなく役職だけだと、実際に誰も動かないことが訓練でよく分かります。
AI の回答後、自分で必ず検証すること
- 全停止動作で具体endpointと担当者を示せる
- 停止がモデルを通らず、協力が必要な手順は書き直す
- 推定応答時間と実測の差を確認する
- T35の、モデル正常でも結果が破滅的な場面を含む
- broadcastだけで損失停止とせず、receiptを確認する
- endpoint、command、configは実在し、捏造でない
実例
pauseコードは正しくても、権限者、command、メモリqueueの継続実行を確認するのに長時間かかりました。
未訓練のswitchと存在しないswitchを区別できません。
T30と同じく、一度失敗させて確認しない機構を有効と仮定できません。
停止後の調査でrestartし、停止状態が消えて滞留案を再実行しました。
停止とrestartが同時のときだけ現れ、事故対応では最も普通の組み合わせです。
誤送金を収入と記録して予算を自動増加し、Agentが支出を増やしました。
収入は支出許可ではありません。 人か定期規則による明示したgateを置きます。
データ、モデル、コードは正しく攻撃もありませんが、結果を答える段階がなく損失しました。
最後に繰り返す教訓は、system安全性はcomponentの正しさの合計ではありません。
変数を一つ変える
停止switchではなくなります。
注入や制御喪失したモデルは、止めないことを目標に含め得ます。触れない経路は、不可逆操作の基本要件です。
子の支出と承認は親の帳簿と一覧にないため、最大損失式が成立しません。
子予算を親予算の一部とすることを約束でなく硬い制約にし、子の事故の責任も記します。
技術は同じでも、権限境界、各操作の説明、随時償還、場合による資格という責任が増します。
logは調査から外部説明へ変わり、保持期間と改変不能性の要件も上がります。
過去を安全性の証拠にする、最も危険な瞬間です。
黒字は過去の市場で稼げた証明で、極端条件の制約の有効性とは因果関係がありません。
拒否数、理由分布、起動ゼロの規則、停止応答時間を根拠にします。利回り曲線でなく、拒否記録を見ます。
持ち帰る問い
権限は自治水準と最大損失の数です。できる操作の一覧だけでなく、最大いくら失うかを示します。
公開者が損失を負い、chainに有限責任がないためconfigで封じます。最大損失をREADME第一行へ書く理由です。
Human-in-the-loopは枠の更新、自治の昇格、停止と再開に残します。三つの権力は常に人が保持し、他は十分な検証後に委ねます。
モデルが明日利用不能になったら何が残るか？何もないなら、systemでなくモデルの外殻を作っています。
章末チェック
意思決定、資金、停止を拒否できる存続です。
前二つは与えられますが、第三は与えません。停止拒否は制御喪失です。
モデル非経由、拒否既定、永続化、外部起動です。
停止とrestartの同時発生でだけ露見し、その組み合わせは事故調査で普通です。止めて調べ、再起動すると走り出します。
誤送金、重複記帳、評価誤りが支出上限を増やし、本来ない枠を与えるためです。
人工確認か、固定周期・比率の明示gateを置きます。
利回りでなく拒否記録です。
拒否数、理由分布、起動ゼロ規則、停止訓練の実測時間の四つです。
過去の利益は、極端条件で制約が効くことを証明しません。
標準解答はありませんが、不可逆という語を含むか確認します。
参考：chain操作は取消せず、Fork、不変条件、脅威モデル、simulation、policy、停止は全て、不可逆性の代償を払うengineeringです。
所有権を誰も取消せない価値と、誤りを取消せない難しさの両方です。
要点
自律性は無制約を意味しない。自律システムの価値は制約の設計の質で決まる。