正解: BCorrect: B
影響の大きさ、可逆性、検証可能性の三つを組み合わせることで、エージェントの能力が変化しても通用する委任の判断ができます。Combining magnitude of harm, reversibility, and verifiability yields a delegation rule that remains valid as agent capabilities change.
Amazon の Jeff Bezos が株主への手紙で述べた「一方通行のドア（取り返しのつかない決定）と両方向のドア（やり直せる決定）」の区別は、AIエージェントへの委任にもそのまま応用できます。低影響で可逆的、かつ結果を自分で確認できるタスク（情報収集、下書き、日程調整の候補出し）は委任に適し、高影響で不可逆なタスク（送金、契約締結、重要な人への最終的な通知、健康や法的地位に関わる決定）は人間が最終判断を握るべきです。「検証できるか」という軸は、Kahneman らが論じた専門家判断の条件と同様に、フィードバックが得られない領域では過信が生まれやすいことを踏まえたものです。選択肢Aは影響を無視し、Cはエージェントの自己申告への過信で、2020年代後半に報告された誤った自律実行の事例（誤送信、誤発注）が示すリスクを見落としています。Dは自分の文脈を無視しています。楽観シナリオでエージェントが高信頼になっても、悲観シナリオで誤動作や悪用が増えても、この三軸は一貫して有効です。The distinction Jeff Bezos drew in an Amazon shareholder letter between one-way doors (irreversible decisions) and two-way doors (decisions that can be undone) applies directly to delegation to AI agents. Low-impact, reversible tasks whose results you can check yourself, such as information gathering, drafting, and proposing meeting slots, suit delegation, while high-impact, irreversible tasks such as transferring money, signing contracts, final notices to important people, and decisions affecting health or legal status should keep a human as the final decision maker. The verifiability axis reflects the conditions for expert judgment discussed by Kahneman and others: overconfidence grows where feedback is absent. Choice A ignores impact, C overtrusts the agent's self-report and overlooks the risks shown by cases of erroneous autonomous execution (mistaken sends, mistaken orders) reported in the late 2020s, and D ignores your own context. Whether agents become highly reliable in an optimistic scenario or malfunctions and misuse rise in a pessimistic one, these three axes remain consistently valid.
三軸の判断は、慣れとともに「今回も大丈夫だろう」と緩み、いつの間にか高影響タスクまで委任してしまう「委任の漂流」が起きやすいです。また、エージェント同士が連携する環境では、一つの低影響タスクが連鎖して大きな影響を持つことがあり、単独のタスク評価では捉えきれません。Judgment along the three axes tends to loosen with familiarity, leading to delegation drift in which high-impact tasks quietly become delegated too. In environments where agents coordinate with each other, one low-impact task can cascade into a large effect that single-task evaluation cannot capture.
委任のルールを文書化し、エージェントの設定にも反映（例：一定額以上の支出や外部送信は必ず承認を求める）しましょう。月に一度、エージェントの行動ログを見直し、想定外の連鎖がなかったかを確認する習慣が、漂流を防ぎます。また、重要な決定には「24時間の保留」を設定し、自動実行と最終確認の間に余白を作ることが有効です。Write down your delegation rules and encode them in the agent's settings, for example requiring approval for spending above a threshold or any external sending. Review the agent's action log monthly for unexpected cascades to prevent drift. For important decisions, set a 24-hour hold to create space between automated execution and final confirmation.