手渡しの設計原理 — 人とAIの間で制御をどう受け渡すか

人とAIの協働は、制御の受け渡しの連続である。AIが下書きを作り、人が直し、またAIが整える。この往復のたびに、判断の主体が移る。受け渡し——手渡し(handoff)——が雑だと、引き継ぎの瞬間に情報が落ち、責任が宙に浮く。自動運転の分野で議論されてきたこの問題は、あらゆる人間とAIの協働に共通する。本稿では、手渡しを設計する原理を整理する。

手渡しで受け渡されるもの

手渡しは、単に処理のバトンを渡すことではない。同時に三つのものが移る。制御(次に何をするかを決める権限)、責任(結果への説明義務)、文脈(そこまでの経緯と前提)である。このうちどれかが渡されないと、受け手は判断できない。制御だけ渡されて文脈が渡されなければ、受け手は暗闇で舵を握らされる。

「今、誰が主体か」を明示する

手渡しの設計で最も基本的な要件は、任意の時点で「今その処理の主体は人間かAIか」が明確であることだ。自動運転で繰り返し問題になったのは、この主体の曖昧さである。システムが制御していると人間が思い込み、実際にはシステムが判断を人間に委ねていた——そのはざまで事故が起きる。主体が曖昧な瞬間は、責任が空白の瞬間でもある。意思決定の監査可能性の観点からも、主体の連続的な記録は欠かせない。

急な手渡しは危険である

受け手が状況を把握しないまま制御を渡されると、適切な判断はできない。人間がずっと自動処理を眺めていて、突然「ここから判断してください」と制御を戻されても、文脈の再構築に時間がかかる。この間は、人もAIも実質的に舵を握っていない空白になる。ただし、猶予を長く取れば安全かというと、それも違う。猶予のあいだ処理は止まり、効率が犠牲になる。手渡しの速さと安全は、しばしば相反する。

受け手に応じて渡し方を変える

一方、渡す相手が人間かAIかで、適切な渡し方は変わる。人間への手渡しには、状況を把握するための要約と、判断に必要な根拠が要る。AIへの手渡しには、前提と制約を構造化して渡す必要がある。人間は文脈を補完できるが時間がかかり、AIは速いが渡されていない前提を補えない。この非対称は、エージェント型ワークフローの境界で論じた自律範囲の設計と直結する。境界とは、手渡しが起きる地点のことである。

結び

手渡しは、協働の継ぎ目であり、最も壊れやすい場所である。制御・責任・文脈を同時に受け渡し、任意の時点で主体を明示し、受け手が状況を把握する余地を残す——この三つが、手渡し設計の基本原理である。協働の質は、個々の処理の質よりも、その継ぎ目をどう設計したかに左右される。