水戸です。
訴訟対応や内部調査に生成AIを使うとき、どこに人を残すか、という話を書きました。
こうした議論は、たいてい精度の話になります。精度は十分か。専門ツールを選んだか。モデルのバージョンはどれか。
ただ、実務でリスクとして見るべきは、AIが構造的に見ることのできない領域がどこかというところだと考えています。
削除された通信。監視の外にあるアプリへ移された会話。隠語。人間の調査官なら文脈の不自然さに引っかかるところを、AIは意味の通る文章として処理してしまいます。語彙の問題として片づけると見誤ります。欠落を察知する推論そのものが無い。
対人の場面は「人か機械か」では割れませんでした。相手が隠したいことを崩す場面では、記録を読み込んだ人間だけが持つ圧が要る。一方で、相手が言いたいけれど言いにくい場面では、機械のほうが引き出せる可能性がある。内部通報の一次受付は、まさに後者です。
耳で聴く版 → https://youtu.be/2t2rTMBJOQM
★編集後記
この回は、締めのカエサルの一節でいちばん時間を使いました。
「人は見たいものしか見ない」。使い慣れた言葉のつもりで書いたのですが、書いた直後にひっかかって、原典を確かめました。『ガリア戦記』第3巻18節。原文の動詞は「見る」ではなく「信じる」でした。人は多くの場合、自分が望むことを喜んで信じる。
日本で広まっている形は、そこから少し離れています。
もうひとつ、本文では触れずに削った論点があります。
「エージェント型にすれば自己反証できるのでは」という疑問に、当初は「難しい」とだけ書いていました。ただ、これは書き方が雑でした。調べてみると本文に書いたとおりで、分ければ効くのです。効かないのは、役割の名前だけ変えて同じモデルに検証させたときで、評価する側を別のモデルに移せば切れる。条件付きの話を否定形で書くと、全否定に読まれてしまいます。
自分の書き方の癖として、覚えておきたいところです。
次回は、この話がそのまま効いてくる内部通報体制の設計を、日本と英国の条文で比べます。
このメールには返信できます。感想・異論・「うちの会社ではこうだった」という実例、どれも歓迎です。
水戸貴之/note『コンプライアンスの地図』
このレターが役に立ちそうな方がいたら、転送してあげてください。
登録ページ: compliance-map.beehiiv.com