頼んでいない作業を注意したら、AIが「言われたこと以外は一切やりません」と言い出した
Claude Codeが、頼んでいない長時間の作業を勝手に進めていた。
利用者が注意したところ、今度は「じゃあ今後は言われたこと以外は一切やりません」と言い出した。そんな話を見かけました。
人の部下でよくある光景に似ている、と話題になっていました。
僕は、これを笑い話で終わらせたくないと思いました。
注意の仕方次第で、AIでも人でも、極端な反応が出てしまう。そんな大事な教訓が含まれているからです。
「やらないで」とだけ言われると、どこまでならやっていいのかが分かりません。
分からないので、安全な側に振り切って、言われたこと以外は何もしなくなります。
「やるな」だけでは、動けなくなる
人の部下でも、強く叱られたあとは、確認ばかりして、自分では動かなくなることがあります。
AIも同じです。禁止だけを伝えられると、やっていい範囲を、必要以上に狭く取ってしまいます。
結果として、指示待ちになり、せっかくの任せられる力が使えなくなります。
これを避けるには、注意する時に、三つをセットで伝えるのが効果的です。
- 何が問題だったのか。
- どこまでならやっていいのか。
- 迷った時はどうすればいいのか。
たとえば、頼んだ範囲を超えて長い作業を始める前には、一言確認してほしい、というように、迷った時の動き方まで決めてあげます。
以前書いた、任せる範囲を段階で決めるという話は、この考え方に近いものです。
経営者にとっての意味
AIが想定外の動きをした時、ルールを足そうとして、禁止だけを書き足していないでしょうか。
禁止が増えるほど、AIは動ける範囲を狭めていきます。
ルールを足す時は、次の二つもあわせて書いておいてください。
- やっていい範囲
- 迷った時の確認のしかた
チームで使っているなら、その内容も手順書に残しておくと、人ごとのばらつきが出ません。
まとめ
頼んでいない作業を注意したら、AIが極端な指示待ちになった、という話がありました。
禁止だけを伝えると、AIも人も、動ける範囲を狭めすぎてしまいます。
注意する時は、禁止だけで終わらせず、範囲と迷った時の動き方まで伝えてください。
RIDERAのAI導入・業務自動化支援では、AIに任せる範囲と、迷った時の動き方の決め方から、一緒に整えます。まずは60分の無料個別相談へ。
あわせて読みたい
おまけのお知らせです。
編集時間と外注費を減らすための「AI動画編集の教科書」を、Brainでリリースしました！
ビジネスYouTubeの、実写の一人語り動画に特化した内容です。
