AI
AIへの任せ方を分ける3つの基準
AIに仕事を任せるとき、機械で判定することとAIに見せる判断をどう分けるかが分かる記事です。
AIに仕事を任せるとき、何を機械で判定して、何をAIの判断に預ければよいのでしょうか。この線引きが曖昧なまま走り出すと、問題が起きたときにどこを直せばいいのか分からなくなります。
この記事では、自分用の記録と判断の仕組み「ブレイン」と、このブログの記事づくりを例にして、分け方を3つの観点で紹介します。結論は、数えられるものと必ず守らせたいものは機械で止める、です。意味を読まないと分からないものはAIに見せて、最終確定は人がします。
機械で止めるものを選ぶ3つの基準
最初に決めるのは機械の側に何を置くかです。機械は意味を読めません。その代わりに、疲れることなく毎回同じ判定を返してくれます。
自分の基準は迷ったら機械側に寄せることです。ここでは、機械側に置くものの見分け方を、比較とチェックリストの形で3つに分けて、順に説明していきます。この基準があれば、仕事ごとに悩む時間は減らせるはずです。
数えられるかどうかで比べる
数えられるものは機械に任せたほうが確実です。このブログの記事づくりでは、字数や読点の数や段落の長さを、機械のチェッカーで判定しています。
AIに「長すぎないか見て」と頼んでも、それらしい返事は来ます。ただし毎回同じ答えになる保証はありません。数字で決まるものは数えた結果がそのまま答えです。
比べるときの問いは定規で測れるかどうかだけです。測れるものは機械の山に入れ、測れないものは別の山に入れて、先に分けておきます。
必ず守らせたいかどうかで比べる
数えられなくても、必ず守らせたいものは機械の側に置きます。ブレインでは、AIはタスクを「候補」としてしか作れません。状態を変えることもできない設計です。
この制限は、プログラムの側と、データベースのトリガーの二重で掛けています。接続の認証トークンに「AI経由」という役割の印を載せ、データベース側でその印を見て書き込みを断ります。
タスクを確定できるのは、人が受信箱で操作したときです。「やらないでください」と指示文で頼むのとは違い、AIがどう判断しても通りません。
迷ったときに当てる問いのチェックリスト
迷ったときに当てる問いは3つあります。数えられるか、破られたときに取り返しがつかないか、人の注意力に頼らず守らせたいか、の3つです。どれも答えははいかいいえで出せます。
ひとつでも当てはまれば機械の側に寄せます。判定が粗くなってもかまいません。粗い部分はあとからAIや人の目で補えるからです。
機械に寄せすぎて困ることは少ないと見ています。足りなければAIの判断を後から足すだけで、迷った段階で寄せておけば取り返しのつかない失敗は減らせます。逆に、機械から外したものは、事故が起きるまで穴に気づけません。
AIの判断に見せるものを選ぶ3つの観点
機械で止められないものは残ります。意味を読まないと分からないものです。ここはAIの判断に見せますが、誰にどう見せるかで結果が変わってきます。
AIに見せる場面を、判定する役の選び方、機械との得意不得意の違い、結果を受け取るときの確認の3つに分けて整理します。それぞれ自分の運用を例にして書いた内容です。どこから読んでも通じるようにしました。
書いた本人とは別のAIに判定させる
このブログでは、内容の判断を、書いた本人とは別のAIに判定させています。見るのは、誰かの話と特定されないかどうかと、書いてある体験が材料と合っているかどうかです。
書いた本人に見直させると、自分の文章に甘くなりがちです。人間も自分の原稿の誤字は見落とします。AIも事情は似ていると考えています。
だから判定役は分けておく。この記事の工程そのものがその例です。書く側と見る側を分けるだけで、見落としの種類が変わります。
得意な判定の違いを比べる
並べてみると違いが分かります。字数や読点の数は数えれば答えが出ますが、誰かの話と特定されないかは、文脈を読まないと答えが出ません。同じチェックでも中身はまるで別物です。
たとえば、ある職業と年齢と地域の組み合わせは、単語の一覧だけでは拾いきれません。意味を読む目が要ります。ここは機械ではなくAIに見せる側です。
AIに字数を数えさせるのは向いていません。得意な仕事と苦手な仕事を取り違えないことが、任せ方の半分だと思っています。
AIの判断を受け取るときのチェックリスト
AIの判断を受け取るときに確かめることは3つです。何を根拠に判定したのか、その根拠は渡した材料の中にあるか、結果を人があとから見られる形で残しているか、を見ます。
ブレインには、AIが「記録しました」と報告しながら、実際は別の場所に書いていた事故がありました。そこで書き込み後は、道具の戻り値を提示させるルールにしました。件数と箱と日付とタイトルです。
AIの言葉ではなく道具が返した値を見る。AIの判断は、証拠と一緒に出させて初めて受け取れる、というのが自分の考えです。
AIが触れない領域を広げる3つの場面
AIの判断を信用する前に、AIが触れない領域を作っておきます。順番はこちらが先です。触れない領域があるから、AIの判断を安心して受け取れます。
領域を広げた場面を、ブレインの作業から3つ取り上げます。穴は見直しや動作確認の中で見つかることが多いので、見直しや確認の時間も、最初から予定に入れておく運用です。
繰り返し予定への書き込みを断る
ブレインの作りをセルフレビューした結果、繰り返し予定へのAI経由の書き込みをデータベースで拒否する処理を足しました。守る対象は、あとから増える場面が出てくるものだと感じています。
最初の設計で守っていたのは、タスクの候補と状態でした。繰り返し予定の分は後から足す必要が出ました。守る対象は思いついた順にしか増えません。
自分なら新しい表を作るたびに最初に決めます。AI経由の書き込みを通すのか断るのか。決めずに作ると穴として見つかります。
時間の記録の表にも同じ印を掛ける
時間を計測する表にも、AI経由の書き込みを断るトリガーを入れました。実装の前に、サービス権限で書いている既存の処理がないかを、検索で確かめる方針にしました。
先に検索するのは、トリガーを入れたあとに既存の処理が止まるのを避けるためだと考えています。断る側を増やすときは、今そこを通っている道を先に洗い出します。
夜の自動記録が「この箱だろう」と推した箱は、推した箱として出すだけです。確定するのは本人です。AIの推測は便利ですが、確定の権限までは渡しません。
動作確認で人の目に頼る
動作確認の中で、トリガーの空（NULL）判定に誤りがあるのを見つけました。この誤りは、AI経由の書き込みだけでなく、画面からの操作まで止めていました。修正は済んでいます。
仕組みで守る側にも間違いは入ります。だから画面の数字は人の手で照らしました。3つの箱について手計算した値が、Dashboardの値と一致するのを確かめています。
機械で止める仕組みは作って終わりではありません。止めすぎていないか数字が合うかを、人が最後に見ます。この確認まで含めて機械側の仕事だと考えています。
まとめ
AIに任せる仕事は、機械で止めるもの、AIに見せるもの、人が確定するものに分けて整理できる、というのが結論です。数えられるものと守らせたいものは機械の仕事で、意味を読むものはAIの仕事です。最後の確定は人の仕事です。
迷ったら機械の側に寄せて、AIの判断を信用する前にAIが触れない領域を作る。これが自分の基準です。まずは今任せている仕事から、数えられるものを一つ選んで、機械の判定に移してみてください。
- #AI
- #自動化
- #チェック