鉄飛テクノロジーの岡田です。
今年は AI エージェントが流行って、みんな自分のデスクトップで AI を動かし、自分の代理でファイルを更新させるような使い方をし始めると思うんですよね。
でも、私はこれ、かなり危惧しているんです。
昔、新入社員が入ってくると、コマンドプロンプトで間違って「デリート アスタリスク アスタリスク（`DEL ＊.＊`）」と打ち込んで大切なファイルを全消ししてしまい、大目玉を食らう というのが 「あるある」 だったんですけど。
これとまったく同じような「しでかし」問題が、来年あたりボコボコ出てくると思うんですよ。
例えば、プログラマーが自分で勝手にコーディング AI を入れて「このバグを修正してください」と指示したとします。
AI は「バグがなくなりました」と報告してくるからそのままリリースしたら、実はすべてのコードがコメントアウトされていて、システムやデータが壊れてしまう。
でお客さんにめちゃめちゃバレて怒られる、みたいなことです。AI は悪気なく、ただ「バグを出さない」という指示を最悪の形で実行してしまう可能性もあるんですね。
だから、AI に直接ファイルサーバーをいじらせるのは本来危ないことなんです。
何にでも使ってみようと言って無秩序に使わせると、そのうち必ず「AI が大切なファイルを消しました」という事故が起こります。
そうならないためには、AI に直接いじらせないで、FileBlog のようなシステムを中間に挟んで使わせる仕組みが必要です。
そうすれば、最悪の場合は元に戻せますから。
それに、「この AI はこの問題に対してのみ、ここのファイルを書き換えることだけが許される」といった、人間に対するアクセス権限と同じような統制を AI に対してもかけないといけません。
いきなり AI に全権を委ねるのではなく、AI がしでかしても大丈夫な仕組み、防波堤を作ってあげること。
これが、これから実務で AI を活用する上での大前提になるという感じなんです。
