鉄飛テクノロジーの岡田です。
AI を自社のシステムに組み込むとき、とりあえず一番賢くて性能の良い AI モデルに全部の処理を投げているケースをよく見ます。
でもこれをやると、API の利用料が高くついて仕方ありません。あっという間にコストが爆発（パケ死）してしまいます。
LLM（大規模言語モデル）の裏側を見ると、賢くて単価が高いモデルと、複雑な推論は苦手だけど高速で安いモデルが存在するんですよね。
賢いモデルがなんでも一番というわけではなく、適材適所で使い分けるべきだと考えています。
例えば、システムの全体のロジックや計画を立てるような高度な仕事は、単価の高い賢いモデル（正社員・マネージャー）に任せる。
一方で、CSV のデータを JSON に変換したり、縦の表を横にするような単純なフォーマット変換の仕事は、単価の安いモデル（派遣スタッフやアルバイト）にやらせる。
この階層化と使い分けを AI モデルに対してもやると、無駄なコストが省けて、結果的に安くて速いシステムになります。
私はこれを、「AI の人事部」が必要になってくるんだと、理解しています。AI はただの便利なツールではなく、人間の組織と同じように「適材適所でどうマネジメントするか」が問われるフェーズに入ってきていのではないでしょうか。
AIエージェントを開発するうえでは、モデルの使い分けも含めてコスト圧縮を考えていかなければいけませんね。
