Aurora Mobileの企業向けAIエージェント基盤「GPTBots.ai」は9月22日、TypeSafe AIの意思決定モデル「Jev」を統合し、文章生成などの推論(LLM)と、分類・ルーティングなどの判断(Jev)を分離する二層型AIアーキテクチャを単一プラットフォームで実現するとした。Jevはエンドツーエンドで70~500ミリ秒で処理し、入力100万トークン当たり0.042米ドル(出力無料)という。
狙いは、判断だけで足りる業務にも汎用LLMで文章生成をさせることで発生していた不要な推論コストや待ち時間、さらに判断の確信度を数値で把握しにくい点の解消だ。TypeSafe AIの比較値では、最先端LLMの処理は3~329秒とされ、同等の意思決定処理と比べ最大445分の1のコスト削減効果をうたう。
統合後は、ルーティング/フィルタリング/分類/関連度スコアリングなどをJevが担い、複雑な推論や自由形式の対話はGPTやClaudeなどのLLMが担う。GPTBots.aiのModel Auto-RouterやDynamic Top-K、FlowAgent/Workflowの意図分類もJevで強化し、確率スコアに基づくしきい値設定で「自動実行」「確認」「エスカレーション」を分岐できるとしている。構造化出力のエラー率はJevが0%、一部の最先端モデルは最大45.5%というベンチマークも示した。
今後は、判断処理をJevに寄せる運用を進めることで、低レイテンシー化とコスト最適化に加え、信頼度スコアを前提とした業務自動化の設計を広げ、企業向けAIエージェントの速度・コスト・信頼性の最適化を狙う。
【関連リンク】
公式HP https://www.gptbots.ai/ja_JP?utm_source=Referral&utm_medium=PRT&utm_campaign=Jev
Aurora Mobile IR https://ir.aurora-mobile.com
問い合わせ(GPTBots.ai) marketing@gptbots.ai
問い合わせ(Aurora Mobile) marketing@aurora-mobile.com



