Polimill（東京都港区）は2026年4月1日、行政向け生成AI「QommonsAI（コモンズAI）」に、機密情報の意図せぬ入力を多層的に防ぐ「個人情報自動検知」「禁止ワードブロック」「検知・ブロックログ」の3機能を標準搭載する予定です。全国の利用自治体数は2026年3月時点で700以上、利用者は約25万人です。
背景には、生成AI利用ガイドラインなどの紙の規定だけでは運用が職員個人の意識に委ねられやすく、利活用の萎縮と情報漏洩リスクの両立が難しい点があります。ルールを技術的な仕組みに落とし込み、迷いなく安全に使える環境を整える狙いです。
仕組みは「検知→遮断→記録」の3段階です。第1層は個人情報のパターンをリアルタイム検知し、種類に応じて警告のみ／送信ブロックを個別設定できます。第2層は管理者が禁止ワードを100個以上登録でき、該当入力を送信ブロックします。第3層は検知・ブロック履歴を管理者が閲覧でき、既存ログ管理と連携し入出力ログのCSV出力にも対応します。
同サービスはOpenAI、Anthropic、Google、Preferred Networksの主要4社から厳選した12モデルを搭載しています。今後は自治体ごとの情報セキュリティポリシーに合わせ、検知対象やログ保持を調整し、監査対応や庁内モニタリングを通じて安全な利活用の定着が進む見通しです。
【関連リンク】
公式サイト：https://info.qommons.ai
AI生成記事のため誤りを含む場合があります
PRTIMES
PRTIMES
QommonsAI、個人情報の自動検知・禁止ワードブロック・検知ログの3層防御を搭載 ― 「使わせたいが、漏らさせない」自治体の情報ガバナンスをAIの力で実現