【管理者向け】AIチェック機能アップデート(しきい値設定・判定テスト・デフォルト復帰)
NIERU.NET
いつもレンタル掲示板をご利用いただきありがとうございます。
AIによる投稿チェック機能について、管理画面での設定・確認がしやすくなる更新を行いました。
管理 > 動作関連 > AI設定をより設定・確認が可能です。
更新内容(今回追加したもの)
1) カテゴリ別「しきい値(0〜100%)」を管理画面で設定可能にしました
AIが返すカテゴリ別スコア(0〜100%)に対して、カテゴリごとに「しきい値」を設定できるようになりました。
- 数値が小さいほど厳しめ(ブロックされやすい)
- 数値が大きいほど緩め(ブロックされにくい)
- 入力が空欄の場合は デフォルト値が適用されます
2) テキスト判定テスト(管理画面で確認できるテスト機能)を追加しました
管理画面に「テキスト判定テスト」欄を追加しました。
入力した文章を、現在設定されているしきい値で判定し、結果を分かりやすく表示します。
表示内容
- 全体判定(安全/危険)
- カテゴリ別のスコアと、設定しているしきい値との比較
- プログレスバーで「どの程度しきい値に近いか」を視覚的に表示
- しきい値未満でも、近い場合は“危険信号(注意)”として表示(運用判断の参考用)
※このテストは確認用であり、設定の保存は行いません。
3) 「しきい値をデフォルトに戻す」ボタンを追加しました
しきい値調整を行ったあと、すぐに初期状態へ戻せるように「デフォルトに戻す」ボタンを追加しました。
- クリックすると、しきい値のみ初期状態(デフォルト)に戻ります
- チェックボックス設定(タイトル/本文/名前のチェックON/OFF等)はそのままです
しきい値の考え方(簡単な説明)
AIのスコアは「そのカテゴリに該当する可能性」を示すものです。
しきい値は運用上の基準であり、誤検出や見逃しをゼロにはできません。
- 厳しすぎると:普通の投稿が弾かれる可能性が増えます
- 緩すぎると:危険な投稿が通る可能性が増えます
迷う場合は、まずデフォルト値のまま運用し、必要に応じて微調整してください。
注意事項
- AI判定は完全ではありません。重要な掲示板では管理者レビューの併用を推奨します。
- チェック機能をONにすると、投稿処理が遅くなる場合があります。
- 現在「ヒント機能」「意味のない文字列の拒否」は利用できません(UI上は表示がありますが無効です)。
更新反映について
管理画面にアクセスすると、新しい設定項目と判定テスト欄が表示されます。
設定の変更を行った場合は「更新」ボタンで保存してください。
