アップデート

【管理者向け】AIチェック機能アップデート(しきい値設定・判定テスト・デフォルト復帰)

NIERU.NET

いつもレンタル掲示板をご利用いただきありがとうございます。
AIによる投稿チェック機能について、管理画面での設定・確認がしやすくなる更新を行いました。

管理 > 動作関連 > AI設定をより設定・確認が可能です。

更新内容(今回追加したもの)

1) カテゴリ別「しきい値(0〜100%)」を管理画面で設定可能にしました

AIが返すカテゴリ別スコア(0〜100%)に対して、カテゴリごとに「しきい値」を設定できるようになりました。

  • 数値が小さいほど厳しめ(ブロックされやすい)
  • 数値が大きいほど緩め(ブロックされにくい)
  • 入力が空欄の場合は デフォルト値が適用されます

2) テキスト判定テスト(管理画面で確認できるテスト機能)を追加しました

管理画面に「テキスト判定テスト」欄を追加しました。
入力した文章を、現在設定されているしきい値で判定し、結果を分かりやすく表示します。

表示内容

  • 全体判定(安全/危険)
  • カテゴリ別のスコアと、設定しているしきい値との比較
  • プログレスバーで「どの程度しきい値に近いか」を視覚的に表示
  • しきい値未満でも、近い場合は“危険信号(注意)”として表示(運用判断の参考用)

※このテストは確認用であり、設定の保存は行いません。

3) 「しきい値をデフォルトに戻す」ボタンを追加しました

しきい値調整を行ったあと、すぐに初期状態へ戻せるように「デフォルトに戻す」ボタンを追加しました。

  • クリックすると、しきい値のみ初期状態(デフォルト)に戻ります
  • チェックボックス設定(タイトル/本文/名前のチェックON/OFF等)はそのままです

しきい値の考え方(簡単な説明)

AIのスコアは「そのカテゴリに該当する可能性」を示すものです。
しきい値は運用上の基準であり、誤検出や見逃しをゼロにはできません。

  • 厳しすぎると:普通の投稿が弾かれる可能性が増えます
  • 緩すぎると:危険な投稿が通る可能性が増えます

迷う場合は、まずデフォルト値のまま運用し、必要に応じて微調整してください。

注意事項

  • AI判定は完全ではありません。重要な掲示板では管理者レビューの併用を推奨します。
  • チェック機能をONにすると、投稿処理が遅くなる場合があります。
  • 現在「ヒント機能」「意味のない文字列の拒否」は利用できません(UI上は表示がありますが無効です)。

更新反映について

管理画面にアクセスすると、新しい設定項目と判定テスト欄が表示されます。
設定の変更を行った場合は「更新」ボタンで保存してください。

記事URLをコピーしました