安全性・信頼
通報・ブロック・レビュー
投稿の AI 事前検知と、通報からの対処までを運営の手元に置く
実装済み・検証中AI想定 2〜4週
このブロックがやること
レビュー投稿と通報を受け付け、公開前に AI が不適切な内容を検知して運営のキューへ回す。通報には理由の類型を持たせ、類型ごとに初動の重み付けを変える。ブロックは相互に作用し、ブロック後は検索結果・推薦・会話のすべてから相手が消える。対処の判断と実行はすべて監査ログに残り、後から経緯を再構成できる。
依存関係
前提になるブロック
このブロックを前提にするもの
ありません。
標準構成に含まれる領域
同じカテゴリのブロック
当事者が安全に接触できる状態を、導線の設計で担保する。