Discordの開発者、グリッド画像のBANは誤検知のハッシュ一致が原因と説明

Discordの開発者は、グリッド風の画像に関連した最近の児童安全関連の停止措置について、AIモデレーションではなく誤検知のハッシュ一致が原因だと説明した。開発者は、問題のあるハッシュは上書き済みで、同様の投稿がこれまでと同じ形でフラグ付けされることはなくなるはずだと述べている。

この報告は、ユーザーがMinecraftのインベントリ、スプレッドシート、チェス盤、ゲームのテクスチャーなど、日常的なグリッド系の画像を共有した後にアカウント停止を受けたと主張したことで広がった。ユーザーが共有したスクリーンショットには児童安全ポリシー違反の通知が表示されており、Discordコミュニティの一部では注意喚起が相次いだ。

この問題がeスポーツやゲームのコミュニティにとって重要なのは、Discordがチーム、配信者、改造・制作コミュニティ、ファングループにとって中心的な交流基盤だからだ。短時間のモデレーション不具合でも、何が制裁の引き金になったのか分からない状況では、サーバー運営、制作の流れ、コミュニティの信頼に影響が出る可能性がある。

なお、今回の影響範囲はまだ不明だ。ソースによると、ハッシュが上書きされる前にどれだけのアカウントが影響を受けたかは分かっておらず、一部のユーザーは、いまだ手動確認待ちの停止アカウントについて質問を続けていた。