AIシステムが禁止事項に結びつくものと判断できず公開
運営会社の広報室は3日、同社の「仕事依頼ガイドライン」に記載している禁止事項に該当する可能性が高いと判断し、非公開にしたと説明している。
この禁止事項とは、「特定の組織・職業・人物・商品・風習・文化・政治・国などのあらゆる対象に対し、事実誤認や印象操作などがおこなわれる恐れがあると判断できる依頼」「事実誤認や印象操作などがおこなわれる恐れがあると判断できる依頼」の2点だ。
広報室によれば、案件登録から公開までの審査プロセスは、AIシステムによる自動検知と専門スタッフによる目視確認を組み合わせている。
具体的には、AIシステムが利用規約やガイドラインに照らして案件内容を審査。問題がないと判断した案件は公開される。だが懸念があると判断した案件は保留され、専門スタッフが目視確認を行い、公開・非公開の最終判断を下している。
今回批判が出た案件は、AIシステムが禁止事項に結びつくものと判断できず、結果的に公開されたという。
今回の案件や類似の案件は非公開にしたと、広報室。また、「摘発した違反事例や問題視された表現のデータをAIに学習させております。これにより、今後の違反案件の検知精度向上を図ってまいります」としている。
さらに、「動画配信プラットフォーム等の外部サービスとの連携による啓発や、不適切な行為を減らすための協働を目指してまいりたい」と方針を示している。