事案じあん通報つうほうシステム

事案じあん通報つうほうシステム

ウィキメディア財団ざいだんでは嫌いやがらせ行為こういやその他たの形態けいたいの害がいをこうむった当事とうじ者しゃが、そのような有害ゆうがいな事案じあんを通報つうほうする方法ほうほうを改善かいぜんしたいと考かんがえており、コミュニティにもっと安全あんぜんで健全けんぜんな環境かんきょうをもたらそうとしています。

そこで信頼しんらいと安全あんぜん製品せいひんチーム（Trust and Safety Product team）の任務にんむとして、事案じあん通報つうほうシステム（IRS＝Incident Reporting System）を設もうけます。有害ゆうがいな事案じあんを利用りよう者しゃが安心あんしんしてまた非公開ひこうかいで、より簡便かんべんに通報つうほうする方法ほうほうを目指めざします。（旧称きゅうしょうは非公開ひこうかい事案じあん通報つうほうシステム＝PIRS^※） (formerly （※＝Private Incident Reporting System）。

プロジェクトの背景はいけい

有害ゆうがいな事象じしょうを報告ほうこくし処理しょりすることは、長年ながねんウィキメディアコミュニティーにとって関心かんしんのある話題わだいでした。新あらたに設定せっていされたUniversal Code of Conductと共ともにユーザー報告ほうこく制度せいどについて話はなすことも重大じゅうだいなことです。

暴力ぼうりょく事件じけんや違法いほう行為こうい、ポリシー侵害しんがいがウィキメディア空間くうかんやプロジェクトを通つうじて合意ごういされた方法ほうほうは、組織そしき的てきに発展はってんしてきており、コミュニティー毎ごとに異ことなります。

ウィキメディアプロジェクトやコミュニティー毎ごとに運営うんえい方法ほうほうは違ちがいます。暴力ぼうりょく事件じけんの報告ほうこくや処理しょりは、様々さまざまな方法ほうほうで行おこなわれます。

• ウィキのトークページを使つかう
• 掲示板けいじばんを使つかう
• メールを使つかう
• オフウィキの話はなし合あいのチャネルで非公開ひこうかいの協議きょうぎ（Discord、IRCのチャット）

事案じあんが発生はっせいしても、どうしたら良よいかわからない利用りよう者しゃは大勢おおぜいいます。相談そうだんする場所ばしょも、誰だれに言いえば良よいか、どう通報つうほうするのか、通報つうほうにはどんな情報じょうほうが必要ひつようか、通報つうほうするとどう処理しょりされるのか、その後ごはどうなるのか等々とうとう、不明ふめいなことだらけです。

ユーザーは問題もんだいを報告ほうこくする方法ほうほうと場所ばしょを知しらなければなりません。報告ほうこくが行おこなわれると起おこることとユーザーが持もつべき予測よそくに関かんする情報じょうほうも殆ほとんどありません。

一部いちぶのユーザーは、報告ほうこく手続てつづきが複雑ふくざつでプライバシー保護ほごを憂慮ゆうりょするために事件じけんが起おきた時ときに安全あんぜんに事件じけんを報告ほうこくできないと感かんじています。

現在げんざいユーザーが個人こじん的てきに報告ほうこくを提出ていしゅつする方法ほうほうは規格きかく化かされていません。

プロジェクトの対象たいしょう

従したがってこのプロジェクトの高度こうどな目的もくてきは、ハラスメントや有害ゆうがいな事象じしょうに対処たいしょしやすくすること、それらレポートの処理しょりを担になう適切てきせつな実態じったいに確実かくじつに届とどけることにあります。

報告ほうこくする人ひとのプライバシーと安全あんぜんを保証ほしょうしたいです。処理しょりする人ひとに余計よけいな圧力あつりょくを掛かけない一方いっぽうで、報告ほうこくが正ただしい情報じょうほうであることも保証ほしょうし、処理しょりを担になう適切てきせつな実態じったいへの道みちのりに乗のせたいのです。

信頼しんらい安全あんぜん製品せいひん班はんもこの事象じしょう報告ほうこく制度せいどを、コミュニティ関連かんれんのより大おおきな事案じあん管理かんり体制たいせいの一環いっかんとして見みています。私わたしたちは個々ここのシステムの機能きのうと、すべてがどのように連携れんけいするか研究けんきゅうしています。

成果せいかと技術ぎじゅつアップデート

関連かんれん項目こうもく：事案じあん通報つうほうシステム/更新こうしん記録きろく

事案じあん通報つうほうシステムのベータ環境かんきょうにおけるMTPをテスト – 2023年ねん11月がつ10日とおか

編集へんしゅう者しゃの皆みなさん、開発かいはつ初期しょき段階だんかいの 事案じあん通報つうほうシステムの仮説かせつ検証けんしょう可能かのうな最小限さいしょうげんの製品せいひん（MTP＝Minimum Testable Product）のテストにご参加さんかください。 信頼しんらい安全あんぜん製品せいひんチームでは事案じあんの発生はっせいに備そなえて、各かく利用りよう者しゃがトークページから通報つうほうできるよう、基本きほん的てきな製品せいひん版ばんを作成さくせいしました。 注ちゅう期き：この版はんの製品せいひんは、非公開ひこうかいのメールアドレス宛あてに送おくる通報つうほうについて、知見ちけんを得えるためにあります。（例たとえばemergencywikimedia.org または管理かんり者しゃグループ。）シナリオとして想定そうていできるすべての場合ばあいに対応たいおうできるわけではなく、公開こうかいの伝言板でんごんばんへの対応たいおうはできません。 この初期しょき段階だんかいが効果こうか的てきかどうか判断はんだんに使つかいますので、ぜひ皆みなさんのフィードバックをお寄よせください。

テストをしてみる：

1. ベータ版ばんのウィキペディアで好すきなトーク名前なまえ空間くうかんのページを開ひらき、そこに協議きょうぎがあることを確たしかめます。サンプルのトークページは User talk:Testing と Talk:African Wild Dog ですので、ログインしてどちらかを使つかうことも可能かのうです。

2. 次つぎに画面がめん上じょうのコメント窓まどの Reply リンクのそばにオーバーフロー・ボタン（縦たてに折おりたたみ式しき）があります。それを押おしてメニューを展開てんかい、Report をクリック（スライド1ご参照さんしょう）。あるいは Tools メニューの Report リンクを押おします（スライド2）。

• 
  スライド1
• 
  スライド2

3. 次つぎに通報つうほうの手順てじゅんに進すすみ、フォームに記入きにゅうして送信そうしんします。するとメールが信頼しんらい安全あんぜん製品せいひんチームに届とどき、このアドレスでしか皆みなさんの通報つうほうは読よめません。今回こんかいはあくまでもテストであり、現実げんじつに発生はっせいした事案じあんの通報つうほうには使つかえません。

4. テスト中ちゅうは、次つぎの質問しつもんを頭あたまに置おいて操作そうさしてください。

• この通報つうほうシステムの感想かんそうは？ 特とくに、どこがよいか、嫌きらいな点てんはどこですか？
• 拡張かくちょう機能きのうというものに慣なれている人ひとなら、これを皆みなさんがいつも活動かつどうするウィキに導入どうにゅうしたいですか？
• この諸しょ機能きのう通報つうほう段階だんかいで、何なにか見落みおとした課題かだいはありませんか？

5. テストが完了かんりょうしたら、トークページにご指摘してきやご意見いけん、ご質問しつもんを投稿とうこうしてください。

オーバーフローメニューが見みつからない、通報つうほうリンクがない、記入きにゅうしたのにフォームを送信そうしんできない場合ばあいは、次つぎの点てんを確認かくにんしてください。

• ログインしています
• ベータ・アカウントのメールアドレスを確認かくにんしました
• 3時じ間あいだ前まえにアカウントを作成さくせいし、編集へんしゅうを1回かい以上いじょうしたこと。
• MTPが議論ぎろんツールと統合とうごうされたせいで、このツールが立たち上あがったと考かんがえられます

議論ぎろんツールを読よみ込こめない場合ばあい、ツールメニューからバグを報告ほうこくしてください。（"※"＝DiscussionTools。） 2回かい目めの通報つうほうができない場ばなら、未み承認しょうにんの利用りよう者しゃの場合ばあい、同おなじ事案じあんなら1日にちの通報つうほうは1回かい限定げんてい、自動じどう承認しょうにん利用りよう者しゃの上限じょうげんは1日にち5回かいとされていますのでご注意ちゅういください。テスト実施じっし前まえ、これらの要件ようけんは悪意あくいのある利用りよう者しゃにシステムを濫用らんようされないようにする役やくに立たちます。

Please see the research section of the page for more.

手順てじゅん

Project phases

ウィキメディア空間くうかんで報告ほうこくする事象じしょうを管理かんりする方法ほうほうを考かんがえ出だすのは容易よういなことではありません。リスクや分わからないことが多おおくあります。

これは複ふく合あい的てきなプロジェクトですので、複ふく合あい的てきな反復はんぷく作業さぎょうとプロジェクトの段階だんかいに分わける必要ひつようがあります。大おおきな仕事しごと量りょうにならない内うちにこの段階だんかいごとに正ただしい道筋みちすじを歩あゆみ早期そうきにコミュニティーフィードバックを合体がったいさせることを保証ほしょうするために1回かいから数すう回かいの討議とうぎを行おこないます。

第だい1段階だんかい

予備よび調査ちょうさ：実際じっさいの文書ぶんしょを読よみながらフィードバックを集あつめる。

問題もんだいをよく理解りかいし回答かいとうが必要ひつような決定的けっていてきな質問しつもんを確認かくにんするためにインタビューを行おこなう。

向むかうべき可能かのうな成果せいかとプロジェクトの範囲はんいを明あきらかにし討議とうぎする。可能かのうなパイロットウィキを明確めいかくにする。

この段階だんかいの終おわりにしてみたいことを堅実けんじつに理解りかいすべきです。

第だい2段階だんかい

第だい1段階だんかいで明あきらかになった考かんがえ方かたを説明せつめいする原型げんけいを作つくります。

更さらに深ふかい協議きょうぎと再さい調査ちょうさのための可能かのうな選択肢せんたくしのリストを作つくります。

第だい3段階だんかい

最高さいこうの可能かのう性せいのある考かんがえ方かたを明確めいかくに優先ゆうせん順位じゅんいをつける。

ソフトウェア開発かいはつに移行いこうし作業さぎょうをファブリケーター綱領こうりょうに細分さいぶん化かする。

次つぎの反復はんぷく作業さぎょうのために循環じゅんかんを続つづける。

調査ちょうさ

July 2024: Incident Reporting System user testing summary

In March 2024, the Trust & Safety Product team conducted user testing of the Minimum Viable Product (MVP) of the Incident Reporting System to learn if users know where to go to report an emergency incident, and if the user flow makes sense and feels intuitive.

We learned the following:

• During user testing, all participants found the entry point to report an incident and the current user flow is well understood.
• There was some confusion over two of the reporting options: “someone might cause self-harm” and “public harm threatening message”.

Two participants also made assumptions about the system being automated. One participant was concerned about automation and wanted a human response, whereas the other participant felt assured by the idea it would check if the abuser had any past history of threats and offences, and delete the offensive comment accordingly. All participants expected a timely response (an average of 2-3 days) after submitting a report. Read more.

September 2023: Sharing incident reporting research findings

Research Findings Report on Incident Reporting 2023

The Incident Reporting System project has completed research about harassment on selected pilot wikis.

The research, which started in early 2023, studied the Indonesian and Korean Wikipedias to understand harassment, how harassment is reported and how responders to reports go about their work.

The findings of the studies have been published.

In summary, we received valuable insights on the improvements needed for both onwiki and offwiki incident reporting. We also learned more about the communities' needs, which can be used as valuable input for the Incident Reporting tool.

We are keen to share these findings with you; the report has more comprehensive information.

Please leave any feedback and questions on the talkpage.

Pre-project research

次つぎの文書ぶんしょは、ウィキメディア財団ざいだんがウィキメディアプロジェクトにおけるオンラインハラスメントで行おこなってきた2015年ねんから2022年ねんにかけての調査ちょうさの完全かんぜんな再さい検証けんしょうです。この再さい検証けんしょうで主要しゅようなテーマや見識けんしき、憂慮ゆうりょすべき分野ぶんやを明確めいかくにしていて、この文献ぶんけんに直接ちょくせつリンクしています。

信頼しんらい安全あんぜん製品せいひん担当たんとうチーム（Trust and Safety Product team）では作業さぎょうを案内あんないする事前じぜんの調査ちょうさとコミュニティー協議きょうぎを研究けんきゅうしています。コミュニティ健全けんぜん性せいイニシアチブの利用りよう者しゃ通報つうほうシステムの素案そあんならびに、2019年ねん利用りよう者しゃ通報つうほうシステムのき取きとり調査ちょうさを再考さいこうしました。さらにまた、コミュニティでは現状げんじょう、衝突しょうとつ解消かいしょうにどのように取とり組くんでいるのか理解りかいしようと、さまざまなウィキが採用さいようしている衝突しょうとつ解消かいしょうの手順てじゅんからいくつかを取とり出だし、比較ひかくしてきました。下記かきにイタリア語ご版ばんウィキペディアの衝突しょうとつ解消かいしょうの段取だんどりを示しめしてあります。自動じどう化かできそうな箇所かしょには、注釈ちゅうしゃくをつけました。

イタリア語ご版ばんウィキペディアでは、衝突しょうとつの解消かいしょうに3段階だんかい方針ほうしんを設もうけています。挿絵さしえは、その段取だんどりを図式ずしき化かし、編集へんしゅう者しゃにも管理かんり者しゃにも自動じどう処理しょりできる部分ぶぶんを探さがそうとしたものです。

FAQ

Questions and answers from Phase 1 of the project

Q: The project used to be called PIRS, Private Incident Reporting System. Why was the P dropped?

We have renamed the Private Incident Reporting System as Incident Reporting System. The word "Private" has been removed. In the context of harassment and the UCoC the word “Private” refers to respecting community members’ privacy and ensuring their safety. It does not mean that all phases of reporting will be confidential. We have received feedback that this term is therefore confusing and can be difficult to translate in other languages, hence, the change.

問とい：1年間ねんかんにどれくらいの事象じしょうが報告ほうこくされているか分わかるデータはありますか。

答こたえ：現時点げんじてんで使つかえる明確めいかくなデータはそれほどありません。これには二ふたつ理由りゆうがあります。第だい一いちに問題もんだいは様々さまざまな方法ほうほうで報告ほうこくされコミュニティーごとに異ことなっています。このデータを完全かんぜんで明確めいかくに把握はあくするのは、非常ひじょうに困難こんなんで、非常ひじょうに時間じかんを消費しょうひするものになります。第だい二にに問題もんだいの解釈かいしゃくも異ことなっています。ハラスメントと解釈かいしゃくされることがウィキの仕事しごとに過すぎないことがあります（例れい：プロモーション項目こうもくの削除さくじょ）。ハラスメントの再さい検証けんしょうは文化ぶんか的てきな背景はいけいやコミュニティーの背景はいけいも必要ひつようです。データをオートメーション化かし視覚しかく化かしたり客観きゃっかん的てきに数かぞえることはできません。事象じしょう報告ほうこく制度せいどはこのデータ需要じゅようの一部いちぶを解決かいけつする機会きかいです。

問とい：ハラスメントと定義ていぎされるのはどのようなものですか。

答こたえ：ユニバーサル行動こうどう規範きはんの定義ていぎをご覧らんください。

問とい：IRS対応たいおうの担当たんとうには、職員しょくいんやボランティアがなん人じんくらい必要ひつようになりますか。

答こたえ：現在げんざいこの問題もんだいの重要じゅうよう性せいは不明ふめいです。（実用じつよう最小限さいしょうげんの製品せいひんを経験けいけんすることは、IRS対応たいおうに必要ひつような人数にんずうの見込みこみをもたらしてくれます。

問とい：MVP（実用じつよう最小限さいしょうげんの製品せいひん）の目的もくてきは何なにですか。

答こたえ：MVPは学習がくしゅうするための実験じっけんと機会きかいです。この最初さいしょの実験じっけんは今いま現在げんざい持もっている疑問ぎもんに答こたえてくれます。この結果けっかは将来しょうらいの計画けいかくを導みちびくでしょう。

問とい：実用じつよう最小限さいしょうげんの製品せいひんと共ともにどんな疑問ぎもんに答こたえようとしていますか。

答こたえ：ここに答こたえが必要ひつような疑問ぎもんがあります。

• どんな種類しゅるいの報告ほうこくを提出ていしゅつしますか。
• どのくらいの人ひとが報告ほうこくを提出ていしゅつしますか。
• 処理しょりするために何人なんにんの人ひとが必要ひつようになりますか。
• この問題もんだいの大おおきさはどれ位いですか。
• ハラスメント問題もんだいの重大じゅうだい性せいの明白めいはくな状況じょうきょうが分わかりますか。報告ほうこくの数かずを巡めぐるデータを得えられますか。ハラスメントは過少かしょう申告しんこくされていますか、過大かだい申告しんこくされていますか。
• 起おこっていないかどのようなものか知しらないために現在げんざい人々ひとびとはハラスメント報告ほうこくしていないのですか。
• これは現在げんざいの組織そしきで処理しょりできる状況じょうきょうですか、違ちがいますか。
• ウィキプロセスを理解りかいしていない人ひとと比くらべて妥当だとうな苦情くじょうはどれ位いありますか。妥当だとうな苦情くじょうを識別しきべつしたりフィルターにかけ、ボランティアや職員しょくいんが時間じかんを節約せつやくできるように不当ふとうな報告ほうこくを排除はいじょできますか。
• 編集へんしゅうが差さし戻もどされたりページが削除さくじょされたことに憤慨ふんがいする人ひとから提出ていしゅつされる多おおくの報告ほうこくを受うけ取とりますか。することは何なにですか。

問とい：ウィキメディア運動うんどうはフェイスブックやRedditのような大おおきなプラットフォームがハラスメントを処理しょりする方法ほうほうとどのように比較ひかくしていますか。

答こたえ：同おなじオンライングループがないとはいえ、ウィキメディア運動うんどうはハラスメントを処理しょりする方法ほうほうに関かんしてフェイスブックやRedditとしばしば関係かんけいを持もっています。考かんがえる上うえで重要じゅうようなことは、誰だれもハラスメントを解決かいけつしていないということです。他たのプラットフォームは、節度せつどあるコンテンツに取とり組くみ、しばしば取とり組くむ有給ゆうきゅうの職員しょくいんがいます。Redditやフェイスブックとの二ふたつの大おおきな違ちがいは、ウィキメディアのプロジェクトが国際こくさい的てきに協同きょうどうする性質せいしつであり、コミュニティーがコミュニティー内部ないぶのハラスメントをどのように解決かいけつしようと機能きのうするかという点てんです。

問とい：ウィキメディア財団ざいだんは現存げんそんするコミュニティープロセスを改定かいていしようとしていますか。

答こたえ：IRS用ようの計画けいかくは、コミュニティープロセスを改定かいていするものではありません。目的もくてきは現存げんそんするプロセスに繋つながることです。最終さいしゅう目的もくてきは以下いかの通とおりです。

• ハラスメントを受うけた人ひとが容易よういに助たすけを得えられるようにする。
• ハラスメントを報告ほうこくする方法ほうほうを知しらないために報告ほうこくしない状況じょうきょうを除去じょきょする。
• ハラスメントの報告ほうこくが地域ちいきコミュニティープロセス毎ごとに処理しょりする然しかるべき部署ぶしょに届とどくことを保証ほしょうする。
• 応答おうとう者しゃが良よい報告ほうこくを受うけ他ほかで処理しょりすべき事実無根じじつむこんの苦情くじょうや問題もんだいを転送てんそうすることを保証ほしょうする。