メタバースでコンテンツ モデレーションをハックする方法: Web2.0 からの教訓

Web 2 のコンテンツ モデレーションは、解決できない問題です。

ユーザーの言論の自由とゲートキーパーによる有害なコンテンツの検閲との間のゴールデン スタンダードを描くことは不可能です。世界で最も長く、最もわかりやすいガイドラインが 10,000 時間にわたって 10,000 の大規模な言語モデルによって起草されたとしても、投稿やコメントが「許容範囲」を下回ったり上回ったりする可能性のあるすべてのシナリオをカプセル化することはできません。一方、明確な行動規範とプラットフォームの所有者からの介入がなければ、ソーシャル ネットワークは時間の経過とともに劣化します。

ユーザー間の有毒な行動ます。全体として、いじめ、嫌がらせ、ヘイトスピーチ、、およびその他の種類の不正行為は、仮想世界ではあまりにも一般的です. よると、成人の 6 人中 5 人 (83%) がオンライン マルチプレイヤー ゲームで何らかの嫌がらせを経験したことがあります。 Metaの現在の CTO である Andrew Bosworthに、メタバースでの発言や行動を「意味のある規模で管理することは事実上不可能です」と記しています。

私たちの共通のデジタル スペースが、トラッシュ トーク、スパム、嫌がらせが散らばる無法のジャングルにならないようにするにはどうすればよいでしょうか。

私の見解では、解決策は単純なものです。モデレーションの大部分はユーザーが実行する必要があります。

Reddit のコミュニティ ポイント システムによく似ており、次の 2 つの点に重点が置かれています。

• コミュニティ ポイントは、ユーザーにとって価値があるものとして認識される必要があります。

  
  

• 各ユーザーは、他の人が監査できる実績と評判を持つ仮名のオンライン ID を持っています。評判は、ユーザーにとって価値があるものとして認識される必要があります。

  
  

ユーザーが価値のある貢献をするように動機付けられ、反対のことをすることを恐れる、機能する「自己モデレート」システムを設計する最初のソーシャルプラットフォームは、「メタバース」で主導的な地位を占めると思います。物理的な現実。

節度の問題を詳しく見てみましょう。

Ye の Twitter 論争

記録された歴史の中ででの 1 人である Ye は、以前は Kanye West として知られており、数週間前に 3,100 万人を超えるTwitterフォロワーの群衆に驚くべき発表を行いました。

'今夜は少し眠いけど、起きたらデスコンに行くよ 3 ユダヤ人について。 「面白いのは、黒人も実際にはユダヤ人でもあるので、私が実際に反ユダヤ主義者になることはできないということです.あなたたちは私をもてあそび、あなたの議題に反対する人を誰でもブラックボールしようとしました. 」

Twitter の一時的な禁止とマスコミやソーシャル メディアからの強い反発に加えて、物議を醸す声明の後、ました。 Adidas は Ye の靴と衣料品のブランドである Yeezy のスポンサーシップを終了しました。この Yeezy はを占めています。

あなたがたがヨーロッパ市民だった場合、彼は反ユダヤ主義的な発言をしたとして罰金を科されたり、刑務所に入れられたりする可能性がありました. EU ではヘイトスピーチは表現の自由 [1] の下で保護されていませんが、米国では憲法上の権利である言論の自由がより重視されていると考えられています。 Twitter では、世界中のユーザーを結びつける唯一の共通ルールセットは、Twitter の利用規約です。会社によってのみ強制され、永久的な禁止よりも厳しい処罰をユーザーに保証しない私的契約。

イェの反ユダヤ主義的な発言は、ゴシップ雑誌や主流メディアにとって赤肉だった.しかし、「無実のトローリング」からジェフリー・ダーマー式の信憑性のある死の脅迫に至るまで、差別的な発言がソーシャル ネットワークに 1 秒ごとに匿名ユーザーによって投稿されていることを想像してみてください。明らかに、これらの「アノン」のいずれも、失う公的なイメージは言うまでもなく、アディダスからの 15 億ドルのスポンサーシップを持っていません。彼らは、ソーシャル メディアに投稿することで文字通り失うものは何もありません。これが問題であることが判明しました。

と人間の心理学によると、1 人のユーザーが悪い行動をして、より多くの露出を与えられた場合、結果が伴わない限り、より多くのユーザーがその例に従う可能性が高くなります。その結果、社会的行動の基準はどんどん低くなっていきます。多くの人が Twitter で共感できる体験です。

マスク氏の「集合的スーパーマインド」

新しい「Twitter 苦情ホットライン オペレーター」であるイーロン マスクは、Twitter の買収後、広告主に対して次のように述べています。

Twitterの内部から、一部の通常のユーザーはそれを「ヘルサイト」と呼んでいます. Michelle Goldberg は彼女の批判を差し控えません。

「私は時々、Twitter にいることを、あなたを憎む人々でいっぱいの悪いパーティーに遅刻しすぎるようなものだと説明しました。今思うと、これは Twitter に対して寛大すぎると思います。つまり、最悪のパーティーでさえ終わります。ツイッターは実存主義者のパーティーの寓話のようなものであり、肉体を失った魂が永遠に適切に見られないようにしようとしています.プラットフォームの最も多作なユーザーがしばしばそれを「この地獄のようなサイト」と呼んでいるのは驚くべきことではありません。

実際のところ、

二極化と反響室の大きな危険にもかかわらず、います。埋め込まれた神経レース。

コロンビア大学のジャーナリズム倫理とセキュリティの研究者であるジョー・バック・コールマンは。

(..) ニューロンは、最終的には、個々の人間の行動の類似性に乏しい.一緒に生きたり死んだりするように結合された同一の DNA を持つ細胞の集まりとして、ニューロンは共通の目標を共有し、競合したり、ごまかしたり、盗んだりする理由はありません。脳がどのように機能するかの完全なモデルがあったとしても、それを人間の行動に直接適用することはできませんでした。

Joe Bak-Coleman は、エッセイの後半で次のように結論付けています。

「 Twitter が集合知のように振る舞うことができるというイーロンの前提は、ネットワークの構造と相互作用の性質が集合的な結果を促進するように調整されている場合にのみ成り立ちます。」

本当に単純なことです。もしすべてのユーザーが、「幅広い信念が健全な方法で議論できる共通のデジタル タウン スクエア」としての Twitter の Elon のビジョンを共有していれば、コンテンツ モデレーションに問題はありません。しかし、多くの、おそらくほとんどのユーザーにとって、Twitter は「地獄」、冗談、または言葉や行動が実際の結果をもたらさない場所のいずれかです。

これが、価値があり、正直で、正確な情報を提供するためのインセンティブがユーザーに必要な理由です。そして、逆のことをした場合の結果を恐れる必要があります。私たちは、集合的なスーパーマインドによって調整される、権威主義的ではない社会的信用システムを必要としています。

モデレーション ツールとしての Reddit のコミュニティ ポイント システム

は、コンテンツ モデレーションの未来になると思います。

そのアイデアは、ユーザーが貴重な貢献をすることで実際に何かを得ることができる一種の「自己調整システム」を作ることであり、その一方で、トローリング、スパム、脅迫、いじめ、嫌がらせ、ヘイトスピーチの吐き出し、またはコミュニティの利益に反する行為。

Reddit は 2020 年半ばにコミュニティ ポイント システムを展開し、次のように説明しています。

「コミュニティ ポイントは、Redditor がお気に入りのコミュニティの一部を所有する方法です。モデレーターとコンテンツ作成者は、コミュニティに貢献することでポイントを獲得し、ポイントを特別な機能に使用したり、ポイントをコミュニティでの評判として表示したり、ポイントで投票してコミュニティの決定に加担したりできます。」

コミュニティ ポイントは、Reddit とは独立してブロックチェーンに保存されるため、ユーザーが実際に所有するです。それらは現在、 (Moons)、 (Bricks)、 (Donuts) などのサブレディットで実験的なレベルで取り上げられています。トークンは、毎月の累積カルマ ポイント (投稿とコメントに対する賛成票と反対票) に応じて、コミュニティ メンバーとモデレーターに配布されます。

Moons、Bricks、Donuts は、Reddit のカルマ ポイント システムのコミュニティ限定の進歩だと思います。非 Reddit 愛好家向け: カルマ ポイントは、Reddit へのユーザーの投稿に対する賛成票と反対票を表し、一種のユーザー評判スコアとして公開されます。

コミュニティ ポイントは、使用可能で取引可能な Reddit のカルマと考えることができます。[2]それらは現在、コミュニティ プールで加重投票として使用したり、他のユーザーにチップを提供したり、コメントに GIF を投稿したり、Reddit でユーザー プロファイル用のデジタル アイテムを購入したり、こともできます。

これまでのところ、Reddit コミュニティ ポイントの有用性と価値はかなり限られています。しかし、「消費可能なソーシャルクレジットポイント」がより現実的な言葉のアプリケーションを見つけて価値を高めるため、何らかの形式のクレジットスコアリングシステムは、コンテンツモデレーションのための優れた「組み込みツール」になる可能性があると私は信じています.

イーロン マスクの Twitter のビジョンを「集合的でサイバネティックな超知能」と見なすことに何らかの真実があるとすれば、超知能そのものではなく、なぜ管理者がコンテンツをモデレートしなければならないのでしょうか?

モデレーターは、憎悪に満ちた違法な投稿をできるだけ早く削除するために、短期的にはまだ必要とされることに疑いの余地はありません。しかし、特にユーザー間のコミュニケーションがリアルタイムで行われる仮想世界では、モデレーターが介入する機会を得る前に、すでに損害が発生しています。これが、3D であろうとなかろうと、ソーシャル サイトにクレジット スコアリング システムを実装する必要がある理由です。予防策として。サービスや経験へのアクセスを得るために、取引、変換、およびリアルマネーとして使用できるコミュニティ トークンを獲得するという約束は、ユーザーが適切に行動するようにインセンティブを与えるだけでなく、誰と取引したいかを決定するのに役立ちます。

Bitcoinから学んだように、システム内のユーザーのわずか 51% が公平で正直であり、公平で正直であり続けるための合理的な利己心を持っている場合、システムは全体として機能します。

欧州人権条約第 17 条を参照

見る .