スタック オーバーフロー モデレーターは、ゴミ AI コンテンツがサイトに氾濫するのを阻止しようと奮闘中

Stack Exchangeが運営するソフトウェア開発者が質問したり回答したりする人気のフォーラム、Stack Overflowのボランティアモデレーターらが、GPTで生成されたすべてのコンテンツをサイト上で許可するという同社の新しいAIコンテンツポリシーに対してゼネストを発令した。 AI コンテンツに関する停止は直ちに停止しなければなりません。 モデレータらは、チャットボットの情報が頻繁に不正確であることを考慮すると、これが及ぼす損害を懸念していると述べている。

「Stack Overflow, Inc.は、AI生成コンテンツのモデレートをほぼ全面的に禁止することを布告した…Stack Exchangeネットワーク上での誤った情報（「幻覚」）の蔓延と無制限の盗作を暗黙のうちに許可している」とモデレーターが書いた公開書簡には書かれている。 、全員がコミュニティによって選出されたボランティアです。

「これは、プラットフォームとそのコンテンツの完全性と信頼性に大きな脅威をもたらします。私たちは、今回およびその他の最近および今後の方針変更および今後の変更に抗議して、Stack Overflow および Stack Exchange ネットワークに対して直ちに一般モデレートストライキを実施します。」 Stack Overflow, Inc. によって私たちに押し付けられているプラ​​ットフォームです。」

5月下旬に施行された新ポリシーでは、モデレーターに対し、AI生成コンテンツという理由だけでモデレートを停止するよう求めている。 しかし、AIが生成したコンテンツを適切にモデレートしなければ、Stack Exchangeの情報の品質と正確性は急速に低下するとモデレーターらは言う。

「AI チャットボットはオウムのようなものです」と、Meta Stack Exchange のモデレーターによる投稿でその要求をさらに説明しています。 「たとえば、ChatGPT は、ユーザーに与えられる応答を理解せず、単に与えられたプロンプトとアクセスできる情報を関連付け、もっともらしい文章を繰り返すだけです。提供される応答が正確であるかどうかを検証する方法がありません。 ChatGPT は、ライター、プログラマー、科学者、物理学者、または私たちのサイト ネットワークが価値の高いコンテンツに依存しているその他の種類の専門家ではありません。プロンプトが表示されると、トレーニングされた情報に基づいて単語をつなぎ合わせているだけです。と。何を言っているのか理解できません。」

これにより、ユーザーは ChatGPT の回答を自分自身で理解せずに吐き出すことができ、「高品質の質問と回答のコンテンツのリポジトリであること」というサイトの目的そのものに反していると続けています。

新しいAI政策の内容は大きな問題の一つだ。 もう一つは、それを取り巻く透明性の欠如である、と司会者は言う。 彼らは投稿の中で、同サイトは「一般的な不正確さ」とサイトの参照要件への違反を理由に、12月にChatGPTの使用をすべて禁止する一時的な方針を制定したと書いている。 このポリシーはボランティアのモデレーターと Stack Exchange スタッフの両方によって支持され、多くの投稿の削除とユーザーの停止という結果になりました。

しかし、5月29日、モデレーターらは、「AI生成コンテンツに対する停止命令の即時停止と、それだけを理由にAI生成コンテンツのモデレートを停止する」ことを要求する新たなポリシーが非公開で導入されたと書いている。 翌日、ポリシーの若干異なるバージョンが公開されましたが、モデレータにすべての AI コンテンツの制限を停止するよう求める文言は含まれていませんでした。

「新しいポリシーは、確立されたコミュニティのコンセンサスと以前のCMサポートを無効にし、コミュニティメンバーの誰とも議論されず、モデレーターに誤解を招く形で提示され、さらに公の場でさらに誤解を招く形で提示され、未検証および検証不可能なデータ分析から導き出された根拠のない主張に基づいています。」 Meta Stack Exchange の投稿を読み取ります。

さらに、「あなたがプライベートで一つの主張をしたことと、公の場で一つの主張が大きく異なっていたという事実により、司会者はありえない状況に陥り、不合理であるとの非難の対象となり、司会者の効果を誇張することになった」新しい政策。」

モデレータは、AI 関連以外のサイトの改善も要求しています。 「このストライキは、Stack Exchange, Inc.が最近示した行動パターンに関する部分も大きい」と投稿には書かれている。 「同社はまたしてもコミュニティのニーズと確立されたコンセンサスを無視し、代わりに自社のコミュニティマネージャーを犠牲にしてビジネスのピボットに焦点を当てました。」 彼らが挙げる一例はチャット機能だが、これは致命的に時代遅れであるにもかかわらず、何年も無視されてきたという。

このストライキは、オンライン サイトにあふれる ChatGPT コンテンツに対する最初の大規模な措置です。 しかし、他のフォーラムのモデレータも同様に懸念しています。 Redditのモデレーターらは、AIが生成した不正確な情報を含む大量の投稿に備えている。 Redditのモデレーターの1人は匿名希望でマザーボードに対し、RedditのChatGPTを利用したボット問題は「かなりひどい」もので、Redditの自動システムはAIが作成したコンテンツに苦戦しているため、すでに数百のアカウントが手動でサイトから削除されていると語った。

モデレータらは、AIポリシーを撤回して修正すること、ポリシーの公的バージョンと非公開バージョンの間の不一致を解決して謝罪すること、そして同社がコミュニティとの関係について「不誠実であることをやめる」ことを求めている。

Stack Overflow のコミュニティ担当副社長、Philippe Beaudette 氏は Motherboard に対し、「Stack Overflow ネットワーク全体の少数のモデレータ (11%) が、コンテンツのモデレートを含むいくつかの活動への関与を停止しました。この措置の主な理由は次のとおりです」と述べた。 AI 生成コンテンツに関する検出ツールに対する当社の立場に不満がありました。Stack Overflow が分析を実行したところ、モデレーターが以前使用していた ChatGPT 検出ツールの誤検知率が驚くほど高かったのです。」 モデレータは投稿の中で、検出ツールの問題を認識していたと書いています。

「私たちは、モデレータに以前に使用されていたツールの使用を停止するよう要求するという決定を支持します」とボーデット氏は続けた。 「私たちは前進する道が見つかると確信しています。行動がここまで進んだことを残念に思います。コミュニティ管理チームは現在の状況を評価し、短期的に事態を安定させるために懸命に取り組んでいます。」

サインアップすると、利用規約とプライバシー ポリシーに同意し、マーケティング プロモーション、広告、スポンサー付きコンテンツを含む電子通信を Vice Media Group から受け取ることに同意したものとみなされます。