Swisherの迅速な行動に対するせっかちな要求は、ソーシャルメディアの病気の解決策が明らかであると仮定しているように見えた。 私は返信でツイートし、彼女がこんなに早く実装したいと思っていた”修正”を尋ねました。 答えはありませんでした。
ここに私が提供する診断があります。 ソーシャルメディアについて”壊れた”とは、それが有用で、魅力的で、商業的に成功するのとまったく同じことです: これは、前例のない規模で利害関係者間の情報の発見や交換を容易にするのに非常に効果的です。 その直接の結果として、これまで以上に多くの情報の相互作用と人々の間のより多くの相互交流があります。 この人間の活動は、すべての栄光、ゴア、および不潔で、保存可能な、検索可能なレコードを生成し、そのユーザーはどこにでも帰属するトラックを残します。 前に述べたように、ソーシャルメディアの新興の新しい世界は、hypertransparencyによってマークされています。
自由な表現と自由市場の観点からは、これについて本質的に壊れているものは何もありません。 しかし、2つの異なる社会政治的病理がこれによって生成されます。 第一は、あらゆる種類の嘆かわしい使用とユーザーを暴露することによって、プラットフォームプロバイダーに対する社会的逸脱のこれらの症状に怒りを漏 男は子供たちのYouTubeのビデオにコメント小児性愛者を発見し、で怒りでスパッタリングされています…YouTube。28第二の病理は、好ましくない行動が存在から設計されることができる、または仲介者がより厳しい監視と規制を採用することを奨励することによ 不快な動作を停止または制御しようとするのではなく、私たちは悪い俳優によって使用された通信仲介者を制御するよう努めています。 犯罪を排除するのではなく、犯罪のシンボルを認識し、それらを視界から消去するために仲介者を代理することを提案します。 それは私達が生命がスクリーンであると仮定し、インターネットの仲介業者を制御することによって私達のスクリーンから不必要な事を取除けば、私達は生命の問題を解決したかのようである。 （そして、私たちがこれを行うとしても、私たちは偽善的に中国とオンラインの相互作用に基づいた包括的な社会的信用システムの疑惑の開発につ)
ソーシャルメディアに対する反応は、偽りの前提と偽りの約束に基づいている。 偽の前提は、大規模な公共の相互作用を可能にするツールの作成者が、そのように明らかにされた行動やメッセージの存在に主に責任があるというこ 偽の約束は、プラットフォームプロバイダーにコンテンツをブロックしたり、アカウントを排除したり、プラットフォーム上の社会問題の症状を攻撃したりすることによって、それらの問題を解決または軽減しているということです。 これらの誤解をとかして、私たちは公共の視野からそれらを隠すことによって”新しい”問題を抑制しようとしました。
主要なプラットフォームは、これまで以上に広範なコンテンツ節度の義務を負うことによって、この病理に貢献してきました。 彼らが下にいる激しい政治的圧力のために、支配的なプラットフォームは、ユーザーの道徳を形作り、政治的に受け入れられる方法で公共の談話を形作るた 必然的に、ソーシャルメディアの相互作用の規模のために、これはますます自動化された、またはアルゴリズム的な規制の形態を意味し、その厳しさ、愚かさ、およびエラーのすべてを意味します。 しかし、それはまた、労働集約的な手作業による節度への大規模な投資を意味します。29
このトピックに関する政策議論は、インターネット仲介業者が様々な法律を遵守することを超えて、いくつかのオプションのコンテンツ規制の責任 情報の提供者および求職者に一致させるmultisided市場としての地位はそれを要求する。機械学習に基づく30の推奨事項は、利用可能な材料の広大な、そうでなければ難治性の量を介してユーザーをガイドします。 これらのフィルタは、ユーザーにとってプラットフォームの価値を大幅に向上させますが、人々が見たり、読んだり、聞いたりするものを間接的に形作ります。 彼らはまた、ユーザーを引き付け、広告主にプラットフォームの価値を高める試みの一環として、プラットフォームを不快または有害な場所にするメッセージや行動の形態を阻止または抑制することができます。 この形式のコンテンツのモデレーションは、私的な俳優によって実行され、編集上の裁量の範囲内にあるため、修正第一条の法的保護の範囲外です。
修正は何ですか？
通信品位法第230条は、プラットフォームを使用して当事者の通信を制限または検閲することを何もしなかった情報サービスプロバイダーを免疫するこ 何もしなかった仲介者は、表現の自由と多様性をオンラインで促進する方法で予防接種された（はずされた）; ユーザーが生成したコンテンツの管理に積極的だった仲介者は、出版社として分類されることなく、”悪い”コンテンツを削除または監視する能力を強化す31
現代のソーシャルメディアプラットフォームを成功させるために非常にうまくいったこの法的バランス法が崩壊していることは明らかです。 セクション230は、独自の成功の犠牲者です。 プラットフォームは、セクション230の自由のために大きく成功していますが、その結果、ユーザーが読んだり、見たり、やったりすることに対する事実上の責任 政府の介入の脅威は、背景に潜んでいるか、特定の管轄区域で実現されているかのいずれかです。 超透過性に支えられて、政治的および規範的な圧力は、純粋で中立的で非差別的なプラットフォームを過去のものにしています。
ソーシャルメディアプラットフォームを修正するための最も一般的な提案は、すべて、より多くのコンテンツの節度に従事し、表現や行動の容認できな より積極的なコンテンツの節度に対する政治的要求は、主に、特定の種類のコンテンツを抑制しようとするさまざまなグループから来ています。 より少ない制御またはより多くの寛容をしたい人は、特別利益団体の経済分析から私たちによく知られている拡散コスト/集中給付問題に苦しみま: つまり、寛容は誰にも少し利益をもたらし、その存在は失われるまでほとんど目立たない。32
せいぜい、改革者は、基準をより明確にし、適用をより一貫性のあるものにし、控訴プロセスを可能にするように設計された方法でコンテンツの節度を合理化することを提案する。33しかし、これは、プラットフォームがバックボーンが基準を設定し、それらに固執し、毎日の政治的圧力の気まぐれに基づいて常にそれらを調整する権利を強く主張するようにしない限り、うまくいくことはまずありません。 最悪の場合、より多くのコンテンツの節度の支持者は、より大きなコンテンツコントロールが自分の個人的な価値観と優先順位を反映するという信念に しかし、より厳しい、またはより広範なコンテンツの節度の要求は、すべてのイデオロギー的および文化的方向から来るので、この期待は非現実的です。 それは、hecklerの拒否権の分散された形、および予測可能で比較的客観的な基準の完全な欠如につながるだけです。 ソーシャルメディアでの怒りが矛盾した方向に導くことは珍しいことではありません。 例えば、ガーディアンの記者は、Facebookが”ワクチン論争”の広告ターゲティングカテゴリを持っていることに憤慨しており、抗ワクチン擁護者が主流の医療への抵抗を強化することができる閉鎖されたグループを形成することを可能にするために会社を非難している。34しかし、Facebookが間違っているとみなされる特定の政治運動の一部としてユーザーをプロファイリングし、そのデータに基づいて通信と関連付ける能力を抑 そのため、Facebookはプライバシー侵害で広く攻撃されていると同時に、個人のユーザーデータを活用して、異常とみなされる政治的および社会的信念にフラグを立て、ユーザーの関連付け、広告主とのつながり、またはfacebook間でのコミュニケーション能力を抑制するよう求められています。 監視と抑圧のこの組み合わせでは、何が間違っている可能性がありますか？
ソーシャルメディアに関して、自由な表現と自由市場の両方の支持者はどのようなスタンスを取るべきですか？
まず、求職者や情報提供者と一致する能力に基づいて、プラットフォームの驚異的な価値をより明確に表現する必要があります。 また、これらのプロセスによって明らかにされた耳障りな多様性のより大きな寛容のための明示的な擁護が必要である。 真の自由主義者は、ソーシャルメディアプラットフォームが、私たちが間違っていると考えたり、私たちを怒らせるアイデア、人々、メッセージ、文化から私たちを 私たちが見るものと避けるものに対する責任のほとんどは、私たちと一緒にあるべきです。 私たちが何十億人もの人々で構成されるオンラインコミュニティで好きではないものを見て憤慨している場合、私たちはそれに私たちを公開す 同様に、暴露された行動が違法である場合、私たちは加害者を特定し、責任を負うことに焦点を当てる必要があります。 この態度の変化の帰結として、我々はまた、ソーシャルメディアによって育まれた超相互作用が大きな社会的価値を持つことができることを示す必要が これの簡単な例として、研究は、女性のセックスワーカーとクライアントをマッチングさせるプラットフォームの多くの悪意のある上昇は、女性に対する暴力の減少と統計的に相関していることを示しています‐それは通りからセックスの仕事を取り、取引をより目に見えて制御可能にしたからです。35
第二に、自由表現の支持者は、コンテンツの節度をさらに進めたい人に積極的に挑戦する必要があります。 私たちは、彼らが社会を改革し、再形成する手段としてソーシャルメディアを使用しているという事実を公開する必要があります,彼らは世界から根絶 これらの視点は、私たちを権威主義的な盲目的な路地に導いています。 彼らはデジタルメディアの自由を抑圧し、不自由にすることに非常に成功するかもしれませんが、社会を改善することに成功することはできません。 代わりに、彼らは誰が誰を沈黙させるのかをめぐる永続的な激化する紛争のためにソーシャルメディアプラットフォームの戦場を作るでしょう。 これは、プラットフォームがコンテンツの節度をラチェットとして差別と偏見の叫びからすでに豊富に明らかである：叫びは、多くの場合、任意のように経験されている節度に応答して、左と右の両方から来ています。
最後に、我々はセクション230の新たで再活性化された防衛を取り付ける必要がある。 セクション230の場合は簡単です: 代替案は本質的に私たちが今持っているものよりも優れていると約束しておらず、ほとんどの代替案は悪化する可能性があります。 モラル・パニックによって発生した誇張は、数十億人のユーザーを持つグローバルプラットフォーム上でコンテンツをモデレートすることは非常に困難で要求の厳しい作業であるという単純な事実を不明瞭にしています。 プラットフォームではなくユーザーは、人々が不快に感じるメッセージ、ビデオ、画像のソースであるため、規制の要求は、規制が単一のサプライヤーを支配するのではなく、数百万、そしておそらく数十億のユーザーを支配しなければならないという事実を無視します。 ユーザーが生成したコンテンツにフラグを立て、それを検討し、それについて何をすべきかを決定する作業は困難で高価です。 そして、最高のプラットフォームに残されています。
しかし、規制が来ているようだ。 FacebookのCEOであるMark Zuckerberg氏は、インターネット規制を求めるブログ記事を発表し、英国政府は、すべてのインターネット仲介業者（ホスティング会社やインターネッfacebookサービスプロバイダーを含む）にユーザーが生成したコンテンツに対して体系的な責任を課すことを提案するホワイトペーパー「Online Harms」を発表しました。36
せいぜい、政府の影響を受けたコンテンツ規制のシステムは、今起こっていることと非常によく似ているだろう。 コンテンツの節度のための政府が義務付けた基準は、必然的にプラットフォーム自体の検閲の責任の大部分を置くだろう。 中国でさえ、検閲の軍隊では、検閲の運用はプラットフォーム事業者に大きく依存しています。 ソーシャルメディアによって解き放たれたコンテンツの津波では、国家による事前の拘束は実際には選択肢ではありません。 ドイツは、ソーシャルネットワークにおける扇動、ヘイトスピーチ、フェイクニュースとの闘いを目的とした法律である2017年のNetzwerkdurchsetzungsgesetz、またはネットワーク執行法（一般にNetzDGまたはFacebook法として知られている）と同様の方法で対応した。
NetzDG法は直ちに、政治的に論争の的となる様々な形式のオンライン演説を抑制する結果となった。 NetzDGの下でFacebookの本質的に法学的役割を懸念しているドイツの弁護士であるJoachim Steinhöfelは、NetzDGによって抑制された法的コンテンツを含む”恥の壁”を作成しました。37皮肉なことに、新しい法律の下でテイクダウンを受けたドイツの右翼ナショナリストは、自分自身についての批判的または屈辱的なコメントを抑 “オンライン音声を規制するドイツの試みは、一見それが減少しようとしていた声を増幅している、”大西洋の記事を主張しています。38ある右翼政治家の請願の結果、Facebookはドイツの個人が違法なコンテンツにアクセスするためにVPNを使用できないようにする必要があります。 しかし、まだ、法律をサポートする反ヘイトスピーチグループによる報告書は、それが効果がなかったと主張しています。 “企業に課せられた罰金はなく、全体的なテイクダウン率はほとんど変化していません。”39
仲介免疫を放棄すると、プラットフォームはさらに保守的になり、現在よりもアカウントを無効にしたり、コンテンツを削除したりする傾向が強 コストと法的リスクの面では、彼らが安全な側で誤ることは理にかなっています。 仲介者に法的責任が与えられると、恣意性と誤検知に関する紛争は解消されず、激化します。 権威主義的な国では、プラットフォームは単に国家の検閲基準と法律の間接的な実施者になるでしょう。
一方、米国の政治家はユニークで興味深いジレンマに直面している。 彼らは規制のための呼び出しでソーシャルメディアの苦労を活用することができると思う場合は、コンテンツ規制への政府の関与は、改正第一条に準拠しなければならないであろうことを理解しなければなりません。 これは、ヘイトスピーチから様々なレベルのヌードまで、多くのユーザーが見たくないあらゆる種類のコンテンツが、厳密に違法ではないために制限されな 投稿を取り下げたり、アカウントを削除した政府の介入は、修正第一条の基準に基づいて訴訟を起こすことができます。 皮肉なことに、米国におけるコンテンツ規制の責任の政府の買収は、現状よりもはるかに自由でなければならないでしょう。 この結果の回避は、セクション230が最初に渡された理由を正確にでした。
純粋な自由表現の観点からは、最初の修正アプローチは良いことでしょう。 しかし、自由協会と自由市場の観点からは、そうではありません。 このような政策は、文字通り、すべてのソーシャルメディアユーザーが暴露されたくないものにさらされるように強制します。 それは、マッチングアルゴリズムを管理し、環境を形成し、マルチサイド市場のトレードオフを最適化する能力を切り落とすことによって、プラットフォームの経済的価値を損なうだろう。 現在の色相と人々がソーシャルメディア上で見てやっているすべての悪いことについての叫びを考えると、法的に駆動され、寛容な改正第一条の基準は、誰もが幸せになるようには思えません。
表現の自由の擁護者は、したがって、セクション230の重要性を再確認する必要がある。 国家ではなくプラットフォームは、コンテンツの節度、表現の自由、プラットフォームの経済的価値との最適なバランスを見つける責任があるべきです。 より大きな政府規制の代替案は、彼らの決定に対する市場責任のプラットフォームを免除するだろう。 それは、適切な節度の基準と慣行のためのプラットフォーム間の競争を排除し、おそらく彼らが今よりもさらに法的な発言を排除し、抑制するように
結論
コンテンツ規制は、今日のソーシャルメディアプラットフォームが直面している問題の中で最も顕著なものに過ぎず、プライバシーや競争政策の論争にも関与している。 しかし、ソーシャルメディアのコンテンツ規制は、この分析の排他的な焦点となっています。 超透過性とそれが生み出すコンテンツ制御のためのその後の需要は、新しいメディア道徳的パニックの重要な推進力です。 パニックはそれ自体に餌を与えており、自由な表現と自由な企業に関する価値観を見落としたり、公然と挑戦したりする政策反応の条件を作り出しています。 Facebookや他のソーシャルメディアプラットフォームについては嫌いなことがたくさんありますが、その否定的な反応の多くは、それ自体の現れを考えていた情報社会から生じていることに気づいた時です。facebookのソーシャルメディアプラットフォームは、私たちがそれを理解していることを意味しています。 それは私達が私達がそれで見るもののためにミラーを非難していると言っても過言ではない。 セクション230はまだこのジレンマに驚くほど関連しています。 ポリシーとして、セクション230は、私たちが今では不要にすることができます幼児産業保護の一形態ではなかった、またそれはインターネットの可能性とユートピアinebriationの産物ではありませんでした。 これは、ソーシャルメディアにおけるコンテンツガバナンスの責任を分配する非常に巧妙な方法でした。 私たちがこの取り決めに固執し、より多くの寛容を学び、ソーシャルメディアで見て何をしているのかについてより多くの責任を負うならば、利益を保
1ミルトンL. Mueller、「超透明性と社会的制御：規制のための磁石としてのソーシャルメディア」、電気通信政策39、no.9（2015）：804-10。
2Erich Goode and Nachman Ben‐Yehuda,”道徳的パニックの社会学の基礎と擁護”,chap. 2道徳的なパニックと不安の政治、ed。 ショーン-パトリック-ハイアー（Abingdon:Routledge,2011）。
3Stanley Cohen,Folk Devils and Moral Panics(Abingdon:Routledge,2011).
4Ronald J.Deibert、「デジタル自由への道：ソーシャルメディアに関する3つの痛みを伴う真実」、Journal of Democracy30、no.1（2019）：25-39。
5Zeynep Tufekci,”YouTube,The Great Radicalizer,”New York Times,March10,2018.
6Tufekci、”YouTube、偉大な過激派。”
7ロジャー-マクナミー、”私はマーク-ザッカーバーグを指導した。 私はFacebookが大好きでした。 しかし、私は何が起こっているのかについて黙っていることはできません」タイム誌、2019年1月17日。
8Jonathan Albright,”Untrue‐Tube:Monetizing Misery and Disinformation,”Medium,February25,2018.
9Courtney Seiter、「ソーシャルメディアの心理学：なぜ私たちはオンラインで好きで、コメントし、共有するのか」、Buffer、2017年8月20日。
10Paul Mozur、「ミャンマー軍からの投稿を含むFacebook上で扇動された大量虐殺」、New York Times、2018年10月15日。
11イングリッド‐バリントン、”Facebookは人権侵害のために試される可能性がありますか？^”大西洋、2017年12月20日。
12Burrington、”Facebookは人権侵害のために試される可能性がありますか？
13Michael Flynnのトルコ政府へのロビー活動とPaul Manafortのウクライナとロシアでの事業についての議論は、Rebecca Kheel,”Turkey and Michael Flynn:Five Things to Know,”The Hill,2018年12月17日を参照してくださ; そして、フランクリン-フォア、”ポール-マナフォート、アメリカのハスラー、”大西洋、2018年3月。
14例えば、米国下院情報常任委員会（USHPSCI）、March26、2018の民主党代表の”多数派に対する少数意見‐生産された”ロシアの積極的措置に関する報告書、March22、2018″を参照してくださ
15時11分、米v.Viktor Borisovich Netyksho et al.、ケース１：１ ８−ｃｒ−０ ０ ０ ３ ２−ＤＬＦ（２ ０ ０ ２年２月２ ０日に出願されたＤｄｃ）。 16, 2018).
16Matt Taibbi、”私たちはFacebookから救われることができますか？2018年4月3日、「Rolling Stone」をリリース。
17 シンガーとエマーソン-T-ブルッキング、Likewar：ソーシャルメディアの武器化（ニューヨーク：ホートン-ミフリン-ハーコート、2018）。
18Thomas Rid,”なぜTwitterは偽情報のための最高のソーシャルメディアプラットフォームであるのか”,Motherboard,November1,2017.
19マクナミー、”私はマーク-ザッカーバーグを指導しました。 私はFacebookが大好きでした。 しかし、私は何が起こっているかについて黙っていられません。”
20ハント-オールコットとマシュー-ジェンツコウ、”2016年選挙におけるソーシャルメディアと偽のニュース、”経済視点のジャーナル31、no.2（2017）：211-36。
21Sarah McKune,”情報セキュリティのための国際行動規範の分析,”CitizenLab,September28,2015.
22キルステン-ドロトナー、”危険なメディア？ 現代のパニック言説とジレンマ,”Paedagogica Historica35,no.3(1999):593-619.
23Thomas W.Hazlett,”THE Rationality of US Regulation of The Broadcast Spectrum,”Journal of Law and Economics33,no.1(1990):133-75.
24Robert McChesney,Telecommunications,Mass Media and Democracy:THE Battle for Control of U.S.Broadcasting,1928-1935(New York:Oxford,1995).
25Fredric Wertham,Seduction of The Innocent(New York:Rinehart,1954);And David Hajdu,The Ten‐cent Plague:The Great Comic‐book Scare and How It Changed America(New York:Picador,2009),https://us.macmillan.com/books/9780312428235.
26「街角の麻薬売人のように、近所の生活、家、そしてますます拘留中の子供たちの生活を制御する」と元FCCコミッショナーは主張した。 Minow&LeMay,1995. http://www.washingtonpost.com/wp-srv/style/longterm/books/chap1/abandonedinthewasteland.htm. ニュートン-N-ミノー&クレイグ-L-ラメイ、荒れ地に捨てられた（ニューヨーク: 丘と王, 1996)
27 Kara Swisher(@karaswisher),”全体的にここに私の気分であり、それはソーシャルメディアや技術について壊れているものを修正することになると私は多くの人々を考える:なぜあ なぜあなたは速く動かないのですか？ なぜあなたは速く動かないのですか？”Twitterの投稿、2019年2月12日、午後2時03分、https://twitter.com/karaswisher/status/1095443416148787202。
28Matt Watson、「Youtubeは子供の性的搾取を促進し、収益化されている」、YouTubeビデオ、20：47、「MattsWhatItIs」、2019年2月27日、https://www.youtube.com/watch?v=O13G5A5w5P0。
29ケーシー-ニュートン、”トラウマフロア: アメリカのFacebookモデレーターの秘密の生活、”The Verge、2019年2月25日facebookモデレーターの秘密の生活、”The Verge、2019年2月25日。
30Geoff Parker,Marshall van Alstyne,And Sangeet Choudhary,Platform Revolution(New York:W.W.Norton,2016).
31The Court in Zeran v.America Online,Inc.,129F.3d327(4Th Cir. 1997年）、Sec.230は”Stratton Oakmontの決定によって作成された自己規制へのdisincentivesを取り除くために渡されたと述べた。”を発売した。 V.ProdigyサービスCo.,(N.Y.Sup. Ct. 1995年）、掲示板プロバイダーは、投稿されたコンテンツの一部を編集する努力をしたため、顧客の一人による中傷的な発言について責任を負いました。
32Robert D Tollison,”Rent Seeking:A Survey,”Kyklos35,no.4(1982):575-602.
33例えば、”コンテンツのモデレーションにおける透明性と説明責任に関するサンタクララ原則”May8,2018,https://santaclaraprinciples.org/を参照してください。
34Julia Carrie Wong氏、「明らかに：Facebookは「ワクチン論争」に興味のあるユーザーを対象とした広告を可能にする」、The Guardian（ロンドン）、2019年2月15日。facebookは「ワクチン論争」に興味のあるユーザーを対象とした広告を可能にする」と述べた。
35Scott Cunningham,Gregory DeAngelo,And John Tripp,”Craigslist’S Effect on Violence against Women,”http://scunning.com/craigslist110.pdf(2017)を参照してください。 また、Emily Witt、「Backpageの閉鎖後、ますます脆弱なセックスワーカーが権利を要求している」、New Yorker、6月8、2018も参照してください。
36Mark Zuckerberg、「インターネットを規制するための4つのアイデア」、2019年3月30日、英国ホームオフィス、デジタル文化メディア部門&スポーツ、オンライン害白書、Rt Hon.Sajid Javid MP、Rt Hon.Jeremy Wright MP、2019年4月8日。
37Joachim Nikolaus Steinhöfel、”ブロック&ヘイトスピーチ–非常識な検閲&FBからの恣意性”Facebookブロック—恥の壁、https://facebook-sperre.steinhoefel.de/。
38Linda Kinstler,”Facebookを修正するドイツの試みは裏目に出ている”The Atlantic,May18,2018.
39William Echikson and Olivia Knodt,”ドイツのNetzDG:オンライン憎悪との闘いのための鍵となるテスト”,CEPS研究報告書no.2018/09,November2018.
