The Rule of Law and 的 Online 危害s White Paper

在出版之前 Online 危害s White Paper 上 8 2019年4月，我提出了 十点法治测试 可能有用的 be subjected.

的想法 该测试较少用于评估该实体的实质价值 government’s proposal –你可以找到那些的分析 这里 –但还有更多确定 是否满足基本法治的确定性要求和 精确度，如果没有这种精确度，则某些看起来是法律的东西便会变成临时性的 由国家官员指挥。

这是从该角度对白皮书进行的分析。 提出的问题是白皮书是否显示出足够的 关于以下每个事项的确定性和准确性。

1.    哪个运营商 are and are not subject to 的 注意义务

白皮书 says that 的 regulatory framework 应该 apply to “companies that allow 使用者 to share or discover user-generated 内容，或在线彼此互动。”

这无疑是广泛的，但表面上是 reasonably clear.  白皮书 goes 继续提供相关服务主要类型的示例：

-             托管， 共享和发现用户生成的内容（例如，公共论坛上的帖子） 或视频共享）。

-             便利化 of public and private 上line interaction between service 使用者 (e.g. instant 消息或帖子评论）。

但是，这些示例引入了 不确定。因此，范围有多广‘facilitation’? 白皮书 gives a clue 当它提到诸如缓存之类的辅助服务时。但是很难 了解开头定义为包括缓存。

白皮书 says that 的 scope will include “social 媒体公司，公共讨论论坛，允许用户查看的零售商 在线产品，非营利组织，文件共享网站和 云托管提供商。”  在里面 执行摘要，它将消息传递服务和搜索引擎添加到组合中。 尽管白皮书未提及这些内容，但显然在线游戏将是 具有社交或讨论功能的应用的范围。

对印刷机的适用性是一个重要领域 不确定。报纸网站上的评论部分，或单独 由报纸运营的讨论论坛，例如 卡里姆诉新闻 情况会 从表面上看，它在范围内。但是，在致编辑协会的一封信中 国务卿表示：

“…正如我在白皮书发布会和 下议院，这些服务已经得到了很好的监管，例如IPSO和 IMPRESS针对其成员的审核评论部分进行操作，我们不会 复制这些努力。新闻或社论内容将不受影响 通过监管框架。”

白皮书中没有对这种排除进行说明。 Further, it does not address 的 fact that newspapers are 的mselves 使用者 of 社交媒体。他们有Facebook页面和Twitter帐户，并带有指向 他们自己的网站。因此，他们自己的内容可能会受到 社交媒体平台采取行动抑制用户内容的表现 its 注意义务.

本节的裁决可能是‘extremely broad but clearly so’。但是，由引入的不确定性‘facilitation’, and by 报纸不够清晰，导致失败。

2.      至 WHOm 的 duty of care is owed

答案似乎是‘no-one’. That may seem 奇怪，尤其是当国务卿杰里米·赖特（Jeremy Wright）在最近 给编辑协会的信 to “a 注意义务 between companies and 的ir users”, but what is described in 的 White Paper is not in fact a 注意义务 at all.

The proposed duty would not provide 使用者 with a basis 上 可以向公司提出违约金要求，具体情况是 with a common law 注意义务 or a statutory 注意义务 under, say, 的 Occupiers’ Liability Act 1957.

自拟议的职责以来，明智的做法也不能这样做 conception of 危害 strays beyond established 注意义务 territory of risk of physical injury to individuals，进入竞争激烈的言论区域 harms and 的n 上 into 的 unmappable wilderness of 对社会的伤害.

Thus in its introduction to 的 危害s in scope 的 White 本文首先提到在线内容或活动，‘harms individual users’, but 的n goes 上: “或通过以下方式威胁我们在英国的生活方式 破坏国家安全，或通过减少信任并破坏我们的共同利益 权利，责任促进融合。”

在虚假信息的上下文中，它指的是“undermining 我们对彼此的尊重和宽容并混淆了我们对 更广阔的世界正在发生什么。”

不管这些抽象可能意味着什么，它们都是 不是那种可以适当地成为法律义务的事物 这个词在离线世界中关怀的意义。

The proposed 注意义务 is something quite different: a 赋予监管者自由裁量权的法定框架 as 有害, what kinds of behaviour by 使用者 应该 be regarded as causing 危害，应制定什么规则来应对危害，以及哪些运营商 prioritise.

从法治角度看问题的答案 所造成的是，似乎显然没有人应负该责任。在那里面 在有限的意义上，它可能会评定为“通过”，但只能通过抵制 将其更改为FAIL，以将方案误称为创建一个 duty of 关心。

然而，事实是这种职责是 由于没有人为其他问题的大量失败铺平了道路。

3.      什么样的 effect 上 a 接受者 will and will not be regarded as 有害

This is an obvious FAIL. 白皮书 has its origins in the 互联网 安全 Strategy Green Paper，但不局限于什么 在离线世界中将被视为安全问题。  It makes no 在tempt to 定义危害, 显然由提议的Ofweb决定应该和应该做什么 not be regarded as 有害. Some examples given in 的 White Paper 建议 that effect 上 的 接受者 is not limited to psychological 危害s, or even distress.

缺乏精确性的事实是， kinds of 危害 contemplated by 的 White Paper are not restricted to those that 对信息的接收者有可识别的影响，但似乎 encompass nebulous notions of 对社会的伤害.

4.      什么演讲或 conduct by a user will and will not be taken to cause such 危害

答案可能是，“any”. The WP goes beyond defined unlawfulness into undefined 危害, but places no limitation 上 the kind of behaviour that could in principle be regarded as causing 危害. From 从法律的角度来看，这可能是通过的，但仅在某种意义上 范围内的行为显然是无限的。

5.      如果冒着 假设的讲话或行为的接受者就足够了，如何 足够的风险以及概念的假定特征是什么 recipient

失败。这两点都没有讨论， 除了多次强调儿童和成人都应该 regarded as potential 接受者s (although whether 的 注意义务 应该 mean 采取措施排除儿童，或定制所有内容以适合 孩子，或其中一个或其他选择不清楚。白色 Paper makes specific reference to children and vulnerable 使用者, but does not 限于这些。

6.      是否 risk of 任何 particular 危害 has to be causally connected (and if so how 紧密结合）到平台的某些特定功能

FAIL. 白皮书 mentions, specifically in 的 context 虚假信息的 讨论了放大，滤泡和回声 与社交媒体相关的会议厅效应。更多 泛指‘safety by design’原则，但没有确定任何 design features that are said to give rise to a particular risk of 危害.

The 设计安全 principles appear to be not about 确定并排除可能会引起以下风险的功能 有害，但更着重于设计调节器将要 likely to require of an operator in order to satisfy its 注意义务.

Examples given include clarity to 使用者 about what forms of 内容是可接受的，有效的检测和响应系统 illegal or 有害 content, including 的 use of AI-based technology and 训练有素的主持人；方便用户报告问题内容，​​并且 高效的分类系统来处理报告。

7.      什么 情况将触发操作员采取预防或缓解措施的责任 steps

失败。这种情况的说明会遗留下来 由Ofweb自行决定，在其预期的《业务守则》中 恐怖主义或儿童性剥削和虐待行为 秘书通过OfWeb的批准’s Codes of Practice.

朝这个方向作出的唯一让步是 政府正在咨询《行为准则》是否应获得 议会。但是，很难得出结论， 监管者的结果’在国会批准之前的临时审议， 几乎可以肯定，无论采取还是放弃 democratic or constitutional force as requiring Parliament to specify 的 危害s and 的 nature of 的 注意义务 with adequate precision in 的 first place.

8.      什么步骤 duty of care would require 的 operator to take to prevent or mitigate 危害 (or a perceived risk of 危害)

白皮书说，立法将明确规定公司必须采取合理可行的措施。 但是，由于与7相同的原因，这还不足以防止失败。此外，在“履行谨慎义务”的白皮书部分中，政府对于运营商应采取的步骤有自己的看法，这是隐含的履行各方面的照顾义务。这在法定定义的职责与独立监管机构在  决定需要什么，以及可能的愿望 政府影响独立 regulator.

9.      怎么样 任何 脚步 required by 的 注意义务 would affect 使用者 WHO would not be 危害ed by 的 有问题的言论或行为

FAIL. 白皮书 does not discuss this, beyond 的 关于下一个问题的表达自由的一般性讨论。

10.   是否有风险 对合法言论或行为的附带损害（如果是，则有很大的风险 how extensive damage), would negate 的 注意义务

未解决附带损害的问题，其他 而不是隐含在政府的各种声明中’s vision includes 在线言论自由和 监管框架将“set clear standards to help companies ensure safety of 使用者 while protecting freedom of expression”.

进一步，“监管机构有法律义务对 创新，保护用户’在线权利，请特别注意不要 侵犯隐私或言论自由。” 它会“ensure that 的 新的法规要求不会导致不成比例的风险规避 过度限制言论自由的公司的回应，包括 限制公众辩论的参与。”

因此考虑风险的后果 合法言论的附带损害应由 监管者，而不是法律或法院。据推测，监管机构将根据 建议，可以减少压制合法言论的风险 that it considers to be 有害. FAIL.

后记 可以说，与此分析的大部分相反， 有任命先例的权力来决定的先例 what does and does not constitute 有害 speech.

因此，对于广播，《 2003年通讯法》不 define “offensive or 有害”而Ofcom基本上要决定那些 是指根据公认的标准。

无论对这种制度的适当性有何看法 对于广播，白皮书提案将规范个人演讲。 个别演讲是不同的。什么是允许的监管模式 广播不一定对个人合理，因为 美国通讯规范法案（里诺v ACLU）在1990年代初期。美国 最高法院裁定：

“这种动态的，多方面的交流类别 不仅包括传统的印刷和新闻服务，还包括音频，视频 和静止图像，以及交互式实时对话。通过使用 聊天室中，任何拥有电话线的人都可以成为具有 声音比任何肥皂盒都能产生更大的共鸣。通过使用 网页，邮件爆炸程序和新闻组，同一个人可以成为小册子作者。 地方法院裁定， ‘互联网上的内容多种多样 human thought’...我们同意其结论，即我们的案件没有依据 使应适用的第一修正案审查水平合格 this medium.’

在当今时代，在美国以外的地区几乎不流行， 引用第一修正案的判例。 然而，这个主张 个人语音不播放 应该 在任何司法管辖区的宪法法院或人权法院发挥重要作用。

用户数 表现不好 – 的 Online 危害s White Paper

上周一，花了一天的大部分时间阅读英国政府的 Online 危害s White Paper， 一世 结论 如果通往地狱的道路是善意铺成的，那就是一条高速公路。

经过充分和进一步的考虑，将近两个星期后，我发现没有任何东西可以改变这种看法。这就是为什么。

白皮书

首先，提醒一下白皮书的建议。政府打算立法制定一项法定‘duty of care’在社交媒体平台上以及“允许用户共享或发现用户生成的内容，或彼此在线交互”的其他众多互联网公司。范围可能从公共讨论论坛到带有用户评论的网站，再到搜索引擎，消息传递提供商，文件共享站点，云托管提供商等等。 

The 注意义务 would require 的m to “对用户的安全承担更多责任，并应对由于其服务上的内容或活动而造成的伤害”. This would apply not 上ly to illegal content and activities, but also to lawful material regarded as 有害.

The 注意义务 would be overseen and enforced by a regulator armed with power to fine companies for non-compliance. That might be an existing or a new body (称之为Ofweb）。

Ofweb would set out rules in Codes of Practice that 的 intermediary companies 应该 follow to comply with 的ir 注意义务. For terrorism and child sexual abuse material 的 首页 Secretary would have direct control over 的 relevant Codes of Practice.

用户将获得对中介公司的有保证的投诉机制。政府正在咨询任命指定组织的可能性，这些组织将能够‘super-complaints’ to 的 调节器。

白皮书以技术公司法规为框架，’目标是在线用户的活动和交流。 Ofweb一口气将监管社交媒体和互联网用户。它将是一个在线警长，有权通过其在线中间代理人决定和监管用户可以在网上说什么，也可以不在网上说什么。

Which lawful content would count as 有害 is not defined. 白皮书 provides an ‘initial’内容和行为清单：网络欺凌和拖钓；极端主义的内容和活动；强制行为；恐吓虚假信息暴力内容；提倡自我伤害；促进女性外阴残割（FGM）。

这不是一个可以轻易转化为立法的清单，即使那是政府’的意图。一些主题-例如FGM–比其他人更具体。但大多数人几乎和‘harmful’本身。例如，白皮书没有说明什么是拖钓。它只说‘网络欺凌，包括拖钓是不可接受的’。它也可以说‘表现不好是不可接受的’.

无论如何，白皮书都给人留下了深刻的印象，即立法将回避这种特殊程度，并仅根据‘harmful’.

白皮书 does not say in terms how 的 ‘initial’范围的内容和行为列表将得到扩展。监管者似乎将决定：

“This list is, by design, neither exhaustive nor fixed. A static list could prevent swift regulatory action to address new forms of 上line 危害, new technologies, content and new 上line activities.” [2.2]

In that event Ofweb would effectively have 的 power to decide what 应该 and 应该 not be regarded as 有害.

白皮书 proposes some exclusions: 危害s suffered by companies as opposed to individuals, data protection breaches, 危害s suffered by individuals resulting directly from a breach of cyber security or hacking, and all 危害s suffered by individuals 上 的 dark web rather than 的 open internet.

这是白皮书提案的可视化，以及类似的离线护理职责。 

  
好的意图

白皮书 is suffused with good intentions. It sets out to forge a single sword of truth and righteousness with which to assail all manner of 上line content from terrorist propaganda to offensive material.

但是，挥舞着高尚的旗帜并不能保证军队朝着正确的方向前进。这也不排除专门单位将更有效的可能性。

政府将这种包罗万象的方法视为一种美德，与以下几点形成对比：

“a range of UK regulations aimed 在 specific 上line 危害s or services in scope of 的 White Paper, but [which] creates a fragmented regulatory environment which is insufficient to meet 的 full breadth of 的 challenges we face” [2.5].

An aversion to fragmentation is like saying that instead of 的 framework of criminal offences and civil liability, focused 上 specific kinds of conduct, that make up our mosaic of offline laws we 应该 have a single offence of 表现不好.

我们不能静心地设想这种普遍罪行。禁止恶劣行为法将对主观和任意解释开放，以至于与法律相反：按特别命令进行统治。可以肯定的是，它不能满足合理确定性的法治要求。同样，我们应该以怀疑的态度对待任何带有反对网上不良行为的普遍性法律的行为。

In placing an undefined and unbounded notion of 危害 在 的 centre of its proposals for a universal 注意义务, 的 政府 has set off down that path.

Three degrees of undefined 危害

伤害是一个无定形的概念。它会根据有权使用它的人的意见而改变形状：在政府中’s proposal, Ofweb.

Even when limited to 危害 suffered by an individual, 危害 is an ambiguous term. 它会certainly include objectively ascertainable physical injury – 的 kind of 危害 to which comparable offline duties of care are addressed.

但这还可能包括主观伤害，具体取决于某人’他们认为自己遭受了自己认为的伤害。当应用于语音时，这是很成问题的。一个人可能会喜欢读一篇辛辣的散文。另一个人可能会心疼。当不同的人对阅读或听到的内容有不同的反应时，如何确定伤害或伤害风险？苦恼足以使有害的东西吗？轻度不适或中度烦恼呢？冒犯性会造成伤害吗？从根本上讲，言语暴力是吗？ 

‘Harm’因此，没有可识别的界限，至少没有一个会通过立法确定性测试。

这在白皮书中特别明显’关于虚假信息的讨论。在抗疫苗接种方面，白皮书指出“Inaccurate information, regardless of intent, can be 有害”.

Having equated inaccuracy with 危害, 的 White Paper contradictorily claims that 的 regulator and its 上line intermediary proxies can protect 使用者 from 危害 without policing truth or accuracy:

“我们很清楚，监管机构将不负责在线维护真相和准确性。” [36] 

“Importantly, 的 code of practice that addresses disinformation will ensure 的 focus is 上 protecting 使用者 from 危害, not judging what is true or not.” [7.31]

白皮书 acknowledges 那：

“与此相关的判断将很困难。政府和未来的监管机构将与民间社会，行业和其他团体广泛合作，以确保采取尽可能有效的行动，并且不会损害在线言论自由” [7.31]

不能通过在桌旁摆一些有兴趣的各方来解决矛盾。在这种裂缝中，这样的提议不可避免地扎在裂缝中，并且没有逃脱的可能。

可以将第三种伤害（但更为含糊）归类为‘harm to society’。这种伤害不依赖于识别可能直接受到伤害的个人。它倾向于纯粹的抽象，可以根据解释机构的意愿进行延展。

危害s to society feature heavily in 的 White Paper, for example: content or activity 那：

“通过破坏国家安全或减少信任并破坏我们的共同权利，责任和促进融合的机会，威胁着我们在英国的生活方式。”

类似地：

“破坏我们的民主价值观和辩论”;

“鼓励我们做出可能损害我们健康的决定，破坏我们对彼此的尊重和包容，并混淆我们对更广阔世界正在发生的事情的理解。”

这种散文可能适合肥皂剧或选举宣言，但在立法中或附近都没有地位。

民主赤字

One particular concern is 的 potential for a 注意义务 supervised by a regulator and based 上 a malleable notion of 危害 to be used as a mechanism to give effect to some Ministerial policy of 的 day, without 的 need to obtain legislation.

因此，在白皮书卫生部长马特·汉考克（Matt Hancock）发布前两周 建议ed that anti-vaxxers could be targeted via 的 forthcoming 注意义务.

白皮书 duly recorded, under “对我们生活方式的威胁”, that “Inaccurate information, regardless of intent, can be 有害 –例如，不正确的反疫苗接种消息在线传播会危害公共健康。” [1.23]

如果国务卿决定他想让反vaxxers沉默，正确的做法是向议会提出一项法案，进行辩论，如果议会同意，则将其通过成为法律。白皮书设想的结构将创建一个渠道，通过该渠道，部长级特定政策可以使特定群体或某种言论保持沉默，以对抗在线危害，并推向监管机构，然后由其在线中介机构实施。这样的计划已经使民主赤字深陷其中。

也许认识到这一点，政府正在咨询议会是否应在开发或批准Ofweb中发挥作用’的行为准则。然而，这更多的是抹灰而不是治愈。

不允许的模糊性

在非特定性的伤害概念上建立监管结构并不是一个模棱两可的问题，否则本来无法理解的法规中的某些词可能意味着一件事或另一件事，而法院必须决定是哪件事。它从模糊性变成模糊性，并引起 法治问题.

上议院阐明了模糊性问题。 R v里明顿，以美国的 变灰:

“模糊冒犯了几个重要的价值观…一项含糊不清的法律不允许将基本政策事项委托警察，法官和陪审团以临时和主观的方式解决，并伴随着任意和歧视性适用的危险。”

尽管最常用于刑事责任，但对模糊性的反对比这更根本。这是一项普遍适用于法律的宪法原则。迪普洛克勋爵在1975年的民事案件中提到了这一点（黑克劳森）：

“接受法治作为一项宪法原则，要求公民在采取任何行动之前，应事先知道将产生什么样的法律后果。”

确定性是与 consequences for individuals' speech. 在里面 context of a 社会的 media 注意义务 的 rule of law requires that 使用者 must be able to know with reasonable 事先确定他们的演讲内容可能是 preventive or mitigating action by a platform operator subject to 的 注意义务.

如果 的 注意义务 is based 上 an impermissibly vague concept such as ‘harm’，那么立法就有法治问题。出于以下三个原因，不一定可以通过授权监管机构为实务守则和解释穿上骨架来解决问题： 

首先，不允许的含糊不清的立法根本没有提供任何依据–监管者可以随意在其上绘画的更多画布； 

第二，如果立法机关将基本政策事务委托给警察，法官和陪审团是令人反感的，则不清楚为什么对监管者如此不那么令人反感； 

第三，监管机构制定的法律是一项可动的盛宴。

警长的所有权力

From a rule of law perspective undefined 危害 ought not to take centre stage in legislation.

但是，如果这个想法是要最大限度地发挥监管者的权力和酌处权，那么立法中固有的模糊性就可以很好地达到目的。职权范围越模糊，就越有权力交给监管机构制定政策和制定法律。

约翰·汉弗莱斯（John Humphrys）可能会在不知不觉中将手指放在上面 2019年4月8日的今日节目 （4:00开始）. Joy Hyvarinen of Index 上 审查制度 pointed out how broadly Ofcom had interpreted 危害 in its 2018 survey, to which John Humphrys retorted: “您可以通过更具体，肯定地定义[危害]来解决此问题。” 

那确实是一种改善。但是，政府意图创建一个强大的监管机构，而不是局限于范围内的内容和行为的静态清单，会对监管机构产生什么兴趣？’的风格，严格的规则以及对伤害的严格限制？在这种情况下，广度和模糊性不是缺点，而是达到目的的手段。

There is a precedent for this kind of approach in broadcast regulation. The Communications Act 2003 refers to 'offensive and 有害', makes no 在tempt to 定义them and leaves it to Ofcom to decide what 的y mean. Ofcom is charged with achieving 的 objective: 

“that generally accepted standards are applied to 的 contents of television and radio services so as to provide adequate protection for members of 的 public from 的 inclusion in such services of offensive and 有害 material”.

William Perrin and Professor Lorna Woods, WHOse 履行护理职责 影响了白皮书， 说2003年法案 那： 

"competent regulators have had little difficulty in working out what 危害 means" [37]. 

他们赞成男爵夫人格兰德’她对2018年11月上议院辩论的贡献，在其中她问道： 

"Why did we understand what we meant by "危害" in 2003 but appear to ask what it is today?"

答案是，在2003年，立法者不必理解模糊的“损害”一词的含义，因为他们赋予了Ofcom决定权。 Ofcom几乎没有什么困难也就不足为奇了，因为实际上这不是在“弄清楚伤害意味着什么”，而是在决定其含义。实际上，它是执行委派的立法职能。

Ofweb would be in 的 same position, effectively exercising a delegated power to decide what is and is not 有害.

广播法规是语音仅受一般法律管辖的规范的例外。由于其起源于频谱稀缺和媒体的感知能力，因此，除适用的一般法律（诽谤，淫秽等）外，在广播中强加更严格的内容规则和酌处方式的监管方式被认为是可以接受的。所有的演讲。

但是，这并不意味着类似的方法适用于单个语音。模糊与权力的任意行使密不可分。如果这个政府开始建立一个可以悬挂个人在线言论的支架，那就再好不过了。

The 注意义务 that isn’t

Lastly, it is notable that as far as can be discerned from 的 White Paper 的 proposed 注意义务 is not really a 注意义务 完全没有

适当地所谓的谨慎义务是对可识别人员的法律义务。如果他们因违反职责而受到伤害，他们可以要求赔偿。占领者的普通法疏忽和责任’1957年《责任法》就是例子。这些通常仅限于人身伤害和财产损失；而且很少有人对占领者施加义务，以防止游客互相伤害。占用者对住所的访客彼此之间说的话不负任何责任。

The absence in 的 White Paper of 任何 nexus between 的 注意义务 and individual persons would allow Ofweb’它的职责范围不仅限于对个人的伤害，还包括对社会危害的模糊领域。如上所述，这就是白皮书提出的内容。

Occasionally a statute creates something that it calls a 注意义务, but which in reality describes a duty owed to 没有人 in particular, breach of which is (for instance) a criminal offence.

一个例子是《 1990年环境保护法》第34条，该条规定了废物处理的法定义务。正如该法规所期望的那样，第34条对于职责范围内的行为是准确的。相比之下，白皮书提出了实际上是通用的在线‘Behaving Badly’ law.

即使国务卿在最近 给编辑协会的信 to “A 注意义务 between companies and 的ir 使用者”, 的 ‘duty of care’白皮书中描述的内容与 注意义务 properly so called.

白皮书’s 注意义务 is a label applied to a regulatory framework that would give Ofweb discretion to decide what user communications and activities 上 的 internet 应该 be deemed 有害, and 的 power to enlist proxies such as 社会的 media companies to sniff and snuff 的m out, and to take action against an in scope company if it does not comply.

这是一种控制个人语音的机制，例如不会在离线状态下考虑，并且根本不适合个人在网上说什么。

[于2019年5月24日添加可视化。于2019年7月19日修订，以明确表明监管机构可能是现有机构，也可能是新机构-请参阅 咨询Q.10。]

社交媒体谨慎义务的十点法治测试

所有迹象表明政府将在短期内提出 a 注意义务 上 社会的 media platforms aimed 在 reducing 的 risk of 危害 to users.

DCMS国务卿杰里米·赖特 最近写:

"A world in which 危害s offline are controlled but 的 same 危害s 上line aren’现在不可持续…". 

上议院 通讯委员会 调用了 类似的“奇偶原理”：

“同级 必须在线或离线提供保护。”

Notwithstanding that 的 注意义务 concept is framed as 将脱机护理职责转换为在线服务，向社会提出建议 media 注意义务 will almost certainly go significantly beyond 任何 comparable offline 注意义务.

当我们检查与安全有关的义务时 为访客提供离线公共空间的运营商，我们 发现他们:

（a）仅限于 客观可确定的伤害，

（b）很少对 访客彼此之间的关系，

（c）不对 访客互相说什么。 

公开讨论过的社交媒体护理责任 so far breach all three of 的se barriers. They relate to subjective 危害s and are about what 使用者 do and say to each other. Nor are 的y restricted to activities that are unlawful as between 的 使用者 的mselves.

任何拟议的社会福利的实质性优缺点 media 注意义务 will no doubt be hotly debated. But 的 likely scope of a duty of care raises a prior rule of law issue. The more broadly a 注意义务 is framed, 误入模糊的模糊性的风险越大。

反对模糊的法治由 上议院 R v里明顿, 以美国的情况为例 变灰:

“模糊冒犯了几个 important values …含糊的法律不允许将基本政策事项委托给 警察，法官和陪审团在临时和主观的基础上解决问题， 伴随着任意和歧视性应用的危险。”  

虽然最常用于刑事责任， 反对模糊性比这更根本。这是宪法原则 通常适用于法律。迪普洛克勋爵在1975年的民事诉讼中提到了这一点 case (黑克劳森）：

“接受 法治是一项宪法原则，要求公民在 致力于任何行动，应该能够提前知道 由此产生的法律后果是什么？”

确定性是与 对个人讲话的后果。在社交媒体职责范围内 care 的 rule of law requires that 使用者 must be able to know with reasonable 事先确定他们的演讲内容可能是 平台操作员应采取的预防或缓解措施 care.

考虑到所有这些，我提出了十点原则 政府的法律测试’的建议在出现时可以进行评估。 这些测试与任何提议内容的优缺点无关 这样的谨慎责任，当然，任何责任的范围和实质如何 谨慎义务的定义将是核心法治问题的核心 确定性和准确性。

These tests are in 的 nature of a precondition: is 的 注意义务 framed 具有足够的确定性和准确性，可以作为法律接受，尤其是 牢记个人演讲的潜在后果？

例如，范围既可以是 广泛而清晰。那将通过法治测试，但可能仍然是 其优点令人反感。但是如果范围不超过法治 确定性和精确性的门槛应该在第一个障碍上下降。

我建议的测试是是否足够 确定性和准确性 关于：

1.    Which operators are and are not subject to 的 注意义务.

2.      至 whom 的 注意义务 is owed.

3.      什么 kinds of effect 上 a 接受者 will and will not be regarded as 有害.

4.      什么 speech or conduct by a user will and will not be taken to cause such 危害.

5.      如果 对有关讲话或行为的假设接受者所冒的风险是 足够，多少风险就足够了？假设的特征是什么 名义收件人。

6.      是否 the risk of 任何 particular 危害 has to be causally connected (and if so how 紧密结合）到平台的某些特定功能。

7.      什么 情况将触发操作员采取预防或缓解措施的责任 steps.

8.      什么 steps 的 注意义务 would require 的 operator to take to prevent or mitigate 危害 (or a perceived risk of 危害).

9.      怎么样 any 脚步 required by 的 注意义务 would affect 使用者 WHO would not be 受有关言论或行为伤害。

10.   是否 对合法言论或行为造成附带损害的风险（如果有， risk of how extensive damage), would negate 的 注意义务.

These tests are framed in terms of 危害s to individuals. Some may object that ‘harm’应该集体看待。从法治的角度 it 应该 hardly need saying that constructs such as (for example) 危害 to society or 危害 to culture are hopelessly vague.

反对含糊其辞的一种可能的回信是 监管者将被授权 决定详细规则。确实，毫无疑问 认为，鉴于一系列高级原则，监管机构的灵活性 与之共事，是有益的。对此至少有两个反对意见。

首先，监管者不是炼金术士。也许可以 产生临时性和主观性的模糊戒律，甚至将其构筑成规则，但监管机构的动手不能 将贱金属转化为金。它的根本原因是灵活性， 自由裁量权和敏捷性。这些是一种恶习，而不是一种美德， 关注法治，特别是在个人言论自由受到威胁时 stake.

其次，如果含糊不清可能导致任意性， 那么还不清楚议会将政策委派给独立人士的重要性 监管机构比将其委派给警察，法官或 陪审团。它增加而不是治愈了恶习。

Close scrutiny of 任何 proposed 社会的 media 注意义务 from a rule of law perspective can help ensure that 我们为坏人制定好的法律，而不是为好人制定坏法律。

互联网上的张伯伦勋爵？谢谢，但是不，谢谢。

今年夏天是1968年《剧院法》颁布50周年，该法案使剧院摆脱了张伯伦je下勋爵的审查手’的家庭。此后，剧院只需要关心有关演讲的一般法律即可。此外，他们被授予公众对good亵行为和免受普通法侵害公共道德罪的豁免权的良好辩护。

庆祝戏剧法案是启蒙运动的里程碑。但是今天，我们濒临创建互联网的张伯伦勋爵。当然，我们不会这样称呼。时代，在其 2018年7月5日的领导人，提出了一个微弱的Orwellian“ Ofnet”。炒作有 最近更新 that 的 UK 政府 is laying plans to create a 社会的 media regulator to tackle 上line 危害. 什么 form that might take, 应该 it happen, we do not know. We will find out when 的 政府 produces 承诺的白皮书。

When 政府s talk about regulating 上line platforms to prevent 危害 it takes no great leap to realise that we, 的 使用者, are 的 危害 that 的y have in mind.

规约充满了限制言论的立法。该法规中的大多数（如果不是全部）适用于在线和离线。其中一些适用 在线比离线更严格。这些法律设定了界限：诽谤，淫秽，知识产权，恐怖分子的内容，复仇色情片，骚扰，煽动种族和宗教仇恨等。这些界限代表了言论自由与对他人的伤害之间的平衡。我们每个人都应留在边界内，无论边界在哪里。在这些界限内，无论权威人士如何思考，我们都可以自由地说出自己喜欢什么。独立法院采用旨在保护言论自由的原则，程序和假定，根据议会制定的明确的某些法律，裁定涉嫌违法行为。

But much of 的 current discussion centres 上 something quite different: regulation by 调节器。 This model concentrates discretionary power in a state agency. 在里面 UK 的 model is to a large extent 的 legacy of 的 1980s Thatcher 政府, which started 的 OF trend by creating OFTEL (as it 的n was) to regulate 的 newly liberalised telecommunications market. A powerful regulator, operating flexibly within broadly stated policy goals, can be rule-maker, judge and enforcer all rolled into 上e.

这可能是电信竞争，能源市场等经济监管的长期模式。但是，当监管机构的监管侵入言论领域时，它将采取不同的态度。在涉及言语规则方面，谨慎，灵活和敏捷是坏事，而非美德。法治要求管辖言论的法律应具有普遍性，因为它适用于所有人，但要明确禁止的内容。相反，监管者的监管是相反的：针对特定群体，但仅列出监管者应寻求实现的广泛陈述的目标。
正如OFCOM在最近的报道中所说 讨论文件‘Addressing 危害ful Online Content’: “在广播环境中起作用的是，由国会在法规中制定了一系列目标，这些目标以旨在随时间演变的详细监管指南为基础。法规要求的更改将通过公众咨询获得。”

言论自由的确切界限应该是激烈的，永久的辩论。议会应在经过适当考虑后决定是否移动边界。言论自由和法治都是议会的权力下放到监管机构的权力，这限制了个人言论的范围。

It becomes worse when a document like 的 政府’s 互联网 安全 Strategy Green Paper 着眼于社会损害和不可接受性的主观观念，而不是依法严格的合法性和非法性。‘Safety’很容易成为一面万能的旗帜，在该旗帜下，政府不喜欢但无法充分定义的含糊不清的言论类别。

Also troubling is 的 frequently erected straw man that 的 internet is unregulated. This blurs 的 vital distinction between 的 general law and regulation by 调节器。 Participants in 的 debate are prone to debate regulation as if 的 general law did not exist.

有时，差异是公认的，但不一定是美德。 OFCOM的讨论文件指出，与受制于长期制定的广播服务相反，一些较新的在线服务正在‘不受一般法律约束或几乎不受任何法律约束’，好像普通法仅仅是进一步监管的起点，而不是民主建立的个人言论标准。

OFCOM继续认为这种情况是“不是设计造成的，而是系统不断发展的结果”。但是，根据《 2003年通讯法》做出了有意的决定，将OFCOM排除在外’对互联网内容的管辖权仅适用于普通法。

OFCOM的论文摒弃了个人言论，其特点是在线报纸不受制于广播公司的公正性要求，因为这种要求是不一致的。不一样，是的。不一致，不可以。

定期地 自1990年代以来 这个想法已经浮出水面，作为通信融合的结果，广播监管应出于一致性考虑而应用于互联网。随着视频在宽带上的出现，互联网的各个方面开始与电视表面上的相似之处。 The pictures were moving, send for 的 TV 调节器。

欧盟立法者尤其容易出现这种不合时宜的情况。他们目前正在制定视听媒体服务指令的修订版，要求监管机构对视频共享平台行使某些监督权。

但是，广播法规而不是一般法律规则是该规范的例外。像OFCOM这样的机构充当广播监管机构，反映电视是一回事’频谱稀缺和赖斯家长式生活的历史根源。随着电视变得越来越不像电视，即使这种制度看起来也越来越不合时宜。建立一个有权影响个人言语的调节器是另一回事。如果将监管机构的任务定义为有关平台的设置规则，这也没有任何改善’规则。结果是一样的：国家实体（无论独立于政府如何）对用户行使酌处控制权’通过议会未明确立法的规则进行演讲。

正如OFCOM讨论文件所指出的，广播和非广播法规之间的界线是正确的，这意味着相同的内容可以根据其访问方式服从不同的规则。如果认为这是反常的，那么将监管机构的监管保持在不应该涉足的区域之内，这是一个很小的代价。

下议院媒体文化和体育委员会 2018年7月关于假新闻的中期报告，建议政府使用OFCOM’的广播监管权，“包括有关准确性和公正性的规则”, as “制定在线内容标准的基础”。互联网经常引起人们的误解，这可能证明，国会委员会可能非常严肃地建议，应将准确性和公正性规则应用于个体社交媒体用户的帖子和推文。

为内容设置监管标准意味着要比一般法律施加更多限制性规则。那就是监管者’s raison d’等。但是，将严格的标准视为更高的标准的观点在应用到我们所说的内容时是有问题的。考虑环境隐喻的频率–有毒言论，话语被污染–现在应用于在线语音。对于环境监管者而言，清洁剂可能更好。言语也不一样。令人反感或有争议的词语与在海边冲刷的石油或排放到河流中的化学物质不一样。由漏油事件造成的客观可确定的物理损害与人对人们所说和的优点和缺点的评估和反应无关。

如果我们走得更远，将环境预防原则转化为言语，那么我们将事先受到限制–长期以来被认为是言论自由的堡垒，与先前的限制相反。更令人惊讶的是，《泰晤士报》在其7月Ofnet社论中应该抱怨互联网“到警察和检察官介入时，损害已经造成”。这是介入和实行事先克制的邀请。

顺便说一句，新闻界是否真的认为Ofnet不久就不会敲门讨论他们的在线版本了？这就是ATVOD尝试将视听媒体服务指令应用于包含视频的在线报纸时发生的情况。具有讽刺意味的是，《泰晤士报》的姊妹报纸《太阳》 成功挑战了这一尝试.

OFCOM讨论文件指出，“对[广播体制]是否可以批发出口到互联网持谨慎态度的原因”。这些原因包括“与个人之间的对话有关的保护或[原文]表达自由的期望可能与与组织发布的内容有关的期望有很大不同”.

美国地方法官达泽尔（1996）说：“随着大众言论的发展，最具参与性的形式，互联网应受到政府的最高保护。 ”。现在，相反的观点似乎正在逐渐普及：公众不应该相信我们个人的言论能力，允许任何人在不受编辑影响的情况下在线发言或写作是一个错误，上网精灵必须被塞回到瓶子里。

适用于演说的规章制度的规制，可以追溯到张伯伦勋爵和剧院的糟糕年代。在一个自由开放的社会中，我们不任命互联网的张伯伦勋爵–甚至是由议会而不是由女王任命的人-告诉我们我们可以和不能在网上说的内容，无论是直接还是 通过在线中介代理。界限是由一般法律正确设定的。

我们当然可以辩论这些法律应该是什么。我们可以争论是否适当设定了中介责任法律。我们可以考虑对在线中介适用何种侵权责任，以及这些中介的范围是否正确。我们可以辩论言行之间的分界线。我们可以讨论这样一个互联网这个烦恼的问题，它既对儿童安全，又适合大人。我们可以考虑采取更好的方法来执行法律，并为非法行为的受害者提供补救。这些是在基本权利框架内进行公共辩论以及议会和普通法的事务。这些都不需要监管机构的监管。恰恰相反。

将这些辩论的内容描述为（《泰晤士报》的话）也不合适“一个在法制荒野上施加法治的机会，在该荒野中，公民本能被中止，以至于对自由思想的自由主义进行了太长时间”。使用互联网的人们，就像世界各地的人们一样，都受到法治的约束。最终在法庭上被起诉的许多英国互联网用户，无论是民事的还是刑事的，都证明了这一点。反对法律的实质内容并不意味着存在法律真空。

我们应该做的是认真研究法律的作为和不作为’•在线申请（法律委员会已经在研究社交媒体犯罪），必要时修改这些法律，然后研究如何最适当地执行这些法律。

这将涉及寻找政府希望避免的领域，例如诉诸司法。我们如何才能使人们具有合法性，可以快速，轻松地访问独立法庭来做出有关在线违法行为的决定？当前的法院系统无法大规模提供该服务，这典型地是政府而不是私人参与者的工作。更有争议的是，是否存在更大的权力使用空间，例如‘internet ASBOs’以最严重的网络违法者为目标？的 现有法律包含这些权力，但似乎很少使用。

很难不 认为互联网监管者将是避免在法律上应如何适用于人民的棘手问题的政治上有利的手段’s behaviour 上 的 internet. Shifting 的 problem 上 to 的 desk of an Ofnet might look like a convenient solution. It would certainly enable a 政府 to proclaim to 的 electorate that it had done something about 的 internet. But that would cast aside many years of principled recognition that individual speech 应该 be governed by 的 rule of law, not 的 hand of a 调节器。

如果我们需要安全，则应遵守一般法律以确保我们的安全。避免人们在离线和在线状态下进行的非法行为。并且可以安全地从互联网上的张伯伦勋爵那里获得。

规范互联网–犯罪者的中介

在将近25年之后 网络的出现以及更早的互联网诞生以来，我们仍然 听到要求对互联网进行监管的建议-对于全世界 people WHO use 的 internet were not already subject to 的 law. 2017年5月 保守宣言 竖起一个高大的稻草人：“有人说 政府在技术和互联网方面没有监管的余地。 We disagree.”  那个稻草人甚至发现了 its way into 的 标题 现任上议院通讯委员会主席 查询：“互联网：要管制还是不要管制？”。

选择不是 调节或不调节。  如果有 是一个二进制选择（并且有 通常介于两者之间） 制定通用的定律和波动规则 由行政机构或监管机构；在法律之间是暴露的 某些活动，例如搜索或托管，或多或少地承担责任； 或以或多或少的繁重义务拜访他们的法律；它介于 或多或少关注基本权利的政权；这是在优先排序之间 犯罪者或中介。

这样的美好可以被践踏 急于做一些关于互联网的事情。一般存在 在要求驯服互联网的喧嚣中，适用法律容易被忽视 Wild West, purge illegal, 有害 and unacceptable content, leave no safe 男性犯罪分子的空间，并为无法无天的互联网带来秩序。

最近 文章 大卫·安德森（David Anderson） Q.C.问了一个问题：“谁来管理互联网？”谈到“主观 法治的技术巨人”。唯一可接受的答案‘who governs?’问题当然是“法律”。我们将承担风险 互联网总督对政客，公务员的头衔和权力， government agency or 调节器。 But as to 的 rule of law, we 不应将法律的存在与对什么的分歧混淆， 实质上，这些法律应包括在内。书店和杂志 发行人以诽谤为由在责任制下运营 some similarities 加入《电子商务指令》规定的托管制度。没有人会或有希望 suggest 因此，他们不受法治的约束。

确定如何做是一回事 不进行监管，但否认存在真正的担忧是愚蠢的 在网上可以找到一些行为。政府目前 致力于白皮书 提出立法建议以解决“a range of both legal and illegal 危害s, from cyberbullying to 上line child sexual exploitation”。骚扰，欺凌和其他辱骂行为应如何处理 行为对当前的骚动如此重要？

搁置关于 中介责任和义务，我们可以问一下我们是否做得很好 充分利用现有法规手册来针对犯罪者。罪犯 法律是存在的，但可以视为钝器。这是有充分理由的 公诉主任长发 检察指南 for 社会的 media offences.

有时候 ‘Internet ASBO’已浮动。三年前 报告 全党的 建议国会对反犹太主义进行调查，以 预防性犯罪令，检察院应 undertake a “进行审查以检查预防令对仇恨的适用性 犯罪行为，并在适当时采取措施予以实施。” 

但是，可能的选择 可能位于法规书的其他地方。的 2014年《反社会行为，犯罪与警务法》 包含一些当局获得民事反社会程序 behaviour injunction (ASBI) against someone WHO has engaged or threatens to 从事反社会行为“导致或可能发生的行为 给任何人造成，骚扰，惊吓或困扰”. That succintly 描述抱怨的在线行为。

立法中没有 将ASBI限制为离线活动。确实在10年前， Telegraph 已报告 根据先前的法律针对17个人进行的“互联网ASBO” year old WHO had been posting material 上 的 社会的 media platform Bebo, 禁止他发布具有威胁性或辱骂性的资料，以及 促进犯罪活动。  

ASBI提出了难题 他们应该如何构成和相称，也许是合法的 关注定义反社会行为的广义术语。 但是，提出申请的法院具有社会和 制度的合法性以及经验和能力来衡量 such factors.

内政部 法定指导 关于使用2014年法令权力（2017年12月修订）的意见 提及它们与在线行为有关的用途。  也许可以重新考虑一下。 另一种可能是探索扩大申请能力。 当局以外的ASBI，例如一些志愿组织。 

虽然有关如何 规范互联网活动，中间人的角色将不复存在 远离，我们不应该让这降低专注于 针对肇事者本身的补救措施。