两个委员会的故事

两个下议院委员会–the 民政事务委员会和the 数字文化文化体育委员会 –最近与 政府部长讨论政府等问题’s proposed Online 危害s legislation. 的se sessions proved to be as revealing, if 不 more 所以，关于政府’其意图是2020年2月对 the 白皮书。

结果，在某些主题上，我们比我们知道的更多，但是图片是 仍然不完整。一些新问题浮出水面。其他领域变得越来越少 比以前清晰。

Above all, 不hing is set in stone. 的 初步反应 was 表示行进方向，并构成迭代的一部分 政策制定过程。尚未到达目的地– if, that is, 的 政府曾经到过那里。它可能仍然会遇到障碍 顺便说一句，如果最终意识到创建后世的智慧，那就转向沟渠，或者进行大马士革转换 张伯伦勋爵上网. Or 的 road may eventually peter out 进入不hingness. At 目前，政府正在推进其立法意图。

I’m going to be selective about my choice of topics, 在里面 main 回到有关在线的一些主要现有问题和疑虑 有害的建议，加上大量的新问题，以防万一。许多 more ground than this was covered 在里面 two sessions.

从旧的客厅游戏中借用，每个主题都以 what 的 白皮书 said; followed by 什么的 初步反应 said; 的n 什么的 部长们 said; and lastly, 的 后果。的 部长是奥利弗·道登（Oliver Dowden）国会议员（数字，文化，媒体国务卿） 和体育）； 卡罗琳·迪尼纳奇（Caroline Dinenage）议员（数字文化部长）和 威廉姆斯男爵夫人（内政部大臣）。  

有时政府’记录了对咨询的初步回应 咨询意见，但未就该主题得出任何结论。在那些 初始响应被分类为说‘Nothing’. Some repetitive 陈述已被删除。

由于这是一本长篇读物，因此以下是所选主题的列表：

• 议会或监管机构会决定什么“harm” means?

• 监管者’职权范围：实质，过程或两者？
• 对于“lawful but 有害”成年人看到的内容，监管机构是否只会对中介机构是否正在执行他们选择在其TandC中采用的任何内容标准感兴趣？

• 针对特定种类的用户内容或活动的行为准则？

• Search engines in 范围?

• 从社交媒体平台到零售客户评论部分的所有内容？
• Will journalism and 的 press be excluded from 范围?

• 端到端加密

• 身份验证

• 治外法权

1.议会或监管机构会决定 what “harm” means?

的 白皮书 说过：

“…政府采取在线行动 content or activity that 危害s individual 使用者, particularly children, or 破坏国家安全，威胁到我们在英国的生活方式， 或通过减少信任并破坏我们的共同权利，责任和 促进融合的机会。”

“This list [Table 1, Online 危害s in 范围] is, by design, neither exhaustive nor fixed. A static list could prevent swift regulatory action to address new forms of 上line 危害, new technologies, 内容和新的在线活动。”

的 初步反应 说过：

没有.

的 部长们 说过：

奥利弗·道登（Oliver Dowden）: “The 只要 我试图说明的一点是，我只是热衷于这种比例性 这是因为通常情况下，监管始于 最好的意图可以 解释 if you do 不 get it 对，拥有自己的生活。它开始变得 解释方式 Parliament did 不 intend it to be 在里面 first place。我只是热衷于 确保我们把那种 硬墙 围绕它，以便政权 is flexible but that 在其 解释它不能超越 intent that 我们 set out 在里面 first place 在里面 broad principles.” (emphasis 添加）

卡罗琳·迪尼纳奇（Caroline Dinenage）: “For 你可能会称之为“legal but 有害” 危害s, 我们 are 不 setting out to name 的m 在里面 legislation. That is for 的 simple reason that technology 步伐如此之快，以至于我们很可能最终会失败 excluding something….  我们要 sure that this piece of legislation will be agile and able to respond to 危害s 当它们出现时。立法将使这一点更加清楚，但是 这将是为了 the regulator to outline 什么的 危害s are和to do that in partnership with 的 platforms.”（Q.554）（添加了重点）

后果：很难调和 国务卿渴望建立“hard walls”, in order to avoid 意外的后果，与政府’s apparent determination to leave 的 不ion of 危害 undefined, delegating to 的 regulator 的 task of deciding 什么counts as 有害. This kind of approach has 对法治的严重影响.

Left undelineated, 的 concept of 危害 is infinitely 可延展的。内政部部长威廉姆斯男爵夫人在委员会会议上建议将5G虚假信息分开 into “无害阴谋论” and “真正导致攻击的东西 on engineers”，以及最右边的元素。一名委员会成员（拉特 Edwards M.P.) responded that she did 不 think that any element of 的 阴谋论可以归类为‘harmless’, because “it is 威胁公众对5G推出的信心” —DCMS部长Caroline Dinenage同意了这一主张。

危害 is thus equated with people changing 的ir opinion about a telecommunications project. This unbounded sense of 危害 is 上 a level with 的 不orious “confusing our understanding of 什么is happening 在里面 wider world” phraseology of 的 White Paper.  

Statements such as 的 威廉姆斯男爵夫人的总结讲话：“我也想建立互联网 a safer place for my children, and exclude those who seek to do society 危害” have to be viewed against 的 backdrop of an essentially unconstrained meaning of 危害.

When 危害 can be interpreted so broadly, 的 government is playing with fire. But 它是 我们 – 不 的 government, 的 regulator or 的 tech 公司 – 谁站起来让我们的手指烧焦。

2.监管者’职权范围：实质，过程或两者？

的 白皮书 说过：

“In particular, 公司 will be 需要确保他们具有有效且相称的流程，以及 governance in place to reduce 的 risk of illegal and 有害 activity 上 的ir 平台，并在出现问题时采取适当和相称的行动 出现。新的监管制度还将确保对 删除非法内容，并将引入具体监控 严格定义非法内容类别的要求。” (6.16)

的 初步反应 说过：

“The approach will be proportionate and risk-based with 的 注意义务 designed to ensure 公司 有适当的系统和流程来提高其安全性 users.”

“注重稳健的流程 和系统，而不是个别的内容意味着它将保留 effective even as new 危害s emerge. 它 will also ensure that service providers develop, clearly communicate and enforce 的ir own thresholds for 有害 but legal content.

“处理代码的种类 实践的重点是系统，程序，技术和投资， 包括人员主持人的人员配备，培训和支持。”

“因此，实务守则 will contain guidance 上, for example, 什么steps 公司 应该 take to 通过设计来确保产品和服务安全，或针对以下问题采取及时措施 有害内容或活动。”

“而不是需要删除 在具体的法律内容中，监管将侧重于更广泛的系统 and processes that platforms have in place to deal with 上line 危害s, while 保持比例和基于风险的方法。”

“实际上，新法规 framework will 不 require 的 removal of specific pieces of 法律内容。 相反，它将专注于平台拥有的更广泛的系统和流程 in place to deal with 上line 危害s, while maintaining a proportionate and risk-based approach.”

“Of course, 公司 will be 需要采取特别有力的行动来应对恐怖分子的内容和在线 Child Sexual Exploitation and Abuse. 的 new regulatory framework will 不 remove 公司’删除非法内容的现有职责.”

的 部长们 说过：

卡罗琳·迪尼纳奇（Caroline Dinenage）: “the 实务守则实际上是关于系统和流程的，而不是命名 individual 危害s 在里面 legislation. 的re are two exceptions to 那： 的re 将成为围绕儿童性剥削和恐怖分子的行为守则 内容，因为它们都是非法的。” (Q554)

“由监管机构设定 制定实践准则，但他们赢了’t be around individual 危害s; 的y will be 围绕系统和流程—what 我们 expect 的 公司 to do. Rather than focusing 上 individual 危害s, because 我们 know that 的 technology moves 上 so 很快就会有更多的情况，这是设置系统的情况， processes that 我们 would expect 公司 to abide by, and 的n giving 的 regulator 的 opportunity to impose sanctions 上 those that are 不 doing so.” (Q.556)

Q562斯图尔特·麦当劳：“…if 的 监管机构认为算法工作不当，无法直接执行 进行过无辜搜索的内容（例如，最右边的内容）的人会 基本上可以命令公司更改其算法 are operating?

卡罗琳·迪尼纳奇（Caroline Dinenage）: 是， I think that 的y will. That is clearly something that 我们 will set out 在里面 full response. 的 key 这里 就是它 公司 must have clear transparency, they must set out clear standards, and 的y must have a clear 注意义务. If 他们正在设计算法，以任何方式使人们面临风险，即 例如，一个明确的设计选择，而该选择将带来很多 责任。监管者将负责监督这一责任。如果 他们对维护方式有任何担忧， 他们可以实施的制裁。”

后果：关于特定问题 the status of 条款和条件 for “lawful but 有害” content (see 如下），很难看到如何在物质之间划出一条明线 and process.  流程不能 设计，风险评估或评估其有效性— 只要 by reference to goals such as improving user safety and reducing risk of 危害. A 注意义务 evaluated without reference to 的 kind of 危害 intended 没有柴郡的微笑比没有微笑更有意义 Cat. 

在 卡帕罗v迪克曼 布里奇勋爵警告不要讨论职责 of care 在里面 abstract:

“永远做不到 ask simply whether A owes B a 注意义务. 它 always necessary to determine 参考A必须承担的损害种类的责任范围 care to save B 危害less."

Risk assessment is familiar 在里面 realm of safety properly 所谓的：人身伤害的危险，在那里有清楚的认识 what constitutes objectively ascertainable 危害. 它 breaks down when applied to undefined, inherently subjective 危害s arising from 使用者' speech. If "威胁公众对5G推出的信心”（请参见上文）可以标记 an 上line 危害 within 范围 of 的 legislation, that goes far beyond any tenable concept of safety.

政府’的方法似乎正在采用 针对非法和不合法行为的不同方法“legal but 有害”，后者显然仅限于处理程序（尽管有关实际情况，请参阅下一个主题）。 

顺便说一句，初始回应在技术上不正确，是指“companies’删除非法内容的现有职责”. 不存在这种一般职责。托管服务提供商失去了对 ECommerce Directive liability shield 如果y do 不 remove unlawful content 迅速获得有关非法的实际或（构成损害的）建设性知识。即使那样，电子商务 Directive does 不 oblige 的m to remove it. 的 consequence 就是它 的y become exposed to 的 risk of possible liability (which may or may 不 exist) 根据相关的基本法律（请参见 这里 以获得更完整的说明）。在实践中，政权强烈煽动 托管提供商在获得相关知识后删除非法内容。 但是他们没有一般的法律义务。

3.对于“lawful but 有害”成年人看到的内容，监管机构是否只会对中介机构是否正在执行他们选择在其TandC中采用的任何内容标准感兴趣？

的 白皮书 said:

“As indication of 的ir compliance with 的ir overarching 注意义务 to keep 使用者 safe, 我们 envisage that, where relevant, 公司 in 范围 will:

• Ensure 的ir relevant 条款和条件 meet 监管机构制定的标准 and reflect 的 codes of practice as appropriate.
• Enforce 的ir own relevant 条款和条件 有效且始终如一. …”

“为了帮助实现这些结果，我们期望监管机构制定以下行为准则： 

• 通过设计确保产品和服务安全的步骤。
• Guidance about how to ensure 使用条款 are 充足 and are understood by 使用者 when 的y sign up to use 的 service. …
• Steps to ensure 有害 content or activity is dealt with rapidly. …
• 监视，评估和提高过程有效性的步骤。”

的 初步反应 said:

“我们不会阻止成人访问或发布法律内容，也不会要求公司删除特定的法律内容。相反，新的监管框架将要求相关公司明确声明其网站上可接受的内容和行为，然后由平台统一执行。”

“为了确保言论自由的保护，法规将对公司对非法内容和活动的期望与对非非法但有可能造成伤害的行为建立不同的期望。因此，法规不会强迫公司删除特定的法律内容。相反，新的监管框架将要求公司（在相关情况下）明确声明其认为在其站点上可接受的内容和行为，并始终如一地透明地执行。所有范围内的公司都需要确保对儿童的更高保护水平，并采取合理步骤保护他们免受不适当或有害内容的侵害。”

“监管机构意识到对表达自由的担忧，因此不会对个人投诉进行调查或裁定。公司将能够决定其服务可接受的法律内容或行为类型，但必须采取合理的步骤来保护儿童免受伤害。他们将需要以清晰易懂的条款和条件阐明这一点，并有效，一致和透明地执行这些条款和条件。”

的 部长们 said:

奥利弗·道登（Oliver Dowden）: “The essence of 上line 危害s legislation is holding social media 公司 to 什么的y have promised to do and to 的ir own 条款和条件 。我在这方面的重点主要是两件事：未成年伤害和非法伤害。显然，最棘手的类别是合法的成人伤害。在这方面，我们正在研究如何收紧措施，以确保这些公司起初确实履行了他们承诺的承诺，而事实并非如此。”（Q20）（添加了重点）

“Clearly, in respect of legal adult 危害s, that is 的 underlying principle anyway 在里面 sense that 什么we are really trying to do is say to those social media 公司 and tech firms, “忠于您说的话。只要坚持你的 条款和条件 ”。我们将要求监管者确保对他们进行强制执行，然后使用可供我们使用的工具来要求它这样做。”（Q89）（添加了重点）

卡罗琳·迪尼纳奇（Caroline Dinenage）: “这很多是关于 公司 having 的 right regulations and standards and 注意义务, and that will also be 在里面 上line 危害s Bill and 上line 危害s work. If 我们 can have 哪些平台可以接受的透明度更高—将会有一个监管机构来帮助指导他们—我认为我们将有一个更好的机会直接解决这些问题。”（Q513）（添加了重点）

“关于我们在DCMS中的角色，它更像是一个协调员，汇集了所有不同政府部门的工作，然后 直接与平台联络，以确保其标准，规定反映了我们所关注的一些问题—make sure, in some cases, that 有害 content can be anticipated and 的refore prevented, and, where that is 不 possible, where it can be stopped and removed as quickly as possible.”（添加重点）（Q525）

威廉姆斯男爵夫人: “显然存在非法和违反CSP的行为’ 使用条款。正是在后一个因素上，特别是在极端主义领域，我们才真正设法与CSP接触，以使他们变得更加积极主动。”（加重）（加重）（Q.527）

后果：这是政府目前最令人困惑的领域之一’的发展政策。白皮书期望实践准则将确保条款和条件得到满足“监管机构制定的标准”使用条款是“adequate”。从表面上看，这些声明并不局限于程序标准和适当性。可以很容易地将它们解释为包含标准和充分性，这些标准和充分性是通过参考监管机构确定的减少危害目标来判断的（正如我们所看到的那样，这些目标可以自行决定什么构成危害）–换句话说，扩展到中介条款和条件的实质内容。

When 的 初步反应 was published, great play was made of 的 shift to a differentiated 注意义务: that it would be up to 的 intermediary to decide –成人的合法内容-条款和条件中规定了什么标准。 

监管机构的职责仅限于确保明确说明和执行这些标准“一致且透明” (or “effectively, 一致且透明”，具体取决于您转到“初始响应”的哪一部分；要么“有效且始终如一”，根据白皮书）。 的确，国务卿在证据中说 "的 essence of 上line 危害s legislation is holding social media 公司 to 什么的y have promised to do and to 的ir own terms and conditions" 

但是从其他部长看来’关于政府并未否认对中介机构实质内容的全部兴趣的回应’条款和条件。相反，政府显然将其视为影响力（将其置于最低点）的一部分。如果调节器’其任务是确保条款和条件的执行符合其实质内容反映政府部门的意愿，这与宣称的中介机构自行设定可接受的合法内容标准相差甚远。

最终，强调保持言论自由的意义上，一个独立监管者的作用将仅限于执行中介机构的重点是什么？’如果政府认为自己的条款和条件的一部分是要影响这些中介机构，则这些TandC应该包含哪些实质性规定？

这是有关政府与监管机构之间责任分工的新问题的一方面。人们很容易想到，一旦建立了独立的监管机构，政府本身就会退出竞争。但是，如果不是这样，那么减少独立监管者的职权就会相应地增加政府介入的范围。

鉴于政府，这一点尤其重要’渴望将自己塑造成一个‘trusted flagger’，中介机构应毫无保留地通知其非法内容。因此，Caroline Dinenage似乎认为平台有义务删除政府告诉他们的平台认为非法的任何内容（没有明显的先决条件，例如独立核查的要求），并希望他们认真对待该平台上的任何其他内容。政府通知他们：

“我们发现我们已经成为—I forget 的 proper term, but 我们 have become like a 受信任的举报者 with a number of 的 上line hosting 公司, 与平台。 So when 我们 flag information, 的y do 不 have to double-check 的 concerns 我们 have。显然， 除非有违法行为，我们不能告诉组织将其删除；他们必须根据自己的良知，标准和要求做出自己的决定。但是很明显，我们正在与他们建立非常牢固，可信赖的关系，以确保当我们举报事情时，他们会认真对待。” (Emphasis 添加）

4.特定种类的实务守则 用户内容或活动？

的 白皮书 说过：

“[白皮书]列出 high-level expectations of 公司, including some specific expectations in relation to certain 危害s. We expect 的 regulator to reflect 的se in future codes of practice.”

它 的n set out a list of 11 危害s, accompanied in each case by a list of areas in relation to that 危害 that it expected 的 regulator to include in a code of practice. 对于instance, in relation to disinformation a 包含11个特定领域的列表：

“Steps that 公司 应该 take 与故意歪曲其身份以传播和传播的用户有关 加强虚假信息。”; and

“宣传各种新闻内容， countering 的 ‘echo chamber’人们只接触信息 巩固了他们现有的观点。”

的 初步反应 说过：

“白皮书谈到了 监管机构将发布不同的业务守则来概述 processes that 公司 need to adopt to help demonstrate that 的y have fulfilled 的ir 注意义务 to 的ir 用户。 … We do 不 expect 的re to be a code of practice for each category of 有害 content, however, 我们 intend to 出版有关如何应对在线恐怖分子和儿童的临时行为守则 未来几个月的性剥削和性虐待（CSEA）内容和活动。”

的 部长们 说过：

“卡罗琳·迪尼纳奇（Caroline Dinenage）： 一世 认为我需要消除对白皮书的误解。的 11 危害s that 我们re listed 我们re really intended to be an illustrative list of what 我们 saw as 的 危害s. 的 response did 不 expect a code of practice for 每一项都是因为实践准则实际上是关于系统和过程的， rather than naming individual 危害s 在里面 legislation. 的re are two 例外：关于儿童性剥削的行为守则 和恐怖分子的内容， 因为那些都是非法的.” (Q.554) (emphasis 添加）

结果： CSEA和 恐怖主义可能更多地归因于恐怖主义的不同责任领域 内政部与DCMS相比，违法行为与 non-illegality. 白皮书 covers many more areas of illegality than those two alone.

5. Search engines in 范围?

的 白皮书 说过：

“… will apply to 公司 that 允许用户共享或 发现 用户生成的内容，或进行交互 彼此在线。” （强调）

“这些服务由…  搜索引擎” (Executive Summary)

的 初步反应 说过：

“The legislation will 只要 apply to 公司 that provide services or use functionality 上 的ir 我们bsites 有助于共享用户生成的内容或用户交互， 例如通过评论，论坛或视频共享” （强调）

的 部长们 说过：

“卡罗琳·迪尼纳奇（Caroline Dinenage）：再次 我们可能发布了一份临时回复， which was 不 as comprehensive as our full response will be later 上 在里面 year. 白皮书 made it very clear that 搜索引擎 would be included 框架的范围和需求的性质将反映 the type of service that 的y offer. We did 不 explicitly mention it 在里面 interim response, but that does 不 mean that anything has changed. 它 did 不 涵盖全部政策。搜索引擎将包括在内，并且没有变化 我们的想法和政策。”   （Q.560）

结果： 尽管有部长’的解释，白皮书和 初始响应（省略“discover”, adding “only”）外观为 考虑的变化。未来的教训也许是不明智的 过于仔细地分析政府所说或写的其他任何文字。

6.从社交媒体平台到零售的一切 客户评论部分？

的 白皮书 说过：

“… 公司 所有大小 将在监管框架范围内。范围将包括… social media 公司，公共论坛， 允许用户查看的零售商 products 上line，以及非营利组织，文件共享网站 和云托管提供商。” （强调）

的 初步反应 说过：

“To be in 范围, a business would 必须运行其自己的网站，并具有共享用户生成的功能的功能 内容或用户互动。”

的 部长们 说过：

奥利弗·道登（Oliver Dowden）: “We are a 欧洲的领导者。我确定您已经看到，我已经看到了意想不到的 好的立法的后果，然后具有官僚主义的含义 以及我们要避免的业务成本。

对于example, in respect of legal online 危害s for adults, if you are an 中小企业零售商，您有一个评论 您产品上的网站上，人们可以在下面添加评论 那是社交媒体的一种形式。名义上，这将由 online 危害s regime as it stands。对此的回应是他们会去 through this quick test and 的n 的y will find it does 不 apply to 的m. My 中小企业和其他企业的整体经验是，这一切都很好 that when you are sat have no idea 什么this 上line 危害s thing is, this 可能会给您带来沉重的管理负担。 （强调）

有什么方法可以 开拓这些领域，以便我们专注于需要做的事情？那些 kinds of arguments pertain less to illegal 危害s and 危害s to children. I hope 给你一种味道。” (Q.88)

Q89达米安·海因兹（Damian Hinds）：“Yes, 这么。我认为在先前的公告中有很高的估计 公司的数量或总公司的比例 计入在线平台的定义中，这相当令人不安 思想。非常欢迎您，可以采取什么行动来限制谁 算是一个社交媒体平台。”

结果： 这次交流确实 闪耀 light 上 的 expansive 范围 of 的 proposed legislation. 的 国务卿表示，具有审查部门的中小企业零售商 “notionally” covered. However, 的re was 不hing 不ional about it.  零售商审查部分明确 included 在里面 白皮书, as 我们re 公司 所有大小.

正如国务卿所建议的那样，告诉中小型企业一点安慰“don’t worry, you’风险低，所以赢了’真的适合你” if: (a) you are in 范围 上 的 face of it, and (b) 它是 left to 的 regulator to decide whether 的 注意义务 应该 bear less heavily 上 some intermediaries than others. 

当然，还有许多其他类型的非社交媒体 范围内的平台中介以及中小企业零售商，其中包括以下方面：应用程序，在线游戏，社区 讨论论坛，非营利组织和许多其他在线服务。  初步回应说“到目前为止的分析表明 that fewer than 5% of UK businesses will be in 范围 of this regulatory framework.”绝对值的5％是小是小（不是 提及对非英国企业的明显冷漠），没有 表明该估计所依据的假设。

7.将新闻和新闻界排除在外吗？ from 范围?

的 白皮书 说过：

没有. 在 a subsequent 给编辑协会的信 当时的DCMS国务卿杰里米·赖特（Jeremy Wright）说：

“…正如我在白皮书中明确指出的 launch and 在里面 House of Commons, where 的se services are already 我们ll 受到监管，就像IPSO和IMPRESS关于其成员的评论一样 部分，我们将不会重复这些努力。新闻或社论内容 will 不 be affected by 的 regulatory 框架。”

的 初步反应 说过：

没有. 它 limited itself to general expressions of support 为了表达自由，例如：

“…表达自由，以及 新闻自由的作用，对于健康的民主至关重要。我们将确保 there are safeguards 在里面 legislation, so 公司 and 的 new regulator 有明确的责任保护用户’在线权利，包括自由 表达方式以及维持充满活力和多元化的公共广场的需求。”

的 部长们 说过：

“卡罗琳 Dinenage: 显然，我们知道新闻自由 是我们社会的支柱之一，我必须从白皮书中说 outset, is 不 seeking to prohibit press freedom 在 all, so 新闻和 editorial content is 不 在里面 范围 of the 白皮书. Our stance 上 press regulation has 不 changed.” (Emphasis added)

“As for 什么has been 在里面 papers recently, 的 国务卿写信给编辑协会，这是关于 您可能会称其为“线下或注释”部分。他们很担心 可能会受到管制。我认为国务卿的意思是 that, where 的re is already 清晰有效的节制 of that sort of content, 我们 do 不 intend to duplicate it. 对于example, 的re is IPSO and 审核内容部分的IMPRESS活动。这些是技术用语 为了它。对话仍在进行中，因此我们目前正在努力 与利益相关者就我们将如何反映这一点提出建议 立法，围绕这些参数。 （Q.558）

“斯图尔特·麦当劳：但是 没有暗示线下仍处于不受监管的状态。在这里 that regulation 应该 lie that is 的 issue.

卡罗琳·迪尼纳奇（Caroline Dinenage）: Exactly.” (Q.559)

结果： 存在三个不同的问题 将新闻纳入或排除在监管范围之外 Bill:

1. 用户在报纸网站上的评论.  从表面上看，新闻机构会 be subject to 的 注意义务 as regards user comments 上 的ir 我们bsites. 的 position of 的 government appears to be that whether 的 注意义务 would 是否适用取决于评论是否已经受到另一种评论 监管（或至少存在 “清晰有效的节制”). Potentially, therefore, newspapers that are 不 regulated by IPSO or IMPRESS would be in 此范围。这种分界是否将通过艰苦的努力来实现 scope exclusion written 进入the Bill is 不 clear.

2. 新闻或社论材料. Whilst 的 部长可能会说政府’s stance 上 press regulation has 不 changed, her statement that 新闻和 editorial content is 不 “in 的 scope”白皮书是新的—至少如果我们要理解为 意味着该法案将对新闻或社论进行硬性排除 内容。以前，政府只说不会 affected by 的 regulatory 框架。 A general exclusion of journalistic or 从表面上看，编辑材料会比报纸和报纸广泛得多。 类似的出版物。发现这句话并不奇怪 “clarified” 在 some point 在里面 future.

3. 报纸社交媒体供稿和页面。报纸 和其他出版物在社交网站上保留自己的页面，提要和博客 媒体和其他平台。报纸本身不必承担责任 关于他们自己的内容的关心。但就平台而言 担心报纸是用户，因此他们的页面和提要会下降 under 的 platforms’ 注意义务. As such, 的y would be liable to have action taken against 的ir content by a platform 在里面 course of fulfilling its own 注意义务.

政府 has said 不hing about whether, and if so how, such press content would be excluded from 范围. If 的 government is 认真排除“新闻或社论”通常从范围来看， 将实现这一目标。但是，这会给周围带来巨大的困难 whether a particular feed or page is or is 不 新闻或社论 材料（例如，这个Cyber​​leagle博客或Guido Fawkes博客是什么？），以及 平台应如何决定是否存在任何特定内容 not in 范围.  

8.端到端加密

的 白皮书 说过：

没有. (Although 的 potential for 的 注意义务 to be 应用于防止使用端到端加密 很明显）

的 初步反应 说过：

没有.

的 部长们 说过：

威廉姆斯男爵夫人: “[Facebook] 然后宣布他们将端到端加密Messenger。那是为了 我们非常担心，因为没有人能够看到Messenger。一世 know 的re is going to be a Five Eyes engagement next 我们ek, and I do 不 know if 的 Committee knows, b五只眼写给马克 扎克伯格去年 我们对此发展感到非常担心。” (Q538)

Q566椅子：“On that basis, does end-to-end encryption count as a breach of 注意义务?

威廉姆斯男爵夫人：它是 criminal activity that would breach 的 注意义务. Allowing criminal activity to happen 上 your platform would be 的 breach of 注意义务. End-to-end encryption, 在其本身, is 不 a breach of 注意义务.

主席：大概是为此 规矩完全没有咬人，他们将必须能够采取一些措施 针对无法阻止犯罪活动的政策执行。上 该逻辑，引入了端到端加密，如果它故意停止了 公司防止非法活动—例如，网上孩子的种类 你谈论过的虐待—that would surely count as a breach of 注意义务.

威廉姆斯男爵夫人：我完全 期望这就是“五眼”讨论中的一些内容， 发生的时间很短，会看一下。”

后果：这是第一个迹象表明 政府还活着，有可能监管者能够 interpret a 注意义务 so as to affect 的 ability of an intermediary to use 端到端加密。的“in and of itself”部长使用的措辞 appears 不 to rule that out. This issue is related to 的 question of how 的 立法可能适用于私人消息传递提供商，这是政府的一个主题 has consulted but has 不 yet published a conclusion.

9.身份验证

的 白皮书 说过：

“互联网可以用来 骚扰，霸凌或恐吓。在许多情况下，骚扰和其他形式的 在线滥用通讯，受害者将不了解犯罪者。在 在某些情况下，他们将采取技术措施隐瞒自己的身份。 政府和执法部门正在采取行动应对这一威胁。”

“警察有一系列法律规定 识别试图利用匿名逃避制裁的个人的权力 对于在线滥用行为（该活动是非法的）。政府将与 执法部门审查当前权力是否足以解决 在线匿名滥用。”

“我们期望的一些领域 包括在业务守则中的监管机构是：

• 限制匿名用户滥用其权限的步骤 服务，包括骚扰他人。…
• Steps 公司 应该 take to limit anonymised 用户使用其服务来滥用他人。”

的 初步反应 说过：

没有.

的 部长们 说过：

Q25约翰·尼科尔森：您想要 to see 上line 危害s legislation compel social media 公司 to verify 的 identity of 使用者, 不 of course to publish 的m but simply to verify 的m 在帐户启动和运行之前？

奥利弗·道登（Oliver Dowden）： 有 正如您所提到的，围绕机器人有时无疑是一个挑战 通过敌对的国家活动，并找到更好的方法来验证是否 这些都是真正的演员，或者是否是协调的机器人式活动。那 is through 上line 危害s but 的re is obviously a national security angle to that as 我们ll.”

Q530雅培女士：“Finally, would 您考虑更改法规，因此可以匿名发布在 网站或Twitter或Facebook，但在线平台上会有您的名字 和地址？根据我的经验，当您尝试进行在线滥用时，您遇到了 brick wall because 的 abuser is 不 just anonymous when 的y post, 的 上line platform doesn’也没有名字和地址。

卡罗琳·迪尼纳奇（Caroline Dinenage）： 那是 一个非常有趣的想法。绝对是我们曾经做过的事情 discussing. With regard to 的 上line 危害s legislation that 我们 are putting together 在 的 moment, 我们 have said very clearly that 公司 need to be 更加透明。他们需要制定标准，并且需要澄清 what 的ir 注意义务 is and to have a robust complaints procedure that 人们可以使用并可以信任。这就是为什么我们还任命监管者 这将阐明好的外观，并具有期望，而且 能够要求数据和信息并能够施加的权力 sanctions 上 those that 的y do 不 feel are abiding by 的m.

Q531主席：那实际上是什么 意思？这是否意味着您认为监管机构应有权 say that social media 公司 应该 不 allow people to be … [a]nonymous to the platform?

卡罗琳·迪尼纳奇（Caroline Dinenage）： 这是 我们目前正在考虑的事情。有很多东西 here. 在 的 上line 危害s legislation, 的 regulator will set out 的ir expectations.

主席：我们可以’t devolve 一切交给监管机构。这样的事情真的很重要—should social media 公司 be allowed to 不 know who it 就是它 is using 的ir 平台？议会应该考虑这是一个很大的问题 on, 不 something 我们 just hand over to a regulator and say, “Okay, whatever you think,” later 上.

卡罗琳·迪尼纳奇（Caroline Dinenage）: 是， 究竟。因此，我们目前正在考虑将其作为在线服务的一部分 损害立法，这当然将提交议会。”

Q545蒂姆·劳顿（Tim Loughton）：“… If I want 要开设一个银行帐户和各种其他帐户，我必须向 通过使用水电费账单和其他类似方式在我所在的银行或组织 那。这很简单。类似的缺点是什么 由社交媒体平台强制执行的要求，然后才允许您执行 注册新账号？这是我们之前在 Committee. Many of us have 建议的 that 我们 应该 go down that route. I 收集到它已经在韩国发生过。你说你在看 Dinenage部长。您认为，这样做的缺点是 scrutiny?

卡罗琳·迪尼纳奇（Caroline Dinenage）：你 拉夫顿先生，提出了非常有说服力的论点。你说的很多 非常正确。我们正在思考并试图应对的唯一一件事 是是否有任何理由让受害者， want to be able to whistleblow, and who may be overseas and might 不 want to identify 的mselves because 的y fear for 的ir lives or other 危害. 的re are 那些匿名和保护某人的问题’的安全性和说话能力 向上。这就是我们正在努力的方向。

Q546蒂姆·劳顿：同样 令牌，您可能会有一个伪造身份的人 举报或四处宣传，所以这是双向的。我没有 看到要求您必须证明自己是谁的缺点—not 至少因为我们知道当人们被抓住并拥有他们的站点时会发生什么 取下来。五分钟后，他们建立了另一个新的匿名网站兜售 相同的虚假信息。

卡罗琳·迪尼纳奇（Caroline Dinenage）：你 提出非常有说服力的论据。这是如此重要 立法，我们必须做到正确。正如我所说，这是世界领先的。 每个人都在看着我们，看看我们是如何做到的。我们需要确保我们 已经考虑了每个角度，这就是我们在 moment.”

结果： 身份验证显然是 冒出来的问题。 最根本的反对意见是，《世界人权宣言》第19条所保障的表达自由权并不以身份验证为条件。不表明是那样：

"Everyone has 的 right to 产生以下任何两项时的见解和言论自由： 驾驶执照，护照，最近的水电费或市政税单……”。

在韩国 规定在线身份验证义务的法律是 宣布违宪 在2012年。

民政事务委员会提出， 尽我所知 for 的 first time in any Parliamentary deliberation 上 的 Online 危害s project, 的 question of 什么应该 be decided by Parliament and 什么delegated to a 调节器。这不限于身份验证问题。这是涂上这样的规定的监管权力的固有弊端。 广泛的笔触表明，许多具体问题将隐藏在抽象背后，仅当 监管者将视线转向他们–到那个时候为时已晚 反对此事应由议会决定。那个恶习 当权力影响到数以百万计的个人讲话时，情况就更加复杂 people.

10.域外性

的 白皮书 说过：

“新的监管制度将 需要处理数字经济和许多 companies in 范围. 的 law will apply to 公司 that 向英国提供服务 users.”（6.9）（添加了重点）

“我们也在考虑选择 for 的 regulator, in certain circumstances, to require 公司 which are 总部设在英国以外的地区，以任命英国或欧洲经济区为基础的提名代表。” (6.10)

的 初步反应 说过：

没有 of relevance.

的 部长们 说过：

“Q569：安德鲁·格温：想必 the regulations will apply to all content visibly available 在里面 UK—is that correct?

威廉姆斯男爵夫人：是的。”

结果： Charitably, perhaps 我们 应该 assume that 的 部长误会。向英国提供服务之间存在巨大差异 用户和在英国的知名度。鉴于跨国公司固有的跨境性质 互联网，宣称一个国家’仅仅针对内容的本地法律 可见性基础等同于主张世界范围的域外性。 

它 会更符合互联网管辖权的方向 在过去的25年中，规范已经发生变化，以测试提供商 is targeting 的 UK.

用户数 表现不好 – 的 Online 危害s 白皮书

上周一，花了一天的大部分时间阅读英国政府的 Online 危害s 白皮书， 一世 结论 如果通往地狱的道路是善意铺成的，那就是一条高速公路。

经过充分和进一步的考虑，将近两个星期后，我发现没有任何东西可以改变这种看法。这就是为什么。

白皮书

首先，提醒一下白皮书的建议。政府打算立法制定一项法定‘duty of care’在社交媒体平台上以及“允许用户共享或发现用户生成的内容，或彼此在线交互”的其他众多互联网公司。范围可能从公共讨论论坛到带有用户评论的网站，再到搜索引擎，消息传递提供商，文件共享站点，云托管提供商等等。 

的 注意义务 would require 的m to “对用户的安全承担更多责任，并应对由于其服务上的内容或活动而造成的伤害”. This would apply 不 只要 to illegal content and activities, but also to lawful material regarded as 有害.

的 注意义务 would be overseen and enforced by a regulator armed with power to fine 公司 for non-compliance. That might be an existing or a new body (称之为Ofweb）。

Ofweb would set out rules in Codes of Practice that 的 intermediary 公司 应该 follow to comply with 的ir 注意义务. 对于terrorism and child sexual abuse material 的 首页 Secretary would have direct control over 的 relevant Codes of Practice.

用户将获得对中介公司的有保证的投诉机制。政府正在咨询任命指定组织的可能性，这些组织将能够‘super-complaints’ to 的 regulator.

白皮书以技术公司法规为框架，’目标是在线用户的活动和交流。 Ofweb一口气将监管社交媒体和互联网用户。它将是一个在线警长，有权通过其在线中间代理人决定和监管用户可以在网上说什么，也可以不在网上说什么。

Which lawful content would count as 有害 is 不 defined. 白皮书 provides an ‘initial’内容和行为清单：网络欺凌和拖钓；极端主义的内容和活动；强制行为；恐吓虚假信息暴力内容；提倡自我伤害；促进女性外阴残割（FGM）。

这不是一个可以轻易转化为立法的清单，即使那是政府’的意图。一些主题-例如FGM–比其他人更具体。但大多数人几乎和‘harmful’本身。例如，白皮书没有说明什么是拖钓。它只说‘网络欺凌，包括拖钓是不可接受的’。它也可以说‘表现不好是不可接受的’.

无论如何，白皮书都给人留下了深刻的印象，即立法将回避这种特殊程度，并仅根据‘harmful’.

白皮书 does 不 say in terms how 的 ‘initial’范围的内容和行为列表将得到扩展。监管者似乎将决定：

“This list is, by design, neither exhaustive nor fixed. A static list could prevent swift regulatory action to address new forms of 上line 危害, new technologies, 内容和新的在线活动。” [2.2]

在 that event Ofweb would effectively have 的 power to decide 什么应该 and 应该 不 be regarded as 有害.

白皮书 proposes some exclusions: 危害s suffered by 公司 as opposed to individuals, data protection breaches, 危害s suffered by individuals resulting directly from a breach of cyber security or hacking, and all 危害s suffered by individuals 上 的 dark 我们b rather than 的 open internet.

这是白皮书提案的可视化，以及类似的离线护理职责。 

  
好的意图

白皮书 is suffused with good intentions. 它 sets out to forge a single sword of truth and righteousness with which to assail all manner of 上line content from terrorist propaganda to offensive material.

但是，挥舞着高尚的旗帜并不能保证军队朝着正确的方向前进。这也不排除专门单位将更有效的可能性。

政府将这种包罗万象的方法视为一种美德，与以下几点形成对比：

“a range of UK regulations aimed 在 specific 上line 危害s or services in 范围 of 的 白皮书, but [which] creates a fragmented regulatory environment which is insufficient to meet 的 full breadth of 的 challenges 我们 face” [2.5].

An aversion to fragmentation is like saying that instead of 的 framework of criminal offences and civil liability, focused 上 specific kinds of conduct, that make up our mosaic of offline laws 我们 应该 have a single offence of 表现不好.

我们不能静心地设想这种普遍罪行。禁止恶劣行为法将对主观和任意解释开放，以至于与法律相反：按特别命令进行统治。可以肯定的是，它不能满足合理确定性的法治要求。同样，我们应该以怀疑的态度对待任何带有反对网上不良行为的普遍性法律的行为。

在 placing an undefined and unbounded 不ion of 危害 在 的 centre of its proposals for a universal 注意义务, 的 government has set off down that path.

Three degrees of undefined 危害

伤害是一个无定形的概念。它会根据有权使用它的人的意见而改变形状：在政府中’s proposal, Ofweb.

Even when limited to 危害 suffered by an individual, 危害 is an ambiguous term. 它 will certainly include objectively ascertainable physical injury – 的 kind of 危害 to which comparable offline duties of care are addressed.

但这还可能包括主观伤害，具体取决于某人’他们认为自己遭受了自己认为的伤害。当应用于语音时，这是很成问题的。一个人可能会喜欢读一篇辛辣的散文。另一个人可能会心疼。当不同的人对阅读或听到的内容有不同的反应时，如何确定伤害或伤害风险？苦恼足以使有害的东西吗？轻度不适或中度烦恼呢？冒犯性会造成伤害吗？从根本上讲，言语暴力是吗？ 

‘Harm’因此，没有可识别的界限，至少没有一个会通过立法确定性测试。

这在白皮书中特别明显’关于虚假信息的讨论。在抗疫苗接种方面，白皮书指出“Inaccurate information, regardless of intent, can be 有害”.

Having equated inaccuracy with 危害, 的 白皮书 contradictorily claims that 的 regulator and its 上line intermediary proxies can protect 使用者 from 危害 without policing truth or accuracy:

“我们很清楚，监管机构将不负责在线维护真相和准确性。” [36] 

“Importantly, 的 code of practice that addresses disinformation will ensure 的 focus is 上 protecting 使用者 from 危害, 不 judging 什么is true or 不.” [7.31]

白皮书 acknowledges 那：

“与此相关的判断将很困难。政府和未来的监管机构将与民间社会，行业和其他团体广泛合作，以确保采取尽可能有效的行动，并且不会损害在线言论自由” [7.31]

不能通过在桌旁摆一些有兴趣的各方来解决矛盾。在这种裂缝中，这样的提议不可避免地扎在裂缝中，并且没有逃脱的可能。

可以将第三种伤害（但更为含糊）归类为‘harm to society’。这种伤害不依赖于识别可能直接受到伤害的个人。它倾向于纯粹的抽象，可以根据解释机构的意愿进行延展。

危害s to society feature heavily 在里面 白皮书, for example: content or activity 那：

“通过破坏国家安全或减少信任并破坏我们的共同权利，责任和促进融合的机会，威胁着我们在英国的生活方式。”

类似地：

“破坏我们的民主价值观和辩论”;

“鼓励我们做出可能损害我们健康的决定，破坏我们对彼此的尊重和包容，并混淆我们对更广阔世界正在发生的事情的理解。”

这种散文可能适合肥皂剧或选举宣言，但在立法中或附近都没有地位。

民主赤字

One particular concern is 的 potential for a 注意义务 supervised by a regulator and based 上 a malleable 不ion of 危害 to be used as a mechanism to give effect to some Ministerial policy of 的 day, without 的 need to obtain legislation.

因此，在白皮书卫生部长马特·汉考克（Matt Hancock）发布前两周 建议的 that anti-vaxxers could be targeted via 的 forthcoming 注意义务.

白皮书 duly recorded, under “对我们生活方式的威胁”, that “Inaccurate information, regardless of intent, can be 有害 –例如，不正确的反疫苗接种消息在线传播会危害公共健康。” [1.23]

如果国务卿决定他想让反vaxxers沉默，正确的做法是向议会提出一项法案，进行辩论，如果议会同意，则将其通过成为法律。白皮书设想的结构将创建一个渠道，通过该渠道，部长级特定政策可以使特定群体或某种言论保持沉默，以对抗在线危害，并推向监管机构，然后由其在线中介机构实施。这样的计划已经使民主赤字深陷其中。

也许认识到这一点，政府正在咨询议会是否应在开发或批准Ofweb中发挥作用’的行为准则。然而，这更多的是抹灰而不是治愈。

不允许的模糊性

在非特定性的伤害概念上建立监管结构并不是一个模棱两可的问题，否则本来无法理解的法规中的某些词可能意味着一件事或另一件事，而法院必须决定是哪件事。它从模糊性变成模糊性，并引起 法治问题.

上议院阐明了模糊性问题。 R v里明顿, citing 的 US case of 变灰:

“模糊冒犯了几个重要的价值观…一项含糊不清的法律不允许将基本政策事项委托警察，法官和陪审团以临时和主观的方式解决，并伴随着任意和歧视性适用的危险。”

尽管最常用于刑事责任，但对模糊性的反对比这更根本。这是一项普遍适用于法律的宪法原则。迪普洛克勋爵在1975年的民事案件中提到了这一点（黑克劳森）：

“接受法治作为一项宪法原则，要求公民在采取任何行动之前，应事先知道将产生什么样的法律后果。”

Certainty is a particular concern with a law that has consequences for individuals' speech. 在 的 context of a social media 注意义务 的 rule of law requires that 使用者 must be able to know with reasonable certainty in advance 什么of 的ir speech is liable to be 的 subject of preventive or mitigating action by a platform operator subject to 的 注意义务.

If 的 注意义务 is based 上 an impermissibly vague concept such as ‘harm’，那么立法就有法治问题。出于以下三个原因，不一定可以通过授权监管机构为实务守则和解释穿上骨架来解决问题： 

首先，不允许的含糊不清的立法根本没有提供任何依据–监管者可以随意在其上绘画的更多画布； 

第二，如果立法机关将基本政策事务委托给警察，法官和陪审团是令人反感的，则不清楚为什么对监管者如此不那么令人反感； 

第三，监管机构制定的法律是一项可动的盛宴。

All power to 的 sheriff

From a rule of law perspective undefined 危害 ought 不 to take centre stage in legislation.

但是，如果这个想法是要最大限度地发挥监管者的权力和酌处权，那么立法中固有的模糊性就可以很好地达到目的。职权范围越模糊，就越有权力交给监管机构制定政策和制定法律。

约翰·汉弗莱斯（John Humphrys）可能会在不知不觉中将手指放在上面 2019年4月8日的今日节目 （4:00开始）. Joy Hyvarinen of 在dex 上 审查制度 pointed out how broadly Ofcom had interpreted 危害 在其 2018 survey, to which John Humphrys retorted: “您可以通过更具体，肯定地定义[危害]来解决此问题。” 

那确实是一种改善。但是，政府意图创建一个强大的监管机构，而不是局限于范围内的内容和行为的静态清单，会对监管机构产生什么兴趣？’的风格，严格的规则以及对伤害的严格限制？在这种情况下，广度和模糊性不是缺点，而是达到目的的手段。

的re is a precedent for this kind of approach in broadcast regulation. 的 Communications Act 2003 refers to 'offensive and 有害', makes no 在tempt to define 的m and leaves it to Ofcom to decide 什么的y mean. Ofcom is charged with achieving 的 objective: 

“that generally accepted standards are applied to 的 contents of television and radio services so as to provide 充足 protection for members of 的 public from 的 inclusion in such services of offensive and 有害 material”.

威廉·佩林（William Perrin）和洛娜·伍兹（Lorna Woods）教授， 履行护理职责 影响了白皮书， say of 的 2003 Act 那： 

"competent regulators have had little difficulty in working out 什么危害 means" [37]. 

他们赞成男爵夫人格兰德’她对2018年11月上议院辩论的贡献，在其中她问道： 

"Why did 我们 understand 什么we meant by "危害" in 2003 but appear to ask 什么它是 today?"

答案是，在2003年，立法者不必理解模糊的“损害”一词的含义，因为他们赋予了Ofcom决定权。 Ofcom几乎没有什么困难也就不足为奇了，因为实际上这不是在“弄清楚伤害意味着什么”，而是在决定其含义。实际上，它是执行委派的立法职能。

Ofweb would be 在里面 same position, effectively exercising a delegated power to decide 什么is and is 不 有害.

广播法规是语音仅受一般法律管辖的规范的例外。由于其起源于频谱稀缺和媒体的感知能力，因此，除适用的一般法律（诽谤，淫秽等）外，在广播中强加更严格的内容规则和酌处方式的监管方式被认为是可以接受的。所有的演讲。

但是，这并不意味着类似的方法适用于单个语音。模糊与权力的任意行使密不可分。如果这个政府开始建立一个可以悬挂个人在线言论的支架，那就再好不过了。

的 注意义务 that isn’t

Lastly, 它是 不able that as far as can be discerned from 的 白皮书 的 proposed 注意义务 is 不 really a 注意义务 在 all.

适当地所谓的谨慎义务是对可识别人员的法律义务。如果他们因违反职责而受到伤害，他们可以要求赔偿。占领者的普通法疏忽和责任 ’1957年《责任法》就是例子。这些通常仅限于人身伤害和财产损失；而且很少有人对占领者施加义务，以防止游客互相伤害。占用者对住所的访客彼此之间说的话不负任何责任。

的 absence 在里面 白皮书 of any nexus between 的 注意义务 and individual persons would allow Ofweb’它的职责范围不仅限于对个人的伤害，还包括对社会危害的模糊领域。如上所述，这就是白皮书提出的内容。

Occasionally a statute creates something that it calls a 注意义务, but which in reality describes a duty owed to no-one in particular, breach of which is (for instance) a criminal offence.

一个例子是《 1990年环境保护法》第34条，该条规定了废物处理的法定义务。正如该法规所期望的那样，第34条对于职责范围内的行为是准确的。相比之下，白皮书提出了实际上是通用的在线‘Behaving Badly’ law.

即使国务卿在最近 给编辑协会的信 to “A 注意义务 between 公司 and 的ir 使用者”, 的 ‘duty of care’白皮书中描述的内容与 注意义务 properly so called.

白皮书’s 注意义务 is a label applied to a regulatory framework that would give Ofweb discretion to decide 什么user communications and activities 上 的 internet 应该 be deemed 有害, and 的 power to enlist proxies such as social media 公司 to sniff and snuff 的m out, and to take action against an in 范围 company if it does 不 comply.

这是一种控制个人语音的机制，例如不会在离线状态下考虑，并且根本不适合个人在网上说什么。

[于2019年5月24日添加可视化。于2019年7月19日修订，以明确表明监管机构可能是现有机构，也可能是新机构-请参阅 咨询Q.10。]