在线危害大厦初具规模

政府 has now published 的 最终回应 对其 2019年4月的咨询 在线危害白皮书.

背景

To recap, 在里面 白皮书 的 government 建议强加“duty of care” 上 公司 whose 服务host 用户生成的内容或促进公共或私人在线互动 between 用户。 的 注意义务 would also apply to 搜索引擎.

An intermediary in 范围 would have to take reasonable steps 防止，减少或减轻对其服务（包括合法内容）的损害 and activity deemed to be 危害ful. By its nature 的 duty placed 上 的 中介是为了防止第三方用户造成伤害的风险 to someone else.

该建议与离线护理职责在两个方面有所不同 main respects: First, 的 白皮书 did 不 limit or define 的 不ion of 危害。线下世界中与安全相关的可比职责大约是客观的 可确定的人身伤害和财产损失。一个  undefined concept of 危害 arising from 上 line 演讲不可避免地是主观和可塑的。它提出了不允许的异议 含糊，随之而来的任意性以及在线演讲的前景 由最容易冒犯的​​读者，查看者或听众的标准来判断。

Second, 在里面 offline world a 安全-related 注意义务 对未能防止第三方相互伤害负有责任 is 的 exception rather than 的 norm - and in any event has 不 been applied to speech.

白皮书建议中介机构’ duty of 护理将由全权监管者监督和执行-随后 表示可能是Ofcom-让人联想到电视和 无线电。这代表着与线下世界的根本背离，其中 个人演讲仅受已定的和某些一般法律管辖，而非广播式 由监管机构监管。

所有这些都以离线在线横幅的形式呈现 equivalence.

拟议的在线危害制度的影响，尽管 presented as regulating 的 tech 公司, 就是它 的 regulator would 通过在线代理间接控制我们自己的个人演讲 中介机构在依法履行义务的情况下行事。如果伤害 保持不确定和不受限制，那么监管机构实际上将 编写自己的在线演讲规则手册的能力– both as to what 构成损害，中介人应采取哪些步骤来减轻 risk of speech that 的 regulator deemed to be 危害ful.

2020年2月，政府发布了 初步反应 白皮书表示对该政权进行了一些修订， particular a ‘differentiated’谨慎地对待 content that was 危害ful but 不 非法. 的 re was still no 在 tempt to define or limit 的 concept of 危害.

政府现在已经确认Ofcom将成为该计划’自行决定的监管者。的 最终回应 提出 a number of significant changes to 的 regime described 在里面 白皮书。

Harms in 范围

的 most significant development 就是它 的 government has now:

• 建议一个 的一般定义“harmful” 内容和活动：必须引起“合理可预见的 对个人的重大不良生理或心理影响”. [2.2] 
• 明显限制了什么 非法 用户内容和活动 for 的 purposes of 的 注意义务: excluding 共同承担民事责任，也限制了 适用于满足以下条件的一般定义的范围“harmful” [2.24].

它还证实了以前的迹象， 危害s to organisations will 不 be in 范围. [2.2, 4.1] Nor would intellectual 财产违规，数据保护违规，欺诈，消费者违规 保护法，网络安全漏洞或黑客攻击。暗网造成的危害 活动也将被排除在外。 [2.3]

的 combined effect of 的se steps 就是它 的 subject matter of 的 注意义务 has moved 在里面 direction of comparable offline duties of care. 它 is now more focused towards personal 安全 properly so-called, rather than resting 上 unbounded 不ions of 危害. That 立法的新名称也反映了这一点：《在线安全法案》。

举例来说，政府现在解释说 disinformation 应该 不 be regarded as 本身 危险的 这样做会侵犯言论自由，这是令人无法接受的：

“the 注意义务 will apply to 可能会导致重大生理或心理上的内容或活动 对个人的伤害，包括虚假信息和虚假信息。哪里 虚假信息不太可能造成此类伤害，因此不会超出范围 of regulation. Ofcom 应该 不 be involved in decisions relating to political 法律中的国内行为者分享的意见或竞选活动。” [2.81]

这个 paragraph recalls 的 意见分歧 之间 内政部和DCMS部长在提供证据时讨论5G阴谋论 于2020年5月提交民政事务委员会。

Nevertheless, 的 definition of 危害ful 保持 s problematic: 尤其是因为包含‘psychological impact’可能表明 伤害的概念仍然与不同读者的主观反应有关。 主观性为最容易被接受的标准的应用打开了大门 用户。并且尽管谨慎义务的主题可能更加紧密 与传统的护理职责保持一致，其性质–防止第三的责任 各方互相伤害– 保持 s 的 exception, 不 的 norm, 在里面 offline world.

《最终回应》提出了由中学提出的创作 具体立法‘优先类别’ of 危害ful content and criminal 犯罪，对个人构成最大风险。 [24]，[2.3]，[2.20]。的 这些类别的意义将在于重新制定 version of 的 ‘differentiated’政府承担的谨慎义务’s 初始响应（请参见下文）。

Providers and 服务in 范围

根据修订后的提案，范围内提供者将是 split 进入两类提供者，但要遵守职责的版本 在履行职责方面需要采取什么步骤方面的谨慎态度有所不同 的保护，以及有害物质的种类。仅指定服务 as Category 1 would be duty-bound to address 合法但有害 内容。

Ofcom would determine which 服务meet 的 criteria for 类别1，根据政府先前设定的阈值。的 relevant factors would be set out 在里面 legislation: size of audience and 提供的功能。

根据答复，诸如 广泛共享内容或匿名联系用户的能力更可能 造成伤害。 [2.16]。当全球可用性是固有功能时 互联网，将本质上广泛共享内容的能力视为 对于宣称言论自由的政府而言，冒险充满挑战 是拟议监管框架的核心[1.10]。与...相反 流行的口号是，言论自由确实是言论自由的一个方面-正如 印度最高法院 保持 :

"毫无疑问，言论和表达自由包括将信息传播到尽可能广泛的人群的权利。信息流通范围的扩大或影响的扩大，不能限制权利的内容，也不能为剥夺权利辩护。” 

在离线世界中，提供专门用于 有危险危险的活动是一种义务 防止游客互相伤害。但是只是建议 使个人能够与大量听众说话是一项危险的冒险活动，它面临着言论自由的生存挑战。

响应 excludes from 范围:

• 某些 ‘low-risk’ activities: 用户 comments 与数字内容有关的内容 服务。这将排除在线产品和服务评论，以及‘below 的 line’读者对新闻网站文章的评论。 [1.7]
• 三种 服务 ： （一种） B2B services as previously signalled 在里面 初步反应, (b) 上 line services managed by 教育机构 已经受制于 足够的维护职责或期望，以及（c） 电子邮件，语音 电话和SMS / MMS服务。 [1.6]

关于（c），答复指出“It is 不 clear what 可以期望提供者采取中介措施来解决这些危害 服务，然后再诉诸监控通信，因此强加了 注意义务将不成比例。”

排除的结果似乎是约翰·刘易斯 现在，“客户评论”部分已超出范围，但有诸如Mumsnet之类的网站 would still be in 范围.

OTT私人信息服务 保持 in 范围 [1.5]。回应采取的方法与那些明显不同的方法 SMS / MMS服务。可能需要消息提供程序来监视通信 在私人通信服务上，可能有两条路线。

首先，看来Ofcom可能有 酌情包括 实务守则中的监察。 （严格来说，这会 并非强制性的，因为提供商始终可以向Ofcom进行演示 它可以通过其他方式有效地履行其谨慎义务[2.48]。） 网上儿童性剥削和 内政部与回应一起发布的滥用行为（CSEA）提供了 technology 应该 be considered 上 a voluntary basis.

其次，Ofcom将 表达力量 要求 companies to use “高度准确的自动化技术” to identify 非法 CSEA content and activity. 这个 power would be usable 哪里 alternative 措施不能有效解决CSEA。回应中指出 在公共平台上更可能认为这种力量是相称的 than private 服务, private 服务are 不 excluded. Ofcom would be 在行使权力之前，必须征得部长的批准 basis that sufficiently accurate tools exist. 响应 不es that 的 政府评估，目前存在足够准确的工具来 识别先前被评估为非法的CSEA材料。 [2.59。 2.60]

Encryption is 不 mentioned 在里面 Response.

新闻媒体与新闻 潜在的应用 有关新闻媒体和新闻业的法律法规， outset. 的 白皮书 did 不 mention 的 issue, following which 的 的n 国务卿写信给编辑协会，向他们保证“where 这些服务已经受到良好的监管，就像IPSO和IMPRESS在 他们成员主持的评论部分，我们将不会重复这些努力。 Journalistic or editorial content will 不 be affected by 的 regulatory framework.”

这使问题无法回答，例如 mainstream news media 不 regulated by IPSO or IMPRESS. Nor did it address 的 报纸的位置’拥有社交媒体页面和提要，这将算作 用户生成的内容，因此由Ofcom通过 intermediaries’ 注意义务.

最终回应（如果有的话）比以前更不清楚。 它确认新闻发布者的评论部分’网站将被淘汰 范围，由于‘low risk’提及的用户评论排除 above.  对于social media feeds, it says 该立法将包括‘robust protections’用于新闻内容 在范围内的服务上共享。关于这些保护可能是什么以及什么 可能算作新闻内容，因此回应是无声的。 [1.10，1.12]

Differentiated 注意义务

的 初步反应 proposed a 有区别的 注意义务, whereby for 合法但有害 material and activities in-scope providers would be required 只要 透明，一致且（可能）有效地执行标准 that 的y chose to incorporate 在里面ir 条款和条件.

似乎总是不太可能，因为‘legal but 危害ful’ 内容，政府打算将中介机构完全交给他们 own devices as to 什么standards (if any) to incorporate 在里面ir 用户 terms 和条件。毕竟，政府在2018年的磋商中表示 对互联网安全策略绿皮书的回应：

“政府已经明确 我们要求所有社交媒体平台都具有[除其他外]：条款和条件 that provide a minimum level of 安全 and protection for 使用者 ”.]

事实证明。   的 《最终回应》中的提案是复杂而细微的。其主要特点是：

• 超过指定受众的提供商 功能阈值将被指定为类别1提供程序（请参阅 above). 
• 希望所有范围内的提供商 评估儿童是否有可能获得他们的服务，如果可以，采取 对使用它们的儿童的附加保护[2.15] 
• Only Category 1 providers will be required to take action with regard to 合法但有害 content and activity accessed by adults [2.15].
• 的 注意义务 of non-Category 1 providers for 因此，成年人只适用于犯罪内容和活动 (of a kind 不 otherwise excluded) that present a reasonably foreseeable risk of a 对个人的重大不良生理或心理影响.

它 应该 follow, although 的 Response 不能完全清楚地说明这一点，对于非类别1提供者， 以下列出的一般义务（例如风险评估）仅适用于 与此类犯罪内容活动的风险有关– and that ‘safety’ 也应该从这个意义上理解。 

对于Category 1 providers 的 general 义务将另外适用于提出以下内容的法律内容和活动： 合理可预见的 significant adverse physical or psychological 对个人的影响。 

一般义务

• 所有范围内的提供者都有一个主要 采取措施阻止用户生成的内容或活动的责任 他们的服务会对个人造成重大的身体或心理伤害。 为此，他们将完成对其与其相关的风险的评估 服务并采取合理措施以减少遭受伤害的风险 确定发生。 [2.7]
• Providers will fulfil 的 注意义务 by putting in place systems and processes that improve 用户 安全 上 的ir services –包括，例如，用户工具，内容审核和 推荐程序。 [2.9]
• 提供者将被要求考虑用户’ 权利，包括在线言论自由，均为风险的一部分 评估以及何时决定要采用的安全系统和过程 put in place. [2.10]
• 法规将确保透明和 consistent application of 条款和条件 relating to 危害ful 内容。 This will include preventing 公司 from arbitrarily removing 内容。 [2.10]
• 用户数 must be able to report 危害 when it does 发生并寻求补救，挑战不当删除并引起关注 companies’履行职责。 [2.11]
• 所有提供者都有特定的法律义务 拥有有效且可访问的报告和补救机制。这将涵盖 有害的内容和活动，权利的侵犯（例如超载）， 或更广泛的公司担忧’遵守其监管职责 [2.12]

非法内容和活动

• 对于in-scope criminal activity, all providers 将需要确保迅速删除非法内容，并且 有效地将其出现并分散在其服务中的风险降到最低 systems [2.19]
• 犯罪的优先类别 将规定供应商采取特别有力的行动 in secondary legislation. [2.20] 对于CSEA and terrorism this may include 主动识别和阻止或清除此类材料（如果有） steps have 不 been effective and safeguards are in place. [2.21]

回应没有提及 义务可能与全面监控的禁令相一致 obligations under Article 15 of 的 eCommerce Directive. 政府 has 表示，在英国退欧的背景下，它目前没有改变英国的计划’s 禁止一般监控要求的方法。

成人访问的合法但有害的内容和活动（仅类别1提供者）

• 立法将 不 require removal of specific pieces of legal content [2.28], unless specified as 不 permitted by the provider’s 条款和条件 [2.33] Terms and conditions could be about, 例如，标记和取消优先级[2.32]。
• Priority categories of 合法但有害 材料将在二级立法中规定。这些将是 legal but 危害ful material that Category 1 providers 应该, 在 a minimum, address through 的ir 条款和条件. 响应 gives 的 examples of content promoting self-harm, hate content, 在线滥用 that does 不 meet 的 犯罪行为的门槛，以及鼓励或促进饮食的内容 disorders. [2.29]
• 第1类提供商必须说明 how 的y will handle other categories of 合法但有害 material identified 在他们的风险评估中，并明确他们的服务可接受的条件 对于该内容。 [2.31]

有争议的观点

• Category 1 公司 will 不 be able to arbitrarily 删除有争议的观点，用户将可以寻求补救，如果他们 觉得内容被不公平地删除了。 [2.34]
• 用户补救机制将使用户能够 挑战过分限制其表达自由的内容。这个 似乎适用于所有范围内的提供商（附件A）。

这些规定似乎是 ‘impartiality’ requirements that 我们 re trailed 在里面 press before 的 release 最终回应，据报道是在唐宁街10号的煽动下进行的。它 尚不清楚这些规定是否旨在取代实质性规定 提供者中规定的政策’ 条款和条件. 的 y appear to be 与非法或有害问题无关或至少要扩大 content.

小孩儿

• All 公司 in 范围 will required to assess 儿童获得服务的可能性。 [2.36]仅可能提供服务 须由儿童使用，以提供额外的保护 对于接触儿童的儿童，首先要进行特定的儿童安全 风险评估。 [2.36]，[2.37]
• 政府 will set out in secondary legislation 优先类别 of 合法但有害 content and activity impacting children, meeting 的 的一般定义危害ful content and 活动已描述。这些类别会影响到那些 companies in 范围 应该, 在 a minimum, take action 上 . [2.38]
• 年龄保证和年龄验证技术 有望在履行护理义务方面发挥关键作用。 [2.41]

实务守则

最终回应增加了影响力 政府将超过Ofcom’的行为准则。 Ofcom将 要求将《工作守则》的最终草案发送给文化部长 和内政大臣，他们将有权拒绝守则草案，以及 要求监管机构出于与政府相关的原因进行修改 policy.

国会将有机会辩论和投票 政府为《行为准则》设定的高水平目标 通过肯定的解决程序。完成的代码将被放置 议会，但须经否决。 [4.10]

搜索引擎

Little is said 在里面 最终回应 about how 的 proposed 谨慎的义务将适用于搜索引擎，而不仅仅是对操作的简要概述 they can take to mitigate 的 risk of 危害 and proportionate systems and 他们应该采取的确保用户安全的流程。

搜索引擎 would need to assess 的 risk of 危害 在整个服务过程中发生。 Ofcom将提供针对 有关监管期望的搜索引擎

政府 提出 that given 的 distinct nature of 搜索引擎，法规和业务守则将包括 给他们的材料。它说所有法规要求 相称并尊重搜索引擎在启用访问权方面的关键作用 在线信息。 [1.3]

地域性

对于the first time, 的 最终回应 has set out 的 proposed 拟议立法的领土范围。令人惊讶的是 似乎建议服务应受英国法律的约束‘mere availability of content’基础。鉴于互联网的默认跨境性质， 无异于为整个世界进行域外立法。它会 随之而来的是，世界其他地方的任何提供商都必须进行地理围栏 它的服务将英国排除在外，以免违反英国法律。立法 a 仅仅是可用性 basis has been 的 subject of criticism over many years 自从互联网问世以来。 [1.1]

整体评论

政府的基本问题’白皮书提案 have been 详尽讨论 上 previous occasions. Reminiscent of a sheriff 在里面 Wild West, to 互联网经常被比喻为Ofcom会招募代表-社会 媒体平台和其他中介机构，应负起法律责任- 监管不守规矩的网络人口。但是，与同等的荒野西部不同， Ofcom可以定义其领土并编写规则并执行 them.

的 introduction of a 的一般定义危害 would tie Ofcom’s hands to some degree in deciding 什么does and does 不 constitute 危害ful speech. Limiting 的 范围 of ‘harm’ to a 合理可预见的 对个人的重大不利生理或心理影响 使拟议的护理职责与类似的离线服务更加紧密地结合的方法 duties of care, which are specifically 安全-related.

Nevertheless, when applied 在里面 context of speech 的re 仍然是重大问题。

1. What is an adverse 心理影响? Does it 必须是医学公认的疾病？如果不是，它的宽度是多少？ 苦恼足够了吗？含义越广，我们越接近限制，这可能意味着沮丧或无所适从。 不开心含义越不清楚，将赋予更多的酌处权 Ofcom决定什么才算是危害，以及提供者更有可能 在确定哪种类型的内容或活动时要谨慎 in 范围 of 的ir 注意义务.

2. 的 difficulty, 不 to say virtual impossibility, of 的 task faced by 的 regulator and providers 应该 不 be underestimated. Thus, for 的 合法但有害 category, 的 government has said that it will 将在线滥用列为次要立法中的优先类别。但是，在 这些建议的依据必须仅限于属于 the 的一般定义危害 –即滥用行为 可预见的对身体或心理有重大不利影响的风险 个人。提供者’谨慎行事的行为应仅与 这种有害的虐待。具体来说，滥用之间的分界线 是否会带来可预见的不利心理影响风险？什么 content falls 上 either side of 的 线?

提供者还必须考虑 account 的 proposed obligation 不 to remove controversial viewpoints and 的 用户纠正过度表达自由的可能性。 巧合的是， 斯科特诉CPS has 在里面 last few days issued a 判断 它所指的“the 我们 ll-established 自由言论包含冒犯的权利，实际上包括 abuse another”.

这些问题说明了 使用诸如‘online abuse’涵盖了 通过侮辱性语言表达暴力威胁。

3.触发责任的门槛是多少？ 关心？这是某人可能在某处阅读某些内容并声称要承担的风险吗？ 结果遭受不利的心理影响？是根据风险衡量的吗 to 的 不ional 在 tributes of a reasonably tolerant hypothetical 用户 , or does 最容易生气的标准适用吗？那一定有多大可能 someone might suffer an adverse 心理影响 如果y read it? Is a 可以合理预见，但可能性很小，足够吗？ 

媒体部长John Whittingdale， writing 在里面 Daily Mail 上 的 morning of 的 publication of 的 Final Response, 说过：

“This is 不 about an Orwellian state removal 内容 or building a ‘woke-net’ 造成违法行为会导致立即惩罚。  言论自由包括冒犯的权利，以及 成人仍然可以自由访问他人可能不赞成的内容。”

如果风险和伤害阈值足够低并且是主观的，那将是结果。

4.不论风险阈值是多少，会在严格制定的法律中规定还是由Ofcom自行决定？不会忘记Ofcom在2018年的调查中建议受访者‘bad language’是有害的。一年后，它描述了“offensive language” as a “potential 危害”.

5. Lastly, 在里面 absence of deliberate intent an 作者没有义务避免对他们的作品的读者造成伤害，即使是心理上的 阅读可能会造成伤害。最高法院已在 罗得岛 . The government’因此，该提案将意味着中介机构将拥有 有责任考虑对提交人所针对的材料采取措施 itself has no 注意义务.

这些都是所有问题的核心问题 施加谨慎义务的建议。他们应该成为辩论的主题 在过去的几年中。不幸的是他们被埋葬在匆忙中 包括所有可能的伤害-不管多么不合适， 谨慎义务的法律文书-以及‘systemic’ duties of 从对应该和不应该构成伤害的考虑中抽象出来的关心。

它 应该 be no surprise 如果 government’s proposals became 企图建立普遍性而陷入泥潭 law of everything, amounting to little more than a vague precept 不 to behave 网上很糟糕。白皮书中的提议是一座建在流沙上的城堡，如果 not thin air.

的 proposed 的一般定义危害, while 不 perfect, gives 大厦有一些形状。至少为就 谨慎义务的限制，在线人身安全的法律可保护性质， 及其与言论自由的关系– even if that 应该 have taken 两年前。监管机构的监管是否是 监督和警察对个人适当注意的职责 演讲是另一回事。

两个委员会的故事

两个下议院委员会–the 民政事务委员会和the 数字文化文化体育委员会 –最近与 政府部长讨论政府等问题’s proposed 在线危害立法。这些会议被证明具有启示性，甚至更多。 所以，关于政府’其意图是2020年2月对 the 白皮书。

结果，在某些主题上，我们比我们知道的更多，但是图片是 仍然不完整。一些新问题浮出水面。其他领域变得越来越少 比以前清晰。

Above all, 不hing is set in stone. 的 初步反应 was 表示行进方向，并构成迭代的一部分 政策制定过程。尚未到达目的地– if, that is, 的 政府曾经到过那里。它可能仍然会遇到障碍 顺便说一句，如果最终意识到创建后世的智慧，那就转向沟渠，或者进行大马士革转换 张伯伦勋爵上网. Or 的 road may eventually peter out 进入不hingness. At 目前，政府正在推进其立法意图。

I’m going to be selective about my choice of topics, 在里面 main 回到有关在线的一些主要现有问题和疑虑 有害的建议，加上大量的新问题，以防万一。许多 more ground than this was covered 在里面 two sessions.

从旧的客厅游戏中借用，每个主题都以 what 的 白皮书 said; followed by 什么的 初步反应 said; 的n 什么的 部长们 said; and lastly, 的 后果 。 的 部长是奥利弗·道登（Oliver Dowden）国会议员（数字，文化，媒体国务卿） 和体育）； 卡罗琳·迪尼纳奇（Caroline Dinenage）议员（数字文化部长）和 威廉姆斯男爵夫人（内政部大臣）。  

有时政府’记录了对咨询的初步回应 咨询意见，但未就该主题得出任何结论。在那些 初始响应被分类为说‘Nothing’. Some repetitive 陈述已被删除。

由于这是一本长篇读物，因此以下是所选主题的列表：

• 议会或监管机构会决定什么“harm” means?

• 监管者’职权范围：实质，过程或两者？
• 对于“lawful but 危害ful”

• 针对特定种类的用户内容或活动的行为准则？

• 搜索引擎 in 范围?

• 从社交媒体平台到零售客户评论部分的所有内容？
• Will journalism and 的 press be excluded from 范围?

• 端到端加密

• 身份验证

• 治外法权

1.议会或监管机构会决定 what “harm” means?

的 白皮书 说过：

“…政府采取在线行动 危害个别使用者，尤其是儿童的内容或活动，或 破坏国家安全，威胁到我们在英国的生活方式， 或通过减少信任并破坏我们的共同权利，责任和 促进融合的机会。”

“This list [Table 1, Online 危害s in 范围] is, by design, neither exhaustive nor fixed. A static list could 防止采取迅速的监管措施来应对新形式的在线危害，新技术， 内容和新的在线活动。”

的 初步反应 说过：

没有.

的 部长们 说过：

奥利弗·道登（Oliver Dowden）: “The 只要 我试图说明的一点是，我只是热衷于这种比例性 这是因为通常情况下，监管始于 最好的意图可以 解释 if you do 不 get it 对，拥有自己的生活。它开始变得 解释方式 Parliament did 不 intend it to be 在里面 first place。我只是热衷于 确保我们把那种 硬墙 围绕它，以便政权 is flexible but that 在其 解释它不能超越 intent that 我们 set out 在里面 first place 在里面 broad principles.” (emphasis 添加）

卡罗琳·迪尼纳奇（Caroline Dinenage）: “For 你可能会称之为“legal but 危害ful” 危害s, 我们 are 不 setting out to name 的m 在里面 legislation. That is for 的 simple reason that technology 步伐如此之快，以至于我们很可能最终会失败 excluding something….  我们要 确保这部法律是敏捷的并且能够对损害做出回应 当它们出现时。立法将使这一点更加清楚，但是 这将是为了 the regulator to outline 什么的 危害s are和to do that in partnership with 的 platforms.”（Q.554）（添加了重点）

后果：很难调和 国务卿渴望建立“hard walls”, in order to avoid 意外的后果，与政府’s apparent determination to leave 的 不ion of 危害 undefined, delegating to 的 监管人员决定什么才是有害的任务。这种方法有 对法治的严重影响.

Left undelineated, 的 concept of 危害 is infinitely 可延展的。内政部部长威廉姆斯男爵夫人在委员会会议上建议将5G虚假信息分开 into “无害阴谋论” and “真正导致攻击的东西 on engineers”，以及最右边的元素。一名委员会成员（拉特 Edwards M.P.) responded that she did 不 think that any element of 的 阴谋论可以归类为‘harmless’, because “it is 威胁公众对5G推出的信心” —DCMS部长Caroline Dinenage同意了这一主张。

因此，危害等同于人们改变对电信的看法 project.  这个 unbounded sense of 危害 is 上 a level with 的 不orious “confusing our understanding of 什么is happening 在里面 wider world” phraseology of 的 White Paper.  

Statements such as 的 威廉姆斯男爵夫人的总结讲话：“我也想建立互联网 为我的孩子们提供一个更安全的地方，并排除那些寻求伤害社会的人”必须在本质上不受限制的伤害含义的背景下审视。

当可以如此广泛地解释危害时，政府就是在玩火。但它是  我们  – 不 的 government, 的 regulator or 的 tech 公司 – 谁站起来让我们的手指烧焦。

2.监管者’职权范围：实质，过程或两者？

的 白皮书 说过：

“In particular, 公司 will be 需要确保他们具有有效且相称的流程，以及 实行适当的治理以减少对其进行非法和有害活动的风险 平台，并在出现问题时采取适当和相称的行动 出现。新的监管制度还将确保对 删除非法内容，并将引入具体监控 严格定义非法内容类别的要求。” (6.16)

的 初步反应 说过：

“The approach will be proportionate and risk-based with 的 注意义务 designed to ensure 公司 有适当的系统和流程来提高其安全性 users.”

“注重稳健的流程 and systems rather than individual pieces 内容 means it will 保持 即使出现新的危害也有效。它还将确保服务提供商 制定，清楚地传达和执行自己的有害阈值 legal 内容。

“处理代码的种类 实践的重点是系统，程序，技术和投资， 包括人员主持人的人员配备，培训和支持。”

“因此，实务守则 will contain guidance 上 , for example, 什么steps 公司 应该 take to 通过设计来确保产品和服务安全，或针对以下问题采取及时措施 有害内容或活动。”

“而不是需要删除 在具体的法律内容中，监管将侧重于更广泛的系统 和平台处理在线危害的过程，而 保持比例和基于风险的方法。”

“实际上，新法规 framework will 不 require 的 removal of specific pieces of 法律内容。 相反，它将专注于平台拥有的更广泛的系统和流程 in place to deal with 上 line 危害s, while maintaining a proportionate and risk-based approach.”

“Of course, 公司 will be 需要采取特别有力的行动来应对恐怖分子的内容和在线 Child Sexual Exploitation and Abuse. 的 new regulatory framework will 不 remove 公司’删除非法内容的现有职责.”

的 部长们 说过：

卡罗琳·迪尼纳奇（Caroline Dinenage）: “the 实务守则实际上是关于系统和流程的，而不是命名 individual 危害s 在里面 legislation. 的 re are two exceptions to that: 的re 将成为围绕儿童性剥削和恐怖分子的行为守则 内容，因为它们都是非法的。” (Q554)

“由监管机构设定 制定实践准则，但他们赢了’围绕个人伤害；他们会 围绕系统和流程—what 我们 expect 的 公司 to do. Rather than 关注个人伤害，因为我们知道技术在不断发展 很快就会有更多的情况，这是设置系统的情况， processes that 我们 would expect 公司 to abide by, and 的n giving 的 regulator 的 opportunity to impose sanctions 上 those that are 不 doing so.” (Q.556)

Q562斯图尔特·麦当劳：“…if 的 监管机构认为算法工作不当，无法直接执行 进行过无辜搜索的内容（例如，最右边的内容）的人会 基本上可以命令公司更改其算法 are operating?

卡罗琳·迪尼纳奇（Caroline Dinenage）: 是， I think that 的y will. That is clearly something that 我们 will set out 在里面 full response. 的 key 这里 就是它 公司 must have clear transparency, 他们必须制定明确的标准，并且必须明确承担责任。如果 他们正在设计算法，以任何方式使人们面临风险，即 例如，一个明确的设计选择，而该选择将带来很多 责任。监管者将负责监督这一责任。如果 他们对维护方式有任何担忧， 他们可以实施的制裁。”

后果：关于特定问题 the status of 条款和条件 for “lawful but 危害ful” content (see 如下），很难看到如何在物质之间划出一条明线 and process.  流程不能 设计，风险评估或评估其有效性—仅参考诸如提高用户安全性和降低伤害风险之类的目标。评估照顾义务时未提及预期的伤害种类 没有柴郡的微笑比没有微笑更有意义 Cat. 

在 卡帕罗v迪克曼 布里奇勋爵警告不要讨论职责 of care 在里面 abstract:

“永远做不到 简单地问一下，A是否欠B谨慎的责任。始终需要确定 参考A必须承担的损害种类的责任范围 care to save B 危害less."

Risk assessment is familiar 在里面 realm of 安全 properly 所谓的：人身伤害的危险，在那里有清楚的认识 客观上可确定的危害是什么。应用于 用户言语引起的不确定的，固有的主观伤害。如果“威胁到公众对5G推出的信心”（请参见上文）可以标记 立法范围内的在线危害，远远超出任何可维护的安全概念。

政府’的方法似乎正在采用 针对非法和不合法行为的不同方法“legal but 危害ful”，后者显然仅限于处理程序（尽管有关实际情况，请参阅下一个主题）。 

顺便说一句，初始回应在技术上不正确，是指“companies’删除非法内容的现有职责”. 不存在这种一般职责。托管服务提供商失去了对 ECommerce Directive liability shield 如果y do 不 remove unlawful content 迅速获得有关非法的实际或（构成损害的）建设性知识。即使那样，电子商务 Directive does 不 oblige 的m to remove it. 的 consequence 就是它 的y become exposed to 的 risk of possible liability (which may or may 不 exist) 根据相关的基本法律（请参见 这里 以获得更完整的说明）。在实践中，政权强烈煽动 托管提供商在获得相关知识后删除非法内容。 但是他们没有一般的法律义务。

3.对于“lawful but 危害ful”

的  白皮书 said:

“为了表明他们已经遵守了确保用户安全的总体谨慎义务，我们设想，相关公司将在范围内：

• Ensure 的ir relevant 条款和条件 meet 监管机构制定的标准 and reflect 的 codes of practice as appropriate.
• Enforce 的ir own relevant 条款和条件 有效且始终如一. …”

“为了帮助实现这些结果，我们期望监管机构制定以下行为准则： 

• Steps to ensure products and 服务are safe by design.
• Guidance about how to ensure 使用条款 are 充足 and are understood by 使用者 when 的y sign up to use 的 服务. …
• Steps to ensure 危害ful content or activity is dealt with rapidly. …
• 监视，评估和提高过程有效性的步骤。”

的  初步反应 said:

“我们不会阻止成人访问或发布法律内容，也不会要求公司删除特定的法律内容。相反，新的监管框架将要求相关公司明确声明其网站上可接受的内容和行为，然后由平台统一执行。”

“为了确保言论自由的保护，法规将对公司对非法内容和活动的期望与对非非法但有可能造成伤害的行为建立不同的期望。因此，法规不会强迫公司删除特定的法律内容。相反，新的监管框架将要求公司（在相关情况下）明确声明其认为在其站点上可接受的内容和行为，并始终如一地透明地执行。所有范围内的公司都需要确保对儿童的更高保护水平，并采取合理步骤保护他们免受不适当或有害内容的侵害。”

“监管机构意识到对表达自由的担忧，因此不会对个人投诉进行调查或裁定。公司将能够决定其服务可接受的法律内容或行为类型，但必须采取合理的步骤来保护儿童免受伤害。他们将需要以清晰易懂的条款和条件阐明这一点，并有效，一致和透明地执行这些条款和条件。”

的  部长们 said:

奥利弗·道登（Oliver Dowden）: “在线危害立法的实质是让社交媒体公司遵守他们承诺要做的事情和自己的事情 条款和条件。我在这方面的重点主要是两件事：未成年伤害和非法伤害。显然，最棘手的类别是合法的成人伤害。在这方面，我们正在研究如何收紧措施，以确保这些公司起初确实履行了他们承诺的承诺，而事实并非如此。”（Q20）（添加了重点）

“显然，就法律上的成人伤害而言，无论从什么意义上说，这都是基本原则，因为我们真正想要做的是对那些社交媒体公司和科技公司说，“忠于您说的话。只要坚持你的 条款和条件”。我们将要求监管者确保对他们进行强制执行，然后使用可供我们使用的工具来要求它这样做。”（Q89）（添加了重点）

卡罗琳·迪尼纳奇（Caroline Dinenage）: “这很多是关于 公司 having 的 right regulations and standards 和注意义务，这也将出现在《在线危害法案》和在线危害工作中。如果我们有 哪些平台可以接受的透明度更高—将会有一个监管机构来帮助指导他们—我认为我们将有一个更好的机会直接解决这些问题。”（Q513）（添加了重点）

“关于我们在DCMS中的角色，它更像是一个协调员，汇集了所有不同政府部门的工作，然后 直接与平台联络，以确保其标准，规定反映了我们所关注的一些问题—在某些情况下，请确保可以预见并防止有害的成分，并且在不可能的情况下，应尽快将其停止和清除。”（添加重点）（Q525）

威廉姆斯男爵夫人: “显然存在非法和违反CSP的行为’ 使用条款。正是在后一个因素上，特别是在极端主义领域，我们才真正设法与CSP接触，以使他们变得更加积极主动。”（加重）（加重）（Q.527）

后果：这是政府目前最令人困惑的领域之一’的发展政策。白皮书期望实践准则将确保条款和条件得到满足“监管机构制定的标准”使用条款是“adequate”。从表面上看，这些声明并不局限于程序标准和适当性。可以很容易地将它们解释为包含标准和充分性，这些标准和充分性是通过参考监管机构确定的减少危害目标来判断的（正如我们所看到的那样，这些目标可以自行决定什么构成危害）–换句话说，扩展到中介条款和条件的实质内容。

当《最初的回应》发布时，就向区分谨慎的职责转移了很大的作用：由中介机构来决定–成人的合法内容-条款和条件中规定了什么标准。 

监管机构的职责仅限于确保明确说明和执行这些标准“一致且透明” (or “effectively, 一致且透明”，具体取决于您转到“初始响应”的哪一部分；要么“有效且始终如一”，根据白皮书）。 的确，国务卿在证据中说 "在线危害立法的实质是让社交媒体公司遵守他们承诺要做的事情和自己的事情 terms and conditions" 

但是从其他部长看来’关于政府并未否认对中介机构实质内容的全部兴趣的回应’条款和条件。相反，政府显然将其视为影响力（将其置于最低点）的一部分。如果调节器’其任务是确保条款和条件的执行符合其实质内容反映政府部门的意愿，这与宣称的中介机构自行设定可接受的合法内容标准相差甚远。

最终，强调保持言论自由的意义上，一个独立监管者的作用将仅限于执行中介机构的重点是什么？’如果政府认为自己的条款和条件的一部分是要影响这些中介机构，则这些TandC应该包含哪些实质性规定？

这是有关政府与监管机构之间责任分工的新问题的一方面。人们很容易想到，一旦建立了独立的监管机构，政府本身就会退出竞争。但是，如果不是这样，那么减少独立监管者的职权就会相应地增加政府介入的范围。

鉴于政府，这一点尤其重要’渴望将自己塑造成一个‘trusted flagger’，中介机构应毫无保留地通知其非法内容。因此，Caroline Dinenage似乎认为平台有义务删除政府告诉他们的平台认为非法的任何内容（没有明显的先决条件，例如独立核查的要求），并希望他们认真对待该平台上的任何其他内容。政府通知他们：

“我们发现我们已经成为—I forget 的 proper term, but 我们 have become like a 受信任的举报者 with a number of 的 上 line hosting 公司, 与平台。 So when 我们 flag information, 的y do 不 have to double-check 的 concerns 我们 have。显然， 除非有违法行为，我们不能告诉组织将其删除；他们必须根据自己的良知，标准和要求做出自己的决定。但是很明显，我们正在与他们建立非常牢固，可信赖的关系，以确保当我们举报事情时，他们会认真对待。” (Emphasis 添加）

4.特定种类的实务守则 用户内容或活动？

的 白皮书 说过：

“[白皮书]列出 high-level expectations of 公司, including some specific expectations in 与某些危害有关。我们希望监管机构在未来反映出这些 codes of practice.”

它 的n set out a list of 11 危害s, accompanied in each case 通过与监管机构期望的危害有关的领域列表 include in a code of practice. 对于instance, in relation to disinformation a 包含11个特定领域的列表：

“Steps that 公司 应该 take 与故意歪曲其身份以传播和传播的用户有关 加强虚假信息。”; and

“宣传各种新闻内容， countering 的 ‘echo chamber’人们只接触信息 巩固了他们现有的观点。”

的 初步反应 说过：

“白皮书谈到了 监管机构将发布不同的业务守则来概述 processes that 公司 need to adopt to help demonstrate that 的y have 履行了对用户的照顾义务。… We do 不 expect 的re to be a 每种有害内容类别的行为准则，但是，我们打算 出版有关如何应对在线恐怖分子和儿童的临时行为守则 未来几个月的性剥削和性虐待（CSEA）内容和活动。”

的 部长们 说过：

“卡罗琳·迪尼纳奇（Caroline Dinenage） ： 一世 认为我需要消除对白皮书的误解。的 列出的11种危害确实旨在作为 what 我们 saw as 的 危害s. 的 response did 不 expect a code of practice for 每一项都是因为实践准则实际上是关于系统和过程的， rather than naming individual 危害s 在里面 legislation. 的 re are two 例外：关于儿童性剥削的行为守则 和恐怖分子的内容， 因为那些都是非法的.” (Q.554) (emphasis 添加）

结果： CSEA和 恐怖主义可能更多地归因于恐怖主义的不同责任领域 内政部与DCMS相比，违法行为与 非违法行为。白皮书涵盖了更多的非法领域 two alone.

5. 搜索引擎 in 范围?

的 白皮书 说过：

“… will apply to 公司 that 允许用户共享或 发现 用户生成的内容，或进行交互 彼此在线。” （强调）

“These 服务are offered by…  搜索引擎” (Executive Summary)

的 初步反应 说过：

“The legislation will 只要 apply to 公司 that provide 服务or use functionality 上 的ir 我们 bsites 有助于共享用户生成的内容或用户交互， 例如通过评论，论坛或视频共享” （强调）

的 部长们 说过：

“卡罗琳·迪尼纳奇（Caroline Dinenage）：再次 我们可能发布了一份临时回复， which was 不 as comprehensive as our full response will be later 上 在里面 年。白皮书非常明确地指出将包括搜索引擎 框架的范围和需求的性质将反映 the type of 服务 that 的y offer. We did 不 explicitly mention it 在里面 interim response, but that does 不 mean that anything has changed. 它 did 不 涵盖全部政策。搜索引擎将包括在内，并且没有变化 我们的想法和政策。”   （Q.560）

结果： 尽管有部长’的解释，白皮书和 初始响应（省略“discover”, adding “only”）外观为 考虑的变化。未来的教训也许是不明智的 过于仔细地分析政府所说或写的其他任何文字。

6.从社交媒体平台到零售的一切 客户评论部分？

的 白皮书 说过：

“… 公司 所有大小 将在监管框架范围内。范围将包括… social media 公司，公共论坛， 允许用户查看的零售商 products 上 line，以及非营利组织，文件共享网站 和云托管提供商。” （强调）

的 初步反应 说过：

“To be in 范围, a business would 必须运行其自己的网站，并具有共享用户生成的功能的功能 内容或用户互动。”

的 部长们 说过：

奥利弗·道登（Oliver Dowden）: “We are a 欧洲的领导者。我确定您已经看到，我已经看到了意想不到的 好的立法的后果，然后具有官僚主义的含义 以及我们要避免的业务成本。

对于example, in respect of legal online 危害s for adults, if you are an 中小企业零售商，您有一个评论 您产品上的网站上，人们可以在下面添加评论 那是社交媒体的一种形式。名义上，这将由 online 危害s regime as it stands。对此的回应是他们会去 through this quick test and 的n 的y will find it does 不 apply to 的m. My 中小企业和其他企业的整体经验是，这一切都很好 that when you are sat have no idea 什么this 上 line 危害s thing is, this 可能会给您带来沉重的管理负担。 （强调）

有什么方法可以 carve out those sorts of areas so 我们 focus 上 哪里 我们 need to do it? Those 各种论点与非法伤害和对儿童的伤害无关。我希望 给你一种味道。” (Q.88)

Q89达米安·海因兹（Damian Hinds）：“Yes, 这么。我认为在先前的公告中有很高的估计 公司的数量或总公司的比例 计入在线平台的定义中，这相当令人不安 思想。非常欢迎您，可以采取什么行动来限制谁 算是一个社交媒体平台。”

结果： 这次交流确实 闪耀 light 上 的 expansive 范围 of 的 proposed legislation. 的 国务卿表示，具有审查部门的中小企业零售商 “notionally” covered. However, 的re was 不hing 不ional about it.  零售商审查部分明确 included 在里面 白皮书, as 我们 re 公司 所有大小.

正如国务卿所建议的那样，告诉中小型企业一点安慰“don’t worry, you’风险低，所以赢了’真的适合你” if: (a) you are in 范围 上 的 face of it, and (b) 它是 left to 的 regulator to 决定是否应减轻某些中间人的负担 than others. 

当然，还有许多其他类型的非社交媒体 范围内的平台中介以及中小企业零售商，其中包括以下方面：应用程序，在线游戏，社区 讨论论坛，非营利组织和许多其他在线服务。  初步回应说“到目前为止的分析表明 that fewer than 5% of UK businesses will be in 范围 of this regulatory framework.”绝对值的5％是小是小（不是 提及对非英国企业的明显冷漠），没有 表明该估计所依据的假设。

7.将新闻和新闻界排除在外吗？ from 范围?

的 白皮书 说过：

没有. 在 a subsequent 给编辑协会的信 当时的DCMS国务卿杰里米·赖特（Jeremy Wright）说：

“…正如我在白皮书中明确指出的 launch and 在里面 House of Commons, 哪里 的se 服务are already 我们 ll 受到监管，就像IPSO和IMPRESS关于其成员的评论一样 部分，我们将不会重复这些努力。新闻或社论内容 will 不 be affected by 的 regulatory 框架。”

的 初步反应 说过：

没有. 它 limited itself to general expressions of support 为了表达自由，例如：

“…表达自由，以及 新闻自由的作用，对于健康的民主至关重要。我们将确保 there are safeguards 在里面 legislation, so 公司 and 的 new regulator 有明确的责任保护用户’在线权利，包括自由 表达方式以及维持充满活力和多元化的公共广场的需求。”

的 部长们 说过：

“卡罗琳 Dinenage: 显然，我们知道新闻自由 是我们社会的支柱之一，我必须从白皮书中说 outset, is 不 seeking to prohibit press freedom 在 all, so 新闻和 editorial content is 不 在里面 范围 of the 白皮书. Our stance 上 press regulation has 不 changed.” (Emphasis added)

“As for 什么has been 在里面 papers recently, 的 国务卿写信给编辑协会，这是关于 您可能会称其为“线下或注释”部分。他们很担心 可能会受到管制。我认为国务卿的意思是 that, 哪里 的re is already 清晰有效的节制 of that sort of content, 我们 do 不 intend to duplicate it. 对于example, 的re is IPSO and 审核内容部分的IMPRESS活动。这些是技术用语 为了它。对话仍在进行中，因此我们目前正在努力 与利益相关者就我们将如何反映这一点提出建议 立法，围绕这些参数。 （Q.558）

“斯图尔特·麦当劳：但是 there is no suggestion that below-the-line 保持 s unregulated. 它 is 哪里 that regulation 应该 lie that is 的 issue.

卡罗琳·迪尼纳奇（Caroline Dinenage）: Exactly.” (Q.559)

结果： 存在三个不同的问题 将新闻纳入或排除在监管范围之外 Bill:

1. 用户在报纸网站上的评论.  从表面上看，新闻机构会 须遵守用户在其网站上发表评论的谨慎义务。的 政府的立场似乎是谨慎义务是否会 是否适用取决于评论是否已经受到另一种评论 监管（或至少存在“清晰有效的节制”). Potentially, therefore, newspapers that are 不 regulated by IPSO or IMPRESS would be in 此范围。这种分界是否将通过艰苦的努力来实现 scope exclusion written 进入the Bill is 不 clear.

2. 新闻或社论材料. Whilst 的 部长可能会说政府’s stance 上 press regulation has 不 changed, her statement that 新闻和 editorial content is 不 “in 的 scope”白皮书是新的—至少如果我们要理解为 意味着该法案将对新闻或社论进行硬性排除 内容。以前，政府只说不会 affected by 的 regulatory 框架。 A general exclusion of journalistic or 从表面上看，编辑材料会比报纸和报纸广泛得多。 类似的出版物。发现这句话并不奇怪 “clarified” 在 some point 在里面 future.

3. 报纸社交媒体供稿和页面。报纸 和其他出版物在社交网站上保留自己的页面，提要和博客 媒体和其他平台。报纸本身不必承担责任 关于他们自己的内容的关心。但就平台而言 担心报纸是用户，因此他们的页面和提要会下降 under 的 platforms’注意义务。因此，他们将有可能采取行动 平台在履行其谨慎职责的过程中针对其内容采取的措施。

政府 has said 不hing about whether, and if so how, such press content would be excluded from 范围. If 的 government is 认真排除“新闻或社论”通常从范围来看， 将实现这一目标。但是，这会给周围带来巨大的困难 whether a particular feed or page is or is 不 新闻或社论 材料（例如，这个Cyber​​leagle博客或Guido Fawkes博客是什么？），以及 平台应如何决定是否存在任何特定内容 not in 范围.  

8.端到端加密

的 白皮书 说过：

没有. (Although 的 potential for 的 注意义务 to be 应用于防止使用端到端加密 很明显 ）

的 初步反应 说过：

没有.

的 部长们 说过：

威廉姆斯男爵夫人: “[Facebook] 然后宣布他们将端到端加密Messenger。那是为了 我们非常担心，因为没有人能够看到Messenger。一世 know 的re is going to be a Five Eyes engagement next 我们 ek, and I do 不 know if 的 Committee knows, b五只眼写给马克 扎克伯格去年 我们对此发展感到非常担心。” (Q538)

Q566椅子：“On that basis, does end-to-end encryption count as a breach of 注意义务?

威廉姆斯男爵夫人 ：它是 违反护理职责的犯罪活动。允许罪犯 在您的平台上发生的活动将违反谨慎义务。 End-to-end encryption, 在其本身, is 不 a breach of 注意义务.

主席：大概是为此 规矩完全没有咬人，他们将必须能够采取一些措施 针对无法阻止犯罪活动的政策执行。上 该逻辑，引入了端到端加密，如果它故意停止了 公司防止非法活动—例如，网上孩子的种类 你谈论过的虐待—那肯定会被视为违反谨慎义务。

威廉姆斯男爵夫人：我完全 期望这就是“五眼”讨论中的一些内容， 发生的时间很短，会看一下。”

后果：这是第一个迹象表明 政府还活着，有可能监管者能够 解释谨慎义务，以影响中介的使用能力 端到端加密。的“in and of itself”部长使用的措辞 appears 不 to rule that out. 这个 issue is related to 的 question of how 的 立法可能适用于私人消息传递提供商，这是政府的一个主题 has consulted but has 不 yet published a conclusion.

9.身份验证

的 白皮书 说过：

“互联网可以用来 骚扰，霸凌或恐吓。在许多情况下，骚扰和其他形式的 在线滥用通讯，受害者将不了解犯罪者。在 在某些情况下，他们将采取技术措施隐瞒自己的身份。 政府和执法部门正在采取行动应对这一威胁。”

“警察有一系列法律规定 识别试图利用匿名逃避制裁的个人的权力 for 在线滥用, 哪里 的 activity is 非法. 政府 will work with 执法部门审查当前权力是否足以解决 在线匿名滥用。”

“我们期望的一些领域 包括在业务守则中的监管机构是：

• 限制匿名用户滥用其权限的步骤 服务，包括骚扰他人。…
• Steps 公司 应该 take to limit anonymised users using 的ir 服务to abuse others.”

的 初步反应 说过：

没有.

的 部长们 说过：

Q25约翰·尼科尔森：您想要 to see 上 line 危害s legislation compel social media 公司 to verify 的 identity of 使用者 , 不 of course to publish 的m but simply to verify 的m 在帐户启动和运行之前？

奥利弗·道登（Oliver Dowden）： 有 正如您所提到的，围绕机器人有时无疑是一个挑战 通过敌对的国家活动，并找到更好的方法来验证是否 这些都是真正的演员，或者是否是协调的机器人式活动。那 是通过在线危害，但显然存在着国家安全角度 that as 我们 ll.”

Q530雅培女士：“Finally, would 您考虑更改法规，因此可以匿名发布在 网站或Twitter或Facebook，但在线平台上会有您的名字 和地址？根据我的经验，当您尝试进行在线滥用时，您遇到了 brick wall because 的 abuser is 不 just anonymous when 的y post, 的 上 line platform doesn’也没有名字和地址。

卡罗琳·迪尼纳奇（Caroline Dinenage）： 那是 一个非常有趣的想法。绝对是我们曾经做过的事情 讨论。关于我们正在制定的在线危害立法 together 在 的 moment, 我们 have said very clearly that 公司 need to be 更加透明。他们需要制定标准，并且需要澄清 他们的谨慎责任是什么，并有一个健全的投诉程序 人们可以使用并可以信任。这就是为什么我们还任命监管者 这将阐明好的外观，并具有期望，而且 能够要求数据和信息并能够施加的权力 sanctions 上 those that 的y do 不 feel are abiding by 的m.

Q531主席：那实际上是什么 意思？这是否意味着您认为监管机构应有权 say that social media 公司 应该 不 allow people to be … [a]nonymous to the platform?

卡罗琳·迪尼纳奇（Caroline Dinenage）： 这是 我们目前正在考虑的事情。有很多东西 here. 在 的 上 line 危害s legislation, 的 regulator will set out 的ir expectations.

主席：我们可以’t devolve 一切交给监管机构。这样的事情真的很重要—should social media 公司 be allowed to 不 know who it 就是它 is using 的ir 平台？议会应该考虑这是一个很大的问题 on, 不 something 我们 just hand over to a regulator and say, “Okay, whatever you think,” later 上 .

卡罗琳·迪尼纳奇（Caroline Dinenage）: 是， 究竟。因此，我们目前正在考虑将其作为在线服务的一部分 损害立法，这当然将提交议会。”

Q545蒂姆·劳顿（Tim Loughton）：“… If I want 要开设一个银行帐户和各种其他帐户，我必须向 通过使用水电费账单和其他类似方式在我所在的银行或组织 那。这很简单。类似的缺点是什么 由社交媒体平台强制执行的要求，然后才允许您执行 注册新账号？这是我们之前在 Committee. Many of us have suggested that 我们 应该 go down that route. I 收集到它已经在韩国发生过。你说你在看 Dinenage部长。您认为，这样做的缺点是 scrutiny?

卡罗琳·迪尼纳奇（Caroline Dinenage） ：你 拉夫顿先生，提出了非常有说服力的论点。你说的很多 非常正确。我们正在思考并试图应对的唯一一件事 是是否有任何理由让受害者， want to be able to whistleblow, and who may be overseas and might 不 want to 认同自己，因为他们担心自己的生命或其他伤害。有 那些匿名和保护某人的问题’的安全性和说话能力 向上。这就是我们正在努力的方向。

Q546蒂姆·劳顿：同样 令牌，您可能会有一个伪造身份的人 举报或四处宣传，所以这是双向的。我没有 看到要求您必须证明自己是谁的缺点—not 至少因为我们知道当人们被抓住并拥有他们的站点时会发生什么 取下来。五分钟后，他们建立了另一个新的匿名网站兜售 相同的虚假信息。

卡罗琳·迪尼纳奇（Caroline Dinenage） ：你 提出非常有说服力的论据。这是如此重要 立法，我们必须做到正确。正如我所说，这是世界领先的。 每个人都在看着我们，看看我们是如何做到的。我们需要确保我们 已经考虑了每个角度，这就是我们在 moment.”

结果： 身份验证显然是 冒出来的问题。 最根本的反对意见是，《世界人权宣言》第19条所保障的表达自由权并不以身份验证为条件。不表明是那样：

"Everyone has 的 right to 产生以下任何两项时的见解和言论自由： 驾驶执照，护照，最近的水电费或市政税单……”。

在韩国 规定在线身份验证义务的法律是 宣布违宪 在2012年。

民政事务委员会提出， 尽我所知 在有关在线危害项目的任何议会审议中，第一次 question of 什么应该 be decided by Parliament and 什么delegated to a 调节器。这不限于身份验证问题。这是涂上这样的规定的监管权力的固有弊端。 广泛的笔触表明，许多具体问题将隐藏在抽象背后，仅当 监管者将视线转向他们–到那个时候为时已晚 反对此事应由议会决定。那个恶习 当权力影响到数以百万计的个人讲话时，情况就更加复杂 people.

10.域外性

的 白皮书 说过：

“新的监管制度将 需要处理数字经济和许多 companies in 范围. 的 law will apply to 公司 that provide 服务to UK users.”（6.9）（添加了重点）

“我们也在考虑选择 for 的 regulator, in 某些 circumstances, 要求 公司 which are 总部设在英国以外的地区，以任命英国或欧洲经济区为基础的提名代表。” (6.10)

的 初步反应 说过：

没有 of relevance.

的 部长们 说过：

“Q569：安德鲁·格温：想必 the regulations will apply to all content visibly available 在里面 UK—is that correct?

威廉姆斯男爵夫人 ：是的。 ”

结果： Charitably, perhaps 我们 应该 assume that 的 部长误会。向英国提供服务之间存在巨大差异 用户和在英国的知名度。鉴于跨国公司固有的跨境性质 互联网，宣称一个国家’仅仅针对内容的本地法律 可见性基础等同于主张世界范围的域外性。 

它 会更符合互联网管辖权的方向 norms have moved over 的 last 25 years to apply a test of whether 提供者 is targeting 的 UK.