2020年12月17日,星期四

在线危害大厦初具规模

政府 has now published the 最终回应 对其 2019年4月的咨询 在线危害白皮书.

背景

回顾一下,政府在白皮书中 建议强加“duty of care” 上 公司 whose 服务host 用户生成的内容或促进公共或私人在线互动 between 用户s. 的 注意义务 would also apply to search engines.

范围内的中介机构必须采取合理的措施 防止,减少或减轻对其服务(包括合法内容)的损害 and activity deemed to be 危害ful. By its nature the duty placed 上 the 中介是为了防止第三方用户造成伤害的风险 to someone else.

该建议与离线护理职责在两个方面有所不同 主要方面:首先,白皮书并未限制或定义 危害。线下世界中与安全相关的可比职责大约是客观的 可确定的人身伤害和财产损失。一个  undefined concept of 危害 arising from 上 line 演讲不可避免地是主观和可塑的。它提出了不允许的异议 含糊,随之而来的任意性以及在线演讲的前景 由最容易冒犯的​​读者,查看者或听众的标准来判断。

Second, in the offline world a 安全-related 注意义务 对未能防止第三方相互伤害负有责任 是一个例外,而不是规范-在任何情况下都没有应用 to speech.

白皮书建议中介机构’ duty of 护理将由全权监管者监督和执行-随后 表示可能是Ofcom-让人联想到电视和 无线电。这代表着与线下世界的根本背离,其中 个人演讲仅受已定的和某些一般法律管辖,而非广播式 由监管机构监管。

所有这些都以离线在线横幅的形式呈现 equivalence.

拟议的在线危害制度的影响,尽管 呈现为监管科技公司,是监管者 通过在线代理间接控制我们自己的个人演讲 中介机构在依法履行义务的情况下行事。如果伤害 保持不确定和不受限制,那么监管机构实际上将 编写自己的在线演讲规则手册的能力– both as to what 构成损害,中介人应采取哪些步骤来减轻 risk of speech that the regulator deemed to be 危害ful.

2020年2月,政府发布了 初步反应 白皮书表示对该政权进行了一些修订, particular a ‘differentiated’谨慎地对待 有害但不违法的内容。仍然没有尝试定义 or limit the concept of 危害.

政府现在已经确认Ofcom将成为该计划’自行决定的监管者。的 最终回应 提出 白皮书中描述的机制发生了许多重大变化。

危害范围

最重要的发展是政府拥有 now:

  • 建议一个 的一般定义“harmful” 内容和活动:必须引起“合理可预见的 对个人的重大不良生理或心理影响”. [2.2] 
  • 明显限制了什么 非法 用户内容和活动 for the purposes of the 注意义务: excluding 共同承担民事责任,也限制了 适用于满足以下条件的一般定义的范围“harmful” [2.24].

它还证实了以前的迹象, 危害s to organisations 将不在范围内。 [2.2,4.1]知识分子也不会 财产违规,数据保护违规,欺诈,消费者违规 保护法,网络安全漏洞或黑客攻击。暗网造成的危害 活动也将被排除在外。 [2.3]

这些步骤的综合效果是 注意事项已朝着线下可比的方向发展 duties of care. It is now more focused towards personal 安全 properly so-called, rather than resting 上 unbounded notions of 危害. That 立法的新名称也反映了这一点:《在线安全法案》。

举例来说,政府现在解释说 虚假信息不应被视为 本身 危险的 这样做会侵犯言论自由,这是令人无法接受的:

“the 注意义务 will apply to 可能会导致重大生理或心理上的内容或活动 对个人的伤害,包括虚假信息和虚假信息。哪里 虚假信息不太可能造成此类伤害,因此不会超出范围 监管。 Ofcom不应参与与政治相关的决定 法律中的国内行为者分享的意见或竞选活动。” [2.81]

本段回顾了 意见分歧 之间 内政部和DCMS部长在提供证据时讨论5G阴谋论 于2020年5月提交民政事务委员会。

Nevertheless, the definition of 危害ful 保持s problematic: 尤其是因为包含‘psychological impact’可能表明 伤害的概念仍然与不同读者的主观反应有关。 主观性为最容易被接受的标准的应用打开了大门 用户。并且尽管谨慎义务的主题可能更加紧密 与传统的护理职责保持一致,其性质–防止第三的责任 各方互相伤害–仍然是例外,不是规范 offline world.

《最终回应》提出了由中学提出的创作 具体立法‘优先类别’ of 危害ful content and criminal 犯罪,对个人构成最大风险。 [24],[2.3],[2.20]。的 这些类别的意义将在于重新制定 version of the ‘differentiated’政府承担的谨慎义务’s 初始响应(请参见下文)。

Providers and 服务in scope

根据修订后的提案,范围内提供者将是 split into 两类提供者,但要遵守职责的版本 在履行职责方面需要采取什么步骤方面的谨慎态度有所不同 的保护,以及有害物质的种类。仅指定服务 as Category 1 would be duty-bound to address legal but 危害ful 内容。

Ofcom would determine which 服务meet the criteria for 类别1,根据政府先前设定的阈值。的 立法中将规定相关因素:受众人数和 提供的功能。

根据答复,诸如 广泛共享内容或匿名联系用户的能力更可能 造成伤害。 [2.16]。当全球可用性是固有功能时 互联网,将本质上广泛共享内容的能力视为 对于宣称言论自由的政府而言,冒险充满挑战 是拟议监管框架的核心[1.10]。与...相反 流行的口号是,言论自由确实是言论自由的一个方面-正如 印度最高法院 保持:

"毫无疑问,言论和表达自由包括将信息传播到尽可能广泛的人群的权利。信息流通范围的扩大或影响的扩大,不能限制权利的内容,也不能为剥夺权利辩护。” 

在离线世界中,提供专门用于 有危险危险的活动是一种义务 防止游客互相伤害。但是只是建议 使个人能够与大量听众说话是一项危险的冒险活动,它面临着言论自由的生存挑战。

响应 从范围排除:

  • 某些 ‘low-risk’ activities: 用户 comments 与数字内容有关的内容 服务。这将排除在线产品和服务评论,以及‘below the line’读者对新闻网站文章的评论。 [1.7]
  • 三种 服务: (一种) B2B services 如先前在“初始响应”中所述,(b)在线 services managed by 教育机构 已经受制于 足够的维护职责或期望,以及(c) 电子邮件,语音 电话和SMS / MMS服务。 [1.6]

关于(c),答复指出“It is not clear what 可以期望提供者采取中介措施来解决这些危害 服务,然后再诉诸监控通信,因此强加了 注意义务将不成比例。”

排除的结果似乎是约翰·刘易斯 现在,“客户评论”部分已超出范围,但有诸如Mumsnet之类的网站 仍将在范围内。

OTT私人信息服务 保持 在适用范围 [1.5]。回应采取的方法与那些明显不同的方法 SMS / MMS服务。可能需要消息提供程序来监视通信 在私人通信服务上,可能有两条路线。

首先,看来Ofcom可能有 酌情包括 实务守则中的监察。 (严格来说,这会 并非强制性的,因为提供商始终可以向Ofcom进行演示 它可以通过其他方式有效地履行其谨慎义务[2.48]。) 网上儿童性剥削和 内政部与回应一起发布的滥用行为(CSEA)提供了 技术应该是自愿考虑的。

其次,Ofcom将 表达力量 要求 companies to use “高度准确的自动化技术” to identify 非法 CSEA content and activity. 这个 power would be usable 哪里 alternative 措施不能有效解决CSEA。回应中指出 在公共平台上更可能认为这种力量是相称的 比私人服务,不排除私人服务。 Ofcom将是 在行使权力之前,必须征得部长的批准 存在足够精确的工具的基础。回应指出, 政府评估,目前存在足够准确的工具来 识别先前被评估为非法的CSEA材料。 [2.59。 2.60]

响应中未提及加密。

新闻媒体与新闻 潜在的应用 有关新闻媒体和新闻业的法律法规, 开始。白皮书未提及该问题,随后 国务卿写信给编辑协会,向他们保证“where 这些服务已经受到良好的监管,就像IPSO和IMPRESS在 他们成员主持的评论部分,我们将不会重复这些努力。 新闻或社论内容不受法规的影响 framework.”

这使问题无法回答,例如 不受IPSO或IMPRESS监管的主流新闻媒体。它也没有解决 报纸的位置’拥有社交媒体页面和提要,这将算作 用户生成的内容,因此由Ofcom通过 intermediaries’ 注意义务.

最终回应(如果有的话)比以前更不清楚。 它确认新闻发布者的评论部分’网站将被淘汰 范围,由于‘low risk’提及的用户评论排除 above.  对于社交媒体供稿,它说 该立法将包括‘robust protections’用于新闻内容 在范围内的服务上共享。关于这些保护可能是什么以及什么 可能会被视为新闻内容,因此回应是无声的。 [1.10,1.12]

Differentiated 注意义务

的 初步反应 proposed a 有区别的 注意义务, 因此,对于合法但有害的材料和活动,仅需要范围内的提供者 透明,一致且(可能)有效地执行标准 他们选择将其纳入条款和条件中。

似乎总是不太可能,因为‘legal but 危害ful’ 内容,政府打算将中介机构完全交给他们 自己的设备,以了解将哪些标准(如果有)纳入用户条款 和条件。毕竟,政府在2018年的磋商中表示 对互联网安全策略绿皮书的回应:

“政府已经明确 我们要求所有社交媒体平台都具有[除其他外]:条款和条件 that provide a minimum level of 安全 and protection for 用户s”.]

事实证明。  的 《最终回应》中的提案是复杂而细微的。其主要特点是:

  • 超过指定受众的提供商 功能阈值将被指定为类别1提供程序(请参阅 above). 
  • 希望所有范围内的提供商 评估儿童是否有可能获得他们的服务,如果可以,采取 对使用它们的儿童的附加保护[2.15] 
  • 只有第1类提供者才需要对成年人访问的合法但有害的内容和活动采取行动[2.15]。
  • 的 注意义务 of non-Category 1 providers for 因此,成年人只适用于犯罪内容和活动 (属于其他类型的除外)存在合理可预见的风险 of a 对个人的重大不良生理或心理影响.

它应该紧随其后,尽管回应 不能完全清楚地说明这一点,对于非类别1提供者, 以下列出的一般义务(例如风险评估)仅适用于 与此类犯罪内容活动的风险有关– and that ‘safety’ 也应该从这个意义上理解。 

对于第1类提供商,一般 义务将另外适用于提出以下内容的法律内容和活动: 合理可预见的 significant adverse physical or psychological 对个人的影响。 

一般义务

  • 所有范围内的提供者都有一个主要 采取措施阻止用户生成的内容或活动的责任 他们的服务会对个人造成重大的身体或心理伤害。 为此,他们将完成对其与其相关的风险的评估 服务并采取合理措施以减少遭受伤害的风险 确定发生。 [2.7]
  • Providers will fulfil the 注意义务 by putting in place systems and processes that improve 用户 安全 上 their services –包括,例如,用户工具,内容审核和 推荐程序。 [2.9]
  • 提供者将被要求考虑用户’ 权利,包括在线言论自由,均为风险的一部分 评估以及何时决定要采用的安全系统和过程 put in place. [2.10]
  • 法规将确保透明和 持续使用与有害内容有关的条款和条件。 这将包括防止公司任意删除内容。 [2.10]
  • 用户数 must be able to report 危害 when it does 发生并寻求补救,挑战不当删除并引起关注 companies’履行职责。 [2.11]
  • 所有提供者都有特定的法律义务 拥有有效且可访问的报告和补救机制。这将涵盖 有害的内容和活动,权利的侵犯(例如超载), 或更广泛的公司担忧’遵守其监管职责 [2.12]
非法内容和活动
  • 对于范围内的犯罪活动,所有提供者 将需要确保迅速删除非法内容,并且 有效地将其出现并分散在其服务中的风险降到最低 systems [2.19]
  • 犯罪的优先类别 将规定供应商采取特别有力的行动 在二级立法中。 [2.20]对于CSEA和恐怖主义,这可能包括 主动识别和阻止或清除此类材料(如果有) 措施尚未奏效,保障措施也到位。 [2.21]

回应没有提及 义务可能与全面监控的禁令相一致 obligations under Article 15 of the eCommerce Directive. 政府 has 表示,在英国退欧的背景下,它目前没有改变英国的计划’s 禁止一般监控要求的方法。

成人访问的合法但有害的内容和活动(仅类别1提供者)

  • 立法将不要求删除 特定的法律内容[2.28],除非特别指定 the provider’的条款和条件[2.33]条款可能与 例如,标记和取消优先级[2.32]。
  • Priority categories of legal but 危害ful 材料将在二级立法中规定。这些将是 第1类提供者应至少提供的合法但有害的材料, 通过他们的条款和条件解决。响应给出了以下示例 宣传自我伤害,仇恨内容,不符合 犯罪行为的门槛,以及鼓励或促进饮食的内容 disorders. [2.29]
  • 第1类提供商必须说明 他们将如何处理其他类别的合法但有害的材料 在他们的风险评估中,并明确他们的服务可接受的条件 对于该内容。 [2.31]

有争议的观点

  • 第1类公司将无法随意 删除有争议的观点,用户将可以寻求补救,如果他们 觉得内容被不公平地删除了。 [2.34]
  • 用户补救机制将使用户能够 挑战过分限制其表达自由的内容。这个 似乎适用于所有范围内的提供商(附件A)。

这些规定似乎是 ‘impartiality’发布之前在媒体上追随的要求 最终回应,据报道是在唐宁街10号的煽动下进行的。它 尚不清楚这些规定是否旨在取代实质性规定 提供者中规定的政策’条款和条件。他们似乎是 与非法或有害问题无关或至少要扩大 content.

小孩儿

  • All 公司 在适用范围 will required to assess 儿童获得服务的可能性。 [2.36]仅可能提供服务 须由儿童使用,以提供额外的保护 对于接触儿童的儿童,首先要进行特定的儿童安全 风险评估。 [2.36],[2.37]
  • 政府 will set out in secondary legislation 优先类别 of legal but 危害ful content and activity impacting children, meeting the 的一般定义危害ful content and 活动已描述。这些类别会影响到那些 范围内的公司至少应采取行动。 [2.38]
  • 年龄保证和年龄验证技术 有望在履行护理义务方面发挥关键作用。 [2.41]

实务守则

最终回应增加了影响力 政府将超过Ofcom’的行为准则。 Ofcom将 要求将《工作守则》的最终草案发送给文化部长 和内政大臣,他们将有权拒绝守则草案,以及 要求监管机构出于与政府相关的原因进行修改 policy.

国会将有机会辩论和投票 政府为《行为准则》设定的高水平目标 通过肯定的解决程序。完成的代码将被放置 议会,但须经否决。 [4.10]

搜索引擎

在最终回应中,关于拟议提案如何 谨慎的义务将适用于搜索引擎,而不仅仅是对操作的简要概述 they can take to mitigate the risk of 危害 and proportionate systems and 他们应该采取的确保用户安全的流程。

搜索引擎 would need to assess the risk of 危害 在整个服务过程中发生。 Ofcom将提供针对 有关监管期望的搜索引擎

政府 提出 that given the distinct nature of 搜索引擎,法规和业务守则将包括 给他们的材料。它说所有法规要求 相称并尊重搜索引擎在启用访问权方面的关键作用 在线信息。 [1.3]

地域性

最终回应首次提出了 拟议立法的领土范围。令人惊讶的是 似乎建议服务应受英国法律的约束‘mere availability of content’基础。鉴于互联网的默认跨境性质, 无异于为整个世界进行域外立法。它会 随之而来的是,世界其他地方的任何提供商都必须进行地理围栏 它的服务将英国排除在外,以免违反英国法律。立法 a 仅仅是可用性 basis has been the subject of criticism over many years 自从互联网问世以来。 [1.1]

整体评论

政府的基本问题’白皮书提案 have been 详尽讨论 在以前的场合。让人想起荒野西部的警长 互联网经常被比喻为Ofcom会招募代表-社会 媒体平台和其他中介机构,应负起法律责任- 监管不守规矩的网络人口。但是,与同等的荒野西部不同, Ofcom可以定义其领土并编写规则并执行 them.

的 introduction of a 的一般定义危害 would tie Ofcom’s 在某种程度上决定什么构成和不构成有害 言语。限制范围‘harm’ to a 合理可预见的 对个人的重大不利生理或心理影响 使拟议的护理职责与类似的离线服务更加紧密地结合的方法 duties of care, which are specifically 安全-related.

但是,当在语音环境中使用时 仍然是重大问题。

1. What is an adverse 心理影响? Does it 必须是医学公认的疾病?如果不是,它的宽度是多少? 苦恼足够了吗?含义越广,我们越接近限制,这可能意味着沮丧或无所适从。 不开心含义越不清楚,将赋予更多的酌处权 Ofcom决定什么才算是危害,以及提供者更有可能 在确定哪种类型的内容或活动时要谨慎 in scope of their 注意义务.

2.困难,更不用说虚拟不可能了 监管者和提供者面临的任务不容小under。从而, for the lawful but 危害ful category, the government has said that it will 将在线滥用列为次要立法中的优先类别。但是,在 这些建议的依据必须仅限于属于 the 的一般定义危害 –即滥用行为 可预见的对身体或心理有重大不利影响的风险 个人。提供者’谨慎行事的行为应仅与 这种有害的虐待。具体来说,滥用之间的分界线 是否会带来可预见的不利心理影响风险?什么 content falls 上 either side of the 线?

提供者还必须考虑 考虑到拟议的义务不消除有争议的观点,并且 用户纠正过度表达自由的可能性。 巧合的是, 斯科特诉CPS 在过去的几个 days issued a 判断 它所指的“the well-established 自由言论包含冒犯的权利,实际上包括 abuse another”.

这些问题说明了 使用诸如‘online abuse’涵盖了 通过侮辱性语言表达暴力威胁。

3.触发责任的门槛是多少? 关心?这是某人可能在某处阅读某些内容并声称要承担的风险吗? 结果遭受不利的心理影响?是根据风险衡量的吗 合理容忍的假设用户的名义属性,或者 最容易生气的标准适用吗?那一定有多大可能 someone might suffer an adverse 心理影响 if they read it? Is a 可以合理预见,但可能性很小,足够吗? 

媒体部长John Whittingdale, 决赛刊物的早晨在《每日邮报》上写作 Response, said:

“This is not about an Orwellian state removal 内容 or building a ‘woke-net’ 造成违法行为会导致立即惩罚。  言论自由包括冒犯的权利,以及 成人仍然可以自由访问他人可能不赞成的内容。”

如果风险和伤害阈值足够低并且是主观的,那将是结果。

4.不论风险阈值是多少,会在严格制定的法律中规定还是由Ofcom自行决定?不会忘记Ofcom在2018年的调查中建议受访者‘bad language’是有害的。一年后,它描述了“offensive language” as a “potential 危害”.

5.最后,在没有故意的情况下, 作者没有义务避免对他们的作品的读者造成伤害,即使是心理上的 阅读可能会造成伤害。最高法院已在 罗得岛. The government’因此,该提案将意味着中介机构将拥有 有责任考虑对提交人所针对的材料采取措施 itself has no 注意义务.

这些都是所有问题的核心问题 施加谨慎义务的建议。他们应该成为辩论的主题 在过去的几年中。不幸的是他们被埋葬在匆忙中 包括所有可能的伤害-不管多么不合适, 谨慎义务的法律文书-以及‘systemic’ duties of 从对应该和不应该构成伤害的考虑中抽象出来的关心。

如果政府如此,也就不足为奇了’s proposals became 企图建立普遍性而陷入泥潭 一切定律,仅含糊糊的戒律 网上很糟糕。白皮书中的提议是一座建在流沙上的城堡,如果 not thin air.

的 proposed 的一般定义危害, while not perfect, gives 大厦有一些形状。至少为就 谨慎义务的限制,在线人身安全的法律可保护性质, 及其与言论自由的关系–即使应该采取 两年前。监管机构的监管是否是 监督和警察对个人适当注意的职责 演讲是另一回事。