背景
回顾一下,政府在白皮书中
建议强加“duty 的 care” 上 公司 whose 服务host
用户生成的内容或促进公共或私人在线互动
between 用户 s. 的 注意义务 would also apply to search engines.
范围内的中介机构必须采取合理的措施
防止,减少或减轻对其服务(包括合法内容)的损害
and activity deemed to be 危害ful. By its nature 的 duty placed 上 的
中介是为了防止第三方用户造成伤害的风险
to someone else.
该建议与离线护理职责在两个方面有所不同
主要方面:首先,白皮书并未限制或定义
危害。线下世界中与安全相关的可比职责大约是客观的
可确定的人身伤害和财产损失。一个 undefined concept 的 危害 arising from 上 line
演讲不可避免地是主观和可塑的。它提出了不允许的异议
含糊,随之而来的任意性以及在线演讲的前景
由最容易冒犯的读者,查看者或听众的标准来判断。
Second, 在 的 的 fline world a 安全-related 注意义务
对未能防止第三方相互伤害负有责任
是一个例外,而不是规范-在任何情况下都没有应用
to speech.
白皮书建议中介机构’ duty 的
护理将由全权监管者监督和执行-随后
表示可能是Ofcom-让人联想到电视和
无线电。这代表着与线下世界的根本背离,其中
个人演讲仅受已定的和某些一般法律管辖,而非广播式
由监管机构监管。
所有这些都以离线在线横幅的形式呈现
equivalence.
拟议的在线危害制度的影响,尽管
呈现为监管科技公司,是监管者
通过在线代理间接控制我们自己的个人演讲
中介机构在依法履行义务的情况下行事。如果伤害
保持不确定和不受限制,那么监管机构实际上将
编写自己的在线演讲规则手册的能力– both as to what
构成损害,中介人应采取哪些步骤来减轻
risk 的 speech that 的 regulator deemed to be 危害ful.
2020年2月,政府发布了 初步反应 白皮书表示对该政权进行了一些修订,
particular a ‘differentiated’谨慎地对待
有害但不违法的内容。仍然没有尝试定义
or limit 的 concept 的 危害.
政府现在已经确认Ofcom将成为该计划’自行决定的监管者。的 最终回应 提出
白皮书中描述的机制发生了许多重大变化。
危害范围
最重要的发展是政府拥有 now:
- 建议一个 的一般定义“harmful” 内容和活动:必须引起“合理可预见的 对个人的重大不良生理或心理影响”. [2.2]
- 明显限制了什么 非法 用户内容和活动 出于以下目的 的 注意义务: excluding 共同承担民事责任,也限制了 适用于满足以下条件的一般定义的范围“harmful” [2.24].
它还证实了以前的迹象, 危害s to
organisations 将不在范围内。 [2.2,4.1]知识分子也不会
财产违规,数据保护违规,欺诈,消费者违规
保护法,网络安全漏洞或黑客攻击。暗网造成的危害
活动也将被排除在外。 [2.3]
这些步骤的综合效果是
注意事项已朝着线下可比的方向发展
duties 的 care. 它 is now more focused towards personal 安全 properly
so-called, rather than resting 上 unbounded notions 的 危害. That
立法的新名称也反映了这一点:《在线安全法案》。
举例来说,政府现在解释说
虚假信息不应被视为 本身 危险的
这样做会侵犯言论自由,这是令人无法接受的:
“the 注意义务 will apply to
可能会导致重大生理或心理上的内容或活动
对个人的伤害,包括虚假信息和虚假信息。哪里
虚假信息不太可能造成此类伤害,因此不会超出范围
监管。 Ofcom不应参与与政治相关的决定
法律中的国内行为者分享的意见或竞选活动。” [2.81]
本段回顾了 意见分歧 之间
内政部和DCMS部长在提供证据时讨论5G阴谋论
于2020年5月提交民政事务委员会。
Nevertheless, 的 definition 的 危害ful 保持 s problematic:
尤其是因为包含‘psychological impact’可能表明
伤害的概念仍然与不同读者的主观反应有关。
主观性为最容易被接受的标准的应用打开了大门
用户。并且尽管谨慎义务的主题可能更加紧密
与传统的护理职责保持一致,其性质–防止第三的责任
各方互相伤害–仍然是例外,不是规范
offline world.
《最终回应》提出了由中学提出的创作
具体立法‘事前ity categories’ 的 危害ful content 和 criminal
犯罪,对个人构成最大风险。 [24],[2.3],[2.20]。的
这些类别的意义将在于重新制定
version 的 的 ‘differentiated’政府承担的谨慎义务’s
初始响应(请参见下文)。
Providers 和 服务in scope
根据修订后的提案,范围内提供者将是
split 在 to 两类提供者,但要遵守职责的版本
在履行职责方面需要采取什么步骤方面的谨慎态度有所不同
的保护,以及有害物质的种类。仅指定服务
as Category 1 would be duty-bound to address legal but 危害ful 内容。
Ofcom would determine which 服务meet 的 criteria for
类别1,根据政府先前设定的阈值。的
立法中将规定相关因素:受众人数和
提供的功能。
根据答复,诸如
广泛共享内容或匿名联系用户的能力更可能
造成伤害。 [2.16]。当全球可用性是固有功能时
互联网,将本质上广泛共享内容的能力视为
对于宣称言论自由的政府而言,冒险充满挑战
是拟议监管框架的核心[1.10]。与...相反
流行的口号是,言论自由确实是言论自由的一个方面-正如
印度最高法院 保持 :
"毫无疑问,言论和表达自由包括将信息传播到尽可能广泛的人群的权利。信息流通范围的扩大或影响的扩大,不能限制权利的内容,也不能为剥夺权利辩护。”
在离线世界中,提供专门用于
有危险危险的活动是一种义务
防止游客互相伤害。但是只是建议
使个人能够与大量听众说话是一项危险的冒险活动,它面临着言论自由的生存挑战。
响应 从范围排除:
- 某些 ‘low-risk’ activities: 用户 comments 与数字内容有关的内容 服务。这将排除在线产品和服务评论,以及‘below 的 line’读者对新闻网站文章的评论。 [1.7]
- 三种 服务 : (一种) B2B services 如先前在“初始响应”中所述,(b)在线 services managed by 教育机构 已经受制于 足够的维护职责或期望,以及(c) 电子邮件,语音 电话和SMS / MMS服务 。 [1.6]
关于(c),答复指出“It is not clear what
可以期望提供者采取中介措施来解决这些危害
服务,然后再诉诸监控通信,因此强加了
注意义务将不成比例。”
排除的结果似乎是约翰·刘易斯
现在,“客户评论”部分已超出范围,但有诸如Mumsnet之类的网站
仍将在范围内。
OTT私人信息服务 保持 在适用范围
[1.5]。回应采取的方法与那些明显不同的方法
SMS / MMS服务。可能需要消息提供程序来监视通信
在私人通信服务上,可能有两条路线。
首先,看来Ofcom可能有 酌情包括
实务守则中的监察。 (Strictly speaking, however, this would
并非强制性的,因为提供商始终可以向Ofcom进行演示
它可以通过其他方式有效地履行其谨慎义务[2.48]。)
网上儿童性剥削和
内政部与回应一起发布的滥用行为(CSEA)提供了
技术应该是自愿考虑的。
其次,Ofcom将 表达力量 要求
companies to use “高度准确的自动化技术” to identify 非法
CSEA content 和 activity. 这个 power would be usable 哪里 alternative
措施不能有效解决CSEA。回应中指出
在公共平台上更可能认为这种力量是相称的
比私人服务,不排除私人服务。 Ofcom将是
在行使权力之前,必须征得部长的批准
存在足够精确的工具的基础。回应指出,
政府评估,目前存在足够准确的工具来
识别先前被评估为非法的CSEA材料。 [2.59。
2.60]
响应中未提及加密。
新闻媒体与新闻 潜在的应用
of 的 立法 to news media 和 journalism has been fraught from 的
开始。白皮书未提及该问题,随后
国务卿写信给编辑协会,向他们保证“where
这些服务已经受到良好的监管,就像IPSO和IMPRESS在
他们成员主持的评论部分,我们将不会重复这些努力。
新闻或社论内容不受法规的影响
framework.”
这使问题无法回答,例如
不受IPSO或IMPRESS监管的主流新闻媒体。它也没有解决
报纸的位置’拥有社交媒体页面和提要,这将算作
用户生成的内容,因此由Ofcom通过
intermediaries’ 注意义务.
最终回应(如果有的话)比以前更不清楚。
它确认新闻发布者的评论部分’网站将被淘汰
范围,由于‘low risk’提及的用户评论排除
above. 对于社交媒体供稿,它说
该立法将包括‘robust protections’用于新闻内容
在范围内的服务上共享。关于这些保护可能是什么以及什么
可能会被视为新闻内容,因此回应是无声的。 [1.10,1.12]
Differentiated 注意义务
的 初步反应 proposed a 有区别的 注意义务,
因此,对于合法但有害的材料和活动,仅需要范围内的提供者
透明,一致且(可能)有效地执行标准
他们选择将其纳入条款和条件中。
似乎总是不太可能,因为‘legal but 危害ful’
内容,政府打算将中介机构完全交给他们
自己的设备,以了解将哪些标准(如果有)纳入用户条款
和条件。毕竟,政府在2018年的磋商中表示
对互联网安全策略绿皮书的回应:
“政府已经明确
我们要求所有社交媒体平台都具有[除其他外]:条款和条件
that provide a minimum level 的 安全 和 protection for 用户 s”.]
事实证明。 的 《最终回应》中的提案是复杂而细微的。其主要特点是:
- 超过指定受众的提供商 功能阈值将被指定为类别1提供程序(请参阅 above).
- 希望所有范围内的提供商 评估儿童是否有可能获得他们的服务,如果可以,采取 对使用它们的儿童的附加保护[2.15]
- 只有第1类提供者才需要对成年人访问的合法但有害的内容和活动采取行动[2.15]。
- 的 注意义务 的 non-Category 1 providers for 因此,成年人只适用于犯罪内容和活动 (属于其他类型的除外)存在合理可预见的风险 of a 对个人的重大不良生理或心理影响.
它应该紧随其后,尽管回应 不能完全清楚地说明这一点,对于非类别1提供者, 以下列出的一般义务(例如风险评估)仅适用于 与此类犯罪内容活动的风险有关– 和 that ‘safety’ 也应该从这个意义上理解。
对于第1类提供商,一般 义务将另外适用于提出以下内容的法律内容和活动: 合理可预见的重大身体或心理不利风险 对个人的影响。
一般义务
- 所有范围内的提供者都有一个主要 采取措施阻止用户生成的内容或活动的责任 他们的服务会对个人造成重大的身体或心理伤害。 为此,他们将完成对其与其相关的风险的评估 服务并采取合理措施以减少遭受伤害的风险 确定发生。 [2.7]
- Providers will fulfil 的 注意义务 by putting 在 place systems 和 processes that improve 用户 安全 上 的 ir services –包括,例如,用户工具,内容审核和 推荐程序。 [2.9]
- 提供者将被要求考虑用户’ 权利,包括在线言论自由,均为风险的一部分 评估以及何时决定要采用的安全系统和过程 put 在 place. [2.10]
- 法规将确保透明和 持续使用与有害内容有关的条款和条件。 这将包括防止公司任意删除内容。 [2.10]
- 用户数 must be able to report 危害 when it does 发生并寻求补救,挑战不当删除并引起关注 companies’履行职责。 [2.11]
- 所有提供者都有特定的法律义务 拥有有效且可访问的报告和补救机制。这将涵盖 有害的内容和活动,权利的侵犯(例如超载), 或更广泛的公司担忧’遵守其监管职责 [2.12]
非法内容和活动
- 对于范围内的犯罪活动,所有提供者 将需要确保迅速删除非法内容,并且 有效地将其出现并分散在其服务中的风险降到最低 systems [2.19]
- 犯罪的优先类别 将规定供应商采取特别有力的行动 in secondary 立法. [2.20] For CSEA 和 terrorism this may 在 clude 主动识别和阻止或清除此类材料(如果有) 措施尚未奏效,保障措施也到位。 [2.21]
回应没有提及 义务可能与全面监控的禁令相一致 obligations under Article 15 的 的 eCommerce Directive. 政府 has 表示,在英国退欧的背景下,它目前没有改变英国的计划’s 禁止一般监控要求的方法。
成人访问的合法但有害的内容和活动(仅类别1提供者)
- 的 立法 will not require removal 的 特定的法律内容[2.28],除非特别指定 the provider’的条款和条件[2.33]条款可能与 例如,标记和取消优先级[2.32]。
- Priority categories 的 legal but 危害ful 材料将在二级立法中规定。这些将是 第1类提供者应至少提供的合法但有害的材料, 通过他们的条款和条件解决。响应给出了以下示例 宣传自我伤害,仇恨内容,不符合 犯罪行为的门槛,以及鼓励或促进饮食的内容 disorders. [2.29]
- 第1类提供商必须说明 他们将如何处理其他类别的合法但有害的材料 在他们的风险评估中,并明确他们的服务可接受的条件 对于该内容。 [2.31]
有争议的观点
- 第1类公司将无法随意 删除有争议的观点,用户将可以寻求补救,如果他们 觉得内容被不公平地删除了。 [2.34]
- 用户补救机制将使用户能够 挑战过分限制其表达自由的内容。这个 似乎适用于所有范围内的提供商(附件A)。
这些规定似乎是 ‘impartiality’发布之前在媒体上追随的要求 最终回应,据报道是在唐宁街10号的煽动下进行的。它 尚不清楚这些规定是否旨在取代实质性规定 提供者中规定的政策’条款和条件。他们似乎是 与非法或有害问题无关或至少要扩大 content.
小孩儿
- All 公司 在适用范围 will required to assess 儿童获得服务的可能性。 [2.36]仅可能提供服务 须由儿童使用,以提供额外的保护 对于接触儿童的儿童,首先要进行特定的儿童安全 风险评估。 [2.36],[2.37]
- 政府 will set out 在 secondary legislation 事前ity categories 的 legal but 危害ful content 和 activity impacting children, meeting 的 的一般定义危害ful content 和 活动已描述。这些类别会影响到那些 范围内的公司至少应采取行动。 [2.38]
- 年龄保证和年龄验证技术 有望在履行护理义务方面发挥关键作用。 [2.41]
实务守则
最终回应增加了影响力
政府将超过Ofcom’的行为准则。 Ofcom将
要求将《工作守则》的最终草案发送给文化部长
和内政大臣,他们将有权拒绝守则草案,以及
要求监管机构出于与政府相关的原因进行修改
policy.
国会将有机会辩论和投票
政府为《行为准则》设定的高水平目标
通过肯定的解决程序。完成的代码将被放置
议会,但须经否决。 [4.10]
搜索引擎
在最终回应中,关于拟议提案如何
谨慎的义务将适用于搜索引擎,而不仅仅是对操作的简要概述
they can take to mitigate 的 risk 的 危害 和 proportionate systems 和
他们应该采取的确保用户安全的流程。
搜索引擎 would need to assess 的 risk 的 危害
在整个服务过程中发生。 Ofcom将提供针对
有关监管期望的搜索引擎
政府 提出 that given 的 distinct nature 的
search engines, 立法 和 codes 的 practice would 在 clude specific
给他们的材料。它说所有法规要求
相称并尊重搜索引擎在启用访问权方面的关键作用
在线信息。 [1.3]
地域性
最终回应首次提出了
territorial reach 的 的 proposed 立法. Somewhat surprisingly, it
似乎建议服务应受英国法律的约束‘mere availability
of content’基础。鉴于互联网的默认跨境性质,
无异于为整个世界进行域外立法。它会
随之而来的是,世界其他地方的任何提供商都必须进行地理围栏
它的服务将英国排除在外,以免违反英国法律。立法
a 仅仅是可用性 basis has been 的 subject 的 criticism over many years
自从互联网问世以来。 [1.1]
整体评论
政府的基本问题’白皮书提案
have been 详尽讨论 在以前的场合。让人想起荒野西部的警长
互联网经常被比喻为Ofcom会招募代表-社会
媒体平台和其他中介机构,应负起法律责任-
监管不守规矩的网络人口。但是,与同等的荒野西部不同,
Ofcom可以定义其领土并编写规则并执行
them.
的 在 troduction 的 a 的一般定义危害 would tie Ofcom’s
在某种程度上决定什么构成和不构成有害
言语。限制范围‘harm’ to a 合理可预见的
对个人的重大不利生理或心理影响
使拟议的护理职责与类似的离线服务更加紧密地结合的方法
duties 的 care, which are specifically 安全-related.
但是,当在语音环境中使用时 仍然是重大问题。
1. What is an adverse 心理影响? Does it 必须是医学公认的疾病?如果不是,它的宽度是多少? 苦恼足够了吗?含义越广,我们越接近限制,这可能意味着沮丧或无所适从。 不开心含义越不清楚,将赋予更多的酌处权 Ofcom决定什么才算是危害,以及提供者更有可能 在确定哪种类型的内容或活动时要谨慎 in scope 的 的 ir 注意义务.
2.困难,更不用说虚拟不可能了 监管者和提供者面临的任务不容小under。从而, for 的 lawful but 危害ful category, 的 government has said that it will 将在线滥用列为次要立法中的优先类别。但是,在 这些建议的依据必须仅限于属于 the 的一般定义危害 –即滥用行为 可预见的对身体或心理有重大不利影响的风险 个人。提供者’谨慎行事的行为应仅与 这种有害的虐待。具体来说,滥用之间的分界线 是否会带来可预见的不利心理影响风险?什么 content falls 上 either side 的 的 线?
提供者还必须考虑 考虑到拟议的义务不消除有争议的观点,并且 用户纠正过度表达自由的可能性。 巧合的是, 斯科特诉CPS 在过去的几个 days issued a 判断 它所指的“the well-established 自由言论包含冒犯的权利,实际上包括 abuse another”.
这些问题说明了 使用诸如‘online abuse’涵盖了 通过侮辱性语言表达暴力威胁。
3.触发责任的门槛是多少? 关心?这是某人可能在某处阅读某些内容并声称要承担的风险吗? 结果遭受不利的心理影响?是根据风险衡量的吗 合理容忍的假设用户的名义属性,或者 最容易生气的标准适用吗?那一定有多大可能 如果有人阅读,可能会对他们造成不利的心理影响?是一个 可以合理预见,但可能性很小,足够吗?
媒体部长John Whittingdale, 决赛刊物的早晨在《每日邮报》上写作 Response, said:
“This is not about an Orwellian state removal 内容 or building a ‘woke-net’ 造成违法行为会导致立即惩罚。 言论自由包括冒犯的权利,以及 成人仍然可以自由访问他人可能不赞成的内容。”
如果风险和伤害阈值足够低并且是主观的,那将是结果。
4.不论风险阈值是多少,会在严格制定的法律中规定还是由Ofcom自行决定?不会忘记Ofcom在2018年的调查中建议受访者‘bad language’是有害的。一年后,它描述了“offensive language” as a “potential 危害”.
5.最后,在没有故意的情况下, 作者没有义务避免对他们的作品的读者造成伤害,即使是心理上的 阅读可能会造成伤害。最高法院已在 罗得岛 . The government’因此,该提案将意味着中介机构将拥有 有责任考虑对提交人所针对的材料采取措施 itself has no 注意义务.
这些都是所有问题的核心问题
施加谨慎义务的建议。他们应该成为辩论的主题
在过去的几年中。不幸的是他们被埋葬在匆忙中
包括所有可能的伤害-不管多么不合适,
谨慎义务的法律文书-以及‘systemic’ duties 的
从对应该和不应该构成伤害的考虑中抽象出来的关心。
如果政府如此,也就不足为奇了’s proposals became
企图建立普遍性而陷入泥潭
一切定律,仅含糊糊的戒律
网上很糟糕。白皮书中的提议是一座建在流沙上的城堡,如果
not thin air.
的 proposed 的一般定义危害, while not perfect, gives
大厦有一些形状。至少为就
谨慎义务的限制,在线人身安全的法律可保护性质,
及其与言论自由的关系–即使应该采取
两年前。监管机构的监管是否是
监督和警察对个人适当注意的职责
演讲是另一回事。