的 government has 没有w published 的 最终回应 对其
2019年4月的咨询 在线危害白皮书.
背景
回顾一下,政府在白皮书中
建议强加“duty 的 care” 上 公司 whose 服务 host
用户生成的内容或促进公共或私人在线互动
between 用户s. 的 注意义务 would also apply to search engines.
范围内的中介机构必须采取合理的措施
防止,减少或减轻对其服务(包括合法内容)的损害
and activity deemed to 是 危害ful. By its nature 的 duty placed 上 的
中介是为了防止第三方用户造成伤害的风险
to someone else.
该建议与离线护理职责在两个方面有所不同
主要方面:首先,白皮书并未限制或定义
危害。线下世界中与安全相关的可比职责大约是客观的
可确定的人身伤害和财产损失。一个 undefined concept 的 危害 arising from 上line
演讲不可避免地是主观和可塑的。它提出了不允许的异议
含糊,随之而来的任意性以及在线演讲的前景
由最容易冒犯的读者,查看者或听众的标准来判断。
Second, 在 的 的fline world a 安全-related 注意义务
对未能防止第三方相互伤害负有责任
是一个例外,而不是规范-在任何情况下都没有应用
to speech.
的 White 纸 提议的 那 的 中介人’ duty 的
护理将由全权监管者监督和执行-随后
表示可能是Ofcom-让人联想到电视和
无线电。这代表着与线下世界的根本背离,其中
个人演讲仅受已定的和某些一般法律管辖,而非广播式
由监管机构监管。
所有这些都以离线在线横幅的形式呈现
equivalence.
的 effect 的 的 提议的 线上 Harms regime, although
呈现为监管科技公司,是监管者
通过在线代理间接控制我们自己的个人演讲
中介机构在依法履行义务的情况下行事。如果伤害
保持不确定和不受限制,那么监管机构实际上将
编写自己的在线演讲规则手册的能力– both as to what
构成损害,中介人应采取哪些步骤来减轻
risk 的 speech 那 的 regulator deemed to 是 危害ful.
2020年2月,政府发布了 初步反应 白皮书表示对该政权进行了一些修订,
particular a ‘differentiated’谨慎地对待
content 那 was 危害ful but 没有t 非法. 的re was still 没有 在tempt to define
or limit 的 concept 的 危害.
的 government has 没有w confirmed 那 Ofcom will 是 的 scheme’s discretionary regulator. 的 最终回应 提出
白皮书中描述的机制发生了许多重大变化。
危害范围
的 most significant development is 那 的 government has
now:
- 建议一个 的一般定义“harmful”
内容和活动:必须引起“合理可预见的
对个人的重大不良生理或心理影响”. [2.2]
- 明显限制了什么 非法
用户内容和活动 for 的 purposes 的 的 注意义务: excluding
共同承担民事责任,也限制了
适用于满足以下条件的一般定义的范围“harmful” [2.24].
它还证实了以前的迹象, 危害s to
organisations 将不在范围内。 [2.2,4.1]知识分子也不会
property breaches, data 保护 breaches, fraud, breaches 的 consumer
保护法,网络安全漏洞或黑客攻击。暗网造成的危害
活动也将被排除在外。 [2.3]
的 combined effect 的 的se steps is 那 的 subject
注意事项已朝着线下可比的方向发展
duties 的 care. 它 is 没有w more focused towards personal 安全 properly
so-called, rather than resting 上 unbounded 没有tions 的 危害. That
立法的新名称也反映了这一点:《在线安全法案》。
举例来说,政府现在解释说
虚假信息不应被视为 本身 危险的
这样做会侵犯言论自由,这是令人无法接受的:
“the 注意义务 will apply to
可能会导致重大生理或心理上的内容或活动
对个人的伤害,包括虚假信息和虚假信息。哪里
虚假信息不太可能造成此类伤害,因此不会超出范围
监管。 Ofcom不应参与与政治相关的决定
法律中的国内行为者分享的意见或竞选活动。” [2.81]
本段回顾了 意见分歧 之间
内政部和DCMS部长在提供证据时讨论5G阴谋论
于2020年5月提交内政委员会。
Nevertheless, 的 definition 的 危害ful 保持s problematic:
尤其是因为包含‘psychological impact’可能表明
伤害的概念仍然与不同读者的主观反应有关。
主观性为最容易被接受的标准的应用打开了大门
用户。并且尽管谨慎义务的主题可能更加紧密
与传统的护理职责保持一致,其性质–防止第三的责任
各方互相伤害–仍然是例外,不是规范
offline world.
的 最终回应 提出 的 creation, by 次要的
具体立法‘优先类别’ 的 危害ful 内容 和 criminal
offences, posing 的 greatest risk to 在 dividuals. [24], [2.3], [2.20]. 的
这些类别的意义将在于重新制定
version 的 的 ‘differentiated’政府承担的谨慎义务’s
初始响应(请参见下文)。
Providers 和 服务 在适用范围
根据修订后的提案,范围内提供者将是
split 在 to 两类提供者,但要遵守职责的版本
在履行职责方面需要采取什么步骤方面的谨慎态度有所不同
of care, 和 在 respect 的 what kinds 的 危害ful 内容。 Only 服务 designated
as Category 1 would 是 duty-bound to address legal but 危害ful 内容。
Ofcom would determine which 服务 meet 的 criteria for
Category 1, according to thresholds previously set by 的 government. 的
立法中将规定相关因素:受众人数和
提供的功能。
根据答复,诸如
广泛共享内容或匿名联系用户的能力更可能
造成伤害。 [2.16]。当全球可用性是固有功能时
互联网,将本质上广泛共享内容的能力视为
对于宣称言论自由的政府而言,冒险充满挑战
是拟议监管框架的核心[1.10]。与...相反
流行的口号是,言论自由确实是言论自由的一个方面-正如
印度最高法院 保持:
"毫无疑问,言论和表达自由包括将信息传播到尽可能广泛的人群的权利。信息流通范围的扩大或影响的扩大,不能限制权利的内容,也不能为剥夺权利辩护。”
在里面 的fline world, providing a venue specifically for
有危险危险的活动是一种义务
防止游客互相伤害。但是只是建议
使个人能够与大量听众说话是一项危险的冒险活动,它面临着言论自由的生存挑战。
的 Response 从范围排除:
- 某些 ‘low-risk’ activities: 用户
comments 与数字内容有关的内容
服务。这将排除在线产品和服务评论,以及‘below 的
line’读者对新闻网站文章的评论。 [1.7]
- 三种 服务: (一种) B2B
services 如先前在“初始响应”中所述,(b)在线
services managed by 教育机构 已经受制于
足够的维护职责或期望,以及(c) 电子邮件,语音
telephone 和 SMS/MMS 服务。 [1.6]
关于(c),答复指出“It is 没有t clear what
可以期望提供者采取中介措施来解决这些危害
服务,然后再诉诸监控通信,因此强加了
注意义务将不成比例。”
的 result 的 的 exclusions appears to 是 那 的 John Lewis
现在,“客户评论”部分已超出范围,但有诸如Mumsnet之类的网站
仍将在范围内。
OTT private messaging 服务 保持 在适用范围
[1.5]. 的 Response takes an approach to those 那 differs markedly from
SMS/MMS 服务. Messaging providers may 是 required to monitor 通讯s
on private 通讯s 服务, potentially by two routes.
首先,看来Ofcom可能有 酌情包括
实务守则中的监察。 (严格来说,这会
并非强制性的,因为提供商始终可以向Ofcom进行演示
that it can fulfil its 注意义务 as effectively 以其他方式 [2.48].) 的
网上儿童性剥削和
内政部与回应一起发布的滥用行为(CSEA)提供了
technology should 是 考虑过 上 a voluntary basis.
其次,Ofcom将 表达力量 要求
companies to use “高度准确的自动化技术” to identify 非法
CSEA 内容 和 activity. 这个 power would 是 usable 哪里 alternative
措施不能有效解决CSEA。回应中指出
在公共平台上更可能认为这种力量是相称的
than private 服务, private 服务 are 没有t excluded. Ofcom would 是
在行使权力之前,必须征得部长的批准
basis 那 sufficiently accurate tools exist. 的 Response 没有tes 那 的
政府评估,目前存在足够准确的工具来
识别先前被评估为非法的CSEA材料。 [2.59。
2.60]
响应中未提及加密。
新闻媒体与新闻 的 potential application
有关新闻媒体和新闻业的法律法规,
outset. 的 White 纸 did 没有t mention 的 issue, following which 的 的n
国务卿写信给编辑协会,向他们保证“where
these 服务 are already well regulated, as IPSO 和 IMPRESS do regarding
他们成员主持的评论部分,我们将不会重复这些努力。
新闻或社论内容不受法规的影响
framework.”
这使问题无法回答,例如
不受IPSO或IMPRESS监管的主流新闻媒体。它也没有解决
报纸的位置’拥有社交媒体页面和提要,这将算作
用户生成的内容,因此由Ofcom通过
intermediaries’ 注意义务.
的 最终回应 is, if anything, less clear than previously.
它确认新闻发布者的评论部分’网站将被淘汰
范围,由于‘low risk’提及的用户评论排除
above. 对于社交媒体供稿,它说
该立法将包括‘robust 保护s’用于新闻内容
shared 上 在 -scope 服务. 至于 what those 保护s might 是, 和 what
可能会被视为新闻内容,因此回应是无声的。 [1.10,1.12]
Differentiated 注意义务
的 初步反应 提议的 a 有区别的 注意义务,
因此,对于合法但有害的材料和活动,仅需要范围内的提供者
透明,一致且(可能)有效地执行标准
他们选择将其纳入条款和条件中。
似乎总是不太可能,因为‘legal but 危害ful’
内容,政府打算将中介机构完全交给他们
自己的设备,以了解将哪些标准(如果有)纳入用户条款
和条件。毕竟,政府在2018年的磋商中表示
对互联网安全策略绿皮书的回应:
“政府已经明确
我们要求所有社交媒体平台都具有[除其他外]:条款和条件
that provide a minimum level 的 安全 和 保护 for 用户s”.]
事实证明。 的
《最终回应》中的提案是复杂而细微的。其主要特点是:
- 超过指定受众的提供商
功能阈值将被指定为类别1提供程序(请参阅
above).
- 希望所有范围内的提供商
assess whether children are likely to access 的ir 服务 和, if so, to take
additional 保护s for children using 的m [2.15]
- 只有第1类提供者才需要对成年人访问的合法但有害的内容和活动采取行动[2.15]。
- 的 注意义务 的 没有n-Category 1 providers for
因此,成年人只适用于犯罪内容和活动
(属于其他类型的除外)存在合理可预见的风险
of a 对个人的重大不良生理或心理影响.
它应该紧随其后,尽管回应
不能完全清楚地说明这一点,对于非类别1提供者,
以下列出的一般义务(例如风险评估)仅适用于
与此类犯罪内容活动的风险有关– 和 那 ‘safety’
也应该从这个意义上理解。
对于第1类提供商,一般
义务将另外适用于提出以下内容的法律内容和活动:
合理可预见的重大身体或心理不利风险
对个人的影响。
一般义务
- All 在 -scope providers have a 主
采取措施阻止用户生成的内容或活动的责任
their 服务 causing significant physical or psychological 危害 to 在 dividuals.
为此,他们将完成对其与其相关的风险的评估
服务并采取合理措施以减少遭受伤害的风险
确定发生。 [2.7]
- Providers will fulfil 的 注意义务 by
putting 在 place systems 和 processes 那 improve 用户 安全 上 的ir
services –包括,例如,用户工具,内容审核和
推荐程序。 [2.9]
- 提供者将被要求考虑用户’
权利,包括在线言论自由,均为风险的一部分
评估以及何时决定要采用的安全系统和过程
put 在 place. [2.10]
- 法规将确保透明和
持续使用与有害内容有关的条款和条件。
这将包括防止公司任意删除内容。
[2.10]
- 用户数 一定是 able to report 危害 when it does
发生并寻求补救,挑战不当删除并引起关注
companies’履行职责。 [2.11]
- 所有提供者都有特定的法律义务
拥有有效且可访问的报告和补救机制。这将涵盖
有害的内容和活动,权利的侵犯(例如超载),
或更广泛的公司担忧’遵守其监管职责
[2.12]
非法内容和活动
- 对于范围内的犯罪活动,所有提供者
将需要确保迅速删除非法内容,并且
risk 的 it appearing 和 spreading across 的ir 服务 is minimised by effective
systems [2.19]
- 犯罪的优先类别
将规定供应商采取特别有力的行动
in 次要的 立法. [2.20] For CSEA 和 terrorism this may 在 clude
主动识别和阻止或清除此类材料(如果有)
措施尚未奏效,保障措施也到位。 [2.21]
的 Response is silent as to how such an
义务可能与全面监控的禁令相一致
obligations under 文章 15 的 的 eCommerce 指示. 的 government has
表示,在英国退欧的背景下,它目前没有改变英国的计划’s
禁止一般监控要求的方法。
成人访问的合法但有害的内容和活动(仅类别1提供者)
- 的 立法 will 没有t require removal 的
特定的法律内容[2.28],除非特别指定
the provider’的条款和条件[2.33]条款可能与
例如,标记和取消优先级[2.32]。
- Priority categories 的 legal but 危害ful
material will 是 set out 在 次要的 立法. 的se will 是 categories 的
legal but 危害ful material 那 Category 1 providers should, 在 a minimum,
address 通过 的ir terms 和 conditions. 的 Response gives 的 examples 的
宣传自我伤害,仇恨内容,不符合
犯罪行为的门槛,以及鼓励或促进饮食的内容
disorders. [2.29]
- 第1类提供商必须说明
他们将如何处理其他类别的合法但有害的材料
in 的ir risk assessment 和 make clear what is acceptable 上 的ir 服务
对于该内容。 [2.31]
有争议的观点
- 第1类公司将无法随意
删除有争议的观点,用户将可以寻求补救,如果他们
觉得内容被不公平地删除了。 [2.34]
- 用户补救机制将使用户能够
挑战过分限制其表达自由的内容。这个
似乎适用于所有范围内的提供商(附件A)。
的se provisions appear to 是 的
‘impartiality’发布之前在媒体上追随的要求
最终回应,据报道是在唐宁街10号的煽动下进行的。它
尚不清楚这些规定是否旨在取代实质性规定
提供者中规定的政策’ terms 和 conditions. 的y appear to 是
与非法或有害问题无关或至少要扩大
content.
小孩儿
- All 公司 在适用范围 will required to assess
the likelihood 的 children accessing 的ir 服务. [2.36] Only 服务 likely
须由儿童使用,以提供额外的保护
对于接触儿童的儿童,首先要进行特定的儿童安全
风险评估。 [2.36],[2.37]
- 的 government will set out 在 次要的
legislation 优先类别 的 legal but 危害ful 内容 和 activity
impacting children, meeting 的 的一般定义危害ful 内容 和
activity already described. 的se will 是 categories impacting children 那
范围内的公司至少应采取行动。 [2.38]
- 年龄保证和年龄验证技术
有望在履行护理义务方面发挥关键作用。 [2.41]
实务守则
的 最终回应 has 在 creased 的 amount 的 在 fluence
政府将超过Ofcom’的行为准则。 Ofcom将
要求将《工作守则》的最终草案发送给文化部长
和内政大臣,他们将有权拒绝守则草案,以及
要求监管机构出于与政府相关的原因进行修改
policy.
国会将有机会辩论和投票
政府为《行为准则》设定的高水平目标
通过肯定的解决程序。完成的代码将被放置
议会,但须经否决。 [4.10]
搜索引擎
在最终回应中,关于拟议提案如何
谨慎的义务将适用于搜索引擎,而不仅仅是对操作的简要概述
they can take to mitigate 的 risk 的 危害 和 成比例的 systems 和
他们应该采取的确保用户安全的流程。
搜索引擎 would need to assess 的 risk 的 危害
在整个服务过程中发生。 Ofcom将提供针对
有关监管期望的搜索引擎
的 government 提出 那 given 的 distinct nature 的
搜索引擎,法规和业务守则将包括
给他们的材料。它说所有法规要求
相称并尊重搜索引擎在启用访问权方面的关键作用
在线信息。 [1.3]
地域性
最终回应首次提出了
拟议立法的领土范围。令人惊讶的是
appears to propose 那 服务 should 是 subject to UK law 上 a ‘mere availability
of 内容’基础。鉴于互联网的默认跨境性质,
无异于为整个世界进行域外立法。它会
随之而来的是,世界其他地方的任何提供商都必须进行地理围栏
它的服务将英国排除在外,以免违反英国法律。立法
a 仅仅是可用性 basis has 是en 的 subject 的 criticism 过度 many years
自从互联网问世以来。 [1.1]
整体评论
的 fundamental issues with 的 government’白皮书提案
have 是en 详尽讨论 在以前的场合。让人想起荒野西部的警长
互联网经常被比喻为Ofcom会招募代表-社会
媒体平台和其他中介机构,应负起法律责任-
监管不守规矩的网络人口。但是,与同等的荒野西部不同,
Ofcom可以定义其领土并编写规则并执行
them.
的 在 troduction 的 a 的一般定义危害 would tie Ofcom’s
hands to some degree 在 deciding what does 和 does 没有t constitute 危害ful
言语。限制范围‘harm’ to a 合理可预见的
对个人的重大不利生理或心理影响
使拟议的护理职责与类似的离线服务更加紧密地结合的方法
duties 的 care, which are specifically 安全-related.
但是,当在语音环境中使用时
仍然是重大问题。
1. What is an adverse 心理影响? Does it
必须是医学公认的疾病?如果不是,它的宽度是多少?
苦恼足够了吗?含义越广,我们越接近限制,这可能意味着沮丧或无所适从。
unhappy. 的 less clear 的 meaning, 的 more discretion would 是 vested 在
Ofcom决定什么才算是危害,以及提供者更有可能
在确定哪种类型的内容或活动时要谨慎
in scope 的 的ir 注意义务.
2. 的 困难, 没有t to say virtual impossibility, 的 的
监管者和提供者面临的任务不容小under。从而,
for 的 lawful but 危害ful category, 的 government has said 那 it will
将在线滥用列为次要立法中的优先类别。但是,在
这些建议的依据必须仅限于属于
the 的一般定义危害 –即滥用行为
可预见的对身体或心理有重大不利影响的风险
individuals. 的 provider’谨慎行事的行为应仅与
这种有害的虐待。具体来说,滥用之间的分界线
是否会带来可预见的不利心理影响风险?什么
content falls 上 either side 的 的 线?
的 provider would also have to take 在 to
考虑到拟议的义务不消除有争议的观点,并且
用户纠正过度表达自由的可能性。
巧合的是, 斯科特诉CPS 在过去的几个
days issued a 判断 它所指的“the well-established
自由言论包含冒犯的权利,实际上包括
abuse another”.
的se issues illustrate 的 care 那 has
使用诸如‘online abuse’涵盖了
通过侮辱性语言表达暴力威胁。
3.触发责任的门槛是多少?
关心?这是某人可能在某处阅读某些内容并声称要承担的风险吗?
结果遭受不利的心理影响?是根据风险衡量的吗
合理容忍的假设用户的名义属性,或者
最容易生气的标准适用吗?那一定有多大可能
如果有人阅读,可能会对他们造成不利的心理影响?是一个
可以合理预见,但可能性很小,足够吗?
的 媒体 Minister John Whittingdale,
决赛刊物的早晨在《每日邮报》上写作
Response, said:
“This
is 没有t about an Orwellian state removal 内容 or building a ‘woke-net’
造成违法行为会导致立即惩罚。 言论自由包括冒犯的权利,以及
成人仍然可以自由访问他人可能不赞成的内容。”
如果风险和伤害阈值足够低并且是主观的,那将是结果。
4.不论风险阈值是多少,会在严格制定的法律中规定还是由Ofcom自行决定?不会忘记Ofcom在2018年的调查中建议受访者‘bad language’是有害的。一年后,它描述了“offensive language” as a “potential 危害”.
5.最后,在没有故意的情况下,
作者没有义务避免对他们的作品的读者造成伤害,即使是心理上的
阅读可能会造成伤害。最高法院已在 罗得岛.
The government’因此,该提案将意味着中介机构将拥有
有责任考虑对提交人所针对的材料采取措施
itself has 没有 注意义务.
的se are difficult issues 那 go 到 heart 的 any
proposal to impose a 注意义务. 的y ought to 已经 的 subject 的 debate
在过去的几年中。不幸的是他们被埋葬在匆忙中
包括所有可能的伤害-不管多么不合适,
谨慎义务的法律文书-以及‘systemic’ duties 的
从对应该和不应该构成伤害的考虑中抽象出来的关心。
如果政府如此,也就不足为奇了’s 提案 是came
企图建立普遍性而陷入泥潭
一切定律,仅含糊糊的戒律
badly 上line. 的 White 纸 提案 were a castle built 上 quicksand, if
not thin air.
的 提议的 的一般定义危害, while 没有t perfect, gives
大厦有一些形状。至少为就
谨慎义务的限制,在线人身安全的法律可保护性质,
及其与言论自由的关系–即使应该采取
两年前。监管机构的监管是否是
监督和警察对个人适当注意的职责
演讲是另一回事。