2019年4月18日,星期四

用户数 表现不好 – the Online 危害s White Paper

上周一,花了一天的大部分时间阅读英国政府的 Online 危害s White Paper, 一世 总结 如果通往地狱的道路是善意铺成的,那就是一条高速公路。

经过充分和进一步的考虑,将近两个星期后,我发现没有任何东西可以改变这种看法。这就是为什么。

白皮书

首先,提醒一下白皮书的建议。政府打算立法制定一项法定‘duty of care’在社交媒体平台上以及“允许用户共享或发现用户生成的内容,或彼此在线交互”的其他众多互联网公司。范围可能从公共讨论论坛到带有用户评论的网站,再到搜索引擎,消息传递提供商,文件共享站点,云托管提供商等等。 

The 注意义务 would require them to “对用户的安全承担更多责任,并应对由于其服务上的内容或活动而造成的伤害”. This would apply not 上ly to illegal content and activities, but also to lawful material regarded as 有害.

The 注意义务 would be overseen and enforced by a regulator armed with power to fine companies for non-compliance. That might be an existing or a new body (称之为Ofweb)。


Ofweb would set out rules in Codes of Practice that the intermediary companies should follow to comply with their 注意义务. For terrorism and child sexual abuse material the 首页 Secretary would have direct control over the relevant Codes of Practice.

用户将获得对中介公司的有保证的投诉机制。政府正在咨询任命指定组织的可能性,这些组织将能够‘super-complaints’ to the regulator.

白皮书以技术公司法规为框架,’目标是在线用户的活动和交流。 Ofweb一口气将监管社交媒体和互联网用户。它将是一个在线警长,有权通过其在线中间代理人决定和监管用户可以在网上说什么,也可以不在网上说什么。

Which lawful content would count as 有害 is not defined. 白皮书 provides an ‘initial’内容和行为清单:网络欺凌和拖钓;极端主义的内容和活动;强制行为;恐吓虚假信息暴力内容;提倡自我伤害;促进女性外阴残割(FGM)。

这不是一个可以轻易转化为立法的清单,即使那是政府’的意图。一些主题-例如FGM–比其他人更具体。但大多数人几乎和‘harmful’本身。例如,白皮书没有说明什么是拖钓。它只说‘网络欺凌,包括拖钓是不可接受的’。它也可以说‘表现不好是不可接受的’.

无论如何,白皮书都给人留下了深刻的印象,即立法将回避这种特殊程度,仅根据‘harmful’.

白皮书 does not say in terms how the ‘initial’范围的内容和行为列表将得到扩展。监管者似乎将决定:

“This list is, by design, neither exhaustive nor fixed. A static list could prevent swift regulatory action to address new forms of 上line 危害, new technologies, content and new 上line activities.” [2.2]
In that event Ofweb would effectively have the power to decide what should and should not be regarded as 有害.

白皮书 proposes some exclusions: 危害s suffered by companies as opposed to individuals, data protection breaches, 危害s suffered by individuals resulting directly from a breach of cyber security or hacking, and all 危害s suffered by individuals 上 the dark web rather than the open internet.


这是白皮书提案的可视化,以及类似的离线护理职责。 

  
好的意图

白皮书 is suffused with good intentions. It sets out to forge a single sword of truth and righteousness with which to assail all manner of 上line content from terrorist propaganda to offensive material.

但是,挥舞着高尚的旗帜并不能保证军队朝着正确的方向前进。这也不排除专门单位将更有效的可能性。

政府将这种包罗万象的方法视为一种美德,与以下几点形成对比:
“a range of UK regulations aimed 在 specific 上line 危害s or services in scope of the White Paper, but [which] creates a fragmented regulatory environment which is insufficient to meet the full breadth of the challenges we face” [2.5].
An aversion to fragmentation is like saying that instead of the framework of criminal offences and civil liability, focused 上 specific kinds of conduct, that make up our mosaic of offline laws we should have a single offence of 表现不好.

我们不能静心地设想这种普遍罪行。禁止恶劣行为法将对主观和任意解释开放,以至于与法律相反:按特别命令进行统治。可以肯定的是,它不能满足合理确定性的法治要求。同样,我们应该以怀疑的态度对待任何带有反对网上不良行为的普遍性法律的行为。

In placing an undefined and unbounded notion of 危害 在 the centre of its proposals for a universal 注意义务, the government has set off down that path.

Three degrees of undefined 危害

伤害是一个无定形的概念。它会根据有权使用它的人的意见而改变形状:在政府中’s proposal, Ofweb.

Even when limited to 危害 suffered by an individual, 危害 is an ambiguous term. It will certainly include objectively ascertainable physical injury – the kind of 危害 to which comparable offline duties of care are addressed.

但这还可能包括主观伤害,具体取决于某人’他们认为自己遭受了自己认为的伤害。当应用于语音时,这是很成问题的。一个人可能会喜欢读一篇辛辣的散文。另一个人可能会心疼。当不同的人对阅读或听到的内容有不同的反应时,如何确定伤害或伤害风险?苦恼足以使有害的东西吗?轻度不适或中度烦恼呢?冒犯性会造成伤害吗?从根本上讲,言语暴力是吗? 

‘Harm’因此,没有可识别的界限,至少没有一个会通过立法确定性测试。

这在白皮书中特别明显’关于虚假信息的讨论。在抗疫苗接种方面,白皮书指出“Inaccurate information, regardless of intent, can be 有害”.

Having equated inaccuracy with 危害, the White Paper contradictorily claims that the regulator and its 上line intermediary proxies can protect users from 危害 without policing truth or accuracy:

“我们很清楚,监管机构将不负责在线维护真相和准确性。” [36] 
“Importantly, the code of practice that addresses disinformation will ensure the focus is 上 protecting users from 危害, not judging what is true or not.” [7.31]
白皮书 acknowledges 那:
“与此相关的判断将很困难。政府和未来的监管机构将与民间社会,行业和其他团体广泛接触,以确保采取尽可能有效的行动,并且不会损害在线言论自由” [7.31]
不能通过在桌旁摆一些有兴趣的各方来解决矛盾。在这种裂缝中,这样的提议不可避免地扎在裂缝中,并且没有逃脱的可能。

可以将第三种伤害(但更为含糊)归类为‘harm to society’。这种伤害不依赖于识别可能直接受到伤害的个人。它倾向于纯粹的抽象,可以根据解释机构的意愿进行延展。

危害s to society feature heavily in the White Paper, for example: content or activity 那:

“通过破坏国家安全或减少信任并破坏我们的共同权利,责任和促进融合的机会,威胁着我们在英国的生活方式。”
类似地:
“破坏我们的民主价值观和辩论”;

“鼓励我们做出可能损害我们健康的决定,破坏我们对彼此的尊重和容忍,并混淆我们对更广阔世界正在发生的事情的理解。”
这种散文可能适合肥皂剧或选举宣言,但在立法中或附近都没有地位。

民主赤字

One particular concern is the potential for a 注意义务 supervised by a regulator and based 上 a malleable notion of 危害 to be used as a mechanism to give effect to some Ministerial policy of the day, without the need to obtain legislation.

因此,在白皮书卫生部长马特·汉考克(Matt Hancock)发布前两周 建议的 that anti-vaxxers could be targeted via the forthcoming 注意义务.

白皮书 duly recorded, under “对我们生活方式的威胁”, that “Inaccurate information, regardless of intent, can be 有害 –例如,不正确的反疫苗接种消息在线传播会危害公共健康。” [1.23]

如果国务卿决定他想让反vaxxers沉默,正确的做法是向议会提出一项法案,进行辩论,如果议会同意,则将其通过成为法律。白皮书设想的结构将创建一个渠道,通过该渠道,部长级沉默特定群体或某种言论的临时政策可以被定为打击在线危害,并推向监管机构,然后由其在线中介机构实施。这样的计划已经使民主赤字深陷其中。

也许认识到这一点,政府正在咨询议会是否应在开发或批准Ofweb中发挥作用’的行为准则。然而,这更多的是抹灰而不是治愈。

不允许的模糊性

在非特定性的伤害概念上建立监管结构并不是一个模棱两可的问题,否则本来无法理解的法规中的某些词可能意味着一件事或另一件事,而法院必须决定是哪件事。它从模糊性变成模糊性,并引起 法治问题.

上议院阐明了模糊性问题。 R v里明顿,以美国的 变灰:

“模糊冒犯了几个重要的价值观…一项含糊不清的法律不允许将基本政策事项委托警察,法官和陪审团以临时和主观的方式解决,并伴随着任意和歧视性适用的危险。”
尽管最常用于刑事责任,但对模糊性的反对比这更根本。这是一项普遍适用于法律的宪法原则。迪普洛克勋爵在1975年的民事案件中提到了这一点(黑克劳森):
“接受法治作为一项宪法原则,要求公民在采取任何行动之前,应事先知道将产生什么样的法律后果。”
Certainty is a particular concern with a law that has consequences for individuals' speech. In the context of a social media 注意义务 the rule of law requires that users must be able to know with reasonable certainty in advance what of their speech is liable to be the subject of preventive or mitigating action by a platform operator subject to the 注意义务.

If the 注意义务 is based 上 an impermissibly vague concept such as ‘harm’,那么立法就有法治问题。出于以下三个原因,不一定可以通过授权监管机构为实务守则和解释穿上骨架来解决问题: 

首先,不允许的含糊不清的立法根本没有提供任何依据–监管者可以随意在其上绘画的更多画布; 

第二,如果立法机关将基本政策事务委托给警察,法官和陪审团是令人反感的,则不清楚为什么对监管者如此不那么令人反感; 

第三,监管机构制定的法律是一项可动的盛宴。

警长的所有权力

From a rule of law perspective undefined 危害 ought not to take centre stage in legislation.

但是,如果这个想法是要最大限度地发挥监管者的权力和酌处权,那么立法中固有的模糊性就可以很好地达到目的。职权范围越模糊,就越有权力交给监管机构制定政策和制定法律。

约翰·汉弗莱斯(John Humphrys)可能会在不知不觉中将手指放在上面 2019年4月8日的今日节目 
(4:00开始). Joy Hyvarinen of Index 上 审查制度 pointed out how broadly Ofcom had interpreted 危害 in its 2018 survey, to which John Humphrys retorted: “您可以通过更具体,肯定地定义[危害]来解决此问题。” 

那确实是一种改善。但是,政府意图创建一个强大的监管机构,而不是局限于范围内的内容和行为的静态清单,会对监管机构产生什么兴趣? ’的风格,严格的规则以及对伤害的严格限制?在这种情况下,广度和模糊性不是缺点,而是达到目的的手段。

There is a precedent for this kind of approach in broadcast regulation. The Communications Act 2003 refers to 'offensive and 有害', makes no 在 tempt to define them and leaves it to Ofcom to decide what they mean. Ofcom is charged with achieving the objective: 
“that generally accepted standards are applied to the contents of television and radio services so as to provide adequate protection for members of the public from the inclusion in such services of offensive and 有害 material”.
威廉·佩林(William Perrin)和洛娜·伍兹(Lorna Woods)教授, 履行护理职责 影响了白皮书, 说2003年法案 那: 
"competent regulators have had little difficulty in working out what 危害 means" [37]. 
他们赞成男爵夫人格兰德’她对2018年11月上议院辩论的贡献,在其中她问道: 
"Why did we understand what we meant by "危害" in 2003 but appear to ask what it is today?"
答案是,在2003年,立法者不必理解模糊的“损害”一词的含义,因为他们赋予了Ofcom决定权。 Ofcom几乎没有什么困难也就不足为奇了,因为实际上这不是在“弄清楚伤害意味着什么”,而是在决定其含义。实际上,它是执行委派的立法职能。

Ofweb would be in the same position, effectively exercising a delegated power to decide what is and is not 有害.

广播法规是语音仅受一般法律管辖的规范的例外。由于其起源于频谱稀缺和媒体的感知能力,因此,除适用的一般法律(诽谤,淫秽等)外,在广播上强加更严格的内容规则和酌处方式的监管方式被认为是可以接受的。所有的演讲。

但是,这并不意味着类似的方法适用于单个语音。模糊与权力的任意行使密不可分。如果这个政府开始建立一个可以悬挂个人在线言论的支架,那就再好不过了。

The 注意义务 that isn’t

Lastly, it is notable that as far as can be discerned from the White Paper the proposed 注意义务 is not really a 注意义务 在 all.

适当地所谓的谨慎义务是对可识别人员的法律义务。如果他们因违反职责而受到伤害,他们可以要求赔偿。占领者的普通法疏忽和责任’1957年《责任法》就是例子。这些通常仅限于人身伤害和财产损失;而且很少有人对占领者施加义务,以防止游客互相伤害。占用者对住所的访客彼此之间说的话不负任何责任。

The absence in the White Paper of any nexus between the 注意义务 and individual persons would allow Ofweb’它的职责范围不仅限于对个人的伤害,还包括对社会危害的模糊领域。如上所述,这就是白皮书提出的内容。

Occasionally a statute creates something that it calls a 注意义务, but which in reality describes a duty owed to no-one in particular, breach of which is (for instance) a criminal offence.

一个例子是《 1990年环境保护法》第34条,该条规定了废物处理的法定义务。正如该法规所期望的那样,第34条对于职责范围内的行为是准确的。相比之下,白皮书提出了实际上是通用的在线‘Behaving Badly’ law.

即使国务卿在最近 给编辑协会的信 to “A 注意义务 between companies and their users”, the ‘duty of care’白皮书中描述的内容与 注意义务 properly so called.

白皮书’s 注意义务 is a label applied to a regulatory framework that would give Ofweb discretion to decide what user communications and activities 上 the internet should be deemed 有害, and the power to enlist proxies such as social media companies to sniff and snuff them out, and to take action against an in scope company if it does not comply.

这是一种控制个人语音的机制,例如不会在离线状态下考虑,并且根本不适合个人在网上说什么。


[于2019年5月24日添加可视化。于2019年7月19日修订,以明确表明监管机构可能是现有机构,也可能是新机构-请参阅 咨询Q.10 。]