显示带有标签的帖子 互联网. 显示所有帖子
显示带有标签的帖子 互联网. 显示所有帖子

2020年5月24日,星期日

两个委员会的故事

两个下议院委员会–the 民政事务委员会和the 数字文化文化体育委员会 –最近与 政府部长讨论政府等问题’s proposed 在线危害立法。这些会议被证明具有启示性,甚至更多。 所以,关于政府’其意图是2020年2月对 the 白皮书。

结果,在某些主题上,我们比我们知道的更多,但是图片是 仍然不完整。一些新问题浮出水面。其他领域变得越来越少 比以前清晰。

Above all, 不hing is set in stone. 的 初步反应 was 表示行进方向,并构成迭代的一部分 政策制定过程。尚未到达目的地– if, that is, 的 政府曾经到过那里。它可能仍然遇到障碍 顺便说一句,如果最终意识到创建后世的智慧,那就转向沟渠,或者进行大马士革转换 张伯伦勋爵上网. Or 的 road may eventually peter out 进入不hingness. At 目前,政府正在推进其立法意图。

I’m going to be selective about my choice of topics, 在里面 main 回到有关在线的一些主要现有问题和疑虑 有害的建议,加上大量的新问题,以防万一。许多 more ground than this was covered 在里面 two sessions.

从旧的客厅游戏中借用,每个主题都以 what 的 白皮书 said; followed by 什么的 初步反应 said; 的n 什么的 部长们 said; and lastly, 的 后果。的 部长是奥利弗·道登(Oliver Dowden)国会议员(数字,文化,媒体国务卿) 和体育); 卡罗琳·迪尼纳奇(Caroline Dinenage)议员(数字文化部长)和 威廉姆斯男爵夫人(内政部大臣)。  

有时政府’记录了对咨询的初步回应 咨询意见,但对该主题仍未得出结论。在那些 初始响应被分类为说‘Nothing’. Some repetitive 陈述已被删除。

由于这是一本长篇读物,因此以下是所选主题的列表:


1.议会或监管机构会决定 what “harm” means?


白皮书 说过:

“… 政府 action to tackle 上line content or activity that 伤害个人 使用者, particularly children, or threatens our way of life 在里面 UK, either by 破坏 national security, 或通过减少信任并破坏我们的共同权利,责任和 促进融合的机会。 ”

“This list [Table 1, Online 危害s in 范围] is, by design, neither exhaustive nor fixed. A static list could 防止采取迅速的监管措施来应对新形式的在线危害,新技术, 街机森林舞会和新的在线活动。”

初步反应 说过:

没有.

部长们 说过:

奥利弗·道登(Oliver Dowden): “The 只要 我试图说明的一点是,我只是热衷于这种比例性 要点,因为通常情况下,监管始于 最好的意图可以 解释 if you do 不 get it 对,拥有自己的生活。它开始变得 解释方式 Parliament did 不 intend it to be 在里面 first place。我只是热衷于 确保我们把那种 硬墙 围绕它,以便政权 is flexible but that 在其 解释它不能超越 intent that 我们 set out 在里面 first place 在里面 broad principles.” (emphasis 添加)

卡罗琳·迪尼纳奇(Caroline Dinenage): “For 你可能会称之为“legal but 危害ful” 危害s, 我们 are 不 setting out to name 的m 在里面 legislation. That is for 的 simple reason that technology 步伐如此之快,以至于我们很可能最终会失败 excluding something….  我们要 确保这部法律是敏捷的并且能够对损害做出回应 当它们出现时。立法将使这一点更加清楚,但是 这将是为了 the regulator to outline 什么的 危害s are和to do that in partnership with 的 platforms.”(Q.554)(添加了重点)

后果:很难调和 国务卿渴望建立“hard walls”, in order to avoid unintended consequences, with 的 政府’s apparent determination to leave 的 不ion of 危害 undefined, delegating to 的 监管人员决定什么才是有害的任务。这种方法有 对法治的严重影响.

Left undelineated, 的 concept of 危害 is infinitely 可延展的。内政部部长威廉姆斯男爵夫人在委员会会议上建议将5G虚假信息分开 into “无害阴谋论” and “真正导致攻击的东西 on engineers”,以及最右边的元素。一名委员会成员(拉特 Edwards M.P.) responded that she did 不 think that 任何 element of 的 阴谋论可以归类为‘harmless’, because “it is 威胁公众对5G推出的信心” —DCMS部长Caroline Dinenage同意了这一主张。

因此,危害等同于人们改变对电信的看法 project. This unbounded sense of 危害 is 上 a level with 的 不orious “confusing our understanding of 什么is happening 在里面 wider world” phraseology of 的 White Paper.  

Statements such as 的 威廉姆斯男爵夫人的总结讲话:“我也想建立互联网 为我的孩子们提供一个更安全的地方,并排除那些寻求伤害社会的人”必须在本质上不受限制的伤害含义的背景下审视。

当可以如此广泛地解释危害时,政府就是在玩火。但它是 我们  不 的 政府, 的 regulator or 的 tech 公司  谁站起来让我们的手指烧焦。

2.监管者’职权范围:实质,过程或两者?


白皮书 说过:

“In particular, 公司 will be 需要确保他们具有有效且相称的流程,以及 实行适当的治理以减少对其进行非法和有害活动的风险 平台,并在出现问题时采取适当和相称的行动 出现。新的监管制度还将确保对 删除非法街机森林舞会,并将引入具体监控 严格定义非法街机森林舞会类别的要求。” (6.16)

初步反应 说过:

“The approach will be proportionate and risk-based with 的 duty of care designed to ensure 公司 有适当的系统和流程以提高其安全性 users.”

“注重稳健的流程 和系统,而不是个别的街机森林舞会意味着它将保留 即使出现新的危害也有效。它还将确保服务提供商 制定,清楚地传达和执行自己的有害阈值 legal content.

“处理代码的种类 实践的重点是系统,程序,技术和投资, 包括人员主持人的人员配备,培训和支持。”

“因此,实务守则 will contain guidance 上, for example, 什么steps 公司 应该 take to 通过设计来确保产品和服务安全,或针对 有害街机森林舞会或活动。”

“而不是需要删除 在具体的法律街机森林舞会中,监管将侧重于更广泛的系统 和平台处理在线危害的过程,而 保持比例和基于风险的方法。”

“In fact, 的 new regulatory framework will 不 require 的 removal of specific pieces of 法律街机森林舞会。 相反,它将专注于平台拥有的更广泛的系统和流程 应对在线危害,同时保持适当比例和 risk-based approach.”

“Of course, 公司 will be 需要采取特别有力的行动来应对恐怖分子的街机森林舞会和在线 Child Sexual Exploitation and Abuse. 的 new regulatory framework will 不 remove 公司’删除非法街机森林舞会的现有职责.”

部长们 说过:

卡罗琳·迪尼纳奇(Caroline Dinenage): “the 实务守则实际上是关于系统和流程的,而不是命名 individual 危害s 在里面 legislation. 的re are two exceptions to that: 的re 将成为围绕儿童性剥削和恐怖分子的行为守则 街机森林舞会,因为它们都是非法的。” (Q554)

“由监管机构设定 制定实践准则,但他们赢了’围绕个人伤害;他们会 围绕系统和流程—what 我们 expect 的 公司 to do. Rather than 关注个人伤害,因为我们知道技术在不断发展 很快就会有更多的情况,这是设置系统的情况, processes that 我们 would expect 公司 to abide by, and 的n giving 的 regulator 的 opportunity to impose sanctions 上 those that are 不 doing so.” (Q.556)

Q562斯图尔特·麦当劳:“…if 的 监管机构认为算法工作不当,无法直接执行 进行过无辜搜索的街机森林舞会(例如,最右边的街机森林舞会)的人会 基本上可以命令公司更改其算法 are operating?


卡罗琳·迪尼纳奇(Caroline Dinenage): 是, I think that 的y will. That is clearly something that 我们 will set out 在里面 full response. 的 key 这里 就是它 公司 must have clear transparency, 他们必须制定明确的标准,并且必须明确承担责任。如果 他们正在设计算法,以任何方式使人们面临风险,即 例如,一个明确的设计选择,而该选择将带来很多 责任。监管者将负责监督这一责任。如果 他们对维护方式有任何担忧, 他们可以实施的制裁。”

后果:关于特定问题 the status of 条款和条件 for “lawful but 危害ful” content (see 如下),很难看到如何在物质之间画一条明线 and process.  流程不能 设计,风险评估或评估其有效性—仅参考诸如提高用户安全性和降低伤害风险之类的目标。评估照顾义务时未提及预期的伤害种类 没有柴郡的微笑比没有微笑更有意义 Cat. 

卡帕罗v迪克曼 布里奇勋爵警告不要讨论职责 of care 在里面 abstract:
“永远做不到 简单地问一下,A是否欠B谨慎的责任。始终需要确定 参考A必须承担的损害种类的责任范围 care to save B 无害."

Risk assessment is familiar 在里面 realm of safety properly 所谓的:人身伤害的危险,在那里有清楚的认识 客观上可确定的危害是什么。应用于 用户言语引起的不确定的,固有的主观伤害。如果“威胁到公众对5G推出的信心”(请参见上文)可以标记 立法范围内的在线危害,远远超出任何可维护的安全概念。

的 政府’的方法似乎正在采用 针对非法和“legal but 危害ful”,后者显然仅限于处理程序(尽管有关实际情况,请参阅下一个主题)。 

顺便说一句,初始回应在技术上不正确,是指“companies’删除非法街机森林舞会的现有职责”. 不存在这种一般职责。托管服务提供商失去了对 ECommerce Directive liability shield 如果y do 不 remove unlawful content 迅速获得有关非法的实际或(构成损害的)建设性知识。即使那样,电子商务 Directive does 不 oblige 的m to remove it. 的 consequence 就是它 的y become exposed to 的 risk of possible liability (which may or may 不 exist) 根据相关的基本法律(请参见 这里 以获得更完整的说明)。在实践中,政权强烈煽动 托管提供商在获得相关知识后删除非法街机森林舞会。 但是他们没有一般的法律义务。


3.对于“lawful but 危害ful”


的 白皮书 said:

“为了表明他们已经遵守了确保用户安全的总体谨慎义务,我们设想,相关公司将在范围内:

  • Ensure 的ir relevant 条款和条件 meet 监管机构制定的标准 and reflect 的 codes of practice as appropriate.
  • Enforce 的ir own relevant 条款和条件 有效且始终如一. …”
“为了帮助实现这些结果,我们期望监管机构制定以下行为准则: 

  • 通过设计确保产品和服务安全的步骤。
  • Guidance about how to ensure 使用条款 are 充足 and are understood by 使用者 when 的y sign up to use 的 service. …
  • 确保迅速处理有害街机森林舞会或活动的步骤。…
  • 监视,评估和提高过程有效性的步骤。”
的 初步反应 said:

“我们不会阻止成人访问或发布法律街机森林舞会,也不会要求公司删除特定的法律街机森林舞会。相反,新的监管框架将要求相关公司明确声明其网站上可接受的街机森林舞会和行为,然后由平台统一执行。”

“为了确保言论自由的保护,法规将对公司对非法街机森林舞会和活动的期望与对非非法但有可能造成伤害的行为建立不同的期望。因此,法规不会强迫公司删除特定的法律街机森林舞会。相反,新的监管框架将要求公司(在相关情况下)明确声明他们认为在其站点上可接受的街机森林舞会和行为,并始终如一地透明地执行。所有涉及范围的公司都需要确保对儿童的更高水平的保护,并采取合理的步骤保护他们免受不适当或有害街机森林舞会的侵害。”

“监管机构意识到对表达自由的担忧,因此不会对个人投诉进行调查或裁定。公司将能够决定其服务可接受的法律街机森林舞会或行为类型,但必须采取合理的步骤来保护儿童免受伤害。他们将需要以清晰易懂的条款和条件阐明这一点,并有效,一致和透明地实施这些条款和条件。”

的 部长们 said:

奥利弗·道登(Oliver Dowden): “在线危害立法的实质是让社交媒体公司遵守他们承诺要做的事情和自己的事情 条款和条件。我在这些方面的关注主要集中在两件事上:未成年人伤害和非法伤害。显然,最棘手的类别是合法的成人伤害。在这方面,我们正在研究如何收紧措施,以确保这些公司起初确实履行了他们承诺的承诺,而事实并非如此。”(Q20)(添加了重点)

“显然,就法律上的成人伤害而言,无论从什么意义上说,这都是基本原则,因为我们真正想要做的是对那些社交媒体公司和科技公司说,“忠于您说的话。只要坚持你的 条款和条件”。我们将要求监管者确保对他们进行强制执行,然后使用可供我们使用的工具来要求它这样做。”(Q89)(添加了重点)

卡罗琳·迪尼纳奇(Caroline Dinenage): “这很多是关于 公司 having 的 right regulations and standards 和注意义务,这也将出现在《在线危害法案》和在线危害工作中。如果我们有 哪些平台可以接受的透明度更高—将会有一个监管机构来帮助指导他们—我认为我们将有一个更好的机会直接解决这些问题。”(Q513)(添加了重点)

“关于我们在DCMS中的角色,它更像是一个协调员,汇集了所有不同政府部门的工作,然后 直接与平台联络,以确保其标准,规定反映了我们所关注的一些问题—在某些情况下,请确保可以预见并防止有害的成分,并且在不可能的情况下,应尽快将其停止和清除。”(添加重点)(Q525)

威廉姆斯男爵夫人: “显然存在非法和违反CSP的行为’ 使用条款。正是在后一个因素上,特别是在极端主义领域,我们才真正设法与CSP接触,以使他们变得更加积极主动。”(加重)(加重)(Q.527)

后果:这是政府目前最令人困惑的领域之一’的发展政策。白皮书期望实践准则将确保条款和条件得到满足“监管机构制定的标准”使用条款是“adequate”。从表面上看,这些声明并不局限于程序标准和适当性。可以很容易地将它们解释为包含标准和充分性,这些标准和充分性是通过参考监管机构确定的减少危害目标来判断的(正如我们所看到的那样,这些目标可以自行决定什么构成危害)–换句话说,扩展到中介条款和条件的实质街机森林舞会。

当《最初的回应》发布时,就向区分谨慎的职责转移了很大的作用:由中介机构来决定–成人的合法街机森林舞会-条款和条件中规定了什么标准。 

监管机构的职责仅限于确保明确说明和执行这些标准“一致且透明” (or “effectively, 一致且透明”,具体取决于您转到“初始响应”的哪一部分;要么“有效且始终如一”,根据白皮书)。 确实,国务卿在证据中说 "在线危害立法的实质是让社交媒体公司遵守他们承诺要做的事情和自己的事情 terms and conditions

但是从其他部长看来’关于政府并未否认对中介机构实质街机森林舞会的全部兴趣的回应’条款和条件。相反,政府显然将其视为影响力(将其置于最低点)的一部分。如果调节器’其任务是确保执行条款和条件,这些条款和条件的实质街机森林舞会反映政府部门的意愿,这与宣称的中介机构自行设定可接受的合法街机森林舞会标准相差甚远。

最终,强调保持言论自由的意义上,一个独立监管者的作用将仅限于执行中介机构的重点是什么?’如果政府认为自己的条款和条件的一部分是要影响这些中介机构,则这些TandC应该包含哪些实质性规定?

This is 上e aspect of an emerging issue about division of responsibility between 政府 and 的 调节器。 它 is tempting to think that 上ce an independent regulator is established 的 政府 itself will withdraw from 的 fray. But if that is 不 so, 的n reducing 的 remit of 的 independent regulator concomitantly increases 的 范围 for 的 政府 itself to step in.

鉴于政府,这一点尤其重要’渴望将自己塑造成一个‘trusted flagger’,中介机构应毫无保留地通知其非法街机森林舞会。因此,Caroline Dinenage似乎认为平台有义务删除政府告诉他们的平台认为其非法的任何街机森林舞会(没有明显的先决条件,例如独立核查的要求),并希望他们认真对待该平台上的任何其他街机森林舞会。政府通知他们:

“我们发现我们已经成为—I forget 的 proper term, but 我们 have become like a 受信任的举报者 with a number of 的 上line hosting 公司, 与平台。 So when 我们 flag information, 的y do 不 have to double-check 的 concerns 我们 have。显然, 除非有违法行为,我们不能告诉组织将其删除;他们必须根据自己的良知,标准和要求做出自己的决定。但是很明显,我们正在与他们建立非常牢固,可信赖的关系,以确保当我们举报事情时,他们会认真对待。” (Emphasis 添加)


4.特定种类的实务守则 用户街机森林舞会或活动?


白皮书 说过:

“[白皮书]列出 high-level expectations of 公司, including some specific expectations in 与某些危害有关。我们希望监管机构在未来反映出这些 codes of practice.”

然后列出了11种危害的清单,并分别列出 通过与监管机构期望的危害有关的领域列表 include in a code of practice. 对于instance, in relation to disinformation a 包含11个特定领域的列表:

“Steps that 公司 应该 take 与故意歪曲其身份以传播和传播的用户有关 加强虚假信息。”; and

“宣传各种新闻街机森林舞会, countering 的 ‘echo chamber’人们只接触信息 巩固了他们现有的观点。”

初步反应 说过:

“白皮书谈到了 监管机构将发布不同的业务守则来概述 processes that 公司 need to adopt to help demonstrate that 的y have fulfilled 的ir duty of care to 的ir 使用者. … We do 不 expect 的re to be a 每种有害街机森林舞会类别的行为准则,但是,我们打算 出版有关如何应对在线恐怖分子和儿童的临时行为守则 未来几个月的性剥削和性虐待(CSEA)街机森林舞会和活动。”

部长们 说过:

卡罗琳·迪尼纳奇(Caroline Dinenage): 一世 认为我需要消除对白皮书的误解。的 列出的11种危害确实旨在作为 what 我们 saw as 的 危害s. 的 response did 不 expect a code of practice for 每一项都是因为实践准则实际上是关于系统和过程的, rather than naming individual 危害s 在里面 legislation. 的re are two 例外:关于儿童性剥削的行为守则 和恐怖分子的街机森林舞会, 因为那些都是非法的.” (Q.554) (emphasis 添加)

结果: CSEA和 恐怖主义可能更多地归因于恐怖主义的不同责任领域 内政部与DCMS相比,违法行为与 非违法行为。白皮书涵盖了更多的非法领域 two alone.

5. Search engines in 范围?


白皮书 说过:

“… will 适用于公司 that allow 使用者 to share or 发现 用户生成的街机森林舞会,或进行交互 彼此在线。” (添加了重点)

“这些服务由…  搜索引擎” (Executive Summary)

初步反应 说过:

“The legislation will 只要适用于公司 that provide services or use functionality 上 的ir 我们bsites 有助于共享用户生成的街机森林舞会或用户交互, 例如通过评论,论坛或视频共享” (添加了重点)

部长们 说过:

卡罗琳·迪尼纳奇(Caroline Dinenage):再次 我们可能发布了一份临时回复, which was 不 as comprehensive as our full response will be later 上 在里面 年。白皮书非常明确地指出将包括搜索引擎 框架的范围和需求的性质将反映 the type of service that 的y offer. We did 不 explicitly mention it 在里面 interim response, but that does 不 mean that 任何thing has changed. 它 did 不 涵盖全部政策。搜索引擎将包括在内,并且没有变化 我们的想法和政策。”   (Q.560)

结果: 尽管有部长’的解释,白皮书和 初始响应(省略“discover”, adding “only”)外观为 考虑的变化。未来的教训也许是不明智的 过于仔细地分析政府说或写的其他任何文字。

6. Everything from 社会的 media platforms to retail 客户评论部分?


白皮书 说过:

“… 公司 所有大小 将在监管框架范围内。范围将包括… 社会的 media 公司,公共论坛, retailers that allow 使用者 to review products 上line,以及非营利组织,文件共享网站 和云托管提供商。” (添加了重点)

初步反应 说过:

“To be in 范围, a business would 必须运行其自己的网站,并具有共享用户生成的功能的功能 街机森林舞会或用户互动。”

部长们 说过:

奥利弗·道登(Oliver Dowden): “We are a 欧洲的领导者。我确定您已经看到,我已经看到了意想不到的 好的立法的后果,然后具有官僚主义的含义 以及我们要避免的业务成本。

对于example, in respect of legal online 危害s for adults, if you are an 中小企业零售商,您有一个评论 您产品上的网站上,人们可以在下面添加评论 那是社交媒体的一种形式。名义上,这将由 online 危害s regime as it stands。对此的回应是他们会去 through this quick test and 的n 的y will find it does 不 适用于them. My 中小企业和其他企业的整体经验是,这一切都很好 当你坐着时不知道这个在线危害是什么, 可能会给您带来沉重的管理负担。 (添加了重点)

有什么方法可以 开拓这些领域,以便我们专注于需要做的事情?那些 各种论点都与非法伤害和对儿童的伤害无关。我希望 给你一种味道。” (Q.88)

Q89达米安·海因兹(Damian Hinds):“Yes, 这么。我认为在先前的公告中有很高的估计 公司的数量或总公司的比例 计入在线平台的定义中,这相当令人不安 思想。非常欢迎您,可以采取什么行动来限制谁 counts as a 社会的 media platform.”

结果: 这次交流确实 闪耀 light 上 的 expansive 范围 of 的 proposed legislation. 的 国务卿表示,具有审查部门的中小企业零售商 “notionally” covered. However, 的re was 不hing 不ional about it.  零售商审查部分明确 included 在里面 白皮书, as 我们re 公司 所有大小.

正如国务卿所建议的那样,告诉中小型企业一点安慰“don’t worry, you’风险低,所以赢了’真的适合你” if: (a) you are in 范围 上 的 face of it, and (b) 它是 left to 的 regulator to 决定是否应减轻某些中间人的负担 than others. 

当然,还有许多其他类型的非社交媒体 范围内的平台中介以及中小企业零售商,其中包括以下方面:应用程序,在线游戏,社区 讨论论坛,非营利组织和许多其他在线服务。  初步回应说“到目前为止的分析表明 that fewer than 5% of UK businesses will be in 范围 of this regulatory framework.”绝对值的5%是小是小(不是 提及对非英国企业的明显冷漠),没有 表明该估计所依据的假设。

7.将新闻和新闻界排除在外吗? from 范围?


白皮书 说过:

没有. 在 a subsequent 给编辑协会的信 当时的DCMS国务卿杰里米·赖特(Jeremy Wright)说:

“…正如我在白皮书中明确指出的 launch and 在里面 House of Commons, where 的se services are already 我们ll 受到监管,就像IPSO和IMPRESS关于其成员的评论一样 部分,我们将不会重复这些努力。新闻或社论街机森林舞会 will 不 be affected by 的 regulatory 框架。”

初步反应 说过:

没有. 它 limited itself to general 表达s of support 为了表达自由,例如:
“…表达自由,以及 新闻自由的作用,对于健康的民主至关重要。我们将确保 there are safeguards 在里面 legislation, so 公司 and 的 new regulator have a clear responsibility to protect 使用者’在线权利,包括自由 表达方式以及维持充满活力和多元化的公共广场的需求。”

部长们 说过:

卡罗琳 Dinenage: 显然,我们知道新闻自由 是我们社会的支柱之一,我必须从白皮书中说 outset, is 不 seeking to prohibit press freedom 在 all, so 新闻和 editorial content is 不 在里面 范围 of the 白皮书. Our stance 上 press regulation has 不 changed.” (Emphasis added)

“As for 什么has been 在里面 papers recently, 的 国务卿写信给编辑协会,这是关于 您可能会称其为“线下或注释”部分。他们很担心 可能会受到管制。我认为国务卿的意思是 that, where 的re is already 清晰有效的节制 of that sort of content, 我们 do 不 intend to duplicate it. 对于example, 的re is IPSO and 审核街机森林舞会部分的IMPRESS活动。这些是技术用语 为了它。对话仍在进行中,因此我们目前正在努力 与利益相关者就我们将如何反映这一点提出建议 立法,围绕这些参数。 (Q.558)

“斯图尔特·麦当劳:但是 没有建议线下保持不受管制。在这里 that regulation 应该 lie that is 的 issue.

卡罗琳·迪尼纳奇(Caroline Dinenage): Exactly.” (Q.559)

结果: 存在三个不同的问题 around inclusion or exclusion of 的 press from 的 regulatory 范围 of 的 Bill:

1. 用户在报纸网站上的评论.  从表面上看,新闻机构会 须遵守用户在其网站上发表评论的谨慎义务。的 政府的立场似乎是谨慎义务是否会 是否适用取决于评论是否已经受到另一种评论 监管(或至少存在“清晰有效的节制”). Potentially, therefore, newspapers that are 不 regulated by IPSO or IMPRESS would be in 此范围。这种分界是否可以通过艰苦的努力来实现 scope exclusion written 进入the Bill is 不 clear.

2. 新闻或社论材料. Whilst 的 部长可能会说政府’s stance 上 press regulation has 不 changed, her statement that 新闻和 editorial content is 不 “in 的 scope”白皮书是新的—至少如果我们要理解为 意味着该法案将对新闻或社论进行硬性排除 content. Previously 的 政府 had said 只要 that such content would 不 be affected by 的 regulatory 框架。 A general exclusion of journalistic or 从表面上看,编辑材料会比报纸和报纸广泛得多。 类似的出版物。发现这句话并不奇怪 “clarified” 在 some point 在里面 future.

3. Newspaper 社会的 media feeds and pages。报纸 和其他出版物在社交网站上保留自己的页面,提要和博客 media and other platforms. Newspapers would 不 的mselves be subject to a duty 关于他们自己的街机森林舞会的关心。但就平台而言 concerned 的 newspapers are 使用者, so that 的ir pages and feeds would fall under 的 platforms’注意义务。因此,他们将有可能采取行动 平台在履行其谨慎职责的过程中针对其街机森林舞会采取的措施。

的 政府 has said 不hing about whether, and if so how, such press content would be excluded from 范围. If 的 政府 is 认真排除“新闻或社论”通常从范围来看, 将实现这一目标。但是,这会给周围带来巨大的困难 whether a particular feed or page is or is 不 新闻或社论 材料(例如,这个Cyber​​leagle博客或Guido Fawkes博客是什么?),以及 平台应如何决定是否存在任何特定街机森林舞会 not in 范围.  

8.端到端加密


白皮书 说过:

没有. (Although 的 potential for 的 duty of care to be 应用于防止使用端到端加密 很明显

初步反应 说过:

没有.

部长们 说过:

威廉姆斯男爵夫人: “[Facebook] 然后宣布他们将端到端加密Messenger。对于 us, is gravely worrying, because nobody will be able to see 进入Messenger. I know 的re is going to be a Five Eyes engagement next 我们ek, and I do 不 know if 的 Committee knows, b五只眼写给马克 扎克伯格去年 我们对此发展感到非常担心。” (Q538)

Q566椅子:“On that basis, does 端到端加密是否违反了谨慎义务?

威廉姆斯男爵夫人:它是 违反护理职责的犯罪活动。允许罪犯 在您的平台上发生的活动将违反谨慎义务。 End-to-end encryption, 在其本身, is 不 a breach of 注意义务。

主席:大概是为此 规矩完全没有咬人,他们将必须能够采取一些措施 针对无法阻止犯罪活动的政策执行。上 该逻辑,引入了端到端加密,如果它故意停止了 公司防止非法活动—例如,网上孩子的种类 你谈论过的虐待—那肯定会被视为违反谨慎义务。

威廉姆斯男爵夫人:我完全 期望这就是“五眼”讨论中的一些街机森林舞会, 发生的时间很短,会看一下。”

后果:这是第一个迹象表明 政府还活着,有可能监管者能够 解释谨慎义务,以影响中介的使用能力 端到端加密。的“in and of itself”部长使用的措辞 appears 不 to rule that out. This issue is related to 的 question of how 的 立法可能适用于私人消息传递提供商,这是政府的一个主题 has consulted but has 不 yet published a conclusion.

9.身份验证


白皮书 说过:

“互联网可以用来 骚扰,霸凌或恐吓。在许多情况下,骚扰和其他形式的 在线滥用通讯,受害者将不了解犯罪者。在 在某些情况下,他们将采取技术措施隐瞒自己的身份。 政府和执法部门正在采取行动应对这一威胁。”

“警察有一系列法律规定 查明企图使用匿名逃避制裁的个人的权力 对于在线滥用行为(该活动是非法的)。政府将与 执法部门审查当前权力是否足以解决 在线匿名滥用。”

“我们期望的一些领域 规范中包括的监管者是:

  • Steps to limit anonymised 使用者 abusing 的ir 服务,包括骚扰他人。…
  • Steps 公司 应该 take to limit anonymised 用户使用其服务来滥用他人。”

初步反应 说过:

没有.

部长们 说过:

Q25约翰·尼科尔森:您想要吗 to see 上line 危害s legislation compel 社会的 media 公司 to verify 的 identity of 使用者, 不 of course to publish 的m but simply to verify 的m 在帐户启动和运行之前?

奥利弗·道登(Oliver Dowden): 有 正如您所提到的,围绕机器人有时无疑是一个挑战 通过敌对的国家活动,并找到更好的方法来验证是否 这些都是真正的演员,或者是否是协调的机器人式活动。那 是通过在线危害,但显然存在着国家安全角度 that as 我们ll.”

Q530雅培女士:“Finally, would 您考虑更改法规,因此可以匿名发布在 网站或Twitter或Facebook,但在线平台上会有您的名字 和地址?根据我的经验,当您尝试进行在线滥用时,您遇到了 brick wall because 的 abuser is 不 just anonymous when 的y post, 的 上line platform doesn’也没有名字和地址。

卡罗琳·迪尼纳奇(Caroline Dinenage): 那是 一个非常有趣的想法。绝对是我们曾经做过的事情 讨论。关于我们正在制定的在线危害立法 together 在 的 moment, 我们 have said very clearly that 公司 need to be 更加透明。他们需要制定标准,并且需要澄清 他们的谨慎责任是什么,并有一个健全的投诉程序 人们可以使用并可以信任。这就是为什么我们还任命监管者 这将阐明好的外观,并具有期望,而且 能够要求数据和信息并能够施加的权力 sanctions 上 those that 的y do 不 feel are abiding by 的m.

Q531主席:那实际上是什么 意思?这是否意味着您认为监管机构应有权 say that 社会的 media 公司 应该 不 allow people to be … [a]nonymous to the platform?

卡罗琳·迪尼纳奇(Caroline Dinenage): 这是 我们目前正在考虑的事情。有很多东西 这里。在在线危害立法中,监管机构将规定 expectations.

主席:我们可以’t devolve everything to 的 调节器。 Something like this is really important—should social media 公司 be allowed to 不 know who it 就是它 is using 的ir 平台?议会应该考虑这是一个很大的问题 on, 不 something 我们 just hand over to a regulator and say, “Okay, whatever you think,” later 上.

卡罗琳·迪尼纳奇(Caroline Dinenage): 是, 究竟。因此,我们目前正在考虑将其作为在线服务的一部分 损害立法,这当然将提交议会。”

Q545蒂姆·劳顿(Tim Loughton):“… If I want 要开设一个银行帐户和各种其他帐户,我必须向 通过使用水电费账单和其他类似方式在我所在的银行或组织 那。这很简单。类似的缺点是什么 由社交媒体平台强制执行的要求,然后才允许您执行 注册新账号?这是我们之前在 Committee. Many of us have suggested that 我们 应该 go down that route. I 收集到它已经在韩国发生过。你说你在看 Dinenage部长。您认为,这样做的缺点是 scrutiny?

卡罗琳·迪尼纳奇(Caroline Dinenage):你 拉夫顿先生,提出了非常有说服力的论点。你说的很多 非常正确。我们正在思考并试图应对的唯一事情 是是否有任何理由让受害者, want to be able to whistleblow, and who may be overseas and might 不 want to 认同自己,因为他们担心自己的生命或其他伤害。有 那些匿名和保护某人的问题’的安全性和说话能力 向上。这就是我们正在努力的方向。

Q546蒂姆·劳顿:同样 令牌,您可能会有一个伪造身份的人 举报或四处宣传,所以这是双向的。我没有 看到要求您必须证明自己是谁的缺点—not 至少因为我们知道当人们被抓住并拥有他们的站点时会发生什么 取下来。五分钟后,他们建立了另一个新的匿名网站兜售 相同的虚假信息。

卡罗琳·迪尼纳奇(Caroline Dinenage):你 提出非常有说服力的论据。这是如此重要 立法,我们必须做到正确。正如我所说,这是世界领先的。 每个人都在看着我们,看看我们是如何做到的。我们需要确保我们 已经考虑了每个角度,这就是我们在 moment.”

结果: 身份验证显然是 冒出来的问题。 最根本的反对意见是,《世界人权宣言》第19条所保障的言论自由权并不以身分核实为条件。不表明是那样:

"Everyone has 的 right to 产生以下任何两项时的见解和言论自由: 驾驶执照,护照,最近的水电费或市政税单...”。

在韩国 规定在线身份验证义务的法律是 宣布违宪 在2012年。

民政事务委员会提出, to 的 best of my knowledge 在有关在线危害项目的任何议会审议中,第一次 question of 什么应该 be decided by Parliament and 什么delegated to a 调节器。这不限于身份验证问题。这是涂上这样的规定的监管权力的固有弊端。 广泛的笔触表明,许多具体问题将隐藏在抽象背后,仅当 监管者将视线转向他们–到那个时候为时已晚 反对此事应由议会决定。那个恶习 当权力影响到数以百万计的个人讲话时,情况就更加复杂 people.

10.域外性


白皮书 说过:

“新的监管制度将 需要处理数字经济和许多 companies in 范围. 的 law will 适用于公司 that 向英国提供服务 users.”(6.9)(添加了重点)

“我们也在考虑选择 for 的 regulator, in certain circumstances, to require 公司 which are 总部设在英国以外的地区,以任命英国或欧洲经济区为基础的提名代表。” (6.10)

初步反应 说过:

没有 of relevance.

部长们 说过:

“Q569:安德鲁·格温:想必 the regulations will 适用于all content visibly available 在里面 UK—is that correct?

威廉姆斯男爵夫人:是的。”

结果: Charitably, perhaps 我们 应该 assume that 的 部长误会。向英国提供服务之间存在巨大差异 用户和在英国的知名度。鉴于跨国公司固有的跨境性质 互联网,宣称一个国家’仅仅针对街机森林舞会的本地法律 可见性基础等同于主张世界范围的域外性。 

它 会更符合互联网管辖权的方向 在过去的25年中,规范已经发生变化,以测试提供商 is targeting 的 UK.


2019年六月28日星期五

Speech is 不 a tripping hazard - response to在线危害白皮书


我向在线危害白皮书咨询提交的街机森林舞会。




Errata as 不ed in document corrected 29 六月 2019.
参考 Al-Najar和其他人v Cumberland Hotel(London)Ltd
[2019] EWHC 1593(QB)在2019年7月1日添加。


2019年五月5日星期日

的 Rule of Law and在线危害白皮书

在出版之前 在线危害白皮书 上 8 2019年4月,我提出了 十点法治测试 可能有用的 be subjected.

的想法 该测试较少用于评估该实体的实质价值 government’s proposal –你可以找到那些的分析 这里 –但还有更多确定 是否满足基本法治的确定性要求和 精确度,如果没有这种精确度,则某些看起来是定律的东西会特设 由国家官员指挥。

这是从该角度对白皮书进行的分析。 提出的问题是白皮书是否显示出足够的 关于以下每个事项的确定性和准确性。
1.    哪个运营商 are and are 不 subject to 的 duty of care
的 白皮书 says that 的 regulatory framework 应该 apply to “companies that allow 使用者 to share or 发现 user-generated 街机森林舞会,或在线彼此互动。”
This is undoubtedly broad, but 上 的 face of 它是 reasonably clear.  白皮书 继续提供相关服务主要类型的示例:
-             托管, 共享和发现用户生成的街机森林舞会(例如,公共论坛上的帖子) or 的 sharing of a video).
-             便利化 of public and private 上line interaction between service 使用者 (e.g. instant 消息或帖子评论)。
但是,这些示例引入了 不确定。因此,范围有多广‘facilitation’?白皮书提供了一个线索 当它提到诸如缓存之类的辅助服务时。但是很难 了解开头定义为包括缓存。
的 白皮书 says that 的 范围 will include “social media 公司, public discussion forums, retailers that allow 使用者 to review 在线产品,非营利组织,文件共享网站和 云托管提供商。”  在 的 Executive Summary it adds messaging services and 搜索引擎 进入the mix. Although 的 白皮书 does 不 mention 的m, 上line games would clearly be in 范围 as would an app with 社会的 or discussion features.
对印刷机的适用性是一个重要领域 不确定。报纸网站上的评论部分,或单独 discussion forum run by a newspaper such as 在里面 卡里姆诉新闻任务 情况会 从表面上看,它在范围内。但是,在致编辑协会的一封信中 国务卿表示:
“…正如我在白皮书中明确指出的 launch and 在里面 下议院,这些服务已经得到了很好的监管,例如IPSO和 IMPRESS do regarding 的ir members' moderated comment sections, 我们 will 不 复制这些努力。新闻或社论街机森林舞会将不受影响 by 的 regulatory 框架。”
This exclusion is nowhere stated 在里面 白皮书。 Further, it does 不 address 的 fact that newspapers are 的mselves 使用者 of 社交媒体。他们有Facebook页面和Twitter帐户,并带有指向 他们自己的网站。因此,他们自己的街机森林舞会可能会受到 社交媒体平台采取行动抑制用户街机森林舞会的表现 its 注意义务。
本节的裁决可能是‘extremely broad but clearly so’。但是,由引入的不确定性‘facilitation’, and by 报纸不够清晰,导致失败。
2.      To whom 的 duty of care is owed
答案似乎是‘no-one’. That may seem 奇怪,尤其是当国务卿杰里米·赖特(Jeremy Wright) 给编辑协会的信 to “a duty of care between 公司 and 的ir users”, but 什么is described 在里面 白皮书 is 不 in fact a duty of care at all.
的 proposed duty would 不 provide 使用者 with a basis 上 which to make a damages claim against 的 公司 for breach, as is 的 case 具有普通法的谨慎义务或法定的谨慎义务,例如, Occupiers’ Liability Act 1957.
自拟议的职责以来 conception of 危害 strays beyond 已确定的对个人造成人身伤害的护理责任范围, 进入the highly contestible region of speech harms and 的n 上 进入the unmappable wilderness of 危害 to society.
Thus 在其 introduction to 的 危害s in 范围 的 White 论文首先提到在线街机森林舞会或活动,‘harms individual users’, but 的n goes 上: “or threatens our way of life 在里面 UK, either by 破坏国家安全,或通过减少信任并破坏我们的共同利益 权利,责任促进融合。”
在虚假信息的上下文中,它指的是“undermining our respect and tolerance for each other and 混淆我们的 understanding of what is happening 在里面 wider world.”
不管这些抽象可能意味着什么,它们都是 不是那种可以适当地成为法律义务的事物 care 在里面 offline world sense of 的 phrase.
拟议的谨慎义务完全不同: 赋予监管者自由裁量权的法定框架 as 危害ful, 什么kinds of behaviour by 使用者 应该 be regarded as causing 危害,应制定什么规则来应对危害,以及哪些运营商 prioritise.
从法治角度看问题的答案 所造成的是,似乎显然没有人应负该责任。在那里面 在有限的意义上,它可能会评定为“通过”,但只能通过抵制 将该错误描述更改为失败,即创建了一个 duty of care.
然而,事实是这种职责是 由于没有人为其他问题的大量失败铺平了道路。
3.      什么样的 effect 上 a 接受者 will and will 不 be regarded as 危害ful
这是显而易见的失败。白皮书起源于 the 互联网安全策略绿皮书, yet does 不 restrict itself to what 在离线世界中将被视为安全问题。  它 makes no 在 tempt to 定义harm, 显然由提议的Ofweb决定应该和应该做什么 不被视为有害。白皮书中的一些示例表明 effect 上 的 接受者 is 不 limited to psychological 危害s, or even distress.
缺乏精确性的事实是, kinds of 危害 contemplated by 的 白皮书 are 不 restricted to those that 对信息的接收者有可识别的影响,但似乎 encompass nebulous 不ions of 危害 to society.
4.      什么演讲或 conduct by a user will and will 不 be taken to cause such 危害
答案可能是,“any”. 的 WP goes beyond defined unlawfulness 进入undefined 危害, but places no limitation 上 原则上可以视为造成伤害的行为。从 从法律的角度来看,这可能是通过的,但仅在某种意义上 that 的 kind of behaviour in 范围 is clearly unlimited.
5.      如果冒着 假设的讲话或行为的接受者就足够了,如何 much risk suffices and 什么are 的 assumed characteristics of 的 不ional recipient
失败。这两点都没有讨论, beyond emphasising many times that children as 我们ll as adults 应该 be 被视为潜在的接受者(尽管谨慎义务是否意味着 采取措施排除儿童,或定制所有街机森林舞会以适合 儿童,或其中一个或其他选择不清楚。白色 Paper makes specific reference to children and vulnerable 使用者, but does 不 限于这些。
6.      Whether 的 任何特殊伤害的风险都必须因果关联(如果是,则如何 紧密结合)到平台的某些特定功能
FAIL. 的 白皮书 mentions, specifically 在里面 context 虚假信息的 讨论了放大,滤泡和回声 与社交媒体相关的会议厅效应。更多 泛指‘safety by design’ principles, but does 不 identify 任何 据说会带来特定伤害风险的设计特征。
的 设计安全 principles appear to be 不 about 确定并排除可能会引起以下风险的功能 有害,但更着重于设计调节器将要使用的功能 可能需要操作员来满足其注意义务。
Examples given include clarity to 使用者 about 什么forms of 街机森林舞会是可接受的,有效的检测和响应系统 非法或有害街机森林舞会,包括使用基于AI的技术和 trained moderators; making it easy for 使用者 to report problem content, and an 高效的分类系统来处理报告。
7.      什么 情况将触发操作员采取预防或缓解措施的责任 steps
失败。这种情况的说明会遗留下来 由Ofweb自行决定,在其预期的《业务守则》中 恐怖主义或儿童性剥削和虐待行为 秘书通过OfWeb的批准’s Codes of Practice.
的 只要 concession made in this direction 就是它 的 政府正在咨询《行为准则》是否应获得 议会。但是,很难得出结论, 监管者的结果’在国会批准之前的临时审议, 几乎可以肯定,无论采取还是放弃 要求议会指定危害的民主或宪法力量 and 的 nature of 的 duty of care with 充足 precision 在里面 first place.
8.      什么 脚步 的 注意义务将要求操作员采取预防或减轻伤害措施(或 a perceived risk of 危害)
白皮书说,立法将明确规定公司必须采取合理可行的措施。 但是,由于与7相同的原因,这还不足以防止失败。此外,在“履行谨慎义务”的白皮书部分中,政府对于运营商应采取的步骤有自己的看法,这是隐含的。履行各方面的照顾义务。这在法定定义的职责与独立监管机构在 决定需要什么,以及可能的愿望 政府影响独立 regulator.
9.      How 任何 脚步 required by 的 duty of care would affect 使用者 who would 不 be 危害ed by 的 有问题的言论或行为
FAIL. 的 白皮书 does 不 discuss this, beyond 的 general discussion of freedom of 表达 在里面 next question.
10.   是否有风险 对合法言论或行为的附带损害(如果是的话, 多大的损害),会否定谨慎的责任
的 question of collateral damage is 不 addressed, other 而不是隐含在政府的各种声明中’s vision includes 在线言论自由和 监管框架将“set clear standards to help 公司 ensure safety of 使用者 while protecting freedom of expression”.
进一步,“监管机构有法律义务对 创新,保护用户’ rights 上line, taking particular care 不 to 侵犯隐私或言论自由。” 它会“ensure that 的 new regulatory requirements do 不 lead to a disproportionately risk averse response from 公司 that unduly limits freedom of 表达, including by 限制公众辩论的参与。”
因此考虑风险的后果 对合法言论的附带损害应由 监管者,而不是法律或法院。据推测,监管机构将根据 建议,可以减少压制合法言论的风险 that it considers to be 危害ful. FAIL.
后记 可能会说反对很多分析, 有任命先例的权力来决定的先例 what does and does 不 constitute 危害ful speech.
Thus, for broadcast, 的 Communications Act 2003 does 不 define “offensive or 危害ful”而Ofcom基本上要决定那些 mean, 在里面 light of generally accepted standards.
无论对这种制度的适当性有何看法 对于广播,白皮书提案将规范个人演讲。 个别演讲是不同的。什么是允许的监管模式 broadcast is 不 necessarily justifiable for individuals, as was recognised in 美国通讯规范法案(里诺v ACLU) 在里面 early 1990s. 的 US 最高法院裁定:
“这种动态的,多方面的交流类别 includes 不 只要 traditional print and news services, but also audio, video 和静止图像,以及交互式实时对话。通过使用 聊天室中,任何拥有电话线的人都可以通过 声音比任何肥皂盒都能产生更大的共鸣。通过使用 网页,邮件爆炸程序和新闻组,同一个人可以成为小册子作者。 地方法院裁定,‘互联网上的街机森林舞会多种多样 human thought’...我们同意其结论,即我们的案件没有依据 使应适用的第一修正案审查水平合格 this medium.’
在当今时代,在美国以外的地区几乎不流行, 引用第一修正案的判例。 然而,这个主张 individual speech is 不 broadcast 应该 在任何司法管辖区的宪法法院或人权法院发挥重要作用。