2020年2月2日,星期日

在线危害IFAQ *


*常见问题解答不足

渴望的学生对学术律师有一些疑问 the UK government’s 在线危害白皮书.

ES。 人们为何对拟议的在线广告感到如此不安 Harms legislation?

SL。Most people 是 n’t,即使他们已经听说过。但 they should be.

ES。 What can be wrong with preventing 危害?

SL。Indeed, who could be against that? But this is a 立法提案。我们必须剥离标签并检查其中的内容 the bottle.  当我们看里面时,我们发现 回到黑暗时代的虫洞。

ES。 黑暗时代?

SL。Consider the days when unregulated theatres were reckoned 对社会构成威胁,张伯伦勋爵(Lord Chamberlain)审查了戏剧。那力量 于1968年被废除,引起极大的欣喜。剧院被解放了。他们 可能会像他们喜欢的那样粗鲁和有争议,但不会引起违反 of the peace.

白皮书 为互联网提议张伯伦勋爵. 当然,这将是类似于Ofcom的独立监管者,而不是皇家 官方。甚至可能是Ofcom本身。但是本质是一样的。  这次目标不会是 少数剧作家感到震惊和得罪,但我们所有人 internet.

ES。 当然,这是戏剧性的。数字如何 张伯伦勋爵审查了数千万使用互联网和互联网的人 social media?

SL。Would the 调节器 personally strike a blue pencil through 具体内容?不会。但是立法对 那。它将选择互联网平台和搜索引擎来完成这项工作, 在监管机构明确规定和执行的谨慎义务的旗帜下。

ES。 不’围绕审查制度的互联网路线?

SL。Once your post or tweet has passed through your ISP’s 系统在互联网上,被切成碎片并在一个 互连的路由器网状网:很难隔离和捕获或阻止。

但是您自己的ISP一直是一个瓶颈。有可能 变成了网守而不是网关。早就意识到了这种危险 on when 电子商务指令第15条 阻止欧盟政府这样做 that.

如今,我们通过大型平台进行交流:社交媒体 公司,消息传递应用程序及其他。我们的推文,帖子和即时消息 最终出现在几个数据库中。因此,我们有了新的瓶颈。  公司可能能够阻止,过滤和 take down users’内容,即使广泛刷而不是 蓝铅笔。我们的数字张伯伦勋爵会在 one remove,

ES。 即使如此,审查制度在哪里?这是关于在线的 安全,不压制争议。

SL。The particular vice 在 the heart of the White Paper is the latitude for the 调节器 to deem 事情s to be 有害. If the proposals 仅与所谓的安全有关,例如死亡和人身危险 伤害,这将对应于离线护理职责并划清界限。要么 如果建议仅是关于非法在线行为的,则内置行 合法与非法之间的冲突将为防止超范围提供一些保护。 但是提案既不是,也不是。

ES。 如果目前尚无违法行为, 白皮书提案是否如此?

SL。Yes and no. Asserting that you have been 危害ed by 阅读我在网上发布的内容是 不是对我提起法律诉讼的依据,即使您对此感到震惊,愤怒,生气或痛苦。那里 可能会更多,例如煽动或骚扰。这是相同的规则 至于离线发布。  

但是白皮书’注意事项可能需要平台 对同一个职位采取行动,无论其合法性如何。它可能 扩展到阻止,过滤或删除。如果平台可能被罚款 didn’t have good enough systems for reducing the risk of 危害 that the 监管者从这种内容中认为存在。

ES。 因此,该平台可能会面临以下法律后果 即使我没有做任何非法的事情,也无法审查我的资料 写作和发布吗?

SL。Exactly so.

ES。 I’我很好奇为什么有人会建立一个新的 解决已经是非法行为的制度。

SL。To create a new law enforcement route. A digital Lord 张伯伦将选择在线中介来完成这项任务:混合我们的 比喻可怕,一个在线警长带着应征的代理人参加 将订单带给Digital Dodge。那是否是个好方法 事情是一个备受争议的观点。

但是白皮书的起源是 与非法行为不同:合法的在线内容和行为据说构成 a risk of 危害, whether to an individual user or to society.

ES。 监管机构几乎可以对待 anything as 有害?

SL。The White Paper proposes to impose a duty of care 上 上 line intermediaries in respect of 危害. It offers no definition of 危害, nor what 构成伤害风险。除了一些特定的例外情况,这是开放的 由新的在线监管机构进行解释。

ES。 小心谨慎。喜欢健康和安全?

SL。The name is similar, but the White Paper’s duty of care 与类似的离线护理职责几乎没有相似之处。

ES。 有何不同?

SL。In two main ways. First, corresponding duties of care 在离线世界开发的产品仅限于公认的安全性 词义:死亡,人身伤害和身体伤害的风险 property.  这些是客观的概念 这有助于将护理职责保持在可确定且公正的范围内。 通用的通用护理职责不存在于离线状态。  

白皮书的谨慎义务并不仅限于此。它 speaks 上 ly of 危害, undefined. Harm is a broad concept. Harm and safety become 适用于语音的流畅,主观的观念。我们可以断言 言论是暴力,我们有权受到保护,而不仅仅是 威胁和恐吓,但根据我们认为令人讨厌的观点和事实。

在线监管者可以采用最标准 容易冒犯的​​读者。它可以重新发明亵渎神灵的庇护 注意义务。它可以像白天的电视节目一样对待互联网。 Ofcom,让我们 别忘了,建议在2018年对参与者进行调查,发现不良语言是“harmful thing”. In last year’它描述的调查“offensive language” as a “potential harm”.

Undefined 危害, when applied to speech, is not just in the 情人的眼睛和耳朵,但监管者认为。  职责,从而监管者’s powers, 故意将范围扩大到比任何违法行为都大的地方。

ES。 因此,即使我们的数字张伯伦勋爵没有审查 specific items, it still gets to decide what kind of 事情 is and is not harmful?

SL。Yes.  写一个 《实践准则》可以像挥舞蓝铅笔一样严格。

ES。 第二点与离线任务的区别 care?

SL。Health and safety is about injury caused by the occupier 或雇主:例如在一块松散的地板上绊倒。  注意义务通常不会扩展到伤害 由一个访客造成的。如果占用者或雇主可以这样做 造成或加剧了发生或承担的特定风险 对风险负责。

但最重要的是,在尊重他人方面存在离线责任 一个访客对另一个访客说的话。这恰恰是 白皮书提案将强加在线中介机构。

白皮书两次从任何可比较的离线版本中删除 duty of care.

ES。 Could they not define a limited version of 危害?

SL。 约翰·汉弗莱斯 建议在 今天的节目可以追溯到去年四月。纽西兰 Harmful Digital Communications Act passed in 2015 did define 危害: “serious emotional distress”。这样做的好处是专注于 与社交媒体经常发生的恶作剧:欺凌, 恐吓,虐待和其他。但这只是其中的一小部分 白皮书涵盖的景观。

最近,该计划的始祖之一 卡内基英国研究所(Carnegie UK Institute)发布了自己的论文 建议草案. It does not define or limit the concept of 危害.

ES。 Is there a disadvantage in defining 危害?

SL。That depends 上 your perspective. A clear, objective boundary for 危害 would inevitably shrink the 调节器’汇款并限制其 谨慎。它必须在一套规则的范围内行动。因此,如果 您的目标是最大限度地发挥调节器的功能和灵活性,然后’t 希望通过设置明确的限制来限制其样式。从这个角度来看,模糊性 is a virtue.

关于是好是坏,意见会有所不同 事情。传统上,共识是个人演讲应 受规则约束,而不是自由裁量权。可能会认为,自由裁量权是一种 定义审查制度的特征。

白皮书涵盖的领土范围非常广 and its predecessor 互联网安全绿皮书 可以解释为什么反对 undefined 危害 is so steadfastly ignored. A catch-all is no longer a catch-all 一旦您阐明了它所捕获的内容。

ES。 您说的是关于个人演讲,但不是’t the 点规范平台?

SL。It is true that the intermediaries would be the direct 注意事项。如果违反,他们将受到处罚 职责。但是我们的用户是那些会遭受我们在线影响的人 speech being deemed 有害. Any steps that the platforms were obliged to take would 瞄准我们在网上做的事情。用户是最终的,即使是间接的, target.

ES。 我已经看到它说谨慎的责任应该集中 on platforms’流程,而不是针对特定的用户内容。那怎么可能 work?

SL。Carnegie has criticised the White Paper as being overly 专注于内容类型。 它说 白皮书开放了政府 to “来自言论自由运动家和其他团体的(合法)批评 这是关于节制,审查和删除的制度”. Instead the regime 应该是关于设计服务“平衡所有人的权利 users, reduce the risk of reasonably foreseeable 危害s to individuals and 减轻对社会的累积影响。”

为此,卡内基提出了‘systemic’ approach: “cross-cutting codes which focus 上 process and the routes to likely 危害”. For the most part 其法案草案对要求的业务守则进行了分类,而不是按有问题的种类进行分类 演讲(错误信息等),但就风险评估而言,风险因素 在服务设计,发现和导航过程中,用户如何保护 themselves from 危害, and transparency. There would be specific requirements 上 操作员进行风险评估,风险最小化措施,测试 并且要透明。

卡内基 : “监管重点将放在 是从总体上对风险做出的合理反应。在此,正式 risk assessments constitute part of the 危害 reduction cycle; the 应对措施的适当性应由监管机构对此进行衡量。”

ES。 Would a 系统的 approach make a difference?

SL。The idea is that a 系统的 approach would focus 上 过程设计,并让监管机构远离对内容的判断。的 监管机构不应该 说卡内基,就用户投诉做出决定 in individual cases.

但是,风险并不是一个独立的概念。我们必须问: ‘risk of what?’如果提供的唯一答案是‘harm’, and 危害 is left undefined, we 是 back to someone having to decide what counts as 有害. Only then can we 衡量风险。不考虑内容类型怎么办?怎么能 监管机构衡量中介机构的有效性’ 危害 reduction measures without knowing what kind 内容 is 有害?

卡耐基 以前说过 about measuring 危害 减少表明监管机构确实必须决定哪种类型 of content 是 to be regarded as 有害: “…测量的是发生率 of 人工制品 that – 根据监管机构制定的法规 – are deemed as likely to be 有害...”. By “artefacts” 卡内基 means “ 类型 of content,系统的各个方面(例如,推荐算法的方式 作品)和任何其他因素”. (emphases added)

ES: What is the 危害 reduction cycle?

SL:这是卡内基模型的核心。它设想 调整中介设计的重复过程’ processes to squeeze 危害 out of the system. 

卡内基 : “社交上发生的一切 媒体或消息服务是公司决策的结果:…” From this 观点用户行为是中介的功能’ processes - 可以通过谨慎影响,推动的过程加以利用的过程 –甚至从根本上改变-用户行为。

卡内基 谈论 a “Virtuous circle of 危害 reduction 上 社交媒体和其他互联网平台。永久重复此循环,或者 until behaviours have fundamentally changed and 危害 is designed out.”

显然存在一个关于学位的问题 用户控制自己的行为的程度,以及他们的行为程度 他们用来交流的平台的被动工具。

ES: 我感觉刚开始.

SL: Mmm. The 危害 reduction cycle does prompt a vision of social 媒体用户作为洗衣机中的衣物:选择程序 marked 危害 reduction, keep cycling the process, rinse and repeat until 危害 is 从系统中清除后,出现了崭新的互联网。

但实际上,互联网用户并非束手无策 衣服要送入调节器’编程的清洁周期;和他们的话 不要将脏水通过废水软管泵出。

互联网用户是做出决定的人– good, 坏和冷漠-关于网上说和做的事;他们是自治的,不是 自动机。它冒犯了人类尊严,冒犯了设计法规,好像 人不是我们所知道的被诅咒的独立生物,而是人类 调节剂将重塑粘土’迭代减害算法。我们没有 将自己从技术乌托邦主义中解放出来 层级技术官僚主义的乌托邦主义.

ES。 系统可以与内容分离吗?

SL。It is difficult to see how, say, a recommender algorithm 可以与推荐的内容类型脱离,除非我们认为推荐 content as likely to be 有害 per se. Should we view echo chambers as intrinsically 有害 regardless of the content involved? 有些可能 take that 认为,也许是未来的监管者。是否适合 监管者有权做出这种判断是另一回事。

实际上,小心谨慎几乎无法避免- 至少在大多数情况下-中介必须采取哪些步骤 什么样的内容。蓝铅笔-甚至以粗笔刷为幌子 由中介人按照程序安排的《工作守则》行使– would 由我们的数字张伯伦勋爵掌控。

ES。 当然,对于 regulator can do?

SL。The White Paper excluded some 危害s, including those 受组织之苦。  卡内基选秀 比尔没有。它确实在调压器上有硬制动’s power: it must 不需要服务提供商进行常规监控。那是故意的 遵守《电子商务指令》第15条。

政府还表示无意将 新闻。卡内基法案草案试图将其翻译成 statutory wording.

ES。 还有其他刹车吗?

SL。The 调节器 will of course be bound by human rights 原则。这些是软制动,而不是硬制动:少了红色的本性 线,更多的障碍需要克服,以证明 干涉权利–如果该权利排在第一位。

权利的行使并不意味着 欧洲人权法认为,干涉永远是一种侵犯。确实 表示该干扰必须由法律规定,并有正当理由 必要且相称。

ES。  有义务吗 照顾参与表达自由?

SL。The speech of 个人最终用户 is liable to be 由于谨慎义务而受到抑制,抑制或干扰 放在中介上。由于中介机构将在法律强制下行事 (即使他们对遵守的方式有所选择),也是这种干扰的结果 国家行动。这应涉及最终用户的言论自由。如 individual end users’言语受到影响’不管公司 中介人本身具有表达自由的权利。

无论干扰是否在 内容创建,传播,用户参与或审核/删除的阶段。 这些是卡内基在 讨论 法案草案与基本自由的兼容性。

卡内基(Carnegie)设想向用户提供工具, 诸如图像处理和过滤器之类的内容可能在维护范围之内。 这表明,至少可以说国家对访问权的控制是有争议的。 创建控件(绘画,摄像机等)可以看作是 干扰。同样,如果持有Deepfake工具,则禁止使用它们 to be problematic.  

卡内基认为,是否, 如果我们被推向一个方向,那就是对 轻推。但是,问题当然不是是否存在反nu 根据谨慎义务需要进行的干预是涉及 表达自由(很难做到) 干扰是合理的。

ES。 如果中间人只需要降低速度怎么办 at which users’语音传播,或通过诸如 likes and retweets?

SL。Still an interference. People like to say that freedom 言论不是伸手可及的自由,而只是口号。如果状态 干扰语音传播或放大的方式 享有表达自由权。没收发言人’s megaphone 在政治集会上就是一个明显的例子。切断某人’s internet 连接是另一回事。印度最高法院在本月初表示, 判断 关于克什米尔互联网关闭:
“毫无疑问,自由 言论和表达的权利包括将信息传播为 尽可能扩大一部分人口。发行范围更广 信息或其更大影响不会限制权利的内容 它也不能证明其否认理由。”

抢占印刷机不受干扰 因为出版商可以选择手写。言论自由是 不只是耳语的自由。

ES: 这样你就可以’只是重新定义权利以避免 证明干扰?

SL。Exactly. It is dangerous to elide the scope of the right 和合理的干预;很容易陷入这种速记: “X的自由并不等于Y的权利。”做Y的权利几乎 总是一个问题,特别是防止Y是否合理 在实际情况下,不是将Y通常排除在保护范围之外。

卡内基基本自由论文说:“Requiring 平台考虑优先级时考虑的因素 内容(及其副作用)不太可能吸引用户’s rights; 坦率地说,言论自由并不等同于言论自由权。 maximum reach”. However it is 上 e 事情 to justify intervening 从而减少触及率。争论用户是另一回事’言论自由权是 not engaged 在 all.

ES。 因此,监管机构可以证明限制规定 还是使用放大工具?

SL。If the interference is necessary in pursuance of a 合法的公共政策目标,并且与该目标相称,那么它可以是 有道理。比例性涉及与其他权利之间的平衡,并且 考虑防止滥用的保障措施。干扰越严重, 要求的理由越大。

ES。 听起来有点模糊。

SL。Yes. It gets more so when we add the notion that the 国家可能有采取行动确保权利的积极义务。通常 与可能与言论自由相冲突的权利一起发生,例如 隐私或宗教自由。  我们甚至可以 最后争论说国家有义务禁止某些人’s speech in 为了确保他人享有真正,有效的权利,享有自己的权利 表达确保权利不是虚幻的;或确保可用性 广泛的信息。

ES。 要求国家摧毁村庄以便 to save it?

SL。 不完全是,但是越来越多 国家的强制力被认为是确保国家自由的手段。 表达而不是威胁。 

因此,卡耐基提出质疑:删除转推功能是否确实侵犯了用户提出自己的意见和发表意见的权利,或者相反,而是通过放慢其速度以使其更好地欣赏内容来支持这些权利的机制,尤其是关于向前共享。

将基本权利概念化为高尚剑的危险 争夺国家地位’军械库是我们失去了对他们的关注 作为一组盾牌的核心角色,形成针对过度行为的防御线, 滥用国家权力。

ES。 那么我们可以依靠基本权利来维护 village?

SL。The problem is that there 是 so few red lines. The village 可能开始陷入必须权衡的竞争权利的泥潭 with each other.

卡内基基本自由论文很好地说明了 问题。这确实是两全其美的权利,最终导致不可避免的, 但并非很有启发性,得出以下结论:如果 在冲突的权利之间保持合理的平衡,并建议 国家可能有积极的干预义务。那不是对 纸。欧洲人权法就是这样发展的。

ES。 你提到了‘prescribed by law’ requirement. How does that apply?

SL。‘Prescribed by law’是评估公约的第一步 干扰的兼容性。如果你不这样做’不要通过你不走的那一步’t move 上 合法的目标,必要性和相称性。法律规定的手段 不仅是由立法机关发布并可以公开访问,而且还具有 quality of law.

法律质量是对法治的一种表述。 限制必须足够清楚,准确地界定, 可以事先合理地确定其行为是否应承担责任 产生法律后果。在注意义务的背景下, 结果是用户’的言论很可能是预防性的主题, 平台操作员执行其职责的禁止行为或其他行为。

法律质量是全权委托人特别关注的问题 国家权力,就其性质而言,可以临时行使, 在没有明确规则的情况下随意进行。

ES。 自由裁量权与 regulator, then.

SL。Yes. As we have seen, the proposed 调节器 would have very wide discretion to decide what constitutes 危害, and then what steps 中间人应采取减少或预防伤害风险的措施。您可以建立协商并“考虑”义务,但这不会改变任务的性质。

ES。 不能’法律质量的差距由 regulator’s Codes of Practice?

SL。It is certainly possible for non-statutory material such 作为在评估确定性时要考虑的实践准则,以及 法律的精确度。有人会说,监管者的能力 差距只是突出了草案将授权的程度 掌管监管者的个人发言权。 

ES。 Isn’那是教条而不是法律 objection?

SL。Partly so. However, in the US ACLU v里诺 案子 1990年代初期,美国法院采取了中等针对性的方法,认为 可能合理的广播限制并非如此 互联网上的个人演讲。因此,模型的适当性 当适用于自由裁量广播法规时,可能会受到质疑 个人演讲。值得一提的是,谨慎义务会影响演讲 of individuals.

ES。 卡内基表示,其新兴模式将‘champion 在线法治’.

SL。The essence of the rule of law is “the restriction of 通过将权力服从明确定义并任意支配权力 established laws”(OED)。这是普通法的特征,但不是普通法的特征。 自由裁量权。

如果有的话,监管机构的监管对 法治。理由’力求最大程度地发挥力量,灵活性和 discretion of the 调节器.  有些可能 认为这是一个好方法。但是好办法还是坏,拥护统治 law it does not.

ES。 谢谢.



没意见:

发表评论