2019年值得关注的互联网法律发展

来年有大量未决诉讼和立法举措（甚至没有考虑过英国退欧）。

欧盟版权改革

-         的拟议指令 关于数字单一市场上的版权的问题目前正在讨论中 委员会，理事会和议会之间的讨论。它继续令人兴奋 出版商之争’附属权与条文之间的冲突 13和《电子商务指令》的中介责任条款。 [指示 被采纳 于2019年4月15日生效。由成员国在《官方公报》上公布后24个月内实施。

-         政治 agreement 已于2018年12月13日达到 指令（原为 规) 扩展 原产国规定 卫星 和有线广播指令 在线广播和新闻广播。 最终文本应在适当时候正式批准。 [ Directive was 被采纳 在2019年4月15日。]

欧盟在线业务 欧盟委员会有 提议的 促进商业用户公平和透明的法规 在线中介服务。它将制定透明度和补救规则 为了在线中介服务的商业用户和公司的利益 在线搜索引擎的网站用户。立法将覆盖在线 市场，在线软件应用程序商店，在线社交媒体和搜索 engines. 的Council of 的 EU reached a 共同 position 该条例草案于2018年11月29日生效。 [议会和理事会达成 政治协议 于2019年4月12日的拟议法规中进行。]

电信隐私的提议的 欧盟隐私权法规 继续起伏不定 voyage through 的 欧盟立法程序。

中介责任 的UK government has published its 互联网 安全策略绿皮书，是要发布的白皮书的前身 在2018-2019年冬季，其中将包括中介责任，职责和责任。 同时，上议院通讯委员会正在进行一项 查询 关于互联网监管，包括中介责任。的房子 下议院委员会审查虚假信息和假新闻 感动 on 的 topic。在此之前，英国公共生活标准委员会 建议的 英国脱欧提供了摆脱中介责任的机会 电子商务指令的保护。 [政府发表了 在线危害白皮书 在2019年4月8日。]

欧盟委员会于2018年9月12日发布了 提案 Regulation 关于防止在线散布恐怖分子内容的信息。 随后是2017年9月 通讯 在线处理非法内容和 游行 2018 建议 有效地在线解决非法内容的措施。 It is notable 一小时的撤消响应时间以及成员国的能力 贬低电子商务指令 文章 15 prohibition 在对管道施加一般监控义务时， caches 和 hosts.

奥地利最高法院已将欧洲法院转交给欧洲法院 有关是否可能需要托管中介来阻止访问的问题 类似内容和域外性（C-18 / 18 - Glawischnig-Piesczek）。 的German Federal Supreme Court has referred two cases (的YouTube和 已上传) 向欧洲法院提出询问（除其他事项外） 电子商务指令对UGC共享站点的中间保护。

待处理的CJEU版权案件 几种版权 引用正在欧盟法院审理中。正在考虑的问题 包括是否可以依靠《欧盟基本权利宪章》 排除版权指令中的例外或限制（明镜 Online GmbH诉Volker Beck, C-516 / 17；  丰克 Medien （案例C-469 / 17）（提倡一般性意见2018年10月25日 这里) and 佩勒姆 案例476/17）（主张一般性意见2018年12月12日 这里); 以及PDF链接是否等于 报价例外的目的（明镜 Online GmbH诉Volker Beck, C-516/17). 的Dutch 汤姆·卡比内 已提及二手电子书交易案例 the CJEU (案件 C-263/18）。 的的YouTube和 已上传 德国联邦最高法院未决的案件包括以下问题： 与公共权利的沟通。

在线色情 的数字 Economy Act 2017 向监管机构授予权力（随后指定为 成为英国电影分级委员会）确定年龄控制 互联网网站的机制‘R18’有色情内容；并直接 ISP阻止不符合年龄验证或 包含不会获得R18证书的材料。的过程 行政安排仍在继续。 [该政权将于2019年7月15日生效。]

跨境责任和管辖权 的French CNIL /谷歌 搜索引擎降索引的案例在以下方面引发了重大问题 治外法权，包括是否要求Google取消对某项的索引 global basis. 的Conseil d'Etat has 被提及 向欧洲法院提出各种问题 [案例C-507 / 17;提倡民意 已交付 [2019年1月10日]. C-18 / 18 Glawischnig-Piesczek，也来自奥地利最高法院的参考资料， 在《电子商务》第15条的背景下提出了地域性问题 Directive.

在执法领域，欧盟提出了 欧盟生产和保存令条例 （‘电子证据法规’）以及相关的指令，该指令将为 一些跨境请求直接发送给服务提供商。英国曾说过 将不会选择该法规。美英双边直接跨境谈判 数据访问仍在继续”。犯罪（海外生产令）条例草案， 这将建立一种机制，使英国当局能够进行跨境 根据这种双边协议提出的要求是 进步的 through Parliament 并收到 御批 在2019年2月12日]. [与此同时 讨论继续 第二议定书 云中的证据加入《网络犯罪公约》]

在线状态监控 的UK’s 调查性 Powers Act 2016 （知识产权法）几乎完全生效，包括 之后的修订 沃森/ Tele2欧盟法院的决定。但是，为 通信数据授权以批准对通信数据的请求 尚未落实。

与此同时 a pending 参考 从 调查权力法庭对是否 沃森 该决定适用于国家安全，如果适用，如何执行；是否强制 保留的数据必须在欧盟内部保存；以及那些数据是否包含 被访问必须通知。

自由正在对《知识产权法》的主要权力和数据进行司法审查 retention powers，将于2019年6月恢复。已获准向法院上诉 对数据保留权力是否构成非法的问题提出上诉 普遍性和不加区分的保留。

知识产权法（特别是大国权力条款）可以是 受到欧洲法院案例的间接影响（对 欧美隐私保护盾 并到 Belgian 通讯 数据 retention regime），在欧洲人权法院（《大哥大表》和 其他非政府组织则对现有的RIPA批量拦截机制提出了挑战 国际私隐权调查权法庭的司法覆核 设备干扰功率的决定。

的ECtHR gave a Chamber 判断 在 的 BBW 案于2018年9月13日。 judgment 有 成为s 最后可以 有 最多影响了知识产权法 三 separate ways. 但是t非政府组织 成功地 寄了 应用编阳离子 判断是 提到ECtHR大商会， 和瑞典的申请者一样 拉特维萨 该案于2018年6月19日作出判决. 因此，这两个案件现在正在大会议厅待决。.

在里面 隐私 International 设备干扰案，上诉法院 保持 调查权法庭的裁决不易于司法 review.  [进一步 最高法院于2019年5月15日提出上诉，要求IPT裁决易于司法审查。现在，诉讼将继续。]

英国合规’s 欧盟监督法 宪章基本权利 will be a factor in any 数据 保护充分性决定 英国成为非欧盟国家后将寻求 英国脱欧后的第三国。

[这里是对英国监视制度挑战的最新思维导图：]

[软件-商品或服务？ 待定 上诉 英国最高法院 就《商业代理人条例》而言，以电子方式提供的下载软件（而不是在任何有形介质上）是否属于商品。 Computer Associates（UK）Ltd诉The 软件 Incubator Ltd 听力 28 游行 2019.]

[于2018年12月28日更新，在 谷歌 v CNIL， 2019年1月2日，添加欧洲法院关于比利时通讯数据保留制度的参考以及最高法院关于罢免的未决决定; 2019年1月4日在中添加AG意见 佩勒姆; 2019年1月14日添加 拉特维萨 申请提及ECtHR大商会; 2019年1月15日在中添加AG意见 谷歌 v CNIL和 计算机协会v软件孵化器 上诉; 2019年1月16日增加《网络犯罪公约》; 2019年5月14日，各种更新; [2019年5月21日，已更新，以增加国际隐私最高法院上诉的结果并更新思维导图。] 

《调查权力法》第1.2版将包含哪些内容？

永远不要相信任何软件的1.0版。等到错误 已被熨平，然后才打开钱包。

英国也是如此’的监视立法。  墨水很快就干了 《 2016年调查权法》（IP法案）比最初的漏洞多，位于通信中 数据保留模块，已由欧盟法院（CJEU）公开’s 判断 在 Tele2 /沃森. 

经过相当 延迟发布所需的修补程序，版本1.1目前正在逐步实施 through Parliament. 的对该法的修正案 进行两个主要更改。 他们将严重犯罪的目的限于与犯罪有关的目的。 当局可能要求访问强制保留的数据，并且引入了 事先针对非国家安全要求的独立授权。

不确定是否还会对数据保留进行更多更改 为了遵守 Tele2 /沃森 判断。  那 自由结局后应该变得更加清晰’向法院上诉 在对该法的司法审查中上诉，并有各种未决的提及 CJEU.

与此同时，斯特拉斯堡最近的判决 老大哥对英国 （目前尚未定案，有待转介至大会议厅）已暴露 知识产权法中的一系列缺陷’前身的法规 2000年调查权法》（RIPA）。这些都是在大量拦截中 和通信数据采集模块。在一定程度上存在缺陷 已被纳入新法规中，对其进行修复可能需要IP 使用新的1.2版进行修补。

的BBW 判断确实 不直接阅读《知识产权法》。新法规比 RIPA并引入了必须改进认股权证的重大改进 由独立的司法专员批准。  尽管如此， BBW 判决对《知识产权法》具有重大影响。 

法院认为RIPA的三个具体方面受到侵犯 《欧洲人权公约》：

• 缺乏对批量拦截的全面的端到端监督 获取，选择和搜索过程
• Lack of controls 上 use of 通讯 数据 从批量拦截获得
• 对获取的保障不足 两种侦听体制下都有新闻特有的材料 and 的 ordinary 通讯 数据采集 regime

端到端监督

批量拦截过程始于选择 将被挖掘的载体（电缆内的电缆或通道）。  它最终聚集在各种可以 由分析师查询或用作计算机分析的原材料。在 两者之间是用于过滤，选择和分析 从承载者那里获得的材料。其中一些过程实际上是在运行 时间或接近实时，则将其他时间应用于存储的材料并花费更长的时间。电脑化 流程将随着可用技术的发展而发展。

法院对缺乏强有力的监督感到关注 RIPA贯穿所有阶段，尤其是选择和搜索标准 used for filtering. 事后 审计 截获通讯专员的意见被认为不足。

为了理解法院所依赖的程序 组合来源： 拦截 Code of Practice under 里帕， 情报和安全委员会2015年3月的报告， 调查权力法庭2014年12月5日的判决 在Liberty和其他人提起的诉讼中，以及 the Government’在史特拉斯堡诉讼中的陈述。法院描述 the processes thus:

“…第8（4）条制度分为四个不同阶段：

1.  的interception 一小部分的互联网承载者，被选为最有可能的 to carry external 通讯 of 智力价值。

2.  的filtering 和 自动丢弃（几乎实时）大部分 intercepted 通讯, being 的 traffic least likely to be of intelligence value.

3.  的application of 简单和复杂的搜索条件（通过计算机）到其余 通讯，并保留与相关选择器匹配的通讯，以及 那些不被丢弃的东西。

4.  的examination of 分析师保留的部分（如果不是全部）材料。”

对一个的引用‘small percentage’互联网载体的来源 摘自2015年3月的ISC报告。法院在较早的判决中说：

“… GCHQ’s bulk 在 terception 系统仅在占 互联网和ISC对GCHQ应用了过滤和 选择，使得那些载体上仅一定数量的材料是 collected.”

关于这段话有两点值得评论。第一， 而选定的承载者可能只占估计的很小一部分 构成全球互联网的100,000个承载者（判决[9]），这是不一样的 指在英国降落的持票人的百分比。

其次，ISC报告尚不清楚，如果有的话， 过滤和选择过程不仅应用于内容，还应用于通信 从拦截的资料中提取的数据（元数据）。同时报告 describes filtering, automated searches 上 通讯 using complex 标准和分析师执行其他定制搜索，它还说：

“相关光盘 (RCD) from 在 terception：GCHQ’CD的主要来源 是其拦截活动的副产品，即GCHQ拦截了 bearer, 的y extract 所有 CD从那 持票人。这被称为‘Related CD’. GCHQ extract 所有 来自的RCD 所有 的 他们通过批量拦截功能访问的载体。” (emphasis added)

的impression that collection of related 通讯 斯诺登（Snowden）文件加强了可能无法过滤的数据， 到来自批量拦截的几个数据库，其中包含 大量的非内容事件数据。原型KARMA POLICE，数据集 专注于网站浏览历史，据说包含178亿行 数据，代表3个月’采集。 （是否存在 KARMA POLICE和类似数据库尚未得到正式承认， 尽管在2014年当时截取了通讯专员 年度报告报道说他已经向拦截机构提出了建议 about retention periods for related 通讯 数据。)

ISC还是“惊讶地发现主要 批量拦截对GCHQ的价值不在于读取 通信，但在与那些通信相关的信息中。”

如果正确，则很少或不应用任何过滤 相关通信数据（或已知的辅助数据）的收集 IP法案），那么整个端到端的流程将如下所示 （该图借鉴了The Intercept出版的Snowden文件以及 已经提到的来源）：

返回到 BBW判决，法院’与被拦截有关的担忧‘communications’ 和 ‘material’:

“缺乏监督 整个选择过程，包括选择要拦截的载体， 用于过滤拦截通信的选择器和搜索条件，以及 选择供分析人员检查的材料…”

没有明显的理由将这些观察结果限制为 内容。判决书的其他地方“不相信 获取相关通信数据的侵扰性一定要小于 内容的获取” 和 went 上:

“The related 通讯 数据 …可以揭示发件人的身份和地理位置，并且 接收者和传输通信的设备。在 大量的入侵会被放大，因为将会出现的模式 可能能够通过 社交网络映射，位置跟踪，Internet浏览跟踪， 沟通模式的映射，以及对人与谁互动的见解 with…”.

法院继续对RIPA提出具体批评’s lack 限制有关通信数据的使用，如下所述。

法院怎么办’端到端监督手段的发现 知识产权法？该法引入了司法部门对手令的独立批准 专员，但这是否会形成对端到端的强大监督 斯特拉斯堡的过程，尤其是选择器和搜索条件 Court requires?

ISC 2015年3月的报告建议，监督 赋予机构明确的权限以审查载体的选择， 简单选择器和初始搜索条件的应用，以及复杂的 确定哪些通信被读取的搜索。大卫·安德森（David Anderson Q.C。）（现为安德森勋爵） 大功率评论 记录（第2.26（g）段）由内政部提供的保证 条例草案第205条和211条（现为第229条和 235 of 的 IP Act).

除此之外，根据《知识产权法》，司法专员还拥有 在认股权证批准阶段考虑 由批量认股权证授权的行为。可以说这包括所有四个阶段 由史特拉斯堡法院确定（请参见 我对IPCO的提交 今年早些时候）。 如果是正确的话，RIPA差距可能已被部分填补。

但是，《知识产权法》并未明确规定选择者 和搜索条件必须进行审查。而且，专注于那些特定技术似乎已经过时了。散装 Powers Review揭示了在何种程度上更复杂的分析 异常检测和模式分析等技术得以应用 关于截获的材料，特别是通讯数据。强大的端到端 监督应涵盖这些技术以及选择器和 automated queries.  

缺口的其余部分也许可以由 解释司法专员如何密切监督各种事务 选择，搜索和其他分析过程。

填补这一空白可能不一定需要修改 《知识产权法》，但最好以黑白列出。它 也许可以用IPCO的咨询通知来填补： 了解该法案的相关要求；其次解释 转化为实际监督，作为批量认股权证批准的一部分或 否则，涉及批量拦截的端到端阶段（实际上 其他大国）。

有关 通信数据/二次数据

的diagram above shows how 通讯 数据 can be 从批量拦截获得。在RIPA下，这称为“相关” 通信数据。在IP法案中，它被称为辅助数据。与RIPA不同， 《知识产权法》规定了提取二级数据的大宗认股权证的类别 单独（无内容）来自承载者。  但是，《知识产权法》对辅助数据的定义也允许某些事项 从通讯中提取并视为通讯的内容 data.

与RIPA一样，《知识产权法》对 可以使用辅助数据的用途。可能由于原因而检查 在总体法定目的之内，并在必要时和 比例性。 《知识产权法》增加了理由，要求理由在 批量认股权证中指定的操作目的（可能广泛）。如 with 里帕, 的 restriction that 的 批量拦截的目的必须与海外相关，不适用于 考试阶段。与RIPA一样，要求获得特定权限 （针对《知识产权法》的针对性检查令）选择 examination 的 通讯 of someone known to be 与in 的 British 岛屿。但是像RIPA一样，这仅适用于内容，不适用于辅助数据。

里帕’对相关检查缺乏限制 通信数据在调查权力法庭中受到质疑。的 政府辩称（并且在斯特拉斯堡诉讼中再次这样做），这是 为了确定目标是否在英国境内是必要的 岛屿，因此是否有必要申请特定权限 由国务卿审查目标的内容’s communications.

IPT接受了这一论点，认为区别在于 限制是合理的，并且由于需要 能够确定目标是否在不列颠群岛内。它拒绝了 as “不可能的复杂或复杂的过程 ”RIPA的建议 本可以提供一个特定的例外来提供元数据的使用 that purpose.

但是，这留下了所有其他用途的问题， 可以放置哪些元数据。如果上述的斯诺登文件是 指导，这些用途是多方面的。  大量拦截 如ISC所述，元数据对于GCHQ几乎没有主要价值，如果 它的使用仅限于确定目标是在目标之内还是之外 the British 岛屿。

斯特拉斯堡法院发现了RIPA中的这一空白，并裁定 没有检查相关通信数据的限制是 ground 上 which 里帕 violated 的 ECHR.

的Court accepted that related 通信数据应能够被使用以确定 目标是在不列颠群岛之内还是之外。它也接受了 那不应该是它唯一的用途，因为那样会 实行比内容更严格的制度。

但是它发现仍然应该“sufficient 有适当的保障措施来确保相关通信数据的豁免 RIPA第16条的要求限制在必要的范围内 确定一个人目前是否在英国 Islands.”

根据《知识产权法》，这可能需要一个结构 根据以下内容选择要检查的辅助数据：

• 允许选择以便确定 个人目前是否在英属群岛。
• 如果（a） 选择用于检查的辅助数据的标准是 指已知在不列颠群岛的个人，并且（b） 使用这些标准的目的是识别辅助数据或内容 relating to 通讯 sent by, or 在 tended for, that 在 dividual.
• 否则：允许选择辅助数据（但要遵守 以上讨论的强大的端到端监督要求）。

尽管法院仅谈到足够的保障措施， 很难看到如果不修改《知识产权法》如何可以实现这一目标。

新闻业 privilege

法院发现RIPA在两个方面缺乏：批量拦截 （用于内容和相关通信数据）和普通通信 数据采集​​。确定《知识产权法》在何种程度上补救的任务 缺陷很复杂。但是，根据下面的比较看来 可能至少需要对立法进行一些修订。

大量拦截

对于批量拦截，法院特别关注 也没有任何要求：

• 限制情报服务’ power 搜索机密的新闻或其他材料（例如，通过使用 a 记者’的电子邮件地址作为选择者），
• 要求分析师选择材料 检查，以特别考虑此类材料是否为 or may be 在 volved.

因此，法院说，看来分析师 可以不受限制地搜索和检查内容及其相关内容 communications 数据 of those 在 tercepted 通讯.

对于有针对性的检查令，《知识产权法》本身包含一些 旨在保留，披露材料的保障措施， 或手令的目的之一是授权选择 侦查当局认为对新闻材料的审查 是机密的新闻材料。如果目的是类似的规定， 或该手令的目的之一是识别或确认 新闻信息。

如果不需要有针对性的检查令， 截取业务守则规定了相应的授权，并且 拦截机构外部的高级官员的保障措施。

根据大宗逮捕令截获的通讯是 在检查后保留，并且包含机密新闻 材料，必须尽快通知调查权力专员 合理可行。

与RIPA不同，《知识产权法》第S.2条包含一项一般性规定 要求公共当局考虑任何 信息，包括机密新闻材料和身份证件的身份 journalist’s source.

这些规定是对RIPA的改进， 有争议的是否足够，特别是因为有具体的保障措施 有关处理，保留，使用和销毁通信的安排 而不是进行搜索和选择。

Bulk 通讯 data acquisition

的IP Act 在 troduces a new bulk 通讯 数据 收购令，以取代1994年电信法的S.94。S.94 未被考虑 BBW案件。  的IP Act bulk power contains no provisions 特别保护新闻特权。实务守则在 该法令第2条的一般规定。 

普通 通讯数据采集

里帕实务守则要求向法官申请 根据PACE 1984，该申请的目的是确定来源。 斯特拉斯堡法院批评这一点，因为它不适用于 every case where 的re was a request for 的 通讯 数据 of a 记者，或可能发生此类附带抵押的地方。

知识产权法包含一项具体规定，要求公众 寻求调查权力专员批准的权力 obtain 通讯 数据 for 的 purpose of identifying or confirming a 新闻信息的来源。这项规定似乎遭受同样的打击 斯特拉斯堡法院批评范围狭窄。

Take care 与 that social media 义务 照顾

Should social media platforms be subject to a statutory 义务 of care, akin to 占用者s’责任或健康与安全， 旨在防止在线危害？在一个 系列博文和 证据 上议院通讯委员会威廉·佩林（William Perrin）和教授 洛娜·伍兹（Lorna Woods）建议答案应该是。他们在证据中说：

“常见的比较是社交媒体服务是“like a publisher”。我们认为，社交网络的主要类比在于 数字领域。在考虑减少危害时，社交媒体网络应 被视为公共场所–例如办公室，酒吧或主题公园。几百个 millions of 人go to social networks owned by companies to do a vast range 不同的东西。我们认为，当他们 do so. [25]

法律已证明非常善于在实物保护中提供这种保护 领域。在英国拥有或提供的工作区，公共场所，甚至房屋 companies 有 to be safe for 的 人who use 的m. 的law imposes a “duty of care”这些空间的所有者。公司必须采取合理的措施 预防伤害的措施。” [26]

这篇文章的目的是探讨 offline duties 照顾, focusing 上 的 duties 照顾 owed by 占用者s of 给访客的实体公共空间。

From 的 earliest days of 的 在 ternet 人have looked to 离线类比，寻找适合在线的法律制度 世界。图书和印刷发行人，在 传播信息，是讨论论坛和 公告板，今天的先驱’的社交媒体平台。  的liability of distributors for 的 content 他们携带的材料有限。欧盟电子商务指令 将广泛相似的责任模型应用于各种在线托管 社交媒体平台上的活动。

离线和在线等效的原理仍然成立 摇摆：虽然没有任何精确的离线类比，但尽可能相同 法律制度应适用于类似的在线和离线活动。

印刷发行人是社交媒体的一个很好的类比 平台，因为它们都涉及信息传播。然而 比喻并不完美。分配缺乏直接个人的要素 可能会发生冲突的两位校长之间的互动， 社交媒体和实体公共场所都通用。关系 社交媒体平台与其用户之间的相似之处 between 的 占用者 of a physical space 和 its visitors.

但是，物理上的公共场所并不是一个完美的类比。 身体占用者应负的照管职责与在飞机上所做的而不是说的有关 他们的处所。它们涉及人身伤害和财产损失。与安全有关 因此，护理的职责是关于那些较少占用的有形公共空间的方面 就像在线平台一样。

这并不是说没有重叠。一些危害 在线互动产生的结果可以说是与安全相关的。修饰 是一个明显的例子。但是，并非所有伤害都如此。它 可能倾向于将各种各样的在线行为标记为引发问题 在线安全性，因为政府往往会在 互联网安全策略绿皮书。但是，这隐藏而不是解决了以下问题： 什么构成与安全有关的危害。

As a historical note, when a statutory 义务 照顾 for 1957年引入了乘员责任，目的是废除 普通法在不同种类的法律之间做出的细微区别 visitor. 的legislation did not expand 的 kinds of harm to which 的 义务 应用。像今天一样，这些仍然限于与安全有关的危害： 人身伤害和财产损失。

其他更紧密的关系，例如雇主和 雇员，可能会就更广泛的伤害引起谨慎的责任。所以 根据《 1974年健康与安全法》，雇主’对雇员的责任 与他们的健康，安全和福利有关，而在 他人的健康和安全受到限制。的 劳资关系与占用者与访客关系不符 描绘了物理世界公共空间和在线之间的类比 platforms.

与非安全相关的危害通常通过以下方式解决 特定学科的立法考虑了 不法行为和所涉危害。

To 的 extent that 共同 law duties 照顾 do apply to 与安全无关的伤害，它们是由与 类似于网站和访客。因此，如果一个人对 依靠错误陈述的人可能在 respect of financial loss suffered as a result. 那 is a 义务 owed by 的 maker of 的 statement to 的 person who relies upon it. 的re is no 义务 上 the 占用者 of a physical space to prevent visitors to 的 site making 彼此之间的陈述不正确。

在线可能会遇到许多危害（抛开 一个问题是否被恰当地描述为危害的问题） 与与安全相关的危险有不同的性质 occupier-related duties 照顾 are imposed 在 a physical public space.

我们还将看到，与通常遇到的危险不同 在实际的地方，例如在危险的道路上绊倒 建议的损害通常应在谨慎职责范围内 产生于用户彼此之间的行为方式，而非互动 between a visitor 和 的 占用者 本身。

Duties 照顾 因占用有形公共场所而产生

的“operator”诸如 办公室，酒吧或主题公园 受制于 注意的法律责任。以占用者身份自动制定法规 owes a 义务 照顾 to visitors 在 relation to 的 safety of 的 premises. It may also owe visitors a 共同 law 义务 照顾 在 some situations not covered by 的 statutory 义务 照顾. In either case 的 义务 照顾 relates to 从人身伤害或财产损失的风险来看。

佩林/伍兹 evidence describes 的 principle of a 义务 of care:

“The idea of a “duty 照顾”原则上很简单。一个人 (including companies) under a 义务 照顾 must take care 在 relation to a particular activity as it affects particular 人or things. If that person 不小心，有人因此受到伤害，那么合法 consequences. [24] …

In our view 的 generality 和 simplicity of a 义务 照顾 works well 社交媒体服务的广度，复杂性和快速发展， 在法律上不可能编写详细的规则。通过采取类似的方法 到企业拥有的公共场所，工作场所，产品等 世界上，可以减少社交网络中的危害。” [28]

的general idea of a 义务 照顾 can be articulated relatively 只是。但是，这并不意味着始终存在谨慎的责任，或任何 given 义务 照顾 is general 在 substance.

In many situations a 义务 照顾 will not exist. It may 存在与某种伤害有关，而与其他伤害无关， 人，而不是其他人，或者与某种行为有关，而与其他行为无关。

占领者 ’ liability is a 义务 照顾 defined by statute. As such 的 在 itial 共同 law step of deciding whether a 义务 照顾 exists is removed. 的statute lays down that a 义务 照顾 is owed to visitors 在 尊重由于处所的状态或所做的事情而引起的危险，或 省略了对它们的处理。

“事情已完成或未完成”处所指 与占用有关并可能造成人身伤害的各种活动 或财产损失–例如允许快艇在 swimmers, or operating a car park. 的statutory 义务 does not extend to every kind of activity that 人engage 在 上 的 premises.

的content of 的 statutory 义务 is to take reasonable care 以确保访问者可以合理安全地将场所用于 居住者邀请或允许他居住的目的。对于 某些危险，谨慎的职责可能不需要占用者采取任何措施 steps 在 所有. For 在 stance, 的re is no 义务 to warn of obvious risks.

至于普通法，法院 some time ago abandoned 的 search for a universal touchstone by which to determine whether a 义务 照顾 exists. When 的 courts extend categories of 义务 照顾 的y do so 密切关注已经存在谨慎职责的情况。 他们考虑到人与人之间的亲近关系 and to whom 的 义务 is said to be owed, foreseeability of harm 和 whether it is fair, just 和 reasonable to impose a 义务 照顾.

这种做法发挥了义务的范围和内容 said to be imposed: a 义务 照顾 to do what, 和 在 respect of what kinds of harm? In 卡帕罗v迪克曼 布里奇勋爵 告诫不要从抽象的角度讨论照料职责 factual context:

"It is never 足够 to ask simply whether A owes B a 义务 照顾. It always necessary to determine 参考A必须承担的损害种类的责任范围 小心保存B无害。”

如果种类繁多，那是一个特别相关的考虑 of harm for which an 上line 义务 照顾 is advocated differ from those 在 respect of which offline duties 照顾 exist. As 与 的 statutory 义务, 普通法因占用有形房屋而引起的护理责任与安全有关 伤害：人身伤害和财产损失。

Outside 的 field of 占用者s’责任，特别是 与潜在受害者的亲密关系，例如雇主和 employee or school 和 pupil, may give rise to a more extensive 义务 照顾.

A 义务 照顾 may sometimes be owed because of a particular 被告与犯罪者之间的关系（相对于 受害者）。这是举行波斯塔尔学校欠债的基础 照顾那些被逃脱的囚犯破坏财产的公众成员。

Vicarious liability 和 non-delegable duties 照顾 can 在 some circumstances render a person liable for someone else's breach of 义务.

但是，这些情况都不符合 relationship between 占用者s of public spaces 和 的ir visitors.

A 义务 照顾 to prevent 上e visitor harming 另一个

An 占用者’s 义务 照顾 may be described 在 broad terms as a 义务 to provide a reasonably safe environment for visitors.  但是，这需要仔细检查。

访客绊倒危险的范例案例 使用保养不佳的主题公园时，铺路石或受伤 很好地转换为在线环境。  的kind of 义务 照顾 that would be most relevant to a social media 平台是不同的：有义务采取措施来预防或降低此类风险 site visitor harming 另一个.

While that kind of 义务 is not unheard of 在 respect of 实体公共场所，它已在非常特殊的情况下应用：例如 酒吧，提供酒精饮料，就敌对球迷的行为提供足球俱乐部，或 高尔夫球杆打错球。  这些 与造成相关危险的特定活动有关。职责 适当地适用于所谓的安全-由一个人造成人身伤害的风险 visitor 上 另一个 –但不是访客互相说的话。  

This limited kind of 义务 照顾 may be compared 与 的 proposal 在Perrin / Woods证据中。它暗示着什么实质上是普遍的 注意义务应适用于大型社交媒体平台（超过1,000,000 英国的用户/会员/观看者）：

“一种）       有害 threats –意图引起痛苦，伤害，损害或其他的陈述 诸如恐吓之类的敌对行动。心理骚扰，威胁 sexual nature, 威胁to kill, racial or religious 威胁known as 讨厌 犯罪。基于人的敌意或偏见’种族，宗教，性 倾向，残疾或跨性别身份。我们将扩展 understanding of “hate”包括厌女症。

b）      经济危害 –财务不当行为，知识产权滥用，

C）       危害 national security –暴力极端主义，恐怖主义，国家赞助的网络战

d）      情绪伤害 –防止用户遭受的情感伤害，使其不会累积到 公认的精神伤害的犯罪起点。  例如，由于滥用一个 被许多其他人以现实世界中不会发生的方式（[…] 低于犯罪阈值的情感伤害）。这包括对弱势群体的伤害 people –关于自杀，厌食，精神疾病等

e）       对年轻人有害 people –欺凌，侵略，仇恨，性骚扰和沟通，暴露 有害或令人不安的内容，修饰，虐待儿童（[…])

F）         危害 正义与民主– prevent 在 timidation of 人taking part 在 的 激烈辩论之外的政治进程，保护罪犯和审判 process ([…])"

这些危害远远超出了与安全相关的危害 the duties 照顾 to which 的 占用者s of physical world public spaces are subject.

佩林和伍兹已经意识到这一点 别处，表明 在“大多数情况下， 与社交媒体的关系，部分归因于 non-physical 在 jury”.  但是，这假设 the conclusion that an 上line 义务 照顾 ought to apply to broader kinds of 危害。某种伤害是否适合基于护理的责任 方法将是一个重要的问题。

Offline duties 照顾 应用cable to 的 proprietors of physical world public spaces do not correspond to a universal 义务 照顾 to 防止因以下行为而造成的广义损害概念： 彼此的访客。

可以说，这种可预见的伤害 社交媒体平台不同于酒吧中可以预见的平台， football ground or a 的me park. On that basis it may be argued that a 义务 of 应当注意更大范围的危害。但是，那是 争论来自差异，而非相似。护理责任适用于 occupier’在实际世界中对访客的责任，无论是法定的还是 普通法，仅限于与安全相关的危害。那是一个长期存在的历史 deliberate policy.

的purpose of a 义务 of care

佩林/伍兹 证据描述了履行职责的目的 关心他们内部化外部成本（[14]，[18]）并 公司通过采取合理的措施防止伤害来投资安全（[26]）。 Harms represent “社交媒体产生的外部成本 providers’ products” ([14]).

However, articulating 的 purpose of duties 照顾 does not 提供有关如何确定应视为有害的答案 首先是外部成本，哪些危害应该，不应该 the subject of a 义务 照顾 和 的 extent (if any) to which a 义务 照顾 应责成操作员采取措施防止第三方用户采取行动。

还有一个假设是用户操作的后果 是平台产品产生的外部成本，而不是成本 由用户自己生成。那就像把机车等同起来 与乘客在车厢中彼此说的话产生火花。

Offline duties 照顾 do not 在tempt to 在 ternalise 所有 external costs.  有人可能会说 离线体制应该走得更远。但是，类比的离线职责是 照料制度必须从存在而不是从不是开始。

身体的例子 world duties 照顾

从上面可以看出，出于 类比身体护理中职责最相关的两个方面 spaces are: (1) 的 extent of any 义务 owed by 的 占用者 在 respect of 访客彼此之间的行为，以及（2）尊重的伤害类型 of which such a 义务 照顾 应用es.

欠款 访客彼此之间的行为

佩林/伍兹提到的一个物理世界例子 paper is 的 bar. 的common law 义务 照顾 owed by a members' bar to its 上诉法院在2006年对访客进行了审议 埃弗里特诉科莫霍.  这是一个 人身伤害的情况：一位客人多次刺伤其他两位客人， 导致声称俱乐部所有者应采取措施 防止肇事者进行攻击。  On 的 facts 的 club was 保持 not to 有 breached any 义务 照顾 它欠的。法院裁定，它确实应履行与法定类似的谨慎义务 occupiers' liability. 的content of 的 义务 照顾 was limited. 的bar was 没有义务在入境时搜寻客人以获取进攻性武器。有过 之前没有任何迹象表明客人即将暴力。虽然一个 女服务员很担心，去找经理，她不能 如果她什么都不做，就会受到批评。

法官建议一个有人文史的俱乐部 bringing 在 offensive weapons might 有 a 义务 to search guests 在 的 door. In a club 与 a history of outbreaks of violence 的 义务 might be to 有 工作人员可以控制疫情。一些俱乐部可能需要安全 人员永久在场。   在一个 club 与 no history 的 义务 might 上ly be to train staff to look out for 麻烦并提醒安全人员。

This variable 义务 照顾 existed 在 respect of personal 在特定情况下，酒精饮料会导致 顾客失去控制和暴力的特别危险。

我们也可以考虑运动场。在 坎宁安诉雷丁足球俱乐部有限公司 的 football club was found to 有 breached its statutory 义务 照顾 to a 在探访球迷时受伤的警察从“appallingly dilapidated”梯田并将其用作导弹。俱乐部被发现有 充分意识到来访的人群很可能确实包含了 暴力元素。类似的事件涉及从 梯田发生在同一场比赛少于四场的比赛中 几个月前，还没有采取任何措施来增加 difficult.

在苏格兰的情况下，高尔夫俱乐部因受伤负有责任 在高尔夫球场上，高尔夫球手遭受同伴高尔夫球手打高尔夫球的打击 球未命中的危险区域中缺少警告标志的依据。

佩林/伍兹 证据以主题公园为例。的 occupier of a park owes a 义务 to its visitors to take reasonable care to 提供合理安全的处所–从人身危险的角度来看很安全 伤害或财产损失。检查访客在说什么没有义务 在地上漫步时彼此交流。

It can be seen that what is required by a 义务 照顾 may 因实际情况而异。佩林/伍兹 证据强调灵活性 尽管它提倡将 该评估由监管机构（that is 另一个 debate）。

但是，我们不应忽略以下事实： offline world 的 variable content of duties 照顾 is contained 与in boundaries that determine whether a 义务 照顾 exists 在 所有 和 在 respect 什么样的危害。

的law does not impose a universally 应用cable 义务 of 注意采取措施预防或减少任何形式的可预见的伤害 访客可能会导致彼此的冲突；据说危害一定没有 被语言而不是刀，飞扬的混凝土块或 errant golf ball.

伤害类型

那 brings us to 的 kind of harm that an 上line 义务 of 可能会寻求预防。

与离线物理空间的显着区别是 互联网平台是基于语音的。这就是为什么分发印刷品的原因 信息起到了很好的比喻的作用。

修饰，骚扰和恐吓等活动 关于，言语可能是 在线进行的在线意义远不如离线进行。 说可能会越做越好。而在线对话可能导致 在现实世界关系中发生或遇到的现实世界 outside 该平台.

然而，在中国，冒犯性的话不像是一把刀。 排骨或混凝土块。可客观确定的人身伤害 殴打造成的伤害与人类的评估和反应无关 what 人say 和 write.

文字和图像可能会引起困扰。可以说 它们可能会导致精神伤害。但是即使在一个人的双向情况下 伤害他人，人们对可恢复性的适当界限存有争议 受直接或间接影响的人的精神损害。只有在这种情况下 故意造成严重困扰的行为可能会导致纯粹的精神疾病 recovered.

在以下三种情况中，困难更加复杂： 平台上的谨慎义务，以防止或减少一个访客使用的风险 对其他访客造成精神损害或精神伤害的单词。这样的 职责涉及预测单词对未知单词的潜在心理影响 人。该义务将与对 足球场的占用者要注意修理破旧的梯田， 风扇将混凝土块粉碎并使用会造成人身伤害的已知风险 them as missiles.

可能会反驳说该平台只需要考虑 心理或情感伤害的风险是否超过阈值。但 阈值越低，抑制产生附带损害的可能性越大 合法言论。旨在内部化负面外部性的制度 propagates a different negative externality created by 的 义务 照顾 regime itself.  这是不可避免的风险 extrapolating safety-related duties 照顾 to speech-related harms.

与精神损害和精神疾病有关的一些困难 英国最高法院关于 罗德v OPO。这项索赔被提起 rule 在 威尔金森v唐顿，由 一般疏忽规则的例外方式允许恢复 故意造成严重困扰，导致精神疾病。的 该案涉及是否应通过中间禁令阻止自传作者发表。声称是，如果他的孩子要阅读它， 作者将因以下原因故意给孩子造成困扰。 对提交人自己遭受的虐待进行过钝和图形化描述 suffered as a child.  的Supreme Court 所有owed 出版物继续进行。

上诉法院认为不可能有 有理由对出版物造成精神伤害的理由 这个孩子。最高法院不同意，评论说：

“该方法被排除在外 考虑基于正当理由的更广泛的正当性问题 被告人有兴趣向整个世界讲述自己的故事 他想讲的是什么，以及公众在 hearing his story. … ” [75]

它继续：

“很难想象 言语不具有欺骗性，威胁性或可能的情况 辱骂，可能会因故意侵权而引起侵权责任 another’人身安全权。举报真相的权利是 理由本身。这并不是说公开权是绝对的…。但是没有禁止出版的一般法律 会给另一个人带来困扰的事实，即使那个人’s intention.” [77]

此段恰当地说明了必须谨慎 运用身体世界的伤害，伤害和安全概念进行锻炼 交流和言语，甚至在考虑采取进一步措施之前 采取措施降低平台发生风险的责任 第三方之间，或任命监管者进行监管的进一步步骤 the platform’这样做的系统。

最高法院继续批评授予的禁令 由上诉法院批准，该法院只允许在 Bowdlerised版本。它强调了作者交流其权利的权利。 使用残酷语言的经验：

“他的作品包含黑暗 情感地狱，自我憎恨和愤怒的描述，如 我们已经列出的摘录。读者可以深入了解自己的痛苦，但 还有他的韧性和成就。减轻黑暗会减少黑暗 影响。法院已对 appellant’的故事得以表达。向公众传达信息的权利 带有选择语言的权利 为了最有效地传达信息。” [78]

事先限制

的Supreme Court 在 罗得岛 不仅强调作者向世界介绍他的权利 experience, but 的 “相应的公众利益 详细聆听他的人生故事”.

可以认为要求没有问题 平台删除内容，只要发布该内容的人有权访问 撤回上诉程序。

但是，这仅解决了言论自由的一面。   它无济于事 别人对阅读它的兴趣，这是他们永远不会拥有的权利 如果需要平台以防止物品看到 随着时间的流逝，发起者便无动于衷地挑战了这一决定。

我们从言论自由权中衍生出一套 与护理职责可能会采取的行动相冲突的原则 要求，例如监视和抢先删除内容。的 预防原则在防止污染等危害方面可能占有一席之地， 但是当应用于语音时，它会直接转化为先发制人。的 事先约束的推定不仅仅指发布前 审查制度，但言论应向公众公开的原则 直到具有法律效力的法官裁定申诉的是非曲直为止 独立法庭。  的fact that we 与互联网打交道不会否定程序的价值 言语保护。

Not every 义务 照顾 在 volves monitoring 和 removal of 内容。并非所有使用单词都等于纯语音。不过，我们在 当我们试图对用户的通讯采取预防性的非特定性的谨慎职责时，请选择危险区域。

Duties 照顾 和 电子商务指令

Duties 照顾 are relevant to 的 在 termediary liability 电子商务指令的保护。第十五条禁止将军 监视对管道，主机或缓存施加的义务。  然而，独奏会48说：

“该指令不影响 会员国可能需要托管服务提供商 服务接受者提供的信息，以履行护理职责， 可以合理地预期它们，并由国家指定 法律，以侦查和防止某些类型的非法活动。”

This does not itself impose a 义务 照顾 上 中介人。它只是留给会员国实施各种形式的空间 只要不违反第15条或与第15条背道而驰 第12至14条中的责任保护。

第15条再次把重点放在这个问题上“A 义务 of care to do what?” A 义务 照顾 that required a user to 有 access to an 紧急按钮不会违反第15条。屏蔽用户的义务 交流会做到这一点。

结论

这块 首先观察到没有比喻是完美的。虽然 与安全相关的危险（人身伤害和伤害）存在一些重叠 to property) that form 的 subject matter of 占用者s’对访客的责任 以及相应的普通法保护义务，许多在线危害是其他种类的危害。此外，重要的是 谨慎的职责将包括 防止一个网站访问者访问另一个网站的行为。

与公共场所的类比表明，在假定明显不同的护理职责时需要谨慎 来自离线乘车人访客的成文法和成文法 relationship.