搜索引擎放大镜下：它们是否在促进有害内容？
让位吧，抖音，Ofcom计划在英国的新在线安全法下挑战搜索引擎
英国的通信管理局(Ofcom)最近的一份报告显示，20%的有害内容搜索结果是可以通过“一键点击”进一步导航到更毒性的材料。
🔍🚀🧨
请让开，TikTok。英国的通信管理局(Ofcom)正在执行《网络安全法》的官方，开始关注更大的目标：像Google和Bing这样的搜索引擎，以及它们在为未成年用户提供自残、自杀和其他有害内容时所起的作用，只需轻轻一按即可访问。
Ofcom委托网络传染研究所(Network Contagion Research Institute)进行的一份报告发现，包括Google、微软的Bing、DuckDuckGo、雅虎和AOL在内的主要搜索引擎成为了这种内容的“一键点击”入口，通过提供易于快速访问的网页、图像和视频，其中每五个与基本自残术语相关的搜索结果之一都链接到更有害的内容。
搜索陷阱
这项研究及时而重要，因为最近关于在线有害内容的讨论很大程度上集中在类似Instagram和TikTok这样的围墙式社交媒体网站的影响和使用。这项新研究显著地帮助Ofcom了解并收集证据，以判断是否存在更大的潜在威胁，因为Google.com等开放端口的网站每月访问量超过800亿次，而TikTok的月活跃用户数约为17亿。
🔍问：搜索引擎到底会造成什么危害？想象一下，搜索引擎就像通往知识宝库的门户，但有时，这些宝藏并不那么有价值。这项研究表明，搜索引擎可以将我们带到互联网的黑暗、有害的角落，涉及自残和自杀的危险内容就在点击一下之间。就像拿到了打开禁忌书架的钥匙，幻想与现实相撞。
“搜索引擎通常是人们上网体验的起点，我们担心它们可能成为对严重有害自残内容的一键入口，”Ofcom的在线安全政策发展主管Almudena Lara表示。“在我们即将进行的全面谘询之前，搜索服务需要了解其潜在风险和保护措施的有效性，特别是在确保儿童在线安全方面。”
🕵️♂️问：研究人员发现了什么？研究人员分析了之前提到的五个搜索引擎上近37,000个结果链接。他们故意使用常见和更为隐晦的搜索词（以避开基本筛查），并关闭”安全搜索”的父母筛查工具，以复制人们与搜索引擎互动的最基本方式和最坏情况。结果和你预料的一样糟糕！
不仅22%的搜索结果链接到有害内容（包括各种自残指导），而且这些内容在结果中占据前20%的链接，甚至在结果的前几页中的链接中达到了22%。🤦♀️
图像搜索尤为严重，50%的图像搜索返回有害内容。紧随其后的是网页搜索，占比28%，视频则为22%。搜索算法可能很难过滤出有害内容的原因之一是它们可能会将自残意象与医疗和其他合法媒体混淆。就像不带眼镜分辨好苹果和坏苹果一样难！
🔍问：为什么隐晦的搜索词更容易找到有害内容？研究人员发现，隐晦的搜索词导致用户找到有害内容的可能性增加了六倍。这是因为搜索算法难以解释这类词语背后的意图，通常无法过滤掉有害结果。就像戴着眼罩在雷区里试图找到出口一样，你触碰到有害地雷的几率会大大增加！
人工智能因素：一个潜在的潘多拉之盒
这份报告没有触及到但随着时间推移可能会成为一个更加重要的问题是生成性人工智能搜索在这个领域可能会起到的作用。随着像ChatGPT这样的平台越来越普遍，人们正在采取预防措施防止它们被恶意利用。然而，问题仍然存在：用户是否会找到利用它们的方法，以及这可能会带来什么样的影响？
“我们已经开始深入了解新兴技术的机遇和风险，以便创新可以蓬勃发展，同时保护用户的安全。一些生成性人工智能的应用可能在在线安全法案的范围内，我们希望服务提供商在进行风险评估时能够评估与其使用相关的风险，”Ofcom的一位发言人表示。
🤖问题：生成性人工智能搜索在这一切中扮演什么角色？由像ChatGPT这样的尖端技术驱动的生成性人工智能搜索有潜力改变在线体验。然而，它们也带来了风险。尽管正在努力防止它们被滥用于有害用途，但用户总是有可能找到利用它们的方法。这就像拥有一个强大的神灵，可以满足美好愿望和可怕诅咒的同时——一切取决于它的控制方式。
前方之路：保护用户，尤其是儿童
并非一片黯淡！在令人担忧的统计数据中，报告还标记出22%的搜索结果是真正有帮助的。然而，这份报告提醒搜索引擎提供商需要进行改进。
Ofcom计划在春季就其儿童保护准则进行咨询。这旨在通过在整个互联网上，包括搜索引擎，减少儿童接触与自杀或饮食障碍等敏感主题相关的有害内容的机会，制定“搜索服务可以采取的实际措施以充分保护儿童”。
💡问题：搜索引擎提供商需要采取哪些措施来保护儿童？搜索引擎提供商必须迎头赶上，确保儿童在浏览时安全。这意味着采取更严格的措施，防止有害内容溜过关卡。这就像在一个魔法王国周围建造一道坚固的堡垒墙，保护年轻居民不受外界的黑暗侵害。
“不认真对待这个问题的科技公司可以预期Ofcom将来会采取适当的行动对付它们，”一个Ofcom的发言人警告道。这包括罚款（作为最后的手段）和在极端情况下，要求互联网服务提供商阻止非符合规定的服务的访问的法院裁决。违反规定的服务负责人也可能面临刑事责任。
⚖️问题：Ofcom将采取哪些行动对付不重视用户安全的搜索引擎提供商？Ofcom决心对科技公司的用户安全负责。他们准备采取行动，例如实施罚款和法院命令，以确保遵守规定。这就像拥有一支警惕的守护者队伍，准备惩罚那些危害互联网用户福祉的人。
到目前为止，在撰写本文时，谷歌已对报告的发现作出回应，强调了它的努力和安全功能。然而，迄今为止，尚未收到来自Microsoft和DuckDuckGo的回应。
📣问题：谷歌是如何解决这些问题的？谷歌强调了其确保人们在网络上安全的承诺。他们声称Ofcom的研究没有反映出目前在谷歌搜索上已经采取的安全措施，这些措施包括默认功能如SafeSearch和SafeSearch模糊设置，以及危机支持资源面板，指导用户寻找有关敏感主题的信息。
总结
搜索引擎一直是我们通向广袤互联网的入口。然而，这项研究揭示了搜索结果背后潜藏的潜在危险，特别是对于像儿童这样的弱势用户。搜索引擎提供商优先考虑用户安全并采取具体措施防止有害内容的传播至关重要。
随着技术的不断发展，新的挑战将出现，比如生成性人工智能搜索的作用。不能低估对基于人工智能平台的规范和负责任使用的需求。
是时候把搜索引擎不仅视为强大的工具，而且视为所有人在线体验更安全的守护者了。让我们一同努力，迈向一个我们的搜索引导我们进入一个充满信息、启发和正能量的世界，而不是数字深渊的未来。
参考资料：
将此HTML代码翻译为中文（保留代码和标签中src属性的原始信息不变）：
🤗 对搜索引擎在提供有害内容方面的影响有何看法？在下方评论中分享您的意见和经验！不要忘记点击分享按钮，提高对这个重要问题的认识。让我们共同把互联网变得更安全。💪
