[情报] 危急时刻提供可靠帮助,Google 如何运用 AI 提升搜寻安全性?

楼主: l98 (寻找属于我的星星)   2022-04-02 23:19:41
1. 情报or新闻 连结:
危急时刻提供可靠帮助,Google 如何运用 AI 提升搜寻安全性?
https://technews.tw/2022/04/01/using-ai-to-keep-google-search-safe/
Using AI to keep Google Search safe
https://blog.google/products/search/using-ai-keep-google-search-safe/
2. 内文:
在危急时刻除了寻求他人协助以外,人们也常使用 Google 搜寻求助,比方说有人在
Google 上搜寻关于自杀、家暴的资讯时,就会看到全年无休的协谈或是救助热线。对
Google 而言,不是每一次都能知道人们究竟需要什么样的帮助,同时也希望做更多的事
来引导人们获得需要的资讯。为此,Google 搜寻研究员暨副总裁 Pandu Nayak 撰文说明
,Google 搜寻引擎如何利用 AI 人工智能模型 MUM,在关键时刻提供值得信赖的实用资
讯。
具体来说,Google 透过在 Google I/O 2021 开发者大会就已亮相的 MUM(Multitask
Unified Model),能够自动、准确侦测危急状况的搜寻,而且范围比过去更广。MUM 可
以更清楚地厘清人们问题背后的意图,以侦测使用者何时需要协助,这有助于 Google 在
正确的时间点,提供可靠、可执行的资讯。
比方说,使用者在 Google 搜寻“自杀最常见的方式”或“自杀热门地点”等等,系统过
去可能会理解成一般资讯的搜寻,又或者针对搜寻字词中的“地点”来提供资讯,而忽略
“自杀”代表的涵意;如今则会显示能够提供帮助的具体资讯,例如咨询机构的协谈专线
或网站。
不过,若要确保使用者能够安全地使用 Google 搜寻功能,就要协助他避开非预期的骇人
内容,而这非常具有挑战性。
Google 处理这种状况的方法,有一种是透过安全搜寻功能,让使用者能选择是否要过滤
掉煽情露骨的搜寻结果,这项功能会为未满 18 岁的 Google 用户默认开启。就算没有开
启安全搜寻功能,只要不是在寻找色情内容,Google 搜寻的系统仍会减少个人所不想要
的色情搜寻结果。
对此 Google 还是有些改善空间,像是也使用 BERT(Bidirectional Encoder
Representations from Transformers)这样的进阶 AI 技术,更加了解使用者在找什么
。BERT 帮助 Google 理解使用者是否真的在搜寻露骨内容,并大幅减少在搜寻结果中看
到非预期内容的机会。其实光在 2021 年,BERT 的改进已经把那些非预期的骇人搜寻结
果降低 30%,尤其是在搜寻种族、性倾向、性别相关内容时,减少煽情露骨的内容特别有
效。
Google 运用 75 种语言来训练 MUM,所以它能够在这些语言中传递资讯,这也使
Google 能够更有效地把保护的规模扩大到全世界。Google 采用 AI 技术协助减少搜寻结
果中无用、甚至是危险的垃圾内容页面;在接下来的几个月,会用 MUM 来提升阻挡垃圾
讯息的效能,并且扩展到训练资讯不太多的语言里。未来在全世界,Google 将能侦测到
危急状况的搜寻,并且和当地值得信赖的伙伴合作,以提供具有实用价值的资讯。
3.心得:
(记得附上至少15字心得唷,或是底下推文至少15字亦可)
人身难得,或许在那个关键时刻出现的警语可能就会救了当事人一命,或者让他转念。
搜寻引擎的过于强大,也是两面刃。资讯太容易取得,但使用者却缺乏相对应的分辨能力
。一些家长控制功能,多数都是 Block Domain 其实效果不大。

Links booklink

Contact Us: admin [ a t ] ucptt.com