“ Deepfakes”被评为最严重的AI犯罪威胁

发布时间: 2020-08-17 22:21:19 来源:

根据UCL的最新报告,就其在犯罪或恐怖主义方面的潜在应用而言,伪音频或视频内容已被专家评为最令人担忧的人工智能应用。

该研究发表在《犯罪科学》上,由UCL的Dawes未来犯罪中心资助(并作为政策简报提供),确定了在未来15年内可以使用AI促进犯罪的20种方法。这些问题按关注顺序排列-根据它们可能造成的伤害,犯罪获利或获利的可能性,实施起来的难易程度和制止的难度。

作者说,伪造的内容将很难被发现和制止,并且可能具有多种目的-从抹黑公众形象到通过在视频通话中假扮一对夫妇的儿子或儿子来提取资金。他们说,这样的内容可能会导致人们对音频和视频证据的普遍不信任,这本身就是对社会的危害。

除了虚假内容外,其他五种AI犯罪也被认为是高度关注的犯罪。这些工具使用无人驾驶车辆作为武器,帮助制作更量身定做的网络钓鱼消息(鱼叉式网络钓鱼),破坏AI控制的系统,为大规模勒索目的收集在线信息以及AI编写的假新闻。

资深作者Lewis Lriffin教授(UCL计算机科学)说:“随着基于AI的技术功能的扩展,其被犯罪利用的潜力也随之增加。为充分准备可能的AI威胁,我们需要确定这些威胁可能是什么,以及它们如何影响我们的生活。”

研究人员根据学术论文,新闻和时事报道以及小说和流行文化整理了20种AI犯罪。然后,他们召集了31位具有AI专业知识的人员进行了为期两天的讨论,以对潜在犯罪的严重性进行排名。参与者来自学术界,私营部门,警察,政府和国家安全机构。

中度关注的犯罪包括被欺诈性标记为“ AI”的物品和服务的销售,例如安全检查和有针对性的广告。这些将很容易实现,并可能获得丰厚的利润。

低关注度的犯罪包括防盗机器人-小型机器人,过去通常通过信箱或猫瓣等进入点进入物业-被认为很容易击败,例如通过信箱笼和AI辅助跟踪。尽管对个人造成极大损害,但却无法大规模运营。

第一作者Matthew Caldwell博士(UCL计算机科学)说:“人们现在大部分时间都在网上生活,他们的在线活动可以建立和破坏声誉。这样的在线环境(数据是财产和信息力量)非常适合开发通过基于AI的犯罪活动。

“与许多传统犯罪不同,数字领域的犯罪可以轻松地共享,重复甚至出售,从而允许犯罪技术进行营销并提供犯罪作为服务。这意味着犯罪分子可以将更具挑战性的方面外包他们基于AI的犯罪。”

资助这项研究的伦敦大学学院杜威分校未来犯罪中心主任肖恩·约翰逊教授说:“我们生活在一个瞬息万变的世界中,它创造了新的机遇,无论是好的还是坏的。因此,我们有必要展望未来。犯罪威胁,因此决策者和其他有能力采取行动的利益相关者可以在新的“犯罪收获”发生之前就采取行动。为他们做。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。
Top