校长声音的 Deepfake 是人工智能被用于伤害的最新案例

5

Play game

相关游戏

日本岸田公布了生成人工智能的全球监管框架

2024官方幸运飞开艇官网开奖结果-开奖直播平台|幸运168官网飞艇记录查询

幸运飞行总和历史|路珠走势两面|飞艇记录开奖

欧洲法院维持意大利从盖蒂博物馆没收珍贵希腊青铜器的权利，驳回上诉

在即将到来的大选之前，英国当地投票有何利害关系

美国众议院投票将狼从48个州的濒危名单中删除

无需猜测：妈妈最清楚她想要什么母亲节

将普通鳄梨酱变成美味鳄梨酱（五月五日节及以后）的专业提示

巴黎奥运会难民代表队由来自11个国家的36名运动员组成，涉及12个项目

五一节，工人们统治街道

游戏介绍:

最近涉及人工智能的刑事案件上周发生在马里兰州一所高中，警方表示，一名校长因伪造的录音被诬陷为种族主义者。

此案是每个人（不仅仅是政客和名人）都应该关注这个日益强大的深层网络的另一个原因。 -专家称，假技术。

“每个人都容易受到攻击，任何人都可以进行攻击，”加州大学伯克利分校教授 Hany Farid 说，他专注于数字取证和错误信息。

以下是有关人工智能造成伤害的一些最新用途的信息：

人工智能已变得非常容易使用

< /h2>

操纵录制的声音和图像并不是什么新鲜事。但人们如此轻易地改变信息是最近才出现的现象。它在社交媒体上快速传播的能力也是如此。

冒充校长的虚假音频片段是人工智能子集（称为生成人工智能）的一个例子。它可以创建超现实的新图像、视频和音频剪辑。近年来，它更便宜、更容易使用，降低了任何有互联网连接的人的障碍。

“特别是在过去的一年里，任何人 - 我真的是指任何人 - 都可以使用在线服务，”伯克利大学教授法里德说。 “他们可以免费或每月支付几美元，上传某人 30 秒的声音。”法里德说，这些时间可能来自语音邮件、社交媒体帖子或秘密录音。机器学习算法捕捉一个人的声音。然后，克隆的语音是根据键盘上输入的单词生成的。

该技术只会变得更强大且更易于使用，包括视频操纵，他说。

马里兰州发生了什么？

巴尔的摩县当局表示，派克斯维尔高中的体育总监 Dazhon Darien 克隆了校长 Eric Eiswert 的声音。警方表示，虚假录音包含种族主义和反犹太主义言论。该声音文件出现在一些教师收件箱中的一封电子邮件中，然后在社交媒体上传播。警方称，在艾斯沃特对达里恩的工作表现和涉嫌滥用学校资金表示担忧后，这段录音浮出水面。当局称，伪造的音频迫使艾斯沃特休假，而警察则守卫着他的房子。愤怒的电话淹没了学校，社交媒体上充斥着充满仇恨的信息。

侦探请外部专家分析录音。法庭记录称，有人说它“包含事后经过人工编辑的人工智能生成内容的痕迹”。

伯克利教授法里德的第二个意见发现“多个录音被拼接在一起”。根据记录。

法里德告诉美联社，关于该录音的具体制作方式仍然存在疑问，而且他尚未确认该录音完全是由人工智能生成的。

但鉴于人工智能的能力不断增强，法里德表示，马里兰州的案件仍然是“煤矿里的金丝雀”，说明需要更好地监管这项技术。

为什么音频如此担心吗？

许多人工智能生成的虚假信息都是音频。

部分原因是技术进步如此之快。人耳也无法总能识别出操纵的迹象，而视频和图像中的差异更容易被发现。

一些人克隆了据称被绑架的儿童的声音 专家表示，通过电话向父母索取赎金。另一个人冒充一家急需资金的公司首席执行官。

在今年的新罕布什尔州初选期间，人工智能生成的机器人电话冒充总统乔·拜登的声音并尝试劝阻民主党选民投票。专家警告说，今年针对选举的人工智能生成的虚假信息激增。

但令人不安的趋势不仅仅限于音频，例如制作穿着衣服的人的假裸照的程序专家警告说，未经他们同意，包括未成年人。歌手Taylor Swift 最近成为攻击目标。

可以做什么？

大多数人工智能语音生成技术提供商表示，他们禁止对其工具进行有害使用。但自我执行各不相同。

一些供应商需要一种语音签名，或者他们要求用户在克隆语音之前背诵一组独特的句子。

较大的科技公司，例如 Facebook 母公司 Meta 和 ChatGPT 制造商 OpenAI，只允许一小部分值得信赖的人