人工智能伪造色情丑闻震惊悉尼高中，警方展开调查

澳大利亚悉尼一名学生涉嫌使用人工智能创建并传播露骨的女同学深度伪造图像，人们对人工智能滥用的担忧日益加剧。

澳大利亚悉尼一名高中生涉嫌使用人工智能制作色情的女同学deepfake图像，面临警方调查和纪律处分，这是澳大利亚教育领域首次发生的重大人工智能相关事件之一。

deepfake是利用深度学习算法生成的虚假图像。它高度逼真，根据质量的不同，很难与真实照片区分开来。它们通常都是NSFW，但不一定非得如此。

警方没有透露这名男学生的姓名，据称他从社交媒体账户和学校活动中获取照片，生成了多名女学生的露骨人工智能图像。据当地媒体报道，根据学校官员发给家长的电子邮件，他随后通过虚假的社交媒体配置文件传播了这些内容。

据《卫报》报道，新南威尔士州警方在接到 "制作并在网上传播不当图片 "的报告后展开了调查。警方正在与电子安全专员和教育部合作处理这一事件。

"据当地媒体报道，学校在给受影响家长的电子邮件中写道："学校已经意识到，一名 12 年级的男学生涉嫌使用人工智能创建了一个与你们的女儿和其他人相似的个人资料。"不幸的是，来自社交媒体和学校活动的无辜照片被使用了"。

这并非个案。根据总部位于伦敦的非营利组织 Internet Matters 的一项研究，英国约有 53 万名青少年遭遇过裸体深度伪造。去年，华盛顿州西雅图市的当地新闻报道称，当地一名青少年在社交媒体上分享了他同学的深度伪造照片。前年，新泽西州的一群女学生发现，她们的同学以她们的全裸照片为基础，生成了NSFW的deepfakes。

随着人工智能生成技术的发展，这个问题似乎正在蔓延，基本上什么都能更容易地生成。美国民主与技术中心（Center for Democracy & Technology）的一项调查发现，50% 的美国高中教师知道至少有一次他们学校的学生被人工智能生成的露骨内容所描绘。

新南威尔士州教育部长普鲁-卡（Prue Car）在周四的新闻发布会上称这起事件 "令人发指"。卡尔说："该学生将受到纪律处分，"他赞扬了学校副校长在处理这一事件时采取的迅速行动。

教育部强调了对此类行为的零容忍立场。"教育部发言人告诉《卫报》："我们的首要任务是确保学生的安全感。学校正在为受影响的学生提供持续的福利支持。

在这起事件之前，维多利亚州去年 6 月也发生了一起类似案件，一名 17 岁的学生涉嫌用人工智能生成约 50 名女同学的露骨图片。经调查后，这名学生受到了警方的警告。

法律专家指出，目前处理人工智能生成露骨内容的立法存在漏洞。澳大利亚参议院于 2023 年 8 月通过了针对未经同意的深度伪造色情内容的立法，而美国的倡导者们则在推动《防止深度伪造亲密图像法案》（Preventing Deepfakes of Intimate Images Act）。

其他解决这一问题的法律倡议包括《深度伪造责任法案》、新加坡的反深度伪造立法以及欧盟的《人工智能法案》。

More News

• All
• CT
• Coindesk
• Decrypt
• DLNews