苹果、谷歌下架多款恶意AI应用 更严峻的问题是…

2024-04-27 15:27:29 来源:网络

财联社4月27日讯(编辑 史正丞)随着AI技术快步迈入大规模应用的阶段,技术遭到恶意滥用的问题再度浮上水面。前阵子一度引发微博热议的“一键修图变成一键去衣”,正在美国以更加恶意的形式上演。

据美国技术媒体404 Media周五报道,在该媒体的推动下,苹果、谷歌分别从应用商店内下架了多款标榜能够进行“一键去衣”的应用。真正的问题在于,包括收广告费推广这些应用的Meta在内,这些互联网巨头似乎并不能自行找到这些违反其政策的应用

恶意AI应用“登堂入室”

报道称,通过比对Meta平台的广告资料库,404 Media找到一系列推广“一键去衣”软件的广告,投放记录显示宣传这些恶意AI软件的广告曾在3、4月间,在Meta旗下的多款社交媒体平台上投放。

这类软件标榜的功能,正是可以上传真人照片,并且可以“一键擦除任意衣服”,开发者通过收费来牟利。

更令人震惊的是,这类软件并不是存活在互联网的阴暗角落中,而是正大光明地出现在苹果应用商店里。当用户点击社交媒体上的广告后,会直接跳转至苹果应用商店。在商店里的应用被伪装成了AI艺术生成器,并没有披露应用背后的实际用处(因为这肯定违反应用商店政策)。

在本周这件事情被曝光前,这些广告仍一直在Meta的社交平台上挂着,非法应用也一直混迹在苹果、谷歌的应用商店里。

接到举报后,Meta找到爆料的媒体,请求他们“将所有看到的广告链接发给他们”,并迅速下架删除。公司发言人Daniel Roberts随后表示,Meta不允许存在成人内容的广告,一旦发现会迅速删除。公司接下来将加大审查力度,并对违反政策的账户采取行动。

周五的最新消息显示,苹果公司在收到举报后,也把媒体发现的3款应用程序做了下架处理。谷歌则在近期下架了一款AI“换脸”程序。

事实上,这类具有“深度伪造”(DeepFake)功能的app至少在2022年就已经出现在应用商店里,但当时苹果、谷歌接到举报后,仅仅是要求开发者停止投放广告宣传不法用途,而不是将其下架。

已有美国学生因此被捕

虽然互联网平台对这类app处理的方式颇为被动,但这些应用已经产生了恶劣的社会后果。

据《连线》杂志报道,去年12月有两名佛罗里达州的中学生,因为使用AI生成同学的裸照遭到警方逮捕和重罪控诉

警方提供的报告称,两名男孩的年龄分别是13和14岁,所制作照片的对象是12至13岁之间的学生。根据佛罗里达州法律,他们的行为与重大汽车盗窃、非法拘禁同属三级重罪。

虽然该案被美国媒体称为“首个引发逮捕和起诉的案例”,但在公开报道中,加州、华盛顿州、新泽西州的中学都有过类似的事件,只不过没有提到是否引发刑事指控。

目前在美国只有十个州将此类行为入罪,并没有联邦层面的法律进行规管。转机出现在今年1月底,由于在马斯克的X平台上爆发使用AI制作泰勒·斯威夫特露骨照片的事件。在事态最严重的状态下,X平台不得不禁止使用“泰勒·斯威夫特”作为关键词进行搜索。

在这一事件后,美国参议院两党议员联合提起了一项名为《2024打击非法伪造图像和未经同意编辑法案》的立法。

联名提出这项法案的共和党参议员乔什·霍利当时对媒体表示,无论是明星还是普通人,都不应该发现自己出现在AI色情制品中。无辜者有权捍卫自己的名誉,并在法庭上追究加害者的责任。

,苹果、谷歌下绍兴文理学院教务管理系统 架多款恶意AI应用 更严峻的问题是…

相关:

胡塞武装宣布击中英国油轮和美军“死神”无人机当地时间27日凌晨,也门胡塞武装发言人叶海亚·萨雷亚发表声明称,胡塞武装26日使用数枚导弹袭击了位于红海的英国油轮Andromeda Star,并成功击中目标。此外,胡塞武装前一天还在也门萨达省上空击落了一架美军MQ-9型无人机。△也门胡塞武装发言人叶海亚·萨雷亚当地时间4月26日,据美国哥伦比亚广播公司(CBS)报道,一名美国官员表示,美国一架MQ-9“死神”无人机本周在也门海岸坠毁。(总台记者 黄元鹏 张颖哲)

第3架!美军“死神”无人机又被击落了

中方呼吁尽早对“北溪”管道爆炸事件启动国际调查新华社联合国4月26日电 中国常驻联合国副代表耿爽26日在安理会审议“北溪”管道问题时发言,呼吁尽早启动联合国牵头的国际调查。耿爽说,“北溪”管道爆炸至今已经超过18个月了,但围绕此事仍然没有一个明确的结论,令人深感遗憾。中方注意到,瑞典、丹麦作为事件重要当事方,在开展国别调查一年多后,于今年2月相继宣布终止调查。两国的国别调查没有透露实质信息,没有公布具体进展,没有得出明确结论,引发国际社会更多猜测和..

清华大学两院士团队联手攻坚中医药大模型  从ChatGPT到Sora,从Kimi到Suno……一次次惊艳亮相,使人工智能(AI)大模型这把“火”越烧越旺。人工智能以一种直观体验,浸入到了生活的方方面面,让人真切感触到AI已从一个流行词变成了实实在在的新质生产力,引领着新一轮科技革命和产业变革。   中华民族千年文化瑰宝中医药,也在“人工智能+”的嵌入下,从中医诊断、新药发现、数据挖掘等多个环节,标注出了发展的新刻度。据不完全统计,截至2023年年底,随着技术的..

中美谈得怎么样?外交部就布林肯访华吹风2024年4月26日晚,外交部北美大洋洲司司长杨涛就美国国务卿布林肯访华向媒体吹风。杨涛表示,应中共中央政治局委员、外交部长王毅邀请,美国国务卿布林肯于4月24日至26日访华。这是中美落实两国元首旧金山会晤共识,保持对话、管控分歧、推进合作、加强国际事务协调的一部分。布林肯访华期间,习近平主席于4月26日下午礼节性会见,高屋建瓴地就中美关系阐明权威立场,提出指导意见。习近平主席指出,中美两国应该做伙伴,而不是..

美国中部遭龙卷风袭击,部分地区进入紧急状态当地时间4月26日,美国国家气象局发布消息称,因遭遇龙卷风袭击,美国内布拉斯加州以及艾奥瓦州部分地区进入紧急状态。(总台记者 张颖哲)

第3架!美军MQ-9“死神”无人机又被击落了

拜登接招了!首次明确表态“我很乐意”

拜登接招了:我很乐意跟他唠一唠!

美国:等等以色列据美国独立媒体“共同梦想”网站(Common Dreams)报道,在加沙地带医院乱葬坑发现数百具尸体后,美国25日表示不支持对这些人的死因进行独立调查,而是要求“以色列提供更多信息”。此前,巴勒斯坦、联合国和欧盟都呼吁进行独立调查。当地时间4月25日,在美国务院新闻发布会上,有记者提到有报道称,加沙地带民防部门官员透露,在以色列军队撤离后,他们从加沙三座医院的乱葬坑挖出数百具尸体,其中包括儿童,“在部分尸体上发..