AI生成的合成图像泛滥且真假难辨 专家呼吁政策监管势在必行

业界
2023
04/03
12:10
IT之家
分享
评论

4 月 3 日消息,最近网上出现了一些美国前总统特朗普被纽约警察逮捕的照片,引起了很多人的关注。然而,这些照片并不是真的,而是由人工智能 (AI) 技术生成的合成图像。

专家们提醒说,这些合成图像显示了一个新的现实:在重大事件发生时,社交媒体上可能会充斥着虚假的图片和视频,进一步混淆事实、误导公众,因此亟须部署相关技术并制订相关政策,对类似技术进行监管。

据IT之家了解,这些“特朗普被捕”的照片是由荷兰的一家开源调查媒体“响铃猫”网站的创始人艾略特・希金斯用 AI 绘画工具 Midjourney 制作的。

希金斯说,他想要把有关特朗普可能被捕的消息可视化,于是用 Midjourney 这款文本到图像模型生成了一些看起来很逼真的照片,并在推特上分享。这条推文在两天内被浏览了近 500 万次,并获得了超过 7.9 万个点赞。

人工智能专家说,虽然制作和生成虚假图片的技术并不新鲜,但该领域技术的进步速度以及人们对技术的滥用值得关注。数字内容分析公司 Truepic 的穆尼尔・易卜拉欣说,“合成内容正在快速发展,真实和虚假内容之间的差距变得越来越难分辨”。

《财富》杂志指出,如今各种 AI 图像生成工具变得触手可及,它们可在用户发出简单指令后,迅速生成海量栩栩如生的图片。例如,Midjourney 这款文本到图像模型现在可生成模仿新闻机构照片风格的图像,如此一来,这些 AI 生成的图片有望在混乱的新闻环境中“浑水摸鱼”,混淆视听。

希金斯认为,随着合成图像越来越难辨真假,对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育,社交媒体公司可把重点放在开发能够辨别 AI 生成图像的新技术上,并将这种技术融入自己的平台。

“特朗普被捕”虚假图片在互联网泛滥还表明,目前缺乏企业标准或政府法规来解决使用 AI 制造和传播谎言的问题。专家们都认为,特朗普的高知名度让人们很容易识破他的假照片,但是普通人的假照片就不那么好辨别了,而且制作假照片的技术还在不断提高。因此,有必要通过立法来规范深度合成技术的使用。

【来源:IT之家

THE END
广告、内容合作请点击这里 寻求合作
AI
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

一年两次的GTC是全球最大的AI技术会议之一,在上周举办2023年春季GTC大会上,英伟达发布了一系列涉及到大型语言类AI、生成式AI、工业元宇宙等试下热门话题,但在这些热门话题的背后,英伟达的野心似乎不止...
业界
3月29日消息,在宣布为Office应用提供AI支持的Copilot(副驾驶)助手后,微软现在将注意力转向网络安全。
业界
研发了ChatGPT的OpenAI现在是微软的掌上明珠,不仅将其技术融入Microsoft 365系列办公软件,更将使用其技术内置到网络安全系统中。
业界
3月28日消息,AI工具已经席卷了世界,许多商界领袖也注意到了这种趋势。微软联合创始人比尔·盖茨(Bill Gates)最近撰文称“AI时代已经到来”。
业界
3月28日讯,随着AI产业驱动人类文明生产力显著提升的前景愈发明朗,技术变革对劳动力市场的影响也成为了热门研究议题。高盛首席经济学家Jan Hatzius带领的团队,在最新研报中探讨了AI浪潮的“两面性”。
业界

相关推荐

1
3