Adobe、Microsoft和其他公司开发了AI内容的“营养”标签

假新闻越来越真实，企业及其受众面临的问题也越来越严重。

这是因为随着生成式人工智能（AI）能力的提高，模型能够生成的图像和媒体也越来越逼真，这使得辨别哪些是真实的，哪些是人工智能生成的越来越具有挑战性。

为了解决这个问题，Adobe 和包括 Arm、英特尔、微软和 Truepic 在内的其他公司已经建立了一个符号，可以与元数据一起附加到内容上，列出其出处，包括是否由人工智能工具生成。

参与的公司都是内容出处与真实性联盟（Coalition for Content Provenance and Authenticity，C2PA）的创始成员，该组织的目标是创建技术标准，认证内容的来源和出处，并拥有该符号的商标。

此举正值社交媒体公司和其他网络平台面临着越来越多的审查和压力，因为它们需要对人工智能生成内容的不当使用进行监管和标记，而大部分人工智能生成的内容仍在网络上肆意传播。

本周二（10 月 10 日），欧盟（EU）向埃隆-马斯克（Elon Musk）发出了一封严厉的信件，警告这位科技界的亿万富翁在其社交媒体网站 X（前身为 Twitter）上传播不实信息。

如果马斯克不遵守欧盟的警告，他将被处以最高达 X 收入 6% 的罚款，否则将面临 27 国集团全面停电的处罚。

同样在本周二，Meta 监督委员会宣布将立案调查这家社交媒体巨头现有的修改内容指导方针是否能 “经受住 “人工智能带来的 “当前和未来的挑战”。此次调查是首次此类调查，正值美国立法者就该平台在即将到来的2024年总统大选前遏制错误信息的能力向其施压之际。

科技公司面临日益严峻的挑战

Meta 监督委员会的调查目的是探究该公司 “在视频内容被篡改以对公众人物造成误导印象时的人权责任，以及在考虑到生成式人工智能发展的情况下应如何理解这些责任”，以及 “大规模验证视频内容的挑战和最佳实践，包括使用自动化”。

随着生成式人工智能的多模态能力越来越精细，只需几行或更少的文字就能生成超逼真的图像，人们对人工智能检测和监管的兴趣也随之增强。

内部和外部的压力都在增加。白宫已经公开表示，希望大科技公司披露使用其人工智能工具创建的内容，欧盟也在加紧要求科技平台在其人工智能生成的图像、音频和视频上标注 “显著标记”，披露其合成来源。

据PYMNTS Intelligence 公司称，唯一潜在的明显的障碍是，目前还没有一种真正万无一失的方法来检测和揭露人工智能生成的内容。这也是 C2PA 标志等自律和主动措施得到推广的原因。

“只要你能告诉消费者内容是由什么构成的，他们就可以根据所看到的内容选择围绕这些信息做出决定。但如果你不向他们提供这些信息，那么这就是行业需要谨慎对待的屏蔽和黑箱化问题，如果行业不积极主动，监管机构就会更积极地介入，”AI-ID 创始人兼首席执行官 Shaunt Sarkissian 告诉PYMNTS。

“食品行业是第一个真正开始采用成分披露和营养标签等做法的行业，为消费者提供了产品成分的透明度和相关知识–人工智能也是如此。萨基西安补充说：”公司需要说，’看，这是人工智能生成的，但另一部分不是。”如果你愿意的话，可以把卡路里计算进去。

不过，像营养标签这样的东西只是复杂问题的一个不完美的解决方案–它们需要用户的选择，而人工智能生成的深度假冒产品的大部分威胁通常来自道德意识较差的用户。

虽然负责任的信息披露可以创造一个更值得信赖的信息生态系统，让人工智能生成的内容可以在网上蓬勃发展，但我们仍然建议最终用户保持警惕，直到通过对该技术的实际和负责任的监管为止–无论那是什么时候。

参考链接：https://www.pymnts.com/travel-payments/2023/budget-airlines-face-challenges-as-post-pandemic-travel-boom-slows/