新德里:印度将用一项新规定打击人工智能产生的深度造假和错误信息，该规定可能允许对创作者和社交媒体平台进行经济处罚，从而使此类恶意内容扩散。

联盟信息技术和电信部长Ashwini Vaishnaw表示，政府和其他利益相关者将在10天内制定可操作的项目，以检测深度伪造，防止其上传和病毒式分享，并加强此类内容的报告机制，从而允许公民对互联网上人工智能产生的有害内容进行追索。

“深度造假已经成为对民主的新威胁。深度造假削弱了人们对社会及其机构的信任。”

Vaishnaw表示，该规定还可能包括经济处罚。他说:“当我们进行监管时，我们必须考虑惩罚，既要考虑上传或创建视频的人，也要考虑平台。”

周四，部长会见了来自科技行业的代表，包括来自meta、谷歌和亚马逊的代表，听取了他们在处理深度虚假内容方面的意见。

“社交媒体的使用确保了缺陷可以在没有任何检查的情况下以更快的速度传播，它们在上传的几分钟内就会像病毒一样传播开来。”这就是为什么我们需要采取非常紧急的步骤来加强对社会的信任，以保护我们的民主。”

Mint在周四的版本中首次报道了政府打算监管深度虚假内容，并要求社交媒体平台扫描和阻止深度虚假内容。

Vaishnaw坚持认为，社交媒体平台需要更加积极主动，因为深度虚假内容造成的损害可能是立竿见影的，即使是稍微延迟的回应也可能无效。

你可能会感兴趣

Vaishnaw补充说:“所有人都同意在接下来的10天内根据讨论的四个关键支柱提出明确的，可操作的项目:检测深度伪造，防止深度伪造和深度错误信息内容的发布和病毒式分享，加强此类内容的报告机制，以及通过政府和行业实体的共同努力传播意识。”

Deepfakes指的是人工合成或伪造的媒体，通过人工智能(AI)的一种形式，对其进行数字操纵和修改，以令人信服地歪曲或冒充某人。

新规定既可以作为印度IT规则的修正案，也可以作为一项新法律。

“我们可能会通过一项新的独立法律，或对现有规则的修订，或在现有法律下制定一套新规则来规范这一领域。下一次会议将在12月的第一周举行，届时我们将讨论深度造假的监管草案，之后后者将向公众开放咨询。”

这位部长补充说，平台根据《信息技术法案》享有的“安全港豁免权”将不适用，除非他们迅速采取坚决行动。

在周四的会议上讨论的其他方面包括人工智能偏见和歧视问题，以及如何改变现有的报告机制。

在出现深度虚假内容的报道后，政府上周向社交媒体平台发布了通知。在包括总理纳伦德拉·莫迪和演员卡特里娜·凯夫在内的多名知名公众人物成为攻击目标后，对深度伪造视频的担忧升级。

英国首相在周三举行的G20峰会上向G20领导人发表讲话时也提到了深度造假问题。

行业利益相关者对周四会议上的讨论基本上持积极态度。

参与咨询的谷歌发言人表示，该公司正在“建立工具和护栏，以帮助防止技术滥用，同时使人们能够更好地评估在线信息。”

“我们有长期的、强有力的政策、技术和系统来识别和删除我们产品和平台上的有害内容。我们在推出由生成式人工智能驱动的新产品时，也采用了同样的精神和方法，”该公司在一份声明中表示。

meta没有立即回应记者的询问。

印度软件行业组织Nasscom负责公共政策的副总裁阿什什·阿加瓦尔(Ashish Aggarwal)表示，尽管印度已经有了惩罚假冒犯罪者的法律，但关键是要加强对识别制造深度假货的人的监管。

他说:“更重要的讨论是如何抓住那1%制造深度伪造的恶意用户——这更像是我们手头上的一个识别和执行问题。”

“今天的技术可以帮助识别合成成分。然而，挑战在于在允许无害成分的同时分离有害的合成成分，并迅速去除它们。一种被广泛考虑的工具是在所有被数字化改变或创建的内容中嵌入水印或标签，以警告用户合成内容和相关风险，同时加强工具的功能，使用户能够快速报告相同的内容。”

一位熟悉事态发展的资深行业官员表示，大多数公司都采取了“支持监管的立场”。

“然而，虽然今天几乎每个科技平台都有一些针对错误信息和操纵内容的反应性政策，但它们都围绕着社交平台所拥有的安全港保护，将惩罚的责任留给了用户。”大多数公司将在即将出台的法规中寻求这样的平衡。”

这位官员补充说，对于“大公司”来说，遵守这一问题可能更容易，这让行业利益相关者关注一种可能分级的惩罚、制裁和合规时间表——类似于《数字个人数据保护法》(Digital Personal Data Protection Act)的规则是如何实施的。

预算较大、内容以英语为主的跨国公司可能会更容易遵守规定。具有挑战性的是，看到拥有更多非英语内容的平台在过滤深度造假和错误信息方面面临挑战。这对这些平台如何处理选举信息也至关重要。”

政策智库The Quantum Hub的创始合伙人罗希特·库马尔(Rohit Kumar)补充说，对深度虚假内容的监管“应该认识到合规的成本”。

“如果投诉量很大，在短时间内审查下架请求可能会非常昂贵。因此，即使在规定义务的同时，也应该尝试采取分级方法，以尽量减少平台的合规负担……可以定义‘病毒式传播’阈值，并且可以要求平台优先审查和删除开始病毒式传播的内容，”库马尔说。

他补充说，安全港保护不应该被完全淡化，因为“深度造假造成的损害责任应该由制作和发布视频的人承担，而不是由平台承担。”