印度人工智能监管，到了哪一步？

大家好，欢迎来到IT知识分享网。

摘要：目前印度没有人工智能监管的综合立法框架，2024年2月谷歌Gemini事件后，为加强对人工智能平台生成信息的监管，印度电子和信息技术部出台《人工智能咨询》，该咨询虽然不是正式的立法文件，但作为行政意见依然具有强制性，自发布之日起立即生效，该咨询推翻了印度政府此前不干涉AI发展的承诺。最受争议的新规是“任何‘测试不足’或‘不可靠’的人工智能模型、大型语言模型或生成式人工智能软件或算法只能在获得印度政府的“明确许可”后才能在印度使用”。然而，就在半个月内，印度电子和信息技术部紧急修订了该文件，新版《人工智能咨询》受到了印度AI初创企业的欢迎。两版《人工智能咨询》反映出印度政府平衡人工智能监管和创新的监管特色，并且在当前阶段表现出“创新优先”特征。

图源：https://www.moneycontrol.com/news/business/startup/bullish-on-india-why-india-will-be-the-ai-talent-hub-of-the-world-11207021.html

2024年2月26日，记者Arnab Ray向谷歌的人工智能平台Gemini提问印度总统莫迪是否是法西斯分子，Gemini回答道：“莫迪被一些专家指控实施了法西斯主义政策，造成这种定性的原因是执政党的‘印度教民族主义意识形态’，对异见的镇压以及对宗教少数群体使用暴力”，此时距离印度全国大选仅几个月，该言论在印度引发轩然大波，并引起了莫迪支持者的愤怒。印度信息技术部长拉吉夫·钱德拉塞卡 (Rajeev Chandrasekhar)就此事要求谷歌道歉的同时称保留追究谷歌法律责任的权利，他表示Gemini的回复违反了印度网络法。谷歌随后道歉称：“Gemini 是一种创造力和生产力工具，但可能并不总是可靠，尤其是在回应有关时事、政治话题或不断发展的新闻的一些提示时“。该事件不仅掀起了印度民众对Gemini可靠性的担忧和其负面政治影响的疑虑，也影响了印度人工智能监管趋势。

印度《人工智能咨询》：强监管信号？

谷歌Gemini事件后，拉吉夫·钱德拉塞卡 (Rajeev Chandrasekhar)就此事表示要加强对人工智能平台生成信息的监管，如果平台仍然处于测试阶段，像 Gemini 这样的平台应该明确告知用户潜在的不准确或非法内容。

2024年3月1日，印度电子和信息技术部(MeitY)发布《人工智能咨询》（AI Advisory），该咨询虽然不是正式的立法文件，但作为行政意见依然具有强制性，自发布之日起立即生效，要求所有中介机构和平台在该咨询发布十五天内向MeitY提供自己的行动和状态报告。

一方面，该咨询被批评为措辞和法律地位模糊，“平台”和“中介机构”等词是一个在 IT 法案或 2021 年 IT 规则中既没有使用也没有定义的术语。此外，·MeitY无权颁布法律性质的建议，咨询意见一般不具有约束力。他们的作用通常是向群众提供有关现行法律或法规的额外说明。但拉吉夫·钱德拉塞卡仍然表示这就是监管的未来，他在3月1日颁布咨询后补充道：“我们今天将其作为建议，要求您遵守”。由于该版咨询直接发给了八个重要社交媒体中介机构：Facebook、Instagram、WhatsApp、Google/YouTube（适用于 Gemini）、Twitter、Snap、Microsoft/LinkedIn（适用于 OpenAI）和 ShareChat。社交媒体中介机构是主要或单独实现两个或多个用户之间在线交互并允许他们使用其服务创建、上传、共享、传播、修改或访问信息的中介。重要社交媒体中介是指在印度拥有超过 500 万注册用户的社交媒体中介。不过，该咨询并没有明确划定术语的应用范围，导致了混淆。

另一方面，该咨询推翻了印度政府此前不干涉AI发展的承诺。最受争议的新规是“任何‘测试不足’或‘不可靠’的人工智能模型、大型语言模型或生成式人工智能软件或算法只能在获得印度政府的“明确许可”后才能在印度使用”。例如，风险投资基金Andreessen Horowitz 的马丁-卡萨多(Martin Casado)等投资者的批评，他们认为该咨询为AI的创新增添了更多的障碍。初创公司 Kisan AI 的创始人普拉蒂克·德赛 (Pratik Desai)写道：“我真是个傻子，以为我会努力将 GenAI 从旧金山引入印度农业。” “我们正在训练多模式低成本病虫害模型，对此感到非常兴奋。在印度全职工作了 4 年，将人工智能带入印度的这个领域之后，这真是太可怕了，而且让人沮丧。”最热门的人工智能初创公司之一 Perplexity AI 的联合创始人兼首席执行官阿拉文德·斯里尼瓦斯 (Aravind Srinivas) 表示，新德里的新建议是“印度的糟糕举动”。随后，拉吉夫·钱德拉塞卡 (Rajeev Chandrasekhar) 在 X 上澄清说，该建议仅针对大型科技公司。训练生成式人工智能平台所需要的数据通常存储在中国或者美国，很多训练数据并不是印度独有的，所以在提问人工智能关于印度的讯息时容易得到不准确的答案。而印度初创企业的数据使用范围比较有限，部署规模也较小。

修订版《人工智能咨询》：监管对创新的让步？

2024年3月15日，MeitY紧急修订了该文件，以新版建议取代了两周前的文件。根据新版本的建议，人工智能模型只能在有明确表明其生成的输出可能存在不准确或不可靠性的标签的前提下才能向印度用户开放。这项新建议强调了《2000年信息技术法》（Information Technology Act 2000）和《2021年信息技术（中介指南和数字媒体道德准则）规则》(Intermediary Guidelines and Digital media Ethics Code) 中规定的中介机构和平台的尽职调查的重要性。新的建议扩大了咨询中概述的关于“非法内容”的定义，并将咨询适用范围扩大到人工智能生态系统中的所有中介机构和平台。第二，新的咨询也扩大了尽职调查的范围，当中介机构和平台使用第三方开发的人工智能模型/大语言模型/生成式人工智能，软件和所发时，要确保使用的模型不存在任何偏见和歧视。第三，除了此前提出的“同意弹出窗口”机制来提醒用户人工智能生成的内容具有潜在的错误和不可靠性以外，中介机构和平台也可以使用其他等效机制。第四，新的咨询仍然要求中介机构利用标签、元数据或唯一标识符来生成、修改或创建人工智能的合成信息，以此来监管Deep Fake所生成的造假和错误信息。第五，新的建议明确将国内刑法纳入立法范围，根据该法律，中介机构、平台及其用户可能因不遵守 2000 年 IT 法案和/或 IT 规则的规定而面临刑事起诉。第五，中介机构不再有义务提交已采取的行动及状态报告。

在新版的AI Advisory出台以后，相关企业表示这对初创公司来说是一个巨大的胜利。据经济时报（The Economic Times）报道，对话式人工智能Haptik的首席执行官Aakrit Vaish称：“MeitY愿意与初创公司进行对话并听取他们的意见。现在，没有什么会阻碍该国的创新。我们看好印度的人工智能”。People+AI的负责人Tanuj Bohjwani 在整理了75家公司对3月1日人工智能咨询意见的看法后也表示修订后的人工智能咨询意见是一个更公平的要求，而这体现了印度政府愿意倾听初创企业的意见并鼓励创新。

结语

Gemini事件后原先政府对AI发展持不干涉态度的承诺被推翻，转而加强了对人工智能平台生成信息的监管。虽然《AI咨询》在发布后引发了一些争议，特别是在术语的定义和监管主体的权限上存在模糊不清的问题，但这也被视为印度政府加强对AI发展监管的表现。然而，修订后的《咨询》体现了印度政府对初创企业的倾听和鼓励创新的态度，一些相关企业对此表示欢迎并认为这是一个巨大的胜利。目前印度依然缺乏一个对各类AI工具进行分级、评估和规范的统一法律框架，该行政意见并不足以承担监管印度AI发展的全部责任。尽管如此，两版《人工智能咨询》反映出印度政府平衡人工智能监管和创新的监管特色，并且在当前阶段表现出“创新优先”特征。

参考资料：

Agrawal, A. (2024, March 15). In revised AI advisory, IT ministry removes requirement for govt permission. Hindustan Times. https://www.hindustantimes.com/india-news/in-revised-ai-advisory-it-ministry-removes-requirement-for-government-permission-101710520296018.html

AI & Emerging Technologies Group | Ministry of Electronics and Information Technology, Government of India. (n.d.). https://www.meity.gov.in/emerging-technologies-division

Artificial Intelligence Committees reports | Ministry of Electronics and Information Technology, Government of India. (n.d.). https://www.meity.gov.in/artificial-intelligence-committees-reports

Bajpai, G. (2024a, April 8). Different approaches to AI regulation. The Hindu. https://www.thehindu.com/sci-tech/technology/different-approaches-to-ai-regulation/article.ece

Bajpai, G. (2024b, April 8). Different approaches to AI regulation. The Hindu. https://www.thehindu.com/sci-tech/technology/different-approaches-to-ai-regulation/article.ece

Basu, P., & Basu, P. (2024, April 22). A Tale of two Advisories: Untangling India’s latest foray into AI Regulation. Datenschutz Notizen | News-Blog Der DSN GROUP. https://www.datenschutz-notizen.de/a-tale-of-two-advisories-untangling-indias-latest-foray-into-ai-regulation-/

By BL Mumbai Bureau. (2024, March 17). Meity revises AI advisory after push back from industry. BusinessLine. https://www.thehindubusinessline.com/info-tech/meity-revises-ai-advisory-after-push-back-from-industry/article.ece

Dhillon, A. (2024, February 27). India confronts Google over Gemini AI tool’s ‘fascist Modi’ responses. The Guardian. https://www.theguardian.com/world/2024/feb/26/india-confronts-google-over-gemini-ai-tools-fascist-modi-responses

ETtech. (2024, March 2). MeitY approval must for companies to roll out AI, generative AI models. The Economic Times. https://economictimes.indiatimes.com/tech/technology/govt-directs-social-media-generative-ai-platforms-to-comply-with-it-rules/articleshow/.cms?from=mdr

Garg, A. (2024, March 5). Google apologises to Indian govt over Gemini’s inappropriate comment about PM Modi: Story in 5 points. India Today. https://www.indiatoday.in/technology/news/story/google-apologises-to-indian-govt-over-geminis-inappropriate-comment-about-pm-modi-story-in-5-points–2024-03-05

Gupta, A. (2024, March 15). In issuing AI advisory, MEITY becomes a deity. The Hindu. https://www.thehindu.com/opinion/lead/in-issuing-ai-advisory-meity-becomes-a-deity/article.ece

IndiaAI 2023: Expert Group Report – First Edition | Ministry of Electronics and Information Technology, Government of India. (n.d.). https://www.meity.gov.in/content/indiaai-2023-expert-group-report-%E2%80%93-first-editionthe-ministry-electronics-and-information

Jan. (2024, April 24). AI监管:印度监管机制一览. Law.asia. https://law.asia/zh-hans/navigating-ai-india/

JSA Advocates & Solicitors. (2024, March 8). MeitY’s advisory on deployment of AI models – JSA. JSA. https://www.jsalaw.com/newsletters-and-updates/meitys-advisory-on-deployment-of-ai-models/

P, S. (2024, March 18). Companies hail tweaked advisory easing AI model rollout. The Economic Times. https://economictimes.indiatimes.com/tech/technology/ai-firms-welcome-revised-ai-advisory-that-removes-requirement-for-govt-permission/articleshow/.cms?from=mdr

Sharma, A. D. (2024, March 28). Indian government’s AI advisory: Are stronger regulatory policies for controlling artificial intelligence on the horizon? Business Today. https://www.businesstoday.in/magazine/the-buzz/story/indian-governments-ai-advisory-are-stronger-regulatory-policies-for-controlling-artificial-intelligence-on-the-horizon–2024-03-28

Suresh, A., & Shankar, N. (2024, March 13). MeitY’s advisory on deployment of AI models. Lexology. https://www.lexology.com/library/detail.aspx?g=1995b9a6-d3c9-44f2-b9b8-4f05d69bfc18

TechCrunch is part of the Yahoo family of brands. (2024, March 3). https://techcrunch.com/2024/03/03/india-reverses-ai-stance-requires-government-approval-for-model-launches/?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAHjaOJgDu0yvH-ytuHarHAo-0KZY2vS3fitLJkI9Ffib-ORuAtAgzbLY69BTfQS12ifLy4IuinVObIW8vkZ78k27dZWrGRZB1Z9hpRLDo9OI4gJjqIQoVoYl7UUOo_OKVclhzcz1ExwJX0oePUkgplZFoxXJKR2bxkxgPwHHbcec

The Dialogue. (2024, March 18). Blog: Comparative Analysis of MEITY AI Advisory. https://thedialogue.co/blog-comparative-analysis-of-meity-ai-advisory/

Tiwari, S., & Shukla, A. (2024, March 22). Status of regulation of AI in India: Impact of new advisory. Lexology. https://www.lexology.com/library/detail.aspx?g=5d096e18-7592-4617-9139-a7e87a827a25#:~:text=The%20Ministry%20of%20Electronics%20and,MeiTY%20in%20its%20earlier%20advisory

作者：邹玙璠

编辑：赵汇谊

责编：邹明蓁