4月10日，中国支付清算协会向行业发出倡议：支付行业从业人员谨慎使用ChatGPT等工具。
4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》）向社会公开征求意见。
《金融时报》记者注意到，包括ChatGPT在内的生成式人工智能应用日趋广泛，由此带来的规范应用等问题正受到进一步重视。
数据安全等问题受关注
在上述倡议中，中国支付清算协会表示，ChatGPT等智能化工具已暴露出跨境数据泄露等风险。支付行业从业人员在使用ChatGPT等工具时，要严格遵守国家及行业相关法律法规要求，不上传关键敏感信息。
“一些机构或个人将类似的生成工具作为日常工作的‘助手’，在使用中，相关隐私保护、数据安全、人工智能的道德和法律问题等都需要重点关注。”业内人士告诉《金融时报》记者。比如，在某互联网公司宣布推出生成式AI之后，国内多家金融机构宣布接入，巨量的金融用户数据、跨行业数据等在人工智能系统之中融合交互，数据合规问题、隐私保护等问题都不容忽视。
《征求意见稿》中对用于生成式人工智能产品的预训练、优化训练数据提出五个方面要求：符合《中华人民共和国网络安全法》等法律法规的要求；不含有侵犯知识产权的内容；数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；能够保证数据的真实性、准确性、客观性、多样性；国家网信部门关于生成式人工智能服务的其他监管要求。
“对整个数据收集、传输、交易、检验、维护与保护的全面规制，符合现行法律对数据处理的各方面要求，能够极大程度地防止后续违法行为的发生。”北京大成律师事务所高级合伙人肖飒分析认为，就立法路径而言，《征求意见稿》是在《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》“三驾马车”的前提下提出的，因此，相关企业应该关注生成式人工智能服务的本质及合规，该类服务首先是一个网络应用，其次是一个“数据密集型”应用，且极其容易触碰“个人信息”的雷区。
生成内容需真实准确
《征求意见稿》对“生成式人工智能”有如下定义，指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。并对提供生成式人工智能产品或服务作出五大要求，大前提是“应当遵守法律法规的要求，尊重社会公德、公序良俗”，其中提出，“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”。
中国信息通信研究院和京东探索研究院发布的《人工智能生成内容（AIGC）白皮书（2022年）》显示，近年来，随着人工智能技术不断成熟，机器深度学习后生成的内容愈发逼真，能够达到以假乱真的效果。
一些用户告诉记者，有时回答同样的问题，生成式AI给出的答案或许还不如搜索引擎来得准确。举个例子，“哪家财务公司好？”获得某生成式AI内测资格的刘先生问了这样一个问题，它给出的几个“比较可靠的财务公司”没有一家是财务公司。事实上，在我国，财务公司主要是指非银行金融机构，一般是由大型企业集团成立。
业内人士对此的解释是，生成式AI每次给出的答案不一定一样，会带来不确定性。另外，类似的人工智能系统实际上并不具备“理解能力”，也很难甄别虚假信息，“一本正经地胡说八道”就是AI最受质疑的软肋。
肖飒认为，可以看出政府努力引领“可信”生成式人工智能服务的发展。对于该类服务来说，“可信”是最难以达成的，黑箱模型使得很少有有效手段阻止模型输出内容的“胡言乱语”，即便是行业顶尖的ChatGPT4也难以避免该现象的发生。并且，核心问题指向服务生成内容可信程度的波动化，时而超常的准确表现、时而难以分辨的潜藏错误是阻碍对该类服务赋予更多信任的主要原因。因此，《征求意见稿》第四条第四款中只是要求采取一定的措施对生成内容准确性进行维护。
相关企业应有合规准备
业内人士认为，随着ChatGPT的持续火热，全球范围内都对AIGC应用抱有更高的期许。就国内的AIGC发展而言，《征求意见稿》接下来会收纳各方意见进行调整，一旦正式出台，对于整个行业的发展是引导也是压力。
“《征求意见稿》显示出我国对于生成式人工智能技术发展的关注与支持，将相关科研机构、企业的发展纳入到合规、安全的框架之中，这对于构建本土化AIGC研发环境极其有利。各个开发者需要在数据维护、模型设计、模型输出、用户交互等全流程进行新的服务设计和改进。”肖飒说。
对于《征求意见稿》中关注到的内容、算法、数据、平台不正当竞争、用户隐私等各个层面的问题。肖飒认为，首先是重视内容监管，生成内容应当体现社会主义核心价值观，且谨防打着人工智能的旗号进行违法有害内容的有意输出。其次是谨防“算法偏见”现象，除了杜绝主动输出危害内容之外，也对算法设计、数据选取等较为隐性的服务进行规制，实现从模型到数据的全过程平等无偏见。同时，为可能在算法、算力、数据等方面垄断的企业打了“预防针”，国家提倡数字时代共享共治，在保护企业智力成果、投入成本的同时也谨防恶性竞争、市场垄断等行为的发生。
稿源：证券时报
