◎文 《法人》杂志全媒体记者 惠宁宁
ai大模型正席卷各行各业，逐步与多个领域交叉融合，形成各具特色的ai大模型产品。但是，ai真的那么智能吗？ai会不会欺骗你？ai“永生人”是意识存在吗？泄露隐私、虚假信息越来越多，ai大模型时代怎么防范安全风险？
有专家表示，现阶段，大模型仍受到很多因素的制约，也产生了传播虚假信息、侵害个人信息权益等问题，大模型面临着新技术的两面性。
6月3日，中国政法大学商学院产业经济系副教授丛颖男告诉《法人》记者：ai大模型的发展也带来了伦理和法律上的挑战，如隐私保护、算法偏见、责任归属等问题。这要求社会在技术进步的同时，也要对相关法律和伦理规范进行更新和完善。
公众的担忧
近日，一款语言大模型的用户王岩发现，该大模型生成结果中有些无根据甚至错误的内容。好在他一向严谨，并且生成内容属于自己的专业领域，及时发现了错误，避免了不良后果。王岩遇到的情况被称为“模型幻觉”。
现实中，“模型幻觉”可能导致公众作出错误决策。如ai推荐的理财产品可能存在误导性，导致投资受损；ai提供的医疗诊断或健康建议，如果基于错误数据或算法缺陷，可能损害患者健康等。一些虚假信息提供的产品或服务可能是伪劣的，对公众财产和健康造成损害，甚至造成公众恐慌、社会混乱，严重扰乱公共秩序，诱发群体性事件。
对于“模型幻觉”引发的法律问题，《法治日报》律师专家库成员、北京大成（广州）律师事务所高级合伙人张伟伟认为，ai错误信息、虚假信息对公众产生的危害，受害者可依据民法典等相关法律规定，追究ai错误信息、虚假信息的制造者、传播者等主体的侵权责任，要求赔偿损失。相关主体可能因违反个人信息保护法等法律法规，面临行政处罚。
“在特定情况下，如ai错误信息导致严重后果，或故意制造、传播虚假信息构成犯罪的，相关主体可能触犯刑法，承担刑事责任。”张伟伟说。
此外，ai大模型通常需要大量个人数据。如果这些数据未经充分保护，可能导致个人隐私被侵犯，涉嫌侵犯公民个人信息罪。如果ai突破计算机防火墙，非法入侵他人计算机信息系统获取、修改数据，还可能触犯非法侵入计算机信息系统罪，非法获取计算机信息系统数据、非法控制计算机信息系统罪等。
大模型广泛应用必然带来不可忽视的安全问题。一项对it行业领导者进行的关于chatgpt等大模型的调查显示，安全性是受访者最关心的问题，71％的受访者认为生成式人工智能会给企业数据安全带来新的风险。6月5日，在2024北京网络安全大会期间，奇安信集团董事长齐向东向记者介绍，解决有限的安全资源和100%的安全追求之间的矛盾，要靠ai驱动安全。ai能否真正驱动安全，则取决于数据、体系和标准。
“永生人”引发的思考
随着ai和数字化被广泛运用，将逝者“复活”，已不仅出现在科幻电影中。ai技术可以通过个体的生活数据、声音、视频等信息，生成数字人分身，实现与人类交流互动。最近，商汤科技已故创始人、知名人工智能（ai）科学家汤晓鸥的数字人“现身”公司年会；音乐人包小柏借ai技术“复活”亡女；李玟、乔任梁等已故艺人被ai复活等话题引发热议，同时也引发了人们对ai复活技术在法律和道德伦理方面的思考和担忧。
▲今年 4 月，京东创始人刘强东 ai 数字人在短视频平台直播带货 cfp
天使投资人、资深人工智能专家郭涛表示，从法律角度来看，ai数智人“复活”技术涉及多个法律问题：一是凯发app官网登录的版权问题，如果未经逝者或其家属同意，使用逝者的肖像、声音等个人信息，可能涉及侵犯凯发app官网登录的版权和隐私权；二是人格权问题，如果ai数字人的表现形式过于逼真，可能会对逝者的人格权产生侵犯；三是商业利用问题，如果将ai数智人用于商业目的，可能会涉及不正当竞争和广告法等问题。
对于用ai复活已过世亲人，有人认为是对自己的安慰。也有人觉得，好不容易走出亲人过世的阴影，突然间出现一个看似活灵活现的“人”，“让人感到不适”。近日，《法治日报》律师专家库成员、北京盈科（上海）律师事务所数智化建设委员会副主任李悦向记者表示，依照我国民法法理，姓名权和肖像权属于人身权中的人格权，始于出生，终于死亡。对于亲属使用ai技术“复活”已故亲人聊以慰藉， 从肖像权角度考虑，在亲人的范围内不会过多涉及侵权问题。但对于“复活”已故艺人，涉及的侵权责任比较明确，现行法律对于如何保护肖像利益已有约束。
“从道德伦理角度来看，ai数智人一是涉及尊重问题，逝者已矣，是否应该将其形象、声音等用于商业或其他目的；二是真实性问题，ai数智人可能会误导公众，让人们误以为逝者还在世；三是情感问题，对于逝者的亲友来说，看到ai数智人可能会引发复杂的情感反应。当然这是一种有潜力的新兴技术，但在实际应用中，需要充分考虑到法律和道德伦理问题，以确保其合理、合法使用。同时，也要通过法律法规和社会规范，引导和规范这一技术的发展和应用。”郭涛说。
知识产权的归属与归责
著作权法保护的是人类智慧成果。因为人类画图，有劳动的创造力、时间和精力成本，所以要通过法律保护。现在用ai来画，对出图的贡献值完全不一样。那么，同样两张图，不考虑图片质量的情况下，怎么对作品本身进行保护？
对此，李悦认为，用ai创作的图片是否享有著作权在不同国家有不同的意见。在美国，ai生成的作品不受著作权法保护，而我国尚无明确法律规定。那么，用ai创作的图片是否需要赋予著作权加以保护？记者搜索案例发现，中国有关ai文生图的司法判例中，法院支持ai创作图有人的贡献值在里面，都认定ai生成图片予以著作权保护。
“我认为，对ai生成的图片应进行著作权保护。虽然与手绘作品相比，使用ai创作的难度较低，但并非没有人类的智力成果。例如，使用stable diffusion进行图片创作仍存在技术门槛。因此，可以赋予创作者对ai图片的著作权。但在处理著作权侵权纠纷时，法院对侵犯用ai创作图片著作权的案件，支持的赔偿金额不宜过高。”李悦说。
那么，ai产生图片本身会不会侵权？
“目前，主流的ai图像生成工具通常通过重绘生成图片，因而一般不会涉及侵权问题。但如果用户要求ai生成特定ip的图片并对外使用，如宫崎骏的作品、七龙珠等，将存在侵权风险。许多主流公司已经采取措施保护知名艺术家的作品。例如，艺术家可以向公司明确告知不希望自己的作品被用于训练数据，ai生成的图片就不会参考这些艺术家的风格。” 李悦还建议，可以设立一个专项基金，用于未来产品侵犯知识产权的赔偿。这种方式可以在一定程度上缓解侵权风险，并显示公司对知识产权保护的重视。
他还建议，对大模型科技公司责任和使用者责任进行区分。“这两者权利和义务不同，可以制定规范，规定科技公司如何保护知识产权并管理内容生成，确保ai生成的内容不涉及暴力血腥等不良内容，落实负责任的ai开发和应用。而对于普通用户，可以强化引导，以显著及通俗易懂的方式帮助他们理解和遵守平台的使用规范。”
商业先行还是监管先行？
ai大模型的发展离不开商业的支持。商业公司通常拥有更多资源和能力推动ai技术研发和应用。如果商业先行，可以更快地推动ai技术的创新和应用，促进相关产业发展。同时，商业公司也需要在竞争中不断完善自己的产品和服务，以满足市场需求和用户需求。
但在缺乏有效监管的情况下，商业公司可能过度追求利润，忽视对用户和社会的责任，从而导致ai技术的滥用和误用。此外，商业公司之间的竞争也可能导致资源浪费和重复劳动，降低整个行业的效率。
2023年，国家网信办等七部门公布《生成式人工智能服务管理暂行办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
监管可以有效规范ai技术的研发和应用，防止滥用和误用，保护用户和社会的利益。通过制定相关法规和标准，可以明确ai技术的使用范围和限制，引导商业公司合理竞争，促进行业的健康发展。
然而，监管先行也存在一些挑战，ai技术的发展越来越迅速，监管需要跟上技术发展的步伐，不断更新和完善相关法规和标准。这需要监管机构具备较高的专业能力和技术水平。同时，监管也需要平衡商业利益和社会利益之间的关系，避免过度干预市场运行。
对此，张伟伟认为，商业与监管应当并重，在不同阶段选择不同的监管力度，保证ai商业能够快速形成规模化市场。同时，也要保证ai不是脱缰野马，必须在法律、监管的框架之下有序发展。
“这实际是一个多方协同、平衡发展的问题。商业先行和监管先行并不是非此即彼，而是需要综合考虑多个方面。在推动ai大模型的发展过程中，应该加强商业和监管之间的合作和协调，共同推动ai技术的健康发展。”张伟伟表示，商业公司应积极履行社会责任，遵守相关法规和标准，确保技术的安全和可靠。监管机构也应该加强监管力度，制定符合实际情况的监管政策，促进ai技术的合理应用和发展，多方协作才能让ai商业在秩序之路上有序、高速发展。
编审｜渠 洋
责编｜白 馗
校对｜张波 张雪慧
| 网站icp许可证编号： | 网上传播视听节目许可证0105080号
