肖飒：AIGC创业有哪些法律禁忌？

自chatGPT火遍全球之后，各国又掀起了一波AI领域的创业潮。马斯克在採访中也强调人工智能的发展可能会给人类带来空前灾难。结合欧盟人工智能法律提案和我国诸多法规，飒姐团队给诸位创业者一些法律提示。希望大家的创新应用能够开花结果。一、欧盟在哪些领域明令“禁止的人工智能实践”2021年4月欧洲议会和理事会制定关于人工智能的统一规则（《人工智能法》）的提案，对于全球AI领域的监管规制给出了“样板间”。总结下来就是，AI研发不能涉及对人身心摧残的领域，不能歧视弱势群体，要尊重每个人的权利，对于3年以上有期徒刑的嫌疑人可以实时远程生物识别。具体如下：（1）不得在市场上投放、使用个人无法认识的方式来进行“潜意识教化”的技术，以这种方式严重扭曲人的行为并致使其身心受到伤害。（2）不得利用特定人群的年龄、身体、精神残疾等，以导致其身心伤害的方式，实质性扭曲与该人群有关的行为。公共机构或其代理人在市场，不得投放在一定时期内对自然人的信誉进行评估或分类的AI系统，且其社交评分可能会导致如下一项或两项:（1）在与原始数据生成或收集场景无关的社会场景，对自然人或群体有害或不公平待遇；（2）对某些人或群体的社会行为有严重伤害或不公平待遇。出于执法目的在公共场所使用“实时”远程生物特徵识别系统，排除下列行为之一，且有必要：（1）针对性寻找特定刑事受害人，例如失踪儿童；（2）预防对人的生命或身体有伤害的行为，或恐怖袭击；（3）侦测、定位、识别、起诉特定罪名的犯罪嫌疑人，且该嫌疑人的刑期为3年以上。二、中国法律法规对人工智能的规制经过梳理，我们对于内地AI法律规制的大致地图是：《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》《互联网信息服务深度合成管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》等。但并没有对于AI领域的专门法律进行规制，随着文心一言（百度推出）和其他竞品的出现，飒姐认为，对于AIGC领域的规制可能会增多，但法律规制宜粗不宜细，倘若给从业人员和企业太多枷锁，就很难创造出伟大的产品。从目前情况看，AI领域创业行为的监管部门主要有：国家网信部门；国务院电信部门；公安部门；数据局。具体的监管手段有：（1）安全评估，对于具有舆情属性或者社会动员能力的，参照《具有舆情属性或社会动员能力的互联网信息服务安全评估规定》评估。 （2）履行备案，按照《互联网信息服务算法推荐管理规定》进行备案；（3）开展监督检查，监管部门均有权力进行监管，具体事前、事中、事后根据各自分工进行。秉承原则“向上向善”，飒姐凝练为：具体边界1. 不得从事涉政涉黄；2. 不得合成虚假新闻，非持牌不得传播非国家规定範围内的单位发布的新闻；3.不得违背公序良俗（例如第三者如何抢夺原配家产）4.不得生成违法和不良信息，这方面可以健全相应“特徵库”，筛选健康信息；5.不得恶意贬损他人名誉和企业商誉（法律后果是会被起诉名誉权侵权）；6. 对于不可控的创作内容，採取及时删除降低社会危害。飒姐认为不宜在禁止性条件中增加“其他行为”，因为这个“其他”会给创业者严重的不安全感，成文法就是要白纸黑字，清清爽爽，加上“其他行为也可处罚”一下子就把苦心经营的营商环境给戳破了，还有谁敢豁出命来搞创新、搞创业？ ！法律要给创业者一个软性保障，2023年3月23日国家互联网信息办公室发布《网信部门行政执法程序规定》对于行政机关的行政处罚等行为进行法律规制，明确“一事不再理”，明确程序和迴避制度，减少网信部门滥用权力的可能性，直接而明确的回应了科技行业的呼声和需求，这种制度供给是各方都欢迎的。我们期待更多规制行政行为的法律法规，尽快出现，确保市场主体的明确预期。三、AIGC创业公司的20个合规义务根据2023年1月10日生效的《互联网信息服务深度合成管理规定》，截止目前，在中国内地进行类chatGPT业务需要遵守的合规义务有：具体合规义务健全用户注册制度；算法机制机理审核；科学伦理审查；信息发布审核；数据安全管理制度；个人信息保护製度；反电信诈骗制度；应急处置管理制度；在App或网站，公开管理规则、平台公约，完善服务协议，以显着方式提示各方承担信息安全义务;健全勇于识别违法和不良信息的特徵库，留存日誌；发现违法和不良信息，有向主管机关报告的义务；发现违法和不良信息，对使用者依法依约，採取处置措施；全闢谣机制；设置便捷申诉和举报入口，及时反馈结果；加强训练数据管理；定期审核、评估、验证生成合成类算法机制机理；依法自行或委託专业机构开展安全评估；对生成内容，採取技术措施添加不影响用户使用的标识；不得删除、篡改、隐匿深度合成标识；按照《互联网信息服务算法推荐管理规定》履行备案、变更、注销备案手续。同时，遵守新闻出版、文化和旅游、广播电视主管部门的规定。三、政策风向和科技伦理应该说AI领域的科技创新，是各方乐见其成的，因此，从政策层面讲，对AI行业是利好的，尤其是对标Chat GPT和欧美推出的各类技术应用。飒姐比较担心的是个别地方办案机关，还是有罚没和罚款冲动，对于创业者的一些利用数据的行为进行“严格解释”，从而导致数据犯罪案件的攀升。对于大厂而言，也许不会亲自下场去打捞数据，但不可否认大厂具有集团优势，其产业集团内不同板块的数据集中到某个特殊目的公司进行深入加工，餵养AI，然而，数据在集团内部跨法人主体的转移，也有较大的法律争议，甚至在某些案件中，直接给予了负面评价。如果集团内部每个公司的数据只能用于自己的客户维护，那么，其优势就丧失殆尽。而如果购买外部公司数据，则有可能“放任”外部公司数据的“灰色”，上个月有几家南方的数据公司找飒姐谋求上市前的合规，我们也想帮忙，但现行法的规定不能置若罔闻，有些企业虽然很赚钱，但确实在犯罪边缘游走，对于爬虫技术的应用已经超越了法律边界。大厂用了这些灰色的数据，自身可能会背上教唆犯的十字架。如果不用这些数据，也许自身的成长就会慢些。在选择GDPR模式还是人身权与财产权分离模式时，我国法律也在移植哪种法律技术更符合国情上有过考量。现实是法律规定很完备，但市场和技术没有如预期一样迅猛增长。各国企央企的数据还是牢牢攥在自己手中，宁可烂了，也不流动和分享。数据局的出现，也许就是为了打破“信息孤岛”，让数据真正流动起来，发挥生产要素的作用，提振实体经济。在科技伦理方面，飒姐坚信：科技不应作恶，AI创业要尊重自然法的基本原则，不能戕害弱者，不能加深歧视，不可有意帮助犯罪，不宜提供自杀自残的方法，鼓励健康的生活方式，引导人们远离毒品和暴力。法律，其实应该是从人们心里长出来的，每个人心里都有一桿公平秤。写在最后闲暇时，飒姐和团队伙伴也会在茶馆和咖啡馆听一听旁边的陌生人在谈论什么，让人觉得欣喜的是：人们不再悲观，而是现实地开始寻找新创业契机。我们中国人是韧性十足的，在AIGC方面也会有自己的展业思路。坚持长期主义，未来是美好的，无论如何。