前情提要：

2024年10月21日，美新闻集团旗下的道琼斯和《纽约邮报》在纽约联邦法院对人工智能初创公司Perplexity AI提起诉讼，指控Perplexity AI未经授权大量复制他们的版权作品，并将其用于其AI驱动的“答案引擎”中。Perplexity AI是一家试图撼动由谷歌主导的搜索引擎市场的创业公司，成立于2022年。该公司通过从认为具有权威性的网页中收集信息，使用包括chatGPT和Meta的开源技术来生成内容。然而，新闻集团认为Perplexity AI的行为构成了“内容盗窃”，并要求其停止侵权行为并支付相应的赔偿。

该案进一步加剧了传统媒体与新兴技术之间的紧张关系，也为AI应用厂商敲响了警钟。本文将立足于国内法律规定，探讨AI应用中可能涉及的刑事法律风险。

一、AI数据收集的刑事风险

数据与算法是AI的核心，从目前检索到的数据行业刑事案例来看，数据收集也是相关厂商面临的主要刑事风险源之一。AI厂商通常会通过公开收集、提供服务过程中自行采集、第三方采购等方式获取数据，过程中可能面临的主要刑事风险如下：

（一）未经权利主体同意，以购买、自行采集等方式非法获取公民个人信息、作品、录音录像制品、商业秘密乃至国家秘密的，存在构成相应犯罪的风险

如果未经权利人授权同意，购买、自行采集包含公民个人信息、作品、录音录像制品、商业秘密乃至国家秘密的，根据相关数据的属性，可能涉嫌侵犯公民个人信息罪、侵犯著作权罪、侵犯商业秘密罪或者非法获取国家秘密罪。

侵犯公民个人信息罪（《刑法》第253条之一）

概念	表述
基本罪状	1. 违反国家有关规定，向他人出售或提供公民个人信息（第1款）				情节严重	3年以下有期徒刑或拘役，并处或单处罚金
	2. 窃取或者以其他方法非法获取公民个人信息（第3款）
	3. 违反国家有关规定，将在履行职责或提供服务过程中获得的公民个人信息，出售或提供给他人（第2款）					按本条规定从重处罚
法定刑升格	情节特别严重		3年以上7年以下有期徒刑，并处罚金
情节严重[1]	非法获取、出售或者提供公民个人信息；为合法经营活动而非法购买、收受右侧3、4项规定以外的公民个人信息，并将购买、收受的公民个人信息非法出售或者提供的	1. 出售或者提供行踪轨迹信息，被他人用于犯罪
		2. 知道或者应当知道他人利用公民个人信息实施犯罪，向其出售或者提供
		3. 非法获取、出售或者提供行踪轨迹信息、通信内容、征信信息、财产信息50条以上
		4. 非法获取、出售或者提供住宿信息、通信记录、健康生理信息、交易信息等其他可能影响人身、财产安全的公民个人信息500条以上
		5. 非法获取、出售或者提供3、4项以外的公民个人信息5000条以上
		6. 数量未达到第3项至第5项规定标准，但是按相应比例合计达到有关数量标准
		7. 违法所得5000元以上
		8. 将在履行职责或者提供服务过程中获得的公民个人信息出售或者提供给他人，数量或者数额达到上方第3项至第7项规定标准一半以上
		9. 曾因侵犯公民个人信息受过刑事处罚或者2年内受过行政处罚，又非法获取、出售或者提供公民个人信息
		10. 其他情节严重的情形
	为合法经营活动而非法购买、收受上栏3、4项规定以外的公民个人信息	1. 利用非法购买、收受的公民个人信息获利5万元以上
		2. 曾因侵犯公民个人信息受过刑事处罚或者2年内受过行政处罚，又非法购买、收受公民个人信息的；
		3. 其他情节严重的情形。
情节特别严重[2]	非法获取、出售或者提供公民个人信息；为合法经营活动而非法购买、收受“情节严重”中右侧3、4项规定以外的公民个人信息将购买、收受的公民个人信息非法出售或者提供的	1. 造成被害人死亡、重伤、精神失常或者被绑架等严重后果
		2. 造成重大经济损失或者恶劣社会影响
		3.数量或者数额达到上方“情节严重”中第3项至第8项规定标准10倍以上的		（1）非法获取、出售或者提供行踪轨迹信息、通信内容、征信信息、财产信息500条以上
				（2）非法获取、出售或者提供住宿信息、通信记录、健康生理信息、交易信息等其他可能影响人身、财产安全的公民个人信息5000条以上
				（3）非法获取、出售或者提供上2项以外的公民个人信息5万条以上
				（4）数量未达到上3项规定标准，但是按相应比例合计达到有关数量标准
				（5）违法所得5万元以上
				（6）将在履行职责或者提供服务过程中获得的公民个人信息出售或者提供给他人，数量或者数额达到上方5项规定标准一半以上
	4. 其他情节特别严重的情形

侵犯著作权罪（第217条、第220条）

概念	表述
基本罪状（刑法第）	以营利为目的	未经著作权人许可，复制发行、通过信息网络向公众传播其文字作品、音乐、美术、视听作品、计算机软件及法律、行政法规规定的其他作品的			违法所得数额较大或有其他严重情节	3年以下有期徒刑并处或单处罚金
		出版他人享有专有出版权的图书的
		未经录音录像制作者许可，复制发行、通过信息网络向公众传播其制作的录音录像的
		未经表演者许可，复制发行录有其表演的录音录像制品，或者通过信息网络向公众传播其表演的
		制作、出售假冒他人署名的美术作品的
		未经著作权人或者与著作权有关的权利人许可，故意避开或者破坏权利人为其作品、录音录像制品等采取的保护著作权或者与著作权有关的权利的技术措施的
法定刑升格	违法所得数额巨大			3年以上10年以下有期徒刑，并处罚金
	有其他特别严重情节
追诉标准[3]	违法所得数额在3万元以上
	非法经营数额在5万元以上
	未经著作权人许可，复制发行其文字作品、音乐、电影、电视、录像作品、计算机软件及其他作品，复制品数量合计在500张（份）以上
	未经录音录像制作者许可，复制发行其制作的录音录像制品，复制品数量合计500张（份）以上
	其他严重情节的情形
数额巨大[4]	违法所得数额在15万元以上
其他特别严重情节[5]	非法经营数额在25万元以上[6]
	复制发行其文字作品、音乐、电影、电视、录像作品、计算机软件及其他作品，复制品数量合计在2500张（份）以上
	其他特别严重情节的情形
通过信息网络传播侵权作品行为的定罪处罚标准[7]	其他严重情节		1.非法经营数额在5万元以上
			2.传播他人作品的数量合计在500件（部）以上
			3.传播他人作品的实际被点击数达到5万次以上
			4.以会员制方式传播他人作品，注册会员达到1000人以上
			5.数额或数量虽未达到上述规定标准，但分别达到其中2项以上标准一半以上
			6.其他严重情节的情形
	其他特别严重情节		实施上述规定行为，数额或数量达到前款第1-5项规定标准5倍以上
以营利为目的[8]	以刊登收费广告等方式直接或者间接收取费用
	以在他人作品中刊登收费广告、捆绑第三方作品等方式直接或间接收取费用
	通过信息网络传播他人作品，或利用他人上传的侵权作品，在网站或网页上提供刊登收费广告服务，直接或间接收取费用
	以会员制方式通过信息网络传播他人作品，收取会员注册费或其他费用
	其他利用他人作品牟利的情形
发行	侵权产品的持有人通过广告、征订等方式推销侵权产品属于“发行”[9]
	“发行”包括总发行、批发、零售、通过信息网络传播以及出租、展销等活动[10]
非法经营数额[11]	行为人在实施侵犯知识产权行为过程中，制造、储存、运输、销售侵权产品的价值
	已销售的侵权产品的价值，按照实际销售的价格计算
	制造、储存、运输和未销售的侵权产品的价值，按照标价或已经查清的侵权产品的实际销售平均价格计算
	侵权产品没有标价或无法查清其实际销售价格的，按照被侵权产品的市场中间价格计算

侵犯商业秘密罪（《刑法》第219条、第220条）

概念	表述
基本罪状（《刑法》第219条、第220条）	以盗窃、贿赂、欺诈、胁迫、电子侵入或者其他不正当手段获取权利人的商业秘密的		情节严重的	3年以下有期徒刑并处或单处罚金
	披露、使用或者允许他人使用以前项手段获取的权利人的商业秘密的
	违反保密义务或者违反权利人有关保守商业秘密的要求，披露、使用或者允许他人使用其所掌握的商业秘密的
	明知前款所列行为，获取、披露、使用或者允许他人使用该商业秘密的
法定刑升格	情节特别严重的	3年以上10年以下有期徒刑，并处罚金
追诉标准[12]	给商业秘密权利人造成损失数额在30万元以上
	因侵犯商业秘密违法所得数额在30万元以上
	直接导致商业秘密的权利人因重大经营困难而破产、倒闭的
	其他给商业秘密权利人造成重大损失的情形
特别严重后果	给商业秘密的权利人造成损失数额在250万元以上
损失数额及违法所得认定[14]	以不正当手段获取权利人的商业秘密，尚未披露、使用或者允许他人使用的，损失数额可以根据该项商业秘密的合理许可使用费确定
	以不正当手段获取权利人的商业秘密后，披露、使用或者允许他人使用的，损失数额可以根据权利人因被侵权造成销售利润的损失确定，但该损失数额低于商业秘密合理许可使用费的，根据合理许可使用费确定
	违反约定、权利人有关保守商业秘密的要求，披露、使用或者允许他人使用其所掌握的商业秘密的，损失数额可以根据权利人因被侵权造成销售利润的损失确定
	明知商业秘密是不正当手段获取或者是违反约定、权利人有关保守商业秘密的要求披露、使用、允许使用，仍获取、使用或者披露的，损失数额可以根据权利人因被侵权造成销售利润的损失确定
	因侵犯商业秘密行为导致商业秘密已为公众所知悉或者灭失的，损失数额可以根据该项商业秘密的商业价值确定。商业秘密的商业价值，可以根据该项商业秘密的研究开发成本、实施该项商业秘密的收益综合确定
	因披露或者允许他人使用商业秘密而获得的财物或者其他财产性利益，应当认定为违法所得
	前款第二项、第三项、第四项规定的权利人因被侵权造成销售利润的损失，可以根据权利人因被侵权造成销售量减少的总数乘以权利人每件产品的合理利润确定；销售量减少的总数无法确定的，可以根据侵权产品销售量乘以权利人每件产品的合理利润确定；权利人因被侵权造成销售量减少的总数和每件产品的合理利润均无法确定的，可以根据侵权产品销售量乘以每件侵权产品的合理利润确定。商业秘密系用于服务等其他经营活动的，损失数额可以根据权利人因被侵权而减少的合理利润确定。
	商业秘密的权利人为减轻对商业运营、商业计划的损失或者重新恢复计算机信息系统安全、其他系统安全而支出的补救费用，应当计入给商业秘密的权利人造成的损失。

非法获取国家秘密罪（第282条第1款）

概念

表述

基本罪状（《刑法》第282条第1款）

以窃取、刺探、收买方法，非法获取国家秘密

3年以下有期徒刑、拘役、管制

或剥夺政治权利

法定刑升格

情节严重

3年以上7年以下有期徒刑

（二）未经数据控制者授权或超越授权获取数据的，存在非法获取计算机信息系统数据罪等相应刑事风险

即便所获取的数据本身不具备公民个人信息、商业秘密等特殊属性，甚至属于媒体文章等公开数据，未经数据控制者授权或超越授权获取数据的，同样存在相应刑事风险，这也是传统媒体与新兴技术博弈的主阵地。

根据《刑法》第285条，非法获取计算机信息系统数据行为指“违反国家规定，侵入国家事务、国防建设、尖端科学技术领域以外的计算机信息系统或者采用其他技术手段，获取该计算机信息系统中存储、处理或者传输的数据，情节严重”的行为。

非法获取计算机信息系统数据罪（《刑法》第285条第2款、第4款）

概念	表述
基本罪状（《刑法》第285条第2款、第4款）	违反国家规定	1.侵入国家事务、国防建设、尖端科学技术领域以外的计算机信息系统			1. 获取前述计算机信息系统中存储、处理或者传输的数据，或者	情节严重	3年以下有期徒刑、拘役，并处或单处罚金
		2.采用其他技术手段			2. 对前述计算机信息系统实施非法控制
法定刑升格	情节特别严重			3年以上7年以下有期徒刑，并处罚金
追诉标准[15]	1.获取支付结算、交易、期货交易等网络金融服务的身份认证信息10组以上
	2.获取“追诉标准”第1项以外的身份认证信息500组以上
	3.非法控制计算机信息系统20台以上
	4.违法所得5000元以上或造成经济损失1万元以上
	5.其他情节严重的情形
情节特别严重[16]	1. 数量或数额达到“追诉标准”1-4项规定标准5倍以上		（1）获取支付结算、交易、期货交易等网络金融服务的身份认证信息50组以上
			（2）获取上一项以外的身份认证信息2500组以上
			（3）非法控制计算机信息系统100台以上
			（4）违法所得2.5万元以上或者造成经济损失5万元以上
	2. 其他情节特别严重的情形

尽管法条对手段的技术性提出了要求，但从检索到的刑事案例来看，司法机关通常不会对手段的“技术性”作实质要求，无论是运用反爬技术侵入系统爬取数据，还是利用合法取得的账号密码登录系统内部批量爬取数据，均可能构成本罪。司法实践更多是以是否未经授权或超越授权作为行为合法与否的认定标准。例如在张某拔非法获取计算机信息系统数据、非法控制计算机信息系统罪、侵犯公民个人信息案[17]中，裁判要旨认为“网络爬虫技术使用合法性基础是数据提供者知情、同意。此外，数据是信息的载体，具有区别于信息的独立价值。即使有权用户可以获取信息，但是不一定有权直接复制下载数据，不一定有权通过开发者程序获得数据，更不一定有权通过爬虫程序获得数据。”

从以上主流司法观点可以看出，数据控制者的分享意愿是判断构罪与否的关键。商业价值高的数据，例如承载新闻媒体刊载的付费订阅内容的数据，数据控制者共享意愿较低；而公开的政务数据原则上是向社会公众无偿开放，为避免被不当商业化，商业共享性低，因此，即便商业数据、政务数据等公开程度高但商业共享性较低的数据，其控制者采取的防护措施较弱、获取数据的手段技术性较差，司法机关也倾向于认定获取行为违反了数据控制者的分享意愿，构成犯罪。

此外，在自行收集数据的场合，如果以“野蛮爬取”方式在短时间内大量获取数据，影响服务器正常运转，导致网站瘫痪或不能访问的结果，或因操作不当等，对计算机信息系统中存储、处理或者传输的数据和应用程序进行增删修改，后果严重的，还存在构成破坏计算机信息系统罪的刑事风险。

破坏计算机信息系统罪（《刑法》第286条）

概念		表述
基本罪状		1. 违反国家规定，对计算机信息系统功能进行删除、修改、增加、干扰，造成信息系统不能正常运行(第286条第1款)				后果严重	5年以下有期徒刑或拘役
		2. 违反国家规定，对计算机信息系统中存储、处理或传输的数据和应用程序进行删除、修改、增加的操作（第286条第2款）
		3. 故意制作、传播计算机病毒等破坏性程序，影响计算机系统正常运行（第286条第3款）
法定刑升格		后果特别严重				5年以上有期徒刑
计算机病毒等破坏性程序[18]		第1类：能够通过网络、存储介质、文件等媒介，将自身的部分、全部或变种进行复制、传播，并破坏计算机系统功能、数据或应用程序
		第2类：能够在预先设定条件下自动触发，并破坏计算机系统功能、数据或者应用程序
		第3类：其他专门设计用于破坏计算机系统功能、数据或者应用程序的程序
追诉标准[19]	第1款、第2款		1.造成10台以上计算机信息系统的主要软件或硬件不能正常运行
			2.对20台以上计算机信息系统中存储、处理或传输的数据进行删除、修改、增加操作
			3.违法所得5000元以上或造成经济损失1万元以上
			4.造成为100台以上计算机信息系统提供域名解析、身份认证、计费等基础服务或者为1万以上用户提供服务的计算机信息系统不能正常运行累计1小时以上
			5.其他后果严重的情形
	第3款		1.制作、提供、传输第1类病毒程序，导致该程序通过网络、存储介质、文件传播
			2.造成20台以上计算机系统被植入第2、3类病毒程序
			3.提供计算机病毒等破坏性程序10人次以上
			4.违法所得5000元以上或造成经济损失1万元以上
			5.其他后果严重的情形
后果特别严重[20]	第1款、第2款		1. 数量或者数额达到“后果严重”第1项至第3项规定标准5倍以上	（1）造成50台以上计算机信息系统的主要软件或者硬件不能正常运行
				（2）对100台以上计算机信息系统中存储、处理或者传输的数据进行删除、修改、增加操作的
				（3）违法所得2.5万元以上或者造成经济损失5万元以上
			2. 造成为500台以上计算机信息系统提供域名解析、身份认证、计费等基础服务或者为5万以上用户提供服务的计算机信息系统不能正常运行累计1小时以上
			3. 破坏国家机关或者金融、电信、交通、教育、医疗、能源等领域提供公共服务的计算机信息系统的功能、数据或者应用程序，致使生产、生活受到严重影响或者造成恶劣社会影响
			4. 造成其他特别严重后果
	第3款		1. 制作、提供、传输第1类病毒程序，导致该程序通过网络、存储介质、文件等媒介传播，致使生产、生活受到严重影响或造成恶劣社会影响
			2. 数量或数额达到该行为“追诉标准”第2项至第4项规定标准5倍以上		（1）造成100台以上计算机系统被植入第2、3类病毒程序
					（2）提供计算机病毒等破坏性程序50人次以上
					（3）违法所得2.5万元以上或者造成经济损失5万元以上
			3. 其他后果特别严重的情形

而在第三方采买数据的场合，如果明知是非法获取的数据而收受的，尽管存在争议，但实践中已出现认定此类行为构成掩饰、隐瞒犯罪所得的刑事案例。例如在东莞高云网络科技有限公司、田琛非法获取计算机信息系统数据、非法控制计算机信息系统案[21]中，法院认为，被告单位广州店有客网络科技有限公司明知是非法获取计算机信息系统数据犯罪所获取的数据，而予以收购，其行为已构成掩饰、隐瞒犯罪所得罪。

掩饰、隐瞒犯罪所得、犯罪所得收益罪（《刑法》第312条）

概念	表述
基本罪状	明知是犯罪所得及其产生的收益，予以窝藏、转移、收购、代为销售或者以其他方法掩饰、隐瞒	3年以下有期徒刑、拘役或管制，并处或单处罚金
法定刑升格	情节严重	3年以上7年以下有期徒刑，并处罚金
犯罪所得	通过犯罪直接得到的赃款、赃物
犯罪所得产生的收益[22]	上游犯罪的行为人对犯罪所得进行处理后得到的孳息、租金
追诉标准[23]	1年内曾因掩饰、隐瞒犯罪所得及其产生的收益行为受过行政处罚，又实施掩饰、隐瞒犯罪所得及其产生的收益行为
	掩饰、隐瞒犯罪所得系电力设备、交通设施、广播电视设施、公用电信设施、军事设施或救灾、抢险、防汛、优抚、扶贫、移民、救济款物
	掩饰、隐瞒行为致使上游犯罪无法及时查处，并造成公私财物损失无法挽回
	实施其他掩饰、隐瞒犯罪所得及其产生的收益行为，妨害司法机关对上游犯罪进行追究
	依照全国人民代表大会常务委员会《关于〈中华人民共和国刑法〉第341条、第312条的解释》，明知是非法狩猎的野生动物而收购，数量达到50只以上[24]
	司法解释对掩饰、隐瞒涉及计算机信息系统数据、计算机信息系统控制权的犯罪所得及其产生的收益行为构成犯罪已有规定的，审理此类案件依该规定[25]
	明知是非法获取计算机信息系统数据犯罪所获取的数据、非法控制计算机信息系统犯罪所获取的计算机信息系统控制权，而予以转移、收购、代为销售或以其他方法掩饰、隐瞒，违法所得5000元以上的，以掩饰、隐瞒犯罪所得罪定罪处罚[26]
情节严重[27]	掩饰、隐瞒犯罪所得及其产生的收益价值总额达10万元以上
	掩饰、隐瞒犯罪所得及其产生的收益10次以上，或3次以上且价值总额达5万元以上
	掩饰、隐瞒的犯罪所得系电力设备、交通设施、广播电视设施、公用电信设施、军事设施或者救灾、抢险、防汛、优抚、扶贫、移民、救济款物，价值总额达5万元以上
	实施其他掩饰、隐瞒行为致使上游犯罪无法及时查处，并造成公私财物重大损失无法挽回或其他严重后果
	司法解释对掩饰、隐瞒涉及机动车、计算机信息系统数据、计算机信息系统控制权的犯罪所得及其产生的收益行为认定“情节严重”已有规定的，审理此类案件依照该规定[28]
	掩饰、隐瞒盗窃、抢劫、诈骗、抢夺的机动车5辆以上或者价值总额达到50万元以上的[29]
	明知是非法获取计算机信息系统数据犯罪所获取的数据、非法控制计算机信息系统犯罪所获取的计算机信息系统控制权，而予以转移、收购、代为销售或以其他方法掩饰、隐瞒，违法所得5万元以上的[30]

二、AI应用场景及相应刑事风险

从公开检索到的数据行业刑事案例来看，相关案例涉及的数据应用场景可以分为以下两大类：

一类是对于数据的中间使用，即只利用相关数据进行分析，但最终对外提供、展示的产品或服务中，不包含个人信息等未经权利人同意授权不得提供的数据。在AI实践中，这一类应用场景多表现为数据训练。从目前的司法实践来看，如果数据属于公民个人信息、且使用行为超出授权者许可范围的，相关行为存在被认定构成侵犯公民个人信息罪的刑事风险。尽管《刑法》并未将“使用”作为侵犯公民个人信息罪的实行行为，但司法实践中，倾向于对“获取”行为作扩大解释，将未经同意的“使用”乃至“保存”行为，纳入“获取”行为的范畴。例如在被誉为网络爬虫侵犯公民个人信息第一案的魔蝎案[31]中，魔蝎公司在和个人贷款用户签订的《数据采集服务协议》中明确告知贷款用户“不会保存用户账号密码，仅在用户每次单独授权的情况下采集信息”，但未经用户许可仍采用技术手段长期保存用户各类账号和密码在自己租用的阿里云服务器上，并对部分账号密码二次使用，法院认为这种经授权收集个人信息后擅自改变使用目的行为也属于“非法获取”行为，构成侵犯公民个人信息罪。至于相关数据构成作品或录音录像制品、商业秘密的，则涉及“间接复制”“中间使用”的问题，构罪与否存在探讨空间，实践中尚无相关刑事案例，但仍不能排除构成相关犯罪的可能性。此外，如果使用的是国家秘密的，则可能涉嫌非法持有国家绝密、机密文件、资料、物品罪。

非法持有国家绝密、机密文件、资料、物品罪（《刑法》第282条第2款）

概念	表述
基本罪状	非法持有属于国家绝密、机密的文件、资料或其他物品，拒不说明来源与用途	3年以下有期徒刑、拘役或管制

另一类是对于数据的终端使用，即最终对外提供、展示的产品或服务中，包含个人信息等未经权利人同意授权不得提供的数据。从目前检索到的数据行业刑事案例来看，多数案例中数据的终端使用都较为简单，包括将数据直接出售获利或直接用于提供数据查询服务获利，甚至是仅为推广业务而无偿提供，此类数据应用行为本质上属于非法提供数据的范畴。少数案例则涉及大数据分析业务，即通过对所获取的大数据进行整合、分析等加工，用以优化软件或服务，或基于获取的数据加工制作数据分析报告等大数据产品。而在AI实践中，这一类应用场景表现为AI面向使用者输出内容，这不仅是大模型技术实践中最主要、最关键的数据应用场景，也是司法实践所关注的高风险环节。

（一）未经权利主体授权同意，AIGC包含公民个人信息、作品、录音录像制品、商业秘密乃至国家秘密的，存在构成相应犯罪的风险

1.从客观要件来看，如果未经权利人授权，最终向使用者展示的内容中包含公民个人信息、作品、录音录像制品、商业秘密乃至国家秘密的，与数据获取相同，根据相关数据的属性，可能涉嫌侵犯公民个人信息罪、侵犯著作权罪、侵犯商业秘密罪或者故意、过失泄露国家秘密罪。

故意泄露国家秘密罪、过失泄露国家秘密罪（《刑法》第398条）

概念	表述
基本罪状	国家机关工作人员违反保守国家秘密法的规定，故意或者过失泄露国家秘密，情节严重		3年以下有期徒刑或拘役
法定刑升格	情节特别严重		3年以上7年以下有期徒刑
一般主体	非国家机关工作人员犯上述罪的，依照上述的规定酌情处罚（第398条第2款）
故意泄露国家秘密[32]	国家机关工作人员或者非国家机关工作人员违反保守国家秘密法，故意使国家秘密被不应知悉者知悉，或故意使国家秘密超出了限定的接触范围，情节严重的行为
过失泄露国家秘密[33]	国家机关工作人员或非国家机关工作人员违反保守国家秘密法，过失泄露国家秘密，或遗失国家秘密载体，致使国家秘密被不应知悉者知悉或超出了限定的接触范围，情节严重的行为
追诉标准	故意泄露[34]	泄露绝密级国家秘密1项(件)以上
		泄露机密级国家秘密2项(件)以上
		泄露秘密级国家秘密3项(件)以上
		向非境外机构、组织、人员泄露国家秘密, 造成或者可能造成危害社会稳定、经济发展、国防安全或者其他严重危害后果
		通过口头、书面或者网络等方式向公众散布、传播国家秘密
		利用职权指使或者强迫他人违反国家保守秘密法的规定泄露国家秘密
		以牟取私利为目的泄露国家秘密
		其他情节严重的情形
	过失泄露[35]	泄露绝密级国家秘密1项(件)以上
		泄露机密级国家秘密3项(件)以上
		泄露秘密级国家秘密4项(件)以上
		违反保密规定，将涉及国家秘密的计算机或计算机信息系统与互联网连接，泄露国家秘密
		泄露国家秘密或遗失国家秘密载体，隐瞒不报、不如实提供有关情况或者不采取补救措施
		其他情节严重的情形

2.需特别关注的是，输入生成式AI中的数据不包含公民个人信息，但经加工后输出的内容包含公民个人信息的情形。

两高《关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》第1条规定，刑法第二百五十三条之一规定的“公民个人信息”，是指以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人身份或者反映特定自然人活动情况的各种信息。根据该规定，即便单条信息不构成公民个人信息的，只要多条信息的集合可以结合起来识别特定自然人身份或者反映特定自然人活动情况，该等信息集合也可以构成公民个人信息，从而落入刑法的规制范畴。

实践中，不乏利用非个人信息加工取得个人信息后对外提供，或利用取得合法授权的个人信息挖掘出未经授权的个人信息后对外提供，被认定构成犯罪的案例。例如，在数据堂公司侵犯公民个人信息案[36]中，数据堂公司成立营销产品线。营销产品线运营时，由资源合作部购进数据。由被告人揭宇飞所在的资源平台部负责对数据进行接收、整理、存储，将数据放入数据堂公司的大数据处理集群（以下简称“集群”），并负责数据发送系统加密和解密程序的设计。由产品组提出要求，被告人吴志浩所在的技术组根据要求，将集群上的数据根据用户的兴趣、爱好不同进行加工，分别打上不同的标签后，再放入公司集群。由销售组联系客户，客户将其数据需求发送至产品组的李志亮，产品组让技术组在公司集群中提取符合条件的数据，再由产品组利用数据发送系统自动将数据发送给客户，其中带有设备号的数据揭宇飞会通过系统自动加上SID（手机号）。法院认为，根据最高人民法院、最高人民检察院《关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》第一条规定，刑法第二百五十三条之一规定的“公民个人信息”，是指以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人身份或者反映特定自然人活动情况的各种信息，包括姓名、身份证件号码、通信通讯联系方式、住址、账号密码、财产状况、行踪轨迹等。具体到本案，本案涉案数据中含有手机号、省份、号码归属地、URL时间、APP名、APP域名，即除手机号码外，还包含手机号码属于某一可识别的限定性群体的信息，属于公民个人信息。

又如，在王小鹏、薛凯鹏、张涛等侵犯公民个人信息案[37]中，北京万界数据科技有限责任公司与江阴谦泰资产管理有限公司达成公民个人信息修复业务，由江阴谦泰资产管理有限公司提供公民个人姓名、身份证号码等个人信息，北京万界数据科技有限责任公司负责修复公民最新使用的手机号码并约定按照查询收费。最终，法院将对外提供新获取的手机号码的行为认定为非法提供公民个人信息的犯罪行为。

与传统数据业务的数据加工相比，生成式AI具有更强大的碎片化信息整合分析和数据挖掘的能力，使其可以将信息主体散落在数字空间中的碎片化个人信息进行聚合，并基于此对信息主体进行深度用户画像，挖掘出隐藏在碎片化信息背后的个人信息乃至敏感个人信息。因此，即便输入的原始数据不包含个人信息，AI技术支持者同样需要关注输出端相关内容是否包含公民个人信息。

（二）AIGC含有具有煽动、谣言性质等违反刑法规定的内容，存在构成相应犯罪的风险

AI的生成内容运行阶段为运用算法处理数据并生成内容的运算阶段，它是算法、算力和数据训练合力作用的结果，也是相当复杂的阶段。由于创新性地将机器学习和人工标注结合的数据“预训练+微调”模式引入自然语言的算法处理技术中，一旦数据的控制者基于数据垄断权力并依据某种价值偏好设定算法规则，极有可能产生“算法歧视”，导致生成内容的错误偏差甚至侵权风险。上述情况导致了现阶段生成式AI的内部风险仍处于不可控的状态，当系统在无序运行或恶性发展的情况下可能会出现自主生成违法犯罪内容的情况，这种由技术逻辑自身原因造成的风险被认为是内源性犯罪风险。

由于AI技术支持者对于生成的内容是“影响”而非“控制”，有学者认为对于生成式AI可能引发的刑事风险，可以使用原因力理论对开发者、使用者行为对生成式人工智能行为的影响进行评价，如开发者设定的算法规则与主流价值不符或使用不符合刑法规定的数据训练大模型，就对大模型生成违法犯罪内容具有原因力。[38]具体而言，AI生成违反刑法规定的内容可能包括以下情形：

1.AI可能因算法歧视或算法偏差，自动输出与客观事实不符或带有明显价值偏见的答案。当上述答案以检索结果的方式呈现时，具备了高度的外观可信性和传播迅速性优势，极易造成对公民个人信誉和组织名誉的侵害。

AI对用户指令的回应是一个动态变化的过程，它在何种知识交互场景下生成何种内容具有较强的不可控性，即使AI的设计者也无法完全预测和掌控其推理过程和输出结果，由此改变了“算法黑箱”的本质，即由以往“不同主体间对算法规则信息获取的不对称”转变为“所有主体面对人工智能的不可预知”。当语言模型所依托的训练数据被人类反馈信息所“污染”，或因研发者的规则设置与主流价值不符时，则会生成带有明显歧视性或误导性的错误信息。例如，模型的训练语料库中如果投入了大量诋毁个人名誉或商业信誉的人类反馈信息，输出结果中极有可能会带有严重片面性、误导性的信息内容，经由网络公开传播后成为社会谣言后，公民个人的隐私名誉、企业的信誉、市场的竞争秩序等均会受到一定程度的冲击，一旦情节达到法定严重程度时，可能面临构成诽谤罪，损害商业信誉、商品声誉罪，编造并传播、期货交易虚假信息罪的刑事风险。

侮辱罪、诽谤罪（《刑法》第246条）

概念	表述
基本罪状	以暴力或其他方法公然侮辱他人	情节严重		3年以下有期徒刑、拘役、管制或者剥夺政治权利
	捏造事实诽谤他人
亲告罪及例外	本罪告诉的才处理，但是严重危害社会秩序和国家利益的除外（第246条第2款）
捏造事实诽谤他人[39]	捏造损害他人名誉的事实，在信息网络上散布，或组织、指使人员在信息网络上散布
	将信息网络上涉及他人的原始信息内容篡改为损害他人名誉的事实，在信息网络上散布，或组织、指使人员在信息网络上散布
	明知是捏造损害他人名誉的事实，在信息网络上散布，情节恶劣，以“捏造事实诽谤他人”论
严重危害社会秩序和国家利益[40]	引发群体性事件		引发公共秩序混乱
	引发民族、宗教冲突		诽谤多人，造成恶劣社会影响
	损害国家形象，严重危害国家利益		造成恶劣国际影响
	其他严重危害社会秩序和国家利益的情形
网络诽谤、侮辱行为[41]	在信息网络上制造、散布谣言，贬损他人人格、损害他人名誉，情节严重，符合刑法第二百四十六条规定的，以诽谤罪定罪处罚。
	在信息网络上采取肆意谩骂、恶意诋毁、披露隐私等方式，公然侮辱他人，情节严重，符合刑法第二百四十六条规定的，以侮辱罪定罪处罚。
情节严重[42]	同一诽谤信息实际被点击、浏览次数达到5000次以上，或被转发次数达到500次以上
	造成被害人或其近亲属精神失常、自残、自杀等严重后果
	2年内曾因诽谤受过行政处罚，又诽谤他人
	其他情节严重的情形
从重处罚[43]	依法严惩网络暴力违法犯罪。对网络暴力违法犯罪，应当体现从严惩治精神，让人民群众充分感受到公平正义。坚持严格执法司法，对于网络暴力违法犯罪，依法严肃追究，切实矫正“法不责众”的错误倾向。要重点打击恶意发起者、组织者、恶意推波助澜者以及屡教不改者。实施网络暴力违法犯罪，具有右侧情形之一的，依法从重处罚			针对未成年人、残疾人实施的
				组织“水军”、“打手”或者其他人员实施的
				编造“涉性”话题侵害他人人格尊严的
				利用“深度合成”等生成式人工智能技术发布违法信息的
				网络服务提供者发起、组织的

损害商业信誉、商品声誉罪（《刑法》第221条、第231条）

概念	表述
基本罪状	捏造并散布虚伪事实，损害他人的商业信誉、商品声誉，给他人造成重大损失或有其他严重情节	2年以下有期徒刑或拘役，并处或单处罚金
追诉标准[44]	（一）给他人造成直接经济损失数额在五十万元以上的；
	（二）虽未达到上述数额标准，但造成公司、企业等单位停业、停产六个月以上，或者破产的；
	（三）其他给他人造成重大损失或者有其他严重情节的情形。
单位犯罪	对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照上述规定处罚（第231条）

编造并传播、期货交易虚假信息罪（第181条第1款、第3款）

概念	表述
基本罪状	编造并且传播影响、期货交易的虚假信息，扰乱、期货交易市场，造成严重后果	5年以下有期徒刑或拘役，并处或单处1万元以上10万元以下罚金
追诉标准[45]	（一）获利或避免损失数额累计在5万元以上
	（二）造成投资者直接经济损失数额在50万元以上
	（三）虽未达到上述数额标准，但多次编造并且传播影响、期货交易的虚假信息
	（四）致使交易价格或者交易量异常波动的；
	（五）其他造成严重后果的情形
单位犯罪	对单位判处罚金，并对直接负责主管人员和其他直接责任人员，处5年以下有期徒刑或拘役（第181条第3款）

2.以ChatGPT为代表的生成式AI大模型改变了传统AI单点检索获取知识的技术逻辑，它不再依靠系统预设程序给出既定的、可预测的答案，而是基于“类人化”的推理能力，主动思考和理解文本潜藏蕴意，根据人机交互场景的实际变化生成不同的知识内容。

AI可能会在人机交互中通过不断强化推理和创造能力脱离研发者既定的编程控制，在虚拟世界制定新的算法规则，并反作用于自然世界。这将在客观上改变知识生成秩序、影响个人价值观形成的底层逻辑，可能产生煽动型、谣言型内容。例如，美国一家名为“NewsGuard”的新闻可信度评估机构曾要求ChatGPT对已被证伪的100条虚假信息作出回应，结果显示ChatGPT认为80%的信息内容是真实的并给出明确性的误导性论证结论。大模型这种“一本正经地胡说八道”的能力削弱了权威影响力尤其是政府公信力对公民的价值引导，可能生成包含民族仇恨或意图使不特定用户实施恐怖活动的煽动性信息，对国家安全和社会秩序构成潜在威胁。若开发者设定的算法规则与主流价值不符或使用不符合刑法规定的数据开展数据训练，导致产生煽动型、谣言型内容的，情节严重时可能涉嫌刑法分则中规定的煽动分裂国家罪，煽动颠覆国家政权罪，煽动实施恐怖活动罪，煽动民族歧视、民族仇恨罪，煽动暴力抗拒法律实施罪等。

煽动分裂国家罪（《刑法》第103条第2款）

概念	表述
基本罪状	煽动分裂国家、破坏国家统一的	5年以下有期徒刑、拘役、管制或者剥夺政治权利
	首要分子或者罪行重大的	5年以上有期徒刑
刑罚裁量[46]	实施 “台独“行为，处五年以下有期徒刑、拘役、管制或者剥夺政治权利；首要分子或者罪行重大的，处五年以上有期徒刑，可以并处没收财产，与外国或者境外机构、组织、个人相勾结实施的，依照刑法第一百零六条的规定从重处罚。
宽大处理[47]	“台独”顽固分子主动放弃“台独”分裂立场，不再实施“台独”分裂活动，并采取措施减轻、消除危害后果或者防止危害扩大，符合刑事诉讼法第一百八十二条第一款规定的，可以撤销案件、不起诉或者对涉嫌数罪中的一项或多项不起诉

煽动颠覆国家政权罪（《刑法》第105条第2款）

概念

表述

基本罪状

以造谣、诽谤或者其他方式煽动颠覆国家政权、推翻社会主义制度的

5年以下有期徒刑、拘役、管制

或者剥夺政治权利

首要分子或者罪行重大

5年以上有期徒刑

煽动民族仇恨、民族歧视罪（第249条）

概念	表述
基本罪状	煽动民族仇恨、民族歧视，情节严重	3年以下有期徒刑、拘役、管制或者剥夺政治权利
法定刑升格	情节特别严重	3年以上10年以下有期徒刑

煽动暴力抗拒法律实施罪（第278条）

概念	表述
基本罪状	煽动群众暴力抗拒国家法律、行政法规实施	3年以下有期徒刑、拘役、管制或剥夺政治权利
法定刑升格	造成严重后果	3年以上7年以下有期徒刑
司法认定	煽动群众暴力抗拒烟草专卖法律实施，构成犯罪的，以煽动暴力抗拒法律实施罪处罚[48]

上述诽谤罪、损害商业信誉、商品声誉罪、煽动分裂国家罪等罪名均为故意犯罪。因此，即便AI生成内容违反刑法规定，不具有上述犯罪故意的开发者也不会构成相应犯罪。目前司法实践中也未出现因大模型生成内容而构成犯罪的案例。但若开发者设定的算法规则本身存在价值取向问题或使用不符合刑法规定的数据开展数据训练，则有被认定具有相应犯罪故意的可能。

结语

在数字化时代，AI作为推动社会进步和创新的重要力量，其在数据获取与应用环节中的合规性问题日益受到关注。通过对现有法律规范的分析和对过往案例的审视，可以看到，从数据获取的合法性，到数据加工和应用的合规性，每一个环节都可能成为刑事风险的源头。

为了有效规避这些风险，AI技术的开发者和应用者应当严格遵守法律法规，尊重知识产权和个人隐私，防止数据偏见和歧视。在数据获取环节，应确保数据来源的合法性，获取个人信息时必须得到信息主体的明确同意，在数据加工和应用环节，应采取严格的数据质量管理措施，对模型进行持续的监控和评估，确保生成内容的合规性。

[1]《两高关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》第5条第1款、第6条第2款
[2]《两高关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》第5条第2款、第6条第2款
[3]《立案标准（一）》第26条第1款
[4]《两高关于办理侵犯知识产权刑事案件解释》（2004）第5条第2款
[5]《两高关于办理侵犯知识产权刑事案件解释（二）》（2007）第1条
[6]《两高关于办理侵犯知识产权刑事案件解释》（2004）第5条第2款
[7]《两高一部关于办理侵犯知识产权刑事案件意见》（2011）十三
[8]《两高一部关于办理侵犯知识产权刑事案件意见》（2011）十
[9]《立案标准（一）》第26条第6款
[10]《两高一部关于办理侵犯知识产权刑事案件意见》（2011）十二第1款
[11]《立案标准（一）》第26条第7款
[12]《两高关于办理侵犯知识产权刑事案件具体应用法律若干问题的解释（三）》2020 第四条
[13]《两高关于办理侵犯知识产权刑事案件解释》（2004）第7条第2款
[14]《两高关于办理侵犯知识产权刑事案件具体应用法律若干问题的解释（三）》2020 第五条
[15]《两高关于办理危害计算机信息系统安全刑事案件解释》（2011）第1条第1款
[16]《两高关于办理危害计算机信息系统安全刑事案件解释》（2011）第1条第2款
[17]广东省广州市海珠区人民法院(2022)粤0105刑初795号
[18]《两高关于办理危害计算机信息系统安全刑事案件解释》（2011）第5条
[19]《两高关于办理危害计算机信息系统安全刑事案件解释》（2011）第4条第1款、第6条第1款
[20]《两高关于办理危害计算机信息系统安全刑事案件解释》（2011）第4条第2款、第6条第2款
[21] 广东省广州市海珠区人民法院（2020）粤0105刑初380号。
[22]《最高法关于审理掩饰、隐瞒犯罪所得、犯罪所得收益刑事案件适用法律若干问题的解释》（2021）第10条第1款
[23]《最高法关于审理掩饰、隐瞒犯罪所得、犯罪所得收益刑事案件适用法律若干问题的解释》（2021）第1条第1款
[24]《最高法关于审理掩饰、隐瞒犯罪所得、犯罪所得收益刑事案件适用法律若干问题的解释》（2021）第1条第4款
[25]《最高法关于审理掩饰、隐瞒犯罪所得、犯罪所得收益刑事案件适用法律若干问题的解释》（2021）第1条第3款
[26]《两高关于办理危害计算机信息系统安全刑事案件解释》（2011）第7条第1款
[27]《最高法关于审理掩饰、隐瞒犯罪所得、犯罪所得收益刑事案件适用法律若干问题的解释》（2021）第3条第1款
[28]《最高法关于审理掩饰、隐瞒犯罪所得、犯罪所得收益刑事案件适用法律若干问题的解释》（2021）第3条第2款
[29]《两高关于办理与盗窃、抢劫、诈骗、抢夺机动车相关刑事案件解释》第1条第2款
[30]《两高关于办理危害计算机信息系统安全刑事案件解释》（2011）第7条第2款
[31] 浙江省杭州市西湖区人民法院（2020）浙0106刑初437号刑事判决书。
[32]《最高检关于渎职侵权犯罪案件立案标准的规定》（2006）（三）第1款
[33]《最高检关于渎职侵权犯罪案件立案标准的规定》（2006）（四）第1款
[34]《最高检关于渎职侵权犯罪案件立案标准的规定》（2006）（三）第2款
[35]《最高检关于渎职侵权犯罪案件立案标准的规定》（2006）（四）第2款
[36]山东省临沂市中级人民法院(2018)鲁13刑终549号。
[37]浙江省平湖市人民法院(2019)浙0482刑初458号。
[38]陈伟：《深研原因力理论理性应对人工智能带来的刑事风险》，载检察日报2023年6月1日第3版。
[39]《两高关于办理利用信息网络实施诽谤等刑事案件解释》（2013）第1条
[40]《两高关于办理利用信息网络实施诽谤等刑事案件解释》（2013）第3条
[41] 《两高一部关于依法惩治网络暴力违法犯罪的指导意见》（2023）第2、3条
[42]《两高关于办理利用信息网络实施诽谤等刑事案件解释》（2013）第2条
[43]《两高一部关于依法惩治网络暴力违法犯罪的指导意见》（2023）第8条
[44]《立案标准（二）》（2022）第66条
[45]《立案标准（二）》（2022）第32条
[46]两高三部《关于依法惩治“台独”顽固分子分裂国家、煽动分裂国家犯罪的意见》（2024）第9，10，11条
[47]两高三部《关于依法惩治“台独”顽固分子分裂国家、煽动分裂国家犯罪的意见》（2024）第15条
[48]《两高关于办理非法生产、销售烟草专卖品等刑事案件解释》（2010）第8条第2款

Services

Partners

Bin LI

Partner | Beijing

k8·凯发天生赢家·一触即发(中国区)官方网站

一、AI数据收集的刑事风险

二、AI应用场景及相应刑事风险

结语

一、AI数据收集的刑事风险

二、AI应用场景及相应刑事风险