[45] 同前注[1]，习近平书，第204页。
在用户与生成型人工智能明文互动的情况下，如何通过技术加强对用户行为的合法性约束，是下一步技术开发和制度设计应认真对待的问题。这一技术是深度合成的拟人化应用，其商业落地路径较清晰。
对于一个调整范围广泛、潜在的变革性立法框架来说，过于宽泛和固定的人工智能立法并不适当。深度合成生成的照片、视频，使得未发生的事情有了逼真的具体场景。除此之外，在一些行业场景下，数据产生与处理的规则也应相应区分。2022年5月《人工智能法案》第4a－4c的修正案成了监管生成型人工智能的核心条款。三是在用户层面进一步细化管理。
另一方面，数据资源的分布并不均衡，如英语语言产生的数据远多于其他语种产生的数据，而这些数据无法给预训练大模型提供机器学习的足够养料，因而小语种的生成型人工智能输出质量相对较低。即使是针对人工智能深度合成的专门治理，也以传统人工智能为主，而非以大型生成性人工智能模型（LGAIMs）为主要治理对象。[37]林均跃：《社会信用体系原理》，中国方正出版社2003年版，第73—80页。
[38]Mikella Hurley Julius Adebayo, Credit Scoring in the Era of Big Data,18 Yale Journal of Law and Technology 148,151(2016). [39]关于社会性制裁，参见[日]佐伯仁志：《制裁论》，丁胜明译，北京大学出版社2018年版，第6页。难以解释其他行政机关与市场主体参与联合惩戒的合法性、动力问题。换言之，信用对于资源配置至关重要，讲信用才具有了道德规范层面的意义。这也是《纲要》将政府自身纳入其规范范围，使执法者本身也受到监督的应有之义。
[2]在修订行政处罚法的过程中，全国人大常委会部分委员也如此建议。故此，仅仅从客观效果出发将市场主体的失信惩戒理解为提高失信主体交易成本，无法解释市场主体参与失信惩戒的动力，进而难以作出针对性设计以促成联合惩戒机制。
[31]信用评分需要计算的是交易对方给特定商业交易带来的特定风险等级。二是何以将违法定性为失信进而施加公法制裁的难题。[58]拉里·卡塔·巴克尔（Larry Catá Backer）更是明确指出，随着新的数字技术日益弥漫、支配经济生产乃至相应的上层建筑，一种全新的数据驱动的治理机制会取代过往的法律机制：在这个新世界中，旧式的法律、国家和秩序可能会有一席之地，但它必然会让路给以测量、评估和激励为基本意识形态的制度体系。[17]如有学者认为，如果将违法行为人的相关信息在特定范围内予以公布，将其行为纳入社会诚信体系记录中，让了解相关信息的单位或者个体对该行为人的信誉产生质疑，那么该行为人必然会对这样的处罚有所畏惧。
[86]Alex Griffiths, The Practical Challenges of Implementing Algorithmic Regulation for Public Services, in Algorithmic Regulation 154-158(Karen Yeung Martin Lodge eds., Oxford University Press 2019). [87]Frederick Schauer, Transparency in Three Dimensions,4 University of Illinois Law Review 1339,1351(2011). [88]刘东亮：《新一代法律智能系统的逻辑推理和论证说理》，载《中国法学》2022年第3期，第161—162页。按照行政处罚的思路，加强监管措施、限制给付类措施与不面向社会公开的黑名单不属于行政处罚，而其他的失信惩戒措施都属于行政处罚。算法行政不可避免，我们所要做的是建构更为科学的算法，而不是将算法拒之门外。面对基于数字化权力的失信惩戒，不仅需要建立个体信息权益制度，更需要国家建立强大的数字能力规制算法权力。
[70]参见《美国公平信用报告法》（FCAR）第1681条a款。这种按风险大小分配资源的基于风险的规制（risk-based regulation），可以让行政机关实施有的放矢松紧有度的干预，在最大化监管收益的同时最小化被监管方的负担，[57]精准实现执法资源配置的优化与治理的优化。
在大数据时代，预测算法是通过分析大数据来揭示（人、环境或活动）各种特征与期望的或不期望的结果之间的相关性……具有最佳匹配性的相关性设定将被建模，这种模型能够在给出相关联的事实后确定将来这一事件的大概走势及发生的可能性。其二，由国家基于个人信息权益的保护义务规制信用算法及相应失信惩戒。
[54]何荣功：《预防刑法的扩张及其限度》，载《法学研究》2017年第4期，第145页。其四，割裂失信惩戒与信用修复。在大数据与人工智能的辅助下，行政机关可以在社会问题还未达到明显、重大、突出之时就迅速预测出来，并根据相对人违法风险的等级与危害程度，有针对性地配置执法资源消除、隔离违法风险，而不是在违法之后再制裁。[18]即与实施网暴的轻松和低成本相比，受害者遭受的羞辱不成比例地严重。另一方面，道德化和交易风险的管控需求不协调。之所以不一律采取不予交易之举而是视情况采取不同的风险管控措施，是因为出让方需要平衡交易安全与交易机会，不能因噎废食地为了绝对的安全而排除一切蕴含着风险的交易机会。
归根结底，为了平衡社会大众的自主交易需要与安全交易需要，行政机关需要采取不同的失信惩戒来管控风险：适用提高检查频次、适用审慎检查程序等强化监管措施而不是适用简易审查或是告知承诺制程序等失信惩戒，是为了避免、预防相对人因为监管资源配置不到位、脱离监管视线而违法。[82] 最后，风险管控原则意味着信用算法应当确保惩戒手段与风险的匹配性，即惩戒手段必须是能够管控该风险且是对相对人限制最小的。
[55]大数据的核心就在于预测，数据越多，预测就越准确，[56]其与基于大量数据而预测、应对失信风险的失信惩戒具有天然的亲和性。而行政处罚思路在这方面也有碍于这一目的的实现。
其一，以行政行为合法性为中心的依法行政机制无法有效规范失信惩戒行为。[34]See Scott R. Peppet, Unraveling Privacy: The Personal Prospectus and the Threat of a Full-Disclosure Future,105 Northwestern University Law Review 1153,1168(2011). [35]See W.N. Hohfeld, Fundamental Legal Conceptions as Applied in Judicial Reasoning 39-50(Walter Wheeler Cook ed., Yale University Press 1919). [36]参见《南京市社会信用条例》第20条第3款。
第二，如果交易风险切实存在，那么公共机关就需要根据风险的大小与失信行为的社会危害度分级实施失信惩戒。正如有论者指出：个人职业信用也是经济信用的一部分，如果不对金融从业者、中介机构从业者等重点职业人群以及欺诈等恶劣职务违法违约行为进行权威的、经过反复检验的披露，那么政府、企业与公众均没有可靠标准和有效信号来防范市场交易风险。一方面，在面向社会公布黑名单的情况下，相对人很可能陷入网暴式困境，[18]因一个违法或违约行为而承受难以计数、难以觉察的失信惩戒，行为的失范性与后果的严重性难保相称。上述困境源于现行信用立法与学理将违法与违约视为失信，将失信上升为法律上的失范，进而将失信惩戒视为制裁、矫正失范行为的法律制裁。
See Kristine L. Gallardo, Taming the Internet Pitchfork Mob: Online Public Shaming, the Viral Media Age, and the Communications Decency Act,19(3) Vanderbilt Journal of Entertainment Technology Law 721,729(2017). [19]王贵松：《论行政处罚的制裁性》，载《法商研究》2020年第5期，第27页。[46]王伟等：《企业信息公示与信用监管机制比较研究：域外经验与中国实践》，法律出版社2020年版，第21页。
信用算法 自2014年国务院出台《社会信用体系建设规划纲要（2014—2020年）》（国发〔2014〕21号）（以下简称《纲要》）以来，失信惩戒在社会治理领域迅速扩张。[52]也就是说，市场主体不仅通过失信惩戒规训参与资源配置的主体，使其不敢、不能失信，还会提供各种信用信息便于包括行政机关在内的资源配置主体实施惩戒。
[75]正如有论者指出的，一个人偿还贷款的相对能力可能取决于多种因素，而一个更细致的、能整合更广泛的数据的模型，至少可以解决包容性不足的问题。其认识论与方法论的错误根源在于从道德与规范的角度来界定失信，混同信用与诚实守信，从而导致失信惩戒制度建构上的根本性方向偏差。
在大数据时代，失信惩戒法治化框架之建构当以信用算法的规制为中心，以风险管控原则统领信用算法，以个人信息权益与相应国家保障义务为具体抓手。限于主旨与篇幅，本文要全面展开这样一个命题难免挂一漏万。[96]这就留下了现实与算法结论之间不一致的可能性。为此，行政机关必须尽可能与市场主体联合共治，以避免单兵作战的困境
如此强烈的反差，将给我们带来什么样的启示呢？文革后，邓小平果断地中止了阶级斗争为纲，为地富反坏右摘帽，迎来了社会主义的春天。这时就需要一个强大的力量来制止、防范、消除这些恶的对立，这个强大的力量就是权力，就是国家。
[11]同样认为国家或权力的出现是为了治理这些社会混乱。法出于礼，礼生于治，治、礼，道也。
人类早期在共同体内部的和谐关系是有定评的，人们共同生活，共同生产，主要的对立面是大自然，共同体内部因血缘关系和生活生产的同一性而和睦相处。然而，文明历史所展现给我们的却是富者田连阡陌，贫者亡立锥之地，贫者愈贫，富者愈富。
还没有评论，来说两句吧...