自主学习型算法共谋的事前预防与监管*
作者：王健 吴宗泽 2021-08-30 15:51 新传播 【字号：大 中 小】
近年基于人工智能技术的自主学习型算法在信息推荐、动态定价情境下显现出如价格歧视、性别歧视等异常，逐渐引发学界对自主学习型算法问题的担忧。囿于自主学习型算法的不透明性及行为隐蔽性，往往难以在反垄断执法、司法层面对其予以及时、有效规制。因而须依据自主学习型算法自身特点构筑起合法、有效的事前管控路径，从技术监管、数据控制、算法审核等层面对自主学习型算法加以规制，及时遏止自主学习型算法共谋不当影响的出现和扩张。
2.“黑箱”测试 沿着前述算法透明化的思路，可以考虑由反垄断执法机构牵头设立算法测试、评估平台，要求自主学习型算法的设计者或使用者在实际使用前进行强制性的“黑箱”测试。在设计“黑箱测试”时可以采取对抗的形式去测试、识别出一些具有反竞争效果的算法特性，并将其作为禁止子集的一部分。即便未识别出具有反竞争效果的特性，也可以对是否存在人为修改、人为控制等运行机制进行识别。若算法具有以人为操作触发共谋的倾向，则很大程度上意味着共谋合意的存在。反垄断执法机构也可通过内设或聘请的专家协助其审查自主学习型算法的细节部分。如此前美国司法部在调查亚马逊（Amazon）等在线平台时，就曾聘请反垄断诉讼律师Ryan Shores协助审查。[23]但即便排除技术层面的因素，目前“黑箱测试”可能尚不具有可实施性。一是从《著作权法》看，不属于该法第22条所列合理使用情形的“黑箱测试”是否会构成侵权？二是由于测试算法同样不具有透明性，“黑箱测试”又是否会造成行政权力的不当扩张？[24]三是算法版本迭代变更时，是否均需要进行“黑箱测试”？经营者在“黑箱测试”缺乏相关法律规定的情况下，往往会以商业秘密作为抗辩。因此在建立“黑箱测试”机制前可参考如《最高人民法院关于审理不正当竞争民事案件应用法律若干问题的解释》中有关反向工程的条款，基于正当性对“黑箱测试”予以一定豁免。与此同时还应对算法披露的流程、方式进行相应约束，防止因算法内容不当泄露而造成对商业秘密、社会秩序的侵害。
除前述提到两类行政层面的主动审核外，还应当完善行业协会、消费者层面的监督制度。如行业协会可牵头举办类似Pwn2Own、WCTF等赛事，以鼓励公众在现实条件下（即模拟现实条件而无需算法公开）参与算法的监督和完善过程。
[23]Delrahim Makan: Data key to antitrust in digital markets, Global Competition Review Website[2019-11-11], <https://globalcompetitionreview.com/article/1210763/delrahim-data-key-to-antitrust-in-digital-markets>，最后访问时间2019年11月13日.
[24]万勇：《人工智能时代的版权法通知—移除制度》，《中外法学》，2019年第5期。
c4d032d1-1359-488d-9493-075c1cede8f9.jpg)