以有力监管对抗不公平算法偏见
观点热搜
◎李彦文
习近平总书记在中共中央政治局第三十四次集体学习时强调指出，要规范数字经济发展，坚持促进发展和监管规范两手抓、两手都要硬，在发展中规范、在规范中发展。
近年来，随着互联网经济快速发展，一些大型平台企业如雨后春笋般发展壮大，它们借助大数据、人工智能等现代信息手段，业务遍及网络购物、交通出行、旅游住宿、订餐外卖、网络游戏等。然而，平台企业在提供产品或服务的同时，也暴露出一些不容忽视的问题：有的通过大数据杀熟；有的通过网络直播推送违反法律规定的内容；有的刷好评隐差评......
许多企业需要利用人工智能辅助决策，依靠算法开展“经营诊断”，获得决策信息、确定经营策略，保持竞争优势。但算法的本质是互联网的一种编程技术，需要人来参与，既然是人在操作，难免存在主观色彩，造成不公。
例如，部分西方媒体报道，美国医疗保健风险预测工具被发现具有严重的种族偏见；苹果公司的信用卡算法，存在歧视女性的明显问题......可以说，数字经济时代，消费者在看不见摸不到的算法面前，成为“弱势群体”，权益亟待保障。
若任由不公平的算法无序发展，既会破坏公平竞争的市场环境，又会使消费者成为技术欺凌的对象，从根本上影响数字经济的发展。因此必须严格监管，切实解决算法不公的问题，可以从以下几方面采取措施。
第一，加强监管顶层设计。习近平总书记指出，要健全市场准入制度、公平竞争审查制度、公平竞争监管制度，建立全方位、多层次、立体化监管体系，实现事前事中事后全链条全领域监管。对于算法的规制，不管是事前监管还是事中、事后监管，不管是否进行伦理审查，都要坚持从严，实现监管全覆盖。要建立分层分类监管机制，加强对算法应用的分级标识和分类管理。对不同的算法，确定不同的监管等级和尺度，对涉及公共利益、生命健康、财产权利等的算法，必须强化监管。要严格目标规制，对监管目标严格监控。要加强伦理审查，对涉及价值观、道德观，特别是未成年人教育的算法，必须严格审查，坚决扫除不公平的土壤。要加强典型案例建设，围绕群众关注的侵害消费者权益的“二选一”、大数据杀熟等问题，列出一批典型案例，提高社会知晓率。
第二，加强相关法律制度建设。习近平总书记指出，要完善数字经济治理体系，健全法律法规和政策制度，提高我国数字经济治理体系和治理能力现代化水平。要加强算法领域的立法建设，尽快出台有关法规，填补相关法律空白。司法机关要加强对算法应用案件的研究，尽快出台有关司法解释，通过判例强化对消费者权益的保护。要建立算法投诉应诉机制，全面保障社会各界的投诉、监督权。要加快培育一批技术鉴定机构，强化技术审核力量。
第三，加强反制措施的算法研究。针对有垄断行为企业加强监管，“用算法针对算法”，从技术上破解不公平问题产生的根源。引导平台企业加大投入，深化开展算法研究，推出有价值的成果，破解技术不公，重塑市场竞争机制。对于可能产生侵害消费者权益的算法，要采取措施积极预防，把隐患化解在萌芽状态；对已经发生的不公平算法，要积极研究应对的新技术、新手段，一时解决不了的，就先停止平台相关业务运营。针对大数据杀熟、价格歧视类的问题，必须采取果断措施，坚决取消。
第四，加强规制机构建设。政府有关部门可以考虑设立专门机构，负责算法应用伦理、规则、标准制定，对不公平算法及时开展调查、处理，加强对算法应用的有效监管，确保经营者使用的算法可知、可查、可逆，一旦发生争议，能够向司法机关、第三方机构提供数据和相关资料，做到算法应用的可验证、可解释；要完善算法实施方的举证责任，彻底解决消费者举证难、鉴定难的问题，有关部门要加强协调，细化监管职责，实现分工合作、相互配合；要提高监管技术和手段，把监管和治理贯穿创新、生产、经营、投资全过程。
（作者系山东社会科学院副研究员）