“公安大脑”的算法法治要义
【清廉网】“公安大脑”是我国公安工作迈入21世纪后,随着现代信息技术的发展,运用大数据、云计算、人工智能等科学技术手段赋能警务工作,通过搭建统一服务平台,开发智慧应用系统,应用于公安行政执法和刑事司法工作的智慧神经中枢。“公安大脑”建设是推动公安工作质量变革、效率变革、动力变革的重要平台,是实现公安工作“整体智治、高效协同”的必由之路,创建的形式载体是创新工作机制进行制度重塑、流程再造,本质是进行警务体制革命,实现从被动警务向主动警务模式转变,向科技要警力,积极探索总结警务实践规律,经由“公安大脑”的算法提炼,实现智慧警务,主动开展打、防、管、控、治等工作,而“公安大脑”建设的核心关键要素是算法的开发应用,算法是实现智慧警务的“芯片”与灵魂,它一方面连着公安执法,一方面连接人工智能,因此,如何把公安工作规律通过算法转化为人工智能是现在各地公安机关开展智慧警务的核心任务,也是“公安大脑”建设质量的重要评判标准。
一是要筑牢执法数据基础。“公安大脑”的算法数据来源于公安工作的执法实践,公安基础工作开展的越充分,获得的数据源越可靠、越广泛,算法的开发就越科学、务实,因为它是“公安大脑”算法开发的不竭动力与源泉。如果离开鲜活的公安工作实践,算法的开发只会是实验室的产物,不能够正确指导公安工作实践。因此,要善于从日常公安工作中总结金点子,提炼出有规律性的数据,通过让冰冷的数据说话,总结出算法。
二是要依法开发应用算法。算法的开发不是无界限,它要遵从警务客观规律,遵守现有的法律法规并有序开发,特别是要严格遵守我国现有的《网络安全法》《数据安全法》《个人信息保护法》等法律法规,算法的开发应用不能随意侵犯个人隐私和公共利益,要严格遵守合法正当必要原则。对于为了保护公共安全需要侵犯公众相关利益的,必须要有明确的法律授权。
三是要可解释的开发应用算法。在利用人工智能开展智慧警务工作当中,可能会存在由于算法数据获取的不完整性或算法误差,导致算法歧视、过度使用等问题,侵害了相关的个人权益,引发侵权损害赔偿问题。那么由何种主体来承担责任,这里就涉及到对智慧警务运用的算法解释权问题。如产生了算法结果是否与现有执法依据相吻合?算法应用结果是否与执法目的相关联?是否存在地域、性别、前科等情况歧视,如果当事人对这种算法提出疑问,能否为这种算法解释提供出一个合理的理由,从而保证执法行为的合法合理。因为人工智能所应用的算法是依靠机器来完成的,机器不会说话,也无法对算法应用的执法结果有判别能力,只有对应用的算法在可解释的前提下才能保证执法安全。“公安大脑”对警务活动所输入的数据、指令等有算法反应,但是对算法造成的侵权或损害无认识,因此在算法的开发应用中,对算法的解释所依据的数据要保证其客观性、合法性、关联性,即以其内在逻辑关联性来评估“公安大脑”的算法安全性。
四是要坚持算法适用的效率原则。习近平总书记指出:“坚持统筹发展和安全,通过发展提升国家安全实力,努力实现高水平发展和高水平安全的良性互动和动态平衡。”“公安大脑”是实现高水平安全的重要载体,以算法为核心的人工智能是现代科学技术高水平发展的重要标志之一,人工智能是人类把现代科学技术应用于工作实践并进行二次加工的产物,而算法是实现人工智能并体现事物客观规律的“传感器”,能否及时发现并掌握事物发展规律是算法是否优良和理性的重要象征。“公安大脑”依靠有限的警力资源并借助人工智能实现公安权力价值的极大化,同时因“公安大脑”是实现各种资源配置最佳配置和利用的有效载体,因此在资源配置中应当优先注重效率价值,同时要兼顾公平价值,特别是当某一时期社会治安问题突出时,解决该问题成为一种主导的公安工作需要时,应当通过人工智能、算法应用让有限的警务资源发挥其高效率的运作状态,评判“公安大脑”及其算法是否高效率,标准是“是否使越来越多的人改善境况而同时没有人因此境况而变坏”。同时,在算法的开发和应用中应兼顾公平价值实现,由于受主客观条件限制,对某社会治安问题治理过程中,在坚持效率优先的同时,势必在一定程度上影响公平正义,遇到此种情况,应当兼顾效率与公平价值的均衡与和谐,尽量扩大它们之间的适应性,缩小它们之间的矛盾冲突,以高水平发展的科学技术推动实现高水平的安全秩序,努力实现高层次的公平正义,从而保持螺旋式上升与推进状态。
习近平总书记指出:“要学习掌握事物矛盾运动的基本原理,不断强化问题意识,抓住关键问题、难点问题,牵一发而动全身的深层次问题。”“公安大脑”建设中的算法法治问题,要以现代警务工作实践的客观规律为基础,以人民群众反映强烈的社会治安问题为重要突破口,准确把握事物发展的矛盾及其运动规律,科学的开发应用算法,特别是要精准研发出一招制敌的关键核心算法,科学分析社会治安问题所产生的实质根源,挖掘问题产生的深层次矛盾和内在机理,结合公安工作实际,以民意为导向,科学算法、精准算法、依法算法,不断推动“公安大脑”算法的迭代升级,不断解决新形势下公安工作问题,不断提升人民群众获得感、幸福感、安全感,推进公安工作治理体系和治理能力现代化。
(作者简介:周秀银,西安交通大学法学院博士研究生,浙江省公安厅特约研究员、公职律师、禁毒总队一级警长,主要研究方向为禁毒学、刑法学、行政法学。)