理解人机智能 倡导“智能向善”

◎刘 伟

1997年电脑“深蓝”战胜世界棋王卡斯帕罗夫，智能向善掀起了人工智能的理解研究热潮。但在现有数学体系和软硬件的人机设计模式基础之上，人工智能在智能水平和能力范围上与人类智能相比仍存在极大差距。倡导究其原因，智能向善人类智能和人工智能之间还存在无法跨越的理解界限，人工智能是人机逻辑的，人类智能却未必是倡导逻辑的。依赖于“符号指向对象”的智能向善机器只能在封闭环境进行形式化计算，人类却可以实现开放环境中的理解意向性算计。在这种背景下，人机实现人机优势互补、倡导倡导“智能向善”显得尤为重要。智能向善

人工智能的理解瓶颈：用逻辑手段解决非逻辑问题

哲学家休谟曾说：“一切科学都与人性有关，对人性的人机研究应是一切科学的基础。”任何科学都或多或少与人性有些关系，无论学科看似与人性相隔多远，它们最终都会以某种途径再次回归到人性中。从这个角度来看，人工智能“合乎伦理的设计”很可能是黄粱一梦。伦理对人而言还是一个很难遵守的复杂体系，对机器而言则更加难以理解。在人工智能领域，“合乎伦理的设计”或许是科幻成分多于科学成分、想象成分多于真实成分。

当前的人工智能及未来的智能科学研究具有两个致命的缺点，即“把数学等同于逻辑”和“把符号与对象混淆”。人机混合的难点和瓶颈也因此在于（符号）表征的非符号性（可变性）、（逻辑）推理的非逻辑性（非真实性）和（客观）决策的非客观性（主观性）。

真正智能领域的瓶颈和难点之一是人机环境系统失调问题，具体体现在跨域协同中的“跨”与“协”如何有效实现的问题，这不仅关系到解决各种辅助决策系统中“有态无势”（甚至是“无态无势”）的不足，还涉及到许多辅助决策体系“低效失能”的朔源。也许需要尝试把认知域、物理域、信息域构成的基础理论域与陆海空天电网构成的技术域有机地结合起来，为真实有效地实现跨域协同打下基础。

如何理解和研究智能问题？

智能是一个非常辽阔的空间，它可以随时打开异质的集合，把客观的逻辑与主观的超逻辑结合起来。智能不是人脑（或类脑）的产物，也不是人自身的产物，而是人、物、环境系统相互作用的产物。正如马克思所言：“人的本质不是单个人所固有的抽象物，在其现实性上，它是一切社会关系的总和”，事实上，真实的智能同样也蕴含着人、物、环境这3种成分，随着科技的快速发展，其中的“物”却也逐渐被人造物——“机”所取代，简称为人机环境系统。

研究智能这样的复杂问题是困难的，但把它分解成人机环境系统问题就相对简单一些。人要解决的是“做正确的事（杂）”，机要解决的是“正确地做事（复）”，环境所要解决的是“提供做事平台（复杂）”。正如郭雷院士所言：“复杂性和智能化是系统科学发展的两个永恒主题。复杂性主要体现的是系统科学认识世界的一面，而智能化主要体现的是系统科学改造世界的一面。”所以，未来各国在人工智能领域角力的焦点不仅仅是人、机、环境每一或所有单项人工智能的领先优势，更重要的是人、机、环境系统混合智能的整合。

在真实的人—机—环境系统交互领域中，人的情景意识、机器的物理情景意识、环境的地理情景意识等往往同构于统一时空中，在人的行为环境与机的物理环境、地理环境相互作用过程中，人的情景意识、行为特征并非由人的元素单独决定，而是取决于人—机—环境系统整体，在充满变数的人—机—环境交互系统中，存在的逻辑不是主客观的必然性和确定性，而是与各种可能性保持互动的同步性，是一种得“意”忘“形”的见招拆招和随机应变能力，而这种思维和能力恰恰是人工智能所欠缺的地方。

人机混合智能是未来发展方向

未来数字世界中，人与机器如何分工？人与机器的边界又将如何划分呢？

实际上，当前人机关系主要是功能分配，人把握主要方向，机处理精细过程，而未来的人机关系可能是某种能力的分工，机也可以把握某些不关键的方向，人也可以处理某些缜密的过程。人机的边界在于“应”和“变”，即如何实现适时的“弥”（散）与“聚”（焦）、“跨”（域）与“协”（同）、“反”（思）与“创”（造）。

人机智能是人—机—环境系统相互作用而产生的新型智能系统。其与人类智能、人工智能的差异具体表现在3个方面：首先，在混合智能输入端，它把设备传感器客观采集的数据与人主观感知到的信息结合起来，形成一种新的输入方式；其次，在智能的数据/信息中间处理过程，机器数据计算与人的信息认知相混合，构建起一种独特的理解途径；最后，在智能输出端，它将结果与人的价值决策相匹配，形成概率化与规则化有机协调的优化判断。人机混合智能是一种广义上的“群体”智能形式，这里的人不仅包括个人，还包括众人，机不仅包括机器装备，还涉及机制机理；此外，还关联自然/社会环境、真实/虚拟环境、网络/电磁环境等。

人机混合智能也存在着一个难题，即机器的自主程度越高，人类对态势的感知程度越低，人机之间接管任务顺畅的难度也越大。有经验的人常常抓关键任务中的薄弱环节，在危险情境中提高警觉性和注意力，以防意外，随时准备接管机器自动化操作，也可以此训练新手，进而形成真实敏锐地把握事故的兆头苗头、恰当地把握处理时机、准确地随机应变能力，并在实践中不断磨砺训练增强。即便如此，如何在非典型、非意外情境中解决人机交互难题仍需要进一步探讨。

人机混合智能是人工智能发展的必经之路，其中既需要新的理论方法，也需要对人、机、环境之间的关系进行新的探索。随着人工智能的热度不断加大，越来越多的产品走进人们的生活之中。但是，强人工智能依然没有实现，如何将人的算计智能迁移到机器中去，这是一个必然要解决的问题。我们已经从认知角度构建认知模型或者从意识的角度构建计算—算计模型，这都是对人的认知思维的尝试性理解和模拟，期望实现人的算计能力。计算—算计模型的研究不仅需要考虑机器技术的飞速发展，还要考虑交互主体即人的思维和认知方式，让机器与人各司其职，互相混合促进，这才是人机混合智能的前景和趋势。

引领伦理治理，倡导“智能向善”

科技向善对西方而言是个有问题的提法，科技是物质世界的客观存在，向善则是伦理道德的必然要求，从客观存在能否推出必然要

科技本身没有对错善恶之分，能利人利己，也能害人害己；而设计、开发、使用、管理、维护、运行的人会有对错善恶混合之分，科技向善本质是指“人”的向善。故在监管上需要坚持伦理先行的理念，建立并完善人工智能伦理问责机制，明确人工智能主体的责任和权利边界；在研发上需要确保先进科技手段始终处于负责可靠的人类控制之下，预防数据算法偏见产生，使研发流程可控、可监督、可信赖；在使用上需要确保个人隐私和数据安全，预先设立应急机制和兜底措施，对使用人员进行必要培训等。

党的二十大报告提出，中国积极参与全球治理体系改革和建设，践行共商共建共享的全球治理观，坚持真正的多边主义，推进国际关系民主化，推动全球治理朝着更加公正合理的方向发展。作为人工智能领域的先驱者之一，中国正在用实际行动为人工智能全球治理体系注入东方智慧，展现了大国形象和担当。2021年9月，中国国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，强调应将伦理融入人工智能全生命周期，并针对人工智能管理、研发、供应、使用等活动提出了6项基本伦理要求和4个方面的特定伦理规范。今年3月，中国发布《关于加强科技伦理治理的意见》，提出应加快完善科技伦理体系，提升科技伦理治理能力，有效防控科技伦理风险，不断推动科技向善、造福人类，实现高水平科技自立自强。近日，中国向联合国提交《关于加强人工智能伦理治理的立场文件》，从构建人类命运共同体的高度，系统梳理了近年来中国在人工智能伦理治理方面的政策实践，积极倡导“以人为本”“智能向善”理念，为各国破解人工智能发展难题提供了具体解决思路，值得国际社会高度重视与深入研究。

（作者系北京邮电大学人机交互与认知工程实验室主任）

(责任编辑：焦点)