近年来，情感计算技术越来越多地走进公众的日常生活。实践中，情感计算已经在我国教育、交通、医疗、执法等多个领域投入应用。该技术在我国的迅猛发展态势引发了多个域外研究机构的关注，其中不乏尖锐的批评之声。相较迅猛发展实践而言，我国法律界对于这一技术的关注尚不充分。对此，东南大学法学院王禄生教授在《情感计算的应用困境及其法律规制》一文中，对情感计算的技术逻辑、实践应用、现实困境和法律规制等重要方面展开了专门探讨。

一、情感计算的技术逻辑

（一）情感计算的概念厘清

一般认为，情感计算指与情绪或其他情感现象有关的、产生于或有意影响情绪或其他情感现象的计算，其概念宽泛，包括任何与个人情绪、心情状态相关的计算机程序。从这个意义上说，“情绪识别”是“情感计算”的有机组成部分。随着人工智能技术的发展，情感计算日益与AI结合。虽然按照严格的标准，情感计算并不必然采用人工智能的路径，但在人工智能泛在和泛化的发展趋势之下，情感计算通常被视作一种人工智能技术。近年来对情感计算技术的诸多批评也主要集中在人工智能的技术框架内（如人脸识别）。因此，在人工智能的视域下，情感计算技术意指感知、识别、模拟、影响人类情感状态的各类智能技术的统称。

（二）情感计算的技术路径

情感计算在技术逻辑上与人工智能技术紧密绑定，大致可以分为感知、识别、模拟、影响四个环节。详见下图。

二、情感计算的应用观察

情感计算的主流应用有两类：其一是情感计算的结果作用于被识别者本人，通过改变其情感状态而治疗疾病、提高体验；其二是情感计算的结果作用于被识别者之外的第三人，提供各类决策辅助。当前，情感计算技术正在被迅速商业化并在医疗、教育、商业、就业、执法等领域获得应用，详见下表。

三、情感计算应用的多维困境

（一）情感计算应用的法律问题

情感计算的应用会对公民基本权利造成不成比例的风险。首先，情感计算技术的应用将直接与个人信息的诸多权能形成冲突。一方面，情感计算技术的研究与应用需要借助大量信息，尤其是生物识别信息。如果这类基础信息可以单独或者结合其他信息与个人身份关联，则符合我国现行法律规范中的“个人信息”。另一方面，情感信息如果与特定个人身份相关联，则仍然构成“个人信息”。此时，相关应用在收集和处理上述信息时可能与个人信息保护的相关规范形成直接冲突。

其次，情感计算的应用还可能对个人隐私权形成直接的侵犯。情感信息尤其是个人不愿意外露的情感带有敏感和私密的性质。情感计算技术的引入具有极强的“侵入性”，大大超出了公众在公开场合期望保持个人情感隐私的预期。对于情感隐私的侵入性获取如果没有获得权利人的明确同意，则具有侵权的可能。

再次，情感计算的应用还可能间接地对人身自由产生负面影响。情感计算应用的重要假设是可以推断内心的真实情感，人们可能会为了避免让自己的情感被定义为“危险”“可疑”“注意力不集中”而被迫作出符合“良好”情感标签的生理表达。如果情感计算能够准确识别并呈现每个人实时的情绪，那将很可能给公众带来不必要的压力，让人处于时刻在监控之下的恐惧之中。

最后，情感计算的部分应用还与人格尊严、平等保护等形成冲突。例如，在智慧招聘和智慧课堂推行过程中，通过情感计算，将受聘人群划分为“高情绪控制力”和“低情绪控制力”，把学生区分为“精力集中”“精力不集中”，这种带有价值导向的分类无疑对人格尊严形成侵犯。更为重要的是，相关情感计算应用实质上需要根据计算结果对不同分类的人群采取差异化、个性化的策略，可能对特定人群形成歧视。

（二）情感计算应用的伦理冲突

其一，基础伦理学高度重视人类情感，影响情感的情感计算技术被认为会影响人的道德标准及自由意志。情感是我们成为道德人的核心，情感计算应用在影响了情感的同时也就影响了人类的道德标准。道德的基石是根据理智原则来行使自由意志，情感计算可能影响情感进而影响自由意志，在这个角度上看，情感计算影响情感的尝试就显得“不道德”。

其二，实用伦理学对“善意”“不作恶”“诚实守信”的基本要求也可能与情感计算的应用形成潜在冲突。在公众视角中，情感计算可以通过远程方式“窥探”公众的情绪并加以运用。此外，智慧教育中的情感识别可能会侵犯学生的隐私，并为使用情感数据来操纵学生提供可能；执法领域使用情感计算可能会让监管者获得关于员工情绪稳定性和压力耐受性的敏感信息。这些很可能在伦理上不被接受。与此同时，情感计算的部分还在伦理上与“欺骗”关联。更为重要的还在于，批评者们还注意到情感认知的逻辑与不可信的种族科学和面相学之间的相似性。

（三）情感计算应用的技术瓶颈

依据“基本情感理论”，情感计算的应用建立在三个假设之上：（1）可以从一个人的外在表达来衡量一个人的内在情感；（2）这个内在情感的外在表达在世界范围内具有提取特征上的普遍性；（3）这种推论足够可靠，可以用来作出决策。不过，在情感计算的发展过程中，对上述三个假设的质疑始终存在。

第一，外在表达与内在情感之间的关联存在不确定性。一方面，相同的生理信息可能表达了不止一种情绪，而实际上理解情绪需要更多的情境细节支撑。另一方面，现有技术尚未证明在细微和自然的情况下可以确定地检测到用户对细微的刺激反应。第二，外在表达与情感之间的关联在世界范围内存在差异性。人们在不同文化、不同情况下，甚至在同一情况下，在沟通他们的情绪状态时，存在着大量的差异。同时，情感计算需要人工对情绪进行标注，该过程的主观性也加剧了表达与情感之间关联的差异性。第三，该技术在应用结果上具有不可靠性。正因为外在表达与内在情感之间的不确定性、多样性、数据标注的主观性，使得现阶段情感计算技术在准确性上难以获得充分保障。

四、情感计算应用的法律规制

（一）以“轻推”为限度的底线规制

情感计算应用的法律规制需要在综合考量伦理困境与技术困境的基础上，通过法律设定情感计算技术对个人情感影响的限度，进而有效避免情感计算技术被滥用风险。可以借鉴行为经济学与行为科学成熟的理论框架，以“轻推”（通过正向强化和间接建议，影响群体或个人的行为和决策，但个人仍然有选择自由）为限度构建一套情感计算应用的底线规制体系。

应通过法律明确规范情感计算技术对人类情感的干预限度和方式：（1）情感计算应用中施加的影响情感措施只能以“轻推”为限度，不得直接“操纵/控制”情感。（2）情感计算应用中施加的影响情感措施不得妨碍人们的自由选择，不禁止其他选项。（3）情感计算应用中施加的影响情感措施不能显著增加选择者的负担，并且可以通过低成本的方式轻易避免。（4）情感计算应用中施加的影响情感措施原则上只能是“积极助推”，禁止“负面助推”。（5）对于未成年人、精神病人、残疾人等易受伤害人群，作为法律保留事项，需要更为严格的限制和专业指导。

（二）以风险为基础的差异规制

情感计算技术的法律规制，除了以“轻推”为底线之外，还应当按照以风险为基础的比例原则构建一套法律规制体系。一方面，要合理考虑情感计算应用对权利与伦理的影响强度与范围；另一方面，严格按照风险的等级差异，等比例提供规制方案，高风险对应高规制强度、低风险对应低规制强度。情感计算应用的风险类型、风险表征与规制方式详见下表。

五、结语

情感计算的技术逻辑大致可分为感知、识别、模拟、影响四个环节。当前，虽然情感计算技术的应用领域广泛，但情感计算的应用存在的法律和伦理方面的冲突同样不可忽视，同时，由于缺乏强有力的科学证据支持，现阶段的情感计算应用面临技术瓶颈。对于情感计算应用的法律规制，应以“轻推”为限度设定情感计算应用的底线。在此基础上，对符合底线要求的应用再根据风险等级进行差异化的规制。尤其是在“不可接受风险”的应用已处于研发状态、“高风险应用”已现实存在的背景之下，对于情感计算应用的有效规制就显得尤为必要。