【创新前沿】文献综述20｜管理人工智能

文献综述

Abstract: 

Managing artificial intelligence (AI) marks the dawn of a new age of information technology management. Managing AI involves communicating, leading, coordinating, and controlling an ever-evolving frontier of computational advancements that references human intelligence in addressing ever more complex decision-making problems. It means making decisions about three related interdependent facets of AI – autonomy, learning, and inscrutability – in the ongoing quest to push the frontiers of performance and scope of AI. We demonstrate how the frontiers of AI have shifted with time, and explain how the seven exemplar studies included in the special issue are helping us learn about management at the frontiers of AI. We close by speculating about future frontiers in managing AI and what role information systems scholarship has in exploring and shaping this future.

本文探讨如下两个问题：

1、  人工智能的特性是什么？

管理人工智能时有哪些挑战以及如何应对？

本文通过人工智能给出一个综合性的定义并概念化人工智能的三个独特内涵、探讨管理人工智能领域的未来研究方向，贡献于信息系统领域的人工智能技术研究以及战略/组织领域的信息技术管理研究。

本文首先介绍了人工智能的定义；然后明确了人工智能领域的范围，并提出当代人工智能的三个特点，对每个方面进行文献回顾；最后提出人工智能的特点对管理问题的思考。

针对四个方面，作者进行了完善详尽的阐述：

1.     人工智能定义

本文认为在传统的定义中，人工智能视为一个过程而不是现象。本文将人工智能定义为计算进步的前沿，它可以参考人类智能来解决越来越复杂的决策问题。这个定义强调了三点内容。首先，人工智能不是一种现象或者技术，也不是程序或者算法。它更多的是一种理念,不断演变的现象的移动目标，而不是现象本身。其次，定义强调了决策如何成为理解人工智能在组织中的作用的核心。人工智能从根本上是关于自主决策的。第三，定义强调了人工智能与人类行为之间的关系。人工智能的仿真能力对管理带来了机遇与挑战。一方面，它有提高劳动生产率的潜力；另一方面，人工智能的仿真能力在安全与伦理问题中引起人们担忧。

2.     人工智能前沿范围界定

本文认为处于计算领域的前沿标志着人工智能在任何时候都是计算领域的极限。人工智能不断脱离过去的计算实践，重新定义计算前沿。一种新的人工智能计算出现，它就不再是前沿，随着时间推移，它变得简单。因此，人工智能是一种短暂的、流动的现象，并且总是将自己的边界具体化。这在性能和范围维度的演进中最为明显。

性能维度：应用人工智能的任务不断完善的执行。性能不仅与算法的进步有关，而且与原始处理性能的进步有关。这种计算能力直接影响了机器学习算法解决各种领域复杂问题的能力。随着人工智能技术性能提高，范围也在扩大。

范围维度：人工智能应用的不断扩大的环境范围。涉及人工智能的任务变得越来越普遍，不再局限于组织中的决策问题，已远远超过工作本身。

3.     人工智能的三个特性：自主权、学习、不可预测。

本文认为当代人工智能的形式在本质上不同于前几代，主要表现在三个普遍且相互关联的方面：自主性（Autonomy）、学习能力（Learning）、不可预测性（Inscrutability）。

◼  自主性（Autonomy）：当代人工智能在没有人类干预下，自主行动的能力日益增强。人工智能做出自主决策，并以一种具有物质成果的方式在世界上行动。例如：软件控制的自动面试汽车等。

◼  学习能力（Learning）：进行数据和经验进行归纳式自动改进的能力是人工智能的核心概念。近来大数据的可用性使深度学习和强化学习大规模进步。新发现的学习能力使人工智能能够进入更复杂的决策设置。

◼  不可理解性（Inscrutability）：随着自主性和学习能力的进步，当代人工智能越来越有能力输出算法模型。这些模型只有特定人群能理解，在某些情况下，人类根本无法理解。

这三方面相互依存，相互促进。学习有助于自主，并从自主中获得结果。自主和学习都会带来不可预测的结果。

4.     人工智能三个特性可能带来的管理问题

◼  管理自主权：人工智能本质上以新的方式帮助自动化和信息，随着技术的强大，管理者会将更多的权力下放给它们。人工智能与IT不同的之处在于人工智能越来越多地处理不是由人类直接委托的信息，实现真正的“自主代理”（autonomous agents）。它们通常由自己控制信息和根据自己的意愿做决定。随着人工智能自主性增强，人类与人工智能的互动呈现出各种不同的配置。一方面，人类以各种方式委托给自治的代理人。另一方面，自主代理可以指导、评估人类。人类与自主代理传统的互动关系为：技术更适合解决已被理解的问题，人类负责解决复杂性的任务。这种关系已经开始转变。人类与人工智能之间泾渭分明的界限正在模糊。人类与人工智能之间的互动可能是这个时代的关键管理问题。互动关系之前被称之为“增强”。虽然增强可以实现自动化，但是也有可能存在负面依赖效应，人类越来越依赖自主工具，当任务变得困难时可能产生有害后果。

◼  管理学习：目前至少有两个关键问题与人工智能学习有关。第一，人工智能不再只是从专有数据集学习，而是以组织边界外的各种数据为基础，这会带来隐私、信任、知识产权、数据所有权等问题。用于人工智能学习的信息从人类明确的编码转变为与隐性知识相关的一般模式。理解隐性知识与机器学习之间的关系是管理者需要考虑的一个重要前沿。第二，在技术上用于基本操作的软件和硬件的进步，降低了人工智能学习的成本，它们越来越少地涉及人类的监督，从本质上消除许多领域的人类调解。

◼  管理不可理解性（Inscrutability）：不可理解性是指与特定一方相关的人工智能程序的可理解性不足。不可理解性具备四个相互依赖的重点。第一，不透明性（Opacity）指算法缺乏可见性。例如一些先进算法的逻辑根本无法访问。第二，透明度（Transparency）是指算法所有者的公开程度或者公开意愿，以及这些所有者希望公开的数量。这是一个基于保密愿望的战略管理问题。第三，可解释性（Explainability）指的是一种算法至少能被某些人编码和理解。第四，可理解性（Interpretability）指的是特定人类可以理解算法在做什么。当人工智能被黑盒化时，通常会出现伦理问题。因此，管理不可理解性往往会出现许多与人工智能相关的伦理问题。

• 如何处理于AI相关的实体物质（physical, tangible material）

• 如何管理基于对抗性学习的新算法

• 基于人工智能的不可理解性，管理者在不同社会背景下如何对人工智能做出合法、适当以及充分的解释

编后语

随着人工智能技术的迭代与成熟，人工智能受到了学者和企业的关注。在做人工智能技术的相关研究时，首先需要理解人工智能的定义以及其独特内涵，进而对话相应文献做出贡献。本文从管理人工智能的角度出发，给出了综合性的人工智能技术的定义以及其特性，对未来的研究具有一定借鉴意义。

文献来源：Berente, N., Gu, B., Recker, J., & Santhanam, R. (2021). Managing artificial intelligence. MIS Q, 45(3), 1433-1450.

文字：

董久钰，浙江大学管理学院博士生

（[email protected]）

研究方向：数字创新管理

应震洲：浙江大学管理学院博士生（[email protected]）

研究方向：数字创新管理

编辑：唐敏遐