义一方面增加了概念要素，如目的；另一方面某些概念要素，如受事、材料的内涵更大。“浇淋”是“浇铸”

过程中很重要的一道程序，这里是用凸显的部分来代指整体。这一语义演变背后的机制是转喻。

相似的语义关联模式①在其他语言中也存在。根据“世界语言同词化在线数据库（ｈｔｔｐ：／／ｃｌｉｃｓ．ｃｌｌｄ．

ｏｒｇ／）”，“使（液体）流出”义和“浇铸”义在 ８个语系 ４４种语言中被同词化了（４４ｃｏｌｅｘｉｆｉｃａｔｉｏｎｓｆｏｒ

“ＰＯＵＲ”ａｎｄ“ＣＡＳＴ”）。

（三）从“浇灌”义到“淹”义

“灌”“沃”均有从“浇灌”义到“淹”义的语义演变。它们在后一义的用例如：《国语·晋语九》：“乃走

晋阳，晋师围而灌

獉之。”《史记·高祖本纪》：“引水灌

獉废丘，废丘降，章邯自杀。”《魏书·潘永基传》：“于时

葛荣攻信都，长围遏水以灌

獉州城。”《韩非子·初见秦》：“（秦）决白马之口以沃

獉魏氏，是一举而三晋亡。”

唐卢仝《月蚀诗》：“勃然发怒决洪流，立拟沃

獉杀九日妖。”《西游记》第二十二回：“这个揪住要往岸上拖，

那个抓来就将水里沃

獉。”用概念要素分析“浇灌”义为：［施事：人］＋［受事：植物／田地］＋［材料：水］＋

［目的：供给］；用概念要素分析“淹”义为：［施事：人］＋［受事：城／人］＋［材料：过量的水］＋［目的：攻

克／攻击］。对比两者可知“淹”义改变了受事、材料、目的等概念要素。当然，“浇灌”与“淹”在本质上是

相似的，都是将水输入进去，可以划归到一个概念域中。这一语义演变背后的机制是转喻。

（四）从“浇灌”“浇淋”义到“洗濯”义

“灌”有从“浇灌”义到“洗濯”义的语义演变，“沃”有从“浇淋”义到“洗濯”义的语义演变。它们在后

一义的用例如：《素问·脉要精微论》：“其软而散者，当病灌

獉汗。”王冰注：“灌，谓灌洗。”《大戴礼记》卷

一：“而民弃恶也如灌

獉。”孔广森注：“如灌，犹《传》言洒濯其心。”《宋书·刘敬宣传》：“四月八日，敬宣见

众人灌

獉佛，乃下头上金镜以为母灌，因悲泣不自胜。”北宋王谠《唐语林·文学》：“（文宗）读尧、舜、禹、汤

事，即灌

獉手敛衽。”《汉书·王莽传下》：“诸欲依废汉火刘，皆沃灌

獉雪除，殄灭无余杂矣。”唐杜甫《喜闻官军

已临贼境二十韵》：“谁云遗毒螫，已是沃

獉腥臊。”仇兆鳌注：“沃，以荡涤其秽也。”英语中的“ｉｒｒｉｇａｔｅ”兼有

“灌溉”和“冲洗”义，这可为“灌”的语义演变提供进一步佐证。“浇灌”“浇淋”能达到“洗濯”的效果，故

而有此引申。

（五）从“浇灌”“浇淋”义到“（使）喝”义

“灌”有从“浇灌”义到“强行使喝下”义的语义演变，其在后一义的用例如：《韩非子·说疑》：“数日

不废御觞，不能饮者以筒灌

獉其口。”《齐民要术·养牛、马、驴、骡》：“治马卒腹胀，眠卧欲死方：用冷水五

升，盐二升，研盐令消，以灌

獉口中，必愈。”唐段成式《酉阳杂俎》卷二“壶史”：“数日，方忆老人丹事，乃毁齿

灌

獉之，微有暖气，颜色如生。”《红楼梦》第六十三回：“探春那里肯饮，却被史湘云、香菱、李纨等三四个人

强死强活灌

獉了下去。”用概念要素分析“强行使喝下”义为：［施事：人］＋［受事：人］＋［材料：水或其他液

体］＋［方式：强制］＋［目的：供给／惩罚］。对比“浇灌”义、“强行使喝下”义可知，后者改变了受事、材

料、目的等概念要素，增加了方式这一概念要素。宏观上看，两者都是将液体输入进去，可以划归到一个

概念域中。这一语义演变背后的机制也是转喻。

相似的语义关联模式在其他语言中也存在。根据“世界语言语义转移数据库（ＤａｔａｂａｓｅｏｆＳｅｍａｎｔｉｃ

Ｓｈｉｆｔｓｉｎｌａｎｇｕａｇｅｓｏｆｔｈｅｗｏｒｌｄ）”②，英语中的“ｗａｔｅｒ”兼有“ｔｏｍｏｉｓｔｅｎ，ｔｏｗａｔｅｒ”和“ｔｏｇｉｖｅｔｏｄｒｉｎｋ，ｔｏ

ｗａｔｅｒ”两义，古希腊语中的“α¨ρδω”兼有“ｔｏｍｏｉｓｔｅｎ，ｔｏｉｒｒｉｇａｔｅ”和“ｔｏｇｉｖｅｔｏｄｒｉｎｋ，ｔｏｗａｔｅｒ”两义，阿塞拜疆

汤传扬：汉语“浇灌”“浇淋”义词的历时演变 １９５

①

②

这里我们采用“语义关联模式”而不是“语义演变模式”，因为根据“世界语言同词化在线数据库”，我们能看到的是共时的“一词多

义”，却得不出历时语义演变方面的信息。吴福祥指出：“‘同词化’（ｃｏｌｅｘｉｆｉｃａｔｉｏｎ／ｃｏｌｅｘｉｆｙ）这个术语是法国语言学家亚历山大·弗朗

索瓦（ＡｌｅｘａｎｄｒｅＦｒａｎｏｉｓ）创造的，指的是两个或两个以上的意义（ｓｅｎｓｅ）被编码（ｃｏｄｅ）或词化（ｌｅｘｉｆｙ）为同一个词汇形式（ｔｈｅｓａｍｅｌｅｘ

ｅｍｅ）。换言之，若意义 Ａ和意义 Ｂ在某个语言里用同一个词汇形式来表达，那么就可以说，在这个语言里意义 Ａ和意义 Ｂ被同词化

了。”“多义性是从形式到功能的投射，同词化是功能到形式的投射。”参看吴福祥：“多义性、同词化与语义图”，南京师范大学文学院

讲座，２０１７年。

有关该数据库可查询 ｈｔｔｐ：／／ｄａｔｓｅｍｓｈｉｆｔ．ｒｕ／。

语中的“ｓｕｖａｒ”兼有“ｔｏｇｉｖｅｔｏｄｒｉｎｋ，ｔｏｗａｔｅｒ”和“ｔｏｗａｔｅｒ”两义。与之相比，汉语中的“灌”则将“施动性”

发挥到极致。后来，“灌”又可指放开量喝，如《红楼梦》第七十七回：“只见晴雯如得了甘露一般，一气都

灌

獉下去了。”

“沃”有从“浇淋”义到“喝”义的语义演变，其在后一义的用例如：宋陶谷《清异录·女行》：“戴连沃

獉 六七巨觥，吐呕淋漓。”清王螿《秋灯丛话》卷八：“不敢请酌以酒，连沃

獉数十觥。”用概念要素分析“喝”义

为：［施事：人］＋［受事：人］＋［材料：水或其他液体］。对比“浇淋”义、“喝”义，后者改变了受事等概念

要素。然而，“喝”也可以看作将“水或其他液体”放置到自己肚里，从这个意义上看，其与“浇淋”都是将

液体输入进去，可以划归到一个概念域中。因此，这一语义演变背后的机制也是转喻。

综上所述，汉语“浇灌”“浇淋”义词的语义演变情况如图 １所示。

图 １ “浇灌”“浇淋”义词语义演变情况

四、结语

自张永言等《关于汉语词汇史研究的一点思考》［７］发表以来，“汉语常用词演变研究”成为汉语词汇

史研究中的热点。汪维辉指出 １０年来，“研究范围不断拓展，由断代到通史，由实词到虚词，由单音词到

复音词；研究逐步向纵深推进，由注重事实描写到描写与解释相结合，由单纯的历时演变研究到历时演变

与共时分布相结合，由单个词研究到语义场研究；相关的理论探讨也有所加强”［８］

。目前，就概念场研究

范式来说，一般是对单个概念场进行研究，考察概念场主导词在不同历史时期中的变化。这当然是一项

基础性工作，但却忽略了概念场之间的关联。蒋绍愚指出我们在考察汉语词汇的历史演变时，也要把词

义的演变和概念场中词汇分布的变化结合起来。他举的例子如：“看”的“看视”义、“阅读”义这两个意义

牵涉到“观看”“阅读”两个概念场；“睡觉”概念域和“躺卧”概念场有联系，“睡觉”概念域的“寝”“卧”的

引申义进入“躺卧”概念场［９］

。本文所探讨的“灌”“浇”“沃”也是兼跨“浇灌”“浇淋”两个概念场。将两

者结合起来研究，一方面可以看到每个概念场中主导词的变化，另一方面可以看到概念场之间的联系。

蒋绍愚指出以概念场为背景，考察其中成员及其分布在不同历史时期的变化，是研究词汇系统的历

史演变的一种切实可行的方法［１０］

。本文第一节即采用这一方法考察“浇灌”“浇淋”义词成员及分布的

历时演变。但常用词由于使用频率高，其词义也往往比较丰富。我们认为还可以将概念场成员及分布的

历时考察与语义演变结合起来研究。处在同一概念场中的词语有没有相同的语义演变模式和路径？如

果有，其背后的机制是什么？这些语义演变模式和路径是人类语言普遍可见的还是汉语所独有的？这也

是吴福祥所倡导的［１１］

。本文第三节即考察了发生在“浇灌”“浇淋”义词中的一些有规律的语义演变路

径。从［＋可操控］到［－可操控］、从“浇淋”义到“浇铸”义、从“浇灌”义到“洗濯”义、从“浇灌”义到“给

……喝”义等语义演变路径不唯汉语中有，在其他语言中也存在。至于从“浇灌”义到“淹”义、从“浇淋”

义到“洗濯”义、从“浇淋”义到“喝”义等语义演变路径反映的是汉语独有的演变特性还是某些语言具有

的类型特征还有待于进一步考察。

本专题还启发我们在常用词演变研究中要扩大语料调查范围，考虑专业文献。张美兰指出：“常用词

涉及面广，以往的研究大都选择口语气息较浓、非专业性的语料，但这并不能完全代表汉语史上常用词的

１９６ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ

发展情况。对一些语义比较专门的词语，我们还要充分利用相关的资料……考虑到专门类语料，农书、医

书、食谱、茶书等。”［１２］

本文在考察“浇灌”义、“浇淋”义词时便有意选择了一些专业文献，尤其是农书。

以往学界在研究汉语词汇史、语法史时，关注较多的农书是《齐民要术》。但据化振红说：“在数千年的中

国古代社会中，传统农业享有超越一切行业的优势地位，因而产生了卷帙浩繁的古代农书：王毓湖《中国

农学书录》收录与农业生产直接有关的农书 ５４１种，存留至今的 ３００余种；王达统计的明清农书达 １３８３

种。数量众多的历代古农书，比较准确地反映了汉语不同阶段的面貌。”“古农书语言整体上比较贴近现

实口语，语料的时代性容易把握。”［１３］

本文第二节即选择了唐、元、明、清等各时代的农书，这样更有助于

梳理“浇灌”义词的发展脉络。

参考文献：

［１］ 王凤阳．古辞辨［Ｍ］．长春：吉林文史出版社，１９９３．

［２］ 向熹．诗经词典［Ｍ］．成都：四川人民出版社，１９８６．

［３］ 许宝华，宫田一郎．汉语方言大词典［Ｍ］．北京：中华书局，１９９９．

［４］ 李荣．现代汉语方言大词典［Ｍ］．南京：江苏教育出版社，２００２：３２３０－３２３１．

［５］ 刘宏，赵缺．河南方言词语考释［Ｍ］．郑州：河南人民出版社，２０１２：７７．

［６］ 付建荣．汉语词汇核心义研究［Ｄ］．杭州：浙江大学，２０１２：１０２．

［７］ 张永言，汪维辉．关于汉语词汇史研究的一点思考［Ｊ］．中国语文，１９９５（６）：４０１－４１３．

［８］ 汪维辉．汉语常用词演变研究的若干问题［Ｊ］．南开语言学刊，２００７（１）：８８－９４．

［９］ 蒋绍愚．汉语历史词汇学概要［Ｍ］．北京：商务印书馆，２０１５：４１０－４１７．

［１０］蒋绍愚．汉语词义和词汇系统的历史演变初探———以“投”为例［Ｊ］．北京大学学报（哲学社会科学版），２００６（４）：

８４－１０５．

［１１］吴福祥．汉语语义演变研究的回顾与前瞻［Ｊ］．古汉语研究，２０１５（４）：２－１３．

［１２］张美兰．汉语常用词演变研究与个性化语料选用［Ｊ］．阅江学刊，２０１７（６）：２９－３７．

［１３］化振红．试论古代农业俗语词在汉语词汇史研究中的地位［Ｊ］．社会科学战线，２０１３（１１）：１２０－１２６．

Ｄｉａｃｈｒｏｎｉｃｅｖｏｌｕｔｉｏｎｏｆｔｈｅｗｏｒｄｓｗｉｔｈ

ｔｈｅｍｅａｎｉｎｇ“ｉｒｒｉｇａｔｅ”ａｎｄ“ｐｏｕｒ”ｉｎＣｈｉｎｅｓｅ

ＴＡＮＧＣｈｕａｎｙａｎｇ

（Ｉｎｓｔｉｔｕｔｅｏｆｌａｎｇｕａｇｅ，ＣｈｉｎｅｓｅＡｃａｄｅｍｙｏｆＳｏｃｉａｌＳｃｉｅｎｃｅｓ／ＤｉｃｔｉｏｎａｒｙＣｏｍｐｉｌａｔｉｏｎＲｅｓｅａｒｃｈＣｅｎｔｅｒ，Ｂｅｉｊｉｎｇ１００７３２，Ｃｈｉｎａ）

Ａｂｓｔｒａｃｔ：Ｗｏｒｄｓｗｉｔｈｔｈｅｍｅａｎｉｎｇ“ｉｒｒｉｇａｔｅ”“ｐｏｕｒ”ａｒｅｃｏｍｍｏｎｖｅｒｂｓｉｎｈｕｍａｎｄａｉｌｙｌｉｆｅ．ＩｎＣｈｉｎｅｓｅ

ｈｉｓｔｏｒｙ，ｔｈｅｌｅａｄｉｎｇｗｏｒｄｉｎｔｈｅ“ｉｒｒｉｇａｔｉｏｎ”ｃｏｎｃｅｐｔｆｉｅｌｄｇｏｅｓｔｈｒｏｕｇｈｃｈａｎｇｅｓｆｒｏｍ “Ｇｕａｎ（灌）”ｔｏ“Ｇａｉ

（溉）”ａｎｄｔｈｅｎｔｏ“Ｊｉａｏ（浇）”，ｔｈｅｌｅａｄｉｎｇｗｏｒｄｓｉｎｔｈｅ“ｐｏｕｒ”ｃｏｎｃｅｐｔｆｉｅｌｄｇｏｔｈｒｏｕｇｈｃｈａｎｇｅｓｆｒｏｍ“Ｗｏ

（沃）”ｔｏ“Ｊｉａｏ（浇）”ａｎｄｔｈｅｎｔｏ“Ｊｉａｏ（浇）ａｎｄＬｉｎ（淋）”．“Ｇｕａｎ（灌）”“Ｊｉａｏ（浇）”“Ｗｏ（沃）”ｄｏｕｂｌｅ

ｓｐａｎ“ｉｒｒｉｇａｔｅ”ａｎｄ“ｐｏｕｒ”ｃｏｎｃｅｐｔｆｉｅｌｄｓ，ｔｈｅｃｏｍｂｉｎａｔｉｏｎｏｆｔｈｅｔｗｏｉｓｍｏｒｅｈｅｌｐｆｕｌｔｏｇｒａｓｐｔｈｅｒｅｌｅｖａｎｔ

ｖｏｃａｂｕｌａｒｙｓｙｓｔｅｍａｔｉｃａｌｌｙ．Ｔｈｅｒｅａｒｅｓｏｍｅｒｅｇｕｌａｒｓｅｍａｎｔｉｃｅｖｏｌｕｔｉｏｎｐａｔｔｅｒｎｓａｎｄｐａｔｈｓｉｎｔｈｅｓｅｍａｎｔｉｃ

ｅｖｏｌｕｔｉｏｎｏｆｗｏｒｄｓｗｉｔｈｔｈｅｍｅａｎｉｎｇ“ｉｒｒｉｇａｔｅ”“ｐｏｕｒ”ｉｎＣｈｉｎｅｓｅ，ｔｈｅｍｅｃｈａｎｉｓｍｓｂｅｈｉｎｄｔｈｅｓｅｓｅｍａｎｔｉｃ

ｅｖｏｌｕｔｉｏｎｉｓｍｅｔｏｎｙｍｙ．Ｓｏｍｅｓｅｍａｎｔｉｃｒｅｌｅｖａｎｃｅｐａｔｔｅｒｎｓｃａｎａｌｓｏｂｅｓｅｅｎｉｎｏｔｈｅｒｌａｎｇｕａｇｅｓ，ｗｈｉｃｈｈａｖｅ

ｔｙｐｏｌｏｇｉｃａｌｃｈａｒａｃｔｅｒｉｓｔｉｃｓ．Ｔｈｉｓｔｏｐｉｃｈａｓｔｈｅｆｏｌｌｏｗｉｎｇｅｎｌｉｇｈｔｅｎｍｅｎｔｓｆｏｒｔｈｅｓｔｕｄｙｏｆｔｈｅｅｖｏｌｕｔｉｏｎｏｆｃｏｍｍｏｎ

ｗｏｒｄｓ．Ｉｎｒｅｓｅａｒｃｈｍｅｔｈｏｄｓ，ｔｈｅｄｉａｃｈｒｏｎｉｃｉｎｖｅｓｔｉｇａｔｉｏｎｏｆｔｈｅｍｅｍｂｅｒｓｈｉｐａｎｄｄｉｓｔｒｉｂｕｔｉｏｎｏｆｃｏｎｃｅｐｔｆｉｅｌｄｓ

ｃａｎｂｅｃｏｍｂｉｎｅｄｗｉｔｈｔｈｅｓｅｍａｎｔｉｃｅｖｏｌｕｔｉｏｎ．Ｉｎｒｅｓｅａｒｃｈｍａｔｅｒｉａｌｓ，ｔｈｅｓｃｏｐｅｏｆｔｈｅｃｏｒｐｕｓｓｕｒｖｅｙｃａｎｂｅ

ｅｘｐａｎｄｅｄｔｏｔａｋｅｉｎｔｏａｃｃｏｕｎｔｐｒｏｆｅｓｓｉｏｎａｌｌｉｔｅｒａｔｕｒｅ．

Ｋｅｙｗｏｒｄｓ：ｉｒｒｉｇａｔｅ；ｐｏｕｒ；ｄｉａｃｈｒｏｎｉｃｄｅｖｅｌｏｐｍｅｎｔ；ｓｙｎｃｈｒｏｎｉｃｄｉｓｔｒｉｂｕｔｉｏｎ；ｓｅｍａｎｔｉｃｅｖｏｌｕｔｉｏｎ

（责任编辑 张佑法）

汤传扬：汉语“浇灌”“浇淋”义词的历时演变 １９７

ＪｏｕｒｎａｌｏｆＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ（ＳｏｃｉａｌＳｃｉｅｎｃｅ）

２０２２年 第 ３６卷 第 ４期

Ｖｏｌ．３６ Ｎｏ．４ ２０２２

收稿日期：２０２１－０３－２１

基金项目：国家社会科学基金西部项目“习近平建设社会主义现代化强国思想的‘中国逻辑’研究”（１８ＸＫＳ０１９）；重庆市

教委人文社科研究项目“全媒体时代高校网络主流意识形态引导研究”（２０ＳＫＳＺ０４４）；重庆理工大学党建与

思想政治课题项目“自媒体时代大学生网络舆情引导研究”（２０１８ＤＪ２０４）

作者简介：苗存龙，讲师，华南师范大学博士研究生，主要从事马克思主义基本原理与思想政治教育、伦理学研究。

本文引用格式：苗存龙，王瑞林．人工智能应用的伦理风险研究综述［Ｊ］．重庆理工大学学报（社会科学），２０２２（４）：１９８－２０６．

Ｃｉｔａｔｉｏｎｆｏｒｍａｔ：ＭＩＡＯ Ｃｕｎｌｏｎｇ，ＷＡＮＧ Ｒｕｉｌｉｎ．Ａ ｓｕｍｍａｒｙｏｆｒｅｓｅａｒｃｈｏｎｅｔｈｉｃａｌｒｉｓｋｉｎｔｈｅｅｒａｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ［Ｊ］．Ｊｏｕｒｎａｌｏｆ

ＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ（ＳｏｃｉａｌＳｃｉｅｎｃｅ），２０２２（４）：１９８－２０６．

ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１６７４－８４２５（ｓ）．２０２２．０４．０１８ 语言学·哲学

人工智能应用的伦理风险研究综述

苗存龙，王瑞林

（重庆理工大学 马克思主义学院，重庆 ４０００５４）

摘要：人工智能技术的研发应用推动了社会快速发展，但也引发了伦理问题。当今世界围绕人工智

能产生的伦理风险指数越来越高，逐步成为全球关注的焦点。学界对人工智能伦理风险研究已经取得了

许多有价值的研究成果，但研究也存在不足之处。目前，关于人工智能伦理风险研究布局尚欠合理，研究

有待深化，研究立意稍显悲观，研究视角缺少整体性。展望研究前景：应综合多学科知识开展研究，重视

人工智能伦理风险评估和管理研究，增强人工智能与人类智能协同发展研究。

关键词：人工智能；人类智能；智能机器人；伦理风险

中图分类号：Ｂ８２０５７ 文献标识码：Ａ 文章编号：１６７４－８４２５（２０２２）０４－０１９８－０９

人工智能介入人类社会生活，虽然促使劳动生产率有效提升，但是也显露出颠覆传统社会伦理秩序

的能力，破坏了传统人伦关系，引发了伦理问题，甚至危及了人类社会的未来发展。人类不得不谨慎对待

人工智能的发展和应用，对人工智能的技术研发，做出合乎人类伦理价值的明智抉择。据统计，截至

２０２１年 ３月 ８日，以“人工智能伦理风险”为相关主题的研究著作逐渐出版，例如，杜严勇的《人工智能伦

理引论》、郭锐的《人工智能的伦理和治理》、高奇琦的《人工智能：驯服赛维坦》、李伦的《人工智能与大数

据伦理》等，这些著作分别以专题和非专题的形式对“人工智能伦理风险”做了研究探讨。通过 ＣＮＫＩ数

字资源平台进行检索发现，以“人工智能伦理风险”为主题的期刊论文 １２４篇，其中，博士硕士学位论文 ９

篇，报纸 ７篇，这些研究成果针对“人工智能伦理风险”作了专题研究。以“人工智能伦理”为主题的期刊

论文 ２９０４篇，这类论文中有部分文章也围绕“人工智能风险”主题做了探讨。现梳理 、评述人工智能伦

理风险的相关研究成果，总结经验、发现不足并展望未来的研究工作，以期推动后续研究。

一、人工智能引发伦理风险可能性的相关论证

人工智能的发展越来越迅速，其引发伦理风险的指数也越来越高。人工智能究竟缘何引发伦理问

题？学者们对此问题不断展开追问和探赜。学界普遍认为人工智能引起伦理风险的可能性在于两个逻

辑层面：一是人工智能作为道德主体主动介入引发伦理风险。二是人工智能作为道德客体被动参与引发

伦理风险。无论是主动还是被动地触发伦理风险，就论证过程而言，两种状态都是研究人工智能伦理风

险可能性的基本逻辑起点。关于人工智能能否具备主动介入人类伦理领域的条件，学者们分别作了或直

接或间接的相关论证。最早提出相关研究假设的学者是艾伦·麦席森·图灵。虽然图灵没有研究人工

智能是否能够主动介入人类伦理领域，但是他著名的图灵测试为人工智能在智能运行技术可能性上提供

了相关研究基础。１９５０年，图灵在论文《计算机器与智能》中预言了制造出具有真正智能机器的可能性。

拘囿于“智能”这一概念难以明确界定和阐述，他创造性地提出了著名的图灵测试以作为“智能”佐证：如

果一台机器能够与人类展开对话而未被辨别出其机器身份，那么就认为这台机器具有智能。这一简化测

试使得图灵能够令人信服地说明“会思考的机器”是可能的［１］

。由此则可以判定机器智能是否能够摆脱

人类智能而在机器与人的关系中发挥主动性。近年来，国内学界关于人工智能能否主动介入伦理领域的

研究逐渐增多，此处仅引入以下几位代表学者观点。杜严勇认为，为了使人工智能“为人类服务”，人类

可以为机器赋予“受限”的权利。如果把社会生活中的人称之为“完全的道德主体”，那么机器人就是“有

限的道德主体”［２］

。郭锐认为，相比以往的传统技术，人工智能的独特之处就在于它的“自主性”。或由

于技术本身的特性、或由于其应用过程中社会赋予了它特定角色，当代人工智能技术已经在深度“参与”

人的决策［３］

。张金钢认为智能机器人在算法的支持下，能够像人一样进行自我思考，与人一样有了自我

独立意志，能自主支配自己外在机体，即成了行为自由的主体［４］

。有学者从人工智能核心的技术———算

法角度进行分析。王天恩认为“人工智能的伦理问题根源于从大数据处理到作为智能体自主行动整个过

程所涉及的智能算法”［５］

。他认为在相应的大数据处理过程中，伦理问题出现在 ３个时间点：一是当数据

移到一组选定的变量时；二是当选定的数据移到由算法或伦理研究产生的结果时；三是当这些结果移到

明确的行动计划时。当这 ３个节点由算法控制时，智能算法便具有重要伦理意蕴。综上所述，无论是将

人工智能视为“完全的道德主体”，还是“有限的道德主体”，以上学者均认为人工智能主动涉足了人类伦

理生活领域。

持不同意见的学者认为，人工智能只能被动参与人类社会伦理生活领域。学者们或直接或间接地做

了有价值的相关论证。涂良川从历史唯物主义层面分析认为，人工智能奇点论主张人工智能获得主体

性，并非逻辑地证明了机器真正获得价值的自主性，而是现实地证明了人类智能的实践性。人工智能物

的特性及其立基并充分展开的物性思维因其没有社会历史的存在论基础，只是以对比性的方式突显了人

作为实践主体的创造性本质［６］

。戴益斌认为，只有当智能机器人主动地面向人类，或者某人与智能机器

人发生有意义的关联时，智能机器人才能获得道德接受者的地位。这样的智能机器人必须具备对话能

力，会使用某种语言［７］

。还有学者从现象学角度分析，如刘永安认为，意识是制约道德主体是否可能的关

键维度。目前，人工智能体能在功能等价的意义上对意识的智力性认知层面予以模拟，但并不具备对于

一个道德主体来说至关重要的现象学意识。人工智能体缺乏现象学意识第一人称的定性特征［８］

。学者

们普遍认为，因为人工智能不可能拥有人类所特有的心智状态，所以人工智能无法成为真正的道德主体，

而只能以道德客体身份被动参与人类伦理生活领域。

显然，人工智能能够引发伦理问题已是不争事实，学界观点分歧主要在于：人工智能究竟是以道德主

体身份主动涉足人类伦理生活领域，还是以道德客体身份被动参与人类伦理生活领域。就目前学界研究

现状和未来任务而言，关于人工智能引起伦理风险可能性的两方面研究，均需要继续深化论证，应更深层

次探赜：作为主动和被动两种引发人类社会伦理风险的方式，其“意识”层面的逻辑理路有何不同？随着

人工智能技术的发展，不同“智能进阶”的弱人工智能、强人工智能、超人工智能的主体“意向性”“创造

苗存龙，等：人工智能应用的伦理风险研究综述 １９９

性”会提升，其参与伦理方式、程度又如何变化？分别产生哪些方面的伦理影响？诸如此类研究将为进一

步探究人工智能引发的伦理风险内容和寻求伦理风险规制之道奠定理论基础。

二、人工智能伦理风险的主要内容

人工智能已经渗透到社会各个领域，造成的伦理影响是全方位的。现对学界已经开展的几个主要伦

理风险进行梳理述评。

（一）人的主体性异化

在辩证唯物主义实践观中，人类能够主动地认识并通过实践活动改造自然界，从而使人类自身达到

自然性与社会性的和谐统一。人类依托独特智慧，躬身实践，创造了人类社会丰富灿烂的文明。传统伦

理秩序中，机器依附于人，人决定着机器如何开展工作。在高度智能化的人工智能物面前，人显得既笨拙

又呆板，反而成为智能机器的“零部件”，人与机器的关系正逐步发生翻转，人的主体性已经出现异化端

倪。控制论之父维纳在其名著《人有人的用处：控制论与社会》中认为：“这些机器的趋势是要在所有层

面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。这种新的取代将对我们的生活产生

深远影响。”［９］

孙伟平认为，作为人类社会的基本技术支撑，智能科技构成了对人类或公开的或隐蔽的宰

制，人正在沦为高速运转的智能“附庸”和“奴隶”；智能机器人的快速发展模糊了人机界限，对人的本质、

人的主体地位等形成强烈的冲击，使“人是什么？”“人机关系如何？”凸显为挑战哲学常识的时代难

题［１０］

。闫坤如进一步指出，人类在享受智能技术带来的便捷与自由的同时，深陷被智能造物支配与控制

的危机之中，人的主体性逐渐被智能机器解构和占有，客体化危机严重，主体间的关系也日益疏离化、数

字化和物化，人的尊严和自由面临着被侵蚀的风险［１１］

。美国学者约翰·普利亚诺则从人工智能使用引

起的劳动机会变化入手进行分析，认为人工智能基本上相当于免费的劳动力，这对劳动者不利［１２］

。而在

文学创作领域，人工智能也显示出非凡的建构能力。刘欣认为，现代写作已无法以“限度”之名逃避与人

工智能“作者”的竞争，写作的主体性问题进入反思领域。透过主体论诗学的“人性”神话与后人类主义

的激进想象，人工智能写作在人机交互的间性主体和机器的他者维度得到重新思考［１３］

。还有学者关注

到人的主体性会随着弱人工智能、强人工智能、超人工智能的进阶，而逐步进入更加弱化的时代。强人工

智能或超人工智能将代表人类“预测一切、决定一切、安排一切”，人的主体作用在下降，社会参与度在降

低，势必产生客体主体化、主体客体化的逻辑混淆［１４］

。如果说康德的“人为自然界立法”论断使人类觉醒

并摆脱对自然界的依赖和控制，破天荒地标识了人的主体性地位，那么人工智能的快速发展则正在对这

一论断和现实带来冲击，对人类主体性地位带来挑战。人工智能正在依托拟人特质，逐步增强替代人类

体力劳动和脑力劳动的能力。如何既能享受人工智能技术发展带来的收益，又能规避主体性异化的风

险？有无使人类智能和人工智能两者功能皆通畅发挥的平衡之道？诸如此类研究是时代难题。

（二）隐私权遭受威胁

海量信息数据是人工智能发挥其智能性所不可缺少的“信息食粮”。人工智能越是智能，就越需要

收集和存储更多的个人数据和信息。然而，获取和存储海量信息数据，就不可避免地涉及个人隐私泄露

的伦理问题。王璐认为，一些单位为了锻炼出更加“聪明”的智能体，有意采取合法与非法、公开与隐蔽、

知情与不知情等多种信息渠道，肆意挖掘整理人们的身份信息、家庭信息、健康信息、消费喜好、日常活动

轨迹等重要数据。这些数据在智能技术的强大驱动下，则可以映射出个人支付能力、社交关系等高价值

信息，进而生成或还原出一个人的“生活肖像图”［１４］

。在万物智联的世界，人几乎与“透明人”无异。金

东寒等学者认为，在人工智能的应用中，云计算被配置到智能架构中，许多企业、个人等将信息存储至云

端，这很容易遭到威胁和攻击；如果将这些数据整合一起，那么便可“读出”他人秘密，如隐蔽的身体缺

２００ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ

陷、既往病史、犯罪前科、变性经历等。如果智能系统掌握的敏感的个人信息被泄露出去，会将人置于尴

尬甚至危险的境地，个人的隐私权会受到不同程度的侵害［１５］

。蔡立媛从人工智能在广告方面的应用入

手进行分析，认为人工智能广告的追踪定位侵犯个人隐私，会引起个人信息安全失控、个人私事泄露、个

人财产失窃、心理失衡、心理焦虑甚至恐慌，而且个人行踪泄露也危及人身自由和生命安全，影响社会秩

序的稳定。用户的既有隐私、将有隐私、当下隐私都可能被侵犯，都可能被无意地泄露［１６］

。科技创新推

动社会发展，人类虽不能由于隐私难题因噎废食，但人工智能的发展也决不能以牺牲隐私权为代价。

２０１９年 ６月 １７日，我国新一代人工智能治理专业委员会发布《新一代人工智能治理原则———发展负责

任的人工智能》，要求人工智能发展应尊重和保护个人隐私，充分保障个人的知情权和选择权。人类未来

智慧生活中，如何兼顾“高度智能技术与高度隐私安全”，这是需要攻克的重点课题。

（三）挑战家庭婚恋观

目前，关于人工智能对家庭婚恋观念产生影响的相关研究，多数聚焦于智能机器人具有家庭或婚恋

成员身份替代性的伦理领域，少数聚焦于人工智能参与相亲匹配等大数据分析领域。总体而言，其风险

大于收益。人工智能研究专家大卫·利维撰写了一本书《与机器人的爱与性：人与机器人的关系进化

史》，他提出了一个引人注目的观点：到 ２０５０年左右，人与机器人将建立真正的伴侣关系。人形智能机器

人的研制正在取得技术突破，更加助推了人工智能影响婚恋观念的快速转变。金东寒认为，人形智能机

器人越来越像人，越来越“善解人意”，也越来越“多愁善感”。人形智能机器人可能拥有完美的身材、漂

亮的五官、光洁的皮肤、温柔的性情、坚贞的品格等，堪称完美的择偶对象。人形智能机器人能长情地陪

伴人类，甚至为人类怀孕、生子、养育子女［１５］

……骆安安认为，因人工智能而兴起的伴侣机器人，正在快

速融入人类的情感生活。人机之恋正成为新型恋爱关系，伴侣机器人进入更多家庭甚至和人类结成法律

允许的婚姻关系也并非完全不可能［１７］

。王睿认为，性趣机器人作为高人机交互型机器人，其设计、生产

和广泛研发应用将造成广泛的社会伦理影响。他通过问卷调查、深度访谈和对网络平台的参与观察，调

查男性、女性对性趣机器人的各项选择意愿。针对选择性趣机器人作为伴侣的意愿原因和对基础设定、

主体地位的选择意愿三项内容，分别根据韩炳哲“爱欲之死”思想、情感社会学中“情感异化”理论和女性

主义的社会性别观点，对选择意愿的共性和差异进行剖析，结果显示人们对性趣机器人的喜好超乎想

象［１８］

。美国普利策奖得主戴夫·巴里曾说，他并没有打算再婚，但如果非要结婚，他宁可娶个机器人。

巴里的话，显然带给我们的不全是幽默。人类不得不面临一个重要伦理风险：人工智能的广泛应用，将颠

覆传统的婚恋关系、家庭模式，并使家庭结构和伦理架构陷入危机。

（四）造成算法偏见

２０１８年 ２月，麻省理工学院的 ＪｏｙＢｕｏｌａｍｗｉｎｉ发现，ＩＢＭ、微软和北京旷视科技有限公司的三家公司

最新研发的性别识别人工智能，可以在 ９９％的情况下从照片中准确识别一个人的性别，但其识别人种范

围仅限于白人。对于女性黑人来说，其准确率会大幅降至 ３５％。王天恩认为，人工智能算法导致的偏见

最初是从人类习得的。人工智能可以从人类语言信息中习得偏见，智能算法设计中的前提性预设，与智

能算法的人类理解密切相关［５］

。卜素也认为，人工智能技术在其实际应用过程中经常出现偏差性结论或

反馈，其中最为典型的即为“算法歧视”问题。“算法歧视”的成因根源上在于人类固有的社会偏见，经由

人工智能背后的算法技术转译，具有难以预测、难以监管以及责任主体多元化的特点；内部成因与外部成

因所导致的算法歧视又具有各自的独特属性［１９］

。仇筠茜以新闻生产为例，他认为技术的“黑箱”切断了

算法结论与事实之间的关联。算法所擅长的大数据整理、挖掘、分析的处理能力，是人类能力所不及的。

特别是对宏观趋势的预测及其自我学习的逻辑以及决策的过程，即使是人工智能程序设计者也不能完全

理解。这种方式将新闻生产过程推进更深的“黑箱”，产品即是“勿需推敲”的成品。这导致了对事实的

苗存龙，等：人工智能应用的伦理风险研究综述 ２０１

核查、对真相的追寻将变得迷雾重重［２０］

。张恩典从算法特征方面分析认为，受算法决策自动性和模糊性

等因素影响，大数据算法歧视呈现出高度的隐蔽性、结构性、单体性与系统连锁性特征，增加了歧视识别

判断和规制的难度，并给传统以差别待遇为标准的反分类歧视理论和以差别性影响为标准的反从属歧视

理论带来适用困境［２１］

。算法是人工智能技术的核心，在人工智能技术应用领域，算法是导致偏见的深层

次根源。人工智能时代，算法偏见早已深入了各个领域。

（五）军事领域风险

伴随着人工智能在军事化领域的广泛应用，人类对未来安全问题的忧虑正日渐加深。人工智能时

代，是否应该限制或禁止使用致命性自主武器系统（１ｅｔｈａｌａｕｔｏｎｏｍｏｕｓｗｅａｐｏｎｓｓｙｓｔｅｍｓ，简称 ＬＡＷＳ）的话

题备受热议。２０１５年 ７月，一封要求停止研发致命性自主武器系统的公开信获得了多达 ３万人的签名，

其中包括斯蒂芬·霍金、埃隆·马斯克以及众多人工智能领域的专家学者。专家学者们认为自主武器系

统具有极大的风险，一旦被研发成功并应用，就有可能被恐怖组织掌控，对无辜平民将产生巨大的生命安

全威胁［２２］

。军事斗争自古以来是人类社会的一个沉重命题，由人工智能主宰军事决策，意味着这一命题

将变得简单化、程序化。铸戈认为，比这更严重的是，如果赋予人工智能武器系统“自主开火权”，人与武

器的关系将发生根本质变，“机器代理人战争”将会成为人类社会不可承受之重。而在智能化军事体系

中，政治因素和理性因素已不存在，“战争是战争的继续”［２３］

。从这个意义上说，武器系统的智能化程度

愈高，后果则愈严重。人工智能时代，“极速战”是未来的战争走向。战争出发时间将缩短到几乎是即时

反应。谢丹从军事责任认定视角分析认为，智能武器的特殊性及其推广应用，给现行军事法特别是武装

冲突法带来诸多严峻的挑战。在军事冲突中，人类几乎完全不能参与“观察—定向—决策—行动”（ＯＯ

ＤＡ）的循环过程［２４］

。鉴于此，值得深刻思考的是：未来自主武器能否精确识别平民百姓和战斗人员？能

否恪守国际人道主义规范？一旦自主武器脱离控制对人类造成大规模杀伤，谁将为自主武器的决策和行

为承担责任和后果？是追究军事指挥官的责任，还是人工智能的责任？责任认定将难以判定。生死攸关

的致命抉择“让渡”于机器定夺，是否意味着未来人类社会将终结？大部分学者依据人工智能发展技术，

从长远审视未来战争，认为人工智能在军事化领域的应用，对未来人类安全终将造成威胁。如果人工智

能超脱了人类智能的控制，势必将给人类带来灭顶之灾。

三、人工智能伦理风险的防范规制

关于人工智能伦理风险防范规制问题，学界主要从策略原则、算法设计、责任追究和制度管理等方面

展开讨论。

（一）策略原则方面

阿西莫夫在他的机器人科幻作品中定义了机器人的三大定律，这三大定律从宏观层面对人工智能伦

理风险的防范规制进行了预想。第一，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手

旁观。第二，机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。第三，机器人在不违反

第一、第二定律的情况下要尽可能保护自己的生存。三大定律对研究如何规制人工智能伦理风险具有借

鉴意义［２５］

。耶鲁大学机器人学专家 ＪｏｎａｔｈａｎＨａｒｔｍａｎ建议把三大定律作为人工智能的适应性标准。Ｊｏｎ

ａｔｈａｎＨａｒｔｍａｎ认为不能像自上而下的应用定律那样限制人工智能功能的发挥，定律应该是一个宽松的指

导原则，其后代将会根据他们的能力靠近这些目标。ＪｏｎａｔｈａｎＨａｒｔｍａｎ认为三大定律的优势是：机器人会

与定律形成一个更动态的关系，把定律当作是灵活的指导原则［２５］

。王璐认为，人工智能的设计应该重视

科技理性与价值理性，必须坚持科技服务人类的根本价值取向，突出以人为本，强调公平正义，遵守伦理

发展［１４］

。

２０２ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ

（二）算法设计方面

因算法是人工智能技术的核心，有学者从人工智能思维内核———算法层面，思考如何规避人工智能

引发的伦理风险。闫坤如主张，伦理学家与技术哲学家不能袖手旁观，人工智能设计应该遵循“合乎伦理

设计”的规则。人工智能设计主体必须在设计之初把人类道德与规范嵌入到智能机器算法中，从而使得

人工智能系统的决策、行为具有可靠性与安全性［２６］

。丁晓东认为，要以实现负责任的算法为目标，采取

场景化的规制路径，根据不同场景类型对算法采取不同的规制形式。在算法场景化规制原则的指引下，

可以构建算法公开、数据赋权与反算法歧视等算法规制的具体制度［２７］

。为了避免涉及性别、族裔和性向

等“敏感属性”与中性特征无意关联而触碰红线，罗梅和鲁格吉里提出了 ４个策略：控制训练数据集的失

真；通过将其与反歧视标准相结合，修改分类学习算法；提取分类模型后，对模型进行后处理；在应用时，

对预测进行更正，在受保护和不受保护的群体之间保持决策的相称性［２８］

。

（三）责任追究方面

学者们认为加强追责问责也是规制人工智能伦理风险的有效方法。孙保学探究了算法层面追责的

策略，他认为，由于算法中间环节较多，确定某一具体操作失误究竟是编程错误、系统故障或还是偏见干

扰往往异常困难，这意味着准确定位导致行为后果的直接责任主体更难［２９］

。显然，从算法层面追责问责

是有难度的，而伯朗格（Ｂéｒａｎｇｅｒ）则提出谨慎创新思路，他认为可以在创新和谨慎之间找到平衡，这将导

致一个基于赋予行动者责任的双赢体系。如果设计者没有采取必要的预防措施来避免这种风险，那么设

计者应该对重大损害后果承担责任。诚然，人工智能使用者也应充分考虑自己在使用人工智能过程和操

作中产生的伦理影响［３０］

。中国学者戴益斌的观点与伯朗格相似，戴益斌认为新工具主义主张将智能机

器视为人类的奴隶，机器伦理的支持者倾向于赋予智能机器以道德主体地位，这两种方案在处理人工智

能的伦理责任问题时都面临困境。他认为应将道德主体扩展至他者以及非人类的实体。智能机器导致

的责任问题可以指派给所有与智能机器相关的责任方［７］

。

（四）制度管理方面

公共政策和管理治理机制可以为人工智能伦理规制提供基础。田广兰认为，为了抵御人工智能的伦

理风险，“蓄水池式”的公共决策机制有助于形成融贯性的行动策略，以将人工智能的发展和应用尽可能

置放在人的意图之下［３１］

。戴益斌从道德与法律两方面分析规制策略，认为应坚持“以人为本”“以德为

先”“以法为界”的理性治理规则［７］

。基于人工智能具有法律主体地位的前提认识，黄甫全探讨人工智能

立法，在内容上聚焦于人工智能主体的规范，主要包括交通法、隐私法、医疗法和著作权法等领域；在特征

上突出表现为，以保障人类利益为本，以原有法律体系为主，以部分类型与领域立法为先［３２］

。针对人工

智能在新闻传播领域引发的伦理风险，杨保军提出 ４个规制原则：第一，透明原则；第二，风险可控原则；

第三，知情同意原则；第四，核查与公正原则［３３］

。

四、人工智能时代伦理风险研究的不足和展望

现有的人工智能时代伦理风险研究成果为进一步深化、拓展和完善研究奠定了基础。同时，通过梳

理也发现，当前的研究正处在一个需要继续深化的阶段，这预示着人工智能伦理风险研究还有更广阔的

空间。

（一）现有研究的不足

学界对人工智能伦理风险的研究虽然不乏真知灼见，但总体而言仍存有不足，择其要者，兹述如下。

一是研究布局尚欠合理，研究有待深化。一方面，研究布局不够合理。人工智能伦理研究包括人工

智能道德哲学、人工智能道德算法、人工智能设计伦理和人工智能应用伦理等 ４个领域。通过对现有研

苗存龙，等：人工智能应用的伦理风险研究综述 ２０３

究成果梳理可知，现有研究成果多集中于人工智能道德算法、人工智能设计伦理和人工智能应用，而人工

智能道德哲学领域研究成果相对薄弱。人工智能道德哲学研究关乎人工智能的善与恶、对与错、权利与

义务等思辨和论证。推动人工智能道德哲学研究，有利于我们审视人工智能的社会价值和伦理风险影

响，以哲思智慧引领人工智能其他领域研究。另一方面，研究还有待深入。人工智能设计伦理关乎人工

智能如何与人类生活融合的问题。鉴于人工智能本身固有的技术不确定性，研发设计环节究竟赋予其多

少“智能”，才能确保不会引发伦理风险？如何针对人工智能的决策“僭越”加以控制和防范？这些都是

值得继续深入思考和研究的问题。

二是研究立意略显消极悲观。因为受到人工智能奇点论影响，所以学界有部分学者对人工智能伦理

风险研究持悲观倾向。其实没有必要持悲观态度，应理性看待人工智能与人类智能的“较量”。因为人

工智能是随人类意识创造而产生的，人工智能每前进一步都是建立在人类智能创新的基础上的。人的

“意识代替他的本能，或者说他的本能是意识到了的本能”［３４］

。无论人工智能技术发展如何迅速，作为

“意识产物”的人工智能，不可能绕开人类意识，实现无“意识”内核驱动境况下的智能跨越。现今，人工

智能引发的伦理风险不至于即刻给予人类“致命一击”，人类仍然掌握着是否继续研发和应用人工智能

各项技术的抉择权。人类作为唯一能够以智力引领人工智能的物种，完全可以通过自身智慧解决人工智

能伦理风险问题，从而实现人工智能工具理性和价值理性的有机统一。因此，研究应始终保持理性自持，

做到客观不悲观、预想不幻想。

三是研究视角缺少整体性。关于人工智能伦理风险规制方法的研究，多数缺少整体性视角。部分学

者提出的人工智能伦理风险的规制方法和措施较“碎片化”。部分研究出现“头痛医头，脚痛医脚”的现

象。例如，面对人工智能算法导致算法歧视的现象，部分研究者往往忽略心智维度，将算法歧视归罪于人

工智能算法技术层面，以工具理性视角取代价值理性视角，这将阻碍人工智能技术发展，不利于科技发展

和社会进步。人工智能伦理风险研究与其他技术伦理风险研究不同，应当围绕“机芯”和“人心”整体性

建构而展开研究，未来人工智能伦理研究应更多地赋予人工智能“善”的意蕴。

（二）未来研究的展望

鉴于上述人工智能时代伦理风险的总体研究存有不足，现对未来的研究提出几点粗浅看法，仅供后

续研究参考。

一是综合多学科知识开展研究。影响人工智能伦理风险研究的因素很复杂：一方面，人工智能的伦

理问题研究与传统的伦理研究大有不同，其研究视域发生了较大的跨越，已经超出了人类主义的伦理学

范围。人工智能伦理风险研究讨论的不再是人与人之间的关系问题，也不是人类与自然界的既定事实之

间的关系问题，而是人类与自己所创造的智能产品之间的关系问题。另一方面，人工智能伦理风险的研

究环境也在快速变化。例如人类对人工智能的接纳程度正在发生变化。２０１７年 １０月 ２６日，沙特阿拉伯

已经给予了美国汉森机器人公司生产的女性机器人索菲亚公民身份。因未来人工智能伦理风险研究所

需知识将横跨多学科领域，所以研究过程中应与时俱进地综合运用多学科知识。例如，可结合科学技术

哲学、人工智能哲学、伦理学、社会学、工程学、法学等学科知识，综合审视人工智能伦理风险，切实谋划有

效的风险防范策略。

二是重视人工智能伦理风险评估和管理研究。由于人工智能技术发展存在诸多不确定性，亟须加强

人工智能潜在伦理风险的评估研究，推动人工智能安全可控健康发展。人工智能伦理风险评估研究，既

需要顶层的宏观哲思方面的研究，以保持人工智能发展和伦理秩序稳定之间的平衡，同时也需要基础的

微观评估指标的研究，以保障风险评估的有效操作性。应着力建构人工智能风险评估体系，实现评价指

标具体化、可操作化，为人工智能研究及应用提供伦理风险评估反馈。要加强人工智能伦理风险管理研

２０４ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ

究，关注人工智能伦理风险管理中风险识别、数值评估、责任处理、预期监控及汇报传达等各环节，探讨各

有关主体的风险管控责任。要坚持评估的预防性原则，将伦理风险评估前置于人工智能开发应用阶段。

重视人工智能伦理风险评估研究，将有利于降低人工智能潜在伦理风险，为更好决策人工智能未来发展

奠定基础。

三是增强人工智能与人类智能协同发展研究。马克思认为“那些发展着自己的物质生产和物质交往

的人，在改变自己的这个现实的同时也改变着自己的思维和思维的产物”［３４］

。因为人的思维意识与生产

生活是协同发展的，所以我们对人工智能引发伦理风险进行归因时，决不能局限于人工智能技术本身，还

应同时反观人工智能创造者们的设计水准。人工智能和人类智能之间决不是“你死我活”的完全冲突关

系，我们应打破“非此即彼”的形而上学的思维模式的禁锢。未来研究应从人工智能伦理风险给人类生

存状态、价值理念和人伦观念带来的各种冲击中，逆向反思人类智能发展的现实困境，谋求人工智能与人

类智能协同共生之道。面向未来，既要推动人工智能不断完善，实现技术层面伦理风险规避，又要以此为

契机促使人类智能逐步提升，实现价值层面伦理复归。

参考文献：

［１］ ＴＵＲＩＮＧＡＭ．Ｃｏｍｐｕｔｉｎｇｍａｃｈｉｎｅｒｙａｎｄｉｎｔｅｌｌｉｇｅｎｃｅ［Ｊ］．Ｍｉｎｄ，１９５０，５９：４３３－４６０．

［２］ 杜严勇．人工智能伦理引论［Ｍ］．上海：上海交通大学出版社，２０２０：１０６．

［３］ 郭锐．人工智能的伦理和治理［Ｍ］．北京：法律出版社，２０２０：２６．

［４］ 张金钢．人工智能时代的刑事风险———以智能机器人为切入点［Ｊ］．重庆理工大学学报（社会科学），２０１９（８）：９０．

［５］ 王天恩．人工智能算法的伦理维度［Ｊ］．武汉科技大学学报（社会科学版），２０２０（６）：６４５－６５３．

［６］ 涂良川．马克思历史唯物主义视阈中的人工智能奇点论［Ｊ］．东北师大学报（哲学社会科学版），２０２０（１）：７９－８４．

［７］ 戴益斌．试论人工智能的伦理责任［Ｊ］．上海大学学报（社会科学版），２０２０（１）：２７－３６．

［８］ 刘永安．人工道德主体是否可能的意识之维［Ｊ］．大连理工大学学报（社会科学版），２０２１（３）：９０．

［９］ 维纳．人有人的用处：控制论与社会［Ｍ］．陈步，译．北京：商务印书馆，１９７８：６５．

［１０］孙伟平．人工智能与人的 “新异化”［Ｊ］．中国社会科学，２０２０（１２）：１１９－２０３．

［１１］闫坤如．人工智能时代主体性异化及其消解路径［Ｊ］．华南理工大学学报（社会科学版），２０２０（４）：２６－３２．

［１２］约翰·普利亚诺．人工智能时代的人类生存法则［Ｍ］．胡泳，杨莉萍，译．北京：文化发展出版社，２０１８：３０．

［１３］刘欣．人工智能写作“主体性”的再思考［Ｊ］．中州学刊，２０１９（１０）：１５３－１５８．

［１４］王璐．论人工智能发展风险的认知与规避［Ｊ］．理论月刊，２０２０（１２）１４８－１５３．

［１５］金东寒．秩序的重构———人工智能与人类社会［Ｍ］．上海：上海大学出版社，２０１７：５０．

［１６］蔡立媛．人工智能广告侵犯隐私的风险与防御［Ｊ］．青年记者，２０２０（１８）：９３－９４．

［１７］骆安安．伴侣机器人挑战婚姻伦理的前瞻性研究［Ｄ］．武汉：武汉科技大学，２０２０．

［１８］王睿．对性趣机器人的选择意愿及其社会后果分析［Ｄ］．哈尔滨：哈尔滨工业大学，２０２０．

［１９］卜素．人工智能中的“算法歧视”问题及其审查标准［Ｊ］．山西大学学报（哲学社会科学版），２０１９（４）：１２４－１２９．

［２０］仇筠茜，陈昌凤．黑箱：人工智能技术与新闻生产格局嬗变［Ｊ］．新闻界，２０１８（１）：２８－３４．

［２１］张恩典．反算法歧视：理论反思与制度建构［Ｊ］．华中科技大学学报（社会科学版），２０２０（５）：６０－７１．

［２２］Ｆｕｔｕｒｅｏｆｌｉｆｅｉｎｓｔｉｔｕｔｅａｕｔｏｎｏｍｏｕｓｗｅａｐｏｎｓ：ＡｎｏｐｅｎｌｅｔｔｅｒｆｒｏｍＡＩ＆Ｒｏｂｏｔｉｃｓｒｅｓｅａｒｃｈｅｒｓ［ＥＢ／ＯＬ］．（２０１６－０２－０９）［２０２１

－０１－１６］ｈｔｔｐｓ：／／ｆｕｔｕｒｅｏｆｌｉｆｅ．ｏｒｇ／ｏｐｅｎｌｅｔｔｅｒａｕｔｏｎｏｍｏｕｓｗｅａｐｏｎｓ．

［２３］铸戈．人工智能军事化应用隐忧重重［ＥＢ／ＯＬ］．（２０１８－０９－１８）［２０２１－０１－２０］ｈｔｔｐ：／／ｗｗｗ．８１．ｃｎ／ｇｆｂｍａｐ／ｃｏｎｔｅｎｔ／

２０１８－０９／１８／ｃｏｎｔｅｎｔ＿２１６０９７．ｈｔｍｌ．

［２４］谢丹．智能武器的法律挑战与规制［Ｊ］．国防，２０１９（１２）：２９－３４．

［２５］王东浩．机器人伦理问题研究［Ｄ］．天津：南开大学，２０１４．

苗存龙，等：人工智能应用的伦理风险研究综述 ２０５

［２６］闫坤如．人工智能“合乎伦理设计”的实现路径探析［Ｊ］．大连理工大学学报（社会科学版），２０１９（６）：１２３－１２８．

［２７］丁晓东．论算法的法律规制［Ｊ］．中国社会科学，２０２０（１２）：１３８－１５９．

［２８］ＲＯＭＥＩＡ，ＲＵＧＧＩＥＲＩＳ．Ａｍｕｌｔｉｄｉｓｃｉｐｌｉｎａｒｙｓｕｒｖｅｙｏｎｄｉｓｃｒｉｍｉｎａｔｉｏｎａｎａｌｙｓｉｓ［Ｊ］．ＴｈｅＫｎｏｗｌｅｄｇｅＥｎｇｉｎｅｅｒｉｎｇＲｅｖｉｅｗ，２０１４，

２９（５）：５８２－６３８．

［２９］孙保学．人工智能算法伦理及其风险［Ｊ］．哲学动态，２０１９（１０）：９３－９９．

［３０］Ｂ?ＲＡＮＧＥＲＪ．Ｔｈｅａｌｇｏｒｉｔｈｍｉｃｃｏｄｅｏｆｅｔｈｉｃｓ：Ｅｔｈｉｃｓａｔｔｈｅｂｅｄｓｉｄｅｏｆｔｈｅｄｉｇｉｔａｌｒｅｖｏｌｕｔｉｏｎ［Ｍ］．ＬｏｎｄｏｎａｎｄＨｏｂｏｋｅｎ：ＩＳＴＥ

ＬｔｄａｎｄＪｏｈｎＷｉｌｅｙ＆ＳｏｎｓＩｎｃ，２０１８：１３７－１４３．

［３１］田广兰．科技前沿的伦理挑战———第十一次全国应用伦理学研讨会综述［Ｊ］．哲学动态，２０１９（３）：１２７－１２８．

［３２］黄甫全．人工智能立法：主体、内容与特征［Ｊ］．学术研究，２０２０（１１）：４９－５５．

［３３］杨保军．智能新闻：伦理风险·伦理主体·伦理原则［Ｊ］．西北师大学报（社会科学版），２０１９（１）：２７－３６．

［３４］马克思恩格斯全集：第 ３卷［Ｍ］．北京：人民出版社，１９６０：３０．

Ａｓｕｍｍａｒｙｏｆｒｅｓｅａｒｃｈｏｎｅｔｈｉｃａｌｒｉｓｋｉｎｔｈｅｅｒａ

ｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ

ＭＩＡＯＣｕｎｌｏｎｇ，ＷＡＮＧＲｕｉｌｉｎ

（ＳｃｈｏｏｌｏｆＭａｒｘｉｓｍ，ＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｃｈｏｎｇｑｉｎｇ４０００５４，Ｃｈｉｎａ）

Ａｂｓｔｒａｃｔ：Ｔｈｅｒｅｓｅａｒｃｈａｎｄａｐｐｌｉｃａｔｉｏｎｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅｔｅｃｈｎｏｌｏｇｙｈａｓｐｒｏｍｏｔｅｄｔｈｅｒａｐｉｄ

ｄｅｖｅｌｏｐｍｅｎｔｏｆｓｏｃｉｅｔｙ，ｂｕｔｉｔｈａｓａｌｓｏｃａｕｓｅｄｅｔｈｉｃａｌｉｓｓｕｅｓ．Ｉｎｔｏｄａｙ’ｓｗｏｒｌｄ，ｔｈｅｅｔｈｉｃａｌｒｉｓｋｉｎｄｅｘｇｅｎｅｒａｔｅｄ

ｂｙａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅｉｓｇｅｔｔｉｎｇｈｉｇｈｅｒａｎｄｈｉｇｈｅｒ，ａｎｄｉｔｈａｓｇｒａｄｕａｌｌｙｂｅｃｏｍｅｔｈｅｆｏｃｕｓｏｆｇｌｏｂａｌａｔｔｅｎｔｉｏｎ．

Ａｃａｄｅｍｉａｈａｓｍａｄｅｍａｎｙｖａｌｕａｂｌｅｒｅｓｅａｒｃｈｒｅｓｕｌｔｓｏｎｔｈｅｅｔｈｉｃａｌｒｉｓｋｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ，ｂｕｔｔｈｅｒｅａｒｅａｌｓｏ

ｓｏｍｅｄｅｆｉｃｉｅｎｃｉｅｓｉｎｔｈｅｒｅｓｅａｒｃｈ．Ａｔｐｒｅｓｅｎｔ，ｔｈｅｌａｙｏｕｔｏｆｒｅｓｅａｒｃｈｏｎｅｔｈｉｃａｌｒｉｓｋｓｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅｉｓ

ｓｔｉｌｌｕｎｒｅａｓｏｎａｂｌｅ，ｔｈｅｒｅｓｅａｒｃｈｎｅｅｄｓｔｏｂｅｄｅｅｐｅｎｅｄ，ｔｈｅｒｅｓｅａｒｃｈｉｎｔｅｎｔｉｏｎｉｓｓｌｉｇｈｔｌｙｐｅｓｓｉｍｉｓｔｉｃ，ａｎｄｔｈｅ

ｒｅｓｅａｒｃｈｐｅｒｓｐｅｃｔｉｖｅｌａｃｋｓｉｎｔｅｇｒｉｔｙ．Ｐｒｏｓｐｅｃｔｓｆｏｒｒｅｓｅａｒｃｈ：ｍｕｌｔｉｄｉｓｃｉｐｌｉｎａｒｙｋｎｏｗｌｅｄｇｅｓｈｏｕｌｄｂｅｉｎｔｅｇｒａｔｅｄｔｏ

ｃａｒｒｙｏｕｔｒｅｓｅａｒｃｈ； ａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ ｅｔｈｉｃａｌｒｉｓｋ ａｓｓｅｓｓｍｅｎｔａｎｄ ｍａｎａｇｅｍｅｎｔｒｅｓｅａｒｃｈ ｓｈｏｕｌｄ ｂｅ

ｅｍｐｈａｓｉｚｅｄ；ｒｅｓｅａｒｃｈｏｎｔｈｅｃｏｌｌａｂｏｒａｔｉｖｅｄｅｖｅｌｏｐｍｅｎｔｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅａｎｄｈｕｍａｎｉｎｔｅｌｌｉｇｅｎｃｅｓｈｏｕｌｄｂｅ

ｅｎｈａｎｃｅｄ．

Ｋｅｙｗｏｒｄｓ：ａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ；ｈｕｍａｎｉｎｔｅｌｌｉｇｅｎｃｅ；ｉｎｔｅｌｌｉｇｅｎｔｒｏｂｏｔ；ｅｔｈｉｃａｌｒｉｓｋ

（责任编辑 张佑法）

２０６ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ