李志强 算法时代数字适老化的风险与规控

发布时间:2023-5-06 | 杂志分类:其他
免费制作
更多内容

李志强 算法时代数字适老化的风险与规控

算法时代数字适老化的风险与规控李志强(兰州大学 法学院,甘肃 兰州 730000)摘要:以泛在化、自动化和去中心化为核心特征的算法技术在深刻影响国家、社会与个人日常生产与生活方式的同时,也在老年群体面前横亘起一道新型的算法“数字鸿沟”。加快推进数字适老化进程是协同跨越算法“数字鸿沟”,顺利推进积极老龄化国家战略的时代面对与必然选择。在厘清数字适老化基本概念与重要意义的基础上,正视数字适老化过程中老年人群体面临的算法排斥、算法歧视与数字沉浸等算法风险,用以算治算的规控理念,健全与完善数字适老化双轨制立法体系,科学内置算法风险分类与识别法律代码,努力提升老年人群体的数字化素养,为构建不分年龄、普惠共享、代际和谐的积极老龄化数字社会提供法治保障。关键词:算法;数字适老化;积极老龄化;以算治算中图分类号:F326.11 文献标志码:A 文章编号:1002-0292(2023)02-0150-09作者简介:李志强,男,兰州大学法学院副教授,博士,主要研究方向为经济法学、社会法学、数字法学。基金项目:教育部人文社会科学研究青年基金项目“积极老龄化视阈下我国老年人群体的立法分类与应对研究”(项目编号... [收起]
[展开]
李志强  算法时代数字适老化的风险与规控
粉丝: {{bookData.followerCount}}
文本内容
第1页

算法时代数字适老化的风险与规控

李志强

(兰州大学 法学院,甘肃 兰州 730000)

摘要:以泛在化、自动化和去中心化为核心特征的算法技术在深刻影响国家、社会与个人日常生产与

生活方式的同时,也在老年群体面前横亘起一道新型的算法“数字鸿沟”。加快推进数字适老化进程是协

同跨越算法“数字鸿沟”,顺利推进积极老龄化国家战略的时代面对与必然选择。在厘清数字适老化基本

概念与重要意义的基础上,正视数字适老化过程中老年人群体面临的算法排斥、算法歧视与数字沉浸等

算法风险,用以算治算的规控理念,健全与完善数字适老化双轨制立法体系,科学内置算法风险分类与识

别法律代码,努力提升老年人群体的数字化素养,为构建不分年龄、普惠共享、代际和谐的积极老龄化数

字社会提供法治保障。

关键词:算法;数字适老化;积极老龄化;以算治算

中图分类号:F326.11 文献标志码:A 文章编号:1002-0292(2023)02-0150-09

作者简介:李志强,男,兰州大学法学院副教授,博士,主要研究方向为经济法学、社会法学、数字法学。

基金项目:教育部人文社会科学研究青年基金项目“积极老龄化视阈下我国老年人群体的立法分类与应对研究”(项目编

号:18YJC820041);国家社会科学基金西部项目“老年人独立原则立法研究”(项目编号:19XFX009);兰州大

学“中央高校基本科研业务费专项资金”自由探索-优秀青年教师科研创新项目(项目编号:2019jbkyzy019)。

宁夏社会科学|NINGXIA SOCIAL SCIENCES

2023年第2期 总第238期

No.2 2023 Gen.No.238

一、问题的提出

2022年1月,国务院发布的《“十四五”数字经

济发展规划》中指出:数字经济是继农业经济、工

业经济之后的一种新的经济形态,正在推动生产

方式、生活方式和治理方式的深刻变革,成为重组

要素资源、重塑全球经济结构、改变全球竞争格局

的关键力量。数字经济以数字化、智能化与泛在

化为核心特征,大数据与算法是数字经济发展基

石与底层逻辑,算法与算力推动下的数字产业化

和产业数字化的创新与发展已经成为把握新一轮

科技革命与产业变革新机遇的战略选择。然而,

数字经济在赋能实体经济转型、推动经济增长、抗

击新冠肺炎疫情等方面给社会与人们生活带来极

大便利,加快社会结构扁平化发展的同时,也暴露

了发展进程不均衡、不充分、不规范等无序发展的

问题,给传统的社会治理机制与法律制度体系带

来了新的破坏与挑战。其中,如何处理好数字信

息技术高速发展过程中信息和通信技术ICTs(In⁃

formation and Communication Technologies)与老龄

化、高龄化的世纪银发浪潮碰撞产生的数字鸿

沟[1]11以及算法支配下产生的算法歧视和算法陷

阱等老年人权益保障问题,已经成为数字经济社

— 150 —

第2页

会发展进程中必须面对和审慎处理的重要课题。

21世纪的老龄化问题是人类历史上没有过的

全世界普遍面对且持续、深刻影响社会各方面的

重大社会问题,我国尤其严重。老龄化、高龄化与

算法主导下的工业4.0数字经济发展大背景,决定

了稳妥推进积极老龄化与数字适老化战略具有关

乎国家与社会发展全局的重要意义。为积极推进

人口老龄化国家战略,满足老年人在数字经济时

代日益增长的多层次、高品质健康发展需求,2021

年12月30日,国务院发布了《“十四五”国家老龄

事业发展和养老服务体系规划》,该规划特别针对

老年人“数字鸿沟”的现实困境,提出互联网网站、

APP应用服务提供商和终端设备制造商等需按照

适老化的标准改进产品,以上下游主体间的功能

衔接推进数字适老化智能服务,以适应信息化时

代老年人的新需求。2020年以来,国务院各部委

先后发布了《关于切实解决老年人运用智能技术

困难实施方案》、《关于进一步抓好互联网应用适

老化及无障碍改造专项行动实施工作的通知》、

《互联网网站适老化通用设计规范》和《移动互联

网应用(APP)适老化通用设计规范》等一系列文

件,从数字适老化的基本原则、场景应用、技术要

求及风险规控等方面进行了相应的条款规定。但

从当下数字适老化相关法规制度与数字适老化产

品的改造现状看,数字适老化工作大都局限于数

字基础设施建设与改造层面,鲜有实质和全面深

入“黑箱算法”(Black-box Algorithm)[2]48内部以合

理识别与科学规控可能存在的新型网络风险,老

年人的“数字鸿沟”与算法歧视和算法陷阱等数字

适老化风险仍然广泛存在。因此,厘清算法时代

数字适老化的基本概念,辨明数字适老化过程中

可能存在的主要风险类型,从数字治理与法律规

控的角度平衡好数字开发能力与数字适老化之间

的关系,不仅有利于推进积极老龄化国家战略,保

障老年人的数字普惠均等与普惠共享权益,而且

有助于实现数字经济和数字社会的包容性与高质

量发展。

二、算法时代数字适老化概念的多维界定

在创造出“算法”这个词之前,它就已经存在,

最初只是作为任何领域中求解问题的计算法则,

与规则、技术、过程、程序和方法等的区别只是使

用场景的不同。“算法”一词来源于公元9世纪波斯

王朝数学家穆罕默德·伊本·穆萨·阿尔·花剌子模

(Muliammad ibn Musa al-Khwarizmt),学者们用拉

丁语翻译其著作《还原与对消的科学》(al-Mukhta

ar ft Hisiib al- Jabr a l-Muqiibala)时,将“还原”

(al-Jabr)译为“代数”(Algebra),将 al-Khwarizmt

译为“算法”即 Algorisms 或 Algorismus 或 Algorith⁃

mus,用以描述特定的常规算术程序(Particular

routine Arithmetic Procedures)[3]2-4

。后该词含义逐

渐扩展,现在大多指代计算机运行的程序化或自

动化运算法则的统称。当前,算法将一系列输入

的数据予以耦合和聚合后以自动化决策(Automat⁃

ed Decision Making)的形式输出并塑造日常生活

的条件,并在计算空间、文化系统和人类认知的交

汇处运行[4]Ⅸ-Ⅺ。

当前,无论是大数据、云计算还是人工智能的

发展都离不开算法的支持,我们已经进入了一个

名副其实的“算法即权力”法则控制下的算法时

代,算法在给社会和人们带来更多效率与便捷的

同时,在重塑社会认知范式、再造社会结构、重置

社会关系[5]

等方面发挥着越来越重要的作用,并对

传统的国家与社会治理范式提出了新的挑战。对

老年人而言,科技发展的速度远远超过了他们的

学习与适应速度,甚至产生继“数字鸿沟”后的“算

法鸿沟”(Algorithm Divide)新问题。如何构建老

龄化时代人机交互友好协调型的算法社会?从法

治与算法的角度科学解读数字适老化概念的多维

界定是解决该问题的首要前提。

(一)积极算法视角的数字适老化

随着以算法为核心的大数据、云计算、人工智

能与区块链等信息技术的快速发展,人们在工作、

交流、互动与消费等领域参与社会生活的方式越

来越离不开互联网。然而,老年人在新兴技术面

前接受与学习能力整体偏弱,以致游离于被数字

排斥的边缘地带。英特尔全球老龄化体验研究

(Intel Global Ageing Experience Study)项目团队通

过对全球八个样本国家的老年人群体在社交媒

体、机器人技术、慢性病管理、护理、游戏、迁移和

数据继承等方面的调查访谈,发现衰老是一个复

杂的概念,它可以从年代、代际和群体的角度对人

们进行相关分类。过去社会上关于老年人群体同

— 151 —

第3页

质化的固有认知以及关于老年人群体的依赖与普

遍性技术文盲的假设都是不科学甚至是错误的,

健康老龄化和积极老龄化与积极的社会参与密不

可分,老年人关注能做的事胜过不能做的事,反对

给予老年人年龄标签的歧视[6]1-12。

积极老龄化战略是建立在反对年龄歧视的基

础上提出的,它不仅要求人们在需要帮助时有获

得保护与照料的权利,更支持人们可以按照自己

的要求、愿望和能力积极参与社会[7]

。因此,积极

算法视角的数字适老化,是指被老龄化后与被老

龄化前,精神与身体健康状况并未有实质差别的

老年人,他们有享受与其他非老年人无差别的被

积极算法对待的平等权利。否则,以年龄歧视的

标准去追求算法时代数字适老化的立法目标,人

为地从立法等规范性法律文件角度对这类老年人

给予特别制度化算法规制的行为,本质上是一种

立法承认的变相限制与歧视。

(二)消极算法视角的数字适老化

面对日新月异的科技发展给人类社会带来的

持续影响和挑战,美国社会学家威廉·奥格本(W.

F.Ogburn)在其著作《社会变迁——关于文化和先

天的本质》中创造性地提出了“文化堕距”(Cultur⁃

al Lag)[8]199-200这一概念。奥格本认为:科技推动下

的社会变迁本质上都是文化的变迁,是物质文化

(社会变迁引发以房屋、工厂、机器等为代表)与非

物质文化(以使用工具的技术、风俗、信仰哲学、法

律等为代表的直接适应文化与潜在适应文化)之

间的社会调试失衡问题,物质文化总是先于适应

文化即非物质文化的,当物质文化变迁时,适应文

化也会变迁,但二者之间并非总是同步的,适应文

化也因此被区分为旧的适应文化与新的适应文

化。学者们将这种“文化堕距”理论进一步延伸出

“制度堕距”、“政策堕距”和“能力堕距”等概念[9]

基于此,我们可以将老年人群体在算法时代社会

变迁过程中呈现的对算法不同类型的适应文化描

述为“算法堕距”,如果对那些无差别适应算法发

展的老年人给予积极算法对待是非歧视性平等权

利赋予的体现,那么对那些难以适应算法发展的

老年人给予消极算法的特别保护性对待则是法律

赋权补位的积极体现。

新冠肺炎疫情中,健康码、行程码和网络购物

等各类移动通信应用成为横亘在许多老年人面前

的一道难以逾越的数字鸿沟。因此,消极算法下

的数字适老化,是指以算法为核心的信息化技术

虽然给人类社会带来颠覆性的效率与便捷的生

产、生活方式,但是也导致老年人群体在物质文化

与非物质文化协调发展过程中产生越来越多的

“算法堕距”问题,老年人在理解、掌握与应用以信

息技术为核心的物质文化变迁过程中,出现难以

适应的非物质文化状态,甚至因此被推到了“制度

堕距”的政策真空地带,客观上使老年人的生存权

与发展权受到算法技术与法律制度的双重损害。

因此,只有从法律制度层面给予这部分老年人特

别的数字适老化制度保护,才能防止他们可能受

到消极算法的技术歧视与社会排斥。

(三)中立算法视角的数字适老化

“没有我们的参与,一切对我们都没有意义”

原为残疾人权利运动(Disability Rights Movement,

DRM)提出的口号,DRM 代表人物 Ed Roberts 认

为:当别人为你说话时,你就输了。因为社会各方

面对残疾人的压迫与歧视,DRM通过提出这一口

号表达对政府控制残疾人权利与发声治理模式的

反抗[10]3-4

。对算法时代的老年人而言,越来越多

的人开始接触互联网并沉浸于以抖音、快手、携

程、美篇为代表的在线旅游、短视频、拍摄美化等

APP,部分老年人甚至成为网络平台具有千万级

以上粉丝的关键意见领袖或“网红”,微信在触网

老年人群体中的市场渗透率高达92.6%,拼多多、

支付宝、今日头条、手机百度等的渗透率也超过了

60%,而且这一比例呈现不断扩大的趋势[11]

。老

年人在算法时代的这种数字生存现状,决定了片

面的采取积极算法角度的数字适老化或消极算法

角度的数字适老化立法与规制理念,很可能会在

保护一部分人数字适老化权益的同时,损害了另

一部分人的数字适老化权益。

数字系统以非常清晰的方式与嵌套于人类中

的语言文化融合在一起[12]5

。在数字系统中,每个

人都拥有两套运行系统:在正式规则定义的构成

系统(Constitutive Systems)与在某个领域以自身独

立存在形式进行管理操作的调节系统(Regulative

Systems)[13]6

。因此,中立算法角度的数字适老化

是指由老年人主体参与的,建立在算法时代文化

— 152 —

第4页

体系中固有构成系统基础上的,以个人调节系统的

不同为标准而动态适应的数字适老化规则体系。

也就是说,算法时代老年人的数字适老化,不是其

他人让老年人的数字适老化,而是以算法自决为原

则,充分赋权老年人主体参与制定的、符合自身客

观实际的、以保护与规制算法时代生存权与发展权

为目标的积极老龄化战略的科学范式选择。

三、数字适老化过程中存在的主要风险

算法在推动AI向着更先进、更复杂和更自主

的方向快速进化发展,给老年人社会生活带来颠

覆性助益的同时,也因算法价值追求的非中立性

与“黑箱算法”不可避免地存在,客观导致对老年

人的算法偏见、算法歧视与算法排斥,造成数字化

时代的数字或算法鸿沟,不仅可能数字性固化并

加剧前算法时代对老年人的偏见、歧视与排斥,而

且会因积极算法或消极算法的无形但统制性存

在,使老年人在数字适老化过程中自觉或不自觉

地陷入新的算法场景下的被歧视、被排斥或被控

制的境地。因此,随着算法控制下AI技术在各领

域的深度融合,以及社会生活场景AI应用背景下

人机协同新范式的逐渐形成,识别与厘清数字适

老化过程中老年人可能存在的主要风险成为提升

数字适老化敏捷治理能力、防控数字适老化新型

治理风险、完善数字适老化科学治理体系,推动算

法与科技造福老年人的首要前提。

(一)传统老年人歧视的数字化重叠固化风险

随着社会结构转型与社会文化的变迁,个人

传统性从传统的“遵从权威、孝亲敬祖、安分守成、

宿命自保和男性优势”逐渐被“平权开放、独立自

顾、积极进取、尊重情感和男女平等”的个人现代

性取代[14]435。国人心理特点转化过程的背后映射

出一种社会文化的变迁导致的“文化堕距”现象。

从文化变迁的历史性维度看,呈现为一种并喻文

化(Cofigurative)与前喻文化(Prefigurative)对后喻

文化(Postfigurative)[15]1

的渐进式替代过程,随着老

年人在这一社会文化演化过程中权威地位的日趋

式微,传统社会对老年人的偏见与歧视不断被

强化。

GIGO(Garbage In,Garbage Out)[16]97的计算机

技术原理在数字适老化过程中体现为:对老年人

偏见与歧视的传统观念被不断强化的同时,算法

控制下数字化时代将对老年人偏见与歧视的风险

进行双重固化。这就意味着,老年人偏见与歧视

的问题仍将在非网络世界中持续存在并不断得以

强化。无论是学术界还是实务界,老年人群体及

利益诉求越来越边缘化甚至被忽略,随着数字化

时代的到来,这一现状不仅没有被技术性中立对

待或减缓,反而被有意识或无意识的隐形固化在各

类网页终端、APP平台,形成的两个不同世界以混

合现实(Mixed Reality,MR)或扩展现实(Extended

Reality,XR)承载形态客观存在,对老年人的偏见与

歧视存在重叠固化的风险,技术和对老年人的偏见

与歧视之间呈现一种正相关的动态联动关系。

(二)算法场景下老年人数字画像歧视风险

算法场景下的数字画像,是指以 Hadoop、

Spark或Flink等分布式、实时或离线计算框架,通

过构建分类模型、聚类模型、回归模型或关联规则

模型等算法设计,对目标分析下的 UV(Unique

Visitor)或 DAU(Daily Active User)镜像的真实用

户(包括年龄、性别、地域、职业、兴趣、家庭、婚姻、

收入、地理位置)以及行为习惯等维度的个人行为

日志、网络日志或服务日志,按照特定标签体系进

行人口属性、行业偏好或购物偏好等挖掘或交互

设计,从而为每个真实用户构建起在网络世界中

的对应虚拟化标签存在。在大数据时代,数字画

像是互联网平台对 UV 或 DAU 进行管理、决策并

进行算法推荐服务等线上应用的核心依据,互联

网平台可以借助科学的数字画像粒度处理,形成

对 UV 或 DAU 独一无二的标签化认知,从而为产

品开发、行业分析与精准营销等业务提供科学数

据与决策参考。

算法场景下的老年人,是指算法通过对在线

UV或DAU老年人的行为日志、网络日志或服务日

志进行的与非老年人并无本质差别的一般性聚

类,经过过滤、挖掘和分析后塑造的数字画像,其

中,以某个岁数作为区分用户是否为老年人的标

签是区别于一般人口属性的特殊标签设定。因

此,算法场景下老年人数字画像与其他UV画像的

最大区别是年龄维度的标签化设定,这种以年龄

为人口标签重要组成的粒度标签体系,并未充分

利用算法精准识别人的健康程度、生活方式与外

表等客观存在的巨大差别[17]2

,而是沿袭传统年龄

— 153 —

第5页

歧视理念,形成新的算法歧视问题。在这种数字

化算法年龄歧视场景下,算法既可以根据年龄这

一单维标签也可以复合使用多维组合标签进行评

估与使用,导致互联网终端既可以进行自动化歧

视或排斥老年人的场景化参与,又可以据此强化

数字画像下老年人之间的不公平市场交易,客观

上必然导致老年人遭受算法场景下数字画像的新

的更加复杂的歧视性风险。

(三)算法场景下老年人沉浸式信息茧房风险

当 前 ,人 类 社 会 已 经 进 入 Web3.0 时 代 ,

Web3.0 应 用 Mashup 技 术 将 UGC、PGC、OGC 或

AIGC产生的信息进行有效聚合,实现PC、WAP或

PDA 等互联网终端之间的模式兼容与普适,利用

区块链数字新技术建立可信的SNS、可管理的IM

与VoIP等在数字技术与信息管理之间可有序融合

的通道,通过算法推动实现信息的透明、开放与共

享。但是,由于不同终端大数据算法在算法模型

的目标分析、数据收集与使用、模型训练与评估等

方面不同,导致信息提供者与接受者之间因过滤

气泡[18]10作用呈现明显信息不对称的特征,很容易

因接受信息的局限性形成信息茧房[19]9-11,让信息

接收者最终在回声室效应[20]116下走向信息闭塞、

信息偏见与算法专制,最终陷入交往非理性的与

社会逐渐割裂的沉浸式信息茧房中,这不仅与数

字适老化科技向善、数字养老的初衷背道而驰,而

且不利于和谐社会的目标实现。

算法通过推荐与喂养的方式在对网民各类信

息充分占有基础上,利用触发—行动—多变酬

赏—投资这一上瘾模型的反复驯化,让用户对某

种信息、行为或产品产生心理依赖,在实现新的超

级权力对人的心理与行为无形控制[21]2-4

的同时,

让算法场景下人们的知识鸿沟进一步扩大甚至在

精神上实现“阶层分化”。对老年人而言,因算法

控制包括年龄标签在内的画像塑造与评估标签体

系的歧视性存在,导致算法对老年人数字画像的

塑造与专制控制将更加容易,这种沉浸式信息茧

房风险也将明显高于其他群体。因此,如何防控

算法场景下老年人沉浸式信息茧房风险,以避免

知识鸿沟与算法鸿沟的进一步扩大,是数字适老

化战略实现信息与科技平等分享与使用应关注的

重要风险之一。

四、算法时代数字适老化风险的防控建议

作为一种历史趋势,信息时代的主导功能与

过程越来越多地围绕着网络而组织。网络构成了

新的社会形态,网络逻辑的扩散极大地改变了生

产、经验、权力与文化的运作和结果。虽然社会组

织的网络化普遍存在于传统社会形态中,但以流

动的权力优先于权力流动和社会形态优先于社会

行动为核心特征的信息技术范式,为社会组织的

网络化在整个社会结构中的扩张提供了物质基

础,网络是否存在以及每个网络相对于其他网络

的动态成为社会中支配与变革的关键来源[22]500。

因此,数字适老化战略不仅是算法时代积极老龄

化战略的重要组成部分,更是政府努力推动老年

人群体跨越数字鸿沟、融入数字时代、维护老年人

平等生存与发展权的时代选择。然而,面对相关

数字经济主体利用算法对老年人群体制造的算法

歧视固化与升级、数字画像大数据杀熟、信息茧房

诱导沉迷可能引致的精神“阶层分化”这三重主要

风险,虽然国家已经关注并颁布了有关数字适老

化的规范性法律文件,但大都局限于形式上的功

能性设计改进与完善,鲜有算法的内在特点与实

质性技术逻辑,不足以从根本上满足数字适老化

过程中老年人面对可能出现的风险时的安全保障

要求。因此,从数字适老化的法律治理理念、双轨

制度衔接、风险等级分类管理、提升老年人群体数

字化素养水平四大方面进行讨论,不仅在形式上

有助于推进数字适老化相关配套制度的健全与完

善,也有助于在实质上满足老年人数字促进、数字

福利与公平目标的实现。

(一)将以算治算的理念植入数字适老化战略

人类社会进入工业4.0时代以来,算法主导下

的大数据、云计算、人工智能、区块链和边缘计算

等信息科技迅猛发展,将几乎所有人都推入了一

种人机互融、虚实同构、算法控制的生存与发展时

代场景中,每个人都可以轻而易举地以数字或代

码的形式存在于网络世界,与现实世界镜像混合

存在。在这种线上算法全息控制与线下法律被动

规训的交互共生场景中,传统经验文化与既有法

律制度因无法跟随算法的动态变化而变化,呈现

逐渐失灵甚至渐趋“死亡”的发展态势[23]

。我们现

在使用的几乎所有在线服务都依赖于算法,个人、

— 154 —

第6页

公司甚至政府的公共管理机构都将决策权委托给

了算法,原信息主体对算法自动化分析、评估与分

类等过程无从得知,不能预判算法对自身法益带

来的可能影响[24]

,从而对隐私、歧视、消费者保护、

言论自由或公平审判权等造成了潜在威胁。这种

现象正在影响法律的设计、应用和解释方式,从而

将以算治算的治理理念推到了历史的前台[25]14,即

算法规训下代码法律化的技术发展与运行范式让

法律代码化成为可能,人工智能、区块链、智能合

约与虚拟现实等颠覆性技术的日趋成熟,为法律

代码化(即将法律以代码方式嵌套于算法之中的

以算治算理念)成为现实提供了必要的技术条件,

法律代码化的算法规训与塑造新模式使法律对社

会的调控由规制行为后果转向塑造行为过程的法

律治理新时代[26]

现行颁布实施的《网络安全法》、《数据安全

法》、《个人信息保护法》、《互联网信息服务算法推

荐管理规定》,以及《关于切实解决老年人运用智

能技术困难实施方案》、《关于进一步抓好互联网

应用适老化及无障碍改造专项行动实施工作的通

知》、《工业和信息化部关于切实解决老年人运用

智能技术困难便利老年人使用智能化产品和服务

的通知》、《互联网网站适老化通用设计规范》和

《移动互联网应用(APP)适老化通用设计规范》等

法规文件,虽然对个人网络信息保护、网络安全与

算法杀熟等问题给予了积极关注,为相关主体推

动数字适老化工作提出了新的要求和具体举措,

但大都局限于基础性权利界定与一般数字基础设

施的无障碍数字适老化结构性改造,鲜有从实际

可操作的规控数字适老化的法律风险、增强老年

人数字红利角度进行法律制度算法嵌套范式的努

力。通过对数智化社会新的发展特点与运行形态

可知,只有用以算治算[27]

的理念、将法律以代码方

式嵌套植入数字适老化法律制度体系中,才能将

算法对老年人群体制造的歧视加固、算法排斥与

沉浸式信息茧房等算法歧视风险予以精准、有效

的规制与化解,同时建立与数字适老化相匹配的

数字法律秩序:算法监管、算法审计与算法治理。

(二)推动数字适老化立法与传统立法间的有

效衔接

根据中国互联网络信息中心(CNNIC)发布的

第49次《中国互联网络发展状况统计报告》[28]

:截

至2021年12月,我国60岁及以上老年网民数量为

1.19亿人,占网民整体比例的11.5%,60岁及以上

老年人网络普及率为43.2%。为持续推进数字适

老化、努力帮助老年人跨越“数字鸿沟”以更好地

共享数字公平与数字福利,相关部门先后发布了

《关于进一步抓好互联网应用适老化及无障碍改

造专项行动实施工作的通知》、《互联网应用适老

化及无障碍水平评测体系》、《互联网网站适老化

通用设计规范》以及《移动互联应用(APP)适老化

通用设计规范》等规范性法律文件,并推出老年人

专属网络优惠资费、老年人人工直连热线以及老

年人互联网教育等互联网配套服务助老举措,老

年人网民的数量与比例呈现稳步上升趋势。值得

注意的是,已经成为网民的老年人在网络基础硬

件占有、网络与移动互联应用(APP)的熟练掌握

程度等方面仍存在较大差异,老年人网民群体中

能独立完成出示健康码与行程码、网络购物、查找

网络信息的老年网民占比分别为69.7%、52.1%和

46.2%,当遇到不会使用相关网络应用时,只有不

足20%的人愿意主动学习使用[28]

因此,国家既要推动数字适老化立法以保护

那些进入网络与算法场景中的老年人,同时还要

继续维护尚未成为网民或不可能成为网民的老年

人的合法权益,推动建立数字适老化立法与传统

立法双轨并行制度体系间的有效衔接与有序兼

容。当然,数字适老化只是算法时代积极老龄化

战略推进的数字化手段,在帮助有意愿、有能力和

有条件的老年人成功跨越数字鸿沟、消除融入数

字社会的科技障碍之后,还应赋予他们在数字社

会中应有的主体地位和话语权,给他们的数字化

生存与发展创造安全有保障的数字环境,以重建

数字社会中社会角色与社会连接基础上的新的数

字社会秩序。

(三)构建数字适老化算法风险等级分类监管

制度

互联网产品与应用运营主体在硬件与软件的

双重支撑下,通过摄像头、麦克风、传感设备、LBS

以及 GPS 等信息技术与智能设备,实时监控与收

集用户的地理位置、IP地址、鼠标点击、网页停留

时间、浏览内容、历史记录和社交网络等数据信

— 155 —

第7页

息,经过贪心算法、蒙特卡洛算法与KMP算法在内

的各种算法对收集到的大数据进行处理、分析与

评估,为产品研发、行业分析与精准营销提供参

考。这种算法喂养、算法驯化与算法专制统治形

成的数字画像、信息茧房与数字“圆形监狱”[29]151

的过程,使所有进入全景敞视算法场景的人陷入

技术监控的网络中而难以自我挣脱。对进入算法

场景中的老年人,“文化堕距”、前喻文化的代际文

化和心理差异决定了他们很难共时性地完全识破

算法陷阱、突破信息茧房与“圆形监狱”的技术规

制,只有从顶层设计角度建立和完善算法等级分

类管理制度,才能对数字适老化过程中老年人群

体可能遇到的算法风险予以预先制度性规避与提

醒,赋予和保护与老年人算法认知能力相适应的

选择权,为老年人提供一个安全、公平的数字生存

环境。

算法风险制度建构方面,欧洲《人工智能法

案》(Artificial Intelligence Act,AIA)设计了一套包

括最低风险、有限风险、高风险与不可接受风险在

内的“产品安全制度”,为数字适老化过程中积极

应对算法风险提供了非常有价值的参鉴。AIA建

立现代、分层、分类别的风险金字塔规控模型,将

不同类型与不同等级的风险对应不同的管控规

则,除了要求所有人工智能产品在上市前必须接

受统一的机器学习、训练、测试和数据集的合法验

证外,还要求高风险人工智能系统的市场准入与

认证必须通过欧盟统一强制性市场认证(CE)程

序,严格禁止对人或特定弱势群体的认知行为进

行操控,严格禁止实时或远程生物特征识别系统

等不可接受风险类型的应用产品与程序进入市

场。为了防止过于苛刻的风险分类等级管理制度

可能扼杀科技创新,AIA 为科技开发主体特别设

置了可以提供喘息空间的“合法沙盒”(Legal

Sandbox),以平衡科技创新与安全监管之间的关

系[30]

。因此,算法场景的数字化产品与应用市场

全周期的合法监管制度中,引入风险金字塔规控

模型与监管制度,按照积极算法视角、消极算法视

角与中立算法视角所对应的具有不同风险识别与

管控能力的老年人,嵌套与之相匹配的风险管控

规则,是积极推进数字适老化战略,为老年人提供

安全有序数字化监管制度环境的有效路径。

(四)努力提升老年人群体的数字化素养水平

老年,是每个可以经历完整生命周期的人的

必经阶段。面对人口结构的急遽变老与科技产品

持续更新之间碰撞出的越来越深的数字鸿沟,致

力于消除数字鸿沟的教育学专家Mark Prensky与

Wesley Fryer 从数字景观的视角将所有人分成了

不同的数字化角色状态类型。Mark Prensky首先

提出了数字原住民和数字移民的概念[31]

,认为在

学习方法上,数字原住民与数字移民存在迥异的

语言和风格,数字原住民是在电脑、电子游戏、数

字音乐播放器、视频摄像机、手机以及数字时代所

有科技产品的伴随下自然成长的,多倾向于软件、

硬件、机器人技术、纳米技术、基因组学等数字化

与技术化的内容学习,而数字移民对数字技能知

之甚少甚至完全陌生,只能通过强迫自己主动学

习才能适应动态变化的数字化世界。Wesley Fry⁃

er 在 Prensky 相关概念的基础上进一步提出了数

字 难 民(Digital Refugees)、数 字 窥 探 者(Digital

Voyeur)、数字桥梁(Digital Bridges)和身份不确定

者(The Undecided)等数字景观下人们所处的数字

化角色状态概念[32]

。其中,老年人由于政治、经

济、文化等各方面的原因,成为数字鸿沟彼岸距离

数字文化最远的数字难民。

ICTs 虽然深刻改变着我们的日常生活,但也

并非创造出了一个要求任何人必须不惜一切代价

进入的平行世界[33]12。因此,数字适老化战略针对

的是那些虽身处数字难民状态,但愿意向身份不

确定者、数字窥探者、数字桥梁或数字移民等数字

化角色状态转变的老年人。然而,在数字适老化

过程中,提升老年人群体的数字化素养水平并非

简单地进入网络世界即成为网民的形式化转变过

程,还须结合老年人自身的语言、教育、年龄、性

别、认知、社会、文化、技术、法律、财务、情感以及

地理位置等多种因素综合考虑与评估。信息世界

是一个人居住的环境、文化和社会规范、社会类型

以及个人与他人创造和体验的所有信息形式的集

合体[34]83-84。这就要求政府在积极推进数字适老

化战略、提升老年人数字化素养水平过程中,坚持

以老年人为中心,基于特定主体和特定情境的方

法,遵循基本的信息行为原则,从技术手段(宽带

不平等)、自主性(无论用户在家还是在工作中登

— 156 —

第8页

录、受监控或不受监控、时间是否自由)、技能(如

何搜索或下载信息的知识)、社会支持(从更有经

验的用户那里获得建议)、目的(使用互联网的目

的是为了提高经济生产力、改善社会还是为了消

费或娱乐)[35]199及风险防控等多维角度,提供符合

实现数字平等、数字促进与数字福利目标的跨领

域的信息系统、服务配套与制度体系。

五、小结

在一个人人“有数”的算法时代,数字下沉、数

字分化与数字促进交相辉映,但老年人群体与数

字时代之间的数字鸿沟是显而易见且不可自主消

弭的[36]3-6

。一部分老年人因不会使用智能终端设

备,无法融入数字场景中,被关在了数字时代的大

门之外。另一部分老年人虽然享受数字红利,但

却很容易被算法俘获而沉浸于信息茧房中无法自

制,或者因歧视性数字画像被算法歧视或排斥,陷

入不公平交易的市场主体地位。技术是工具、手

段,而非目的。因此,通过数字基础设施的建设与

改造只是为数字适老化提供了一扇进入互联网世

界的大门,技术本身无法自主消除数字鸿沟背后

折射的社会不平等现实[37]223,这必然要求国家通过

强力干预为老年人群体创造一个公平的数字环

境,同时,也要对进入数字化场景中的老年人提供

充分的数字化制度安全保障。

数字适老化战略既不是对无法进入网络世界

的老年人的歧视、排斥与否定,也不是对进入网络

世界的老年人的听之任之,而是在沿袭传统老年

人权益保护立法制度框架的基础上,正视以算法

歧视和大数据杀熟为代表的数据滥用,以用户画

像、默认勾选套取信息、霸王条款强取信息、未经

授权夺取信息为代表的个人信息收集乱象,以漏

洞、黑客、网络爬虫、数据黑产为代表的妨碍数据

利用的变量等数据安全问题,从积极算法视角、消

极算法视角和中立算法视角进行系统立法的顶层

设计,由监管机构、外部机构共同组成的多元主体

协同科学治理算法时代数字适老化风险,维护进

入数字化场景中老年人的合法地位与应有权益,

为他们的生存与发展提供自由、安全和高效的数

字化环境,以积极推动科技向善、提升老年人数字

素养、弥合数字鸿沟,实现数字时代老年人数字公

平与数字红利的价值目标。

参考文献:

[1]PEGGY J P. The digital divide[M]. San Diego:

Reference Point Press,2013.

[2]EBERS M,NAVAS S. Algorithms and law[M].Lon⁃

don:Cambridge University Press,2020.

[3]CHABERT J L. A history of algorithms:from the

pebble to the microchip[M]. Berlin:Springer,1999.

[4]FILIMOWICZ M. Digital totalitarianism:algorithms

and society[M]. New York:Routledge,2022.

[5]喻国明,耿晓梦.算法即媒介:算法范式对媒介逻

辑的重构[J].编辑之友,2020(7).

[6]PRENDERGAST D,GARATTINI C. Aging and the

digital life course[M]. New York and Oxford:Berghahn

Books,2015.

[7]World Health Organization. Active ageing:a policy

framework[R]. 2002.

[8]OGBURN W F. Social change:with respect to cul⁃

ture and original nature[M]. New York:B.W. Huebsch,1923.

[9]李熠煜,杨旭,孟凡坤. 从“堕距”到“融合”:社会

“智”理何以“适老化”[J].学术探索,2021(8).

[10]CHARLTON J I. Nothing about us without us:dis⁃

ability oppression and empowerment[M]. California:Univer⁃

sity Of California Press,2000.

[11]MobTech 研究院.2021 年中国银发经济洞察报

告[R].2021.

[12]HURFORD J R. Language and number:the emer⁃

gence of a cognitive system[M]. London:Basil Blackwell,

1987.

[13]CRUMP T. The anthropology of numbers[M]. Lon⁃

don:Cambridge University Press,1990.

[14]杨国枢.中国人的心理与行为:本土化研究[M].

北京:中国人民大学出版社,2004.

[15]Margaret Mead. Culture and commitment:a study

of the generation gap[M]. New York:Natural History Press/

Doubleday & Company,1970.

[16]张莉.数据治理与数据安全[M].北京:人民邮电

出版社,2019.

[17]HERRING J. Older people in law and soci⁃

ety[M]. New York:Oxford University Press,2009.

[18]PARISER E. The filter bubble:what the internet

is hiding from you[M]. London:Penguin Press,2011.

[19]CASS R. Sunstein. Infotopia:how many minds pro⁃

duce knowledge[M]. New York:Oxford University Press,

2006.

— 157 —

第9页

[20]CASS R. Sunstein. Republic.com 2.0[M]. New Jer⁃

sey:Princeton University Press,2007.

[21]EYAL N. Hooked:how to build habit- forming

products[M]. New York:Portfolio/Penguin,2014.

[22]CASTELLS M. The rise of the network society:

with a new preface,volume I,second edition with a new

preface[M]. New York:Wiley-Blackwell,2010.

[23]余成峰.法律的“死亡”:人工智能时代的法律功

能危机[J].华东政法大学学报,2018(2).

[24]陈风润.算法规制的法律困境与消解路径[J].学

习与实践,2022(12).

[25]Martin Ebers,Marta Cantero Gamito. Algorithmic

Governance and Governance of Algorithms:Legal and Ethi⁃

cal Challenges[M]. Switzerland:Springer,2021.

[26]齐延平. 数智化社会的法律调控[J]. 中国法学,

2022(1).

[27]蒋超. 法律算法化的可能与限度[J]. 现代法学,

2022,44(2).

[28]中国互联网信息中心.第49次中国互联网络发展

状况统计报告[R].2022.

[29]福柯.权力的眼睛[M].严锋,译.上海:上海人民

出版社,1997.

[30]KOP M. EU artificial intelligence act:the europe⁃

an approach to ai[J]. Stanford- Vienna Transatlantic Tech⁃

nology Law Forum,Transatlantic Antitrust and IPR Develop⁃

ments,Stanford University,2021(2).

[31]PRENSKY M. Digital natives,digital immigrants[J].

From On the Horizon,2001(9).

[32]FRYER W. Digital refugees and bridges[DB/OL].

[2022-03-31]. http://blog.infinitethinking.org/2006/10/digi⁃

tal-refugees-and-bridges.html.

[33]WARSCHAUER M. Technology and social inclu⁃

sion[M]. London:The MIT Press,2003.

[34]CARLEEN F M. Digital lifeline?ICTs for refugees

and displaced persons[M]. London:The MIT Press,2018.

[35]WARSCHAUER M. Technology and social inclu⁃

sion[M]. London:The MIT Press,2003.

[36]数字原野工作室. 有数:普通人的数字生活纪

实[M].广州:南方日报出版社,2022.

[37]LISA J. Servon. Bridging the digital divide technol⁃

ogy[M]. London:Blackwell Publishers Ltd,2002.

Risk and Regulation of Digital Aging in the Age of Algorithms

Li Zhiqiang

(Law School,Lanzhou University,Lanzhou,Gansu 730000)

Abstract:Algorithmic technology with ubiquity,automation and decentralization as its core features has profoundly affected

the daily production and lifestyle of the country,society and individuals,and has also created a new“digital divide”of algo⁃

rithms in front of the aging population. Accelerating the digital aging process is an inevitable choice in the era of collaborative⁃

ly crossing the“digital divide”of algorithms and smoothly advancing the national strategy of active aging. On the basis of clari⁃

fying the basic concepts and significance of digital aging,facing up to the algorithmic risks such as algorithm exclusion,algo⁃

rithm discrimination and digital immersion faced by the elderly in the process of digital aging,with the concept of regulation

and control based on calculation and calculation,improve and perfect the digital aging dual-track legislative system,scientifi⁃

cally built-in legal code for algorithm risk classification and identification,and strive to improve the digital literacy of the el⁃

derly group,provides legal guarantees for building an age-free,inclusive sharing,intergenerational harmonious and actively

aging digital society.

Keywords:algorithm;digital suitable for aging;active aging;calculation by arithmetic

(责任编辑 薛雯乔)

— 158 —

百万用户使用云展网进行电子书制作,只要您有文档,即可一键上传,自动生成链接和二维码(独立电子书),支持分享到微信和网站!
收藏
转发
下载
免费制作
其他案例
更多案例
免费制作
x
{{item.desc}}
下载
{{item.title}}
{{toast}}