原文刊载于《社科纵横》2026年第2期

生成式人工智能应用的意识形态风险及其治理探赜

杨晓玲，吴满意

近年来，以大规模预训练模型为核心的生成式人工智能（Generative Artificial Intelligence，简称GAI）技术实现革命性突破与集群式演进，重塑着人工智能（Artificial Intelligence，简称AI）领域的技术体系与演进方式，其在赋能社会进步的同时也带来诸多意识形态的新风险与新挑战，包括主流意识形态引领力面临稀释风险、传统话语权格局遭遇解构压力、信息监管复杂性急剧提升、传播生态呈现结构性重构等问题。意识形态工作事关党和国家前途命运，必须坚定不移掌握领导权、管理权与话语权。在AI深刻变革传播生态的时代背景下，科学辨识GAI的意识形态属性，系统剖析其风险表征与作用机制，构建具有前瞻性和系统性的治理体系，已成为筑牢意识形态安全屏障的迫切需求，也是在守正创新中强化新时代意识形态工作的重要支撑。

一、生成式人工智能的意识形态属性

意识形态作为反映特定阶级或集团利益的观念体系，其载体与形态随技术发展而不断演化。GAI作为前沿信息技术，其意识形态属性根植于人机交互过程中所传递的话语、态度与价值判断，成为特定价值立场与权力关系的物质载体并持续生成意识形态效应。

（一）技术设计的价值负载性与意识形态编码

生成式人工智能的意识形态属性，体现为技术设计过程中内在的价值负载性与意识形态编码机制。生成式人工智能的非中立性贯穿其整个生命周期，在设计阶段，对内容生成目标与表达规则的定义，即是对“技术应为谁服务、实现何种价值”这一根本问题的前提性抉择；在训练阶段，通过语料筛选、标注体系与算法权重的设置，进一步强化模型的内在偏向与价值判断框架；在运行阶段，系统更借助优化目标的设定潜在地引导用户行为，甚至加剧“信息茧房”效应。当生成式人工智能完成这一全周期的价值传导后，即实现了将价值理念转化为沉浸式技术体验，精准作用于个体意识与社会观念，最终演变为意识形态传播的新型物质载体。

（二）资本逻辑的宰制性与价值取向驯化

生成式人工智能的意识形态属性，深刻体现为资本逻辑对其技术发展与价值取向的系统性宰制与驯化。所谓资本依附属性，实质上就是指该技术的演进路径、功能设计及应用场景深度从属于资本增殖的内在要求，技术蜕变为资本实现市场垄断与价值增值的工具性存在。资本将智能技术重构为新型的“增殖载体”，借助对研发方向、数据资源和算力配置的垄断性支配，不断完成自身逻辑向技术逻辑的转译，从而使技术的价值取向彻底服从于资本再生产的需求。一旦生成式人工智能被全面纳入资本增殖的闭环，它便成为资本权力运作的“技术—资本复合体”，而其每一次迭代与功能更新，都深度耦合于资本扩张的战略需求。

（三）权力格局的重构性与话语权博弈

生成式人工智能凭借其技术特性逐渐成为话语权力运行的新型载体，重构着话语的生产、传播与接受机制，使应用主体的意志通过算法路径嵌入社会认知领域。在话语生产层面，生成式人工智能借由算法强大的信息筛选、重组与生成能力，显著改变了话语资源的供给机制；在话语传播层面，生成式人工智能通过重构传播渠道与推送逻辑，为话语权力的传递提供技术支撑，同时通过持续而隐蔽的认知渗透，将话语权力运作机制从传统的显性说服转向更为隐性的认知建构。因此，从技术社会学的“技术嵌入性”视角来看，生成式人工智能不仅具备优化话语生态、提升传播效率的潜力，也隐藏着加剧话语失衡、操纵认知的风险。

（四）认知框架的塑形性与主体性消解风险

生成式人工智能的认知塑造属性，强调通过常态化的人机交互过程，以信息供给、思维引导、决策辅助等方式，潜在影响个体与群体的价值认知体系，以推动传统认知模式发生适应性重构。从认知获取层面看，生成式人工智能快速整合多域信息，为用户提供系统化的认知素材，使个体的价值认知呈现“便捷化”与“碎片化”及“片面化”与“狭隘化”并存的特征；从认知判断标准层面看，生成式人工智能在交互中隐含特定的评价维度与权重，逐渐影响用户的价值评判逻辑；从认知习惯层面看，长期的人机交互既可能使用户形成“技术依赖型认知习惯”，也可以引导用户进行批判性思考，使认知习惯的重构呈现“双向性”。

（五）文化传承的赋能性与意识形态博弈新场域

生成式人工智能作为新型媒介，在文化传承中兼具“赋能”与“重塑”双重功能，是意识形态传播与建构的重要数字化载体。在文化符号的数字化方面，生成式人工智能借助对传统文化元素的系统挖掘与算法重构，积极参与中国特色社会主义文化叙事建设，并在人机交互中助推中华文化的传播与主体性建构；在跨文化传播方面，通过多语言处理与文化适配能力，将经典文本转换为适应目标语境的数字内容，促进文化间的对话与理解，同时也潜藏着权力博弈的风险，可能削弱文化主体性与创新自主性。因此，生成式人工智能是技术逻辑与文化意识形态深度互构的结果，在“守正”层面有助于延续文化根脉，在“创新”层面则可以拓展新的文化表现形态。

二、生成式人工智能意识形态属性的风险样态及其表征

（一）数据偏见与算法黑箱导致价值偏误的固化与扩散

生成式人工智能的意识形态风险集中体现为“数据—算法”双轮驱动的价值偏误机制，通过“偏误输入—偏误放大—风险输出”的闭环传导，对意识形态安全形成系统性冲击。从数据层面看，训练语料的质量和结构直接影响模型输出的意识形态倾向，其更倾向于复制乃至强化既有的优势意识形态，同时数据标注过程中会将标注者的文化认知和政治立场嵌入算法之中，加剧群体间的意识形态认知隔阂；从算法机制来看，“黑箱”特性导致生成逻辑的不可追溯与不可解释，普通用户难以洞察内容背后的价值判断依据，只能被动接受算法所设置的意识形态框架；从风险传导机制来看，数据偏误为算法提供了失范的“原料”，算法则借助其自动化与规模化的能力，将偏误固化并扩散为意识形态风险。

（二）流量至上与内容异化导致资本逻辑对传播生态的侵蚀

资本逻辑深度嵌入生成式人工智能的运行机制，催生出围绕“内容—数据—认知”的递进式异化链条。在内容生产层面，流量至上原则推动传播生态趋于娱乐化与低俗化，反映出资本逐利本性对意识形态传播结构的系统性渗透与改变，稀释主流话语的严肃性与影响力，破坏公共讨论的理性基础；在数据剥削层面，用户日常行为被持续转化为可量化的数据商品，使用户在不知不觉中陷入由资本设定的认知路径，自主价值判断能力和对主流意识形态的认同被逐步消解；在认知殖民层面，资本通过技术将个体抽象为数据符号，用户的完整人格与多元需求被简化为可操作的指标，持续而精准的内容投喂进一步窄化了用户的认知视野。这些风险样态彼此关联、层层强化，共同侵蚀主流意识形态的传播效力和认同基础。

（三）技术霸权与议程设置导致国际国内双维度的舆论主导权受到挑战

生成式人工智能凭借其技术权力属性，在“国际—国内”双重维度可能引发意识形态传播的结构性失衡。两个维度借助技术、数据与话语的隐性联动形成叠加效应，对主流意识形态的舆论主导权构成系统性挑战。在国际维度，发达国家依托对核心技术垄断与高质量数据资源的掌控，持续强化全球意识形态传播的“中心—边缘”格局，发展中国家难以构建具有文化主体性的生成模型，导致其意识形态传播长期陷入“被动接收—认知趋同”的困境；在国内维度，技术平台对生成式人工智能与数据资源的集中掌控，逐步引发舆论引导权力的结构性转移，算法通过深度捕捉用户偏好构建“信息茧房”，不断强化群体认知偏见，促使社会共识逐渐碎片化，导致主流意识形态整合能力持续弱化。

（四）认知依赖与价值迷失导致主体批判性思维的弱化

生成式人工智能对用户认知体系的塑造由外部“被动影响”逐渐深化为内在“主动重构”，呈现认知依赖、思维退化与价值混淆的递进式风险，持续削弱公众对主流意识形态的理性辨识与深度认同。认知依赖的出现缘于用户对技术输出形成盲目信任，表征为认知主体性的隐性让渡。当算法生成内容被视作“客观真理”或“权威结论”时，用户对信息的真实性、逻辑合理性的批判意识便趋于弱化；价值混淆则源于人机关系异化与个性化推送的叠加效应。“沉浸式”交互模糊虚实认知的边界，使用户误将算法传递的碎片化主张当作“社会共识”，定制化内容进一步局限用户的价值视野，加剧判断标准的混乱与分裂。两者相互作用不仅阻碍人们对主流意识形态的系统性认同，甚至可能诱发对共同价值的怀疑与疏离。

（五）文化失语与创新异化导致数字时代文化领导权面临挑战

生成式人工智能在文化传承过程中的应用，潜在风险相互交织，对文化意识形态的传承与领导权构成多维度挑战。在文化资源活化层面，技术的赋能效应与意识形态的固化倾向之间存在内在张力，数字技术在训练数据中因为文化样本的失衡可能导致算法将部分主流文化符号认定为“权威表达”，从而边缘化小众及非主流文化的阐释与传播空间；在跨文化传播领域，生成式人工智能具备多语言转换与文化符号重塑的能力，但算法在跨文化适配中若未能准确理解与传达源文化的意义结构，则可能导致文化误读与意义扭曲甚至引发“文化失语”现象；在文化创新维度，算法驱动的市场逻辑可能导致文化创作过度追求流量效应，陷入“符号化拼贴”的浅层创制，导致生成的文化产品精神内涵空泛，现代化转型脱离文化根脉。

三、生成式人工智能应用中意识形态风险的治理策略

（一）强化理论嵌入以构建马克思主义指导的技术实现路径

构建以马克思主义为指导、技术路径与制度保障相结合的系统化治理体系。一方面，在技术实现层面，应重点构建马克思主义理论的知识增强架构，通过建立动态语义网络与检索增强生成系统（RAG），将马克思主义经典文献与主流价值话语转化为可计算、可调用的结构化知识资源。同时，建立马克思主义语料优先机制，通过专家偏好数据训练奖励模型，调整生成结果的价值导向。另一方面，应注重多元学科协同与人机协同审核，如组建马克思主义理论、伦理学、社会学及计算科学等多学科跨界融合专家团队，集体参与标注、评估与调优过程，防止算法因单一视角产生的偏见，并在关键领域建立“人工+AI”双审核机制，以提升治理的系统性与可靠性。

（二）完善规则嵌入以建立全生命周期价值引领治理机制

强化生成式人工智能的治理，需要构建“数据采集—模型训练—内容生成—应用反馈—数据追溯”的闭环管理体系。在数据采集阶段，要建立符合意识形态要求的标注规范，对训练语料进行政治立场、文化价值等多维度标签化处理；在预训练环节，可借助“人在回路的强化学习”（RLHF）方法实现价值观对齐，将社会主义核心价值观内嵌于奖励模型的激励逻辑中；在微调阶段，应嵌入敏感内容过滤机制，采用注意力计算实现风险检测与拦截；在用户反馈机制方面，需持续优化价值校准参数，增强模型自适应能力；在数据追溯层面，需协同推进显性与隐式水印技术，建立可验证的内容溯源元数据标准并完善日志记录与责任认定机制。

（三）推动内容嵌入以社会主义意识形态充盈技术应用场景

立足中国立场，系统构建国家级红色语料库，为生成式人工智能提供权威、丰富的意识形态语料资源。在技术架构中，可通过构建多维政治语义向量空间，设置意识形态权重参数，以实现价值导向的动态调控。同时，加强对国际平台算法规则与偏见机制的研究，优化多语种生成引擎的设计逻辑，提升跨文化语境中的话语适配与价值传递能力。在此基础上，可研发多语种“中国故事智能生成系统”，借助生成式人工智能等技术手段传播中国声音、展现中国文化，构建国际传播矩阵，强化中国在国际意识形态场域的话语权。最终，建立量化评估与迭代机制，形成“基础建设—技术嵌入—传播效能—反馈优化”的全链条治理体系，实现技术应用与意识形态引导的深度融合与持续升级。

（四）夯实人才支撑以建设高素质、复合型的意识形态与技术融合队伍

有效治理生成式人工智能的意识形态风险，关键在于掌握核心技术并提升自主研发能力，以此主导技术发展方向、巩固意识形态阵地。若缺乏人才支撑，技术自主与话语主导皆难以实现，所以必须构建兼具技术能力与意识形态素养的高水平复合型人才队伍。人才队伍建设的核心在于激发人才的主体性与责任感，系统提升数智素养，确保在人机协同中始终保持人类主导地位。因此，应在技术教育与专业培训中全面融入科技伦理与马克思主义理论教育，将职业规范与价值准则内化为从业者的自觉行为逻辑，从而在技术研发、应用治理与政策设计等多环节形成坚实的人才保障。

综上所述，生成式人工智能的广泛应用正深刻重塑意识形态领域的权力结构、传播生态与认知模式，在技术赋能的同时也带来价值偏误、文化失语、认知依赖等多重风险。其国际与国内双重维度的意识形态传导机制，对主流话语的权威性与社会共识基础构成系统性挑战。未来治理需从技术嵌入、规则构建、内容创新和人才支撑等多层面系统推进，平衡技术发展与价值引领，强化伦理约束与制度保障，以期在人工智能时代巩固意识形态安全、提升文化领导权，实现技术应用与社会主义意识形态建设的协同发展。

（作者简介：杨晓玲（1983—），女，四川成都人，电子科技大学马克思主义学院博士研究生，电子科技大学党委组织部副教授，研究方向为网络思想政治教育；吴满意(1965—),男，河北保定人，博士，电子科技大学马克思主义学院教授、博士研究生导师，研究方向为网络思政、精准思政等。）

本文为对原文的缩减与提炼，省去了图表等部分内容，旨在便于阅读与学习交流。如需学术引用，请务必查阅并引用原发表期刊的完整版本。版权归原作者、原发单位、原发期刊所有。如对我们发布的内容有异议，请与我们联系，我们会及时修改、删除。

欢迎转载，转载请注明出处。