|
CUAI观察:人工智能领域安全也不能“掉链子”时间:2026-05-29 据2026年4月23日光明网传媒官方账号报道,产业链供应链安全事关国家经济安全和高质量发展全局,境外间谍情报机关针对我国产业链供应链的渗透、破坏与窃密行为日益隐蔽化、专业化、体系化。从半导体技术的“内鬼泄密”,到数据资源的“寄生窃取”,再到关键矿产信息的“机密套取”,这些触目惊心的案例提醒我们:产业链供应链上每一个环节都可能成为被攻击的薄弱点。 然而,在高度关注传统产业链供应链安全的同时,一个更加隐蔽、影响更为深远的领域正在被忽视:人工智能领域的安全,同样不能“掉链子”。 与传统的产业链供应链相比,人工智能领域的安全风险具有更强的隐蔽性、更广的渗透性和更难追溯的责任链条。传统的数据泄露、技术窃取有明确的法律禁止事项和追责路径,而AI领域的安全漏洞往往隐藏在算法黑箱之中,加之立法尚不健全,使得这些风险正在无声无息地侵蚀着国家经济安全、社会信任和公众的三观。
一、AI收集各行业数据的合法性:法律的灰色地带当前,人工智能大模型的训练需要海量数据。这些数据从何而来?是否获得了数据主体的合法授权?是否存在超范围收集、违规使用的问题?答案往往是不明确的。 许多AI平台通过网络爬虫、API接口、数据交易等方式,大量抓取各行业的企业信息、个人数据、行业报告。然而,现行法律对“数据爬取”行为的定性尚存争议,《数据安全法》《个人信息保护法》虽有原则性规定,但对于AI训练场景下的数据使用缺乏细化的规则。一些平台以“公开数据”“合理使用”为由,将本应受到保护的数据纳入训练集,却未履行告知同意、匿名化处理等法定义务。 更值得警惕的是,加工出售企业单位信息的大数据服务平台,其安全合规性存在大量盲区。某些平台将收集到的企业司法案件、信用记录、经营数据等加工成“风险报告”“信用评分”,然后向金融机构、合作伙伴出售。这些数据是否准确?加工过程是否存在偏见?数据来源是否合法?平台VIP会员谁能保证没有外国使用者?当错误信息被标注为“风险提示”并广泛传播时,受害企业申诉无门、纠正无路。 二、AI生成评价的偏见性与歧视性:算法背后的“不负责任”AI平台生成的对各行业、各企业、各观点的评价,正在深刻影响公众的认知和决策。然而,这些评价往往带有系统性偏见和歧视性,且平台以“算法自动生成”为由拒绝承担责任。 例如,一个信用评分AI可能因为某企业曾经涉及一场诉讼(即使该企业已胜诉)而将其标记为“高风险”;一个招聘筛选AI可能因为训练数据中的性别偏差,而系统性地排除某些群体的候选人;一个内容推荐AI可能因为“点击率高”而放大极端观点,制造信息茧房。这些偏见和歧视,不是偶发的“技术误差”,而是算法设计、数据采集、模型训练等环节系统性缺陷的必然结果。 更为严重的是,当这些评价造成损害时,平台往往援引“技术中立”“算法自动生成”等说辞推卸责任。用户找不到具体的责任人,监管部门难以穿透技术黑箱,受害者维权无门。这种“不负责任”的状态,使得AI评价成为一把无法收回的利剑。 三、国外势力通过AI大模型渗透:改变认知的“隐形战场”产业链供应链上的间谍行为,表现为窃密、寄生、策反等有形手段;而人工智能领域的安全威胁,则更多表现为无形的认知渗透和价值观侵蚀。 国外势力通过AI大模型的思维逻辑特性,正在悄然改变AI对事物的看法和判断。他们可能通过操控训练数据、注入偏见样本、设计诱导性提示词等方式,使AI模型在回答某些敏感问题时,输出符合其政治意图的结论。这些结论通过AI搜索、智能问答、内容推荐等渠道广泛传播,潜移默化地影响人们的生产、生活、社交、娱乐、文化的世界观和人生观。 例如,一个由国外主导训练的通用大模型,在回答关于中国政治体制、历史事件、社会治理等问题时,可能带有预设的负面框架;在对中国企业、行业进行评价时,可能采用双重标准。这些“算法偏见”不像传统间谍行为那样容易被察觉,但其长期累积的认知危害,远比单次数据泄露更为深远。 不负责任的信用风险提示,同样可以成为国外势力干扰中国经济的工具。通过AI系统对中国企业进行不公正的风险标注,影响其融资、合作、市场声誉,从而达到打压特定行业、特定企业的目的。这种“算法战”隐蔽性强、成本低、覆盖面广,已成为新的安全威胁形态。 四、补齐AI安全短板:从立法、标准、监督到自律面对人工智能领域隐蔽而严峻的安全风险,我们不能坐等立法完善,而必须主动作为,从多个维度补齐短板。 第一,加快AI领域立法进程。 明确AI收集数据的合法性边界,细化“公开数据”的使用规则,建立数据爬取的备案和审查制度。对加工出售企业信息的大数据服务平台,实施准入管理和定期审计,确保数据来源合法、加工过程透明、评价结果可追溯。 第二,建立AI评价的公平性标准。 对信用评分、风险提示、招聘筛选等影响重大的AI评价系统,实施强制性公平性检测。要求平台披露评价依据、数据来源、算法逻辑,并对评价结果的准确性承担法律责任。禁止以“算法自动生成”为由推卸责任。 第三,强化对国外AI大模型的监管。 对在国内市场广泛使用的国外AI产品,实施内容安全审查和算法备案。防止其通过内置偏见、诱导输出等方式,传播不符合中国法律法规和社会主义核心价值观的内容。对恶意标注、歧视性评价等行为,依法追究责任。 第四,提升全社会AI安全意识。 企业和公众应当认识到,AI系统输出的信息并非客观真理,而是算法加工的结果。在使用AI进行决策时,保持审慎态度,对重要结论进行人工复核。发现AI存在偏见或错误时,积极使用纠错渠道,及时反馈。 五、人人有责:筑牢AI安全的人民防线产业链供应链安全“人人有责”,正如光明网报道所强调的,这不是政府和企业的“独角戏”,而是人人有责、人人可为。人工智能领域的安全同样如此。
CUAI语产业链供应链上,每一颗螺丝钉都不能松动;人工智能领域,每一个算法、每一条数据、每一次评价,同样不能“掉链子”。 传统安全风险有形的,AI安全风险是无形的;传统窃密有迹可循,算法偏见难以察觉;传统法律有明确禁区,AI立法尚在途中。但隐蔽不等于不存在,无形不等于无危害。当国外势力通过AI大模型渗透认知,当不负责任的信用评价摧毁企业,当数据收集游离于法律灰色地带——人工智能领域的安全,已经到了必须正视、必须行动的时刻。 促AI向善,从补齐安全短板开始。让立法跟上技术,让标准规范算法,让监督穿透黑箱,让责任回归人。唯有如此,人工智能才能真正成为推动高质量发展的向善力量,而非威胁国家安全的隐形漏洞。 这是CUAI的立场,也是这个时代不能回避的责任。 |

