2026年11月3日星期二

AI 能安全使用敏感数据吗?5 项必备能力(IBM Technology 学习笔记)

 

AI 最有用的数据(客户个人信息、健康、财务)往往也最敏感。IBM Technology 的这节课讲了一个思路:先打好五项基础控制,再让 AI 接触敏感数据。下面是我的学习笔记。

为什么要"机器速度"的控制

过去几十年,我们建立控制手段防止"人"接触敏感数据;现在数据交给了能以机器速度处理、也可能以机器速度泄露的 AI,所以控制措施必须同样快。要么把核心数据全交给 AI,要么得到平庸的结果--第三条路,就是下面五项能力。

1. 看见(Visibility)

你无法保护看不见的东西。数据可能在本地、终端、SaaS、托管云,也可能在传输中,需要统一视图,知道谁在用、为什么用。

2. 识别(Identify)

按敏感级别分类。手工打标签慢、易错、有遗漏,所以要自动、持续的分类,并且在数据到达 AI 系统之前尽早完成。

3. 约束(Constrain)

数据驻留回答"数据在哪里",数据主权回答"哪国法律管辖",数据本地化是法律要求数据必须在特定地区存储和处理。例如美国公司把数据放在德国数据中心,就可能受 GDPR 约束。要有可执行的控制,并让法务认可。

4. 控制(Control)

用身份与访问管理(IAM)的"四个 A":管理(含最小权限原则)、认证(多因素、通行密钥)、授权(基于角色的访问控制、条件访问)、审计。

5. 证明(Prove)

审计员要的是证据。自动记录数据流动,保存成不可篡改的审计轨迹,证明数据在哪、谁访问、做了什么、哪个 AI 用了它。

术语表

  • PII:个人身份信息
  • Data residency:数据驻留
  • Data sovereignty:数据主权
  • Data localization:数据本地化
  • Principle of least privilege:最小权限原则
  • Immutable audit trail:不可篡改的审计轨迹

自测题

"哪国法律管辖我的数据"对应哪个概念?A 数据驻留 B 数据本地化 C 数据主权 D 数据分类。(答案见文末)

和求职面试的关系

做 AI、云或数据岗位,面试常问:如何保护进入模型的敏感数据?你可以按"看见、识别、约束、控制、证明"五步回答,再补充 PII 分类、最小权限、GDPR 与数据主权、审计日志等细节,结构清晰,容易加分。

答案:C。驻留问"在哪",主权问"谁的法律"。

来源

内容整理自 IBM Technology 视频《Can Your AI Use Sensitive Data Safely? 5 Capabilities You Need》:原视频;中文学习卡:课程页。

2026年11月2日星期一

上下文感知编程:给 AI 编程智能体正确的上下文|Agentic Coding、agents.md、锁文件详解

导语:用 AI 编程智能体写代码时,你有没有遇到过这种情况:让它“加一个登录接口”,结果它用了你项目里根本没有的认证库,目录结构和错误格式也跟现有代码对不上?问题往往不在模型,而在上下文。IBM Technology 这节课讲的就是“上下文感知编程”:怎样给智能体相关的上下文,而不是全部的上下文,并且让你自己始终掌控决策。

一、为什么一句提示词不够

一句话的需求,面对的是成千上万个文件和多年积累的技术决策。提示词本身解释不了这些。所以同样是“加登录接口”,在一个仓库里应该写成带 Pydantic 模型的 FastAPI 路由,在另一个仓库里可能是 Go 的处理函数。好代码取决于代码库本身。

二、智能体需要的六类输入

  1. 现有代码与文件:好的智能体会自己搜索和打开文件,你要做的是指方向,例如“参照 README 里的写法”。
  2. 仓库结构:测试放哪、模块怎么分。用工具生成一份精简的“仓库地图”(repo map),模型不用逐行读也能看清项目形状。
  3. 依赖及其版本:只知道用了某个库不够。锁文件(lock file)记录了每个依赖的精确版本,决定哪些 API 真实存在。很多“幻觉函数”其实是版本对不上。
  4. 能跑的测试:形成“写代码—跑测试—修复”的反馈循环,让智能体知道什么叫“做对了”。
  5. 文档与约定:构建命令、命名规范、“别动这个目录”之类的规则,可以写进仓库里的 agents.md,这是正在兴起的开放约定。
  6. 开发者意图:完成标准是什么、有哪些约束、什么不能做。这一项智能体读遍仓库也发现不了,只有你知道。

三、不知道该问什么?让智能体反过来问你

新手常常不清楚认证库、锁文件是什么,更不知道该给什么上下文。课程给了三招:

  • 写代码前先说:“采访我,一直提问,直到你掌握需要的信息。”
  • 让它先探索仓库,用大白话解释项目由哪些部分组成,你们俩就有了同一张地图。
  • 让它先出计划并列出自己的假设,你原本想不到的问题会自己浮出来。

做完后让它把学到的东西写回 agents.md,下次直接复用。理想状态是:智能体负责挖掘信息,决定权留在你手里。

四、上下文不是越多越好

很多人的直觉是把整个仓库都塞进去。课程明确反对:模型对长输入的注意力并不均匀,开头和结尾处理得最好,埋在中间的信息容易被忽略。每多一个无关文件,就多一个和关键文件抢注意力的对手。改登录流程,需要的是认证模块、它的测试和你的约定,而不是计费服务或三周前的构建日志。实用做法:每个新任务开一个新会话,直接指向相关文件;会话变长了就清理噪音。

术语表

  • Agentic Coding(智能体编程):由能自主搜索、编写、运行代码的 AI 智能体协助编程。
  • Repo Map(仓库地图):列出文件与符号的精简概览。
  • Lock File(锁文件):记录每个依赖(含传递依赖)精确版本的机器生成文件。
  • Feedback Loop(反馈循环):写代码、跑测试、按失败结果修复的迭代过程。
  • agents.md:放在仓库里、写给智能体看的约定与禁止事项说明。
  • Developer Intent(开发者意图):完成标准、约束和禁止事项,只有开发者本人知道。

自测题

在六类输入中,哪一类是智能体无论怎么读仓库都无法自己发现的?
A. 仓库结构 B. 依赖版本 C. 开发者意图 D. 现有代码文件
(答案见文末)

和求职面试有什么关系

现在越来越多的开发岗位会问到“你怎么用 AI 辅助编程”。面试官想听的不是“我会用 Copilot”,而是你能否说清楚:怎样给 AI 正确的上下文、为什么锁文件能减少幻觉、怎样用测试验证 AI 生成的代码、为什么不把整个仓库丢给模型。可以准备的问题包括:“AI 生成的代码调用了一个不存在的函数,你会怎么排查?”“团队里怎样让 AI 遵守项目规范?”用本文的六类输入和 agents.md 来回答,会显得既懂工具也懂工程。

来源

本文内容源自 IBM Technology 的视频《Context-Aware Coding: Give AI Agents the Right Context》,由本博客整理并用中文重新讲解。
原视频(IBM Technology):https://www.youtube.com/watch?v=EkdIZXDnRK8
课程页(含测验):https://liaoyanxin.acrossthegreatwall1984.us.ci/ibm/2026-11-02-ekdizxdnrk8/

自测题答案:C。开发者意图只有你知道,智能体读再多代码也推断不出来。

2026年5月20日星期三

无免费午餐定理

决策的元规则:世界上没有免费的午餐
决策与判断

决策的元规则:
世界上没有免费的午餐

无免费午餐定理 · 归纳偏置 · 决策三步心法

一切决策的前提

关于决策,我想先说一个元规则:世界上不存在完美的决策。

人们爱幻想完美决策。《三国演义》里诸葛亮的锦囊妙计,秦始皇和朱元璋的一揽子顶层设计,现代人寄望于大数据和AI给出最优解——这背后都是同一个妄念:存在某种算无遗策的方法,能排除所有情绪和偏见,像解数学题一样算出正确答案。

这一切都行不通。不是因为我们还不够聪明,而是因为有一个来自计算机科学的铁律拦在那里。

无免费午餐定理

1997年,计算机科学家大卫·沃尔珀特和威廉·麦克雷迪提出了「无免费午餐定理(No Free Lunch Theorem,NFL)」。

当时计算机科学界百家争鸣,各种算法竞相登场——模拟生物进化的遗传算法、出自物理学的模拟退火算法……各家都想找到一把"屠龙刀",凭一套算法解决所有问题。

沃尔珀特和麦克雷迪用严格的数学证明:不存在。如果把"所有可能问题"平均起来看,任何两个算法的表现都是一样的。某个算法在一类问题上表现出色,换到其他问题上必然失效。综合而论,一个精密设计的算法和一个随机猜测的算法,整体表现相当。

想在一个领域表现得比别的算法好,就必然在另一个领域表现得更差。AlphaGo 下围棋无敌,是因为它为围棋这个特定问题做了极度优化——让它去画画,它一无所知。

你必须为优化付出代价。这个定理等于宣告:入世必须使用有漏之法。任何有效的方法都是局限的,都不能解决所有问题,都要为优化付出代价。

归纳偏置:必要的偏见

如果没有放之四海而皆准的好算法,我们该怎么办?答案是:选定你要解决的那一类问题,然后为它找到最强的算法。这里要借用机器学习的一个概念:归纳偏置(Inductive Bias)。

学习,是从有限的过去经验中归纳出未来规律。哲学家休谟早就指出,归纳法在逻辑上无法自洽——昨天太阳升起,前天太阳升起,凭什么推断明天也会升起?机器要学习,就必须先"盲目相信"点什么,也就是必须有先验。

卷积神经网络(CNN)之所以处理图像厉害,因为它预设了"局部特征组合有意义"的先验;循环神经网络(RNN)之所以处理语言厉害,因为它相信"相邻词语之间存在时间关联"。站在绝对客观的立场上,这些先验毫无道理——但我们宁可要这个偏见。没有预设眼镜,看到的只是点阵和噪音;海量数据会让算法觉得什么可能性都对,最终陷入瘫痪。

你必须先押注结构,才能找到结构,才能判断结构。

决策同理。你不可能调出所有变量、推演所有概率、等待系统告诉你该怎么做——这违反无免费午餐定理。现实是:你必须先主观地选定一个领域、设定对这个领域的归纳偏置,才谈得上展开具体调研,推算最佳方案。

比如你突然想"去广州工作赚钱"——这是发愿,不是决策,但发愿对决策至关重要,没有发愿就没有决策。"去广州"是把搜索空间圈起来;"赚钱"是把目标函数定下来;"去广州能赚钱"的直觉与信念,是你的归纳偏置。有了这个发愿,才谈得上决策:在广州做什么、怎么做最能帮你赚钱。

无免费午餐定理说:不管决策的过程有多理性,决策的初心一定是一个任性。而且,任性是决策必不可少的成分。

一个决断如果没有穿过无可决断之折磨,那它将不可能是一个自由的决断,它只会是程序化的应用或一个计算好的过程的展开。

—— 雅克·德里达(Jacques Derrida)

决断不是展开,而是承担。这就是为什么AI再强,也有大量"微决策"必须留给人来做。

做决策的三步心法

承认没有免费的午餐,不是说决策科学就没用了——决策科学作用有限,但往往很关键。这里说三步元认知心法。

一

设定强先验(Strong Prior)

为什么天下那么多赛道,你非得选这一条?没有客观答案。你必须先有主观选择——可能是直觉,可能是人生愿景,可能是莫名其妙的喜好,纯属偏见、完全不讲道理——但你必须先选一个方向。不选,就谈不上使用任何算法,在数学上就是死路一条。有一张错误的地图,也比没有地图强。偏置基本来自两个地方:你的价值观(什么对你不可协商,这辈子绝对不做什么),以及你对世界的基本假设(这个领域更像线性递增还是重尾爆发?)。先有立场,才有展开。

二

算法搜索

无免费午餐定理虽然否定了万能算法,但允许在每个特定的局部问题上存在一个最强算法——我们要找到它。这一步要做扎实的调研,做分析推理、模拟演化、寻找最佳选项、权衡可以承受的代价。到这一步你必须非常理性客观,尊重世界的硬条件。

三

系统化冒险

你必须承认自己正在冒险,不能一条道走到黑。偏置是启动时不得不先采取的一个立场;偏执则是执念——环境已经反馈说你错了,你还要强行坚持。偏置是剑,偏执是枷锁。高水平决策者一定是强偏置、弱偏执:带着偏见上路,但发现走错了会马上换一种偏见。这样才能既能决策,又能调整和退出决策。

偏见是生命力的证明

苹果的设计美学为什么强?那只是乔布斯的个人审美偏置,没有客观对错。巴菲特搞价值投资,常年只持几只股票;西蒙斯搞量化交易,用算法在毫秒内完成判断。谁对?都对——能赚钱就是对的,他们只是选择了不同的偏置。

决策往往是两难之中的选择:这份工作稳定但上限低,那份工作可能暴富但波动大,你选哪个?没有客观中立的标准答案,你的决策归根结底取决于你的偏置。

世人爱说要客观中立、保持开放——但做事的前提恰恰是不中立、有立场、有方向。你不敢弄脏自己的手,你就永远不是局内人。

有了价值设定之后的判断要尽量客观,但价值本身必须主观。无免费午餐定理要求你做一个有立场的能动者:有偏置,但无执念;有权起心动念,也有权根据现实调整。避免"既要又要还要",用核心偏好设定价值函数,牺牲一部分维度来换取另一部分维度的超额回报——这才叫决策。

AGI时代,人的核心价值就在于设定偏置:你决定要解决什么问题,你定义什么是好什么是坏,你在空白的纸面上画下第一笔。

什么都不做,才是最完美、最没有偏见的状态。偏见,是你生命力的证明。

决策与判断 · 第二板块

2025年10月19日星期日

7天求职基础设施速成营

7天求职基础设施速成营

一次搭好:简历网站 · 独立域名与职业邮箱 · GitHub 作品集 · 社媒矩阵 · 直播推流与数据分析。结营即可投递与曝光。

New · Online

从0到“被看见的你”

7天晚课 + 白天作业,实操优先。模板、脚本与示例齐全,零基础可学。完成后你将拥有:可投递的 PDF 与网页简历、独立域名与职业邮箱、GitHub 主页与在线 Demo、社媒首条内容、OBS 推流与一次线上路演。

¥29.9

咨询与团体报名:yefangjie2024@gmail.com

扫码报名

扫码添加企业微信,或发送邮件至 yefangjie2024@gmail.com 报名。

七天课程表

Day 主题 核心内容 当日交付物
Day 1账号底座与求职地图Google 账号/Gmail/Docs/Sheets/Slides;Chrome 插件;导入《求职 Bingo》个人信息盘点表 + 工具就绪
Day 2简历 1.0:PDF + 网页Docs 简历模板;生成 PDF 与公开链接;项目要素表PDF 简历 + 网页简历
Day 3独立域名与职业邮箱注册域名;修改 NS;Cloudflare Pages 部署;邮箱路由到 Gmailyourname.site + you@yourname.site
Day 4GitHub 作品集主页规范;fork & star;README;在线 Demo;AI 生成封面可访问作品页 + README
Day 5社媒矩阵首发B站/小红书/视频号/抖音/快手定位;剪映脚本;标题与封面至少 2 平台发布首条内容
Day 6直播推流与数据分析OBS 场景;YouTube/B站/抖音核心指标;复盘卡1 次推流演练 + 数据复盘卡
Day 7毕业路演与全网发布Slides 结构;发布清单;邮件模板5 分钟路演稿 + 全网发布 + 首批投递

报名与联系

价格统一 ¥29.9,无优惠无拼团。为保证答疑质量,限量开班。若无法扫码,请发送邮件至 yefangjie2024@gmail.com 获取报名链接。

邮件快速报名 返回顶部

AI 能安全使用敏感数据吗?5 项必备能力(IBM Technology 学习笔记)

  AI 最有用的数据(客户个人信息、健康、财务)往往也最敏感。IBM Technology 的这节课讲了一个思路:先打好五项基础控制,再让 AI 接触敏感数据。下面是我的学习笔记。 为什么要"机器速度"的控制 过去几十年,我们建立控制手段防止"...