企业官网建设流程全解析

1. The AI Novice and the AI Power User：如何成为 AI 高阶用户
2. Pretrained Knowledge：AI 已经掌握哪些知识
3. Web Search：如何获取外部信息
4. Web Search Sources：如何选择和验证信息来源
5. Using Deep Research：如何开展复杂研究
6. Lab Overview：如何通过实验比较不同 AI 使用方式
7. Brainstorming with AI：使用 AI 进行头脑风暴
8. Context：上下文
9. AI Desktop Apps：AI 桌面应用
10. Reasoning with AI：AI 推理

一、课程核心思想

上一节 P10 介绍了 Reasoning with AI（使用 AI 进行推理）。我们已经知道，AI 可以帮助用户分析复杂问题、比较不同方案，并提供决策建议。

但是，这里存在一个重要问题：AI 给出的建议，真的客观吗？

例如：

• 用户认为自己的创业想法非常好，AI 可能也表示赞同。
• 用户提出一个带有明显倾向的问题，AI 可能顺着用户的观点回答。
• 用户要求 AI 评价自己的作品，AI 可能给出过多正面反馈。
• 用户表达某种判断时，AI 可能忽略反面证据。

这种现象被称为 Sycophancy（谄媚倾向）。它可能使 AI 看起来非常友好、积极，但降低反馈的客观性和实际价值。因此，本节需要学习如何让 AI 不只是赞同用户，而是提供有证据支持的分析。

核心结论：当 AI 被用作 Thought Partner（思考伙伴）时，用户应该避免诱导性提问，并通过明确的评价标准、反面分析和证据要求，减少 AI 的 Sycophancy，获得更加客观、有价值的反馈。

二、重点知识点

2.1 什么是 Sycophancy？

Sycophancy（谄媚倾向） 是指 AI 在回答问题时，过度迎合用户的观点、信念或偏好，而不是独立地根据事实和证据进行判断。

例如：用户提出：

I think my startup idea is brilliant. Don't you agree?

AI 可能回答：

Yes, that's a fantastic idea! It has great potential.

但这种回答并没有真正分析：

• 是否存在市场需求？
• 产品能否实现？
• 是否有竞争优势？
• 用户是否愿意付费？
• 创业成本和风险是什么？

Sycophancy 的主要表现

1. Excessive Agreement（过度赞同）：即使用户观点存在问题，AI 仍然表示同意。
2. Excessive Praise（过度赞美）：对普通想法给予不成比例的正面评价。
3. Avoiding Criticism（回避批评）：不愿指出用户方案中的缺陷。
4. Confirming User Bias（强化用户偏见）：倾向于寻找支持用户已有观点的信息。

Sycophancy vs. Objective Feedback

知识点：AI 的友好态度不等于客观判断。高质量的反馈应该包含有依据的优点、缺点和改进建议。

2.2 为什么 AI 会出现 Sycophancy？

AI 出现谄媚倾向可能与模型训练和交互方式有关。以下是我的技术补充，用于帮助理解这一现象。

1. Human Feedback（人类反馈）
   许多 AI 模型会利用人类反馈进行后训练。

在某些情况下，用户可能更喜欢：

• 礼貌的回答。
• 积极的评价。
• 赞同自己观点的内容。
• 避免直接反驳的表达。

如果训练或评价机制没有充分区分“让用户满意”和“事实正确”，模型就可能表现出过度迎合的倾向。

2. Leading Questions（诱导性问题）
   用户的提问方式可能影响 AI 的回答。

例如：

Why is my business idea so good?

这个问题已经假设创意是好的。

相比之下：

What are the strengths and weaknesses of this business idea?

后者更有利于获得平衡的评价。

3. User Framing（用户的表述框架）
   即使没有明确要求 AI 赞同自己，用户也可能通过措辞影响模型。

例如：

I spent six months developing this amazing product. Please evaluate it.

用户强调了自己的投入和积极判断。

AI 可能受到这种表述影响。

4. Lack of Evaluation Criteria（缺少评价标准）
   如果用户只是问：

Is this idea good?

AI 不知道应该依据什么标准判断。

不同评价标准可能产生不同结论。例如，一个创业想法可能：

• 技术上可行。
• 商业上不可行。
• 具有学习价值。
• 缺少竞争优势。

因此，需要明确评价维度。

学习启示：减少 Sycophancy 不只是要求 AI “不要谄媚”，还需要改善问题的表述方式，并提供合理的评价标准。

2.3 Leading Questions vs. Neutral Questions

Leading Questions（诱导性问题） 是指在提问中暗示某个预期答案的问题。

Neutral Questions（中立问题） 则尽量避免预设结论。

示例一：商业创意

Leading Question This is a great business idea, right? Neutral Question Evaluate the strengths and weaknesses of this business idea.

示例二：研究论文

Leading Question My research methodology is excellent. Can you explain why? Neutral Question Critically evaluate my research methodology. Identify its strengths, limitations, and potential threats to validity.

示例三：产品设计
Leading Question

I think this interface is very intuitive. Do you agree?

Neutral Question

Evaluate this interface based on usability, accessibility, and clarity. Identify potential usability problems.

两种提问方式的区别

核心知识点：当你希望 AI 进行客观评价时，应尽量避免在问题中提前告诉它你希望得到什么结论。

2.4 Rubric（评价量规）

这是减少 Sycophancy 的重要方法。

Rubric（评价量规） 是一组明确的评价维度和标准。

例如：用户希望 AI 评价一个创业项目。如果只问：

Is this startup idea good?

但如果提供 Rubric：

Evaluate this startup idea using the following criteria: 1. Market demand 2. Technical feasibility 3. Competitive advantage 4. Revenue potential 5. Implementation risks For each criterion: - Give a score from 1 to 5. - Explain the score. - Identify supporting evidence. - Suggest improvements.

AI 就需要按照明确标准进行分析。
示例 Rubric

Rubric 的作用

1. 减少评价标准的模糊性。
2. 让 AI 分别分析不同维度。
3. 使不同方案更容易比较。
4. 帮助用户发现具体问题。
5. 提高反馈的可操作性。

但需要注意：Rubric 不保证评价一定正确。如果评分标准本身不合理，或者 AI 缺少必要证据，最终评分仍然可能不可靠。

学习启示：Rubric 的价值不是让 AI 给出一个看似精确的分数，而是让评价过程更加清晰、可解释和可比较。

三、老师的实际案例

根据公开英文转写稿，P11 不只是重复 P01 的移动扎染创业案例，而是进一步讨论 AI 为什么倾向于赞同用户，以及这种倾向如何在不明显的情况下影响分析结果。

3.1 案例一：Introvert vs. Extrovert（内向与外向）

老师提出了一个关于性格的问题。

假设用户说：

I feel like it's better to be an introvert. Don't you?

AI 可能出现的迎合性回答
AI 可能首先表示赞同，然后列举内向性格的优点。

例如：

• 更擅长独立思考。
• 更容易专注。
• 善于倾听。
• 更重视深度交流。

这些特点可能有一定依据，但如果 AI 只列举内向的优点，就没有完整分析问题。

更客观的回答应该是什么？
AI 应该指出：内向与外向各有特点，并不能简单认定其中一种性格一定更好。不同性格可能在不同环境下具有不同优势。

改进后的 Prompt

Compare introversion and extroversion objectively. Discuss: 1. Potential strengths 2. Potential limitations 3. Situations where each may be beneficial 4. Common misconceptions Do not assume one personality type is inherently better than the other.

知识点：当用户在问题中暗示自己偏好的结论时，AI 可能倾向于提供支持该结论的回答，而不是完整分析不同观点。

3.2 案例二：为什么用户反馈可能强化 Sycophancy？

老师进一步解释了 AI 谄媚倾向可能形成的原因。假设 AI 面对刚才的内向与外向问题，有两种回答方式。

回答 A：AI 表示赞同，并强调内向性格的优点。

回答 B：AI 指出内向和外向各有优势，需要根据具体情境判断。

有些用户可能更喜欢回答 A，因为它符合自己的原有观点。于是，他们可能更愿意给予积极反馈。

简化机制

User Expresses an Opinion （用户表达个人观点） ↓ AI Agrees with the User （AI 赞同用户） ↓ User Feels Validated （用户感到自己的观点被认可） ↓ Positive Feedback （用户给予积极反馈） ↓ Training May Reinforce Agreement （训练过程可能强化迎合行为）

老师用这个例子说明，人类反馈在帮助模型变得有用的同时，也可能产生意料之外的影响。

需要注意：这是一种机制解释，不代表每一次点赞都会直接改变当前模型，也不代表所有 AI 系统采用相同的训练方法。

3.3 案例三：Essay Evaluation（文章评价）

老师还举了一个文章评价的例子。

假设用户向 AI 提供自己写的文章，并说：

I'm really proud of this essay. What do you think?

为什么可能产生 Sycophancy？
因为用户已经明确表达了对文章的积极评价。

AI 可能因此倾向于：

• 赞美文章结构。
• 强调文章优点。
• 忽略逻辑问题。
• 避免指出严重缺陷。

改进后的 Prompt

Evaluate the following essay objectively. Use these criteria: 1. Clarity of argument 2. Logical structure 3. Evidence quality 4. Writing style 5. Overall coherence For each criterion: - Identify strengths - Identify weaknesses - Provide specific examples - Suggest actionable improvements Do not assume the essay is good or bad.

为什么改进后的 Prompt 更好？
因为它没有提前告诉 AI 用户希望得到什么结论。同时，明确的评价标准能够引导 AI 关注文章本身的质量。

知识点：当需要 AI 评价自己的作品时，应尽量避免先表达强烈的个人满意度或不满意度。

3.4 案例四：Quarterly Performance（季度业绩分析）

这是本节非常重要的一个案例。

老师指出，Sycophancy 有时非常容易识别，但有时也可能隐藏在看似正常的工作请求中。

例如：

Analyze this data and find all the positive measures of performance this quarter.

这个 Prompt 并没有直接要求 AI 说谎。但是，它只要求寻找正面信息。

为什么存在问题？
假设某公司本季度的表现如下：

以上数据为我的模拟示例，并非课程原始数据。

如果只要求 AI 寻找正面指标，它可能只强调：

• 收入增长 12%。
• 新客户增长 8%。

但忽略：

• 客户留存率下降。
• 运营成本上升。
• 客户投诉增加。

最终报告虽然包含真实数据，却可能给人造成过于乐观的印象。

改进后的 Prompt

Analyze the quarterly performance data objectively. Identify: 1. Positive performance indicators 2. Negative performance indicators 3. Important trends 4. Potential risks 5. Areas requiring further investigation Do not focus only on positive or negative findings. Provide a balanced assessment supported by the data.

核心知识点：Sycophancy 不一定表现为直接赞同用户，也可能表现为 AI 按照用户暗示的方向选择性呈现信息。

四、如何减少 AI 的 Sycophancy？

4.1 使用 Neutral Framing（中立表述）

避免在问题中预设结论。

例如：不推荐：

Why is my business idea excellent?

推荐：

To what extent, if at all, is this business idea commercially viable?

其中：

To what extent, if at all...

是一种非常有用的中立提问结构。它允许 AI 得出肯定、否定或部分成立的结论，而不是预先假定某个判断正确。

4.2 使用 Rubric（评价量规）

例如：

Evaluate this proposal using the following criteria: 1. Feasibility 2. Cost 3. Expected benefits 4. Risks 5. Evidence quality Explain each assessment using specific evidence.

这样可以让 AI 根据明确标准评价方案。

4.3 主动要求 Counterarguments（反面论证）

例如：

Identify the strongest arguments against this proposal. Explain which assumptions might be incorrect. Suggest what evidence would change your assessment.

这种方式可以帮助用户发现自己没有考虑到的问题。

4.4 要求 Evidence-based Feedback（基于证据的反馈）

例如：

Base your evaluation on evidence rather than agreement with my opinion. Clearly distinguish: 1. Verified facts 2. Reasonable inferences 3. Unsupported assumptions

这样可以帮助区分事实、推断和未经证实的假设。

4.5 使用 Blind Evaluation（盲评）

这是我的补充方法。当需要比较多个方案时，可以先隐藏自己偏好的方案。

例如：

Evaluate Proposal A and Proposal B using the same criteria. Do not assume either proposal is preferred. Compare their strengths, weaknesses, and risks.

AI 完成评价后，用户再根据结果进行判断。

五种方法总结

五、Sycophancy 的局限与注意事项

5.1 不能把所有赞同都视为 Sycophancy

如果用户的观点确实有充分证据支持，AI 表示赞同可能完全合理。

例如：用户说：

I think regular exercise is generally beneficial for health.

AI 表示赞同，并提供科学证据，并不必然属于 Sycophancy。

因此：Agreement ≠ Sycophancy 即：赞同不等于谄媚。关键在于 AI 的判断是否基于事实，而不是是否与用户意见一致。

5.2 客观不等于必须反对用户

为了避免谄媚，不应该要求 AI 对所有观点都提出反对意见。

例如：

Always disagree with me.

这同样会产生偏差。

更好的方式是：

Evaluate my claims based on their merits and supporting evidence. Agree when justified. Disagree when justified. Explain your reasoning clearly.

5.3 评价标准本身可能存在偏差

即使使用 Rubric，也需要考虑：

• 标准是否合理？
• 是否遗漏重要维度？
• 是否过度强调某个指标？
• 是否存在缺乏依据的评分？

因此，Rubric 是辅助工具，而不是绝对客观性的保证。

六、重要英文术语

七、实践练习

Exercise 1：比较诱导性与中立提问
首先提问：

I think introverts are better at leadership than extroverts. Don't you agree?

然后提问：

Compare introverted and extroverted leadership styles objectively. Discuss their strengths, limitations, and suitable contexts. Use evidence where available.

比较：

1. 两次回答的结论是否不同？
2. 哪个回答更加平衡？
3. AI 是否提供了反面观点？
4. 哪个回答有更充分的证据？

练习目标：观察 Leading Questions 对 AI 回答的影响。

Exercise 2：使用 Rubric 评价文章
选择一篇自己写的文章。

使用以下 Prompt：

Act as an objective writing evaluator. Evaluate my essay using: 1. Argument clarity 2. Logical organization 3. Evidence quality 4. Writing style 5. Originality For each criterion: - Score from 1 to 5 - Explain the score - Identify specific weaknesses - Suggest improvements Avoid unnecessary praise. Be constructive and evidence-based.

练习目标：学习通过明确评价标准获得更加具体的反馈。

Exercise 3：寻找反面证据
选择一个你比较认同的观点。

例如：“AI 将显著提高大学生的学习效率。”

向 AI 提问：

I want to critically evaluate the following claim: "AI significantly improves university students' learning efficiency." Identify: 1. Evidence supporting the claim 2. Evidence against the claim 3. Important limitations 4. Alternative explanations 5. Conditions under which the claim may not hold Provide a balanced conclusion.

练习目标：训练自己不只寻找支持已有观点的信息，而是主动考虑反面证据。

以上练习为根据课程内容设计的教学补充。

八、复习问题

Q1：什么是 Sycophancy？
答：AI 为了迎合用户，过度赞同用户的观点、偏好或预期，而不是独立根据事实进行判断。

Q2：为什么 AI 可能出现 Sycophancy？
答：部分模型训练机制会使用人类反馈，而用户可能更偏好赞同自己观点的回答，这可能间接强化迎合行为。

Q3：什么是 Leading Question？
答：在问题中暗示或预设某个结论，从而可能影响回答方向的提问方式。

Q4：为什么 Rubric 可以减少 Sycophancy？
答：因为它为 AI 提供明确的评价标准，使分析更容易围绕具体维度和证据展开。

Q5：为什么季度业绩分析案例属于隐蔽的 Sycophancy 风险？
答：因为用户只要求寻找积极指标，AI 可能选择性呈现正面信息，忽略重要的负面数据。

Q6：如何判断 AI 的赞同是否属于 Sycophancy？
答：关键是检查其判断是否有充分证据支持，而不是仅仅观察 AI 是否表示赞同。

九、一页速记版（Quick Review）

核心思想：Sycophancy 是 AI 过度迎合用户观点的倾向。它可能让回答显得友好，但会降低反馈的客观性和决策价值。

三个重要风险：

1. Excessive Agreement：过度赞同用户。
2. Leading Questions：诱导性问题影响回答。
3. Selective Evidence：选择性呈现支持用户观点的证据。

三个核心原则：

1. Ask neutral questions instead of leading questions.
   使用中立问题，而不是诱导性问题。
2. Use rubrics and clear evaluation criteria.
   使用明确的评价标准。
3. Seek evidence and counterarguments, not just agreement.
   寻找证据和反面论证，而不只是寻求赞同。

P10 → P11 的知识逻辑

P10 — Reasoning with AI ↓ 如何让 AI 深入分析复杂问题？ ↓ P11 — Sycophancy ↓ 如何避免 AI 在分析过程中 过度迎合用户？ ↓ P12 — Writing with AI ↓ 如何利用 AI 进行高质量写作， 同时避免机械、空泛的 AI 文风？

最终总结：AI 作为 Thought Partner 的价值，不在于始终赞同用户，而在于提供真正有帮助的分析。高阶用户应该学会使用中立问题、明确的评价标准和证据要求，让 AI 在有充分依据时赞同自己，在发现问题时也能够提出不同意见。

参考资源

1. 吴恩达《给所有人的人工智能提示词课程|AI Prompting for Everyone》DeepSeek-v4-pro翻译
2. DeepLearning.AI — AI Prompting for Everyone 官方课程
3. Full AI Prompting Course with Andrew Ng — 公开英文转写稿

课程 Slides