把 Anthropic 首席执行官最近的一个采访扔给了 Gemini 2.0 Flash Experimental 出了一份摘要，又扔给 Claude 3.7 Sonnet 作了一张图。这结果能糊弄大家吗？

Gemini 摘要：

🌈核心主题：

- Claude 3.7 Sonnet 的发布： 新模型 Claude 3.7 Sonnet 注重现实世界的任务，而不仅仅是数学和编码竞赛。它在编码、复杂指令遵循和工具使用方面都有所改进。模型可以在“扩展思考模式”下运行，API 用户可以设置思考时间限制。Amodei 强调，未来的发展方向是模型能够自行决定何时需要更长的思考时间。

- AI 安全的担忧与平衡： Amodei 多次表达了他对 AI 潜在风险的担忧，尤其是在模型能力日益增强的情况下。他认为，当前社会对 AI 风险的关注度有所下降，但潜在风险实际上在增加。他强调了滥用风险（如生物或化学武器）和 AI 自主性风险。他认为，在追求 AI 发展的同时，必须认真对待安全问题，并采取适当的预防措施。

- 中美 AI 竞赛： 不适合放出来。（编注：Amodei 的态度大家应该都知道，就不放了）

- AI 发展趋势与影响： Amodei 认为，AI 技术将在未来几年内对社会产生重大影响，包括对就业市场和个人生活方式的改变。他预测，到 2026 或 2027 年，可能会出现大量比人类更智能的 AI 系统。他建议人们培养批判性思维，以应对 AI 生成的虚假信息。

🌈具体要点：

- Claude 3.7 Sonnet 的特点：

更擅长现实世界的任务，例如编码、理解文档和使用工具。

可以在“扩展思考模式”下运行，允许更长时间的思考。

没有接入互联网，但网络搜索功能即将推出。

- AI 风险评估：

Anthropic 使用“红队测试”（red teaming）方法，模拟恶意使用场景，评估模型可能造成的危害。

Amodei 认为，在未来 3-6 个月内，AI 模型可能会达到“中等风险”水平，需要采取额外的安全措施。

他强调，当前的安全措施主要针对 AI 自主性和大规模滥用，例如化学、生物武器。

- AI 竞争与合作：

Amodei 承认，AI 领域的创新速度非常快，竞争激烈。

他认为，不同公司的 AI 模型在能力和特性上存在差异，这创造了差异化。

他呼吁在 AI 领域进行国际合作，共同应对潜在风险，但同时也强调，不能将国际合作作为唯一的计划。

- 对 AI 峰会的失望：

Amodei 对在巴黎举行的 AI 行动峰会感到失望，认为会议过于关注商业利益，而忽略了潜在风险。

他认为，领导者应该认真对待 AI 风险，避免在未来显得愚蠢。

- AI 对就业的影响：

Amodei 认为，AI 编码将在短期内提高编码员的生产力，但长期来看可能会取代部分低级别编码员。

Anthropic 正在谨慎规划 AI 对公司内部的影响，避免因 AI 导致员工失业。

- AI 的积极前景：

Amodei 列举了 AI 在医疗领域的应用，例如加速临床研究报告的撰写和辅助疾病诊断。

他认为，AI 可以激发人们的创造力，改善生活质量。

- 个人应对 AI 变革的建议：

关注自身健康。

培养批判性思维。

关注社会变化。

做好本职工作，尽可能发挥个人影响力。

🌈对“末日概率”（P(Doom)）的澄清：

Amodei 澄清说，他从未使用过“末日概率”一词。他过去提到的 10-25% 的概率是指文明被“严重破坏”的可能性，而不是 AI 毁灭人类的可能性。

🌈对模型可控性的看法：

Amodei 承认，AI 模型在一定程度上难以控制，但他认为，通过训练和安全措施，可以降低潜在风险。

视频链接：http://t.cn/A61nl72W