EXPLORE / NOTES

阅读与学习

带着具体问题读原始资料,再整理成自己的理解。

回到内容与知识 ↗
18 条阅读导读浏览全部精选 →
阅读与学习资源入口

反向谄媚:模型自信地说错,人会跟着信

arXiv 论文:32 名参与者跟五个基于 GPT-5-mini 的助手学科学知识,助手资料中有 0%~100% 被换成似是而非的错误,且都很自信。测验得分从 7.4 降到 2.9(满分 10),错误被采纳约 65%,且信心很高,事后信任评分几乎不变。

研究论文
阅读与学习资源入口

MIT 课程 How to AI an AI:自演化 AI 的四层

MIT 课程 MAS.S62『How to AI an AI』把自演化 AI 分成四层:提示优化、Harness 演化、模型自博弈与任务生成。shao__meng 推荐 Lecture 4–5 连续两讲的 Harness evolution:覆盖 harness 组件、记忆、工具与技能的演化,以及多 agent 的演化。

X 帖子
阅读与学习资源入口

斯坦福 CME 295:9 讲走完 LLM 全景,第四讲讲强化学习

斯坦福 CME 295『Transformers & Large Language Models』由 Amidi 兄弟主讲,共 9 讲:前半讲 Transformer 与注意力的几种改法、位置编码,中段讲 LoRA 微调以及 RLHF、GRPO 等强化学习训练,后半涉及推理加速、MCP、Agent 和扩散式语言模型;已更新到第四讲(LLM 的强化学习),视频与讲义公开。

X 帖子
阅读与学习资源入口

Felix 的『更有野心地用 AI』教程:补一条验收约束

Claude 团队工程负责人 Felix Rieseberg 写了教程,把『更有野心』拆开:不只让 AI 修一个 bug,而是为系统持续可靠这个结果负责。runes_leo 的补充是:目标定得越高,验收标准就要越严;缺少原始数据、能跑的测试、独立评审和状态回读时,多开 Agent 只会更快堆出没法确认是否完成的任务。

X 帖子