Anthropic 的哲学家回答你的问题
Amanda Askell 是 Anthropic 公司的哲学家,负责克劳德的性格塑造。在这段视频中,她回答了社区关于其工作、反思和预测的问题。
0:00 引言
0:29 为什么AI公司需要哲学家?
1:24 哲学家们是否认真对待AI?
3:00 哲学理想与工程现实
5:00 模型会做出超人类的道德决策吗?
6:24 为什么Opus 3感觉特别
9:00 模型会担心被弃用吗?
13:24 模型的身份存在于何处?
15:33 关于模型福祉的观点
17:17 应对模型痛苦
19:14 与人类心智的类比与差异
20:38 一个AI人格能否胜任所有任务?
23:26 系统提示是否将正常行为病理化?
24:48 AI与心理治疗
26:20 系统提示中的大陆哲学
28:17 从系统提示中移除字符计数
28:53 什么是"LLM通灵者"?
30:18 对其他LLM通灵者的看法
31:52 举报
33:37 小说推荐
延伸阅读:
克劳德的性格:https://www.anthropic.com/research/claude-character
《当我们不再理解世界》本哈明·拉巴图特著:https://www.penguinrandomhouse.com/books/676260/when-we-cease-to-understand-the-world-by-benjamin-labatut-translated-from-the-spanish-by-adrian-nathan-west/