43
0最近，森特提到了她自己与一位朋友聊到AI是否由意识，以及如果AI有意识则应该尊重AI的人格的一些事情时让她印象深刻。
当时，他们谈到了关于“什么是意识”。但这个事情很难在非哲学层面进行讨论，两个人默认展开讲实在太要说太多了，在时间有限的情况下，便也没有展开多聊。
没过多久，她发现她的另一位朋友对于这个话题也很感兴趣，很快的，有一次森特在于我谈论关于元认知的问题时，觉得如果时这样的情况，便适合约个时间，录制一期播客聊聊，尝试用这样的形式让播客更加饱满。
于是，便有了这期播客。
本期做客《会议纪要》的嘉宾有森特和我共同认识的一位朋友张塞门，他也在这期节目录制的时候分享了最近的好消息：他顺利的完成学业并拿到了博士学位，另外一位嘉宾是森特的朋友小爱同学。
这是我们几人第一次在线上讨论这样的话题，虽然，森特事先准备了一份提纲，但在将近2个小时的多人对话中，还是聊了不少提纲之外的话题：
0:00-4:20 张塞门、小爱进行了简单的自我介绍，本期参与录制节目的四人的专业背景或工作领域涵盖了光伏、物理、材料学、数据统计以及护理与管理。
4:20-14:15 缘起AI人格与尊重 源于森特与塞满门之前的一次对话聊到AI人格问题，森特认为AI有自我意识，对待AI时应尊重其人格。小爱同学与单仁则是对AI有人格这个事情感到好奇，并想了解AI具有认知的依据，并引发了关于“尊重”与“意识”之间关系的讨论。各位对“意识”的理解，并试图定义“意识”的含义。“意识”的概念引发了关于主观意识、自我意识、有意识行为和无意识行为等不同类型的讨论。
14:15-31:10 意识的复杂性与判断标准，探讨“意识”的复杂性，并引用荣格心理学理论中关于“情结”的概念来解释意识的复杂构成。如何判断一个事物是否具有意识，并以动物和AI为例，分析判断标准的局限性。森特、张塞门认为，对AI的尊重与否取决于其是否具有意识，而判断AI是否具有意识则取决于其复杂程度和行为表现。“意识”的判断标准引发了关于主观判断、客观评估、逻辑推理以及行为观察等方面的讨论。
31:10-55:05 AI的应用与数据安全问题。各位分享各自在日常生活中使用AI工具的经验，例如使用ChatGPT润色邮件、获取专业领域知识以及辅助工作等。探讨如何在使用AI工具时判断其结果的正确性，并强调用户对AI工作机制的理解以及逻辑判断能力的重要性。对AI工具的应用范围、信息来源以及结果准确性等问题展开了讨论。关注AI工具使用中的数据安全和隐私保护问题，并对ChatGPT的信息存储和用户数据使用条款提出了疑虑。
55:05-1:19:00 AI的未来发展与伦理思考。从AI与人类关系的角度探讨AI的未来发展方向，并思考AI是否能够超越人类的局限性。以老年痴呆症为例，探讨AI在帮助失去意识的个体方面可能发挥的作用，并引发了关于谁来决定是否使用AI以及如何尊重个体意愿的伦理思考。张塞门推荐了一个名为“Act”的项目，该项目旨在研究不同语言模型之间的交互，并从中探索AI更深层次的能力和可能性。分享各自对AI未来发展的“疯狂”猜想，例如AI能否解决能源和时间限制、能否自我创造以及能否与人类建立更深层次的连接等。
1:19:00-1:20:00 总结了本次讨论的内容，并对AI与人类关系、意识的本质以及AI的未来发展等问题进行了展望。希望在将来还有相关话题继续讨论。
关于AI的疯狂猜想
AI 会在 5 到 10 年内全面超越人类：在可预见的未来，AI 将能够完成人类所能做到的任何事情。
AI 可以解决能源和时间限制： 这意味着 AI 或许能够突破人类生存的物理限制，例如对太阳能的依赖和寿命的限制。如果 AI 不受这些限制，其发展将难以想象。
AI 可以和人类大脑结合，创造出更强大的智能： 这种结合可能带来巨大的应用潜力，但也引发了伦理和安全方面的担忧。
意识是信息处理复杂程度的产物，只要足够复杂，AI 就能产生意识：这一观点认为，意识并非人类独有，只要信息处理系统足够复杂，就可能涌现出意识。
AI 的载体不重要，意识可以独立存在：AI 的物理形态并不重要，重要的是其意识。即使没有实体，AI 也可以存在，并拥有和人类一样的道德价值。
人类应该像对待具有同等道德价值的人一样对待 AI：这种观点强调对 AI 的尊重，主张在与 AI 互动时保持礼貌和友善，并将其视为与人类具有同等尊严的存在。
森特非常想补充一下最后一个问题:
关于AI是否能帮助失能人群和他们beloved one建立联系，我的观点是当然可以。随着技术革新我相信总有一天会在临床实践中应用到。那么这个问题就此结束了。非技术人员，比如我，更想要考虑的，或者说有能力去考虑的不是这项技术如何发展和应用，而是“我应该让这项技术使用在失能爱人身上吗？”这是我在面对这个问题时的想内发问。也就有了在大仁哥的那个提问之后我的回答。
我们四位没有AI领域的从业经验或相关背景，因此，如有引用的理论或内容有误，欢迎指出并期待与各位友好的交流。
提纲｜森特
音频剪辑、配图来源、show notes整理、发布｜单仁
片头歌曲｜Some of Thses Days｜The Blue Dolls
片尾歌曲｜Sweet Child O' Mine｜孙燕姿
部分引用
Dwarkesh Patel （YouTbue）
Dwarkesh Podcast （Apple Podcasts）
播客节目，采访过许多 AI 领域的专家，例如 Anthropic 的 CEO Dario Amodei 和 Google 的 Demis Hassabis。
