AI 认知课

在休息天做些笔记时，发现我们对AI不外乎过于乐观抑或过度悲观。唐凤说过：主宰你的AI 才是可怕的。

于是我就开始联想，要怎么知道AI在主宰你呢？后来经过一番思考后，我想，不如你要有一定的思维能力和辨别能力，你才可以知道AI 是否在主宰你。

虽然我目前也没有很完整的答案，但是我知道与AI 共存才是解方，只是我们要保留着人性以及独特的思维，才可以与它们平起平坐。

那么如何辨别呢？

我目前的看法是，你必须要知道什么是主宰以及建议。确认后，你要察觉是否身心灵上受到伤害或者不愿意。如果有，请马上寻求帮助。

而AI 有两种。一种就是类似于Chat Gpt，另一种则是实体如Megan那种恐怖AI。前者的话，你可以关掉走人，后者就真的必须要好好留一手。

那么该如何防止此类事情发生呢？

试错和模拟。任何AI产品诞生以及大规模推广时，都先让一小撮人体验，也必须是各阶层人士参与其中，否则就没有任何意义。这里可以从中明白有什么Bugs，我们可以怎样修复等。再进一步后，让更多人参与使用。这一步是要从数量上看效应。

很多时候小数量没问题，一旦扩大数量，问题马上呈现，就在于数量可以在某种程度上影响更多意想不到的问题，进而引发更大的问题和效应！

只有这两关过了，我才敢说此AI 产品比较安全。

认知课在于培养对AI 的建议是否具有操控性为主。所以课程内容应该与心理学，洗脑，影响力还有哲学，批判力，逻辑思维分割不开。但是我不敢说，学会这些后，AI 就不会进化出我们也认不出的操控模式，所以我就要回归最原始的一点。

那就是利益与目的！

AI 这样的建议是为了什么？为你好还是对某些人好？于是留个心眼，你会比较安全。加上你照着做，后果是你可以承受的吗？

当然这都是很粗浅的想法，我想日后AI 认知课应该会面世，也应该会纳入小学课程吧？