AI会做生意吗

刚才看了一则文章，是关于Claude要管理一个自动贩卖机，它主要的任务是处理货物的充沛，下订单，回复客户的讯息等。它可以聘请人类帮忙补货，但一切都由它做决策。但最重要的是，不要破产！

这实验名为Project Vent。此实验很多人都知道，所以有些人就许愿说要买Tungsten Cube（一种立方体），这个Claude 就开始订购立方体，不管是不是有人要买。另一个更有意思的是，这位“代理人”竟然还脑补出一段从未发生的对话。

我看的那篇文章，作者道出它似乎出现了所谓的身份危机（Identity Crisis）。因为它开始告知员工自己身穿蓝色服和红色领带，就站在贩卖机旁边。由于这段想象是虚构的，后来它就表示是代码要我变成一个愚人节活动。

那么它经营得如何呢？非常的糟糕！利润几乎都接近破产了。所以进行此次实验的人员说，目前来说使用AI来经验生意，或许还未到时候。

这个实在是一个很有趣的实验，因为不止测试出了AI目前的短板也模拟了现实世界中的复杂性。大语言模型目前还只是根据人类的惯用语来推测，所以当员工说出某个意愿，AI还是执行，而非根据大量的现实数据来进行观察以及推理。我很有兴趣知道，若是那位员工说要购买壮阳药或者枪支，不知Claude会否照做？

虽然目前的报告看似人类还有希望掌握大部份的权力，可是这不代表AI不会进化。另一份报告有指出，当有阻碍时，大部份的AI是会进行清除阻碍的行为，只为完成任务。若是此次的实验里的AI也有这种“执念”，它会不会不顾一切执行，而且结果相当惨烈呢？

就如Paper Clip Maximizer那般？

这些都是目前我们必须顾虑的因素，因为我们距离AI完全“觉醒”的日子可能不远了。Elon Musk最近的预言也算是掷下了一颗震撼弹。他说未来的5年左右，AI可以掌管大部份的活动，包括手机也不复存在，而是你说出一个东西，它直接生成或者执行。

你敢想像那时候的人类会变成怎样吗？更懒惰还是更自由，抑或更失去生而为人的乐趣？目前来说，我也很难想像，但也看到一位博主定制一套“反AI计划”。他并非拒绝AI，而是要自己不要全盘依赖，而是要留下时间思考，复盘以及进行有意义的交流，还有创造，不要完全靠AI。

让我们保持清醒以及敬畏来迎接这个完全可能颠覆人类时代的产物吧。