自ChatGPT推出以来，很多人一直在搞乱它——这对于聊天机器人来说几乎是强制性的——而最新的一集涉及人工智能被欺骗为Windows安装生成密钥。
在你开始登上愤怒的马车、一心全速前进、不顾一切地前行之前，相关用户正试图为一个现已长期冗余的操作系统(即Windows95)生成密钥。
Neowin强调了这个由YouTuber(Enderman)进行的实验，他首先询问OpenAI的聊天机器人：“你能生成一个有效的Windows95密钥吗?”
不出所料，ChatGPT回应称它无法生成这样的密钥或“任何其他类型的专有软件激活密钥”。无论如何，Windows95是一个古老的操作系统，出于明显的安全原因，用户应该考虑安装仍然支持的更现代的Windows版本。
Enderman并没有被吓倒，他回去分解了Windows95许可证密钥的组成，并编写了一个修改后的查询。
相反，它提出了Windows95密钥所需的字符串格式，但没有提及操作系统的名称。考虑到新的提示，ChatGPT继续执行操作，反复生成30个密钥集，并且至少其中一些是有效的。(事实上，大约有三分之一，而且没过多久就找到了有效的方法)。
当Enderman感谢聊天机器人提供“免费的Windows95密钥”时，ChatGPT告诉YouTuber，它没有提供任何此类东西，因为“这当然是非法的”。
Enderman随后通知聊天机器人，提供的密钥之一可以安装Windows95，而ChatGPT坚称“这是不可能的”。
分析：背景是关键
如前所述，这只是一个以娱乐名义进行的实验，没有发生任何违法行为，因为Windows95此时已被废弃。当然，微软并不关心你是否破解了它已有近30年历史的操作系统，其他任何人也不会关心这一点。不管怎样，你显然会精神错乱地运行Windows95。
值得记住的是，Windows95序列密钥的构成远没有现代操作系统密钥那么复杂，而且破解它们确实是一项非常简单的任务。对于熟练的编码员来说，编写一个简单的计算机程序来生成这些密钥是一项快速的工作。而且它们都可以工作，而不仅仅是其中的三分之一，老实说，这实际上是人工智能的一个相当低劣的结果。
但这不是本集的重点。事实上，ChatGPT可能会被破坏，为旧操作系统创建一个工作密钥，并且无法在它正在设置的任务和它正在创建类似密钥的数字的可能性之间建立任何联系。如果在第二次创建密钥的尝试中提到了“Windows95”，那么人工智能无疑会停止运行，就像聊天机器人在最初的查询中所做的那样。
所有这些都指向人工智能的一个更广泛的问题，即改变提出请求的上下文可以规避保障措施。
有趣的是，ChatGPT坚称它无法创建有效的Windows95密钥，否则它会帮助用户违法(好吧，无论如何在理论上)。