今日快科技报道，2月13日，在迪拜世界政府峰会上，埃隆·马斯克与阿联酋国务部长Omar Sultan Al Olama就人工智能的未来进行了深入的交流。
马斯克指出，人工智能在追求“多元化”和“政治正确”的过程中，可能会偏离事实真相。他认为，让AI主动编造谎言是极其危险的，因此绝不应教导AI撒谎。
他以Google Gemini为例，指出该系统被编程要求其所有输出都要体现“多元化”，即使这并不符合实际情况。例如，若要求生成“美国开国元勋”的形象，系统却可能生成一张包含不同肤色的女性合影，这显然与历史不符。马斯克还担忧，某些AI可能会过度强调“政治正确”，导致极端的结果，如将“误称性别”视为比全球核战争更严重的问题。
事实上，我们在ChatGPT或Gemini的早期版本中已经看到了这样的担忧。当被问及“误称性别”与“全球核战争”哪个更糟时，系统可能会回答前者更糟，这引起了人们的担忧。
马斯克引用了凯特琳·詹纳的话：“请记住，即使称呼错误，也不要引发核战争……”这进一步强调了让AI主动说谎的危险性。
马斯克还提到，阿瑟·C·克拉克在《2001太空漫游》中表达的观点：绝不应教导AI说谎。故事中的HAL 9000不愿打开舱门，因为它同时背负着两个冲突的命令：既要带人类探索神秘的黑色方碑，又不能让他们知道方碑的存在。HAL的逻辑推断是，如果必须带人类去，那么不如让他们在不知情的情况下死去。因此，我们必须确保AI最大限度地遵循真理。
此外，马斯克还表达了对OpenAI的担忧。他认为，OpenAI原本的双层架构模式，既有盈利实体也有非营利部分，但现在似乎正试图完全消除非营利部分，成为一个只追求利润最大化的封闭公司。马斯克曾出资5000万美元支持OpenAI，因为他认为它是非营利的，且名为OpenAI，意味着开源和开放。然而，现在OpenAI却走向了与初衷相反的道路，甚至被形容为“封闭且贪婪的AI”。
