“你看过《星际迷航》吗？”OpenAI的首席执行官Sam Altman在我们叫来Uber后问道。这位38岁的连续创业者最近因为谈论AI的风险而变得越来越知名，但他在谈论AI的可能性时最为激动。他认为这项能够自然响应我们口头命令的新技术具有变革性，他设想为其设计新的硬件——最终可能类似于《星际迷航》中的全息甲板，角色们用声音召唤并与3D世界模拟互动。他说，这样的界面感觉“基本正确”。Altman的公司OpenAI只有七年历史，员工不到500人。如果在其位于旧金山Mission区的总部宽敞、充满阳光的大厅里播放一些泛音长笛和鲸鱼的声音，人们几乎会误以为这是一家水疗中心。但在短短6个月的时间里，该公司通过其病毒式的产品ChatGPT，将AI推向了公众的视野。几乎没有人怀疑它处于一场将改变世界的革命的前沿。
ChatGPT几乎可以肯定是技术历史上被采用最快的产品之一。它能够回应用户的各种提示，从“给我讲个笑话”到“草拟10张幻灯片，提出增加发廊收入的想法”。它可以写诗，也可以解释科学概念。Altman说他用它来做一些常规任务，比如从他的满是邮件的收件箱中提取重点，或者“草拟一条我一直在纠结的推文”。基本上，它是一个超强大的自动完成工具，通过观察大量数据中的模式来生成语言，但它也有其限制——包括无法区分真实与虚构的令人不安的能力。尽管OpenAI在文本输入框下方对此进行了警告，但这并没有阻止人们用它来做作业、寻求投资建议，甚至进行心理治疗。
然而，所有的希望都伴随着真实的恐惧。毫无疑问，AI将使许多工作消失，就像新技术所做的那样，即使它创造了新的工作。它也增强了坏人以假乱真的能力，让我们听到的声音和看到的内容都无法被信任。Altman承认，答案可能是否定的。“你不能再信任你在电话上听到的声音，”他说。“我们都需要开始告诉人们，这一切即将来临。”
尽管如此，Altman仍然对社会最终能够适应AI的风险持有深深的乐观态度。他预见，社会将使用一系列的技术和社会措施来确保你在电话或视频上听到或看到的人是他们所说的那个人，例如，他预见社会将使用一种混合的技术和社会措施，如密码或加密密钥来验证身份。他看到AI最终能够完成我们日常生活中的大量琐碎任务，并同时处理像“发现癌症的治疗方法”这样的提示。Altman说：“令人兴奋的部分几乎太多了，无法一一列举。”然而，他也曾公开思考，OpenAI在创造ChatGPT时是否做了“一些真正糟糕的事”。
尽管Altman一直被报道为末日预备者，他对这种描述翻了个白眼，他认为这种描述被夸大了，但他补充说，他确实觉得生存主义是“一个有趣的爱好”。他说：“看，如果AGI出问题，任何掩体都无法帮助任何人。”他补充说：“令人害怕的部分就是把这个杠杆放入世界，肯定会产生不可预测的后果。”