这些危机就在我们正构建的各种人工智能系统的核心。所谓的大型语言模型就是用来说服用户的。它们被训练成让人相信它们近似于人。他们被编程设定出与人对话、带上情绪和表情回复的功能。它们正在变成孤独者的朋友，烦恼者的助手。它们号称可以替代大批作家、平面设计师和填表员，这些行业长期以来都自以为能免于农民和制造业工人遭受的那种自动化的凶猛冲击。
记者将他们的创造赋予人性，将动机、情感和欲望加诸并不为此而生的系统之上，总让人工智能研究者感到恼火，但他们搞错了对象：将这些系统人格化，使其说话像人而不再带有明显异类画风的始作俑者，正是他们自己。
是有些商业模式可能会将这些产品与用户更紧密地结合起来。例如，我对一个按月付费的人工智能助手会更放心，对看似免费但却出售我的数据并操纵我的行为的产品则不然。但我认为这不应完全由市场来决定。一个可能出现的情况是，基于广告的模式会收集更多数据来训练系统，不论造成多么糟糕的社会后果，它都会比订阅模式具有先天优势。
对齐问题从不是什么新鲜事。这从来都是资本主义——以及人类生活——的一大特征。构建现代国家的过程大抵不过是将社会价值观应用于市场运作，从而让后者大致上能为前者服务。我们在一些市场做得非常好——想想飞机失事有多罕见，大多数食品是如何干净无污染——但在另一些市场则做得极其糟糕。
一个危险在于，自知不懂技术的政治体制会因恐惧而对人工智能过于置身事外。这种做法自有其道理，但等待过久，等到人工智能淘金热的赢家累积了足够资本和用户基础，就能抵制一切实质的监管尝试了。社会总得在为时已晚之前作出决定，搞清楚人工智能做什么是合适的，又有哪些东西是人工智能不应被允许尝试的。
出于此理由，我可能要对姜峯楠的话再做一些改动：对大多数资本主义恐惧的最恰当解读是，那其实是对我们无力监管资本主义的恐惧。