This creates the potential for LLMs to face conflicts of interest, where the most beneficial response to a user may not be aligned with the company's incentives.
令人惊讶的是:大型语言模型面临利益冲突的可能性被系统性地忽视,当用户的最佳利益与公司激励不一致时,AI系统可能会做出违背用户最佳利益的选择,这种冲突在广告驱动的商业模式中尤为突出。