2 Matching Annotations
  1. Last 7 days
    1. Public models can already spot that a security-relevant check is missing in the right code path, but they can still miss the actual invariant being violated and therefore misstate the impact.

      这一发现揭示了公共模型在安全分析中的一个关键局限:它们能发现缺失的安全检查,但可能无法正确理解被违反的实际不变量,从而错误陈述影响。这挑战了'AI能完全理解安全含义'的假设,强调了人类专家在解释AI发现中的不可替代性。

    1. A central pattern emerging in generative AI is a shift from 'thinking by doing' (e.g. writing a document) toward 'choosing from outputs' (e.g. prompting AI to write a document).

      这一转变挑战了人类专业能力发展的传统认知。从'通过思考做事'到'从输出中选择'的转变可能削弱人类判断力和专业知识培养,这与人们通常认为的AI增强人类能力的观点形成鲜明对比,揭示了AI可能带来的认知能力退化风险。