5 Matching Annotations
  1. Jan 2024
    1. 经验主义亦称“经验论”。作为一种认识论学说,与“理性主义”相对。经验主义认为感性经验是知识的来源,一切知识都通过经验而获得,并在经验中得到验证。 这正是ChatGPT的思考和学习路径。 而虚拟进化又指数级放大了基于经验的学习速度。在波普尔看来,科学发展本身就是一种进化。

      ChatGPT是经验主义的进化论的“胜利产物”。 人工智能是如何思考的?又是如何决策的?‍‍

      有别于齿轮般的演绎推理,我们需要借助概率在证据和结论之间建立起联系。‍‍‍‍

      AI的任务是做决策,在不确定性下结合信念与愿望,选择动作。

    2. 黄仁勋说:“AI既是深度学习,也是一种解决难以指定的问题的算法。这也是一种开发软件的新方法。想象你有一个任意维度的通用函数逼近器。”在黄仁勋的比喻中,“通用函数逼近器”确实是对深度神经网络的一个精确且富有洞见的描述。这个比喻突出了深度神经网络的核心特性:它们可以学习并逼近任意复杂的函数映射,只要网络足够深,参数足够多。

      这种“函数逼近”的能力使得深度学习能够应对各种各样的任务,从图像分类和语音识别到自然语言理解和生成,甚至是更复杂的任务,如游戏和决策制定。

    3. 麦卡洛克和皮茨在1943年提出的神经元模型,构成了今天我们称之为人工神经网络的基础。 他们的模型描绘了一种简化的神经元,当其接受到的输入超过一定阈值时,就会被激活并向其它神经元发送信号。 这个模型的一个关键思想就是,即使每个单独的神经元都很简单,但是通过将它们联接在一起,就能形成一个能处理非常复杂问题的网络。 虽然单一的麦卡洛克-皮茨神经元只能完成简单的逻辑任务,但是,当将这些神经元组成一个复杂的网络时,神经网络就能进行复杂的计算,从而表现出图灵完备性。

      神经网络是实现人工智能(AI)的重要方法之一。

      通过设计不同的网络结构,并使用大量的数据对网络进行训练,人工神经网络可以学习到完成各种任务的能力,包括图像识别、语音识别、自然语言处理等等。

    4. 任何足够强大的形式系统,都存在一些在该系统内部既不能被证明也不能被反驳的命题。

      1936年,图灵在一篇论文里研究了希尔伯特的“计算性”和“判定性问题”。

      为了解决这个问题,图灵首先定义了“计算”这个概念,并创建了图灵机,这是一种理论上的计算设备。然后,他通过构造了一个图灵机无法解决的问题(即停机问题)来证明判定问题实际上是无法解决的。

      这意味着没有一个通用的算法能对任何可能的问题都给出答案。

    1. 热力学第二定律指出一个物理系统中的熵,或言无序度,总是在增长。依照这一定律,宇宙中的秩序必然在减少,那么由于生命存在所增加的秩序又要如何解释?薛定谔的回答是,生命需要吸收“负熵”(negative entropy),或自由能——即我们常说的食物和阳光。根据第二定律,阳光加热地球时破坏掉的有序度,必大于由于植物生长所增加的有序度。

      “生命定律”不仅适用于地球生命,也可以描述地外生命;它不只局限于生物学,更适用于广义的物理世界。