12 Matching Annotations
  1. Dec 2023
    1. 当然,短期来看领先的闭源模型相较于开源模型,护城河仍然十分清晰。东北大学教授肖桐认为,相较于开源模型,走闭源路线的大厂在人才、组织以及数据三个方面有短时间难以取代的优势。大厂往往拥有更高密度更高水平的人才,以及有经验的团队能够协调人才和高性能设备,并且能够拥有其他人无法拿到数据。此外,曾国洋还提到,大厂往往也拥有充足算力。“但长期来说的话,数据和算力各种要素都会慢慢追平”。在这个过程中,开源模型真正的影响力在于对生态系统的构建。“Llama2 可能会推动大模型上下游进行整合,一旦解决了规模的问题,成本也将大大下降”,肖桐表示。虽然目前 Llama2 仅仅可能是大模型开源生态系统的开端,“大家对 Llama2 的能力边界不是非常清晰,生态系统的形成同样需要一些时间”。但随着 Llama2 的释出,开源社区的技术能力被带上另一个台阶,大模型开源社区的力量已经无法被忽视。

      根据过往经验,长期来看,开源很可能会胜出,语言大模型很可能也是如此

  2. Dec 2022
  3. Aug 2022
  4. Jul 2022
    1. 里边说的:职责驱动、问题驱动、使命驱动。

      我的观点是认为都不如 好奇心驱动。

  5. Apr 2022
    1. 使用了消息队列的方案(具体实现见 comm/messagequeue 目录),把绝大多数非阻塞操作放到消息队列里执行。并且规定,基础组件与调用方之间的交互必须1. 尽快完成,不进行任何阻塞操作;2. 单向调用,避免形成环状的复杂时序。消息队列的引入很好的改善了死锁问题,但消息队列的线程模型中,我们还是不能避免存在需要阻塞的调用,例如网络操作。在未来的尝试中,我们计划引入协程的方式,将线程模型尽可能的简化。

      线程模型、 消息队列、 非阻塞操作、 基础组件、 调用方、 单向调用、 环状的复杂时序。

      消息队列的线程模型。

      阻塞的调用,如:网络操作。

      阻塞,与非阻塞的区分,是在于哪里?

    1. 模型替代,用硬纸片制作模型,来代替使用钢管等材料的实物。

    Tags

    Annotators