标签： side

发布于

什么是 ‘Memory Side-loading’？如何在加载 Chain 时手动注入数据库中的历史会话上下文？

欢迎来到本次技术讲座。今天，我们将深入探讨在构建基于大型语言模型（LLM）的应用程序时一个至关重要但常常被忽视的方面：如何有效管理和注入历史会话上下文。具体来说，我们将聚焦于“Memory Side-loading”这一概念，以及如何在加载Chain时，从持久化存储（如数据库）中手动注入这些历史会话数据。 随着LLM在各种应用中扮演越来越重要的角色，从智能客服到个性化助手，我们很快发现，仅仅进行单次、无上下文的交互是远远不够的。一个真正有用的AI助手必须能够记住之前的对话，理解上下文，并在此基础上继续交流。这就引出了“记忆”或“状态管理”的核心需求。 1. LLM Chain与内存：构建有状态AI应用的基础 在讨论Memory Side-loading之前，我们首先需要理解LLM Chain以及内存（Memory）在其中的作用。 1.1. 什么是LLM Chains？ LLM Chains是连接不同组件（如LLM、Prompt Template、Memory、Output Parser等）的序列或图结构，旨在构建更复杂、更强大的LLM应用程序。它们将多个操作串联起来，使LLM能够执行多 …

继续阅读“什么是 ‘Memory Side-loading’？如何在加载 Chain 时手动注入数据库中的历史会话上下文？”

发布于

解析 ‘Receive Side Scaling’ (RSS)：网卡如何通过硬件哈希将不同流量分发到多个 CPU 核心处理？

各位同仁，下午好！ 今天，我们将深入探讨一个在高性能网络领域至关重要的技术：Receive Side Scaling (RSS)。随着现代服务器CPU核心数量的爆炸式增长，以及网络带宽从千兆向万兆、乃至更高速率的迈进，如何有效地利用多核CPU来处理海量的入站网络流量，成为了一个必须解决的问题。传统的网络流量处理模式，往往会使单个CPU核心成为瓶颈，即便其他核心处于空闲状态，也无法分担这份沉重的工作。RSS正是为了解决这一痛点而生。 我将从一个编程专家的视角，为大家剖析RSS的原理、机制、配置与优化，并穿插代码示例，力求逻辑严谨，深入浅出。 1. 网络流量处理的瓶颈：为何需要RSS？ 让我们从一个简单的场景开始。想象一台高性能服务器，配备了多达64个CPU核心，以及一张100Gbps的网卡。当大量数据包涌入时，网卡会通过中断通知CPU。在没有RSS的情况下，通常只有一个CPU核心（或者说，只有一个中断请求行，IRQ）负责处理来自网卡的所有入站流量中断。 这个“幸运”的CPU核心，需要完成以下一系列繁重的工作： 响应中断 (IRQ)：暂停当前任务，切换到中断处理程序。 DMA操作：将数据包 …

继续阅读“解析 ‘Receive Side Scaling’ (RSS)：网卡如何通过硬件哈希将不同流量分发到多个 CPU 核心处理？”

发布于

什么是 ‘Speculative Execution Side-Channel’？为什么 JS 必须限制 SharedArrayBuffer 的精度？

技术讲座：Speculative Execution Side-Channel 与 JS 对 SharedArrayBuffer 精度的限制 引言 在当今的计算机系统中，安全性是一个至关重要的议题。随着硬件和软件的快速发展，一些新的攻击手段和技术漏洞也应运而生。在本讲座中，我们将深入探讨“Speculative Execution Side-Channel”这一概念，并分析为什么 JavaScript（JS）必须限制 SharedArrayBuffer 的精度。 第一部分：Speculative Execution Side-Channel 1.1 什么是 Speculative Execution？ Speculative Execution（推测执行）是现代处理器为了提高性能而采用的一种技术。在执行程序时，处理器会尝试预测程序的下一步操作，并提前执行这些操作。如果预测正确，那么处理器就可以更快地完成这些操作，从而提高整体的性能。 1.2 Speculative Execution Side-Channel 攻击 然而，Speculative Execution 也带来了一些安全隐患 …

继续阅读“什么是 ‘Speculative Execution Side-Channel’？为什么 JS 必须限制 SharedArrayBuffer 的精度？”

发布于

什么是‘死代码消除’（DCE）的深度陷阱？为什么副作用（Side Effects）检查总是失败？

技术讲座：死代码消除（DCE）的深度陷阱与副作用检查失败的原因 引言 死代码消除（Dead Code Elimination，简称DCE）是编译优化中的一个重要步骤，旨在删除程序中不会执行的代码。然而，在实际应用中，DCE常常陷入深度陷阱，导致优化失败。本文将深入探讨DCE的深度陷阱以及副作用检查失败的原因，并结合实际代码示例进行分析。 死代码消除（DCE）简介 在编译优化过程中，DCE的目标是删除那些在程序执行过程中永远不会被调用的代码。这有助于减少程序的大小，提高执行效率。DCE的实现通常依赖于静态分析，即在不运行程序的情况下分析代码。 DCE的深度陷阱 1. 间接调用 在某些情况下，即使代码块本身没有直接调用，但它可能通过间接调用被触发。例如，以下代码中，function1 虽然没有被直接调用，但通过间接调用被执行。 function function1() { // … } function function2() { function1(); } class MyClass { private $flag = false; public function method() …

继续阅读“什么是‘死代码消除’（DCE）的深度陷阱？为什么副作用（Side Effects）检查总是失败？”

发布于

Tree Shaking 深度依赖分析：副作用（Side Effects）标记与 DCE（死代码消除）的算法边界

Tree Shaking 深度依赖分析：副作用（Side Effects）标记与 DCE（死代码消除）的算法边界 各位开发者朋友，大家好！今天我们来深入探讨一个在现代前端构建工具中极其关键但又常被误解的技术主题——Tree Shaking 的深度依赖分析机制。我们将聚焦于两个核心概念： 副作用（Side Effects）标记如何影响模块的可摇动性； 死代码消除（DCE）算法的边界在哪里？为什么有时即使你没用到某个函数或变量，它仍然不会被移除？ 这篇文章将从原理讲起，结合真实代码示例、编译器行为和工程实践，带你理解 Tree Shaking 的底层逻辑，并揭示哪些场景下它会失效。 一、什么是 Tree Shaking？ Tree Shaking 是一种静态优化技术，最早由 Rollup 引入并推广开来，其目标是移除未被使用的代码，从而减少最终打包体积。 📌 注意：Tree Shaking 不是运行时动态删除代码，而是基于静态分析的结果，在构建阶段进行“剪枝”。 举个例子： // utils.js export const helper = () => console.log(“he …

继续阅读“Tree Shaking 深度依赖分析：副作用（Side Effects）标记与 DCE（死代码消除）的算法边界”

发布于

CSS 侧信道攻击（Side-Channel）：利用 `:visited` 伪类进行历史记录嗅探的浏览器防御机制

CSS 侧信道攻击与 :visited 伪类：历史记录嗅探与浏览器防御 大家好，今天我们来深入探讨一个安全领域中比较有趣但也相当重要的课题：CSS 侧信道攻击，特别是利用 :visited 伪类进行历史记录嗅探，以及浏览器针对此类攻击所采取的防御机制。 侧信道攻击：简介与概念 首先，什么是侧信道攻击？与传统的直接攻击（例如缓冲区溢出、SQL 注入等）不同，侧信道攻击并不直接利用目标系统的漏洞，而是通过观察和分析目标系统运行时的物理或逻辑特征来获取敏感信息。这些特征可能包括： 时间信息： 执行特定操作所花费的时间。 功耗： 设备在执行操作时的功耗变化。 电磁辐射： 设备在执行操作时产生的电磁辐射。 声音： 设备在执行操作时发出的声音。 缓存行为： 处理器缓存的命中率和未命中率。 网络流量： 网络数据包的大小和时间。 通过对这些侧信道的分析，攻击者可以推断出目标系统的内部状态，例如密钥、算法、数据等等。侧信道攻击的威胁在于，即使系统本身没有明显的漏洞，攻击者仍然可能通过间接的方式获取敏感信息。 :visited 伪类：历史记录的窗口 现在，让我们聚焦于 CSS 的 :visited 伪类。 …

继续阅读“CSS 侧信道攻击（Side-Channel）：利用 `:visited` 伪类进行历史记录嗅探的浏览器防御机制”

发布于

Vue组件中副作用（Side-Effect）的纯度分析：形式化保证组件渲染的幂等性与可预测性

好的，没问题。以下是一篇关于Vue组件中副作用纯度分析的文章，目标是形式化保证组件渲染的幂等性和可预测性： Vue组件中副作用的纯度分析：形式化保证组件渲染的幂等性与可预测性 大家好！今天我们来深入探讨Vue组件中副作用的纯度分析，以及如何通过形式化的方法来确保组件渲染的幂等性和可预测性。这对于构建健壮、可维护的大型Vue应用至关重要。 什么是副作用？ 在函数式编程中，一个函数被认为是纯函数，如果它满足以下两个条件： 相同的输入始终产生相同的输出。 没有副作用。 副作用是指函数对其外部状态产生的任何可观察到的改变。这包括但不限于： 修改全局变量或静态变量。 修改传入的参数（除非该参数是组件内部状态）。 执行I/O操作（例如，网络请求、文件读写、控制台输出）。 触发DOM更新（在Vue组件中，这通常是预期的行为，但我们需要仔细控制它）。 调用其他具有副作用的函数。 在Vue组件中，副作用可能出现在以下几个地方： data() 选项： 虽然 data() 主要用于定义组件的内部状态，但在某些情况下，你可能会在其中执行一些初始化操作，这些操作可能会产生副作用。 computed 属性： co …

继续阅读“Vue组件中副作用（Side-Effect）的纯度分析：形式化保证组件渲染的幂等性与可预测性”

发布于

Vue编译器如何形式化保证无副作用（Side-Effect Free）：静态分析与AST标记

Vue编译器如何形式化保证无副作用：静态分析与AST标记 大家好，今天我们来深入探讨Vue编译器如何形式化地保证模板表达式的无副作用。这是一个非常重要的话题，因为它直接关系到Vue组件的性能、可预测性以及开发体验。我们将从副作用的概念入手，然后逐步分析Vue编译器如何通过静态分析和AST标记来实现这一目标。 什么是副作用？ 在编程中，副作用是指一个函数或表达式在执行过程中，除了返回值之外，还对程序的状态产生了可观察的变化。这些变化可能包括： 修改全局变量或静态变量 修改传入的参数（如果参数是引用类型） 执行I/O操作（如读写文件、网络请求） 触发事件 改变DOM结构（在前端上下文中） 无副作用的函数或表达式，也被称为纯函数，其返回值仅取决于输入参数，并且不会对程序的状态产生任何影响。纯函数具有以下优点： 可预测性： 给定相同的输入，总是返回相同的输出。 可测试性： 可以很容易地进行单元测试，因为不需要考虑外部状态的影响。 可缓存性： 可以安全地缓存函数的结果，提高性能。 易于推理： 代码更容易理解和调试，因为函数的行为是独立的。 在Vue中，模板表达式中的副作用可能会导致意想不到的行为 …

继续阅读“Vue编译器如何形式化保证无副作用（Side-Effect Free）：静态分析与AST标记”

发布于

Vue编译器如何形式化保证无副作用（Side-Effect Free）：静态分析与AST标记

Vue 编译器如何形式化保证无副作用：静态分析与AST 标记 各位同学，大家好。今天我们来深入探讨一个 Vue 编译器中非常重要的主题：如何形式化地保证模板的无副作用（Side-Effect Free）。这是一个复杂但至关重要的课题，它直接关系到 Vue 应用的性能和可预测性。 1. 什么是副作用？为什么无副作用很重要？ 在计算机科学中，副作用是指一个函数或表达式除了返回值之外，还修改了程序的状态。这些状态包括但不限于： 全局变量的值 DOM 的状态 外部存储（例如文件） 在 Vue 的上下文中，副作用通常指的是模板表达式修改了组件的状态或引发了不期望的 DOM 操作。 为什么无副作用很重要？ 性能优化： 无副作用的模板更容易进行静态分析和优化。编译器可以安全地缓存表达式的结果，避免重复计算。 可预测性： 无副作用的模板使得组件的行为更加可预测。开发者可以更容易地理解和调试代码。 避免竞态条件： 在复杂的组件交互中，副作用可能导致竞态条件，使得组件的行为难以预测。 SSR 兼容性： 无副作用的模板更易于在服务器端渲染，因为可以避免在服务器端修改 DOM。 2. Vue 编译器中的静态分 …

继续阅读“Vue编译器如何形式化保证无副作用（Side-Effect Free）：静态分析与AST标记”

发布于

Vue编译器如何形式化保证无副作用（Side-Effect Free）：静态分析与AST标记

Vue 编译器如何形式化保证无副作用：静态分析与AST 标记 大家好，今天我们来深入探讨 Vue 编译器如何形式化地保证组件渲染函数的无副作用（Side-Effect Free）。这是一个至关重要的话题，因为它直接关系到 Vue 组件的可预测性、性能优化以及依赖追踪的准确性。 1. 副作用的定义与影响 首先，我们需要明确什么是副作用。在函数式编程的语境下，一个函数的副作用指的是该函数除了返回值之外，还对外部状态产生了任何可观察的变化。这些变化可能包括： 修改全局变量或外部对象。 进行 I/O 操作（如网络请求、文件读写）。 改变 DOM 结构（在渲染函数的上下文中）。 调用带有副作用的其他函数。 Vue 组件的渲染函数理论上应该是一个纯函数。纯函数具有两个关键特性： 确定性： 对于相同的输入，总是产生相同的输出。 无副作用： 不改变外部状态。 如果 Vue 组件的渲染函数存在副作用，会导致以下问题： 不可预测性： 组件的行为变得难以预测，难以调试和测试。 性能问题： 副作用可能触发不必要的更新，降低渲染性能。 依赖追踪错误： Vue 的响应式系统依赖于精确的依赖追踪。副作用可能导致依赖 …

继续阅读“Vue编译器如何形式化保证无副作用（Side-Effect Free）：静态分析与AST标记”