标签： safety

发布于

深入 Raft 协议：Leader 选举、日志复制与安全性（Safety）是如何通过任期（Term）强制对齐的？

深入 Raft 协议：Leader 选举、日志复制与安全性是如何通过任期（Term）强制对齐的？ 分布式系统中的共识（Consensus）是构建高可用、容错服务的基础。Raft 协议，作为 Paxos 协议的一种更易于理解的替代方案，通过其清晰的模块化设计和强一致性保证，受到了广泛的关注。Raft 将共识问题分解为三个子问题：Leader 选举、日志复制和安全性（Safety），并巧妙地引入了“任期”（Term）这一核心概念，如同一个系统级的逻辑时钟，强制性地对齐所有节点的状态，从而保障了整个协议的正确性。 今天，我们将深入探讨 Raft 协议的内部机制，重点剖析任期（Term）如何在 Leader 选举、日志复制以及最终的安全性保障中扮演其不可或缺的角色。我们将通过 Go 语言风格的伪代码，一步步揭示这些机制的实现细节。 1. 任期（Term）：Raft 协议的逻辑时钟 在 Raft 协议中，任期（Term）是一个单调递增的整数。它代表了时间的一个逻辑周期，Raft 集群中的每个节点都维护一个当前任期号。每次发生 Leader 选举时，新的任期就会开始，并且任期号会递增。任期是 Ra …

继续阅读“深入 Raft 协议：Leader 选举、日志复制与安全性（Safety）是如何通过任期（Term）强制对齐的？”

发布于

Safety Alignment的拒答率（Refusal Rate）：平衡安全性与有用性（Helpfulness）的边界

Safety Alignment 的拒答率：平衡安全性与有用性的边界 各位朋友，大家好。今天我们来探讨一个在大型语言模型（LLM）领域至关重要且极具挑战性的问题：Safety Alignment 的拒答率，以及如何平衡安全性与有用性之间的微妙关系。 随着 LLM 性能的飞速提升，它们在各个领域的应用也日益广泛。然而，与此同时，我们也必须正视 LLM 可能带来的安全风险，例如生成有害信息、传播虚假信息、甚至被用于恶意目的。Safety Alignment 的目标就是确保 LLM 在提供强大功能的同时，也能遵守道德规范、尊重社会价值观，并最大程度地降低潜在风险。 拒答率，作为 Safety Alignment 的一个重要指标，指的是 LLM 拒绝回答用户请求的比例。一个合理的拒答率能够在一定程度上保护用户和模型本身，但过高的拒答率则会严重损害 LLM 的可用性和实用性。因此，如何在安全性与有用性之间找到最佳平衡点，是当前 LLM 研究人员面临的关键挑战。 一、理解 Safety Alignment 与拒答率 Safety Alignment 的核心在于训练 LLM 识别并避免生成有害或不适 …

继续阅读“Safety Alignment的拒答率（Refusal Rate）：平衡安全性与有用性（Helpfulness）的边界”

发布于

分析 `WebAssembly` `Memory Safety` 和 `Sandbox Bypass` 的潜在漏洞。

WebAssembly 安全漫谈：内存安全与沙箱逃逸的那些事儿 大家好，我是你们今天的安全漫谈主讲人，咱们今天不搞虚的，直接上干货，聊聊 WebAssembly (Wasm) 的安全问题，特别是内存安全和沙箱逃逸。Wasm 号称安全，但安全不代表绝对安全，只要是代码，就可能存在漏洞。 1. Wasm 安全基石：内存安全模型 Wasm 的核心安全特性之一就是它的内存安全模型。想象一下，Wasm 程序的内存就像一个巨大的数组，Wasm 代码只能通过 load 和 store 指令来访问这个数组中的数据。这种方式避免了像 C/C++ 那样可以直接操作指针带来的风险。 1.1 线性内存（Linear Memory）： Wasm 的线性内存是一块连续的、可增长的内存区域。所有 Wasm 模块共享同一块线性内存，但它们只能通过模块内部定义的 memory 实例来访问。 1.2 内存访问控制： 边界检查（Bounds Checking）： 每次 load 和 store 指令执行时，Wasm 虚拟机都会检查访问的地址是否超出线性内存的边界。如果超出，就会抛出一个 trap (相当于异常)，阻止非法访 …

继续阅读“分析 `WebAssembly` `Memory Safety` 和 `Sandbox Bypass` 的潜在漏洞。”