跳到主内容

香农熵计算器

数学计算器

H=−Σp·log₂p · 信息量/不确定性 · 分布熵

答案速览

香农熵计算器——H=−Σp·log₂p · 信息量/不确定性 · 分布熵。香农熵：H=−Σpᵢ·log₂pᵢ（bits），度量分布的不确定性：均匀分布最大（n 个等概率事件 H=log₂n），确定事件为 0。例：p=(0.5, 0.25, 0.25) → H=0.5×1+0.25×2+0.25×2=1.500 bits。应用：决策树特征选择（信息增益）、密码学随机性评估、DNA 序列复杂度、数据压缩极限（哈夫曼编码下限）。

计算步骤

  1. 1H=−Σpᵢ·log₂pᵢ，单位 bit
  2. 2输入概率分布（逗号/空格分隔，和≈1）
  3. 3均匀分布熵最大 H=log₂n；确定事件熵=0
  4. 40·log0 规定为 0（不贡献熵）

概率分布

香农熵1.500bits
同长度均匀分布熵：1.585 bits
概率和：1.000
熵是对「平均不确定度/平均信息量」的度量：掷硬币 1 bit，掷骰子约 2.585 bits，抛 32 面骰 5 bits。信息增益=划分前熵−加权子集熵，是决策树选特征的准则。熵也给出无损压缩的理论下限——任何编码平均每符号至少需要 H bits，哈夫曼/算术编码逼近此值。概率和偏离 1 超过 5% 会拒绝计算。

这个工具对你有帮助吗？

怎么用

  1. 输入数值或表达式：在香农熵计算器中直接输入，支持键盘操作与连续运算。
  2. 实时出结果：输入即算，无需点击任何按钮。
  3. 看分步过程：结果区附完整计算步骤与公式代入，便于核对与教学演示。
  4. 复制或重算：结果一键复制；修改任意输入即刻重新计算。

核心要点

  • 香农熵计算器是在线分类下的实用工具，打开即用。
  • 支持实时计算，修改输入即刻更新结果。
  • 所有计算在浏览器本地完成，数据不上传服务器，保护隐私。

原理与公式

香农熵：H=−Σpᵢ·log₂pᵢ（bits），度量分布的不确定性：均匀分布最大（n 个等概率事件 H=log₂n），确定事件为 0。例：p=(0.5, 0.25, 0.25) → H=0.5×1+0.25×2+0.25×2=1.500 bits。应用：决策树特征选择（信息增益）、密码学随机性评估、DNA 序列复杂度、数据压缩极限（哈夫曼编码下限）。

常见问题

香农熵计算器怎么用？
打开页面后在输入框中填入参数即可自动计算。H=−Σp·log₂p · 信息量/不确定性 · 分布熵。修改任意输入结果自动更新。
计算结果准确吗？
是的。本工具使用精确算法，避免常见浮点误差，结果经过有效性校验。
免费使用吗？需要注册吗？
完全免费，打开网页即用，无需注册、登录或下载任何软件。
支持手机使用吗？
支持。页面采用响应式设计，手机、平板、电脑均可正常使用。
和手机自带的计算器有什么区别？
本工具提供更详细的计算过程和公式说明，支持更多参数选项，手机自带工具通常不具备这些。
结果可以复制吗？
可以。点击结果旁的复制按钮即可复制到剪贴板。

相关工具

相关指南

来源与更新

数学领域的标准计算公式。所有计算逻辑经过验证。最近更新：2025-07

最近更新：

本页公式与内容经一键算团队复核，仅供学习参考，实际业务请以官方口径为准。

内容由一键算编辑团队维护并定期复核，更新与审核流程见编辑规范。

引用本页：一键算. 香农熵计算器[EB/OL]. https://www.yijiansuan.com/c/math/shannon-entropy

本工具提供的结果仅供参考，不构成任何专业建议，请以官方核算为准。