You know, entropy is associated thermodynamically, in systems involving heat, with disorder. And in an analogous way, information is associated with disorder, which seems paradoxical. But when you think about it, a bit of information is a surprise. If you already knew what the message contained, there would be no new information in it.

Sie wissen, Entropie ist thermodynamisch verbunden, in Systemen mit Wärme und Unordnung. In analoger Weise ist Information mit einer Unordnung verbunden, die paradox erscheint. Aber wenn Sie darüber nachdenken, ist ein bisschen Information eine Überraschung. Wenn Sie bereits wüssten, was die Nachricht enthält, werden darin keine neuen Informationen angezeigt.