Czytelnik, który zetknął się już z dwójkowym syste­mem liczenia, zauważy zapewne, że jest to właśnie zapisana w tym systemie liczba dziesiętna 10: licząc od prawej strony mamy „zero jedy­nek” + „jedna dwójka” + „zero czwórek” + „jedna ósemka”. Można to zwięźlej zapisać jako:0-2°+1 -2¹ +0*2²+1 -2³. W każdym z tych etapów mamy wiadomość o tym, która z dwóch możliwości występuje; i w tej właśnie wiadomości zawarta ilość infor­macji przyjęta została za jednostkę i nazwana bitem (od słów ang. binary digit — liczba systemu dwójkowego). Dla ustalenia właściwego tekstu potrzebne nam więc były cztery bity informacji; gdyby możliwości było więcej, liczba bitów informacji dla całkowitego rozproszenia nie­wiedzy o wybranym tekście byłaby oczywiście większa.