Rozumowanie Shannona można by przedstawić w uproszczeniu tak: mamy pewne źródło wiadomości, które je wysyła, i obiekt przeznaczenia wiadomości, do którego one docierają. Drogą, którą wiadomości wędrują, zajmiemy się nieco później. Wiadomość nie jest z góry znana obiektowi, dla którego jest ona przeznaczona; aby ją zdobyć, mógłby on bawić się na przykład w znaną grę w „20 pytań”. Każda kolejna odpowiedź postaci „tak” lub „nie.” zmniejszałaby niewiedzę o tym, jaka to jest wiadomość. Właśnie to zmniejszenie nie­wiedzy o jakiejś tam, a więc przypadkowej, losowej wiadomości jest informacją w tym znaczeniu, jakie jej nadał Shannon.