A Teoria da Informação é um campo fundamental que combina conceitos de matemática e computação para estudar a transmissão, compressão e processamento de dados. Qual das seguintes afirmativas sobre a Teoria da Informação é a mais certa?