Вычислите энтропию Шеннона для распределения p = [0.5, 0.25, 0.125, 0.125], объясните смысл результата для предельного сжатия без потерь и для построения кодов переменной длины, и обсудите, как корреляции между символами (марковские зависимости) влияют на практическую эффективность компрессии