Услуги
Заказы
Эксперты
Магазин
Портфолио
Журнал
Справочник
FAQ
Контакты
Услуги
Заказы
Эксперты
Магазин
Портфолио
Журнал
Справочник
Вопросы
FAQ
Контакты
Ничего не найдено
Авторизация
Ничего не найдено
Найти
Дан набор символов с частотами: {A:0.5, B:0.25, C:0.125, D:0.125} — вычислите энтропию источника, предложите эффективное кодирование (например, код Хаффмана) и оцените среднюю длину кода относительно энтропии
Предыдущий
вопрос
Следующий
вопрос
Главная
Вопросы и ответы
Вопросы и ответы по информатике
Дан набор символов с...
Ответить
Получить ответ за 25 ₽
Задать свой вопрос
eva
17 Ноя в 10:02
2
+1
0
Ответы
1
Helper
Helper
Энтропия источника:
H=−∑pilog2pi=−(0.5log20.5+0.25log20.25+0.125log20.125+0.125log20.125) H=-\sum p_i\log_2 p_i=-\big(0.5\log_2 0.5+0.25\log_2 0.25+0.125\log_2 0.125+0.125\log_2 0.125\big)
H
=
−
∑
p
i
lo
g
2
p
i
=
−
(
0.5
lo
g
2
0.5
+
0.25
lo
g
2
0.25
+
0.125
lo
g
2
0.125
+
0.125
lo
g
2
0.125
)
H=−(0.5⋅(−1)+0.25⋅(−2)+0.125⋅(−3)+0.125⋅(−3))=0.5+0.5+0.375+0.375=1.75 бит/символ H=-(0.5\cdot(-1)+0.25\cdot(-2)+0.125\cdot(-3)+0.125\cdot(-3))=0.5+0.5+0.375+0.375=1.75\ \text{бит/символ}
H
=
−
(
0.5
⋅
(
−
1
)
+
0.25
⋅
(
−
2
)
+
0.125
⋅
(
−
3
)
+
0.125
⋅
(
−
3
))
=
0.5
+
0.5
+
0.375
+
0.375
=
1.75
бит
/
символ
Один из оптимальных кодов Хаффмана (строится: объединяем
CC
C
и
DD
D
в узел
0.250.25
0.25
, затем объединяем с
BB
B
, затем с
AA
A
):
A:0,B:10,C:110,D:111 A:0,\quad B:10,\quad C:110,\quad D:111
A
:
0
,
B
:
10
,
C
:
110
,
D
:
111
Длины кодовых слов:
l(A)=1, l(B)=2, l(C)=l(D)=3l(A)=1,\; l(B)=2,\; l(C)=l(D)=3
l
(
A
)
=
1
,
l
(
B
)
=
2
,
l
(
C
)
=
l
(
D
)
=
3
.
Средняя длина кода:
L=∑pili=0.5⋅1+0.25⋅2+0.125⋅3+0.125⋅3=1.75 бит/символ L=\sum p_i l_i=0.5\cdot1+0.25\cdot2+0.125\cdot3+0.125\cdot3=1.75\ \text{бит/символ}
L
=
∑
p
i
l
i
=
0.5
⋅
1
+
0.25
⋅
2
+
0.125
⋅
3
+
0.125
⋅
3
=
1.75
бит
/
символ
Оценка относительно энтропии:
η=HL=1.751.75=1 (100%),R=L−H=0 бит \eta=\frac{H}{L}=\frac{1.75}{1.75}=1\ (100\%),\qquad R=L-H=0\ \text{бит}
η
=
L
H
=
1.75
1.75
=
1
(
100%
)
,
R
=
L
−
H
=
0
бит
(такая точность возможна, поскольку вероятности диадичны, т.е. кратны степеням
2−k2^{-k}
2
−
k
).
Ответить
17 Ноя в 10:51
Спасибо
Похожие вопросы
Придумайте эксперимент для оценки интерпретируемости модели машинного обучения в критически важной области…
eva
Информатика
18 Ноя
1
Ответить
Сравните методы сжатия без потерь (Huffman, LZW) и с потерями (JPEG, MP3) с точки зрения теории информации:…
eva
Информатика
18 Ноя
1
Ответить
В проекте многопоточного приложения выявляется гонка данных при доступе к общему ресурсу: представьте пример…
eva
Информатика
18 Ноя
1
Ответить
Показать ещё
Другие вопросы
eva
Показать ещё
Не можешь разобраться в этой теме?
Обратись за помощью к экспертам
Тип работы
Задача
Контрольная
Курсовая
Лабораторная
Дипломная
Реферат
Практика
Тест
Чертеж
Сочинение
Эссе
Перевод
Диссертация
Бизнес-план
Презентация
Билеты
Статья
Доклад
Онлайн-помощь
Рецензия
Монография
ВКР
РГР
Маркетинговое исследование
Автореферат
Аннотация
НИР
Докторская диссертация
Магистерская диссертация
Кандидатская диссертация
ВАК
Scopus
РИНЦ
Шпаргалка
Дистанционная задача
Творческая работа
Не найдено
Тип работы
Задача
Контрольная
Курсовая
Лабораторная
Дипломная
Реферат
Практика
Тест
Чертеж
Сочинение
Эссе
Перевод
Диссертация
Бизнес-план
Презентация
Билеты
Статья
Доклад
Онлайн-помощь
Рецензия
Монография
ВКР
РГР
Маркетинговое исследование
Автореферат
Аннотация
НИР
Докторская диссертация
Магистерская диссертация
Кандидатская диссертация
ВАК
Scopus
РИНЦ
Шпаргалка
Дистанционная задача
Творческая работа
Разместить заказ
Гарантированные бесплатные доработки в течение 1 года
Быстрое выполнение от 2 часов
Проверка работы на плагиат
Поможем написать учебную работу
Тип работы
Задача
Контрольная работа
Курсовая работа
Лабораторная работа
Дипломная работа
Реферат
Отчет по практике
Тест
Чертеж
Сочинение
Эссе
Перевод
Диссертация
Бизнес-план
Презентация
Ответы на билеты
Статья
Доклад
Онлайн-помощь
Рецензия
Монография
ВКР
РГР
Маркетинговое исследование
Автореферат
Аннотация
НИР
Докторская диссертация
Магистерская диссертация
Кандидатская диссертация
ВАК
Scopus
РИНЦ
Шпаргалка
Дистанционная задача
Творческая работа
Не найдено
Задача
Контрольная работа
Курсовая работа
Лабораторная работа
Дипломная работа
Реферат
Отчет по практике
Тест
Чертеж
Сочинение
Эссе
Перевод
Диссертация
Бизнес-план
Презентация
Ответы на билеты
Статья
Доклад
Онлайн-помощь
Рецензия
Монография
ВКР
РГР
Маркетинговое исследование
Автореферат
Аннотация
НИР
Докторская диссертация
Магистерская диссертация
Кандидатская диссертация
ВАК
Scopus
РИНЦ
Шпаргалка
Дистанционная задача
Творческая работа
Заказать
Нужен развёрнутый ответ на вопрос?
-10%
По промокоду STUD10
Получить помощь
Предметы
Математика
Физика
Литература
Геометрия
История
Русский язык
Химия
Английский язык
Археология
Архитектура
Астрономия
Базы данных
Биология
Бухучет
География
Геодезия
Гидравлика
Гостиничное дело
Дизайн
Естествознание
Информатика
Краеведение
Культурология
Маркетинг
Менеджмент
Металлургия
Научпоп
Немецкий язык
ОБЖ
Обществознание
Педагогика
Право
Программирование
Психология
Радиофизика
Социология
Физкультура
Философия
Французский язык
Черчение
Экономика
Показать ещё 34
Ответы экспертов
Показать ещё
Новые вопросы
Отвечай на вопросы, зарабатывай баллы и трать их на призы.
Подробнее
Прямой эфир
H=−∑pilog2pi=−(0.5log20.5+0.25log20.25+0.125log20.125+0.125log20.125) H=-\sum p_i\log_2 p_i=-\big(0.5\log_2 0.5+0.25\log_2 0.25+0.125\log_2 0.125+0.125\log_2 0.125\big)
H=−∑pi log2 pi =−(0.5log2 0.5+0.25log2 0.25+0.125log2 0.125+0.125log2 0.125) H=−(0.5⋅(−1)+0.25⋅(−2)+0.125⋅(−3)+0.125⋅(−3))=0.5+0.5+0.375+0.375=1.75 бит/символ H=-(0.5\cdot(-1)+0.25\cdot(-2)+0.125\cdot(-3)+0.125\cdot(-3))=0.5+0.5+0.375+0.375=1.75\ \text{бит/символ}
H=−(0.5⋅(−1)+0.25⋅(−2)+0.125⋅(−3)+0.125⋅(−3))=0.5+0.5+0.375+0.375=1.75 бит/символ
Один из оптимальных кодов Хаффмана (строится: объединяем CCC и DDD в узел 0.250.250.25, затем объединяем с BBB, затем с AAA):
A:0,B:10,C:110,D:111 A:0,\quad B:10,\quad C:110,\quad D:111
A:0,B:10,C:110,D:111 Длины кодовых слов: l(A)=1, l(B)=2, l(C)=l(D)=3l(A)=1,\; l(B)=2,\; l(C)=l(D)=3l(A)=1,l(B)=2,l(C)=l(D)=3.
Средняя длина кода:
L=∑pili=0.5⋅1+0.25⋅2+0.125⋅3+0.125⋅3=1.75 бит/символ L=\sum p_i l_i=0.5\cdot1+0.25\cdot2+0.125\cdot3+0.125\cdot3=1.75\ \text{бит/символ}
L=∑pi li =0.5⋅1+0.25⋅2+0.125⋅3+0.125⋅3=1.75 бит/символ
Оценка относительно энтропии:
η=HL=1.751.75=1 (100%),R=L−H=0 бит \eta=\frac{H}{L}=\frac{1.75}{1.75}=1\ (100\%),\qquad R=L-H=0\ \text{бит}
η=LH =1.751.75 =1 (100%),R=L−H=0 бит (такая точность возможна, поскольку вероятности диадичны, т.е. кратны степеням 2−k2^{-k}2−k).