Математический форум Math Help Planet
http://mathhelpplanet.com/

Задача по Теория информации и кодирования
http://mathhelpplanet.com/viewtopic.php?f=44&t=67357
Страница 1 из 2

Автор:  stalker_classic [ 26 ноя 2019, 19:02 ]
Заголовок сообщения:  Задача по Теория информации и кодирования

Помогите пожалуйста решить задачу. Никаких примеров в интернете найти не смог :( Буду очень Вам благодарен!

Урна содержит 5 черных и 10 белых шаров. Случайно, без возвращения из урны выбираются 3 шара и результат передается по системе связи. Предположим, что шары выбраны в следующей последовательности: черный, черный, белый.
а. Какое общее количество информации нужно передать, если интересоваться только количеством белых и черных шаров?
б. Какое общее количество информации нужно передать, если интересен и порядок, в котором выбраны шары?

Автор:  Andy [ 27 ноя 2019, 09:36 ]
Заголовок сообщения:  Re: Задача по Теория информации и кодирования

stalker_classic
По-моему, задание можно выполнить следующим образом, используя формулу Шеннона.

А. Вероятность вынуть два чёрных и один белый шар составляет [math]p=\frac{C_{5}^{2} \cdot C_{10}^{1}}{C_{15}^{3}}=\frac{20}{91}.[/math] Количество информации равно [math]I=-p \cdot \log_{2}{p}=-\frac{20}{91} \cdot \log_{2}{\frac{20}{91}}=\frac{20}{91} \cdot \log_{2}{4,55} \approx 0,480[/math] (бит).

Б. Вероятность вынуть первым чёрный шар составляет [math]p_1=\frac{5}{15}=\frac{1}{3}.[/math] Количество информации об этом событии равно [math]I_1=-p_1 \cdot \log_{2}{p_1}=-\frac{1}{3} \cdot \log_{2}{\frac{1}{3}}=\frac{1}{3} \cdot \log_{2}{3} \approx 0,5283[/math] (бит).

Вероятность вынуть вторым чёрный шар составляет [math]p_2=\frac{4}{14}=\frac{2}{7}.[/math] Количество информации об этом событии равно [math]I_2=-p_2 \cdot \log_{2}{p_2}=-\frac{2}{7} \cdot \log_{2}{\frac{2}{7}}=\frac{2}{7} \cdot \log_{2}{3,5} \approx 0,5164[/math] (бит).

Вероятность вынуть третьим белый шар составляет [math]p_3=\frac{10}{13}.[/math] Количество информации об этом событии равно [math]I_3=-p_3 \cdot \log_{2}{p_3}=-\frac{10}{13} \cdot \log_{2}{\frac{10}{13}}=\frac{10}{13} \cdot \log_{2}{1,3} \approx 0,2912[/math] (бит).

Общее количество информации, которое нужно передать, равно [math]I=I_1+I_2+I_3 \approx 0,5283+0,5164+0,2912 \approx 1,336[/math] (бит).

Литература
Акулов О. А., Медведев Н. В. Информатика: базовый курс. -- М.: Омега-Л, 2008. -- 574 с.

Автор:  swan [ 27 ноя 2019, 10:42 ]
Заголовок сообщения:  Re: Задача по Теория информации и кодирования

Andy, вы путаете информацию, получаемую при проведении опыта, с информацией, которая определяет его результаты.
В данном случае, если интересоваться только количеством шаров, то возможно всего 4 исхода и это кодируется двумя битами.
Во втором случае, естественно 3 бита

Автор:  Andy [ 27 ноя 2019, 10:44 ]
Заголовок сообщения:  Re: Задача по Теория информации и кодирования

swan
Я решил задачу в меру своего понимания. Может быть, и неправильно понял, что требуется в задании. :)

Автор:  Andy [ 27 ноя 2019, 11:16 ]
Заголовок сообщения:  Re: Задача по Теория информации и кодирования

swan
Сообщите, пожалуйста, как по-Вашему, для чего в условии задачи указаны количества шаров в урне?

Автор:  swan [ 27 ноя 2019, 11:27 ]
Заголовок сообщения:  Re: Задача по Теория информации и кодирования

Andy, я отвечаю на заданный вопрос.
stalker_classic писал(а):
Какое общее количество информации нужно передать


Когда вы сможете что-нибудь передать 0.48 битами, то можете считать свою трактовку верной

Автор:  Andy [ 27 ноя 2019, 11:34 ]
Заголовок сообщения:  Re: Задача по Теория информации и кодирования

swan
Я исходил из энтропийного подхода к мере количества информации, содержащегося в сообщении, и не оспариваю Ваше мнение о неправильности своего решения задачи.

Но всё же, как по-Вашему, зачем в условии задачи указаны количества шаров в урне?

Автор:  swan [ 27 ноя 2019, 11:52 ]
Заголовок сообщения:  Re: Задача по Теория информации и кодирования

Andy, мало ли что там может быть написано. Возможно перед вами лишь часть задачи

Автор:  Andy [ 27 ноя 2019, 11:57 ]
Заголовок сообщения:  Re: Задача по Теория информации и кодирования

swan
Это не часть задачи, а задача целиком. Я проверил в Интернете.

Впрочем, в распоряжении автора вопроса есть решение задачи, предложенное мной, и есть Ваше сообщение. Уже с этим он может идти к преподавателю... :)

Автор:  swan [ 27 ноя 2019, 14:07 ]
Заголовок сообщения:  Re: Задача по Теория информации и кодирования

Andy писал(а):
swan
Это не часть задачи, а задача целиком. Я проверил в Интернете.

Хм. Стало интересно и тоже пошел искать...
Ну что могу сказать? Вы, Andy, очень невнимательны
С другой стороны, подозреваю, что решение имелось в виду Ваше. Здесь видимо просто переводчик очень коряво сработал.

Страница 1 из 2 Часовой пояс: UTC + 3 часа [ Летнее время ]
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group
http://www.phpbb.com/